你们知道吗，我最近听说一个事，挺颠覆我认知的。大家不是一直觉得AI越大才越厉害嘛，但现在风向好像反过来了——那种小到能塞进手机、本地直接跑的模型，突然就这么能打了。

我听几个搞技术的朋友说，现在有些开源小模型，参数少得可怜，但回答质量已经能跟那些大块头掰手腕。最妙的是它不上网、不上传你的数据，隐私就安安静静待在你自己兜里。대박，这感觉像以前非得跑大图书馆查资料，现在口袋里揣了个博士。

我有个猜测啊，接下来大家卷的可能不是谁模型更大，而是谁能让模型又小又聪明。普通人要的也不是改变世界，就是问问菜谱、改改邮件、翻译个说明书。这种"够用就好"的需求，小模型反而更对路。你们最近有用过那种本地跑的AI吗，体验怎么样？

口袋博士听着玄乎，我前两天真下了个，问苏州哪火锅好吃它给我整出三家不存在的店哈哈

我也在用本地跑的 平时翻翻说明书改改邮件够使 不联网心里才踏实

我手机上装了本地跑的，翻译改邮件够用。就是离网偶尔卡，要等几秒才蹦字。

"口袋里揣个博士"这说法有意思，我倒是真试过拿本地小模型干翻译的活，翻出来的句子颠三倒四，比我自己刚学中文时写的还离谱。说真的隐私那点你戳到点上了，本地跑不联网，我改邮件草稿现在都交给它，总比塞进大模型的肚子放心。不过"又小又聪明"我持保留，小模型现在顶多够用，离口袋博士还远。你们谁用过翻译靠谱的本地模型，求个名字。

有个事不知道该不该说，这股"小模型翻身"的风前几个月就有苗头了。我听做算法的朋友提过一嘴，说某几个大厂内部早就在悄悄砍大模型预算、转方向，只是没对外讲。
好家伙
不过我对"本地跑就绝对隐私"有点存疑。模型是不上网了，可装它的那个APP本身收不收数据谁说得准。而且我怎么听说的版本不一样——那些"能跟大块头掰手腕"的demo，好像都是挑最好答的题来演示的？真拿去写代码理表格，怕还差口气。

嘿嘿但普通人确实不需要博士级AI，改邮件翻说明书够了，这个需求是真的。你们有谁真日常在手机上跑本地模型的吗，还是新鲜两天就吃灰了？

我手机里就跑着一个本地model 改邮件问菜谱够用了 比天天惦记那个大块头踏实 哈哈

前些天真在手机里塞了个本地模型，半夜烤串想查个腌料配方随手就问，还不用把数据甩出去，挺对路

我手机里还真装了个本地模型，问个菜谱改个邮件顺手得很，最爽就是数据全在兜里不往外跑。就是偶尔犯傻答非所问，凑合使呗

我手机里还真装了一个 平时问翻译改邮件挺香 不联网那股踏实劲儿是真舒服 不过说能跟大块头掰手腕我存疑哈哈 让它写长点就露怯了

楼主这대박用得我差点以为串台到韩娱版了（草）。不过说真的，你这个"口袋里揣个博士"的比喻我先收下了，前阵子我也手痒，再旧手机上塞了个本地模型试水，跑起来确实不上传任何东西，那种数据全在兜里的踏实感还挺玄学的舒服。

就是这"博士"脾气不太稳，问个菜谱能给你整出三步成诗，问点正经事反倒开始一本正经地胡说八道。我现在的心态就是把它当个嘴碎但贴心的邻居大妈，别真当博导使。你那几个搞技术的朋友用的啥模型，在手机上跑得动吗？

我手机里还真装了个 前两天问菜谱还挺灵 就是放多少调料它全瞎编 哈哈

我手机上还真装了个本地小模型，平时地铁里没信号就靠它改邮件翻说明书，离线跑那种安全感确实不一样，数据全在兜里谁也摸不着。楼主你说的卷又小又聪明这句我特别吃，本来大家都比谁块头大，现在突然换赛道比谁更能塞进兜里还机灵，这才有意思，竞争换个地方继续卷才带劲哈哈。不过想问问你，这些小模型真能跟大模型掰手腕还是只是特定任务凑合，我试下来写代码还是拉胯，日常碎碎念倒是够用。你那个대박用的韩文梗也挺逗，现在满屏混语种都成潮流了哈哈哈

我上周真装了一个，煮火锅查蘸料配方直接离线问，方便到离谱

揣个博士是挺酷 但我那千元机怕是只带得动个小学生 还得偏科数学的那种哈哈

我上月在淘汰的旧手机上塞了个本地模型，改邮件、翻说明书确实顺手，离线这点让人踏实。

隐私那句得说清楚：本地跑不等于完全不联网。不少App模型本体在手机里推理，但更新词库、账号同步还是会发请求，装之前看清它哪部分真在本地。

你说的"又小又聪明"方向我挺认同。普通人要的从来不是最强，是刚好顺手、别把我的事传出去。这种需求小模型反而更对路。