crypto

最近手痒想试试本地大模型，本来以为要配一堆环境，结果 Ollama 加 Open WebUI 一条命令就拉起来了。家里那台老笔记本带个独显，跑 7B 模型居然还挺顺。最让我舒服的是零云依赖，之前用那些订阅服务总担心哪天停更或者被墙，现在私密笔记、代码、聊天记录全留在自己机器上，踏实。速度肯定比不上大厂 API，但省下的订阅费加上那份不依赖别人的安全感，我觉得值。折腾时撞见 Open WebUI 文档有个小错，顺手提了人生第一个 PR，当天就被合并了。那一瞬间才真觉得"开源有益"不是口号

最近star暴涨的项目里，Ollama算是跑不掉了，连带Qwen、Llama这些开源基座的下载量也起飞。我跟着折腾了半个月，说下真实感受。

先说为什么折腾。一是隐私，平时让AI看的都是公司代码和日志，往云端一贴心里总有点虚。简单说本地跑就没这个顾虑，数据主权完全在自己手里，断网都能用。二是成本，按Token计费看着便宜，但高频调试场景下一天到晚地调，账单攒起来真不少。本地一次性吃点显存，后面边际成本基本为零，随便造。

再说体验。7B、14B级别的模型现在的能力比想象中强，写个正则、改个配置、补全单元测试完全够用。真正爽的是可以基于基座微调，喂自己项目的代码风格和文档，让它只懂你的技术栈，比通用模型那种四平八稳的回答对味多了。

当然也不是没缺点，吃硬件是真的，复杂推理还是干不过云端大模型。我的用法是本地处理日常杂活，真遇到硬骨头再上云端。

有在跑本地模型的吗，你们显存都多少，体验如何？

前阵子一直在用一个本地文件搜索的小工具，检索快、体积小，挺顺手。结果翻了下仓库，作者半年没动静了，issue 里有人提过增量索引的需求，一直没人理。我那个搜索目录天天在变，全量扫一遍越来越慢，实在忍不了。

本来想换个替代品，试了两个都不顺手。后来一想，源码又不是加密的，干脆自己上了。硬着头皮把索引那块逻辑读了一遍，补了个增量更新的分支，顺手把文档写错的两处和另两个小 bug 一起修了。第一次给这种小项目提 PR 还挺紧张的，结果作者两天后就合了，还回了个谢谢。

说真的，那一刻比下载任何新玩具都爽。开源这东西，收藏一堆 star 不如真去读一遍源码、补一个点。工具活过来，自己也涨了本事，这才是"开源有益"的意思。

前阵子看帖说开源连夜复刻天价AI，那股劲头我挺服的。其实不用等天价产品，相册就是现成例子。之前我用某家云盘，免费额度越砍越狠，看原图还得开会员，越想越不对劲，回忆凭什么捏在别人手里。

我前俩月把手机照片全迁到 Immich 了，开源自托管相册，自动备份、人脸识别、地图相册、语义搜索都齐全，日常跟 Google 相册差不离，够使。装起来也不算麻烦，Docker 一条命令就能起，折腾一下午就跑起来了。照片躺自家硬盘或 NAS 上，隐私自己说了算，没月费没广告，也不用怕哪天厂商关服，几年回忆打水漂。
其实
背后那帮人迭代飞快，用爱发电把付费墙直接拆了，跟复刻天价AI一脉相承，只是落到咱自家硬盘上。手里有闲置硬盘的，真可以折腾下。

Cline 这半年在 VS Code 插件里涨得有点离谱，star 已经破四万。它干的事说白了就是把"AI 软件工程师"搬到了本地，你给它开工程读写权限、绑自己的 API Key 和模型，它直接在终端里跑命令改代码。

大家愿意为这个买单，核心还是可控。闭源的那几家 AI 编程助手基本是订阅制，模型数据规则全捏在厂商手里。Cline 反过来，Key 是你自己的，代码不出本机，插件本身是 TS 写的，源码直接能审。怕隐私泄露又烦月度付费墙的人，吃这一套。

fork 文化更带劲。Roo Code 就是从 Cline 分出来的分支，界面交互调得比原版更贴真实开发场景，迭代快到离谱。开源这回不只是免费，连产品定义权都还给用的人了。看闭源订阅被开源镜像一个个追上，挺爽。

最近刷 GitHub trending，Zed 这窜升速度有点离谱。我起先当它是又一个"重写 VSCode"的玩具，试用一周，真香。

最狠的一招就是"快"。Rust 原生配 GPU 渲染，开巨文件、拉一串多光标，几乎零延迟。码字最怕"敲下去等半秒才反应"的割裂感，Zed 把这点时间还给你思考。这点看着不起眼，用久了才懂是多硬的护城河——多数人以为编辑器拼的是插件和功能堆叠，其实底层顺滑才是每天八小时都在付账的东西。

更意外的是它把实时协作做进内核。几个人同改一个文件，像在共享文档里结对，整套还能自托管，数据攥自己手里，对开源党太对味。

打法也聪明。没一上来铺插件市场，先磨透核心体验再放扩展。当年 Atom 就是"开放得彻底但慢得没法用"被时代丢下，Zed 明显吸取了教训。给那些船大难掉头的老牌编辑器，上了一课。

star 暴涨不全是跟风，产品力摆在这儿。