在喜马拉雅山用离线 AI 智能体写代码

📌 One-Sentence Summary
作者演示了在喜马拉雅山的一台笔记本电脑上运行完全离线的 AI 编程智能体(OpenCode 搭配 Ollama 和 Qwen3.5 9B),在没有网络连接的情况下成功修复了一个 bug。
📝 Summary
作者在喜马拉雅山麓工作,网络不稳定,于是测试编程智能体能否完全离线运行。他们使用 OpenCode(一个开源的终端智能体)连接本地运行 Qwen3.5 9B 模型的 Ollama,完整走了一遍配置流程:下载模型、将智能体配置为仅使用本地工具、在断网状态下验证连通性。智能体成功读取了一个有 bug 的支出计算脚本,提出了一行修复方案(将赋值改为累加),运行现有单元测试,并通过了全部五个测试用例——全程离线完成。文章还包含 Qwen 各尺寸模型在 LiveCodeBench、BFCL 上的基准对比、内存需求、OpenCode 在 Terminal-Bench 上的表现,以及两个额外练习(CSV 报告、日志分析器)。核心要点:提前准备好项目依赖和测试命令;保持任务小而自包含;审查 diff 并手动运行原始测试;监控内存压力。作者总结道,离线智能体编程对聚焦型任务可行,但在大型代码库或不熟悉的框架上尚未验证。
💡 Main Points
借助本地模型和智能体,完全可以实现全离线的 AI 编程工作流。
作者在同一台笔记本电脑上运行 Ollama 和 Qwen3.5 9B,并将 OpenCode 连接到本地 API(localhost),在断开 Wi-Fi 后完成了完整的代码读取、编辑和测试循环。外部请求失败时本地服务仍正常响应,证明该配置无需互联网即可工作。
准备工作至关重要:模型、依赖和测试命令必须在离线前就绪。
作者强调要在联网时下载模型、安装项目依赖并启动确切的命令配置。提供明确的测试命令(python3 -m unittest -v)可防止智能体默认使用 pytest 而浪费轮次。
Qwen3.5 9B 在编程能力、工具调用和资源需求之间为本地使用提供了良好平衡。
公开基准显示 Qwen3.5 9B 在 LiveCodeBench v6 上得分 65.6,在 BFCL-V4(函数调用)上得分 66.1,显著高于 4B 版本。模型下载大小为 6.6–7.6 GB,64k 上下文估计需要 12–16 GB 内存,在现代笔记本电脑上可行。
小而自包含、测试不变的任务是当前离线智能体的最佳适用场景。
一行 bug 修复易于检查和验证。作者指出,这并不能说明智能体在大型代码库或不熟悉框架上的表现。文中附带的 CSV 报告和日志分析器练习是评估更广泛能力的下一步。
人工监督仍然必不可少:审查 diff、手动运行原始测试并记录失败。
作者在批准前审查了提议的编辑,并在智能体完成后独立重新运行了单元测试。保持原始测试不变,可以可信地验证预期行为是否得到保留。
💬 Key Quotes
我可以用一个编程智能体读取本地文件、做出修改并运行检查,而无需互联网连接。
在停电或旅途中使用这套配置时,我会从小而自包含的任务开始。
项目和它所需的一切都必须在连接消失之前就放在笔记本电脑上。
📊 Article Meta
AI Screening: 89
Source: Latent.Space
Author: Rittika Jindal
Category: 人工智能
Language: 英文
Read Time: 9 min
Word Count: 2083
Tags:
AI 与智能应用 , 开放权重模型 , AI 编程 , 本地与端侧 AI , 开发者工具
实话,说的不明不白
写得挺用心的,支持一下。
刚好最近在找这方面的资料,太及时了。
作者写得真不错,学到了不少。
实测过类似工具,作者说的基本属实。
看标题就点进来了,内容果然没让人失望。
楼主辛苦了,内容很有参考价值。
这个比较实用,已转发给同事。
刚好最近在找这方面的资料,太及时了。
不错不错,已加入书签。
实话,说的不明不白
赞同,实践出真知。