用 Ollama（本地 AI）跑 shell 命令（2026）

Q: 做 shell,本地 AI 比托管助手好吗？

论隐私和离线,是。论原始能力和会话上下文,托管助手更强。按一切留本地是否比模型质量更重要来选。

用 Ollama 跑 shell 命令

Ollama 在你自己机器上本地跑大语言模型,这让它在"隐私或离线很重要"时做 shell 帮助很有吸引力:你可以问本地模型"……的命令是什么",而什么都不离开你的电脑。取舍是真实的——本地模型比托管的弱、你需要像样的硬件——但对敏感环境是个真选项。下面讲怎么把 Ollama 接进 shell 工作流,以及哪里托管助手仍更合理。

第 1 步——安装 Ollama 并拉一个模型

# 从 ollama.com 安装,然后:
ollama pull llama3.1        # 或一个偏编码的模型
ollama run llama3.1 "写一条找出大于 100MB 文件的命令"

这已经能当一个快速的"要一条命令"循环。日常 shell 使用,你会想把它接得更顺。

第 2 步——把它接进 shell

# 要一条命令,运行前先复核:
ollama run llama3.1 "只输出一条 shell 命令,用于:把 logs 文件夹压成 tarball"

很多人把它包进一行 shell 函数(在 .bashrc 里一个 ask 助手,把你的文字传给 ollama run),于是调用只是一个词。无论如何,运行前先读它打印的东西——本地模型比托管的更容易把参数编错。

为什么用本地 AI 做 shell

隐私。你的命令和上下文永不离开机器——对受监管或气隙环境有用。
离线。模型拉下来后,没网也能用。
无按次费用。硬件之后,推理免费。

诚实的局限

模型更弱。本地 8B 模型不如大型托管模型,尤其对刁钻或冷门命令。
硬件。像样的速度需要够力的 CPU/GPU 和内存。
默认无上下文感知。纯 Ollama 不知道你的 OS、磁盘、最近输出,除非你自己喂给它。

手机上:SSH 到 Ollama,或用托管助手

Ollama 跑在桌面或服务器上,不是你手机。两种和移动结合的方式:

SSH 到跑 Ollama 的盒子。从手机连那台机器、走 SSH 用你的 ask 助手——你的私有模型、远程到达。
用托管 AI 客户端。如果你想要移动终端里一个已经贴着服务器(OS、实时磁盘/内存、最近输出)的助手,那是 TermAI——它通过一个会剥离密钥的代理用托管模型,你也能关闭上下文。它是"方便 + 上下文"的选择;Ollama 是"一切留本地"的选择。