ollama使用教程

Table of Contents

在 AI 浪潮中，很多顶级大模型都依赖云端 API，这不仅产生费用，还有隐私泄露的风险。Ollama 是一款极其出色的开源工具，它让在本地（macOS、Windows、Linux）运行大型语言模型（LLM）变得像安装普通软件一样简单。它是完全免费的，且不依赖互联网，是学习 AI 部署的最佳起点。

本教程主要基于 Ollama 官方 GitHub 仓库及文档。
– 资源名称：Ollama Official Guide
– 资源地址：https://github.com/ollama/ollama
– 学习难度：★☆☆☆☆（入门级，无需编程背景）

访问 Ollama 官网 https://ollama.com/，根据你的操作系统下载对应的安装包。安装过程非常直观，一路点击“下一步”即可完成。

安装完成后，打开终端（Windows 的 PowerShell 或 Mac 的 Terminal），输入以下命令来运行目前最火的 Llama 3 模型：
ollama run llama3
系统会自动从库中下载模型权重（约 4.7GB），下载完成后，你就可以直接在终端里和它对话了！

Ollama 支持非常多的模型，你可以访问 ollama.com/library 查看支持的所有列表。
– 想写代码？尝试 ollama run codellama
– 电脑配置不高？尝试 ollama run phi3 (微软出品的小钢炮)

如果你不喜欢黑色的命令行界面，可以配合开源项目 Open WebUI（原 Ollama WebUI）使用，它可以为你提供类似 ChatGPT 的精美网页对话界面。

硬件要求：运行 7B 或 8B 级别的模型，建议电脑至少有 8GB 或 16GB 的内存。如果有独立显卡，速度会更快。
资源利用：Ollama 的魅力在于其 API 接口。如果你是开发者，可以用它非常简单地通过 Python 或 JS 调用本地模型，构建自己的 AI 应用。
体验心得：作为自学者，我最感叹的是它的“一键化”。以前部署一个模型需要配置复杂的 Python 环境和 CUDA 驱动，现在只需一行命令。这是新手探索本地 AI 的必经之路。