Ollama教程：从零开始本地部署大语言模型
Ollama是一个开源工具，让你能够在自己的电脑上轻松运行大语言模型，如Llama、Mistral等。它解决了云端AI服务的隐私顾虑和网络依赖问题，只需一条命令即可下载并运行模型。无论你是开发者想测试模型，还是普通用户想体验AI，Ollama都提供了简洁的界面和API。本教程将带你完成从安装到调用的全过程，让你快速拥有自己的本地AI助手。
准备工作：系统要求与下载
Ollama支持macOS、Linux和Windows系统。macOS要求10.15及以上版本，Linux要求glibc 2.28以上，Windows需Windows 10或11。硬件方面，推荐至少8GB内存，运行7B模型需要8-16GB，13B模型需要16-32GB，33B模型需要32GB以上。GPU加速可显著提升推理速度，NVIDIA显卡需安装CUDA 11.6以上驱动。
关键数据：Ollama在GitHub上已获得超过10万星标、支持超过200种模型、单个模型文件大小从4GB到40GB不等、推理速度在RTX 4090上可达每秒30-50个token。
安装Ollama：一步到位
访问Ollama官网（ollama.com），根据你的操作系统下载对应安装包。macOS用户下载.dmg文件并拖入Applications；Linux用户运行curl -fsSL https://ollama.com/install.sh | sh；Windows用户下载.exe安装程序并运行。安装完成后，打开终端（macOS/Linux）或命令提示符（Windows），输入ollama --version验证安装成功。若显示版本号，说明安装完成。
1、macOS：双击安装包，将Ollama拖入应用程序文件夹，首次启动会提示安装命令行工具，点击确认即可。
2、Linux：执行安装脚本后，系统会自动添加服务，并启动Ollama守护进程，使用systemctl status ollama可查看状态。
3、Windows：安装后需重启终端，Ollama会作为后台服务运行，可通过任务管理器查看。
下载并运行第一个模型
Ollama的核心命令是ollama run ，它会自动下载并启动模型。最常用的入门模型是Llama 3.2（1B和3B版本）和Mistral 7B。例如，运行ollama run llama3.2:1b即可下载并进入交互式对话界面。模型首次下载需要时间，根据网络速度，1B模型约需2分钟，7B模型约需5-10分钟。下载完成后，你会看到提示符>>>，直接输入问题即可与模型对话。
1、ollama pull ：仅下载模型而不运行，适合预先下载。
2、ollama run ：下载并进入对话模式。
3、ollama list：查看已下载的模型列表。
4、ollama rm ：删除不再需要的模型。
使用API调用Ollama
Ollama内置了REST API，默认在http://localhost:11434上监听。你可以通过HTTP请求与模型交互，适合集成到自己的应用中。例如，使用curl发送POST请求：curl http://localhost:11434/api/generate -d '{"model": "llama3.2:1b", "prompt": "你好，请介绍你自己"}'。API支持流式输出，设置stream: false可获取完整响应。你还可以调整参数如temperature（0-1，控制随机性）和max_tokens（控制输出长度）。
1、生成文本：POST /api/generate，返回模型生成的文本。
2、对话模式：POST /api/chat，支持多轮对话，需传入历史消息。
3、嵌入向量：POST /api/embeddings，获取文本的向量表示。
4、列表模型：GET /api/tags，获取所有可用模型。
进阶技巧：自定义模型与配置
Ollama允许你通过Modelfile自定义模型行为，类似Dockerfile。你可以修改系统提示词、调整参数、甚至合并多个模型。例如，创建一个文件命名为Modelfile，内容为FROM llama3.2:1b SYSTEM "你是一个幽默的助手，用中文回答"，然后运行ollama create mymodel -f ./Modelfile创建自定义模型。此外，你可以通过设置环境变量OLLAMA_HOST=0.0.0.0:11434让Ollama监听所有网络接口，方便局域网内其他设备访问。
1、Modelfile基础：FROM指定基础模型，SYSTEM设置系统提示，PARAMETER调整参数如temperature 0.8。
2、自定义模型：ollama create -f 。
3、环境变量：OLLAMA_HOST、OLLAMA_MODELS（模型存储路径）、OLLAMA_KEEP_ALIVE（模型保持内存时间）。
4、GPU加速：设置OLLAMA_NUM_GPU=1启用单GPU，或OLLAMA_NUM_GPU=2使用双GPU。
总结
通过本教程，你已学会在本地安装Ollama、下载并运行大语言模型、通过API调用以及自定义模型配置。Ollama让AI民主化，无需云服务即可享受强大语言能力。建议从Llama 3.2 1B开始体验，逐步尝试更大模型如Mistral 7B或CodeLlama 7B。随着模型生态发展，Ollama将成为本地AI应用的核心工具，值得持续关注。