OpenClaw使用Ollama本地模型的实现(支持工具调用))

编辑:桑稚
360集合包
360集合包
360集合包,一键装机、快捷方便。
立即下载   精品合集

欢迎进入未来文本智能的新纪元,与Ollama——您的个人本地语言模型运行时一同启航。这是一款革新性的工具,它将开源模型的力量直接置于您手掌之中,让AI交互在您的设备上流畅运行,无需云端中介。通过简单的几步设置,Ollama与OpenClaw强强联合,开启一场智能化的快捷之旅,即便是初学者也能轻松驾驭。

想象一下,通过一条简单的命令,如魔法般召唤出如Llama 3.3或Qwen 2.5-Coder这样的先进模型,它们不仅响应迅速,而且通过自定义环境变量,您甚至能以“ollama-local”这一虚构钥匙,解锁本地AI的无限潜能。无需复杂的配置,Ollama自动探测并优化模型使用,智能识别模型特性,自动调整上下文窗口,最大化利用每一份计算资源,而这一切的管理成本竟是零!

探索模型的海洋,只需一令“ollamalist”,OpenClaw即为您揭示已就绪的智慧伙伴。Ollama让AI开发和应用变得前所未有的灵活与便捷,是追求高效、隐私保护意识和技术自主性者的理想之选。加入这场AI革命,与Ollama一起,让创意与智能无缝对接,探索人工智能世界的无尽可能。

  目录快速开始模型发现(隐式提供商)配置基本设置(隐式发现)显式设置(手动模型)自定义基础URL(显式配置)模型选择高级用法推理模型模型费用上下文窗口故障排除Ollama未被检测到没有可用模型连接被拒绝另请参阅  

Ollama是一个本地LLM运行时,可以轻松在你的机器上运行开源模型。OpenClaw通过Ollama的OpenAI兼容API进行集成,并且当你通过OLLAMA_API_KEY(或认证配置)启用且未定义显式的models.providers.ollama条目时,可以自动发现支持工具调用的模型。  

  

  

快速开始安装Ollama:拉取模型:  ollamapullllama3.3#或ollamapullqwen2.5-coder:32b#或ollamapulldeepseek-r1:32b为OpenClaw启用Ollama(任意值即可;Ollama不需要真实密钥):  #设置环境变量exportOLLAMA_API_KEY="ollama-local"#或在配置文件中设置openclawconfigsetmodels.providers.ollama.apiKey"ollama-local"使用Ollama模型:  {agents:{defaults:{model:{primary:"ollama/llama3.3"},},},}  

  

模型发现(隐式提供商)  

当你设置了OLLAMA_API_KEY(或认证配置)且未定义models.providers.ollama时,OpenClaw会从本地Ollama实例发现模型:  

查询/api/tags和/api/show仅保留报告了tools能力的模型当模型报告thinking时标记为reasoning在可用时从model_info[".context_length"]读取contextWindow将maxTokens设置为上下文窗口的10倍所有费用设置为0  

这样无需手动配置模型条目,同时保持目录与Ollama的能力对齐。查看可用模型:  

  ollamalistopenclawmodelslist  

要添加新模型,只需通过Ollama拉取:  

  ollamapullmistral  

新模型将被自动发现并可供使用。如果你显式设置了models.providers.ollama,自动发现将被跳过,你必须手动定义模型(见下文)。  

  

  

配置  

  

基本设置(隐式发现)  

启用Ollama最简单的方式是通过环境变量:  

  exportOLLAMA_API_KEY="ollama-local"  

  

显式设置(手动模型)  

在以下情况使用显式配置:  

Ollama运行在其他主机/端口上。你想强制指定上下文窗口或模型列表。你想包含未报告工具支持的模型。  {models:{providers:{ollama:{//使用包含/v1的主机地址以兼容OpenAIAPIbaseUrl:"",apiKey:"ollama-local",api:"openai-completions",models:[{id:"llama3.3",name:"Llama3.3",reasoning:false,input:["text"],cost:{input:0,output:0,cacheRead:0,cacheWrite:0},contextWindow:8192,maxTokens:8192*10}]}}}}  

如果设置了OLLAMA_API_KEY,你可以在提供商条目中省略apiKey,OpenClaw会自动填充以进行可用性检查。  

  

  

自定义基础URL(显式配置)  

如果Ollama运行在不同的主机或端口上(显式配置会禁用自动发现,因此需要手动定义模型):  

  {models:{providers:{ollama:{apiKey:"ollama-local",baseUrl:"",},},},}  

  

模型选择  

配置完成后,所有Ollama模型即可使用:  

  {agents:{defaults:{model:{primary:"ollama/llama3.3",fallbacks:["ollama/qwen2.5-coder:32b"],},},},}  

  

高级用法  

  

推理模型  

当Ollama在/api/show中报告thinking时,OpenClaw会将模型标记为具有推理能力:  

  ollamapulldeepseek-r1:32b  

  

模型费用  

Ollama免费且在本地运行,因此所有模型费用均设置为$0。  

  

  

上下文窗口  

对于自动发现的模型,OpenClaw会使用Ollama报告的上下文窗口(如果可用),否则默认为8192。你可以在显式提供商配置中覆盖contextWindow和maxTokens。  

  

  

故障排除  

  

Ollama未被检测到  

确保Ollama正在运行,且你已设置OLLAMA_API_KEY(或认证配置),并且未定义显式的models.providers.ollama条目:  

  ollamaserve  

同时确认API可访问:  

  curl  

  

没有可用模型  

OpenClaw仅自动发现报告了工具支持的模型。如果你的模型未列出,可以:  

拉取一个支持工具调用的模型,或在models.providers.ollama中显式定义该模型。  

添加模型:  

  ollamalist#查看已安装的模型ollamapullllama3.3#拉取模型  

  

连接被拒绝  

检查Ollama是否在正确的端口上运行:  

  #检查Ollama是否在运行psaux|grepollama#或重启Ollamaollamaserve  

  

另请参阅模型提供商-所有提供商概览模型选择-如何选择模型配置-完整配置参考  

Ollama-OpenClaw  

  

到此这篇关于OpenClaw使用Ollama本地模型(支持工具调用))的文章就介绍到这了,更多相关OpenClaw使用Ollama本地模型内容请搜索多特以前的文章或继续浏览下面的相关文章,希望大家以后多多支持多特!  

相关推荐
最新软件
最新教程