type
status
date
slug
summary
tags
category
icon
password

Ollama 版本 Gemma 3 缺少函数调用给你的解决方案

前文提到,Google 的 Gemma 3 模型系列宣称支持函数调用,但 Ollama 官方仓库中的版本尚未启用此功能。Doiiars将指导您如何使用社区版本,快速实现 Gemma 3 的函数调用。
解决方案:使用社区开发者提供的已配置版本。

方法一:直接使用第三方函数调用版本 Gemma 3

Issue #9680 显示,社区开发者已创建支持函数调用的版本。

直接拉取支持函数调用的 Gemma 3 版本

最简单的方法是使用社区开发者提供的预配置版本:
这个模型已被社区成员测试并确认可用。

其他可用版本

除了 12B 版本,还可以尝试其他参数规格:

方法二:自定义Ollama Modelfile模板

notion image

使用示例

Python 与 Ollama API 函数调用示例

工具调用格式

PetrosStav/gemma3-tools 使用 `` 标签格式进行工具调用:
这是 Ollama 能够正确识别的格式之一。请注意工具调用的格式是否与模型预期的一致。
notion image

重要提示

  • 根据社区反馈,27B 版本的工具调用稳定性优于较小的版本
  • 当前这些模型是社区适配的,不是 Google 官方发布的支持函数调用的版本。
  • 建议关注 Ollama 官方仓库更新,以便及时获取 Google 官方支持函数调用的版本。
 
自定义 Modelfile 方案实现 Ollama Gemma 3 函数调用指南解决 OpenAI sdk 报错:Client.init() 出现意外的关键字参数 'proxies'
Loading...