type
status
date
slug
summary
tags
category
icon
password

Ollama 中 Gemma3 无法使用 Function Calling 的问题

问题描述

用户反映在 Ollama 上使用 Gemma 3 模型时，无法实现 Function Calling 功能 [^1]。尽管 Google 的博客文章宣称 Gemma 3 支持 Function Calling，但在 Hugging Face 页面和 chat_template 中均未提及相关支持 [^1]。
具体报错信息为：{"error":"registry.ollama.ai/library/gemma3:4b does not support tools"}[^1]。

讨论与分析

  • 模型本身是否支持 Function Calling？ 尽管 Google 的博客声称支持，但 Hugging Face 页面和 chat\_template 没有提供任何指示 [^1]。
  • Ollama 团队的测试问题： 有用户指出，Ollama 团队可能没有充分测试 Function Calling 功能，导致一些模型即使带有 "tools" 标签，也无法正常调用工具 [^1]。
  • 可能的解决方案：
    • 修改模板： 可以尝试修改 chat\_template 以支持通用的工具使用功能，但这需要自行承担结果不确定性 [^1]。
    • 等待官方更新： Deepmind 团队正在研究 Function Calling 功能，并将在未来更新模型和 modelfiles [^1]。

临时方案

在官方发布支持 Function Calling 的 Gemma 3 模型之前，可以尝试以下方法：
  1. 自行构建工具调用模板： 根据模型的特点，设计合适的 prompt 模板，手动实现 Function Calling 的逻辑 [^1]。
  1. 使用其他平台： 尝试在 LMStudio 等其他平台测试 Gemma 3 的 Function Calling 功能 [^1]。

结论

目前，Ollama 上的 Gemma 3 模型确实缺乏 Function Calling 的支持。建议关注 Ollama 官方的更新，或尝试上述临时方案。
[^1]: 从 Ollama GitHub issue #9680 获取的信息：https://github.com/ollama/ollama/issues/9680
相关文章
koishi部署教程[Linux]
GitHub to Gitingest 按钮
CosyVoice-ComfyUI 中的张量类型错误问题解决指南
LazyGraphRAG介绍 | LazyGraphRAG:为质量和成本设立新标准 |中文翻译
Cataclysm: Dark Days Ahead 0.H "Herbert" 版本发布公告
电子书格式哪个最好用？EPUB、PDF、MOBI全面对比
模板说明GitHub Copilot 付费版与免费版对比
Loading...