type
status
date
slug
summary
tags
category
icon
password

Ollama 中 Gemma3 无法使用 Function Calling 的问题

问题描述

用户反映在 Ollama 上使用 Gemma 3 模型时,无法实现 Function Calling 功能 [^1]。尽管 Google 的博客文章宣称 Gemma 3 支持 Function Calling,但在 Hugging Face 页面和 chat_template 中均未提及相关支持 [^1]。
具体报错信息为:{"error":"registry.ollama.ai/library/gemma3:4b does not support tools"}[^1]。

讨论与分析

  • 模型本身是否支持 Function Calling? 尽管 Google 的博客声称支持,但 Hugging Face 页面和 chat\_template 没有提供任何指示 [^1]。
  • Ollama 团队的测试问题: 有用户指出,Ollama 团队可能没有充分测试 Function Calling 功能,导致一些模型即使带有 "tools" 标签,也无法正常调用工具 [^1]。
  • 可能的解决方案:
    • 修改模板: 可以尝试修改 chat\_template 以支持通用的工具使用功能,但这需要自行承担结果不确定性 [^1]。
    • 等待官方更新: Deepmind 团队正在研究 Function Calling 功能,并将在未来更新模型和 modelfiles [^1]。
notion image

临时方案

在官方发布支持 Function Calling 的 Gemma 3 模型之前,可以尝试以下方法:
  1. 自行构建工具调用模板: 根据模型的特点,设计合适的 prompt 模板,手动实现 Function Calling 的逻辑 [^1]。
  1. 使用其他平台: 尝试在 LMStudio 等其他平台测试 Gemma 3 的 Function Calling 功能 [^1]。
 

最新消息

Ollama issue下,已有大佬更新 Gemma 3 第三方函数调用模型,开箱即用(点击下文查看)

结论

目前,Ollama 上的 Gemma 3 模型确实缺乏 Function Calling 的支持。建议关注 Ollama 官方的更新,或尝试上述临时方案。
[^1]: 从 Ollama GitHub issue #9680 获取的信息:https://github.com/ollama/ollama/issues/9680
相关文章
最全免费 ASR 服务合集!(阿里云系列模型)
Lazy loaded image
大模型基准测试的详细介绍
Lazy loaded image
DeepSeek-V3-0324更新了什么?
Lazy loaded image
自定义 Modelfile 方案实现 Ollama Gemma 3 函数调用指南
Lazy loaded image
解决 OpenAI sdk 报错:Client.init() 出现意外的关键字参数 'proxies'
Lazy loaded image
Due to unexpected capacity constraints, Claude is unable to respond to your message. Please try again soon. 解决方案
Lazy loaded image
Due to unexpected capacity constraints, Claude is unable to respond to your message. Please try again soon. 解决方案GitHub Copilot 付费版与免费版对比
Loading...
Doiiars
Doiiars
一个低调的技术Geek
最新发布
最全免费 ASR 服务合集!(阿里云系列模型)
2025-3-28
大模型基准测试的详细介绍
2025-3-28
Ollama 中 Gemma3 的 Function Calling 无法使用的问题
2025-3-28
自定义 Modelfile 方案实现 Ollama Gemma 3 函数调用指南
2025-3-28
Ollama 版本 Gemma 3 缺少函数调用的解决方案
2025-3-28
DeepSeek-V3-0324更新了什么?
2025-3-27