自定义 Modelfile 方案实现 Ollama Gemma 3 函数调用指南

• 无法调用外部工具进行数据查询或计算。

• 无法与现有系统集成。

• 模型输出格式不符合预期。

自定义 Modelfile 方法

步骤 1：创建 Modelfile

步骤 2：创建自定义模型

步骤 3：运行模型

如果你认为自定义配置Modelfile的步骤过于繁琐，请直接参考下面的文章。

Ollama 版本 Gemma 3 缺少函数调用的解决方案 | Doiiars Blog

本文提供 Gemma 3 模型函数调用的最简方案，解决 Ollama 官方版本不支持的问题，并提供多种模型规格选择及使用示例。

https://doiiars.com/article/gemma3-function-calling-version

关键配置说明

1. 工具调用格式：此配置使用 <tool_call></tool_call> XML 标签作为函数调用的包装器。
• 示例：

2. 工具响应格式：工具的响应使用 <tool_response></tool_response> 标签。

3. 工具定义：使用 TOOL 指令定义各种工具。每个工具需要有名称、描述和输入模式。工具的定义务必准确，否则模型可能无法正确调用。

替代模板选项

注意事项

• Gemma 3 官方并未针对函数调用进行优化，这些模板是社区适配的，可能需要根据你的具体情况进行调整。 这意味着你可能需要根据实际测试结果，不断优化模板和提示词，才能达到最佳效果。

• 工具调用格式的差异：
• 一些模板使用 <tool></tool>
• 另一些使用 <tool_call></tool_call>
确保你的代码与选择的模板格式一致，否则会导致调用失败。

• 如果遇到工具调用不稳定的情况，可以尝试使用参数量更大的模型版本（如 27B）。更大的模型通常具有更强的理解和推理能力，能够更好地处理函数调用。

• 密切关注 Ollama 官方仓库更新，Google 可能会发布官方支持函数调用的版本。 官方版本通常具有更好的稳定性和性能。(Ollama官方已经关闭issue。)