5 月 17 日消息,科技媒体 WinBuzzer 于 5 月 16 日发布博文称,开源大语言模型服务工具 Ollama 推出自主研发的多模态 AI 定制引擎,不再直接依赖 llama.cpp 框架。llama.cpp 项目近期通过 libmtmd 库实现全面视觉支持,引发社区对 Ollama 与其关系的讨论。Ollama 团队成员在 Hacker News 上澄清,Ollama 用 golang 独立开发,未借鉴 llama.cpp 的 C++ 实现。因 Meta 的 Llama 4 等模型日益复杂,现有架构难以满足需求,Ollama 推出新引擎,在本地推理精度上取得突破,在处理大图像生成大量 token 时表现出色,还优化了内存管理等,未来计划进一步提升本地 AI 模型多功能性 。
暂无讨论,说说你的看法吧