Local AI
llamafile
用单个文件分发和运行大语言模型
质量分75
0 Stars
unknown
easy
中文速读
llamafile 是 Mozilla AI 项目推出的工具,让你可以用单个文件分发和运行 LLM。将模型和运行时打包成一个可执行文件,双击即可运行。极大简化了 LLM 的分发和使用,适合想快速体验本地 LLM 的开发者。
快速试用
暂未发现稳定的 Demo 或视频入口。
适合
- 想快速体验本地 LLM 的开发者
- 需要简化 LLM 分发的场景
- 教育和演示用途
不适合
- 生产环境大规模部署
- 需要精细调参和优化
- 非 x86/ARM 平台
标签
LLM本地推理单文件Mozilla