返回搜索GitHub

Local AI

llamafile

用单个文件分发和运行大语言模型

质量分75
0 Stars
unknown
easy

中文速读

llamafile 是 Mozilla AI 项目推出的工具,让你可以用单个文件分发和运行 LLM。将模型和运行时打包成一个可执行文件,双击即可运行。极大简化了 LLM 的分发和使用,适合想快速体验本地 LLM 的开发者。

快速试用

暂未发现稳定的 Demo 或视频入口。

适合

  • 想快速体验本地 LLM 的开发者
  • 需要简化 LLM 分发的场景
  • 教育和演示用途

不适合

  • 生产环境大规模部署
  • 需要精细调参和优化
  • 非 x86/ARM 平台

标签

LLM本地推理单文件Mozilla