返回搜索GitHub

开发者工具 / Local AI

whichllm

一个本地 LLM 选型 CLI,会根据你的 CPU/GPU/RAM 和实时基准数据推荐能跑且表现更好的模型。

质量分86
3,436 Stars
unknown
easy

中文速读

whichllm 解决的是本地模型选型问题:不是只看参数量和显存是否装得下,而是结合硬件探测、HuggingFace 模型、真实 benchmark 和新旧程度来排序。它适合准备用 Ollama、GGUF 或本地推理环境选模型的开发者,也适合购买 GPU 前做硬件模拟;不适合需要一键部署聊天服务或模型托管平台的人。

快速试用

暂未发现稳定的 Demo 或视频入口。

适合

  • 准备本地运行 LLM、但不确定选哪个模型的开发者
  • 需要比较不同 GPU 能跑哪些模型的个人和小团队
  • 想把模型推荐结果接入脚本或自动化流程的人

不适合

  • 需要完整 Web UI、模型网关或多人平台的团队
  • 只使用云端 API、不关心本地硬件的人
  • 需要中文模型评测细节或离线固定模型库的用户

选型答案

whichllm 适合什么场景?准备本地运行 LLM、但不确定选哪个模型的开发者;需要比较不同 GPU 能跑哪些模型的个人和小团队;想把模型推荐结果接入脚本或自动化流程的人
whichllm 的试用和部署门槛如何?暂未发现稳定的 Demo、视频或文档入口,适合先从 GitHub README 和 issues 判断成熟度。 当前难度标记为“上手简单”,许可证记录为“unknown”。
选择 whichllm 时要注意什么?需要完整 Web UI、模型网关或多人平台的团队;只使用云端 API、不关心本地硬件的人;需要中文模型评测细节或离线固定模型库的用户
数据来源和更新时间GitHub 仓库 Andyyyy64/whichllm,最近记录的推送时间为

标签

Local LLMCLI模型选型GPUHuggingFacebenchmarkOllamaGGUF