开发者工具 / Local AI
tokenspeed
追求极致性能的 LLM 推理引擎。
质量分77
1,092 Stars
2026-05-24T08:29:54Z
unknown
hard
中文速读
适合关注 DeepSeek、Qwen、Kimi 等模型推理速度的工程团队;不适合只需要可视化聊天或低门槛部署的人。官网和 MIT 许可证明确,但作为早期推理引擎需验证成熟度。
适合
- 推理性能优化团队
不适合
- 无 GPU/无运维经验用户
选型答案
tokenspeed 适合什么场景?推理性能优化团队
tokenspeed 的试用和部署门槛如何?已发现 3 个试用、文档或演示入口,可从页面的“快速试用”区域打开。 当前难度标记为“需要经验”,许可证记录为“unknown”。
选择 tokenspeed 时要注意什么?无 GPU/无运维经验用户
数据来源和更新时间GitHub 仓库 lightseekorg/tokenspeed,最近记录的推送时间为 2026-05-24T08:29:54Z。
标签
LLM Inference性能优化GPU