1
SGLang
开源项目一款高性能开源 LLM/多模态 serving 框架,主要帮助模型平台、推理工程师和基础设施团队把自托管模型部署成可调用的 OpenAI 兼容 API 服务。
233总热度
Tuleo Signal Board
Tuleo 已收录 4091 个 AI 工具/项目,覆盖 10 个分类。榜单基于社媒讨论和公开来源整理。
支持关键字搜索。AI 搜索请使用 MCP,让你的 AI 用 Tuleo 数据继续查找。
一款高性能开源 LLM/多模态 serving 框架,主要帮助模型平台、推理工程师和基础设施团队把自托管模型部署成可调用的 OpenAI 兼容 API 服务。
这是阿里 Qwen 的预览版旗舰模型,主要帮助开发者和知识工作者提前产出代码实现、分析结果与复杂文档草稿。
一款 GPT-5.6 家族的平衡型通用模型,主要帮助开发者通过聚合 API 生成聊天回复、代码补全和常见推理输出。
Qwen3 8B 是一款面向开发者和本地 AI 用户的 8B 开源模型,主要帮助他们在自有设备上完成聊天、代码/推理评测、量化部署与轻量微调产出。
一款面向推理与 Agent 场景的腾讯旗舰 MoE 大模型,主要帮助开发者和企业团队产出代码、网页/办公页面以及长文档处理结果。
高端生成式模型,主要帮助开发者和创作者产出代码原型、3D/动画工作流样例与交互式 Demo,而不是现成的开发平台。
一款面向开发者、创作者与实验型团队的超大模型,主要帮助把文本想法转成代码、浏览器可视化或可交互原型。
这是一款面向开发者的开源代码模型,主要帮助你在本地硬件上完成代码生成、代理式编程流程与可运行 demo 产出。
一款长文档 OCR 模型,主要帮助研究者、文档数字化团队和工程师把多页扫描 PDF 转成连续文本,减少逐页切分带来的上下文断裂。
LMCache 是一层开源 LLM 推理缓存基础设施,帮助自建服务团队为 vLLM、SGLang、TensorRT-LLM 产出更低 TTFT、更高吞吐的在线推理服务。