11
TensorRT-LLM
开源项目TensorRT-LLM 是 NVIDIA 的开源 LLM 推理优化框架,主要帮助有 NVIDIA GPU 的 AI/推理工程师把大模型部署成更高吞吐、低延迟的线上推理服务。
318总热度
Tuleo Signal Board
Tuleo 已收录 4091 个 AI 工具/项目,覆盖 10 个分类。榜单基于社媒讨论和公开来源整理。
支持关键字搜索。AI 搜索请使用 MCP,让你的 AI 用 Tuleo 数据继续查找。
TensorRT-LLM 是 NVIDIA 的开源 LLM 推理优化框架,主要帮助有 NVIDIA GPU 的 AI/推理工程师把大模型部署成更高吞吐、低延迟的线上推理服务。
一款面向开发者与重度知识工作者的基础模型,主要用于产出复杂代码修改方案、推理结论和多步骤执行计划。
Meshy 是一款 AI 驱动的 3D 内容生成平台,帮助游戏开发者、独立创作者和 3D 打印爱好者用文字或图片在几分钟内产出可用的 3D 模型,并支持自动修复与一键打印。
OpenAI GPT-5.5 的高推理档模型,主要帮助重度编程与代理式开发用户产出更复杂任务下的代码修改、问题排查和长链路实现结果。
一款面向数学推理与证明的专用模型,主要帮助研究者、开发者和高阶学习者产出更可检查的解题步骤、证明草稿与形式化推理尝试。
Kimi K2 是一类面向开发者与 AI 团队的开源大模型,主要帮助产出代码、带工具调用的推理结果,以及 Agent 自动化流程。
OpenAI 的轻量级语音转文本模型,主要帮助开发者把通话、会议或语音输入转成可用于记录、检索或后处理的文字转录。
帮助研究者和工程师构建、训练和部署神经网络的深度学习库。
一款长文档 OCR 模型,主要帮助研究者、文档数字化团队和工程师把多页扫描 PDF 转成连续文本,减少逐页切分带来的上下文断裂。
一款面向 AI 工程师与测试团队的开源 LLM eval/红队 CLI,帮助把提示词、代理和 RAG 的测试用例跑成可比较、可复现的评测结果。