FlashInfer
开源项目FlashInfer 是一个 LLM 推理 GPU 内核库,帮助推理框架与基础设施工程师为 attention、MLA、MoE 等算子做更高吞吐的服务端加速产出。
Tuleo Signal Board
Tuleo 已收录 1000 个 AI 工具/项目,覆盖 10 个分类。榜单基于社媒讨论和公开来源整理。
支持关键字搜索。AI 搜索请使用 MCP,让你的 AI 用 Tuleo 数据继续查找。
FlashInfer 是一个 LLM 推理 GPU 内核库,帮助推理框架与基础设施工程师为 attention、MLA、MoE 等算子做更高吞吐的服务端加速产出。
OpenCompass 是开源模型评测框架,主要帮助研究者和模型团队产出可复现的 LLM/多模态基准分数、横向对比结果与能力分析。
WrenAI 是一个开源生成式 BI 工具,帮助数据分析师、数据团队和内部 AI 代理把自然语言问题产出为 SQL、图表与轻量仪表板。
一个开源短视频自动装配工具,主要帮自媒体运营者和不露脸频道把“给定主题”快速产出为带配音、字幕和素材拼接的成片短视频。
一款面向愿意自行配置模型 API 或本地模型入口的开源桌面 AI 客户端,帮助用户把多家模型集中到一个界面中完成聊天、资料整理和个人知识库类产出。
QVAC 是一个开源本地 AI SDK,主要帮助重视隐私、离线能力与端侧部署的开发者产出可在多平台设备上运行的点对点 AI 应用。
rmux 是一款面向 AI Agent 与开发者自动化的 Rust 终端复用器,帮助用户用命令、代码或浏览器共享方式稳定编排多终端任务并产出可复现的终端工作流。
oh-my-openagent 是给 Codex/OpenCode 用户用的开源代理编排层,帮助开发者把复杂编码任务拆给多个 AI 代理并产出跨文件修改、重构与较长链路开发结果。
开源 AI 代理框架,主要帮助开发者和技术团队构建、部署并管理可接工具、记忆与多代理协作的生产级智能体应用。
一套面向 AI 训练团队的 PyTorch 分布式训练基础设施,帮助把 Hugging Face 的 LLM/VLM 产出为可扩展的多卡训练作业,而不是自己手写并行训练底座。