专题:infrastructure

按该标签聚合的大模型资讯列表(自动分类与标签提取)。6 篇文章。

媒体量子位2026/03/27 22:286840
中国大模型团队优势在于算力受限下的最优解能力
token使用量暴增推动基础设施升级

中国大模型专家在圆桌讨论中聚焦agent技术演进、token使用量激增与算力挑战,强调开源生态、模型结构创新和基础设施优化的重要性,认为未来AI将更偏向agent-native。

媒体InfoQ 中文2026/03/05 00:004760

Quesma 推出了 OTelBench,这是首个用于评估 OpenTelemetry 基础设施与 AI 性能的基准测试工具。该工具通过模拟 AI 工作负载并利用 OpenTelemetry 遥测数据,量化分析 AI 模型在训练和推理阶段的资源消耗、延迟和吞吐量。OTelBench 旨在帮助开发者和运维人员优化 AI 部署,识别性能瓶颈,并指导基础设施选择…