AI 行业新闻¶
本频道将紧跟技术趋势，收集 AI 行业新闻。
-
从分页注意力、连续批处理、前缀缓存、推测式解码等技术，到多 GPU、多节点的动态规模化服务
-
KV 缓存的全面胜利：从 vLLM 的前缀缓存到 llm-d 的分布式调度
llm-d 如何实现更智能的、前缀感知的、负载和 SLO 感知的路由，从而带来更好的延迟和吞吐量？
-
揭示一些在 vLLM 中用于调试复杂问题（如 IMA）的高级调试技巧。
-
LMCache 上线即支持 GPT-OSS（20B/120B）
LMCache 上线就支持 OpenAI 新发布的 GPT-OSS 模型（20B 和 120B 参数）！本文将提供为 GPT-OSS 模型配置 vLLM 与 LMCache 的完整步骤，并通过 CPU 缓存卸载功能展示显著的性能提升。
-
人工智能语音合成技术迎来新突破。一款名为 FlowSpeech 的 AI 文本转语音工具正式发布， 其独特之处在于能够将书面文字转换为自然流畅的口语表达，为用户提供更贴近真实对话的语音合成体验。
-
GPT-5 正式发布：OpenAI 史上最大规模产品升级 四大版本全面解析
2025 年 8 月 7 日，OpenAI 正式发布 GPT-5 系列模型，这是该公司历史上最重要的产品升级。此次发布包含 GPT-5、GPT-5Mini、GPT-5Nano 和 GPT-5Pro 四个版本，每个版本针对不同应用场景进行深度优化，标志着 AI 技术进入全新发展阶段。
-
d.run 上新 DeepSeek-R1-0528，强化 CoT 推理链，代码实力再进化
端午节期间，d.run 大模型服务平台紧跟 DeepSeek 步伐，上线了全新的 DeepSeek-R1-0528 模型。
-
llm-d 是一个原生支持 Kubernetes 的高性能分布式大语言模型（LLM）推理框架， 为所有人提供了一条清晰明了的路径，以实现大规模服务，在大多数模型和硬件加速器上实现最快的价值实现时间和具竞争力的性价比。
-
这是一个快速入门教程，教你如何在 d.run 中部署 DeepSeek 模型，并在 d.run 和任何第三方应用中调用 DeepSeek 模型服务。
-
随着科技的飞速进步，人工智能（AI）正逐步成为我们生活中不可或缺的一部分。从智能助手到自动化流程， AI 的应用几乎覆盖了社会的每一个角落。在即将到来的 2025 年，几个关键的 AI 发展趋势将深刻影响这一技术的未来方向。
-
Kubernetes（K8s）不再只是一个运行工作负载（如 Web 应用和微服务）的工具； 对于大语言模型（LLM）等大型人工智能（AI）和大型机器学习（ML）工作负载，K8s 是端到端全生命周期管理的理想平台。
-
OpenAI 正在颠覆世界：GPT-4o 现在完全免费，实时语音视频交互震撼全场，直接进入科幻时代！
-
这是 OpenAI 最新发布的模型规范，它是一个指定 OpenAI API 和 ChatGPT 中模型期望行为的文件， 包括一套核心目标，以及如何处理冲突目标或指令的指导。
-
ClearML 发布了与 FuriosaAI 和人工智能基础设施联盟（AIIA）进行的一项全球 AI 调研结果。
-
这本云原生人工智能白皮书首先概述了当前 AI/ML 技术的发展现状，接着介绍了云原生技术所提供的支持，分析了目前面临的挑战和不足，并探讨了正在不断发展中的解决方案。
-
受 Kimi 影响，百度的文心一言和阿里的通义千问， 用户访问量大幅下滑，降幅分别达到 33.42%与 45.05%。
-
介绍 DBRX，这是由 Databricks 创建的一种开放的通用 LLM。 在一系列标准基准测试中，DBRX 在已建立的开放 LLM 中树立了新的技术水平。
-
国家级专精特新“小巨人”企业 DaoCloud 发布算力生态平台 d.run
-
Transformer 始于 2017 年谷歌发表的论文《Attention Is All You Need》， 但缘何被 OpenAI 发扬光大，制霸江湖？ 非 Transformer 面临的共同考验是什么？
-
DaoCloud 牵头上海本地金融行业组织的算力与大模型产业研讨会。