DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，目标实现大模型普惠

来源摘要

IT之家 10 月 20 日消息，DeepSeek 今日官宣，在此前开源一系列大模型、TileLang 编译工具及推理算子库的基础上，决定进一步将内部推理框架 DeepInfer 全面开源。DeepSeek 官方表示，大模型的能力边界由模型本身划定，但如何以合理成本提供超大规模的模型服务，还取决于一个长期未被公众了解的中间层：推理框架。训练使模型学有所成，推理则让模型为人所用。面对如今海量的用户调用，推理框架负责统筹调度庞大的算力集群，其效率直接决定了 AI 服务的算力成本与电力消耗。DeepSeek 希望通过分享内部的部署经验，帮助开发者与企业组织优化…

摘要由机器生成（来自来源站点），可能存在偏差； 本站不转载全文，请以原文为准。