KIND / 内容类型
研究与论文
论文、方法、训练技巧(共 15 条待翻页浏览;完整分类见首页「今天发生了什么」) · 查看全部类型
-
AI 助力古籍修复:Apollo 大语言模型问世,专门用于解读古希腊莎草纸残片
来源摘要 IT之家 9 月 22 日消息,据 《连线》(WIRED)报道,全球各地高校图书馆保存着数十万份古希腊莎草纸残片,不少残片损毁严重,其内容或许已无法解读;对于其余尚存修复希望的文本,学者只能依靠人工逐条补全缺失的词句完成复原。为加快这项繁重的工作,研究人员开始借助人工智能。奥地利科学院将于当地时间周三正式发布了全球首款面向古希腊语的高级大语言模型。该项目由奥地利科学院联合法国 AI 实验室 Mi…
-
日本计划在国际空间站举办 AI 机器人竞赛,最早 2027 年实行
来源摘要 IT之家 9 月 22 日消息,据《日经》今天报道,日本计划案最早于 2027 年在国际空间站(ISS)举办机器人竞赛。参赛团队将通过 AI 控制机器人完成任务,培养下一代航天工程师。据报道,该竞赛由“太空 AI 机器人协会(SAIRA)”组织。该协会成立于今年 7 月,旨在通过与大学、公司和研究机构合作,开发太空、AI、机器人等方面技术。
-
阿里巴巴下一代模型参数将扩大到 5-10 万亿规模
来源摘要 阿里巴巴 CEO 吴泳铭在阿里云年度云栖大会上透露,该公司的千问(Qwen)团队正持续研究模型架构与数据优化,目标是完成更复杂、长周期任务,向人工智能超级智能(artificial superintelligence)前进。阿里巴巴的旗舰模型 Qwen 3.8 Max 有 2.4 万亿参数,正在训练中的 Qwen 4 将会继续扩大参数规模,未来的 Qwen 4.5 和 Qwen 5 系列将扩大至 5-10 万亿参数规模。吴泳铭表示,阿里巴巴自研的 M890 AI 超级节点能处理参数规模逾 2 万亿模型的推理任务,新一代的真武 V900 性能三倍于上一代的…
-
AI 聊天机器人经常给出错误的财务问题答案
来源摘要 Saturn 的一项研究显示,ChatGPT、Claude、Copilot、Grok 和 Gemini 等主流 AI 模型在回答财务相关问题时,平均有 57% 会给出错误答案。研究使用了逾百个财务相关问题,分别测试了 ChatGPT、Gemini、Claude 和 Copilot 提供的免费及付费 AI 模型。每个问题最多重复提问五次,向 18 种 AI 模型共提出了逾 10,000 个问题。研究发现,AI 模型的回答中包含计算错误、遗漏即将实施的税收政策变更,或是凭空捏造规则(即幻觉)。在最严重的情况下,依赖 AI 对税务问题的回答可能导致严重的经济损…
-
GSPO:迈向持续拓展的语言模型强化学习
来源摘要 PAPER DISCORD 引言 强化学习 (Reinforcement Learning,RL)已成为拓展语言模型、增强其深度推理与问题求解能力的关键技术范式。为了持续拓展 RL,首要前提是确保稳定、鲁棒的训练过程。然而,我们观察到现有的 RL 算法(如 GRPO)在长期训练中会暴露出严重的不稳定性问题并招致不可逆转的模型崩溃,阻碍了通过增加计算以获得进一步的性能提升。 为了能够持续拓展 RL,我们提出了 Group Sequence Policy Optimization (GSPO) 算法。不同于过去的 RL 算法,GSPO 定义了序列级别的重要性…
-
Qwen-MT:速度与智能翻译的结合
AI 摘要 本文介绍通过 Qwen API 发布的 Qwen-MT 最新版本 qwen-mt-turbo。该版本基于 Qwen3 构建,利用数万亿多语言与翻译 token,全面提升模型的多语言理解与翻译能力;通过引入强化学习技术,翻译准确度与语言流畅性得到显著提升。主要特性包括:支持 92 种语言的多语言翻译。
-
Qwen2.5 Omni: See, Hear, Talk, Write, Do It All!
来源摘要 QWEN CHAT HUGGING FACE MODELSCOPE DASHSCOPE GITHUB PAPER DEMO DISCORD 我们发布了 Qwen2.5-Omni,Qwen 模型家族中新一代端到端多模态旗舰模型。该模型专为全方位多模态感知设计,能够无缝处理文本、图像、音频和视频等多种输入形式,并通过实时流式响应同时生成文本与自然语音合成输出。想要体验最新的模型,请访问 Qwen Chat 并选择Qwen2.5-Omni-7B。该模型现已在 Hugging Face、ModelScope、DashScope和 GitHub上开放,技术文档请查…
-
Qwen2.5-Omni发布:Qwen系列新一代端到端多模态旗舰模型
AI 摘要 Qwen团队发布Qwen2.5-Omni,这是Qwen系列新一代端到端多模态旗舰模型,面向全面的多模态感知设计,可处理文本、图像、音频和视频等多种输入,并通过文本生成与自然语音合成提供实时流式响应。用户可访问Qwen Chat选择Qwen2.5-Omni-7B体验该模型,模型现已开源。
-
Qwen2.5-VL-32B:更智能、更轻量
AI 摘要 今年1月底,我们发布了Qwen2.5-VL系列模型,获得社区广泛关注与积极反馈。在此基础上,我们继续通过强化学习优化模型,并以Apache 2.0协议开源了32B参数规模的新VL模型Qwen2.5-VL-32B-Instruct。与此前发布的Qwen2.5-VL-72B相比,该模型在保持相近性能的同时体积更小。
-
QwQ-32B: 领略强化学习之力
来源摘要 QWEN CHAT Hugging Face ModelScope DEMO DISCORD 大规模强化学习(RL)有潜力超越传统的预训练和后训练方法来提升模型性能。近期的研究表明,强化学习可以显著提高模型的推理能力。例如,DeepSeek R1 通过整合冷启动数据和多阶段训练,实现了最先进的性能,使其能够进行深度思考和复杂推理。这一次,我们探讨了大规模强化学习(RL)对大语言模型的智能的提升作用,同时很高兴推出我们最新的推理模型 QwQ-32B。这是一款拥有 320 亿参数的模型,其性能可与具备 6710 亿参数(其中 370 亿被激活)的 DeepS…
-
QwQ-32B:拥抱强化学习的力量
AI 摘要 扩大强化学习(RL)的规模有潜力在传统预训练和后训练方法之外进一步提升模型性能。近期研究表明,RL 能显著增强模型的推理能力。例如,DeepSeek R1 通过结合冷启动数据和多阶段训练,实现了最先进的性能,支持深度思考与复杂推理。我们的研究探索了强化学习的可扩展性……
-
Qwen2.5-Max:大规模 MoE 模型的智能探索
AI 摘要 业界普遍认为,持续扩大数据规模与模型规模能显著提升模型智能。然而,研究与产业界在有效扩展超大规模模型(无论是稠密模型还是 Mixture-of-Expert(MoE)模型)方面经验有限,许多关于扩展过程的关键细节直到 DeepSeek V3 最近发布才得以披露。与此同时,我们也在开发 Qwen2.5-Max。
-
全局批量负载均衡:近乎免费的MoE LLM训练优化
AI 摘要 Mixture-of-Experts(MoE)架构已成为流行的模型参数扩展技术。通常,一个MoE层由一个router(通常参数化为单个Linear层)和一组expert组成(对于基于transformer的模型,每个expert是一个前馈层)。给定输入时,仅激活部分expert,随后根据router分配的分数聚合其输出。
-
面向有效的数学推理过程监督
来源摘要 GITHUB HUGGING FACE MODELSCOPE DISCORD 引言 近年来,大型语言模型(LLMs)在数学推理方面取得了显著进展,但它们仍可能犯错误,如计算错误或逻辑错误,导致得出错误结论。 此外,即使最终答案正确,这些强大的模型也经常编造看似合理的推理步骤,其中最终答案基于有缺陷的计算或推导过程,这削弱了LLMs推理过程的可靠性和可信度。 因此,自动识别推理过程中的错误对于其可扩展监督变得越来越重要。 过程奖励模型(Process Reward Models, PRMs)作为数学推理过程监督中的一种有前途的方法出现,旨在识别和减轻推理过…
-
数学推理中有效的过程监督方法
AI 摘要 近年来,Large Language Models(LLM)在数学推理方面取得显著进展,但仍可能犯错,如计算错误或逻辑错误,导致结论错误。此外,即使得到正确答案,这些模型也可能编造看似合理的推理步骤,最终答案建立在有缺陷的计算或推导之上,从而损害其可靠性与可信度。