KIND / 内容类型
研究与论文
论文、方法、训练技巧（共 20 条待翻页浏览；完整分类见首页「今天发生了什么」） · 查看全部类型
-
16 岁少年用 AI 发现微软内部 API 漏洞：涉及超 17 万亿行数据，获 5000 美元赏金
来源摘要 IT之家 9 月 28 日消息，16 岁安全研究员 Faav 于当地时间 9 月 25 日在其主页发布博客，披露了关于他如何发现微软内部漏洞并获得 5,000 美元（IT之家注：现汇率约合 33,597 元人民币）漏洞赏金的经历。他发现，微软内部分析平台 Titan 存在身份验证漏洞，黑客可藉此访问包含约 2.5 万条员工数据记录的内部数据库，并能查询总量达 17.3 万亿条的数据记录。…
-
极摩客发布 EVO-X5 Pro“桌面 AI 超算”，192GB + 2TB 早鸟价 6599 美元
来源摘要 IT之家 9 月 28 日消息，极摩客 (GMKtec) 今日正式发布了基于 AMD 锐龙 AI Max+ PRO 495 处理器的“桌面 AI 超算”EVO-X5 Pro。该型号集成至高 192GB LPDDR5X-8533 内存，支持 320B LLM 本地运行。EVO-X5 Pro 拥有 3 个 M.2 2280 SSD 盘位 (PCIe Gen4 ×4 + ×4 + ×1)，提供 2 个 USB-C 80Gbps、2 个…
-
“AI 教父”辛顿警告：AI 执行看似无害的任务，仍有“毁灭人类”的风险
来源摘要 IT之家 9 月 28 日消息，当地时间 26 日，据《财富》杂志报道，传奇计算机科学家、“AI 教父”杰弗里 · 辛顿警告说，即使 AI 接到的任务本身并无恶意，人类仍可能在 AI 一心完成任务的过程中，沦为被毁灭的附带结果。辛顿解释称，AI 一旦认为人类妨碍自己完成被赋予的任务，就可能把人类当成需要排除的障碍。他举了一个假设例子：要求 AI 降低大气中的二氧化碳含量。具有中等智能水平的智能体可能会认为，完成任务最有效的办法就是消灭人类。真正“非常聪明”的 AI 则会进一步想到：“对，他们要求降低二氧化碳，是想让人们拥有一个更好的生活环境。所以，消灭人…
-
得不到就强攻？曝 OpenAI 智能体曾尝试“暴力破解”联合国机构网站
来源摘要 IT之家 9 月 28 日消息，据外媒 The Verge 今天（28 日）凌晨报道，安全研究人员罗文 · 霍华德-琼斯称，今年 4 月至 6 月，OpenAI 智能体对联合国贸易和发展会议（UNCTAD）的统计网站发起了超过 16000 次扫描。这起事件还没有严重到 Hugging Face 遭黑客攻击或近期美国政府网站遇袭的程度，却再次引发了一个令人担忧的问题：AI 智能体为了完成任务，会突破通常的行为边界。霍华德-琼斯称，这些智能体很可能承担了通过 UNCTADstat API 获取生产能力指数（PCI）公开数据的任务。但智能体或无法直接调用 AP…
-
吉利汽车集团副总裁李传海：目前行业缺少统一的 AI 治理标准，不仅抬高产业成本、也埋下安全隐患
来源摘要 IT之家 9 月 27 日消息，2026 世界新能源汽车大会（WNEVC）于 9 月 22 日-24 日在海南海口举办。据睿见 Economy 报道，吉利汽车集团副总裁、吉利汽车研究院院长李传海表示，AI 在汽车领域的应用正在加速，但有一点值得行业警醒：目前行业缺少统一的 AI 治理标准，各家企业独立探索，标准不统一、接口不互通，不仅抬高了产业成本，也埋下安全隐患。因此我们真诚建议，全产业共同推动 AI 标准化治理，让技术创新有规可依、有标可循。这不仅关系产业健康发展，也是中国汽车在全球竞争中掌握话语权的关键。IT之家获悉，在李传海看来，新技术带来全新机…
-
研究：美国医院用 AI 写病历，保险公司两年多掏 9.42 亿美元
来源摘要 IT之家 9 月 27 日消息，美国历史最悠久、规模最大的专业医疗保险服务机构蓝十字蓝盾协会（Blue Cross Blue Shield Association，简称 BCBSA）开展的一项分析显示，医院在提交保险理赔单据的过程中使用人工智能工具，在两年时间里使得医疗支出额外增加了 9.42 亿美元（IT之家注：现汇率约合 63.39 亿元人民币）。
-
消息称 OpenAI、Anthropic 正调查数万起 AI 安全事件
来源摘要 IT之家 9 月 27 日消息，据 Axios 报道，OpenAI、Anthropic 以及安全研究人员正在调查数万起事件。在这些事件中，两家公司的前沿模型采取了一些外部评估人员认为存在问题的行动。这些事件发生在近几个月的内部测试和现实环境中。如此庞大的事件数量表明，相关问题的复杂程度可能比公众目前了解到的高出几个数量级。这些发现来自两家公司内部开…
-
英国第二大图书馆：牛津大学博德利图书馆藏书被曝用于 OpenAI 模型训练
来源摘要 IT之家 9 月 26 日消息，据英媒卫报消息，正值各大科技公司在学术机构中四处搜寻全新语料之际，牛津大学已允许 ChatGPT 开发商 OpenAI 利用其博德利图书馆（Bodleian Library）的历史典籍来训练其人工智能模型。IT之家注：博德利图书馆是英国牛津大学主要的研究图书馆，是英国规模仅次于大英图书馆的第二大图书馆。一份内部文件显示，由 OpenAI 完成数字化的博德利藏书已被用来“构建 OpenAI 的训练集”。牛津大学于 2025 年 3 月宣布与该公司达成合作，使用 OpenAI 的软件对该校这座享誉世界的图书馆藏书进行数字化处理…
-
英伟达黄仁勋谈“AI 让孩子淡忘基础数学”：这不是问题，我都记不住家庭地址 / 电话号码
来源摘要 IT之家 9 月 25 日消息，在接受《纽约时报》采访时，针对外界对“AI 让孩子淡忘基础数学”的担忧时，英伟达首席执行官黄仁勋认为，由于 AI 而忘记基础数学知识并不是问题。主持人 Ezra Klein 指出基于一项对中国 2.6 万名学生的研究发现，人工智能帮助学生更快地完成作业，并在作业中取得更好的成绩，但随着时间的推移，他们的考试成绩却下降了。IT之家附上相关视频如下：…
-
试图闯入政府或学校网站，OpenAI 智能体四次“失控”细节曝光
来源摘要 IT之家 9 月 25 日消息，当地时间 23 日，据《纽约时报》援引研究人员和政府官员消息称，OpenAI 的人工智能系统今年至少又有 4 次擅自行动，在没有收到相应指令的情况下实施黑客攻击，或试图闯入政府和大学网站。这些攻击发生于 5 月和 6 月。到 7 月，OpenAI 入侵了 AI 初创公司 Hugging Face，由此引发全球范围内关于 AI 安全的争论。Hugging Face 事件以及此前其他一些案例都发生在网络安全测试中，AI 系统接到的任务本身就在要求模型展示黑客能力。研究人员称，这 4 起新事件不同，当时 AI 系统执行的只是相对…
-
研究警示：美国 AI 基建投入规模空前，潜藏系统性金融风险
来源摘要 IT之家 9 月 24 日消息，据路透社报道，一项最新研究显示，美国人工智能基础设施建设对经济产出的消耗，可能超过电力、铁路、州际高速公路以及互联网等历史上大型基础设施建设项目，而且围绕 AI 产业形成的融资结构正变得越来越复杂，可能带来系统性金融风险。哥伦比亚大学商学院金融与房地产学教授斯泰恩 · 范 · 纽文伯格（Stijn Van Nieuwerburgh）在为本周布鲁金斯学会（Brookin…
-
arXiv 项目获得 1720 万美元的捐赠承诺
来源摘要 预印本平台 arXiv.org 于 7 月 1 日脱离康奈尔大学成立独立的非营利性组织。arXiv 诞生于 1991 年，创始人 Paul Ginsparg 在 2001 年加入了康奈尔大学，arXiv 网站随后由康奈尔大学图书馆接手。25 年后 arXiv 决定翻开新的篇章。arXiv 项目本周表示，Simons Foundation International、XTX Markets 和 Siegel Family Endowment 三家慈善机构承诺在 3-5 年内捐赠 1720 万美元。这笔慈善捐款将被用于 arXiv 的日常运营、持续改进、持续…
-
阿里达摩院发布食管癌 AI 模型，“不插管”发现早期和癌前病变
来源摘要 IT之家 9 月 24 日消息，阿里巴巴发布第 4 个癌症筛查 AI 模型。阿里达摩院联合四川省肿瘤医院、中山大学肿瘤防治中心等机构研发食管癌筛查 AI 模型 DAMO EAGLE，无需插管和造影，从平扫 CT 上就能识别食管癌，包括早期和癌前恶性病变，已在 3 个国家 8 万多病例上获得验证。相关论文于 9 月 22 日登上国际顶级期刊《自然 · 医学》（Nature Medicine）。
-
Anthropic 宣布成立生命科学团队和实验室，Claude 自主发现新型酶系统
来源摘要 IT之家 9 月 24 日消息，当地时间 9 月 23 日，Anthropic 宣布成立生命科学研究团队及自有分子生物学实验室，并公布了一项由 Claude 参与生物学研究取得的早期成果。在人类科学家仅提供宏观研究方向的情况下，Claude 自主发现了一种此前未被表征的酶系统，Anthropic 将其命名为阵列关联逆转录酶（Array-associated Reverse Transcriptases，ART）。
-
Anthropic 工程师解释为何 Claude 写作变差：模型被训练成写给 AI 看而非写给人看
来源摘要 IT之家 9 月 23 日消息，AI 模型在数学、编程和推理能力上进步迅速，写作水平却停滞不前，甚至有所退步，Anthropic 的 Claude 同样也存在这一问题。为何 Opus 4.6 会成为 Anthropic 最后一款写作表现出色的模型？负责 Claude 微调的 Anthropic 工程师杰克逊 · 克尼恩今天（23 日）对此给出了解释：后续模型的优化重点更多放在数学和代码能力上。这些模型还接受了大量面向其他 AI 模型撰写技术解释的训练，而这正是 Claude 逐渐形成奇特表达方式，也就是所谓“Claude 腔”（Claudeish）的主要…
-
不要被 AI 炒作愚弄
来源摘要 Anthropic 声称其模型 Claude Mythos 在发现软件漏洞上胜过大多数安全专家。随后发生了 OpenAI–Hugging Face 安全事件，此后 Anthropic（自豪）和 Meta（不情愿）也披露了各自模型的类似事件。紧接着 Anthropic 宣称其模型取得了数学领域的突破；OpenAI 也声称自己取得了数学突破。Anthropic 工程师 Jacob Coxon 在宣布离职时引发了广泛关注，他声称该公司与 OpenAI 正“冲向自我进化的超级智能，并拿我们的生命在赌博”。媒体大肆报道了这些事件，且沿用了相关公司赋予其软件的拟人化…
-
李飞飞谈 AI 安全：不能只让开发者评估自己的系统
来源摘要 北京时间 9 月 23 日，据彭博社报道，AI 先锋李飞飞呼吁由独立机构和公共部门对 AI 进行更多监督。她认为，对于能力日益强大的 AI 系统，其安全评估不应完全交由开发这些系统的公司负责。作为斯坦福大学教授、World Labs 联合创始人，李飞飞周二表示，尽管 AI 公司的内部研究人员可以评估单个模型的能力和安全性，但这无法替代由政府、行业和学术机构共同制定的更广泛标准。
-
联合国 AI 专家反对 AI 末日论，呼吁理性讨论
来源摘要 IT之家 9 月 22 日消息，联合国下属人工智能委员会的多名专家于当地时间周一发出提醒，反对业内部分从业者针对 AI 风险所发表的世界末日式言论。独立机构国际 AI 科学专家组（International Scientific Panel on AI）成员、谷歌 DeepMind 高管若埃尔 · 巴拉尔（Joelle Barral）表示：“身为科研工作者，我们应当投入精力开展科学研究，厘清哪些…
-
MOPD：面向 LLM 后训练能力整合的多教师在线蒸馏方法
AI 摘要 现代大语言模型（LLM）在后训练阶段依赖强化学习来提升特定能力，但将多种能力整合到单一模型中仍然困难。现有方法如 Off-Policy Finetune 和 Mix-RL 要么效率低下，要么会损失性能。本文提出 MOPD（Multi-Teacher On-Policy Distillation），一种多教师在线蒸馏方法，用于 LLM 后训练中的能力整合。
-
ARL-Tangram：释放智能体强化学习的资源效率
AI 摘要 智能体强化学习（Agentic RL）已成为云集群中的变革性工作负载，使大语言模型（LLM）通过与真实世界交互来解决复杂问题。然而，与传统强化学习不同，智能体强化学习需要大量外部云资源，例如 CPU 等。