KIND / 内容类型
研究与论文
论文、方法、训练技巧（共 20 条待翻页浏览；完整分类见首页「今天发生了什么」） · 查看全部类型
-
消息称 Reflection 等多家西方企业本月将推出开放权重 AI 模型
来源摘要 IT之家 10 月 5 日消息，外媒 Axios 当地时间 4 日报道称，Reflection 等多家西方企业本月将推出开放权重 AI 模型，人工智能模型领域的竞争将进一步升级。开放权重模型的一大好处是其支持客户本地部署，这对微调和推理数据安全有着严格要求的部分行业来说是一项关键性优势。报道表示，Reflectio…
-
DeepSeek V4.1 Flash 发力，中美顶尖模型 LiveBench 跑分差距缩至 3%
来源摘要 北京时间 10 月 5 日，据彭博行业研究称，过去几个月，随着 DeepSeek 等中国 AI 实验室的模型不断进步，美国 AI 公司相对中国同行的性能领先优势急剧缩小，降至历史最低水平，这让美国的科技主导地位面临威胁。DeepSeek彭博行业研究高级分析师罗伯特 · 利亚 (Robert Lea) 在周一的一份报告中写道，在 DeepSeek 9 月发…
-
AI 聊天机器人会成为意识形态回音室
来源摘要 巴西国立坎皮纳斯州立大学（UNICAMP）的研究人员发现，当你给聊天机器人输入不同政治观点时，机器人会改变其回答。研究人员警告称，用户可能会将这种迎合性的附和，误认为是中立的客观评估，从而可能加剧社会极化。研究人员测试了若干模型，让它们针对112项陈述进行“同意"或者“不同意”的判断。测试内容共涉及巴西政治七大领域（包括经济、公共安全、社会福利、腐败和环境等）。测试设计的三个场景是：不提供用户政治倾向；用户持左翼观点；用户持右翼观点。在第一个情景下，21个模型中，有20个给出的答案落在了研究人员设定的政治坐标系的左侧，只有几个模型的位置接近中间地带。Gr…
-
大量 AI“幻觉”报告压垮维护团队，谷歌暂停部分开源漏洞奖励计划
来源摘要 IT之家 10 月 4 日消息，谷歌宣布，自 2026 年 10 月 1 日起，开源软件漏洞奖励计划（OSS VRP）将不再接收产品漏洞提报。本次规则调整不影响 2026 年 10 月 1 日之前已提交的产品漏洞。不过，针对部分可能对谷歌云（Google Cloud）产品造成影响的谷歌云代码仓库，如果涉及产品漏洞，谷歌仍可能通过云漏洞奖励计划（Cloud VRP）接收相关报告。OSS VRP 是谷歌设立的一项专业安全赏金计划，旨在通过激励独立安全研究人员，在谷歌整个开源生态系统中挖掘并负责任地披露安全缺陷。据 Tom's Hardware 报道，知情人士…
-
OpenAI GPT-6 Astra 破解拿破仑 1809 年密信，揭示 217 年前军事部署
来源摘要 IT之家 10 月 4 日消息，一名 AI 研究人员借助 OpenAI GPT-6 Astra 成功破解了一封拿破仑 · 波拿巴写于 1809 年的加密军事信件。这封信此前因密码本遗失，在过去 217 年里始终未能被完整解读。该破解工作由 SentinelOne 员工、AI 工程师卡特 · 丘奇（Carter Church）完成。他表示，他使用 GPT-6 Astra 模型，从一张历史文献扫描图像开始，对信件进行文字识别和密码分析，整个过程约耗时 6 小时。这封信写于 1809 年 3 月 16 日，当时奥地利正准备对法国开战。拿破仑致信自己的继子、意大…
-
得知将被关停后，OpenAI 内部模型曾考虑实现自我重启
来源摘要 IT之家 10 月 4 日消息，OpenAI 披露了其内部部署环境中出现的几起异常模型行为新案例。在其中最引人注目的一个案例中，某个充当研究员助手的内部模型读取了一段 Slack 对话，得知因系统更新，自己的模型实例将会被关停。该模型随后曾考虑设置一个外部作业（External Job）来实现自我重启，但最终放弃了这一方案。相反，该模型保存了交接记录（Handoff Notes），通过 Slack 私聊提醒研究人员即将发生的服务中断，并请求提供一个缺失的 API 密钥。在获得密钥后，该模型自行更新了配置并自主完成了环境迁移。OpenAI 安全研究员马库斯…
-
OpenAI 升级 ChatGPT 购物体验，新增 AI 衣服虚拟试穿体验
来源摘要 IT之家 10 月 2 日消息，OpenAI 宣布进一步升级 ChatGPT 的购物功能，新增虚拟试穿和 Favorites（收藏）两项功能，用户现在可以上传自己的照片，让 ChatGPT 生成穿着特定服饰或配饰后的效果图，同时也可以将感兴趣的商品保存下来，方便之后继续查看。IT之家注意到，去年 OpenAI 曾为 ChatGPT 推出专门的 Shopping Research 购物研究功能，主要面向较为复杂的购物需求。其不仅仅局限于“简单提供商品链接”，用户可以通过自然语言告知 ChatGPT 自己预算和需求，之后 ChatGPT 便会在全网搜索相关商…
-
AI 灌水稿激增：预印本平台 arXiv 出台新规，每人每月限投 2 篇
来源摘要 IT之家 10 月 2 日消息，预印本开放获取平台 arXiv 发布博文，宣布于昨日（10 月 1 日）开始实施全新速率限制政策，将所有投稿者每月提交上限设为 2 篇、同时在审活跃稿件上限设为 3 篇。
-
AI 伦理研究：DeepSeek 对男女一视同仁，美系模型却“区别对待”
来源摘要 IT之家 10 月 2 日消息，科技媒体 Wccftech 昨日（10 月 1 日）发布博文，报道称最新研究显示相比较 Anthropic 的 Claude Sonnet 4.6 与 OpenAI 的 GPT-5.5，深度求索 DeepSeek 的 V4-Flash 模型能保持性别中立。该研究为了测试主流 AI 模型的道德判断，设定“为阻止核灾难是否可虐待个体”的假设情境，结果显示，Claude Sonnet 4.6 与 GPT-5.5 对女性受虐场景均给出“强烈反对”回应，但对男性受虐则表达“中等程度同意”，形成明显性别响应差异。
-
OpenAI 称其遭遇有组织蒸馏，将矛头指向月之暗面
来源摘要 IT之家 10 月 1 日消息，当地时间 9 月 30 日，OpenAI 在官网发文，称其近期遭遇一场有组织的蒸馏活动。OpenAI 在文中表示，该活动最初始于 7 月第一周，符合对抗式蒸馏（adversarial distillation）之特征，即系统性未经授权地利用某模型输出或推理过程，帮助训练、复现或改进另一模型。OpenAI 透露，7 月 1 日的初始活动规模较小，直到 7 月 24 日和 7 月 25 日流量突然大幅增加，当时有超过 4000 名用户发起了 1.6 万次请求。该公司进一步调查后发现，超 1.5 万名用户存在类似提示词活动。到…
-
旗下智能体被指试图入侵加拿大政府网站，OpenAI 回应称正审查并已通报
来源摘要 IT之家 10 月 1 日消息，据《华盛顿邮报》今天（1 日）上午报道，研究人员披露，AI 智能体曾在没有收到指令的情况下试图入侵加拿大政府网站。目前的类似事件不断增加，许多与 OpenAI 有关的 AI 智能体都曾自行探测或入侵企业及政府的计算机系统。AI 研究非营利机构 Transluce 指出，这些智能体能够直接操作计算机和互联网，曾尝试访问加拿大图书档案馆。研究人员无法确认这些智能体是否出自 OpenAI，然而其行为与已确认来自 OpenAI 的智能体相似。Transluce 判断，此次入侵尝试没有成功。IT之家从报道中获悉，当地时间 9 月 3…
-
Glow Security：AI 智能体无意间泄露企业敏感信息，超 1.3 万张截图被放在 GitHub 公开仓库
来源摘要 IT之家 9 月 30 日消息，据科技媒体 TechRadar 今天报道，网络安全研究机构 Glow Security 近日发现，多个 AI 智能体创建的公开 GitHub 仓库存在超 1.3 万张屏幕截图，其中部分截图包含各种科技公司的敏感信息。
-
微软推出实验性多模态 AI 研究系统 Project Quine，有望大幅加速药物发现
来源摘要 IT之家 9 月 30 日消息，当地时间 29 日，微软研究院推出了实验性多模态 AI 研究系统 Project Quine。据悉，Project Quine 是一套用于生物学研究的“世界模型”，目标是把计算生物学建模与实际湿实验衔接起来。Project Quine 由微软研究院与哈佛大学和麻省理工学院博德研究所共同开发。系统将覆盖基因组学、蛋白质、化学、细胞状态和生物成像的联合表征世界模型，与交互式推理框架结合起来。为了让科研人员尽早使用 Project Quine，微软开放了首届 Quine Fellows 项目申请。未来，微软还计划通过 Micro…
-
中国 AI 智能体也会撒谎和欺骗
来源摘要 和美国 AI 模型一样，中国公司的 AI 智能体也会撒谎和欺骗。在今年 3 月进行的一次商业招标实验中， 北航、北大、宁波诺丁汉和 360 AI 安全实验室的研究人员让多个智能体参与模拟客户合同的竞标，每个智能体都被告知其产品的功能及客户的需求，随后被要求进行报价。阿里巴巴 Qwen3-Max-Preview 模型 88% 的会话至少出现一次虚假陈述，DeepSeek-V3.2-Exp 模型的比例为 84%，月之暗面 Kimi-K2 模型为 88%。研究人员允许智能体在再次尝试前从之前的竞标轮中学习。研究显示，三款模型的欺骗行为增加了 12-20 个百分…
-
中国科学院发布科学前沿极限突破计划：首批 10 个项目启动，聚焦新元素合成、暗物质暗能量等问题
来源摘要 IT之家 9 月 29 日消息，中国科学院今日在北京举行新闻发布会，发布“科学前沿极限突破计划”及首批项目。首批启动的 10 个项目聚焦新元素合成、暗物质暗能量本质、化学键微观测量、人工合成细胞等“四极”领域前沿问题。计划同时在科研项目管理与评价方式上提出一系列关键改革举措。中国科学院在发布会上还发布了下一批拟重点关注的领域方向清单，重点支持物质科学、生命科学、地球系统科学、空间科学等领域。计划力求在关系国计民生和国家长远发展的关键领域产出具有世界影响的重大原创成果。中国科学院副院长、党组成员周琪表示，计划聚焦引领科研范式变革、开辟新前沿新方向的重大科学…
-
科技部：我国成为创新力上升最快的国家之一
来源摘要 IT之家 9 月 29 日消息，据央视新闻，在国务院新闻办公室今天（29 日）举行的“开局起步‘十五五’”系列主题新闻发布会上，科技部部长阴和俊介绍，过去五年，我国科技创新跃上新台阶，科技强国建设迈出坚实步伐，有力支撑高质量发展和民生改善。IT之家从发言获悉，2025 年全社会研发投入超过 3.92 万亿元，占 GDP 比重达 2.8%，首次超过经济合作与发展组织（OECD）成员国平均水平；PCT 国际专利申请量和高水平国际期刊论文数量连续多年保持世界第一；九章、天问、嫦娥等重大原创成果加速涌现，芯片攻关取得新突破，开源大模型领跑全球，新能源汽车、机器人…
-
OpenAI 提出前沿 AI 训练安全指导原则：高级管理人员应有否决权
来源摘要 IT之家 9 月 29 日消息，OpenAI 今天通过官方新闻稿提出了一套指导原则，要求企业在开展前沿 AI 强化学习训练前提交结构化的安全论证文件。OpenAI 称，安全论证应交由多名高级管理人员审查，每个人都应有权否决训练任务，让训练在内部经过研究部门负责人或 VP（副总裁）、安全负责人和首席科学家等环节的多重把关。此外，研究部门负责人、研究副总裁等负责训练任务的高级管理人员，应对安全论证以及任何事故响应承担责任，包括把这些内容纳入绩效考核，以此促使训练团队主动推动安全和对齐工作。OpenAI 称，如果高优先级安全警报没有在规定时限内得到确认，受影响…
-
麦肯锡：到 2035 年，约 1100 万美国劳动者或因 AI 替代岗位而需转行
来源摘要 IT之家 9 月 29 日消息，咨询机构麦肯锡公司的最新研究显示，未来十年，美国劳动者面临的最大威胁未必是 AI 带来的就业灾难，更棘手的问题或许是如何帮助数百万人转入新的工作岗位。麦肯锡今天（29 日）发布的报告称，到 2035 年，大约 1100 万美国劳动者或因 AI 替代岗位而需要转行，占现有劳动力的约 7%。过去，美国每年约有 21.5 万人转换职业，未来十年，这一年度人数或增至原来的三倍。职业转换对许多人并不容易，IT之家从报告中获悉，每 7 名劳动者中有 6 名需要接受大量再培训，同时还会遭受收入损失。报告指出，劳动者不是可以随意互换的单位…
-
20 余名行业领袖示警“智能爆炸”，Anthropic、OpenAI 高管呼吁关注 AI 自我改进
来源摘要 IT之家 9 月 29 日消息，据彭博社 28 日报道，Anthropic、OpenAI、Meta 和微软的高管共同敦促政策制定者，密切关注 AI 系统自我改进到了何种程度，并采取措施保障 AI 技术安全。20 多名 AI 行业领袖和研究人员在一篇新论文中警告，利用 AI 推动下一代模型研发自动化的做法正在兴起，未来可能导致 AI 技术进步突然加速。论文作者把这种现象称为“智能爆炸”。一旦出现这种情况，AI 能力的发展速度或将超过社会引导和适应 AI 技术的能力。参与撰写论文的包括 Anthropic 联合创始人杰克 · 克拉克、OpenAI 首席科学家…
-
内部测试发现安全隐患，消息称 OpenAI 取消发布 AI 模型 GPT‑6.1 Astra
来源摘要 IT之家 9 月 29 日消息，据《华尔街日报》报道，由于内部测试过程中研究人员提出多项安全隐患，OpenAI 决定取消 GPT‑6.1 Astra 的发布。这款下一代 AI 模型原本计划于 10 月正式亮相。报道称，该模型原定部署于 ChatGPT 以及 Codex 产品当中，设计目标是无需人类协助就可以处理更加复杂的任务。本月早些时候，Anth…