OpenAI 提出前沿 AI 训练安全指导原则：高级管理人员应有否决权

来源摘要

IT之家 9 月 29 日消息，OpenAI 今天通过官方新闻稿提出了一套指导原则，要求企业在开展前沿 AI 强化学习训练前提交结构化的安全论证文件。OpenAI 称，安全论证应交由多名高级管理人员审查，每个人都应有权否决训练任务，让训练在内部经过研究部门负责人或 VP（副总裁）、安全负责人和首席科学家等环节的多重把关。此外，研究部门负责人、研究副总裁等负责训练任务的高级管理人员，应对安全论证以及任何事故响应承担责任，包括把这些内容纳入绩效考核，以此促使训练团队主动推动安全和对齐工作。OpenAI 称，如果高优先级安全警报没有在规定时限内得到确认，受影响…

摘要由机器生成（来自来源站点），可能存在偏差； 本站不转载全文，请以原文为准。