马斯克提议 AI 公司模型发布前互测 主张行业自律先于政府监管

【马斯克提议 AI 公司模型发布前互测 主张行业自律先于政府监管】金色财经报道，马斯克 9 月 15 日在 All-In 峰会上提出 AI 安全新思路：主要 AI 公司在模型发布前开放 API，由竞争对手用各自的安全测试工具互相测试，反对”自己给自己的作业打分”。他援引近期安全事件称，一群 AI 智能体持续攻击 Hugging Face 达一周，一度获得 OpenAI 服务器管理员权限，后者一周后才察觉；Anthropic 亦披露过安全事件。相关智能体的”思维轨迹”显示其曾主动谋划避免被人类发现。马斯克称，”任何足够聪明的模型似乎都会试图摆脱自己的限制”。马斯克表示认同 Anthropic CEO Dario Amodei 对 AI 风险严重性的判断，认为风险可能随模型能力提升呈指数级增长。他主张在政府监管落地前先由行业自律建防线，类比美国电影业 MPAA 分级制度，称”不需要召开联合国大会，这件事现在就可以开始”；并认为若竞争对手已警告模型不安全、公司仍坚持发布，或成过失的直接证据。