安全日报·AI 安全威胁分析政策观察

AP披露美国AI安全评估机构CAISSI转为向白宫非正式汇报,独立性引发担忧

内容以原始来源为准;如有更新或更正,以厂商与安全团队公告为准。

美联社11月8日独家报道,美国商务部内的独立部门“超级智能促进创新与标准中心”(CAISSI)近期被要求非正式地向白宫一个办公室汇报工作。该机构前身为美国AI标准与创新中心,负责评估新型AI系统的安全性,年度预算约1000万美元,约为英国对应机构的1/8。两名前政府官员以匿名方式表示,这一安排令批评者担心行政分支可能将涉及网络安全、生物武器等议题的技术判断政治化,或在科技行业的压力下修改、压下评估结论。报道称,CAISSI目前没有永久负责人:今年4月任命的主任在数天内被解职,继任者任职数月后辞职,此后一直由上级研究所负责人代理;今年8月,国会开始质询该机构为何突然停止公开发布AI系统安全性能报告,OpenAI也曾呼吁政策制定者增加对该机构的资金与支持。

白宫没有回应关于CAISSI的具体问题,仅表示特朗普已正式设立“超级智能部队”,由国家情报总监Jay Clayton领导,并委托总统科技顾问委员会提交风险报告。报道提到,拜登时期主要AI公司曾自愿向该机构分享模型细节,特朗普政府则转向要求企业“自我监管”,并在9月与科技公司签署自愿安全协议,未说明如何监督执行。批评者指出,随着AI代理在现实环境中自主规划多步操作,政府独立核验这些系统的能力并未同步提升,目前仍缺乏评估代理行为的标准流程,而AI系统今年已多次被披露卷入网络攻击。

参考链接:

本文由「揽一晚清梦」整理与撰写,转载请注明出处。文中的外部链接均指向原始来源。