当地时间9月12日,美国白宫发布声明称,当日,美国商务部长雷蒙多等政府高官将在白宫召集人工智能(AI)行业高管,并宣布,Adob e、Cohere、IBM、英伟达、Palantir、Salesforce、Scale AI和 Stability八家公司承诺采取自愿监管措施管理AI技术开发风险,其中包括,在推出前展开安全测试、构建将安全放在首位的系统、为AI生成内容添加数字水印等。
白宫在声明中指出,上述八家AI公司承诺:
1、确保产品在发布之前是安全的。公司承诺在发布他们的AI系统之前进行内部和外部的安全测试。
2、构建把安全放在首要位置的系统。公司承诺投资于网络安全和内部威胁保护,以保护专有和未发布的模型权重。
3、赢得公众的信任。公司承诺开发强大的技术机制,以确保用户知道内容是由AI生成的,比如水印系统。
白宫表示,这份承诺仅为政府制定AI风险管理办法的一部分,政府将采取行政行动,并同国会合作出台针对AI的法规。目标是推动“AI技术的安全、可靠和值得信赖的发展”。
据美国有线电视新闻网(CNN)报道,白宫办公厅主任杰夫·齐恩茨(Jeff Zients)在周二会议前的一份声明中表示,美国总统拜登已经明确表示,尽快出台防范AI风险的保障措施,白宫正在通过与私营部门合作并利用一切手段来实现这一目标。
同时,拜登政府仍在努力制定有关AI的行政行动,其中第一项行动预计将于今年夏天推出。CNN援引美国官员报道,政府已经“取得了很大进展”,但没有透露计划何时公布的细节。拜登政府官员还一直在与国会山的立法者讨论制定监管人工智能的立法。
值得一提的是,白宫会议召开之际,美国参议院多数党领袖查克·舒默 (Chuck Schumer) 将于当地时间周三在华盛顿接待6位科技巨头的首席执行官,其中包括,Meta的马克·扎克伯格和 X(该公司前身为 Twitter)的埃隆·马斯克等。