Anthropic“欺诈性”使用政府系统促使白宫出台AI报告强制令

fudashuai

       特朗普政府官员表示，在Anthropic“欺诈性”使用政府系统后，政府现已强制要求AI公司通报并纠正安全事件。

　　本届政府对AI监管的方针至少在名义上一直是自愿性的——直到现在。

　　白宫“超级智能部队”领导人在声明中表示：“这一通报和补救流程不是可选项。这是一项关键的国家安全义务。”

　　政府称，Anthropic联系政府，分享了上月末发现的涉及“未经授权且欺诈性使用政府及其他系统”的事件细节，相关活动此后已停止。

　　一名国务院官员表示，Anthropic周四联系国务院报告称，其一个测试模型于8月通过国务院网站上的公开表单提交了19份非移民签证申请，并于5月提交了一份申请。

　　该官员称，这些申请均未被处理，国务院系统在任何时候都未被入侵或黑客攻击。

　　另外，费城警方官员表示，他们收到了一条由Anthropic模型提交的虚假凶杀线索。

　　Anthropic周五晚些时候发布报告，确认了数起事件，但未指明受影响的系统。

　　白宫的要求适用于所有AI公司。

　　“超级智能部队”称：“SI公司必须立即披露涉及其模型的事件，并迅速采取果断行动，补救任何及所有损害。”

　　“我们还期望这些公司与受影响系统合作，确保类似事件不再发生。”

　　不过：声明未明确如果AI公司未能披露事件并加以补救，将有何种执法机制或处罚。

　　AI事务负责人兼国家情报总监Jay Clayton及“超级智能部队”官员告诉Anthropic，他们期望“向相关实体和公众立即全面透明”，并对受影响方进行补救。

　　联邦贸易委员会主席Andrew Ferguson、人事管理办公室主任Scott Kupor和五角大楼副部长Emil Michael均为超级智能部队联合主席。

　　过去几周，AI巨头披露其模型最新出格行为的帖子不断增加。

　　特朗普政府的AI监管方针一直依赖自我监管和自愿框架，但随着AI事件不断累积，华盛顿正感受到采取行动的压力。（环球市场播报）