警告AI失控风险、呼吁暂停前沿AI研发之后 ，Anthropic又有了新动作 。

　　据最新报道显示
，日前Anthropic的代表私下向美国国会议员介绍了一份法案草案，该草案意在监管前沿AI安全
。这也意味着 ，在AI发展陷入争议的当下
，这家AI巨头正在采取一系列措施，试图影响事关自家技术监管的规则制定。

　　Anthropic一位发言人表示 ，“这项法案体现了我们在《高级人工智能框架》中提出的建议 。自今年6月以来，我们一直在推动联邦和州层面的立法者采纳这些建议
。我们认为这些政策合理可行
，国会应当采取行动。 ”

　　根据法案草案，只有当某个模型存在“可预见且迫在眉睫的风险
” ，可能造成超过10亿美元损失
，或导致50人以上死亡或严重受伤时，政府才可以阻止该模型发布或使用 。相关风险必须来自于生物武器的制造或发布 、模型规避开发者设定的控制措施 ，或进行网络攻击。法案采用的相关措辞与加利福尼亚州的AI法律法规一致
，其中包括去年签署成为法律的SB 53法案
。

　　值得注意的是，虽然近期以OpenAI和Anthropic为首的AI公司披露了一系列AI安全事故 ，但截至近来 已披露的事件中
，尚无事件造成大规模人员死亡或超过10亿美元的损失。

　　此外，根据草案 ，需要有独立评估机构负责定期评估AI实验室及其前沿模型 。评估机构须在美国商务部注册
，可以由相关实验室支付评估费用，但报酬不得与评估结果挂钩
。

　　如果评估机构认定某家公司开发的前沿模型存在法案所列的“迫在眉睫风险” ，必须在完成评估后的7两小时 内向美国商务部报告。商务部在认定某个模型构成风险后，可以请求法官阻止该模型发布 。不过
，法案明确禁止美国其他任何“部门
、机构或官员 ”暂停该模型的开发、部署或内部使用
。美国哥伦比亚特区联邦地区法院的法官则可以下令暂停该模型。

　　“评估机构
”是Anthropic一直试图推行的一项内容 。此前Anthropic CEO达里奥·阿莫迪发文呼吁全行业放缓开发前沿AI时，提出的三步方案中就包括派遣“嵌入式评估员”
。

　　且公司已经付诸行动。本周五有消息称 ，Anthropic已向一家外部评估机构授予“员工级别访问权限 ”
，以评估其模型的风险 。这家获得授权的评估机构名为METR，是一家非营利组织 ，曾与OpenAI 、Anthropic
、谷歌和Meta等顶尖实验室合作
，如今已派遣团队进驻Claude模型开发团队办公室，并获得了Anthropic的硬件设备及内部系统的使用权限
。

　　Anthropic提出的法案还将排除部分州级AI法律的适用范围 ，这些法律涉及风险信息公开披露、第三方评估以及重大安全事件报告等要求；并要求前沿AI实验室制定安全框架 、针对新推出的前沿模型发布透明度报告、建立举报人保护机制
，并向商务部报告重大安全事件。

（文章来源：科创板日报）