网8月31日报道据法新社8月29日报道，主要生成式人工智能(AI)开发商开放人工智能研究中心(OpenAI)和Anthropic公司已经同意美国政府获得它们的新模型以用于安全测试，这是29日宣布的协议的一部分。协议是同美国人工智能安全研究所达成的，该机构隶属于美国国家标准与技术研究所。

自OpenAI的聊天生成预训练转换器(ChatGPT)问世以来，AI管理已经变成了一个重大关切，技术企业推动以自愿方式，开放其技术接受政府监管。

美国人工智能安全研究所称，它将与英国人工智能安全研究所密切合作，在AI模型公开发布之前和之后向前述两家开发商反馈可能需要做出的安全改进。

美国人工智能安全研究所所长伊丽莎白·凯利说：“这些协议只是开始，但在我们努力帮助负责任地管理AI的未来之际，它们是重要的里程碑。”

该机构说，评估旨在支持主要AI模型开发商在创新的同时做出的自愿承诺。

Anthropic公司联合创始人和政策主管杰克·克拉克说：“我们同美国人工智能安全研究所的合作会利用其广泛的专业知识，在普遍运用之前严格测试我们的模型。”

他说：“这增强了我们识别和缓解风险的能力，推进负责任地发展AI。”

白宫2023年宣布过一个关于AI的行政命令，目的是为AI模型在美国的快速运用提供法律背景，此次合作是与该行政命令有关工作的一部分。

但硅谷所在的加利福尼亚州支持AI管理的议员们28日通过了州AI安全法案，现在仅需要州长签字以成为法律。

OpenAI首席执行官萨姆·奥尔特曼在社交媒体上发贴，对该公司同美国政府达成协议表示欢迎，称在国家层面形成规定“很重要”。

这是隐晦地批评加州通过的州法律，以及对任何违反该法律的处罚措施，OpenAI对其表示反对，称这会扼杀研究和创新。（编译/杨新鹏）