OpenAI、Anthropic与美国政府签署人工智能研究测试合约

中国知识产权律师网从路透社获悉，本周四，美国人工智能安全研究所表示，人工智能初创公司OpenAI和Anthropic已与美国政府签署协议，将对其人工智能模型进行研究、测试和评估。

双方首次达成此类协议之际，两家公司正面临有关人工智能技术安全和道德使用的监管审查。

加州立法者最早将于本周就一项法案进行投票，该法案将广泛规范人工智能在该州的开发和部署方式。

“安全、值得信赖的人工智能对这项技术的积极影响至关重要。我们与美国人工智能安全研究所的合作利用了他们广泛的专业知识，在广泛部署之前严格测试我们的模型，”Anthropic的联合创始人兼政策主管杰克克拉克说。该公司得到了亚马逊和Alphabet的支持。

根据协议，美国人工智能安全研究所将在OpenAI和Anthropic公开发布之前和之后访问它们的主要新模型。

这些协议还将使合作研究能够评估人工智能模型的能力和与之相关的风险。

ChatGPT制造商OpenAI首席战略官詹森·权(Jason Kwon)表示:“我们相信，该研究所在确定美国在负责任地开发人工智能方面的领导地位方面可以发挥关键作用，并希望我们的合作能为世界其他地区提供一个可以建立在此基础上的框架。”

美国人工智能安全研究所所长伊丽莎白·凯利（Elizabeth Kelly）表示:“这些协议只是一个开始，但对于我们负责任地帮助管理人工智能的未来来说，这是一个重要的里程碑。”

该研究所是美国商务部国家标准与技术研究所(NIST)的一部分，还将与英国人工智能安全研究所合作，并就潜在的安全改进向公司提供反馈。

作为拜登政府行政命令的一部分，美国人工智能安全研究所于去年成立，旨在评估人工智能模型的已知和新出现的风险。