拜登签署新行政命令:保护美国免受AI潜在威胁

美国总统乔·拜登日前发布了一项新的行政命令,制定了一套新的标准来指导人工智能技术的发展。该命令包括“开发标准、工具和测试、以确保 AI 系统安全、可靠”,并要求开发和使用 AI 技术的公司与美国政府分享 AI
模型的相关数据。

拜登在最近一次讲话中指出了随着 AI 技术快速发展,随之而来的隐患也引发了诸多担忧,特别是 AI 生成的极其逼真的他人声音和面部画面有可能被用于不正当途径。他说道:“借助 AI,伪造者仅需你的声音 3 秒的录音——我看过我的片段之一,甚至让我想:‘我到底什么时候说过这样的话?’”

“不开玩笑,只需要你的声音 3 秒的录音,就可以生成一个足以骗过你的家人甚至你自己的伪造复制。”

新的行政命令重点包括:

·要求开发“对国家安全、国家经济安全或国家公共健康和安全构成严重风险”的 AI 系统的公司根据《国防生产法》与美国政府共享安全测试结果和其他“关键”数据。

·开发一套标准、工具和测试,由美国国家标准与技术研究所、国土安全部和能源部等多个机构定义和应用,以确保 AI 系统“安全、可靠、可靠”值得信赖。”

·制定生物合成筛选的新标准,以防止 AI 被用来制造新的危险生物材料的风险。

·建立“检测人工智能生成的内容和验证官方内容的标准和最佳实践”,以防止欺诈和虚假信息的传播。

该命令还呼吁采取行动解决“算法歧视”,主要针对“制定在量刑、假释和缓刑、审前释放和拘留、风险评估、监视、犯罪预测、预测性警务和法医分析方面 AI 使用的最佳实践”。

美国还计划通过建立国家人工智能研究资源库来推进和加速 AI 研究,将使该国研究人员和学生更容易获得相关信息。该国还将扩大对各大 AI 相关领域研究的资助。

根据 CNBC 报道,拜登还呼吁国会两党采取行动,以确保 AI 系统训练和使用过程中对隐私的保护。拜登在演讲中表示:“这项行政命令是一次大胆行动,但我们仍需国会有所作为。”

相关推荐