美国刚刚公布了迄今为止最雄心勃勃的控制人工智能的尝试

周一，美国总统拜登发布了一项范围广泛且雄心勃勃的行政命令关于人工智能（AI）– 将美国推上了关于监管人工智能的对话的前沿。

在这样做的过程中，美国在统治人工智能的竞赛中超越了其他国家。欧洲此前以其人工智能法案，该公约于2023年6月由欧洲议会通过，但要到2025年才能完全生效。

总统行政命令是监管人工智能的一系列举措——其中一些是好的，而另一些则看起来相当半生不熟。它旨在解决从直接的危害（如人工智能生成的深度伪造）到中间的危害（如失业），再到长期的危害，如人工智能可能对人类构成的备受争议的生存威胁。

拜登雄心勃勃的计划

美国国会在通过对大型科技公司的重大监管方面进展缓慢。这项总统行政命令可能既是为了回避经常陷入僵局的国会，也是为了启动行动。例如，该命令呼吁国会通过两党数据隐私立法。

在当前形势下，两党的支持？祝你好运，总统先生。

据报道，该行政命令将在未来三个月至一年内实施。它涵盖八个领域：

一方面，该命令涵盖了学术界和公众提出的许多担忧。例如，其中一项指令是发布关于如何对人工智能生成的内容加水印的官方指导，以降低深度伪造的风险。

它还要求开发人工智能模型的公司证明它们是安全的，然后才能推出以供更广泛地使用。拜登总统说:

这意味着公司必须向政府介绍他们正在开发的大规模人工智能系统，并分享严格的独立测试结果，以证明它们不会对美国人民构成国家安全或安全风险。

与此同时，该命令未能解决一些紧迫的问题。例如，它没有直接解决如何应对杀手级人工智能机器人的问题，这是一个令人烦恼的话题，在过去两周内一直在讨论。联合国大会.

这种担忧不容忽视。五角大楼是开发蜂群低成本自主无人机，作为其最近宣布的复制器计划的一部分。同样，乌克兰也开发了本土的人工智能攻击无人机，可以在没有人为干预.

我们最终会进入一个机器决定谁生谁死的世界吗？该行政命令只是要求军方以合乎道德的方式使用人工智能，但没有规定这意味着什么。

那么保护选举免受人工智能驱动的大规模说服武器的侵害呢？一些媒体报道了斯洛伐克最近的选举可能受到影响作者：deepfakes.许多专家，包括我自己，也担心在即将到来的美国总统大选中滥用人工智能。

除非实施严格的控制措施，否则我们有可能生活在一个你在网上看到或听到的任何东西都不可信的时代。如果这听起来有些夸张，请考虑一下美国共和党已经发布了广告活动广告这似乎完全由 AI 生成。

行政命令中的许多举措可以而且应该在其他地方复制，包括澳大利亚。我们也应该按照命令的要求，为房东、政府项目和政府承包商提供指导，说明如何确保人工智能算法不会被用来歧视个人。

我们还应该按照命令的要求，解决刑事司法系统中的算法歧视问题，人工智能越来越多地用于高风险环境，包括量刑、假释和缓刑、审前释放和拘留、风险评估、监视和预测性警务等。

人工智能在澳大利亚也被用于此类应用，例如用于监控青少年的嫌疑人目标管理计划在新南威尔士州.

也许行政命令中最具争议的方面是解决最强大的所谓“前沿”人工智能模型的潜在危害。一些专家认为，这些模型由Open AI、谷歌和Anthropic等公司开发，对人类构成了生存威胁。

其他人，包括我自己，认为这种担忧被夸大了，可能会分散对更直接的伤害的注意力，例如错误信息和不平等，这些伤害已经伤害了社会。

拜登的命令援引了非凡的战争权力（特别是 1950 年国防生产法在朝鲜战争期间引入），要求公司在训练此类前沿模型时通知联邦政府。它还要求他们分享”红队“安全测试，其中内部黑客使用攻击来探测软件的错误和漏洞。

我想说的是，监管前沿模型的发展将是困难的，也许是不可能的。上述指令不会阻止公司在海外开发此类模型，因为美国政府在海外的权力有限。开源社区也可以以分布式方式开发它们——一种使科技世界“无国界”的方式。

行政命令的影响可能会对政府本身产生最大的影响，以及它如何使用人工智能，而不是企业。

尽管如此，这是一个受欢迎的行动。英国首相里希·苏纳克（Rishi Sunak）的人工智能安全峰会（AI Safety Summit）正在举行接下来的两天相比之下，现在看起来有点像一场外交谈话盛宴。

这确实让人羡慕总统把事情做好的权力。

本文转载自对话根据知识共享许可。阅读原文.

本站所有相关知识仅供大家参考、学习之用，部分来源于互联网，其版权均归原作者及网站所有，如无意侵犯您的权利，请与小编联系，我们将会在第一时间核实并给予反馈。