莫尼托 英国首相的 里希·苏纳克 上 人工智能的风险和危险 在首届全球人工智能峰会召开前夕， 他强烈渴望的，将于 1 月 2 日至 XNUMX 日在历史悠久的技术场地布莱切利公园举行。 事实上，这里 阿兰·图灵数学家和信息技术的先驱，成功破译了恩尼格玛密码机，这是德国人在第二次世界大战期间用来加密和破译信息的机器。
苏纳克在伦敦的一次演讲中表示，人工智能将带来“新知识、经济增长的新机遇、人类能力的新进步以及解决我们曾经认为无法解决的问题的可能性”，但也会带来“新的危险和新的恐惧”宣布 创建全球首个人工智能安全研究所.
人工智能的危险
一份由 50 名专家起草的政府报告强调，人工智能可以代表 “存在的威胁” 将来。 因此，苏纳克认为，现在有必要解决这些担忧，以确保公民“最大程度的安心”。
这是因为人工智能不仅可以用于欺诈和网络攻击，而且到 2025 年它还可以用于 增强恐怖组织的能力 开发武器、策划袭击和传播宣传材料。
苏纳克说：“如果我们错了，人工智能可能会促进化学或生物武器的制造。 恐怖组织可以利用人工智能更大规模地传播恐惧和破坏。 犯罪分子可能利用它进行网络攻击、虚假信息、欺诈，甚至儿童性虐待。 在最不可能和最极端的情况下，甚至存在人类可能通过有时被称为超级智能的人工智能完全失去控制的风险。”
到 2030 年，风险还包括“大规模虚假信息”和支持恐怖分子开发生物武器。
英国：全球首个人工智能安全中心诞生
因此，它将在英国诞生 第一世界中心 谁将研究如何工作 让人工智能安全。 该中心将专注于分析、评估和测试新的人工智能模型，为该主题的全球知识做出贡献。
新研究所“将推进世界对人工智能安全的了解，并仔细检查、评估和测试新型人工智能，以了解每种新模型的能力。 在该研究所，我们将探讨因社会损害而产生的所有风险，例如偏见和错误信息，直至影响我们所有人的最极端风险。” 苏纳克.
苏纳克的目标是让英国成为人工智能领域的领导者
第一个安全中心的创建和下一届人工智能世界峰会有一个非常具体的任务： 成为英国 il 全球领导者 在人工智能监管方面。 英国首相苏纳克明确表达了目标。 然而，这些意图背后有多少支持还有待观察。
英国预测 重大投资 在技术领域，人们认识到其巨大的潜在好处，特别是在医疗和科学领域，但首先需要确保它们的环境安全。
峰会的目标
全球人工智能峰会将于 1 月 2 日至 1 日在布莱奇利公园举行，届时将有机构、国际合作伙伴、人工智能专家、技术公司和民间社会参加。 大约会有 XNUMX00嘉宾 包括谷歌DeepMind的首席执行官， 德米斯哈萨比斯，以及美国副总统 卡玛拉·哈里斯。 在顶部他们应该 中国人也会参加 因为，就像气候问题一样，“我们不能忽视北京。 没有中国的参与，你就不可能制定认真的战略，即使这不是最容易做的事情，”苏纳克说。 中国 在那里 第一个采用规则的国家 关于人工智能。 L'欧洲联盟 与升使徒行传然而，正在定义过程中。
英国政府已经定义 五个关键目标 峰会的：
- 对人工智能带来的风险以及如何采取行动的必要性达成共识
- 人工智能安全以及如何支持国家和国际框架的国际合作的先进流程。
- 各个组织应采取适当措施来提高人工智能安全性
- 人工智能安全研究的潜在合作领域，包括评估模型能力和制定新标准以支持治理
- 展示如何确保人工智能的安全发展将使人工智能在全球范围内用于有益的目的
联合国成立人工智能委员会
另外“联合国 深入探讨该主题，创建一个 人工智能委员会 由来自不同领域的约 40 名专家组成，旨在 制定共同规则 关于人工智能。 该委员会的主席是 阿曼迪普·辛格·吉尔联合国技术特使，包括来自研究、政治和第三部门的专家。 委员会中还有意大利人 保罗·贝南蒂神父， 教皇格里高利大学教授。
委员会 将面临与不同观点相关的挑战，包括不同的价值观和阵型，试图写出关于AI的广泛战略。 目标之一是评估人工智能的风险和收益，以及它如何为可持续发展和促进国际合作的目标做出贡献。
未来需要澄清的是，人工智能委员会是否会采取类似于原子能机构的永久性形式，或者是否仍将是一个类似于政府间气候变化专门委员会的高级别专家组。
