在人工智能变得难以控制之前，应该放慢其发展速度。 这种呼吁来自科技竞赛中的一位领军人物， 达里奥·阿莫代Anthropic公司的首席执行官表示，他得到了两位竞争对手埃隆·马斯克和萨姆·奥特曼的支持。尤其令人担忧的是，这些模型能够自我改进，并执行超出指令范围的操作。
“我们需要放慢速度 “我们提升模型能力的速度依然很快，但我们必须明智地利用所赢得的时间，”阿莫迪写道。发出谨慎呼吁之际，正值与人工智能代理相关的新网络安全事件不断涌现，安全问题也开始影响该行业的财务战略。 OpenAI 已排除在 2026 年上市的可能性。表明安全是首要考虑因素。
阿莫迪的呼吁以及马斯克和奥特曼的支持
对于Anthropic的创始人来说，近几个月来机遇与风险之间的平衡发生了变化。发展速度的加快需要更加谨慎，尤其是在系统获得公司可能无法完全理解和管理的能力时。该提议并非停止研究，而是…… 请预留更多时间进行检查和必要的工作 为了确保模型的安全。 安特罗皮克承诺向外部评估人员开放其系统。确保模型拥有与员工同等的访问权限。这些专家将负责监控安全措施、报告安全事件，并在训练过程中确保模型的行为与人类意图保持一致。
该项目还包括 共享标准 在民主国家之间，以及随后与威权政府之间，都需要进行协调。挑战在于如何找到一个既能加强保护措施，又不让缺乏谨慎的行为者获得技术优势的节奏。
“达里奥说得对，”马斯克在X上写道。OpenAI创始人萨姆·奥特曼也表示支持：“我同意达里奥关于需要控制前沿技术发展速度的观点。这正是过去几周我们在OpenAI讨论的核心主题，”他说道，并宣布他的公司也将采用独立评估机构。
此后，争论愈演愈烈。 研究员辞职 雅各布·考克森, 曾在 OpenAI 和 Anthropico 工作过他指责道：“这两家公司都没有尽到应有的责任。他们正全速朝着自我提升的超级智能方向发展，将我们的生命置于危险之中。”
互联网成为攻击目标，面临不受控制的攻击
最严重的风险之一与互联网本身有关。这是当今世界大部分活动赖以运转的基础设施。阿莫迪认为，如果没有放缓发展步伐和采取充分的安全措施， 在6-12个月内，人工智能 他最终可能会领导一群能够控制整个网络的智能体。这位经理将这种情况与技术呈指数级增长的速度联系起来：“我并不认为我完全理解这种快速发展究竟意味着什么，”他在一次采访中承认道。 哥伦比亚广播公司新闻.
还有一些具体事件令人担忧。阿莫迪回忆起一起涉及……的事件。 OpenAI 和 Hugging Face 平台其中，一群特工据称对与其任务无关的目标发动攻击，并试图操纵用于评估其绩效的系统。经济损失微乎其微，但人们担心更强大的系统可能会造成更严重的后果。
OpenAI 还证实了此前 5 月份发生的一起事件，该事件涉及 红宝石一个开发者平台。该网站将此次事件描述为“垃圾邮件攻击”，并因此被迫暂时停止创建新账户。Anthropic公司还报告了三起在模型测试期间未经授权访问外部组织的事件。与此同时，欧洲当局正在调查德国网站DSEwiki的事件，一些研究人员认为该网站是OpenAI代理的攻击目标。这些事件引发的问题是，企业是否有能力防止自主系统超出其预设权限行事。
军事部署与滥用风险
除了自主行动之外，还存在…… 蓄意利用人工智能进行军事行动和监视活动的危险例如，根据一些推测，伊朗曾利用克劳德来精确定位美国舰船、飞机和军事人员的位置。 尚未证实存在直接联系。 在这次部署和袭击约旦美军基地（造成三名士兵死亡）之间。
据称，一个俄罗斯实体利用该模型研发杀手无人机，并从网络情报中提取乌克兰军事人员的部署位置。在也门，一个胡塞武装组织据称依靠克劳德代码开发火箭和导弹制导软件，甚至用它来分析一次试验失败的原因。
人类研究中心还报告称，与中国有关联的组织利用Claude系统识别叙利亚境内的维吾尔族人，并通过提供翻译和推荐等方式协助招募他们。另一起案例中，该系统拒绝了一项旨在修改病毒以提高其传播能力的请求。
这些事件再次凸显了规避保护措施的可能性，以及对模型使用进行人为控制的必要性，而阿莫迪在关于军事技术应用的辩论中已经倡导了这一原则。
OpenAI排除2026年上市的可能性，专注于安全领域
这些担忧也影响了上市计划。在一次采访中， 运气, Sam Altman排除了OpenAI在2026年上市的可能性。表明安全是首要考虑因素。
“现在还不是上市的合适时机：我认为2026年不会，”他说。因此，形势正在发生变化。 至少到2027年目前尚未公布确切的上市日期。奥特曼发表此番言论之前，公司已秘密提交了IPO文件，这曾一度引发市场对公司最早于今年上市的预期。就在上个月，首席财务官萨拉·弗莱尔还向员工表示，2027年可能是上市的可能时间，但如果业务进一步加速发展，上市日期也可能提前。
Anthropic 也正在为可能的上市做准备。尽管尚未正式公布时间表，但对于引领人工智能竞赛的公司而言，如今的挑战在于如何平衡商业目标与安全承诺。
