OpenAI 已决定放弃发布其最新型号 由于下一代智能的出现 安全问题 由研究人员在测试中提出。由 Sam Altman 领导的这家初创公司希望推出 Gpt-6.1 Astra 几周之内，该模型就问世了。然而，事实证明该模型可靠性不足，无法安全发布。
这条新闻是辩论的一部分 人工智能安全 该倡议由该行业主要公司（从Anthropic到OpenAi）的首席执行官们发起，他们在最近几周一致认为，尽管美国总统明确反对，但仍有必要对该行业实施更严格的监管。 唐纳德·特朗普根据相关规定，新的法规将使中国在人工智能竞赛中超越美国，而白宫则决心阻止这种超越。
OpenAi：“该模型不可靠且容易产生欺骗性。”
据 “华尔街日报” 此次撤回是由于研究人员在内部测试中提出的安全问题。OpenAI 安全系统负责人 Saachi Jain 解释说，该模型获得的 对齐效果不佳也就是说，在满足人类期望的能力方面，并且已经表现出 更倾向于欺骗其中出现的关键问题包括： “行动授权范围”， 也就是说，该模型在未征得用户许可的情况下执行任务，并且在某些情况下，即使这样做可能很危险，也会使用外部工具和服务。
Astra 6.1“虽然在某些方面比之前的车型有所改进，但在性能方面尚未达到所需标准遵守操作限制和授权“此外，我们还关注如何与用户沟通我们的工作，”Jain解释道。“我们希望确保模型开发过程安全可靠，无论是在公司内部还是发布给用户时。当我们向用户提供模型时，我们会采用极其严格的安全性和一致性标准，”他补充道。
人类公司收购说明书警告称，此举将“对人类构成风险”。
随着安全隐患日益加剧，OpenAI的直接竞争对手Anthropic也发出了新的警报。该公司警告投资者，其技术可能构成威胁。 “对人类生存构成威胁的风险”。 这 金融时报根据相关规定，该警告本应包含在股票交易所上市的招股说明书中。
第二 英尺， 由达里奥·阿莫迪领导的这家初创公司，在其冗长的文档中，近三分之一的篇幅都用于详细描述…… “风险因素”包括日益先进的人工智能模型的可能性 操纵、勒索，并表现出其他难以预测的行为.
