分享

FIRSTonline 横幅广告

OpenAI:萨姆·奥尔特曼被解职背后的新人工智能 Q* 是否“对人类构成危险”​​?

Altman 突然被解职的背后,是 Q* 的发现,这是一种新的超级智能,一些研究人员要求 OpenAi 委员会停止这种发现,以便了解其发展。 这就是它是什么

OpenAI:萨姆·奥尔特曼被解职背后的新人工智能 Q* 是否“对人类构成危险”​​?

持续的转变。 Altman 最初被 OpenAI 移除,然后领导微软的人工智能部门,并且 最后他回来了多方大声呼吁,再次指导他的创作。 短短四天内,一切都发生了。 然而,一系列事件使情况恢复到上周五之前的样子,尽管董事会至少发生了一个变化。

然而,有一个问题仍然没有答案。 是什么引发了这一切?

据一些美国媒体(主要是路透社)报道,奥特曼的突然解雇可能与 人工智能领域的发现,一些研究人员会认为“潜在危险”为了人类。

新的人工智能?

据路透社重建,在奥特曼短暂离职之前,一些公司研究人员曾写信给董事会警告重大发现 他们认为人工智能可能对人类构成威胁。

这封信表达了对这种人工智能商业化的担忧,敦促暂停以反思取得进一步进展的可能性。

Q项目

OpenAI 已经在一个项目上工作了一段时间了 项目名为“Q*”,Q-Star 的缩写,这可能代表该公司在该领域研究的一个转折点通用人工智能(AGI).

该公司将 AGI 定义为在最具经济价值的任务中超越人类的自主系统。 所以一种 人工超级智能.

由于 相当大的计算能力,新模型能够解决特定的数学问题。 尽管仅通过了初级数学计算,但通过此类测试已经激发了研究人员对 Q 未来成功的极大乐观情绪。

新领域的风险

研究人员认为, 数学代表一个前沿 在生成人工智能的发展中。

L“IA,当前,即 生成的 生成式擅长使用以下方式编写和翻译语言 统计预测 下一个单词的答案,但同一问题的答案可能会有很大差异。

获得执行只有一个正确答案的数学运算的能力将涉及 m更强的类人推理能力。 研究人员认为这可以应用于,例如 创新科学研究.

与计算器不同,计算器仅限于解决一定数量的运算,通用人工智能具有 概括、学习和理解的能力.

一些研究人员认为通用人工智能的目标是无法实现的,而另一些研究人员则认为最好不要实现它,以避免可能的机器叛乱的风险。

奥特曼下台背后的通用人工智能?

对于 Altman 来说,通用人工智能是触手可及的,而且得益于微软的支持,他为这个项目投入了大量资源。 也许很快就会宣布其成就。

上周,奥特曼在旧金山举行的世界领导人峰会上表示, 对即将取得的进展持乐观态度 领域具有重要意义。

“在 OpenAI 的历史上已经有四次了,最后一次是在过去两周,当我们揭开无知的面纱并向前推进发现的前沿时,我有机会在房间里,并且有机会能够做到这一点是一生的职业荣誉。”这位芝加哥人在亚太经济合作组织峰会上说道。

L“指责缺乏诚意 认为奥特曼的董事会实际上可以关注通用人工智能领域取得的进展。 事实上,在峰会发表声明一天后,奥特曼就被解雇了。

评论