comparatilhe

OpenAI: a nova inteligência artificial Q* é “perigosa para a humanidade” por trás da demissão de Sam Altman?

Por trás da demissão repentina de Altman estaria a descoberta de Q*, uma nova superinteligência que alguns pesquisadores pediram ao OpenAi Board para parar para entender seus desenvolvimentos. Aqui está o que é

OpenAI: a nova inteligência artificial Q* é “perigosa para a humanidade” por trás da demissão de Sam Altman?

Uma reviravolta contínua. Altman foi inicialmente removido do OpenAI, depois assumiu a liderança de uma divisão de inteligência artificial na Microsoft, e finalmente ele voltou, chamado em voz alta de muitos quadrantes, para dirigir novamente sua criação. Em apenas quatro dias tudo aconteceu. Uma série de acontecimentos que, no entanto, restabeleceram a situação anterior à sexta-feira passada, embora tenha ocorrido pelo menos uma mudança no conselho de administração.

Uma questão, porém, ainda permanece sem resposta. O que desencadeou tudo isso?

De acordo com alguns meios de comunicação americanos (principalmente a Reuters), a demissão repentina de Altman estaria ligada a um descoberta no campo da inteligência artificial, que alguns pesquisadores teriam considerado “potencialmente perigoso”para a humanidade.

Uma nova inteligência artificial?

De acordo com a reconstrução da Reuters, antes da breve partida de Altman, alguns pesquisadores da empresa tinhamescreveu uma carta ao Conselho de Administração alertando sobre uma descoberta significativa na inteligência artificial, que consideram potencialmente ameaçadora para a humanidade.

Uma carta que mostra preocupações sobre a comercialização desta IA, apelando a uma pausa para refletir sobre a possibilidade de fazer mais progressos.

O projeto Q

OpenAI está trabalhando em um projeto há algum tempo projeto chamado “Q*”, abreviatura de Q-Star, o que poderá representar um ponto de viragem na investigação da empresa na área deinteligência artificial geral (AGI).

A empresa define AGI como sistemas autônomos que superam os humanos nas tarefas economicamente mais valiosas. Então uma espécie de superinteligência artificial.

Graças a considerável poder de computação, o novo modelo foi capaz de resolver problemas matemáticos específicos. Apesar de passar apenas em cálculos matemáticos de nível elementar, a aprovação em tais testes despertou grande otimismo entre os pesquisadores sobre o sucesso futuro do Q.

Os riscos da nova fronteira

Os pesquisadores acreditam que matemática representa uma fronteira no desenvolvimento da inteligência artificial generativa.

O IA, atual, que generativo generativo é excelente em escrever e traduzir linguagem usando o previsão estatística da próxima palavra, mas as respostas à mesma pergunta podem variar muito.

Ganhar a capacidade de realizar operações matemáticas, onde há apenas uma resposta correta, envolveria um mmaior capacidade de raciocínio semelhante ao humano. Os pesquisadores acreditam que isso poderia ser aplicado, por exemplo, a pesquisa científica inovadora.

Ao contrário de uma calculadora, limitada a resolver um número definido de operações, a inteligência artificial geral tem o capacidade de generalizar, aprender e compreender.

Alguns investigadores acreditam que o objetivo da inteligência artificial geral é inacessível, enquanto outros argumentam que pode ser preferível não alcançá-lo para evitar o risco de uma possível rebelião das máquinas.

Inteligência artificial geral por trás da destituição de Altman?

Para Altman, a inteligência artificial geral estaria ao seu alcance e graças também ao apoio da Microsoft ele investiu numerosos recursos neste projeto. E o anúncio de sua conquista, talvez, venha muito em breve.

Já na semana passada, Altman sugeriu durante uma cimeira de líderes mundiais em São Francisco que era otimista sobre o progresso iminente significativo no campo.

“Quatro vezes na história da OpenAI, a última vez apenas nas últimas duas semanas, tive a oportunidade de estar na sala quando movemos o véu da ignorância para trás e a fronteira da descoberta para frente, e ter a oportunidade fazê-lo é a honra profissional de uma vida”, disse o nativo de Chicago na cimeira de Cooperação Económica Ásia-Pacífico.

O acusação de falta de sinceridade que o Conselho de Administração atribuído a Altman poderia realmente dizer respeito aos progressos alcançados no campo da inteligência artificial geral. Na verdade, um dia após a declaração na Cimeira, Altman foi despedido.

Comente