OpenAI foi alertada sobre descoberta que ameaça a humanidade antes de demitir Sam Altman

Pesquisadores da Open AI escreveram uma carta ao conselho de administração da empresa alertando sobre uma "poderosa descoberta" em direção ao desenvolvimento da Inteligência Artificial Geral (IAG) nos dias que antecederam a demissão do CEO Sam Altman, revelou a Reuters nesta 5ª feira (23.nov). 

+ Leia as últimas notícias no portal SBT News

Segundo fontes ouvidas pela agência de notícias, a carta, que menciona "ameças a humanidade", foi um de vários fatores que contribuíram para a inesperada demissão de Altman, antes da sua recondução ao cargo na última 3ª feira (23.nov). De acordo com os relatos, há divergências entre o CEO e o conselho sobre a comercialização de avanços de IA antes do entendimento dos riscos e benefícios do uso da tecnologia. 

+ Quais as lições de responsabilidades e governança corporativa no caso OpenAI?

Ainda segundo o apurado pela Reuters com funcionários do OpenAI, o desenvolvimento do novo algorítimo faria parte do Projeto "Q*" (Q-Star), cujo objetivo é avançar nas pesquisas para o desenvolvimento da IAG.

Em sua carta ao conselho, os pesquisadores destacaram as proezas e o perigo potencial da IAG, disseram as fontes à Reuters. Eles não especificaram as preocupações, mas muito se fala sobre o algoritmo e a sua capacidade de se autoaprimorar, ultrapassando a capacidade cognitiva dos seres humanos, a ponto de, por exemplo, decidir que a destruição da humanidade é do seu interesse. 

O novo modelo desenvolvido pelo projeto Q*, segundo o relatado pela Reuters, foi capaz de resolver determinados problemas matemáticos, o que teria deixado os pesquisadores da OpenAI "muito otimistas" quanto ao sucesso futuro do projeto.