Essa é a conclusão de um grupo de proeminentes cientistas da computação e outros notáveis ​​da indústria de tecnologia, como Elon Musk e o cofundador da Apple, Steve Wozniak, que pedem uma pausa de 6 meses para considerar os riscos.

Foto: reprodução

A petição publicada na quarta-feira é uma resposta ao recente lançamento do GPT-4 pela startup de San Francisco OpenAI , um sucessor mais avançado do chatbot de IA amplamente usado ChatGPT, que ajudou a desencadear uma corrida entre os gigantes da tecnologia Microsoft e Google para revelar aplicativos semelhantes.

O que eles dizem?

A carta adverte que os sistemas de IA com “inteligência humana competitiva podem representar riscos profundos para a sociedade e a humanidade” – desde inundar a Internet com desinformação e automatizar empregos até riscos futuros mais catastróficos fora dos reinos da ficção científica.

Ele diz que “os últimos meses viram laboratórios de IA travados em uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável”.

“Pedimos a todos os laboratórios de IA que parem imediatamente por pelo menos seis meses o treinamento de sistemas de IA mais poderosos que o GPT-4”, diz a carta. “Essa pausa deve ser pública e verificável e incluir todos os atores-chave. Se tal pausa não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória”.

Vários governos já estão trabalhando para regulamentar ferramentas de IA de alto risco. O Reino Unido divulgou um documento na quarta-feira descrevendo sua abordagem, que disse “evitar uma legislação pesada que poderia sufocar a inovação”. Os legisladores dos 27 países da União Europeia têm negociado a aprovação de regras abrangentes de IA.

Quem assinou?

A petição foi organizada pelo Instituto sem fins lucrativos Future of Life, que diz que os signatários confirmados incluem Yoshua Bengio, pioneiro da IA, vencedor do Prêmio Turing, e outros pesquisadores importantes da IA, como Stuart Russell e Gary Marcus. Outros que aderiram incluem Wozniak, o ex-candidato à presidência dos Estados Unidos Andrew Yang e Rachel Bronson, presidente do Bulletin of the Atomic Scientists, um grupo de defesa orientado para a ciência conhecido por seus alertas contra a guerra nuclear que acabará com a humanidade.

Musk, que administra Tesla, Twitter e SpaceX e foi cofundador e investidor inicial da OpenAI, há muito expressa preocupação com os riscos existenciais da IA. Uma inclusão mais surpreendente é Emad Mostaque, CEO da Stability AI, criadora do gerador de imagem AI Stable Diffusion, que faz parceria com a Amazon e compete com o gerador similar da OpenAI conhecido como DALL-E.

Qual é a resposta?

OpenAI, Microsoft e Google não responderam aos pedidos de comentários na quarta-feira, mas a carta já tem muitos céticos.

“Uma pausa é uma boa ideia, mas a carta é vaga e não leva a sério os problemas regulatórios”, diz James Grimmelmann, professor de direito digital e da informação da Cornell University. dado o quão duro a Tesla lutou contra a responsabilidade pela IA defeituosa em seus carros autônomos.”

Isso é histeria de IA?

Embora a carta levante o espectro de uma IA nefasta muito mais inteligente do que o que realmente existe, não é uma IA “sobre-humana” que preocupa alguns dos que assinaram. Embora impressionante, uma ferramenta como o ChatGPT é simplesmente um gerador de texto que faz previsões sobre quais palavras responderiam ao prompt que recebeu com base no que aprendeu ao ingerir enormes quantidades de trabalhos escritos.

Gary Marcus, um professor emérito da Universidade de Nova York que assinou a carta, disse em um blog que discorda de outras pessoas que estão preocupadas com a perspectiva de curto prazo de máquinas inteligentes tão inteligentes que podem se autoaperfeiçoar além do controle da humanidade. O que mais o preocupa é a “IA medíocre” que é amplamente utilizada, inclusive por criminosos ou terroristas para enganar as pessoas ou espalhar desinformação perigosa.

“A tecnologia atual já apresenta riscos enormes para os quais não estamos preparados”, escreveu Marcus. “Com a tecnologia do futuro, as coisas podem piorar.”

Já aconteceu antes

Em 2015, Elon Musk, Steve Wozniak e Stephen Hawking pediram proibição de uso de inteligência artificial em guerras.

Foto: reprodução

Os grandes nomes da tecnologia se juntaram para falar sobre as implicações de um futuro no qual a inteligência artificial pode desempenhar um grande, e perigoso, papel.

Mais de mil pesquisadores assinaram uma carta aberta pedindo a proibição de armas autônomas ofensivas.

Ela começava por referir que a sua principal preocupação é com armas autônomas que poderiam fazer as suas próprias decisões de alvo e tiro sem o controle de um humano.