Por que Geoffrey Hinton decidiu que precisava ‘anunciar’ a tecnologia

Nova York (CNN) Geoffrey Hinton, também conhecido como o “Padrinho da IA‘, ele decidiu que precisava ‘anunciar’ a tecnologia que ajudou a desenvolver depois de se preocupar com o quão inteligente ela se tornaria, disse ele à CNN na terça-feira.

“Sou apenas um cientista que de repente percebeu que essas coisas estão ficando mais inteligentes do que nós”, disse Hinton em entrevista a Jake Tapper, da CNN, na terça-feira. “Quero denunciar e dizer que devemos pensar seriamente em como podemos impedir que essas coisas assumam o controle de nós.”

O trabalho pioneiro de Hinton em redes neurais moldou os sistemas de inteligência artificial que alimentam muitos dos produtos atuais. Ele ganhou as manchetes na segunda-feira por deixar seu cargo no Google, onde trabalhou por uma década, para falar abertamente sobre suas crescentes preocupações com a tecnologia.

Em entrevista na segunda-feira ao New York Times, que relatou sua mudança pela primeira vez, Hinton disse estar preocupado com o potencial da IA ​​para destruir empregos e criar um mundo onde muitos “não podem mais saber o que é verdade”. Ele também notou o ritmo de progresso de tirar o fôlego, muito além do que ele e outros previram.

“Se ficar muito mais inteligente do que nós, será muito bom em manipulação porque aprendeu isso conosco, e há poucos exemplos de uma coisa mais inteligente sendo controlada por uma coisa menos inteligente”, disse Hinton a Tapper na terça-feira. .

“Ele sabe programar, então encontra maneiras de contornar as limitações que colocamos nele. Ele encontra maneiras de manipular as pessoas para que façam o que ele quer.”

Hinton não é o único líder em tecnologia expressando preocupações sobre IA. Vários membros da comunidade assinaram um carta em março Pede aos laboratórios de inteligência artificial que interrompam o treinamento de sistemas de IA de alto desempenho por pelo menos seis meses, citando “riscos profundos para a sociedade e a humanidade”.

A carta, Publicados do Future of Life Institute, uma organização sem fins lucrativos apoia por Elon Musk, veio apenas duas semanas após o OpenAI anunciado GPT-4, uma versão ainda mais poderosa da tecnologia que alimenta o chatbot viral ChatGPT. Nos testes iniciais e em uma demonstração corporativa, o GPT-4 foi usado para projetar trajes, passar em exames padronizados e criar um site funcional a partir de um esboço feito à mão.

O cofundador da Apple, Steve Wozniak, um dos signatários da carta, apareceu na CNN This Morning na terça-feira e expressou preocupação com o potencial de espalhar desinformação.

“A trapaça se torna muito mais fácil para quem quer enganar você”, disse Wozniak à CNN. “Não estamos fazendo nenhuma mudança real a esse respeito – apenas assumimos que as leis que temos em vigor fornecerão isso”.

Wozniak também disse que provavelmente é necessário “algum tipo” de regulamentação.

De sua parte, Hinton disse à CNN que não assinou a petição. “Eu não acho que podemos parar o progresso”, disse ele. “Não assinei a petição que dizia que deveríamos parar de trabalhar com IA porque, se o povo da América parasse, o povo da China não pararia”.

Mas ele confessou não ter uma resposta clara sobre o que fazer.

“Não está claro para mim se podemos resolver esse problema”, disse Hinton a Tapper. “Acho que devemos nos esforçar para pensar em maneiras de resolver o problema. Atualmente não tenho uma solução.”