Geoffrey Hinton pediu demissão do Google para se concentrar em aumentar a conscientização pública sobre os perigos dos desenvolvimentos no campo que ajudou a criar.

Considerado o padrinho da Inteligência Artificial (IA), Geoffrey Hinton, 75 anos, pediu demissão, declarou arrependimento pelo trabalho e alertou sobre os crescentes perigos dos desenvolvimentos no campo que ajudou a criar.

O psicólogo cognitivo e cientista da computação anglo-canadense fez o anúncio de que havia deixado o cargo no Google em um texto publicado no New York Times na última segunda-feira (1). No artigo, ele se refere a “maus atores” que tentariam usar IA para “coisas ruins”.

Hinton enfatizou que não tem interesse em criticar o Google e que a gigante da tecnologia foi “muito responsável”. “Na verdade, quero dizer algumas coisas boas sobre o Google. E elas terão mais credibilidade se eu não trabalhar para o Google.”

Chatbots de IA são assustadores

Em entrevista à BBC, ele disse que alguns dos perigos dos chatbots de IA são “bastante assustadores”.

“Neste momento, eles não são mais inteligentes do que nós, pelo que sei. Mas acho que logo poderão ser.”

Hinton comentou ainda que os chatbots podem, em breve, ultrapassar o nível de informação que o cérebro humano contém.

“Neste momento, o que estamos vendo é coisas como o GPT-4 eclipsa uma pessoa na quantidade de conhecimento geral que ela tem e a eclipsa de longe. Em termos de raciocínio, não é tão bom, mas já faz raciocínio simples. E, dada a taxa de progresso, esperamos que as coisas melhorem rapidamente. Portanto, precisamos nos preocupar com isso”, alertou.

Redes neurais

A pesquisa pioneira de Hinton sobre redes neurais e aprendizado profundo abriu o caminho para os atuais sistemas de IA como o ChatGPT.

Na inteligência artificial, as redes neurais são sistemas semelhantes ao cérebro humano na forma como aprendem e processam informações. Eles permitem que as IAs aprendam com a experiência, como uma pessoa faria. Isso é chamado de aprendizado profundo.

“Cheguei à conclusão de que o tipo de inteligência que estamos desenvolvendo é muito diferente da inteligência que temos. Somos sistemas biológicos e estes são sistemas digitais. E a grande diferença é que com os sistemas digitais, você tem muitas cópias do mesmo conjunto de pesos, o mesmo modelo do mundo”, observou.

O psicólogo disse ainda que todas as cópias podem aprender separadamente, mas compartilham o conhecimento instantaneamente. Por isso, é como se você tivesse 10 mil pessoas e sempre que uma delas aprendesse algo, todos automaticamente soubessem. É dessa maneira, explica, que os chatbots podem saber muito mais do que qualquer indivíduo.

Especialistas preocupados com IA

Hinton se junta a um número crescente de especialistas que expressaram preocupações sobre a IA – tanto a velocidade em que está se desenvolvendo quanto a direção em que está indo.

Como o presidente da Agência de Pesquisa e Invenção Avançada do Reino Unido, Matt Clifford, que disse à BBC que o anúncio do Dr. Hinton “sublinha a taxa em que as capacidades de IA estão se acelerando”.

“Há uma enorme vantagem dessa tecnologia, mas é essencial que o mundo invista forte e urgentemente em segurança e controle de IA”, avaliou Matt Clifford.

Mas Hinton avalia que “no curto prazo” a IA traria muito mais benefícios do que riscos, “então não acho que devemos parar de desenvolver essas coisas”, acrescentou.

Ele também disse que a competição internacional significaria que uma pausa seria difícil. “Mesmo que todos nos Estados Unidos parassem de desenvolvê-lo, a China teria apenas uma grande vantagem”, ponderou.

Hinton se descreve como um especialista em ciência, não em política, e que é responsabilidade do governo garantir que a IA fosse desenvolvida “com muita reflexão sobre como impedir que ela se tornasse desonesta”.

‘Precisamos dar um passo atrás’

Em março, o Instituto Future of Life divulgou uma carta aberta e pediu uma pausa em todos os desenvolvimentos mais avançados do que a versão atual do IA chatbot ChatGPT para que medidas de segurança robustas pudessem ser projetadas e implementadas.

Com mais de mil assinaturas, o documento é referendado por especialistas em inteligência artificial, além de Elon Musk, CEO da Tesla, da SpaceX e do Twitter, e Steve Wozniak, que fundou a Apple com Steve Jobs. Outro padrinho da IA, Yoshua Bengio, que junto com Hinton e Yann LeCun ganhou o Prêmio Turing de 2018 pelo trabalho em aprendizado profundo, também assinou a carta.

Bengio escreveu que foi em razão da “aceleração inesperada” nos sistemas de IA que “precisamos dar um passo atrás”.

A carta aberta faz as seguintes perguntas:

• Devemos deixar que as máquinas inundem nossos canais de informação com propaganda e falsidade?
• Devemos automatizar todos os trabalhos, incluindo os satisfatórios?
• Devemos desenvolver mentes não-humanas que eventualmente nos superassem em número, fossem mais espertas, nos tornassem obsoletos e nos substituíssem?
• Devemos arriscar perder o controle da nossa civilização?

“Tais decisões não devem ser delegadas a líderes tecnológicos não eleitos”, conclui a carta. E propõe que laboratórios e especialistas de IA usem o período proposto para implementar protocolos de segurança e atuar com formuladores de políticas públicas.

Competição internacional 

Mas Hinton comentou à BBC que “no curto prazo” ele acha que a IA traria muito mais benefícios do que riscos, “então não acho que devemos parar de desenvolver essas coisas”, acrescentou.

Ele destacou que a competição internacional torna difícil uma pausa. . “Mesmo que todos nos Estados Unidos parassem de desenvolvê-lo, a China teria apenas uma grande vantagem”, disse ele.

Hinton também disse que era um especialista em ciência, não em política, e que era responsabilidade do governo garantir que a IA fosse desenvolvida “com muita reflexão sobre como impedir que ela se tornasse desonesta”.

Entenda a IA

Os chatbots de IA são apenas um aspecto da inteligência artificial, mesmo que sejam os mais populares no momento. A tecnologia está por trás dos algoritmos que determinam quais plataformas de streaming de vídeo decidem que você deve assistir a seguir. 

A IA pode ser usada no recrutamento para filtrar os pedidos de emprego, pelas seguradoras para calcular os prêmios, pode diagnosticar condições médicas (embora os médicos humanos ainda tenham a palavra final).

O que estamos vendo agora é o surgimento da AGI – inteligência artificial geral – que pode ser treinada para fazer várias coisas dentro de uma missão. Assim, por exemplo, o ChatGPT só pode oferecer respostas de texto para uma consulta, mas as possibilidades dentro disso, como estamos vendo, são infinitas.

Mas o ritmo da aceleração da IA surpreendeu até mesmo seus criadores. Ela evoluiu dramaticamente desde que Hinton construiu uma rede neural de análise de imagem pioneira em 2012.

Estamos em um trem veloz agora, e a preocupação é que um dia ele comece a construir seus próprios trilhos.

Com informações do El País, BBC e The New York Times

Fonte: Revista Fórum