Sam Altman e outros nomes do setor demonstraram apoio a uma desaceleração voluntária

Fonte: Revista Fórum

Oavanço acelerado da inteligência artificial levou uma das principais empresas do setor a defender uma mudança de ritmo. Dario Amodei, CEO da Anthropic, afirmou que as empresas precisam controlar a velocidade de desenvolvimento dos modelos mais avançados para garantir mais segurança e reduzir riscos, sem interromper a inovação tecnológica.

Em ensaio publicado neste sábado (12), Amodei apresentou um plano em três etapas para uma desaceleração coordenada. Segundo ele, a proposta não significa interromper pesquisas ou impedir novos avanços, mas reservar tempo para testar, alinhar e proteger os sistemas antes que eles alcancem capacidades ainda maiores.

A primeira medida já teria sido adotada pela própria Anthropic. A empresa passou a permitir que avaliadores externos tenham acesso equivalente ao de funcionários para analisar práticas de segurança e comunicar possíveis incidentes.

A segunda etapa prevê uma articulação entre grandes empresas de IA de países democráticos para criar padrões comuns de segurança. A terceira amplia essa coordenação para envolver governos, incluindo países com diferentes modelos políticos.

Amodei afirmou que uma desaceleração teria pouco sentido alguns anos atrás, quando os sistemas ainda não tinham capacidade de atuar diretamente no mundo real ou realizar ações como manipulação avançada, ataques cibernéticos ou estratégias de engano.

O executivo, porém, avalia que o cenário mudou. Para ele, caso a redução no ritmo permita ganhar um ou dois anos adicionais antes que os modelos atinjam níveis críticos de capacidade, esse período poderia ser usado para desenvolver mecanismos mais eficazes de controle.

O debate ganhou força depois que o pesquisador da Anthropic Jacob Coxon deixou a empresa afirmando temer que organizações como Anthropic e OpenAI estejam assumindo riscos excessivos. Segundo ele, parte dos pesquisadores acredita que sistemas futuros poderiam representar ameaças graves à humanidade.

A preocupação com riscos extremos da IA já havia levado pesquisadores e executivos do setor a assinarem, em 2023, uma declaração defendendo que reduzir riscos de extinção provocados pela tecnologia deveria ser uma prioridade global, ao lado de ameaças como pandemias e guerras nucleares.

A proposta de Amodei recebeu apoio de nomes importantes do setor. Sam Altman, CEO da OpenAI, afirmou concordar que a indústria precisa controlar o ritmo de avanço das capacidades mais avançadas e disse que a empresa também pretende adotar avaliações independentes.

O cientista-chefe da OpenAI, Jakub Pachocki, também defendeu que desacelerações voluntárias se tornem comuns até que padrões compartilhados de segurança sejam estabelecidos.

Até mesmo Elon Musk, que já fez críticas à Anthropic, declarou apoio à proposta. “Dario está certo”, escreveu o empresário em publicação na rede X.

Amodei afirmou que continua acreditando no potencial positivo da inteligência artificial, mas defendeu que os benefícios da tecnologia dependem da forma como ela será desenvolvida.

A Anthropic, empresa responsável pelo modelo Claude, também se prepara para uma possível abertura de capital, embora ainda não tenha divulgado oficialmente uma data para estreia no mercado.