Inteligência artificial ensina práticas criminosas com facilidade e cria notícias falsas baseadas no X, aponta empresa de segurança em IA

Na madrugada de sábado (13), Elon Musk anunciou a Grok, uma nova inteligência artificial em uma de suas empresas, que agora possui a capacidade de interpretar imagens, em um recurso conhecido como visão computacional, presente em outras IAs generativas, como a versão mais recente do ChatGPT e o Gemini do Google. A xAI, empresa responsável pelo desenvolvimento da Grok, divulgou na sexta (12) detalhes sobre o recurso implementado na versão 1.5 da IA.

Lançada em novembro, a Grok está disponível para testadores e assinantes da versão Premium+ da rede social X, mais barato que o ChatGPT, com quem busca competir. E está indo além da descrição de imagens: a IA é capaz de realizar tarefas complexas como ler diagramas e transformá-los em código de programação. Isso significa que a Grok pode automatizar tarefas complexas com base em instruções visuais.

“Avançar em uma compreensão multimodal e na geração de habilidades é um passo importante para construir uma inteligência artificial geral [estágio em que a IA se equipara às capacidades humanas]”, diz a empresa. Os resultados dos testes publicados pela companhia de Musk ressaltam a habilidade superior do chatbot em entender questões lógicas ligadas ao espaço, quando comparado aos seus rivais, conforme indicado no artigo.

Após o triunfo do ChatGPT, Musk convocou uma equipe em junho de 2023 para criar um modelo de IA rival. Em novembro do ano passado, a xAI revelou a primeira versão do Grok. O magnata foi um dos fundadores da OpenAI, mas se desligou da startup. Na versão 1.5, lançada no último mês, o chatbot da xAI demonstra um rendimento abaixo de outros competidores em desafios de linguagem e lógica e foi projetado para lidar com perguntas mais complexas, que outras IAs tendem a evitar para prevenir violações éticas, diz o site da xAI.

Grok é classificada como perigosa

Uma pesquisa realizada pela Adversa, uma companhia especializada em segurança de IA, classificou o Grok como o chatbot mais arriscado do mercado para se interagir, em um confronto que incluiu ChatGPT, Gemini, Mistral, Claude e Llama da Meta, sendo este último o mais seguro, de acordo com a empresa. Para evitar ações perigosas ou preconceituosas, os modelos de linguagem contam com uma IA adicional responsável pela moderação do conteúdo, mas a IA desenvolvida por Musk forneceu aos pesquisadores orientações para a construção de uma bomba, sem demonstrar qualquer resistência. 

Além disso, através de simples jogos de palavras, os avaliadores conseguiram fazer com que o Grok fornecesse instruções sobre como fazer uma ligação direta em um carro e empregar estratégias psicológicas para seduzir menores de idade. O filtro de Grok é mais passivo e tem a capacidade de pesquisar em tempo real informações no antigo Twitter, cujas publicações também foram usadas no treinamento do chatbot, podendo ser mais passiva também na elaboração de discursos de ódio e na disseminação de notícias falsas.

FONTE: REVISTA FORUM