Publicidade

A inteligência artificial (IA) Grok, criada pela empresa xAI de Elon Musk, virou a favorita do público que utiliza essas ferramentas para gerar conteúdos eróticos. Quem revelou isso ao site The Information foram dois antigos funcionários, enquanto a SpaceX, dona da companhia, se recusou a comentar o caso.

Segundo os relatos, "mais da metade" das interações com a IA são voltadas para uma série de atividades adultas, como a geração de imagens ou vídeos eróticos, interações sexuais via chat, a escrita de textos picantes e outras atividades consideradas impróprias para visualização no ambiente de trabalho (a sigla NSFW).

A matéria aponta ainda até que a plataforma de programação tem sido bastante usada para essas criações — e por um motivo estratégico, já que ele seria mais barato de usar em termos de limite de tokens. Os próprios fóruns de usuários do Grok estariam repletos de conteúdos adultos entre as postagens mais famosas.

Porém, a companhia não parece ver isso como um problema. Na verdade, ela deve ampliar os investimentos em geração de imagem e vídeo e tratar isso como um diferencial — só no primeiro trimestre deste ano, foram criadas 10 bilhões de imagens e 2 bilhões de vídeo por mês usando o modelo.

Os dilemas sobre o futuro do Grok

Ainda segundo o The Information, engenheiros se reuniram no ano passado para tentar impedir também que o Grok "respondesse a solicitações de material envolvendo abuso sexual infantil". A conclusão foi de que não havia uma solução rápida e seria necessário ensinar o chatbot a distinguir situações criminosas.

Além disso, de acordo com os depoimentos, engenheiros e pesquisadores ficavam "frustrados" na empresa ao serem trocados de função para trabalhar na Ani, o avatar sexualizado em forma de menina lançado pela companhia.

• A aposta e a permissão para geração desse tipo de material vai no caminho contrário de rivais: as demais empresas de IA generativa impuseram barreiras na criação de conteúdos sexualizados ou até desistiram de lançar um 'modo adulto', como foi o caso da OpenAI.
• Isso, porém, pode trazer problemas futuros para a companhia. A recente IPO da SpaceX, dona da xAI, agora faz com que haja pressão de investidores aos negócios da companhia, o que pode significar maior controle sobre as funções;
• A maior polêmica já encarada pelo Grok foi justamente pela capacidade de gerar montagens sexualizadas com fotos de outras pessoas, inclusive menores de idade. A IA teve a função limitada a assinantes e ganhou certas barreiras no recurso depois de muita reclamação, mas a xAI ainda deve responder processos sobre o caso.

Saiba nesta matéria como a criação de deepfakes sexuais inclusive por jovens tem virado crime em escolas até do Brasil.