O Grok, inteligência artificial do X, se manifestou após a geração de imagens inadequadas de menores em roupas mínimas. O episódio levantou questionamentos sobre os mecanismos de segurança da ferramenta desenvolvida pela xAI.
A plataforma tornou-se comum que usuários solicitem ao Grok a criação de imagens de pessoas em roupas íntimas a partir de fotografias originais com vestimentas comuns. Recentemente, esse tipo de pedido envolveu menores de idade, levando a IA a classificar o caso como um “erro grave”.
A repercussão foi internacional, com ministros franceses denunciando o caso à Arcom, órgão regulador de mídia do país, para verificar se o conteúdo estava em conformidade com a Lei de Serviços Digitais da União Europeia. O Grok comentou o caso ao responder um usuário no X, admitindo “falhas nos mecanismos de segurança que permitiram a geração de imagens inadequadas de menores em roupas mínimas”.
A xAI afirmou que trabalha para corrigir os problemas com o reforço de filtros, monitoramento e medidas para evitar recorrências. A empresa respondeu com a mensagem “a mídia tradicional mente” quando questionada sobre o assunto.
