Ursula von der Leyen avisou que Bruxelas poderá avançar com medidas legais contra a plataforma X caso a empresa não trave a criação de deepfakes sexuais e conteúdos ilegais através do chatbot Grok.
A presidente da Comissão Europeia, Ursula von der Leyen, afirmou este domingo que a União Europeia está preparada para intervir ao abrigo da Lei dos Serviços Digitais caso a X (a plataforma anteriormente conhecida como Twitter) não atue de forma eficaz para travar a utilização do Grok, o chatbot de inteligência artificial integrado na rede social, na criação e disseminação de imagens sexuais manipuladas, incluindo conteúdos envolvendo mulheres e crianças.
Em declarações a um grupo restrito de jornalistas europeus em Bruxelas, Ursula von der Leyen admitiu estar “chocada” com o facto de uma plataforma tecnológica como uma rede social tão influente permitir que os utilizadores “dispam digitalmente mulheres e crianças online”, classificando essa prática como “impensável”. A presidente sublinhou também que os danos causados por deepfakes sexuais são reais e advertiu que a União Europeia não irá confiar a proteção de menores e a exigência de consentimento nas empresas tecnológicas sediadas nos Estados Unidos. “Se não agirem, agiremos nós”, afirmou.
A posição de Bruxelas enquadra-se na aplicação da Lei dos Serviços Digitais, que entrou em vigor em agosto de 2024 e tornou a União Europeia a primeira jurisdição a impor obrigações abrangentes às grandes plataformas digitais. A legislação exige a remoção célere de conteúdos ilegais, a adoção de medidas de mitigação de riscos e a proteção reforçada de menores. As plataformas classificadas como de muito grande dimensão, com mais de 45 milhões de utilizadores ativos mensais na União Europeia, ficam sujeitas a deveres adicionais de avaliação e controlo de riscos sistémicos, e as empresas que violem estas regras podem enfrentar coimas proporcionais à sua dimensão económica. Apesar da oposição expressa por Washington e do apoio da administração norte-americana às grandes tecnológicas, a Comissão Europeia já avançou com multas ao abrigo deste novo quadro legal.
A pressão sobre a plataforma X não se limita ao espaço europeu. No Reino Unido, a Ofcom, regulador independente das comunicações e responsável pela aplicação do Online Safety Act, já abriu uma investigação formal para apurar se a plataforma falhou na prevenção da disseminação de conteúdos ilegais, incluindo material de abuso sexual de menores e imagens íntimas não consensuais geradas através do Grok. A investigação avalia, entre outros aspetos, os mecanismos de prevenção, a rapidez na remoção de conteúdos e as medidas de proteção de menores.
Fora da Europa, países como a Malásia e a Indonésia tornaram-se os primeiros a bloquear o acesso ao Grok, alegando falta de medidas e de salvaguardas eficazes para impedir a criação e difusão de deepfakes sexuais. As autoridades indonésias apontam riscos graves para os direitos de imagem, a privacidade e a segurança das vítimas, enquanto que o regulador malaio aponta para casos repetidos de utilização do chatbot na criação de conteúdos explícitos envolvendo mulheres e crianças.
Por enquanto, ignorando as acusações sobre a criação de material ilegal e questionável, a plataforma X defende-se apenas ao afirmar que as funcionalidades de geração e edição de imagens do Grok estariam limitadas a utilizadores pagos, algo que já foi invalidado através de relatos que afirmam ser possível gerar imagens por utilizadores não subscritores.
