A Google quer facilitar a identificação da origem de conteúdos digitais, incluindo material gerado por inteligência artificial.
A Google anunciou a expansão de um conjunto de ferramentas destinadas a reforçar a transparência na criação e edição de conteúdos digitais, numa altura em que os conteúdos gerados por inteligência artificial se tornam cada vez mais comuns na internet.
O objetivo passa por facilitar a identificação da origem de imagens, vídeos e áudio, bem como perceber se esses conteúdos foram alterados ou criados com recurso a IA. As novas funcionalidades abrangem vários produtos da empresa, incluindo o motor de pesquisa, a aplicação Gemini, o navegador Chrome, dispositivos Pixel e serviços na Google Cloud.
No centro desta estratégia está o SynthID, uma tecnologia de marca de água digital que permite incorporar sinais impercetíveis em conteúdos gerados por inteligência artificial. Segundo a empresa, a solução já foi aplicada a mais de 100.000 milhões de imagens e vídeos, além de conteúdos de áudio equivalentes a cerca de 60.000 anos. Esta tecnologia tem vindo a ser integrada nos modelos de geração de media da Google, permitindo identificar conteúdos sintéticos sem alterar a sua aparência.
A empresa recorre também ao padrão C2PA Content Credentials, um sistema que fornece informação sobre a origem e eventuais alterações de ficheiros digitais, independentemente de terem sido gerados por IA ou não. Este mecanismo já está presente em dispositivos como o Pixel 10, que integra estas credenciais diretamente na aplicação de câmara. A funcionalidade deverá ser alargada ao vídeo nos modelos Pixel 8, 9 e 10.
Ao registar dados no momento da captura, os dispositivos conseguem comprovar se um conteúdo é original e não editado. A Google considera que, no atual contexto digital, identificar conteúdos autênticos é tão relevante quanto detetar ficheiros manipulados ou gerados por inteligência artificial.
A empresa está também a reforçar as ferramentas de verificação acessíveis ao utilizador. A funcionalidade de verificação baseada em SynthID, já disponível na aplicação Gemini para imagens, vídeo e áudio, registou cerca de 50 milhões de utilizações a nível global. Esta capacidade começa agora a ser integrada na Pesquisa Google e deverá chegar ao Chrome nas próximas semanas.
Através destas ferramentas, os utilizadores podem questionar diretamente a origem de um conteúdo, incluindo se foi criado com inteligência artificial. Além disso, a verificação de credenciais C2PA será incorporada na aplicação Gemini, permitindo confirmar se um ficheiro corresponde a um original captado por uma câmara ou se foi modificado, bem como identificar os meios utilizados nesse processo. Esta funcionalidade será posteriormente alargada a outros serviços da empresa.
Estas medidas juntam-se a iniciativas já existentes, como a identificação de conteúdos gerados por IA no YouTube, bem como o desenvolvimento de ferramentas experimentais que analisam o contexto de imagens para melhorar a deteção de manipulação digital.
A Google sublinha que a eficácia destas soluções depende da adoção de padrões comuns em toda a indústria tecnológica. A empresa destaca ainda a disponibilização em código aberto da sua tecnologia de marca de água para texto e a colaboração com a NVIDIA para aplicar mecanismos de identificação a conteúdos de vídeo gerados por modelos de inteligência artificial.
Para além disso, foi anunciada uma nova API de deteção de conteúdos de IA na Google Cloud, destinada a ajudar organizações a identificar, classificar e gerir media sintético em diferentes contextos, desde moderação de conteúdos até prevenção de fraude.
No plano institucional, a Google mantém participação ativa no comité diretivo da C2PA, defendendo a criação de normas globais para garantir a interoperabilidade destas tecnologias. Entre os exemplos apontados está a Meta, que deverá passar a identificar conteúdos captados por câmaras com credenciais C2PA no Instagram, permitindo reconhecer conteúdos originais produzidos em dispositivos compatíveis.
