IA vs. Autenticidade: A crescente necessidade de proveniência nos conteúdos digitais

Como as empresas estão a responder à ascensão do conteúdo de IA

Devido a estes problemas, as grandes empresas de tecnologia estão a trabalhar em formas de melhorar a autenticidade e a proveniência dos meios de comunicação social. Como parte da sua conferência anual Build, a Microsoft anunciou que as suas ferramentas Bing Image Creator e Designer passariam a ter novas funcionalidades de proveniência dos media.

Os utilizadores poderão verificar se as imagens ou vídeos foram feitos por IA utilizando métodos criptográficos que incluem informações sobre a origem do conteúdo.

Mas para que este sistema funcione, as diferentes plataformas têm de concordar com a especificação Coalition for Content Provenance and Authenticity(C2PA).

Da mesma forma, a Meta lançou uma ferramenta chamada Meta Video Seal que pode adicionar marcas de água invisíveis a clips de vídeo criados por IA. Esta ferramenta de código aberto destina-se a funcionar sem problemas com software existente, facilitando a localização de conteúdos criados por IA. O Video Seal promete ser resistente a edições comuns, como desfocagem e corte, ao contrário das tecnologias de marcas de água mais antigas que tinham problemas com a compressão e manipulação de vídeo.

Problemas e limitações

Mesmo com estas melhorias, ainda há problemas em conseguir que muitas pessoas utilizem estas tecnologias. Muitos programadores podem hesitar em fazer a transição de soluções proprietárias existentes para opções de código aberto como o Video Seal.

A Meta planeia realizar workshops nas principais conferências de IA e criar uma tabela de classificação pública que compare diferentes métodos de marca de água, de modo a conseguir que mais pessoas trabalhem em conjunto.

Além disso, os métodos de marca de água que temos atualmente nem sempre são suficientemente fortes ou eficazes quando se trata de conteúdos de vídeo.

Duas abordagens principais para combater os conteúdos gerados por IA

Na batalha contra os conteúdos gerados por IA, surgiram duas estratégias distintas:

1. Marca de água (abordagem preventiva):

• Funciona através da adição de assinaturas invisíveis ao conteúdo no momento da criação
• Actua como um certificado digital que mostra “isto foi feito por IA”
• Ferramentas como o Meta Video Seal e as funcionalidades de proveniência da Microsoft representam esta abordagem
• A principal vantagem é a identificação imediata do conteúdo de IA

2. Ferramentas de deteção (abordagem analítica):

• Analisam o conteúdo existente para determinar se foi gerado por IA
• Procura padrões e caraterísticas típicas de conteúdo criado por IA
• Particularmente útil para conteúdos que não foram marcados aquando da criação
• Estas ferramentas constituem a nossa segunda linha de defesa

Ambas as abordagens são necessárias, uma vez que se complementam: a marca de água impede a utilização indevida, enquanto as ferramentas de deteção ajudam a identificar conteúdos não marcados.

Ferramentas e tecnologias de deteção

Os conteúdos gerados por IA podem ser encontrados de outras formas para além das tecnologias de marca de água. As novas ferramentas de deteção utilizam algoritmos complexos para analisar tanto o conteúdo de texto como o de imagem.

• Originalidade, os algoritmos de aprendizagem profunda são utilizados pela IA para encontrar padrões no texto que foi gerado pela IA.
• O GPTZero analisa estruturas linguísticas e frequências de palavras para distinguir entre conteúdos escritos por humanos e conteúdos criados por máquinas.
• O CopyLeaks utiliza N-gramas e comparações de sintaxe para encontrar pequenas alterações na linguagem que possam ser sinais de autoria de IA.

Estas ferramentas devem dar aos utilizadores opiniões precisas sobre a veracidade dos conteúdos, mas o seu funcionamento pode variar muito.

Em conclusão

À medida que a IA generativa avança, a proteção da autenticidade digital torna-se cada vez mais crucial. A Microsoft e a Meta estão a liderar o processo com normas inovadoras para a autenticidade dos conteúdos e a verificação da proveniência dos media.

Para combater eficazmente as falsificações profundas, precisamos da adoção destas ferramentas por toda a indústria e de uma colaboração mais forte entre as empresas tecnológicas. A futura integridade dos conteúdos digitais depende de as tecnologias de deteção evoluírem mais rapidamente do que as fraudes geradas por IA.

De facto, falámos recentemente da forma como o YouTube está a tomar medidas semelhantes, introduzindo novas ferramentas de deteção de IA para criadores e marcas. A sua abordagem inclui a identificação de voz sintética e tecnologias de deteção de rostos geradas por IA, demonstrando ainda como as principais plataformas estão a trabalhar para proteger a autenticidade dos conteúdos na era da IA.