O SynthID do Google Detecta Conteúdo de IA—Mas O Que É ‘Marcação’ de IA e Isso Funciona?

Crédito:Pixabay

No mês passado, o Google anunciou o SynthID Detector, uma ferramenta que pode identificar textos, imagens, vídeos e áudios gerados por IA. Existem algumas limitações. Atualmente, a ferramenta está acessível apenas para “testadores iniciais” através de uma lista de espera.

Além disso, o SynthID funciona principalmente com conteúdo gerado por serviços de IA do Google, como Gemini (texto), Veo (vídeo), Imagen (imagens) ou Lyria (áudio). Ele não detectará conteúdo de IA criado com ferramentas como o ChatGPT.

Isto é porque o SynthID não identifica realmente o conteúdo gerado por IA; ele apenas detecta uma “marca d’água” incorporada por certos produtos de IA do Google em sua saída.

Uma marca d’água é uma marca legível por máquina oculta dentro de imagens, vídeos, áudios ou textos. Marcas d’água digitais ajudam a rastrear a origem ou a autoria do conteúdo, frequentemente utilizadas para proteger obras criativas e combater a desinformação.

O SynthID incorpora essas marcas d’água em saídas geradas por IA. Essas marcas são invisíveis para os usuários, mas podem ser detectadas por ferramentas para confirmar o conteúdo criado ou editado por modelos de IA usando o SynthID.

SynthID é uma das mais recentes tentativas disso — mas quão bem esses métodos realmente funcionam?

Não existe um sistema universal para detectar IA 

Várias empresas de IA, incluindo a Meta, criaram suas próprias ferramentas de marca d’água e detectores como o SynthID, mas estas são específicas para modelos individuais em vez de soluções universais.

Como resultado, os usuários devem gerenciar várias ferramentas para verificar o conteúdo. Apesar dos apelos por um sistema unificado e dos esforços de empresas como o Google para promover o seu, o cenário de detecção continua fragmentado.

Outra abordagem foca em metadados—detalhes sobre a origem, autoria e histórico de edição da mídia. Por exemplo, a ferramenta de inspeção de Credenciais de Conteúdo permite que os usuários verifiquem a mídia verificando seu histórico de edição.

No entanto, os metadados podem ser facilmente removidos quando o conteúdo é enviado para as redes sociais ou convertido para diferentes formatos, o que é especialmente problemático se alguém quiser ocultar a origem de um conteúdo.

Existem também detectores que analisam pistas forenses como falhas visuais ou erros de iluminação. Embora alguns sejam automatizados, muitos dependem do julgamento humano e de verificações simples, como contar os dedos em imagens geradas por IA. Esses métodos podem perder eficácia à medida que a qualidade da IA melhora.

Quão bem funcionam as ferramentas de detecção de IA? 

As ferramentas de detecção de IA variam amplamente em eficácia. Elas tendem a ter um desempenho melhor com conteúdo totalmente gerado por IA, como ensaios criados inteiramente por chatbots.

No entanto, a precisão cai quando a IA é usada para editar ou modificar trabalhos criados por humanos. Nesses casos, os detectores muitas vezes não percebem a participação da IA ou rotulam incorretamente o conteúdo humano como gerado por IA.

Essas ferramentas raramente esclarecem como alcançam suas conclusões, causando ainda mais incerteza. Quando aplicadas em verificações de plágio universitário, são vistas como um ‘campo de minas ético’ e foram criticadas por viés contra falantes não nativos de inglês.

Áreas onde ferramentas de detecção de IA são úteis 

As ferramentas de detecção de IA têm muitos usos práticos. Por exemplo, as seguradoras podem verificar se uma imagem em uma reclamação realmente representa a situação, ajudando a guiar sua resposta.

Jornalistas e verificadores de fatos podem usar detectores de IA juntamente com outros métodos para decidir se a informação é confiável o suficiente para ser compartilhada. Na contratação, tanto empregadores quanto candidatos precisam confirmar se a pessoa com quem estão interagindo é real ou um fake gerado por IA.

Usuários de aplicativos de namoro querem saber se um perfil pertence a uma pessoa genuína ou a um avatar de IA, o que pode ser parte de um golpe romântico. Para os socorristas, identificar se um chamador é humano ou uma IA pode ser crucial na alocação de recursos e na salvamento de vidas.

Qual é o próximo passo? 

Como esses exemplos ilustram, os desafios de autenticidade estão se desenrolando em tempo real, e métodos estáticos como a marca d’água não serão suficientes. O desenvolvimento de detectores de IA capazes de realizar análises de áudio e vídeo em tempo real é urgentemente necessário.

De qualquer forma, confiar apenas em uma ferramenta para julgamentos de autenticidade é improvável.

Um primeiro passo importante é entender como essas ferramentas funcionam e suas limitações. Combinar seus resultados com outras informações e seu próprio contexto continuará sendo crucial.

Leia o artigo original em: Tech Xplore

Leia mais:Veja Como a Ciência Explica a Detecção de um Sorriso Falso