A intensa concorrência entre algumas das maiores empresas de tecnologia do mundo resultou em uma avalanche de ferramentas de inteligência artificial (IA) capazes de gerar textos com qualidade semelhante à escrita humana, além de imagens, áudio e vídeo incrivelmente realistas. Enquanto essas empresas prometem aumentos na produtividade e uma revolução na criatividade impulsionada pela IA, surgem também preocupações sobre um possível cenário em que a internet fique tão saturada de conteúdo e desinformação gerados por IA que se torne impossível distinguir o verdadeiro do falso.
Em resposta a essas preocupações, diversos desenvolvedores de IA têm intensificado seus esforços para promover a transparência e a detecção de conteúdo gerado por máquinas. Recentemente, o Google anunciou o lançamento do SynthID Detector, uma plataforma que consegue identificar rapidamente conteúdo produzido por um de seus modelos generativos: Gemini, Imagen, Lyria e Veo.
Inicialmente apresentado em 2023, o SynthID é uma tecnologia que insere marcas d’água invisíveis — uma espécie de impressão digital digital — nas imagens geradas por IA. Essas marcas foram projetadas para se manterem intactas, mesmo quando as imagens são recortadas, filtradas ou modificadas de alguma forma. Desde então, os modelos de IA têm evoluído para se tornarem cada vez mais multimodais, capazes de interagir com diferentes formas de conteúdo. Por exemplo, o Gemini — o chatbot do Google criado em resposta ao sucesso viral do ChatGPT — pode gerar uma imagem a partir de um texto ou oferecer uma resposta em texto a uma imagem enviada.
O Google ampliou o SynthID para que ele possa adicionar marcas d’água não apenas a imagens geradas por IA, mas também a textos, áudios e vídeos. O SynthID Detector é um portal online que facilita a detecção de marcas d’água em mídias produzidas por ferramentas generativas da empresa. Os usuários simplesmente carregam um arquivo, e o sistema de detecção do Google faz a varredura buscando uma marca d’água, retornando informações sobre a presença ou ausência da mesma, ou se os resultados são inconclusivos. Imagens geradas pelo Gemini já vêm com marcas d’água embutidas de forma automática.
Para oferecer mais uma camada de transparência, o SynthID Detector permite a verificação mais fácil dessas marcas invisíveis. O Google anunciou, na terça-feira, que o SynthID Detector será inicialmente disponibilizado para um grupo de testadores precoces, antes de um lançamento público mais amplo. A empresa também criou uma lista de espera para jornalistas, profissionais de mídia e pesquisadores de IA.
"Para continuar a informar e capacitar as pessoas que interagem com conteúdo gerado por IA, acreditamos ser crucial seguir colaborando com a comunidade de IA e ampliar o acesso às ferramentas de transparência", comentou um executivo da Google DeepMind em um post em blog publicado na terça-feira. A companhia também revelou uma nova parceria com a GetReal Security, uma importante empresa de cibersegurança especializada em detectar desinformação digital.
A pressão por transparência é crescente. Com reguladores na Europa e nos EUA clamando por maior responsabilidade no setor de IA e um número crescente de vozes públicas alertando sobre os perigos dos deepfakes, as grandes empresas de tecnologia estão competindo não apenas para desenvolver os modelos mais poderosos, mas também para facilitar a identificação de mídias geradas por IA. Ferramentas como o SynthID Detector são parte de um movimento contínuo entre desenvolvedores de IA para reforçar suas reputações como líderes em segurança e transparência.
Embora as regulamentações europeias, como o Regulamento Geral sobre a Proteção de Dados (GDPR) e a Lei de IA exijam que empresas de IA tenham mecanismos de transparência, atualmente não existe uma regulamentação federal abrangente nos EUA. As empresas que atuam nesse mercado têm, portanto, o encargo de implementar medidas de detectabilidade para suas IAs. Redes sociais como TikTok e Instagram também começaram a exigir rótulos e outras divulgações para conteúdo gerado por IA compartilhado em suas plataformas.
Referência: Google
Posts relacionados:
ChatGPT facilitou a busca e a edição de todas as imagens geradas por IA que você criou.
Espaço para penalizações severas a quem não identificar conteúdo gerado por inteligência artificial
Nova IA chega ao Google Calendar: confira suas funcionalidades e como experimentá-la.
Nem todos os dispositivos Echo receberão o Alexa+ – confira se o seu está na lista
