A União Europeia começou a aplicar novas regras de transparência para conteúdos criados ou modificados por inteligência artificial (IA). O Artigo 50 do AI Act, que entrou em vigor em 2 de agosto, determina que empresas identifiquem imagens, vídeos e áudios gerados por IA quando eles puderem ser confundidos com conteúdos reais.
Identificação clara e rótulos específicos
A regra também abrange determinados textos produzidos ou manipulados por IA sobre assuntos de interesse público, caso não tenham passado por revisão humana ou controle editorial. A medida coloca a UE entre as regiões com regras mais rígidas para identificar conteúdos sintéticos. O descumprimento pode resultar em multas de até 15 milhões de euros ou 3% do faturamento anual mundial da empresa.
Métodos de identificação e preocupações com desinformação
Como funciona a regra da UE sobre marca d’água em conteúdo de IA? A legislação não determina uma tecnologia específica para fazer a identificação. Em vez disso, ela exige que a origem sintética do conteúdo possa ser reconhecida. Assim, empresas de IA podem recorrer a diferentes métodos, como marcas d’água invisíveis, que ficam incorporadas ao próprio conteúdo, e metadados, que registram informações sobre a origem do arquivo.
Rótulos e sua importância
Os rótulos devem aparecer de maneira clara quando o usuário entra em contato com o material. Exemplos de rótulos incluem: AI, que indica participação de IA na criação ou alteração do conteúdo; AI GENERATED, para conteúdos produzidos integralmente por IA; e AI MODIFIED, que identifica conteúdos originalmente feitos por humanos que foram modificados por IA.
Desafios e limitações das novas regras
A principal preocupação da UE é reduzir o impacto de desinformação, golpes e deepfakes. Contudo, a rotulagem não resolve todos os problemas, pois marcas d’água podem ser prejudicadas por alterações no arquivo. Além disso, não existe um padrão universal compartilhado entre as empresas de tecnologia, o que limita a eficácia da rastreabilidade.
Opinião
A implementação dessas novas regras é um passo significativo para a transparência, mas a eficácia real dependerá da colaboração entre empresas e da conscientização dos usuários sobre a importância da verificação de fontes.
