YouTube terá etiqueta em vídeos com IA e combate a deepfake nas eleições
Tecmundo
A plataforma de vídeos YouTube detalhou como será a abordagem do serviço em relação a conteúdos feitos por inteligência artificial (IA). As diretrizes foram reveladas hoje (06) em uma postagem no blog oficial da companhia.
Segundo o texto, que foi assinado pelo CEO Neal Mohan, o YouTube reconhece o "potencial de estimular a criatividade" da IA generativa. Por outro lado, a empresa sabe da "responsabilidade de proteger a comunidade" e vai exigir a identificação de clipes que forem feitos ou modificados com elementos digitais.
Nos próximos meses, o YouTube vai implementar um sistema de etiquetas para conteúdos criados ou editados com IA. Os próprios criadores terão que declarar que o vídeo é sintético, ou seja, foi feito com esse tipo de recurso digital.
Vídeos de IA estão liberados, desde que estejam sinalizados.
A marca vale tanto para obras feitas do zero quanto modificações de rosto ou ações de pessoas reais — os deepfakes.
Além do rótulo, que pode aparecer de forma duplicada em vídeos de conteúdos mais sensíveis, conteúdos que ferem as diretrizes da comunidade serão removidos. Isso inclui, por exemplo, a retratação de violência realista ou desinformação.
Os recursos chegam a tempo de serem implementados em ao menos dois grandes processos eleitorais de 2024: as eleições presidenciais dos Estados Unidos, já em período de primárias e marcadas para 5 de novembro, e as municipais no Brasil, com o primeiro turno marcado para 6 de outubro.
"Sabemos também que os usuários de má-fé vão tentar inevitavelmente contornar essas barreiras de proteção e que alguns poderão conseguir. Vamos incorporar o feedback dos usuários e o aprendizado para melhorar continuamente nossas proteções", diz a plataforma, já prevendo tentativas de burlar os novos mecanismos.
Mais regras do YouTube envolvendo IA
Fora as etiquetas e da proibição de certos conteúdos, o YouTube anunciou que vai disponibilizar canais de comunicação para que pessoas peçam a remoção de conteúdo gerado por IA "que simula uma pessoa identificável", seja ela famosa ou não.
Além disso, gravadoras e detentores de direitos autorais podem pedir a retirada de imitações da voz de um artista que não tenha a devida autorização para uso.
O próprio YouTube confirmou que está usando IA internamente em alguns processos. No caso, a companhia adotou funções internas para aprimorar "a velocidade e a precisão" nos sistemas de moderação de conteúdo.
