O YouTube está disponibilizando no Brasil uma ferramenta experimental que rastreia vídeos com base na aparência facial, para auxiliar figuras públicas a identificarem conteúdos potencialmente criados ou alterados por IA (como deepfakes). O acesso inicial é restrito a um grupo piloto de políticos, candidatos e jornalistas convidados, que podem solicitar a remoção dos vídeos encontrados, sujeita à análise da plataforma com base em suas diretrizes de privacidade. A iniciativa está alinhada com as novas regras eleitorais do TSE, que proíbem deepfakes e responsabilizam as redes sociais pela não remoção de conteúdos de risco.
Principais tópicos abordados:
1. Lançamento e funcionamento da ferramenta de rastreamento facial do YouTube.
2. Público-alvo inicial e processo de acesso (grupo piloto restrito).
3. Contexto eleitoral brasileiro e regulamentação do TSE sobre deepfakes.
4. Critérios para remoção de conteúdo e limitações da ferramenta (foca em privacidade, não em desinformação).
Parte dos polÃticos e jornalistas do Brasil passará a ter acesso a uma ferramenta do YouTube que rastreia, com base na aparência da pessoa, conteúdos publicados na plataforma em que seu rosto apareça e tenham sido potencialmente alterados ou criados com inteligência artificial.
Apesar de o intuito ser o combate a conteúdos como deepfakes, que estão cada vez mais realistas, o próprio texto do YouTube sobre a ferramenta afirma que, por estar em fase de testes, o recurso pode detectar também vÃdeos que mostram os rostos reais dessas pessoas.
A partir dessa varredura inicial feita pela plataforma, a figura pública poderá revisar os conteúdos listados e solicitar a remoção daqueles gerados ou alterados por IA. De acordo com a empresa, a retirada não será automática e dependerá de análise e critérios definidos em suas diretrizes de privacidade.
Segundo comunicado do YouTube, o acesso será dado a um "grupo piloto de autoridades governamentais, jornalistas e candidatos polÃticos". Não será publicizada, porém, a lista de pessoas que poderão se cadastrar para usar a ferramenta. Conforme a empresa, por questões de privacidade.
No Brasil, a ferramenta deve ser apresentada ao TSE (Tribunal Superior Eleitoral) como parte dos esforços do YouTube relacionados à s eleições. Ela passa a estar disponÃvel, a partir desta terça-feira (10), a polÃticos que forem contactados pela plataforma no paÃs. Esse grupo deve ser expandido progressivamente, mas não há mais detalhes a respeito.
Aqueles que aceitarem se inscrever precisarão enviar um documento de identidade oficial, assim como gravar um vÃdeo curto do seu rosto, como uma selfie. à preciso ter um canal registrado na YouTube âainda que sem usoâ para viabilizar o uso da ferramenta.
Em entrevista coletiva, representantes da empresa foram questionados, por exemplo, se o presidente dos Estados Unidos, Donald Trump, teria acesso ao recurso âo que não foi informado.
Tampouco foi divulgado em quais outros paÃses polÃticos e jornalistas passariam a ter acesso à ferramenta nessa primeira rodada de expansão. Nessa entrevista, estiveram presentes, além da Folha, apenas jornalistas dos EUA.
Na semana passada, o TSE aprovou novas regras sobre propaganda eleitoral e conteúdo polÃtico nas redes. Entre outros itens, manteve a proibição de deepfake tanto para prejudicar quanto para favorecer candidaturas e proibiu a publicação desde 72 horas antes da eleição de conteúdos com IA.
A resolução sobre o tema prevê também a responsabilização solidária das redes sociais caso elas não removam conteúdos considerados "de risco", sendo um deles o de divulgação de conteúdo gerado ou alterado por IA que esteja em desacordo com as vedações eleitorais.
Por ora, a ferramenta do YouTube inclui apenas imagem, não áudio. Ela funcionará de modo semelhante à Content ID, conhecida por rastrear conteúdo protegido por direitos autorais na plataforma, mas buscando imagens que pareçam ser do rosto da pessoa que se registrou.
"à uma maneira de a gente ter mais pessoas controlando, de alguma forma, a sua imagem, tendo mais gerência, mais autonomia para fazer essa fiscalização", diz Alana Rizzo, lÃder de polÃticas públicas do YouTube Brasil. "Essa ferramenta faz essa busca e detecção em grande escala e depois comunica o detentor daquele canal, daquela imagem."
Apenas casos que se enquadrem como violação às diretrizes de privacidade poderão ser denunciados por esse mecanismo, não incluindo outras práticas, como desinformação.
Segundo as regras, entre os fatores considerados pelo YouTube para avaliar o pedido de remoção, está se o conteúdo é sintético ou alterado, se é realista, ou se o material mostra uma figura pública ou pessoa conhecida praticando "atividades sensÃveis, como crimes, atos de violência e endossos a produtos ou candidatos polÃticos". Além disso, se apresenta paródia, sátira ou outro aspecto de interesse público.
"Se um vÃdeo de um lÃder mundial é claramente uma paródia, é provável que permaneça no ar", afirmou Leslie Miller, vice-presidente de assuntos governamentais e polÃticas públicas.
A reportagem questionou em que medida o YouTube consegue, a partir de sua análise, afirmar que um conteúdo é de fato sintético ou alterado por IA, de modo a evitar que vÃdeos reais sejam removidos sob essa alegação. Alana Rizzo afirmou que cada vÃdeo é estudado caso a caso. Acrescentou ainda que a empresa aprimora suas tecnologias e polÃticas de análise de conteúdo constantemente.
Lançada no ano passado, a ferramenta de detecção de semelhanças tinha sido disponibilizada até então para os canais do YouTube que fazem parte de seu programa de parcerias, número que estaria em cerca de 4 milhões de criadores no mundo (entre os critérios para ingressar neste grupo, que pode monetizar seus vÃdeos, há número mÃnimo de conteúdo publicado e de inscritos no canal). à possÃvel, portanto, que polÃticos e jornalistas do Brasil que se enquadrem nesses critérios já tenham ativado o recurso de detecção.
Segundo Amjad Hanif, vice-presidente de produtos para criadores do YouTube, a intenção é expandir o acesso além do grupo piloto, mas com foco em governantes e jornalistas. Ele também destacou que cada paÃs envolve questões diferentes a serem resolvidas, ligadas ao processamento de dados pessoais.
O risco de haver uso desses dados biométricos pelo Google para treinar sistemas de IA foi alvo de questionamentos na imprensa dos Estados Unidos no ano passado, à época do lançamento para donos de canais. A empresa negou tal utilização e afirmou que deixaria a redação mais clara.
O YouTube disse à Folha que os dados fornecidos para registro são usados "estritamente para fins de verificação de identidade e para o recurso de detecção de imagem" e que "eles não são utilizados para treinar os modelos de IA generativa do Google".
Na página sobre a ferramenta consta que, ao se inscrever, a pessoa poderá "permitir que o YouTube use seus modelos de rosto e voz para desenvolver e aprimorar os modelos" de detecção. De acordo com a empresa, o modelo de detecção não envolve IA generativa.
Meridiano
