YouTube enfrenta uma vaga de conteúdos de IA após o encerramento do Sora; lança deteções automáticas para vídeos gerados por IA

De acordo com a Forbes, o YouTube está a lidar com uma vaga de conteúdos gerados por IA na sequência da paragem do Sora da OpenAI, o que levanta preocupações sobre deepfakes e a qualidade da plataforma. A plataforma de partilha de vídeos alberga cerca de 290 milhões de vídeos, e os conteúdos gerados por IA estão a acelerar o crescimento. O CEO do YouTube, Neal Mohan, reconheceu o desafio, afirmando que a plataforma tem de equilibrar a disponibilização do uso criativo de IA com a prevenção de que o spam de baixa qualidade sobrecarregue os utilizadores.

Em resposta, o YouTube anunciou em maio um sistema de auto-deteção que rotula os vídeos como “significativamente alterados ou inteiramente criados por IA”, mesmo quando os criadores não divulgam essa informação. A plataforma lançou também em abril uma funcionalidade de avatar com IA que permite aos utilizadores criar personas digitais. Entretanto, cerca de um milhão de criadores autorizaram o YouTube a utilizar os seus conteúdos para treinar modelos de IA — aproximadamente 1,5% dos cerca de 69 milhões de criadores ativos estimados da plataforma. Algumas empresas externas de IA chegaram a oferecer até 100.000 USD por 1.000 horas de filmagens dos criadores, para licenciamento.