Stephen Fry revela que sua voz foi “roubada” dos audiolivros de Harry Potter para criar uma narração documental gerada por IA.

Resumo

• Stephen Fry chocado ao descobrir que sua voz está sendo usada sem consentimento pela tecnologia de IA; destaca a exploração e os perigos do conteúdo gerado por IA.
• A IA replicou o timbre e o estilo vocal de Fry a partir de gravações dele lendo Harry Potterlevando ao uso não autorizado em um documentário.
• Fry enfatiza as consequências potenciais, já que a IA pode criar qualquer conteúdo baseado na voz ou imagem de alguém sem o seu conhecimento ou permissão. Vídeos deepfake completos estão se tornando igualmente convincentes.

O multipremiado e aclamado ator, comediante, diretor e escritor britânico Stephen Fry ficou horrorizado ao descobrir que sua conhecida voz estava sendo saqueada pela tecnologia de IA e usada sem o seu consentimento. Tendo gravado horas de material para a série de audiolivros de Harry Potter, bem como para a biblioteca completa de Sherlock Holmes, há uma grande variedade de amostras da voz de Fry disponíveis, e parece que algumas pessoas foram rápidas em explorar o fato.

Em meio às atuais greves em Hollywood, que colocam o WGA e o SAG-AFTRA em disputa por regulamentações sobre o uso de IA na indústria cinematográfica e televisiva, Fry descobriu que sua voz foi usada para narrar um documentário do qual ele não tinha conhecimento prévio. Só que na verdade não era a voz dele, pois graças ao uso da inteligência artificial alguém foi capaz de replicar seu timbre e estilo vocal exatos com base na leitura que o ator fez dos sete Harry Potter livros.

Durante uma recente participação no CogX Festival (através da Forbes), o ator abordou essa situação, mostrando aos presentes um trecho do documentário onde uma réplica de sua voz foi utilizada sem sua autorização:

“Sou um membro orgulhoso [actors’ union SAG-AFTRA]. Como vocês sabem, estamos em greve há três meses. E uma das questões candentes é a IA. Eu não disse uma palavra sobre isso – era uma máquina. Sim, isso me chocou. Eles usaram minha leitura dos sete volumes dos livros de Harry Potter e, a partir desse conjunto de dados, foi criada uma IA da minha voz, que fez aquela nova narração.”

Fry também falou sobre os perigos que acompanham o uso dessas tecnologias, podendo criar qualquer tipo de conteúdo baseado na voz ou imagem de qualquer pessoa:

“O que você ouviu não foi o resultado de um mashup. Isto vem de uma voz artificial flexível, onde as palavras são moduladas para se adequar ao significado de cada frase. Poderia, portanto, me fazer ler qualquer coisa, desde um chamado para invadir o Parlamento até pornografia pesada, tudo sem o meu conhecimento e sem a minha permissão. E isso, o que você acabou de ouvir, foi feito sem o meu conhecimento. Então eu ouvi sobre isso, enviei para meus agentes em ambos os lados do Atlântico, e eles ficaram loucos – eles não tinham ideia de que tal coisa era possível. Você ainda não viu nada. Isso é áudio. Não demorará muito até que vídeos deepfake completos sejam igualmente convincentes. “

Relacionado: NBA Jam de Harry Potter traz Daniel Radcliffe, Emma Watson e até Maggie Smith ao tribunal em Slam-Dunkin’ AI Fan Art

A inteligência artificial é realmente o problema?

O avanço de diferentes tecnologias permitiu ao cinema e à televisão criar imagens, cenários e sequências que anos atrás seriam impossíveis. James Cameron, por exemplo, demorou tanto para fazer sua avatar sequência porque a tecnologia não avançou o suficiente para criar o mundo subaquático que ele queria Avatar: O Caminho da Água.

Mas embora estas ferramentas possam ser úteis em muitas áreas, também representam um enorme perigo. No entanto, a verdadeira ameaça não são as ferramentas, mas quem as utiliza e como são utilizadas. No caso de Fry, por exemplo, é o fato de replicarem sua voz sem sua permissão. Se o ator tivesse concordado que essa narração fosse feita com base em sua voz, mas sem realmente gravá-la, a história seria diferente. Ainda pode ser questionável, mas teria sido feito com o seu consentimento.