Usuários do 4chan estão usando um software baseado em inteligência artificial que clona vozes de celebridades para disseminar discurso de ódio falso online.
O software foi criado pela empresa ElevenLabs e usa inteligência artificial para simular vozes de pessoas famosas. Os trolls do forum de imagens estão abusando do sistema, fazendo com que ele reproduza discurso de memes, falas eróticas e desinformação.
- Não entendeu algum termo do universo Web3? Confira no nosso Glossário!
- Quer se manter atualizado em tudo o que é relevante no mundo cripto? O BeInCrypto tem uma comunidade no Telegram em que você pode ler em primeira mão as notícias relevantes e conversar com outros entusiastas em criptomoedas. Confira!
- Você também pode se juntar a nossas comunidades no Twitter (X), Instagram e Facebook.
Um dos abusos cometidos, por exemplo, é um clipe com uma voz semelhante à da atriz Emma Watson lendo uma parte do Mein Kammpf.
Vozes da extrema direita americana também não foram poupadas. Outro video simula a voz do apresentador Ben Shapiro falando considerações racistas sobre a política americana Alexandria Ocasio-Cortez.
Um último clipe reproduz a voz de uma pessoa sendo enforcada enquanto fala “direitos trans são direitos humanos”.
Evolução da inteligência artificial
O uso de vozes falsas para simular falas de personalidades, chamado deepfake, não é novo. Ele é muito usado em esquetes de humor nos Estados Unidos e em países como o Brasil.
Entretanto, até agora, o acesso a esse tipo de manipulação era restrito àqueles com certo conhecimento técnico. A ElevenLabs eliminou esta barreira, uma vez que seu software é acessível ao grande público.
O programa foi aberto ao público no final de semana e os abusos começaram pouco tempo depois.
De acordo com a própria Eleven Labs, o objetivo da ferramenta é fornecer clipes de vozes acessíveis ao público para serem usadas em áudio e vídeo. Além disso, ela é capaz de reproduzir a voz de qualquer pessoa ao escanear um clipe de exemplo.
A empresa aponta que o software ainda está em fase beta. Ela acrescentou que é capaz de rastrear qualquer clipe gerado de volta ao computador de quem o criou. Entretanto, ainda está trabalhando na implementação de novos recursos de segurança.
O uso de inteligência artificial para tarefas, por sua vez, é benigno na maioria das vezes. Entretanto, isso não impediu que criminosos tentassem usar o ChatGPT para criar malware.
Deepfakes e política
O uso de deepfakes para gerar desinformação se tornou uma preocupação no mundo político. Isto ocorre porque essa tecnologia pode manipular eleitores com informações falsas sem eles saberem.
Testes realizados pelo The Verge mostraram que o software da ElevenLabs foi capaz de reproduzir a voz do presidente americano Joe Biden. Em seguida, ele gerou um áudio falso em que o político aparenta anunciar uma invasão da Rússia.
A ElevenLabs reconheceu o abuso da ferramenta e afirmou que vai implementar medidas de segurança mais duras.
Isenção de responsabilidade
Todas as informações contidas em nosso site são publicadas de boa fé e apenas para fins de informação geral. Qualquer ação que o leitor tome com base nas informações contidas em nosso site é por sua própria conta e risco.
