Empresa do Texas usou deepfake de Joe Biden para evitar que eleitores votassem em primárias dos EUA

A Justiça dos EUA identificou uma empresa do Texas como a responsável por uma chamada de telefone automática com a voz do presidente Joe Biden pedindo a eleitores que boicotassem a eleição.

Conforme o procurador geral John Formella, de New Hampshire, a empresa chamada Life Corporation, cujo dono se chama Walter Monk, criou a chamada.

Leia mais: Sofri um golpe, e agora? Como agir em casos de fraude

Deepfake de Joe Biden queria boicote às primárias

A chamada telefônica com a voz falsa de Joe Biden circulou em New Hampshire antes do dia 23 de janeiro de 2024, quando houve a votação das primárias eleitorais no estado. Nela, uma voz semelhante à do presidente fala:

“Quanta bobagem. Você sabe o valor de votar nos Democratas quando nossos votos contam. É importante que você guarde seu voto para as eleições de novembro. Nós vamos precisar da sua ajuda para eleger vários democratas. Votar nesta terça-feira só ajuda republicanos em sua jornada para reeleger Donald Trump. Seu voto fará a diferença em novembro, não nesta terça-feira”.

A Procuradoria Geral está investigando o caso desde então. A suspeita é que a criação da deepfake ocorreu com o uso de uma engine de texto-para-voz da ElevenLabs. Esta empresa teria suspenso a conta da acusada em resposta.

A Unidade de Lei Eleitoral do escritório da Procuradoria Geral emitiu uma ordem de desistência para a empresa por violar a lei de New Hampshire que proíbe impedir eleitores de votarem devido a informações “fraudulentas, deceptiva, enganosas ou espúrias”. Além disso, a chamada foi alterada para parecer que partiu de um escritório do Partido Democrata em New Hampshire.

Agora, o procurador geral quer saber se a Life Corporation trabalhou em conjunto com outras pessoas ou entidades. Em suma, a estimativa é que ocorreram entre 5.000 e 25.000 ligações.

“O rastreio identificou a voz como sendo originada da empresa Lingo Telecom, do Texas. Depois que a Lingo Telecon foi informada que estas chamadas foram investigadas, ela suspendeu seus serviços para a Life Corporation”, diz a procuradoria.