Um projeto de lei nos EUA propõe criminalizar o compartilhamento de pornografia com deepfakes. Esse conteúdo é gerado por inteligência artificial (IA) e contém imagens e vozes de outras pessoas geradas de forma artificial.
A iniciativa é uma proposta do representante Joseph Morelle (Democratas – Nova York), anunciada na terça-feira (16).
Leia mais: Sofri um golpe, e agora? Como agir em casos de fraude
Inteligência artificial e pornografia
SponsoredO debate sobre deepfakes pornográficos começou após alunos de uma escola de ensino médio em Nova Jersey usarem modelos de IA generativa para criar e compartilhar imagens de colegas nuas. O caso ocorreu em outubro de 2023.
O representante Morelle chamou o projeto de lei de “Ato de prevenção de deepfakes de imagens íntimas”. Ele procura “proibir o compartilhamento não consensual de imagens íntimas alteradas”.
“Imagine o horror de receber imagens íntimas que parecem exatamente com você – ou sua filha, ou sua irmã, ou sua esposa – e você não pode provar que não são elas. Pornografia com deepfakes é exploração sexual, é abusive e eu estou surpreso que isso já não seja um crime federal”, afirma Morelle.
O texto propõe que qualquer pessoa compartilhando deepfakes pornográficos sem consentimento pode pagar até US$ 150.000 em danos morais. Além disso, o criminoso pode pegar até 10 anos de prisão se as imagens incentivarem a violência ou se atrapalharem as investigações.
“Guardas adequadas e transparência são essenciais para criar um senso de responsabilidade entre empresas de IA e indivíduos usando a tecnologia”, disse o representante Tom Kean (Republicanos – Nova Jersey), que co-assina o projeto de lei.
IA e responsabilidade
O debate sobre a responsabilidade no desenvolvimento de inteligência artificial é tão antigo quanto a própria tecnologia. O uso ético dela é uma preocupação tão grande que países, como o Reino Unido, por exemplo, já estudam a criação de leis específicas para a regulamentação de IA.
Além disso, empresas como a OpenAI tem um conselho de diretores cuja missão é garantir que a empresa desenvolva a tecnologia de diretores. Só que esse conselho foi demitido após tentar defenestrar o CEO Sam Altman em novembro de 2023.
No início de janeiro de 2024, entretanto, a OpenAI alterou sua política de uso para permitir o uso de ferramentas de IA como o ChatGPT por forças armadas.
