Uma nova ferramenta da Universidade de Chicago permite que artistas confundam ferramentas de inteligência artificial (IA) que tentarem usar seu material para treinamento sem permissão.
Chamado de Nightshade, o software usa uma estratégia chamada “poisoning” para manipular modelos de linguagem e alterar seu treinamento.
Leia mais: Sofri um golpe, e agora? Como agir em casos de fraude
Software confunde IA
O poisoning envolve fazer alterações na imagem que são imperceptíveis ao olho humano, mas que chamam a atenção de ferramentas de IA.
Por exemplo, se um usuário pedir uma foto de um gato a um modelo de linguagem, ele recebe imagens de um cachorro no lugar.
“O Nightshade foi criado como uma otimização multi-objetivo que minimiza mudanças visíveis na imagem original. Por exemplo, olhos humanos podem ver a imagem borrada de uma vaca no campo, ao mesmo tempo em que uma ferramenta de IA vê uma bolsa de couro jogada na grama”, afirmam os desenvolvedores.
O objetivo da ferramenta é criar um mecanismo de defesa para criadores, cujas imagens são usadas para treinar modelos de linguagem sem sua permissão.
“O Nightshade pode fornecer uma ferramenta poderosa para que criadores de conteúdo protejam sua propriedade intelectual de modelos de linguagem que desrespeitam ou ignoram avisos de direitos autorais, anti-straping e listas de opt-out”.
Os autores alertam que a ferramenta ainda tem limitações. Por exemplo, as imagens processadas por ela podem ter diferenças sutis da original. Isso é mais evidente em imagens que usam cores lisas.
Criadores reclamam de ferramentas
Entre todos os cenários apocalípticos previstos por causa do desenvolvimento de IA, o que a indústria mais leva a sério é a proteção de direitos autorais. Não à toa, empresas como a OpenAI – a líder do setor – sofrem com processos judiciais novos devido a supostas violações de material protegido.
Um exemplo é um grupo de escritores dos EUA que processou a empresa porque seus livros foram usados para o treinamento do ChatGPT. Em dezembro de 2023, aliás, o jornal The New York Times também acionou a empresa e sua parceria Microsoft na justiça por usar material protegido sem permissão.
Isenção de responsabilidade
Todas as informações contidas em nosso site são publicadas de boa fé e apenas para fins de informação geral. Qualquer ação que o leitor tome com base nas informações contidas em nosso site é por sua própria conta e risco.
