A OpenAI, empresa que criou o ChatGPT, enfrenta desafios de compliance e precisão de dados. Esse problema levou o NOYB – Centro Europeu de Direitos Digitais, uma organização sem fins lucrativos com sede em Viena, Áustria, a registrar uma reclamação contra a companhia junto à Autoridade Austríaca de Proteção de Dados (DPA).
De fato, a coleta de dados da OpenAI tem causado preocupação entre os órgãos reguladores e os defensores da privacidade. Essa ação da NOYB pode desencadear uma conversa mais ampla sobre o uso ético de dados na tecnologia.
Os problemas com os dados da OpenAI expõem os desafios éticos da IA
O cerne da reclamação está nas recentes admissões da OpenAI sobre as limitações do ChatGPT no manuseio de dados. De acordo com a empresa, o modelo de IA não é capaz de verificar a precisão das informações que gera sobre os indivíduos. Além disso, ele também não pode revelar as origens de suas entradas de dados.
Em meio ao aumento do hype de inteligência artificial desencadeado pelo lançamento do ChatGPT em novembro de 2022, a ampla adoção da ferramenta expôs vulnerabilidades críticas. O ChatGPT opera prevendo respostas prováveis às solicitações do usuário sem um mecanismo inerente para garantir a precisão dos fatos.
Isso levou a casos em que a IA “alucina”, fabricando respostas que podem ser enganosas ou totalmente falsas. Embora essas imprecisões possam ser irrelevantes em alguns contextos, elas representam riscos significativos quando envolvem dados pessoais.
Leia mais: Os 20 melhores plugins do ChatGPT
O Regulamento Geral de Proteção de Dados (GDPR) da União Europeia exige a precisão dos dados pessoais. Além disso, ele concede aos indivíduos o direito de acessar e retificar informações incorretas sobre si mesmos. Os recursos atuais da OpenAI não atendem a esses requisitos legais, provocando um debate sobre as implicações éticas da IA no tratamento de dados confidenciais.
Maartje de Graaf, advogada de proteção de dados da noyb, enfatiza a gravidade da situação.
“Está claro que as empresas atualmente não conseguem fazer com que chatbots como o ChatGPT estejam em conformidade com a legislação da UE ao processar dados sobre indivíduos. Se um sistema não puder produzir resultados precisos e transparentes, ele não poderá ser usado para gerar dados sobre indivíduos. A tecnologia precisa seguir os requisitos legais, e não o contrário”, explica Graaf.
Os problemas vão além dos obstáculos técnicos e se estendem a desafios regulatórios mais amplos. Desde sua criação, as ferramentas de IA generativa, incluindo o ChatGPT, têm sido submetidas a um intenso escrutínio dos órgãos de controle de privacidade europeus.
Parceria tem desafio global
A DPA italiana, por exemplo, impôs restrições ao processamento de dados pelo ChatGPT no início de 2023, citando imprecisões. Isso foi seguido por um esforço coordenado pelo Conselho Europeu de Proteção de Dados para avaliar e mitigar os riscos associados a essas plataformas de IA.
O momento desses desafios legais é particularmente digno de nota. Ao mesmo tempo, a OpenAI estava em discussões para formar uma aliança estratégica com a Worldcoin, um projeto cofundado por Sam Altman, que também lidera a OpenAI.
Leia mais: As melhores criptomoedas de IA de acordo com o ChatGPT
No entanto, a possível colaboração da OpenAI com o Worldcoin pode introduzir camadas adicionais de dilemas legais e éticos. A abordagem do projeto para o uso de dados biométricos se cruza com os desafios da OpenAI para garantir a privacidade e a precisão dos dados.
Além disso, o Worldcoin enfrentou o escrutínio de autoridades legais em todo o mundo, incluindo Quênia, Espanha e Argentina, em relação à sua coleta de dados. Portanto, essa sinergia pode abrir caminho para usos inovadores da tecnologia ou estabelecer um precedente para intervenções regulatórias mais rigorosas.
Trusted
Isenção de responsabilidade
Todas as informações contidas em nosso site são publicadas de boa fé e apenas para fins de informação geral. Qualquer ação que o leitor tome com base nas informações contidas em nosso site é por sua própria conta e risco.
