Ver mais

Polônia investiga OpenAI por desinformação no ChatGPT

3 mins
Por David Thomas
Traduzido Júlia V. Kurtz

EM RESUMO

  • O regulador de dados da Polónia pode abrir inquérito inquérito sobre a OpenAI depois de um cidadão alegar que o ChatGPT gerou informações falsas.
  • A reclamação levanta dúvidas sobre se a OpenAI cumpre o princípio de “privacidade desde a concepção” da lei e seus métodos de processamento de dados.
  • O caso destaca questões fundamentais com a tomada de decisão automatizada em modelos de IA e o potencial para efeitos negativos.
  • promo

A Autoridade Supervisora da Polônia (UODO), reguladora de dados do país europeu, disse que considera investigar a OpenAI, criadora do ChatGPT. A declaração surge depois que um cidadão alegou que a ferramenta gerou informações falsas sobre ele, o que levantou questões sobre como o algoritmo processa dados pessoais.

O autor alega que o ChatGPT usou dados de 2021 obtidos fora das leis de privacidade da UE para gerar um resultado falso. Além disso, a ferramenta não forneceu a fonte dos dados, o que, segundo o cidadão, exigiria uma inspeção mais detalhada dos métodos de processamento de dados da OpenAI.

Leia mais: As 10 criptomoedas para investir em janeiro de 2024

Regulador abre inquérito contra OpenAI

Além disso, a OpenAI não respondeu de forma satisfatória as perguntas dirigidas à empresa. Em resposta à reclamação, o vice-presidente da UODO, Jakub Groszowski, afirmou o direito de recurso do demandante e enfatizou o dever dos vigilantes da privacidade de dados.

“O desenvolvimento de novas tecnologias deve ocorrer no respeito pelos direitos das pessoas físicas resultantes, entre outros, do [Regulamento Geral de Proteção de Dados]. A tarefa das autoridades europeias de proteção de dados pessoais é proteger os cidadãos europeus contra os efeitos negativos da tecnologia de processamento de informação”.

Ele acrescentou que a reclamação levantou dúvidas sobre se a OpenAI cumpria o princípio fundamental do GDPR de “privacidade desde o design”. Em resposta, a UODO tentará esclarecer as políticas de dados da OpenAI, confirmou seu presidente.

“O caso diz respeito à violação de muitas disposições sobre a proteção de dados pessoais, razão pela qual pediremos à OpenAI uma resposta a uma série de questões para podermos conduzir exaustivamente os processos administrativos”.

A UE incorporou salvaguardas de inteligência artificial (IA) na GDPR em maio de 2018.

Na época, o bloco foi criticado por exigir de que as empresas explicassem como usam informações pessoais em inteligência artificial. Críticos da época sugeriram que era quase impossível para as empresas saber se estavam totalmente em conformidade.

Além disso, acreditava-se que as leis representavam um obstáculo à inovação. Naquela época, 74% dos entrevistados em uma pesquisa da Alemanha à indústria digital afirmaram que as leis de privacidade eram o principal obstáculo ao desenvolvimento de novas tecnologias.

Nova legislação pode corrigir o mau tratamento de dados pessoais?

Por outro lado, existem algumas questões fundamentais relativas à tomada de decisões automatizadas que foram herdadas de modelos anteriores de IA.

Os primeiros modelos de aprendizagem automática, os blocos de construção dos modelos de grande linguagem, foram criticados pelas suas tendências de interpretar dados pessoais de uma forma que reforçava injustiças sociais. Por exemplo, um modelo poderia perpetuar preconceitos no recrutamento ao subestimar as candidatas para empregos de programação.

O regulador polonês investigará o tratamento de dados da OpenAI numa época em que, de acordo com a Bloomberg, a IA generativa pode amplificar os preconceitos dos utilizadores.

Polônia investiga OpenAI por desinformação no ChatGPT
Fonte: Bloomberg

A pandemia de COVID-19, por outro lado, levou muitos governos a acelerarem ou ignorarem completamente a devida diligência em favor da rapidez. Muitas empresas aproveitaram a pandemia para promover ferramentas de IA, automação e vigilância em favor de um bem maior.

Um sistema criado pelo departamento de exames do Ofqual, por exemplo, tentou evitar a distorção dos resultados das escolas britânicas com algoritmos. Em vez disso, discriminou os verdadeiros alunos de elevado desempenho e as crianças oriundas de meios desfavorecidos.

Ainda em 2023, por fim, o primeiro-ministro britânico Rishi Sunak deve organizar uma cúpula de executivos e investigadores de IA para decidir sobre o futuro da IA. O Parlamento Europeu poderá aprovar a Lei da Inteligência Artificial da UE até ao final do ano.

  • Não entendeu algum termo do universo Web3? Confira no nosso Glossário!
  • Quer se manter atualizado em tudo o que é relevante no mundo cripto? O BeInCrypto tem uma comunidade no Telegram em que você pode ler em primeira mão as notícias relevantes e conversar com outros entusiastas em criptomoedasConfira!
  • Você também pode se juntar a nossas comunidades no Twitter (X)Instagram e Facebook.

Trusted

Isenção de responsabilidade

Todas as informações contidas em nosso site são publicadas de boa fé e apenas para fins de informação geral. Qualquer ação que o leitor tome com base nas informações contidas em nosso site é por sua própria conta e risco.

Julia.png
Júlia V. Kurtz
Editora-chefe do BeInCrypto Brasil. Jornalista de dados com formação pelo Knight Center for Journalism in the Americas da Universidade do Texas, possui 10 anos de experiência na cobertura de tecnologia pela Globo e, agora, está se aventurando pelo mundo cripto. Tem passagens na Gazeta do Povo e no Portal UOL.
READ FULL BIO
Patrocinados
Patrocinados