A Europol emitiu um alerta sobre o uso criminoso do ChatGPT. Segundo a agência, o modelo de linguagem baseado em Inteligência Artificial (IA) tem sido usado por criminosos para criar conteúdo falso e enganoso na internet.
A declaração da entidade faz parte de seu primeiro relatório sobre modelos de linguagem intitulado “O uso criminoso do ChatGPT – um conto preventivo sobre grandes modelos de linguagem”. Paradoxalmente, a organização também mencionou a possibilidade de usar o chatbot para ajudar os investigadores e criminologistas em seu trabalho contra os malfeitores.
“Em resposta à crescente atenção pública dada ao ChatGPT, a Europol Innovation Lab organizou uma série de workshops com especialistas no assunto de toda a Europol, para explorar como os criminosos podem abusar de modelos de linguagem longa (LLMs) como o ChatGPT, bem como ele pode ajudar os investigadores em seu trabalho diário.”
O ChatGPT conta com inteligência artificial para gerar texto que imita a linguagem humana. Por meio de treinamento com grandes quantidades de dados, o modelo aprende a reconhecer padrões na linguagem e gerar respostas coerentes a partir de entradas de texto. Este tipo de tecnologia tem sido utilizado em uma ampla variedade de aplicações, desde assistentes virtuais até sistemas de bate-papo online.
No entanto, a Europol destacou preocupações sobre o uso do ChatGPT em crimes. De acordo com o relatório, os criminosos estão usando o modelo para criar conteúdo falso e enganoso, incluindo notícias falsas, golpes, e-mails fraudulentos e mensagens de phishing. Essas mensagens podem parecer autênticas e persuasivas, tornando mais difícil para as pessoas identificarem os golpes.
“O objetivo deste relatório é aumentar a conscientização sobre o potencial uso indevido de LLMs, abrir um diálogo com empresas de inteligência artificial (IA) para ajudá-las a criar melhores proteções e promover o desenvolvimento de sistemas de IA seguros e confiáveis”.
- Não entendeu algum termo do universo Web3? Confira no nosso Glossário!
- Quer se manter atualizado em tudo o que é relevante no mundo cripto? O BeInCrypto tem uma comunidade no Telegram em que você pode ler em primeira mão as notícias relevantes e conversar com outros entusiastas em criptomoedas. Confira!
- Você também pode se juntar a nossas comunidades no Twitter (X), Instagram e Facebook.
Europol revela o lado negro do ChatGPT
A Europol também apontou que o uso criminoso do ChatGPT é mais uma prova do papel crescente da tecnologia no mundo do crime. Com a capacidade de criar conteúdo falso e enganoso em grande escala, os criminosos podem aproveitar a tecnologia para obter ganhos financeiros e até mesmo políticos. Isso pode incluir espalhar propagandas falsas e manipular mercados financeiros.
Especificamente, a organização internacional destaca 3 áreas principais em que o ChatGPT pode ser usado para atividades criminosas:
- Fraude e engenharia social: a capacidade do ChatGPT de criar textos altamente realistas o torna útil para phishing. Os LLMs podem imitar padrões de linguagem para representar o estilo de fala de indivíduos ou grupos específicos. Essa habilidade pode ser abusada para induzir vítimas em potencial a confiar em criminosos em grande escala.
- Desinformação: o ChatGPT se destaca na produção de texto com som autêntico em velocidade e escala. Isso torna o modelo ideal para fins de propaganda e desinformação, pois permite aos usuários gerar e disseminar mensagens que refletem uma narrativa específica com relativamente pouco esforço.
- Cibercrime: além de imitar a linguagem humana, o ChatGPT também pode criar códigos em várias linguagens de programação. Isso é muito útil para um criminoso que não tem muito conhecimento técnico e deseja criar códigos maliciosos.
A Europol também enfatizou a importância da colaboração internacional na luta contra o uso criminoso de tecnologia. Como os criminosos podem operar globalmente, a cooperação entre agências de aplicação da lei e empresas de tecnologia pode ser crucial para identificar e prender os criminosos.
