O Lado Negro do ChatGPT:
O uso de LLMs para o Crime
Embora a maioria dos usuários que utilizam o ChatGPT e outros LLMs o façam
para fins legítimos, vemos sinais indicando que criminosos e pessoas má
intencionadas já começaram a usar essas tecnologias para atividades ilícitas.
O ChatGPT possui vários recursos de segurança, desenvolvidos para evitar
o uso malicioso, que são atualizados pela OpenAI de forma contínua.
Muitas dessas medidas de segurança, no entanto, podem ser facilmente
contornadas por meio de engenharia de prompt.
Embora todas as informações fornecidas pelo ChatGPT estejam disponíveis
gratuitamente na Internet, sua capacidade de prover informações e instruções
de fácil compreensão em linguagem natural possibilita que os criminosos
obtenham conhecimento mais rapidamente, permitindo que se expandam
para novas áreas ou aprendam técnicas e métodos mais avançados.
Ainda que os criminosos continuem utilizando as mesmas técnicas e
modelos de negócios como no passado, o ChatGPT pode acelerar a
velocidade, escala e eficiência com que eles cometem esses crimes.
Large
Language
Models e o
ChatGPT
2
Introdução
1
O uso de
LLMs para
o crime
3
Benefícios
para as
Autoridades
Legais
4
O impacto
da evolução
dos LLMs
5
Sobre a
Cognyte
6
O Uso de
LLMs para
o crime
3