O serviço Digital Footprint Intelligence da KASPERSKY encontrou quase 3.000 postagens na dark web discutindo principalmente o uso do ChatGPT e outros LLMs para atividades ilegais.

Os atores da ameaça estão explorando esquemas, desde a criação de alternativas nefastas ao chatbot até a prisão do original e muito mais. Contas e serviços roubados do ChatGPT que oferecem sua criação automatizada em massa também estão inundando os canais da dark web, alcançando mais 3.000 postagens.

Em 2023, o serviço Kaspersky Digital Footprint Intelligence descobriu quase 3.000 postagens na dark web, discutindo o uso do ChatGPT para fins ilegais ou falando sobre ferramentas que dependem de tecnologias de IA. Embora as conversas tenham atingido o pico em março, as discussões persistem.

“Os atores da ameaça estão explorando ativamente vários esquemas para implementar ChatGPT e IA. Os tópicos frequentemente incluem o desenvolvimento de malware e outros tipos de uso ilícito de modelos de linguagem, como processamento de dados roubados de usuários, análise de arquivos de dispositivos infectados e muito mais.

“A popularidade das ferramentas de IA levou à integração de respostas automatizadas do ChatGPT ou seus equivalentes em alguns fóruns de cibercriminosos.

“Além disso, os agentes de ameaças tendem a compartilhar jailbreaks por meio de vários canais da dark web – conjuntos especiais de prompts que podem desbloquear funcionalidades adicionais – e criar maneiras de explorar ferramentas legítimas, como aquelas para testes de penetração, baseadas em modelos para fins maliciosos”, explicou. Alisa Kulishenko, analista de pegada digital da Kaspersky.

Além do chatbot e da inteligência artificial mencionados, considerável atenção está sendo dada a projetos como XXXGPT, FraudGPT e outros. Esses modelos de linguagem são comercializados na dark web como alternativas ao ChatGPT, apresentando funcionalidades adicionais e ausência de limitações originais.

Mais uma ameaça para usuários e empresas é o mercado de contas para a versão paga do ChatGPT. Em 2023, foram identificadas outras 3.000 postagens (além das mencionadas anteriormente) anunciando contas ChatGPT à venda nos canais dark web e shadow do Telegram.

Essas postagens distribuem contas roubadas ou promovem serviços de registro automático, criando contas em massa mediante solicitação. Notavelmente, certas postagens foram publicadas repetidamente em vários canais da dark web.

“Embora as ferramentas de IA em si não sejam inerentemente perigosas, os cibercriminosos estão tentando encontrar formas eficientes de usar modelos de linguagem, alimentando assim uma tendência de redução da barreira de entrada no crime cibernético e, em alguns casos, aumentando potencialmente o número de ataques cibernéticos”, disse o relatório. estudo observado.

No entanto, é improvável que a IA generativa e os chatbots revolucionem o cenário dos ataques – pelo menos em 2024. A natureza automatizada dos ataques cibernéticos muitas vezes significa defesas automatizadas. No entanto, manter-se informado sobre as atividades dos invasores é crucial para estar à frente dos adversários em termos de segurança cibernética corporativa”, acrescentou Kulishenko.

Fuente