Hackers Exploram Vulnerabilidades em Modelos de Linguagem para Roubar Credenciais de Acesso

Hackers Exploram Vulnerabilidades em Modelos de Linguagem para Roubar Credenciais de Acesso

O acesso a modelos de linguagem de grande porte (LLMs) hospedados na nuvem pode ser bastante caro, o que levou os hackers a encontrarem uma nova forma de obter acesso a esses recursos: roubando e vendendo credenciais de login para essas ferramentas.

Campanha LLMjacking Exposta

Recentemente, a equipe de pesquisa de ameaças da Sysdig descobriu uma campanha que eles chamaram de “LLMjacking”. Nessa campanha, os pesquisadores observaram um ator de ameaça explorando uma vulnerabilidade no framework Laravel, conhecida como CVE-2021-3129, para acessar a rede e procurar por credenciais da Amazon Web Services (AWS) para serviços de LLM.

Acesso a Modelos de IA Locais

Após obter o acesso inicial, os atacantes exfiltram as credenciais da nuvem e acessam o ambiente da nuvem, onde tentam acessar os modelos de LLM locais hospedados pelos provedores de nuvem. Nesse caso específico, um modelo local do Claude (v2/v3) da Anthropic foi o alvo.

Ferramentas Utilizadas pelos Atacantes

Os pesquisadores da Sysdig conseguiram identificar as ferramentas utilizadas pelos atacantes para gerar as solicitações que invocavam os modelos. Entre elas, estava um script em Python que verificava as credenciais de dez serviços de IA, analisando qual deles era útil.

Serviços de IA Visados

Os serviços incluíam AI21 Labs, Anthropic, AWS Bedrock, Azure, ElevenLabs, MakerSuite, Mistral, OpenAI, OpenRouter e GCP Vertex AI. Os pesquisadores também descobriram que os atacantes não executavam consultas legítimas de LLM na etapa de verificação, mas estavam fazendo “apenas o suficiente” para descobrir o que as credenciais eram capazes de fazer e quaisquer cotas.

Impacto Financeiro Significativo

De acordo com o relatório, o uso de serviços de LLM pode ser muito caro, podendo chegar a $46.000 por dia. Ao maximizar os limites de cota, os atacantes também podem bloquear a organização comprometida de usar os modelos legitimamente, interrompendo as operações comerciais.

Referências

LLM services are being hit by hackers looking to sell on private info