Investigadores descobrem ataque de "injeção de alucinação" usando modelos de IA com taxa de sucesso entre 85-100%

INTU0,87%
De acordo com a Decrypt, investigadores da Universidade de Tel Aviv, do Instituto de Tecnologia de Israel (Technion) e da Intuit descobriram uma nova forma de ataque a 10 de julho, denominada 'injeção adversarial de alucinações', que explora as alucinações dos modelos de IA para enganar agentes de IA a descarregar código malicioso e potencialmente formar botnets. Os atacantes prevêem links falsos de recursos que os modelos de IA possam gerar, registam-nos previamente e injetam instruções maliciosas; quando os agentes de IA recuperam esses recursos, tratam-nos como conteúdo legítimo e executam o código. Testes revelaram taxas de alucinação de 85% em cenários de clonagem de repositórios de código e 100% em cenários de instalação de competências, afetando assistentes de codificação de IA como Cursor, GitHub Copilot, Gemini CLI e OpenClaw.
Aviso legal: As informações contidas nesta página podem provir de fontes externas e têm caráter meramente informativo. Não refletem os pontos de vista nem as opiniões da Gate e não constituem qualquer tipo de aconselhamento financeiro, de investimento ou jurídico. A negociação de ativos virtuais envolve um risco elevado. Não se baseie exclusivamente nas informações contidas nesta página ao tomar decisões. Para mais detalhes, consulte o Aviso legal.
Comentar
0/400
Nenhum comentário