Prompt Injection 2.0: Hybrid AI Threats

В данной статье анализируется эволюция атак типа "prompt injection" в контексте агентных AI-систем и гибридных киберугроз. Рассматривается, как злоумышленники комбинируют манипуляции с естественным языком с традиционными эксплойтами, такими как XSS и CSRF, для компрометации систем. Анализ основан на предыдущих исследованиях Preamble, Inc., включая их работы по методам смягчения последствий и системам защиты. В статье оцениваются методы защиты от современных угроз, таких как AI-черви и многоагентные заражения, подчеркиваются ограничения традиционных мер безопасности. Включены недавние бенчмарки, демонстрирующие неэффективность брандмауэров веб-приложений против атак, усиленных ИИ. В статье также представлены архитектурные решения, сочетающие изоляцию запросов, безопасность во время выполнения и разделение привилегий с возможностями обнаружения угроз. Обсуждаются задокументированные уязвимости, такие как CVE-2024-5565, и реальные инциденты. Исследование предлагает всесторонний обзор механизмов гибридных атак и оценивает стратегии защиты. #PromptInjection #AIBезопасность #ГибридныеУгрозы #Кибербезопасность #AIЧерви документ - http://arxiv.org/pdf/2507.13169v1 подписаться - https://t.me/arxivpapers отправить донаты: USDT: 0xAA7B976c6A9A7ccC97A3B55B7fb353b6Cc8D1ef7 BTC: bc1q8972egrt38f5ye5klv3yye0996k2jjsz2zthpr ETH: 0xAA7B976c6A9A7ccC97A3B55B7fb353b6Cc8D1ef7 SOL: DXnz1nd6oVm7evDJk25Z2wFSstEH8mcA1dzWDCVjUj9e создано с помощью NotebookLM