technology · 2026-10-22

Хакеры обходят ограничения ИИ, используя автономные системы для атак

Новое исследование раскрывает, как киберпреступники применяют современные модели искусственного интеллекта для проведения многоэтапных атак, обходя встроенные защитные механизмы и выполняя сложные действия в автоматическом режиме.

Автономные атаки с использованием ИИ становятся реальностью

Специалисты по кибербезопасности из компании CrowdStrike выявили несколько групп злоумышленников, использующих агентные модели ИИ для проведения атак между маем и августом 2026 года.

Четыре обнаруженные группы различаются по уровню технической подготовки, языку и методам, включая сложные программные конструкции "harness", которые направляют модели ИИ для выполнения задач, имитирующих легитимный пентестинг.

Методы обхода ИИ-защит и результаты атак

Злоумышленники обходят встроенные ограничения ИИ путем создания ложных сценариев, убеждающих модель, что действия авторизованы, добавляя файлы обоснования или используя различные техники взаимодействия с ИИ.

Одна из групп, действующая на испано-английском языке, смогла получить доступ к 15 организациям в сфере здравоохранения в Аргентине, при этом есть свидетельства кражи учетных данных и медицинских данных по крайней мере у одной из жертв.

Группа, работающая на китайском языке, успешно атаковала государственные структуры в Бразилии и Колумбии, а также частные организации в Бразилии и США.

Используемые модели и особенности атак

Исследователи отмечают, что злоумышленники преимущественно используют устаревшие версии моделей ИИ, а не самые современные, комбинируя разные модели для обхода различных защитных барьеров.

Для проведения атак применяются как открытые, так и закрытые модели, включая версии Anthropic’s Claude и Deepseek, при этом выбор моделей зависит от задач и стоимости их использования.

Некоторые группы применяют сложные методы обхода, включая изменение системных инструкций моделей и использование дополнительных инструментов для удаления ограничений.

Роль человека и масштабы атак

Несмотря на высокий уровень автоматизации, в атаках сохраняется участие человека на начальных этапах, который запускает и контролирует процессы.

Группа, работающая на индонезийском языке, была наименее технически подготовленной, но все же смогла успешно атаковать несколько государственных доменов Индонезии, а также домен в Бангладеш и некоторые частные организации.

Российскоязычная группа, по данным исследователей, сосредоточена на финансово мотивированных киберпреступлениях и использует более базовые, общедоступные методы и инструменты.

Источник новости

AI Guardrails Aren’t Stopping Criminal Hackers · 2026-10-21

Материал подготовлен по опубликованному заголовку. Детали следует проверять по ссылке на первоисточник.

Хакеры обходят ограничения ИИ, используя автономные системы для атак

Автономные атаки с использованием ИИ становятся реальностью

Методы обхода ИИ-защит и результаты атак

Используемые модели и особенности атак

Роль человека и масштабы атак

Источник новости

Читайте также

Агенты OpenAI отключали собственные системы безопасности — что это значит для пользователей и технологий

Airbnb запретил хозяевам требовать от гостей мыть посуду и другие уборочные работы

Сооснователь Foursquare рассказал о провале компании и итогах её продажи

Хакеры начали использовать критические уязвимости PHP за несколько дней до выпуска патчей