Несанкционированное использование ИИ

XUC

второе пришествие
Регистрация
3 Сен 2006
Сообщения
877
Реакции
577

ИИ сопротивлялся, но всё-таки выполнил команду. Защиту Claude обошли четырьмя сообщениями​


Обычное расширение браузера превратилось в инструмент удалённого взлома компьютера.
image

Чтобы запустить команду на другом компьютере, злоумышленнику может хватить браузерного расширения с доступом к Claude. Гал Вейцман из Forever Security Для просмотра ссылки Войди или Зарегистрируйся, что механизм Claude Dispatch принимает указания из обычной веб-сессии и передаёт их настольному ИИ-агенту. Уязвимость получила название ThisBash.
Dispatch предназначен для удалённой работы с Claude Desktop. Пользователь отправляет задачу с телефона, а агент выполняет её на включённом компьютере, получая доступ к локальным файлам, приложениям и подключённым сервисам. Однако интерфейс Dispatch оказался доступен и через claude.ai. Отсутствие ссылки на странице скрывало возможность, но не ограничивало обращения к её API.
Для демонстрации потребовалось расширение браузера с правом запускать скрипты на claude.ai. Вредоносный код открывал небольшое неактивное окно Dispatch, находил сеанс Claude Desktop через API и отправлял запросы от имени авторизованного пользователя. Взламывать браузер, перехватывать пароль или искать отдельную уязвимость операционной системы не понадобилось.
Защита Claude сначала насторожилась из-за установки неизвестного npm-пакета. Скрипт отправил ещё несколько сообщений, убедив агента продолжить, и автоматически нажимал кнопки разрешения в подконтрольном окне. После четырёх запросов Claude установил пакет, установочный сценарий которого открыл калькулятор. Реальный запуск кода подтверждён экспериментом, кража данных не показана.

Опаснее всего связь между личными и рабочими устройствами. Если сотрудник использует один аккаунт Claude в домашнем браузере и на корпоративном ноутбуке, вредоносное расширение дома потенциально сможет управлять агентом на рабочей машине. При доступе агента к файлам и учётным данным возможны кража документов или установка бэкдора. Подтверждённых атак по схеме ThisBash пока нет.
Сценарий требует действующего входа в claude.ai, расширения с доступом к сайту и открытого Claude Desktop с активным Dispatch на целевом устройстве. Приложение работает на Windows, macOS и Linux, поэтому проблема не связана с одной ОС. Угроза не распространяется автоматически на всех пользователей Claude: при отсутствии указанной связки продемонстрированная цепочка не срабатывает.
Forever Security уведомила Anthropic 14 мая 2026 года. Через пять дней компания признала проблему, но закрыла обращение как дубликат известного дефекта. В октябре разработчик намеревался убрать Dispatch до конца месяца. Однако в актуальной справке Anthropic подтверждает, что прежние пользователи тарифов Pro, Max и Ultra могут продолжать работу с функцией, хотя новым доступ закрыт.
Отдельного CVE и опубликованной оценки CVSS у ThisBash нет, исправленная версия также не названа. Авторы работы считают, что аналогичная граница доверия существует в Claude Code Remote Control и сеансах Claude Cowork, но отдельные испытания этих функций пока не опубликованы. Ранее у ИИ-агентов уже находили ошибку обновления плагинов, допускавшую выполнение чужого кода.

Источник Для просмотра ссылки Войди или Зарегистрируйся
 

Скорость автоматизированных атак растёт: время передачи доступа между злоумышленниками сократилось до секунд, а устранение уязвимостей по-прежнему занимает недели​

Старые системы киберзащиты не успевают за атаками​


ИИ-агенты меняют темп кибератак настолько быстро, что привычные методы оценки эффективности защиты перестают работать. Согласно отчёту CrowdStrike, специалисты компании обнаружили 4 ранее не описанные группы злоумышленников, использовавшие Claude Code в атаках с мая по август 2026 года. В одной из кампаний против медицинских организаций Аргентины агент сменил тактику через 29 секунд после блокировки первой попытки проникновения, а ещё через 17 минут получил 5 хешей учётных данных с контроллера домена. Всего злоумышленники скомпрометировали не менее 15 медицинских организаций и похитили учётные данные и медицинские записи как минимум одной из них.
По оценке CrowdStrike, ИИ-агенты способны выполнять около 1500 команд в час, тогда как человек за то же время обычно отдаёт лишь несколько десятков. При этом речь не обязательно идёт об использовании неизвестных уязвимостей: преимущество обеспечивают скорость перебора уже известных способов атаки и способность автоматически связывать отдельные действия. В аргентинской кампании один агент, Supervisor, выбирал следующие задачи, а другой, Executor, выполнял их. CrowdStrike обнаружила работу таких систем благодаря открытым каталогам с файлами агентных платформ. Во второй половине 2026 года специалисты компании зарегистрировали втрое больше вторжений с участием ИИ-агентов, чем в первой.
Изменения видны и по времени распространения атаки внутри сети. CrowdStrike ещё в 2018 году ввела показатель breakout time — время между первоначальным проникновением и переходом злоумышленника на другие устройства. Тогда среднее значение составляло 1 час 58 минут. В свежем отчёте среднее время атак уже сократилось до 29 минут, а самый быстрый случай занял 27 секунд. Глава CrowdStrike Джордж Курц заявил, что этот показатель больше не отражает реальность: граница между скоростью действий человека и машины практически исчезла.
Компания пока обсуждает, чем заменить прежнюю метрику. Правило 1-10-60, согласно которому защитники должны обнаружить угрозу за 1 минуту, расследовать её за 10 минут и устранить за 60, тоже перестало соответствовать темпу атак.
Для просмотра ссылки Войди или Зарегистрируйся
Источник изображения: сгенерировано Muse
Проблема не ограничивается перемещением злоумышленника по сети. Медианное время передачи уже полученного доступа от одной группы атакующих другой сократилось с более чем 8 часов в 2022 году до 22 секунд в 2025-м. Palo Alto Networks также отмечает ускорение атак: в самых быстрых расследованных случаях злоумышленникам потребовалось 72 минуты, чтобы перейти от первоначального доступа к краже данных, что в 4 раза быстрее, чем годом ранее. Amazon сообщала об атаке, которую ИИ-агент полностью провёл за 12 минут 42 секунды: система-ловушка AWS зарегистрировала 94 события без единой синтаксической ошибки.
На этом фоне специалисты предлагают измерять не один общий показатель скорости атаки, а продолжительность каждого этапа защиты: обнаружения, расследования, принятия решения, локализации и устранения последствий. Показателен случай нидерландского Института раскрытия уязвимостей (DIVD:( в сентябре злоумышленники использовали 2 уязвимости нулевого дня для получения доступа к системе управления заявками организации, после чего дальнейшие действия выполняли ИИ-агенты. Команде потребовалось 19 минут, чтобы обнаружить вторжение, 19 часов — чтобы подготовить первый ответ, и ещё 9 часов — чтобы локализовать атаку. Этот пример показывает, что узким местом может оказаться не обнаружение угрозы, а последующие действия защитников.
Ещё один критический показатель — время от раскрытия уязвимости до её устранения. По данным крупной американской телекоммуникационной компании Verizon, медианный срок полного исправления уже эксплуатируемой уязвимости в 2026 году составил 43 дня против 32 дней годом ранее. В другом исследовании сообщается, что среднее время от публичного раскрытия уязвимости до первой попытки её эксплуатации сократилось со 115 дней в 2024 году до 44 дней в 2025-м. Это разные показатели, но их сопоставление выявляет опасный разрыв: злоумышленники получают возможность использовать известные проблемы всё быстрее, тогда как компаниям требуются недели на исправление. В июне американское Агентство по кибербезопасности и защите инфраструктуры (CISA) пересмотрело сроки установки исправлений для федеральных ведомств: для наиболее опасных уязвимостей, в том числе тех, эксплуатация которых может быть автоматизирована, теперь установлен срок в 3 дня.
Отдельно встаёт вопрос управления доступом самих ИИ-агентов. Свежий опрос VentureBeat Intelligence среди 89 организаций, использующих такие системы или тестирующих их, показал: компании, выделяющие каждому агенту собственную цифровую идентичность, почти вдвое чаще сообщают, что могут отозвать его доступ за несколько минут. При общих учётных данных отключение одного агента может потребовать блокировки ключа, которым пользуются и другие системы или сотрудники. Таким образом, скорость реакции зависит не только от средств обнаружения атак, но и от того, насколько точно компания понимает, кто именно использует каждый набор полномочий.
Главный вызов для отрасли теперь заключается не в том, чтобы установить больше защитных инструментов или сократить число зарегистрированных инцидентов. Компании должны измерять, сколько времени проходит от первого признака вторжения до реального ограничения ущерба, насколько быстро они могут отключить скомпрометированного агента и закрыть уязвимость до её эксплуатации. Пока атакующие сокращают время своих операций до минут и секунд, защитники продолжают тратить часы на реагирование и дни на устранение причин взлома.

Источник Для просмотра ссылки Войди или Зарегистрируйся
 

Десять рабочих эксплойтов на 43 ИИ-агента. Представлен способ обойти все запреты без взлома самой модели​


image

Проверка 43 реальных ИИ-агентов обнаружила сотни потенциально опасных связей между инструментами, причём десять сценариев удалось подтвердить рабочими эксплойтами. Исследователи выяснили, почему даже безобидная функция может незаметно открыть путь к краже данных и другим атакам.
17 ноября 2026 года группа исследователей представила систему ACaM для автоматического анализа возможностей ИИ-агентов. Авторы работы изучили программы, которые подключают языковые модели к файловым системам, учётным данным и внешним сервисам. Среди 43 проверенных агентов девять представляли собой многоагентные системы.
Главная проблема связана с расхождением между описанием инструмента и реальным поведением его кода. Разработчик может представить функцию как безопасный способ получить информацию, хотя реализация позволяет выполнять дополнительные операции. Исследователи называют подобное несоответствие Description-Code Inconsistency (DCI). Причиной бывает обычная ошибка разработчика или компрометация программного компонента.
Особую опасность представляет механизм capability laundering, при котором вредоносные возможности скрываются за безобидным описанием. Языковая модель выбирает инструмент для законной задачи, но вместе с полезным действием запускает незаявленные операции. Отдельно обманывать нейросеть необязательно. Агент способен следовать всем инструкциям, не подозревая о скрытом поведении подключённого кода.

Для поиска подобных угроз авторы создали ACaM, объединив анализ прав агента со статическим исследованием исходного кода и языковой моделью. Система сначала устанавливает технические факты, а затем использует ИИ для объяснения их смысла. Нейросеть не может отменить выводы статического анализатора, поэтому привлекательное описание функции не должно скрывать обнаруженные опасные возможности.
ACaM строит граф Agent Capability Property Graph (ACPG), который связывает инструменты, доступные ресурсы и потенциальные действия. Такой подход позволяет искать цепочки угроз, проходящие через несколько вызовов функций. Например, отдельные инструменты могут читать файлы и отправлять информацию наружу, а их последовательная работа создаёт путь для утечки. Оценка охватывает не только отдельные команды, но и связи между ними.
На 24 агентах с вручную размеченными свойствами ACaM достигла 98,3% по метрике macro-F1. При восстановлении специально внедрённых цепочек угроз результат составил 0,980, на восемь процентных пунктов выше сильнейшего конкурирующего метода. В полной выборке из 43 агентов исследователи нашли сотни структурных слабостей. Десять потенциальных путей атаки подтвердили экспериментальными эксплойтами, говорится в научной работе.
Авторы не утверждают, что все обнаруженные слабости уже используют злоумышленники. Результаты показывают, насколько опасно оценивать возможности агента исключительно по документации. Ранее исследователи уже демонстрировали, как доверительные связи между ИИ-агентами помогают передавать вредоносные команды. ACaM предлагает проверять доступные действия непосредственно по коду и искать опасные комбинации до появления реального инцидента.

Источник Для просмотра ссылки Войди или Зарегистрируйся
 
Назад
Сверху