Искусственный интеллект годами проверял чужой код. Теперь, похоже, он начал сам находить в нём дыры — и не деликатно намекать, а оформлять их в отчёты. Агент Big Sleep от Google уже доложил о серьёзных уязвимостях в массовом открытом ПО, хакеры всё чаще признаются, что доверяют языковым моделям часть реверс-инжиниринга, а ИИ-лаборатории, как ждут в отрасли, начнут задерживать релизы моделей, которые оказываются слишком опасным киберинструментом в чужих руках. Сюжеты разные, рынки разные — разговор один: поиск эксплоитов дешевеет до стоимости токенов. Ниже — что это значит для рынка 0-day, экономики патчей и этики раскрытия уязвимостей.
Десятилетиями поиск уязвимостей выглядел как честный брутфорс: фаззеры гоняли через программу миллиарды искажённых входных данных в надежде, что та упадёт. Грубо, шумно, зато без претензий. Языковые модели работают иначе — они читают код и рассуждают о нём, как очень начитанный аудитор, который никогда не устаёт и не просит отпуск.
Big Sleep — совместное детище команды Project Zero и DeepMind — уже отчитывался о серьёзных багах в широко используемом открытом ПО. Каждая такая находка — маленькое событие: до ошибок, которые годами пропускал фаззинг, добрался агент, а не человек.
Есть и другие маячки. Участники конкурса DARPA AI Cyber Challenge построили ИИ-системы, которые автоматически находили и латали дыры в настоящих open-source проектах, а часть находок получила статус подтверждённых. Стартап XBOW вывел на рынок автономного «пентестера»: агент прогоняет атаки по заказу клиентов, наоткрывал столько подтверждённых уязвимостей, что забрался на верхние строчки рейтинга платформы HackerOne. Разница с фаззером принципиальная. Модель добирается до логических ошибок и тонких состояний гонки — туда, куда случайные данные просто не долетают.
Самая наглядная иллюстрация — не отчёты, а признания. В хакерском сообществе — от консольной сцены до разбора прошивок встраиваемых устройств — всё чаще говорят вслух: при реверс-инжиниринге авторы прибегают к помощи больших языковых моделей. Консольный взлом тут показателен: это классический полигон, где обкатывались дизассемблеры, эмуляторы и, главное, терпение исследователей.
Если модель способна ускорить разбор проприетарного железа и прошивки, тот же приём работает не только против игровых приставок. Порог входа в «наступательную» профессию падает: раньше нужны были годы с отладчиком, теперь — умение формулировать задачи и проверять ответы агента.
У этого есть мирная сторона: комьюнити продолжает получать работающие гаджеты даже после того, как производитель снял с них поддержку. И тревожная: те же инструменты мгновенно достаются тем, кому интересно чужое, а не своё.
Третья история — про страх. Судя по всему, ведущие ИИ-лаборатории откладывают релизы моделей, которые в предрелизных тестах оказываются слишком сильны в задачах, полезных для кибератак: выпускать такие можно только с дополнительными мерами защиты.
Это не капризы. Так работает логика политик ответственного масштабирования, которые лаборатории пишут заранее: способности модели меряют до релиза, и «наступательный киберпотенциал» — один из главных красных флажков. Система умеет сама находить и связывать уязвимости? Значит, вы держите в руках инструмент двойного назначения, и его запуск обрастает условиями: усиленный редтеаминг, мониторинг попыток джейлбрейков, отсечение вредоносных сценариев. Показательно, что индустрия впервые всерьёз измеряет «хакерские» навыки модели как отдельную метрику безопасности — наравне с автономностью и биорисками.
Рынок уязвимостей всегда был закрытым и дорогим. Брокеры вроде Zerodium платили шестизначные суммы за цепочки эксплоитов для мобильных платформ, а покупатели — от вендоров до частных и государственных структур — ценили прежде всего эксклюзивность. Дешёвый ИИ-поиск бьёт по этой конструкции с двух концов.
Первый удар — по предложению. Агенты способны выдавать десятки находок среднего уровня, и цена «простых» 0-day неизбежно поползёт вниз. Дорогими останутся разве что глубокие многосоставные цепочки.
Второй удар — по инфраструктуре раскрытия. Платформы багбаунти уже захлёбываются от автоматических отчётов, где дубли и мусор стоят триажистам дороже самой находки. Ответственное раскрытие придумали в эпоху, когда уязвимость была редкостью. Когда машины начнут находить их тысячами в месяц, понадобятся автоматический триаж, стандартизованные отчёты и, скорее всего, пересмотр самих правил игры. Оборотная сторона утешает: защитники получают те же инструменты, и патч теперь может выйти раньше, чем эксплоит окажется в чьём-то боте.
Российский рынок ИБ консолидирован вокруг крупных игроков, и все они уже тащат машинное обучение в продукт. Positive Technologies развивает самообучающиеся средства защиты и ИИ-ассистентов для аналитиков центров мониторинга, а её экспертный центр традиционно занимается исследованием уязвимостей — вплоть до 0-day в промышленном и офисном софте. У «Лаборатории Касперского» десятилетиями сильные команды аналитиков, и ML в обнаружении угроз компания применяет давно. «Би.Зон», «дочка» Сбера, развивает платформу багбаунти, где отечественные компании платят исследователям за найденные дыры. «Солар» строит центры мониторинга с элементами ИИ, а база уязвимостей ФСТЭК работает как национальный реестр угроз.
Ограничения при этом очевидны. Доступ к международным багбаунти-площадкам для наших исследователей затруднён, а проверять чужие системы без разрешения нельзя — за несанкционированный доступ отвечает Уголовный кодекс, без вариантов. Отечественные языковые модели развиваются, но для глубокого реверс-инжиниринга инженеры пока чаще берут открытые модели и собственные наработки. Перспектива тем не менее заманчивая: кадровый дефицит в ИБ, по оценкам участников рынка, острый, и автоматизация поиска уязвимостей — не роскошь, а способ закрывать дыры быстрее, чем их найдут чужие агенты.
ИИ-хакер не отменяет исследователя — он меняет его профессию. Завтрашний специалист по безопасности — оператор роя агентов: ставит гипотезы, проверяет находки и принимает те решения, которые машине доверять нельзя. Индустрии предстоит ускорить патч-циклы до скорости генерации находок и перестроить ответственное раскрытие под машинный масштаб. А главный вывод прост: когда эксплоит стоит токены, выигрывает не тот, кто нашёл уязвимость, а тот, кто успел её закрыть.