Google зафиксировала первый в истории случай использования ИИ для создания zero-day эксплойта
В компании Google заявили, что обнаружили, возможно, первый реальный случай использования искусственного интеллекта для разработки zero-day эксплойта. Это событие может стать поворотной точкой в том, как именно создаются современные кибератаки.
В отчете группы Google Threat Intelligence Group (GTIG), опубликованном 11 мая, специалисты сообщили: злоумышленники прибегли к помощи ИИ, чтобы найти и использовать ранее неизвестную уязвимость в популярном инструменте для администрирования веб-ресурсов с открытым исходным кодом. По данным компании, эта «дыра» в безопасности позволяла взломщикам обходить двухфакторную аутентификацию, если они уже раздобыли логин и пароль.
По словам Google, об уязвимости оперативно сообщили разработчикам софта, и её успели закрыть патчем до того, как хакеры смогли бы применить эксплойт в масштабной атаке.
Что выдало ИИ?
Больше всего исследователей привлек сам код эксплойта. В Google отмечают, что Python-скрипт имел все классические признаки «творчества» нейросетей: избыточное количество поясняющих комментариев, типичное для учебников структурирование кода и даже выдуманный (галлюцинируемый) показатель критичности CVSS, которого в реальности не существует.
Интересно, что найденная уязвимость — это не банальная ошибка в работе с памятью или опечатка в коде. Речь идет о проблемах логики более высокого уровня и семантическом анализе. Это именно та область, где современные языковые модели показывают лучшие результаты. Проще говоря, ИИ помог злоумышленникам связать воедино разрозненные элементы поведения приложения в цепочку действий, которую можно использовать в своих целях.
ИИ как «уравнитель» в кибервойне
Специалисты по безопасности уже давно предупреждали: ИИ может значительно снизить порог входа для проведения сложных кибератак. Теперь даже менее опытные «хакеры-любители» получают возможность автоматизировать этапы, которые раньше требовали глубоких технических познаний и долгих часов работы.
Разумеется, IT-гиганты вроде Google тоже используют ИИ в защитных целях: для автоматического поиска багов, анализа угроз и написания патчей. Тем не менее, этот инцидент делает дискуссию о киберугрозах с применением ИИ еще более острой.
Хотя текущую угрозу удалось нейтрализовать до того, как она нанесла серьезный ущерб, эксперты уверены: это лишь первый «звоночек», доказывающий, что ИИ становится полноценным участником обеих сторон киберфронта.
Данный инцидент напоминает о необходимости использования актуального и проверенного ПО, которое уже широко представлено в корпоративном секторе РФ.