Axios: ИИ меняет хакерство

Никто не знает, насколько быстро это происходит.

Мир кибербезопасности разделился на два лагеря из-за стремительного развития генеративного ИИ. Одни эксперты уверены, что защитники пока сохраняют преимущество: у киберпреступников нет ресурсов для масштабной разработки ИИ-инструментов, а большие языковые модели (LLM) имеют ограничения для проведения атак. Это дает время использовать ИИ в интересах обороны, пишет Axios (перевод — сайт Charter97).

Другие видят более мрачную картину: злоумышленники уже применяют доступные ИИ для поиска уязвимостей и написания вредоносного кода. Такие инструменты становятся все лучше и быстрее.

Пока ИИ плохо справляется с оценкой человеческих сценариев, но эксперты предупреждают, что скоро хакеры смогут использовать ИИ-агентов самой жертвы против нее же.

В то же время оборонительные технологии тоже развиваются. Появился прототип ИИ-агента, способного автоматически выявлять вредоносные файлы (пока с точностью 24%). Представили «цифрового двойника» для безопасного моделирования атак. В рамках AI Cyber Challenge появились открытые инструменты, способные находить и устранять уязвимости.

По прогнозам, уже в следующем году ИИ может радикально изменить киберугрозы, а специалисты по реагированию все чаще будут сталкиваться с атаками, которых «никто раньше не видел».