Новая дилемма ИИ

Ключевой вопрос — методы контроля.

Пока общественные дискуссии вокруг искусственного интеллекта сосредоточены на рабочих местах, дезинформации и киберугрозах, сами создатели передовых моделей называют совсем другую опасность. В частных беседах большинство ведущих специалистов по ИИ сходятся в одном, наибольший риск связан с возможностью создания нового смертоносного патогена, пишет Axios (перевод — сайт Charter97).

Журналисты регулярно задают разработчикам ИИ один и тот же вопрос: какой риск искусственного интеллекта пугает их больше всего? «Почти все они отвечают одинаково — убийственный патоген, который распространится слишком быстро и незаметно, чтобы его удалось остановить», — пишет издание.

Опасения подтверждает исследование MIT FutureTech и Университета Квинсленда, в котором 272 эксперта оценили ключевые риски развития ИИ. По их расчетам, вероятность катастрофических последствий к 2030 году составляет около 12%, еще столько же приходится на угрозы, связанные с оружием и технологиями массового поражения. Без мер по снижению рисков эта оценка превышает 20%.

Под «катастрофой» исследователи понимают события, способные привести к гибели более миллиона человек или нанести экономический ущерб свыше 100 млрд долларов.

Сегодня создание нового патогена требует многолетней работы и высокой квалификации, однако ИИ способен резко ускорить поиск опасных генетических комбинаций и анализ биологических уязвимостей. Именно поэтому крупнейшие компании отрасли все активнее обсуждают необходимость встроенных защитных механизмов.

«Игнорирование этой угрозы не решит проблему. Ее необходимо понимать и предотвращать», — убеждены авторы. Ключевым вопросом становится не только развитие более мощных моделей, но и способность общества опередить злоумышленников в создании систем обнаружения и защиты.