ЕС хочет запретить использование искусственного интеллекта в некоторых сферах

Эксперты считают, что ИИ не должен решать, кто заслуживает доверия, а кто нет.

Европейский союз обсуждает возможность запрета на использование искусственного интеллекта (ИИ) в нескольких сферах, таких как массовое наблюдение и социальные кредитные рейтинги, сообщило издание Politico со ссылкой на разработанный документ, пишет liga.net.

Согласно проекту члены ЕС, например, должны будут создать оценочные комиссии для тестирования и проверки систем ИИ с высоким риском. А компании, которые разрабатывают или продают ИИ, подпадающие под ограничения, в том числе из других странах мира, могут быть оштрафованы до 4% их глобального дохода.

Согласно копии проекта, с которой ознакомился The Verge, проект предусматривает:

Запрет на ИИ для "неизбирательного наблюдения", включая системы, которые напрямую отслеживают людей в физических средах или собирают данные из других источников;

Запрет на ИИ, которые создают социальные кредитные рейтинги, для оценки чьей-либо благонадежности на основе социального поведения или личностных качеств;

Специальное разрешение на использование "удаленных систем биометрической идентификации", таких как распознавание лиц в общественных местах.

Уведомления о взаимодействии человека с ИИ, если это не "очевидно из обстоятельств и контекста использования".

Надзор за ИИ "высокого риска", которые представляют прямую угрозу безопасности. Речь идет о беспилотных автомобилях, и системах, которые могут повлиять на чьи-то средства существования, например для найма на работу и судебных решений.

Оценка контролирующими органами систем с высоким уровнем риска до их ввода в эксплуатацию. Обучение таких ИИ должно будет производиться на проверенных "высококачественных" наборах данных.

Создание "Европейского совета по искусственному интеллекту", состоящего из представителей всех стран ЕС.

Некоторые пункты правил необходимы в доработке, считают эксперты. "Описания запрещаемых систем искусственного интеллекта расплывчаты и содержат непонятные формулировки, которые могут создать серьезные лазейки", – сказал The Verge Дэниел Леуфер, аналитик европейской политики Access Now.

Кроме того, эксперты отмечают пробелы в таких пунктах, как социальное кредитование, которые, по их мнению, недостаточно регулируются в новом проекте и считают, что ИИ не должен решать, кто заслуживает доверия, а кто нет.

Другие аналитики отмечают, что власти наоборот лезут туда, куда им не стоило бы. Проект "представляет собой типичный брюссельский подход к новым технологиям и инновациям. Если есть сомнения, регулируйте", – отметил Омер Тене, вице-президент некоммерческой организации IAPP.

Пока остается неизвестно, какие изменения могут быть внесены в этот проект, поскольку власти ЕС готовятся к официальному релизу 21 апреля, после чего документ будет дорабатываться депутатами Европарламента и обсуждаться в каждом отдельном государстве ЕС.