Ватикан: Искусственный интеллект — это источник огромных возможностей, но также и глубоких рисков

Применение ИИ должно основываться на этических и моральных соображениях.

Ватикан выпустил одобренный Папой Франциском документ, в котором предостерегает, что искусственный интеллект может оказать пагубное влияние на взаимоотношения между людьми, рынок труда, образование и методы ведения войн.

Ватикан считает, что искусственный интеллект — это «источник огромных возможностей, но также и глубоких рисков». Об этом говорится в новом документе, предназначенном для католических верующих, который Ватикан создал после полугода консультаций с различными экспертами, в том числе в области искусственного интеллекта.

Ватикан выступает за то, что применение искусственного интеллекта должно основываться на этических и моральных соображениях, и призывает к постоянному надзору за технологией. Среди уже актуальных негативных последствий использования ИИ Ватикан упоминает «вредное чувство изоляции», которое общение с чат-ботами может принести детям, и «трактовку человеческих отношений как транзакций». В документе выражается обеспокоенность тем, что ИИ может быть использован для продвижения того, что Папа назвал «технократической парадигмой». Речь идет о вере в то, что мировые проблемы можно решить только с помощью технологических средств.

Ватикан также против того, чтобы ИИ и технологический прогресс все больше заменяли человеческий труд, потому что это было бы губительно для человечества. Согласно позиции церкви, ИИ не должен сводить работников к простым винтикам в системе, поскольку «достоинство работников и важность занятости для экономического благосостояния отдельных лиц, семей и обществ».

В документе также повторяется беспокойство относительно использования технологии для создания дистанционно управляемого оружия, которое способствует «более холодному и отстраненному подходу к безмерной трагедии войны». Отдельное внимание обращают на угрозу распространения дезинформации.

«Во всех сферах, где человек призван принимать решения, здесь также маячит тень зла. Моральная оценка этой технологии должна учитывать то, как она направляется и используется. … Фейковые медиа, созданные с помощью ИИ, могут постепенно подорвать основы общества. Этот вопрос требует тщательного регулирования, поскольку дезинформация — особенно через контролируемые или подконтрольные ИИ СМИ — может распространяться непреднамеренно, подпитывая политическую поляризацию и социальные беспорядки. Такой широко распространенный обман не является тривиальным делом; он наносит удар по сути человечества, разрушая фундаментальное доверие, на котором построены общества», — говорится в документе.

Документ был одобрен Папой Франциском, который неоднократно публично обращался к теме искусственного интеллекта. В обращении к политическим, экономическим и бизнес-лидерам на Всемирном экономическом форуме в Давосе, Швейцария, на прошлой неделе Франциск написал, что ИИ вызывает «большое беспокойство по поводу его влияния на роль человечества». А на встрече G7 в Италии в прошлом году Франциск сказал мировым лидерам, что ИИ «представляет собой настоящую когнитивно-индустриальную революцию, которая будет способствовать созданию новой социальной системы, характеризующейся сложными эпохальными преобразованиями».