В ЕС запретят искусственный интеллект, который манипулирует сознанием человека

В том числе будут запрещены игрушки, использующие голосовые подсказки.

Евросоюз полностью запретит искусственный интеллект (ИИ), который манипулирует человеческим сознанием, так как он представляет явную угрозу жизни и правам людей, пишет сайт «Европульс».

В том числе будут запрещены игрушки, использующие голосовые подсказки и поощряющие опасное поведение несовершеннолетних.

Полный запрет касается и тех систем ИИ, которые используются для так называемого социального скоринга — то есть для моделирования поведения человека в соцсетях исходя из его пола, возраста и других характеристик.

Кроме того, будет ограничено использование искусственного интеллекта, который проводит проверку документов при пересечении границы, применяет биометрические данные и участвует в кредитной оценке заемщика. Такие системы ИИ теперь могут быть допущены на рынок только при предоставлении всей информации пользователю, высоком уровне безопасности данных и четком документировании всех процессов.

Из других нововведений – необходимость обязательно предупреждать клиентов чат-ботов, что они общаются не с живым человеком, а с ботом.

Группа ученых из Германии и Австралии ранее выяснила, что искусственный интеллект может манипулировать людьми. Они смогли натренировать созданную ими программу так, что она распознавала мотивы принятия человеком решений и влияла на его действия.