Forbes: ИИ и люди подвержены одинаковым когнитивным иллюзиям

Это показал недавний эксперимент.

Искусственный интеллект, созданный для объективных решений, на деле унаследовал когнитивные искажения, свойственные людям. Недавний эксперимент финтех-стартапа это показал, пишет журнал Forbes (перевод — сайт Charter97).

Два одинаковых досье заемщиков были описаны разными словами — «небольшие перерывы в работе» и «многочисленные пробелы в стаже». Результат? Одобрение для одного и отказ для другого.

Причина проста. ИИ обучается на человеческих данных, а значит, впитывает наши предосуждения. Примеров много: Amazon отказалась от системы подбора персонала, которая отдавала предпочтение мужчинам, а алгоритм распознавания изображений однажды классифицировал темнокожих людей как «горилл».

Вот ключевые когнитивные искажения, общие для людей и ИИ:

Эффект доступности. Яркие события кажутся более вероятными. Поэтому чат-боты охотно рассказывают о скандалах, игнорируя скучные, но частые явления.

Эффект якоря. Первое число или формулировка задают тон. Вопрос «Почему удаленка проваливается?» даст совсем иной ответ, чем «Почему она процветает?».

Фрейминг. Одинаковые факты звучат по-разному в зависимости от подачи — так же реагирует и ИИ.

Избегание потерь. Модели склонны выбирать безопасные варианты, а не экспериментировать.

Преувеличения. ИИ, как и люди, звучит слишком уверенно, даже выдавая ошибки.

Проблема не только в том, что ИИ повторяет человеческие ошибки, а в масштабе. алгоритмы делают это быстро, массово и убедительно, формируя решения, влияющие на рынки, политику и жизнь людей.