Ученые научили искусственный интеллект воспринимать информацию со скепсисом

Это может помочь научить его принимать решения в режиме реального времени.

Ученые из Массачусетского технологического института создали алгоритм, который учит искусственный интеллект воспринимать информацию скептически. Затем ИИ проверили на простой игре, и оказалось, что он справляется с задачей лучше своих предшественников, сообщает liga.net.

Чтобы сделать ИИ устойчивым к противоречащим данным, исследователи попытались внедрить защиту для контролируемого обучения, объединив алгоритм обучения данными с глубокой нейронной сетью, которая используется, например, для обучения машины игре в Го или шахматы.

Обычно нейросеть учат связывать определенные данные с заданными параметрами. Например, если в ИИ загрузить изображения с меткой «кошка», то в дальнейшем он с легкостью сможет определить кошку, попадая на изображения с соответствующей меткой. Но такой способ очень длительный и трудоемкий, поэтому ученые хотели найти способ, который может заставить ИИ принимать решения в режиме реального времени.

Поэтому команда решила опираться на форму машинного обучения, которая не требует связывания помеченных входных данных с выходными, а скорее направлена на усиление определенных действий в ответ на входные данные. То есть, ученые придумали способ, с помощью которого машина могла анализировать свои правильные и неправильные ответы.

Для проверки результатов исследователи использовали игру пинг-понг, в которой два игрока находятся по разные стороны экрана и отбивают мячик в сторону соперника. Ученые сместили траекторию движения мяча на несколько пикселей, а машина должна была понять, когда он двигается правильно, а когда ее пытаются обмануть.

Исследователи отмечают, что ИИ справился с этой задачей лучше своих предшественников.