Ученые научили искусственный интеллект «объяснять» свои решения

Специалисты из Германии научили нейросеть дедуктивному методу.

Биоинформатики из Рурского университета в Бохуме разработали нейронную сеть, которая умеет «объяснять» ход своих суждений. Исследование опубликовано в Medical Image Analysis.

Авторы исследования начали создание нейронной сети как обычно, снабдив ИИ большим количеством микроскопических инфракрасных снимков тканей, некоторые из которых содержали опухоли, а другие — только здоровые ткани. Искусственный интеллект обычно индуктивен, то есть идет от частного к общему: используя обучающие данные, ИИ создает общую модель, на основе которой оценивает все дальнейшие наблюдения, которые ему предоставляют.

При этом нейронные сети часто представляют собой черный ящик: неясно, какие именно признаки алгоритм выбирает из обучающих данных, а из-за индуктивной логики он может прийти к неверным выводам. Ученые решили использовать иной подход: они научили ИИ дедуктивному методу, который используется в научном познании. Разработанная ими нейронная сеть с помощью индукции классифицирует образец ткани в зависимости от наличия опухоли, а также дедуктивно создает карту микроскопического изображения ткани. По ней человек затем может проверить правильность модели, используя молекулярные методы, например, гистологическое окрашивание ткани специальным красителем.

Такой подход позволит разработать биомаркеры, по которым ИИ сможет определять подтипы опухолей — их необходимо знать для эффективной терапии. Кроме того, прозрачность работы алгоритма повысит доверие к нему у врачей и пациентов.

Искусственный интеллект относительно давно можно научить распознавать признаки раковой опухоли на снимке ткани. Однако то, как именно ИИ решает, опухоль ли перед ним, до сих пор часто остается загадкой — в отличие от людей-экспертов, они не могут объяснить свои решения.