Биоинформатики из Рурского университета в Бохуме разработали нейронную сеть, которая может «объяснять» ход их суждений. Исследование опубликовано в журнале Medical Image Analysis.
Авторы исследования, как обычно, начали строить нейронную сеть, скармливая ИИ большое количество микроскопических инфракрасных изображений тканей, некоторые из которых содержали опухоли, а другие — только здоровые ткани. Искусственный интеллект, как правило, индуктивный, то есть идет от частного к общему: используя обучающие данные, ИИ строит общую модель, на основе которой оценивает все остальные наблюдения, которые ему предоставляются.
В то же время нейронные сети часто представляют собой черный ящик: непонятно, какие признаки алгоритм выбирает из обучающих данных, а индуктивная логика может привести к неверным выводам. Исследователи решили пойти другим путем: они научили ИИ дедуктивному методу, используемому в научном познании. Разработанная ими нейронная сеть использует индукцию для классификации образца ткани на основе наличия опухоли, а также дедуктивно генерирует карту микроскопического изображения ткани. На его основе затем можно проверить правильность модели молекулярными методами, например, гистологическим окрашиванием ткани специальным красителем.
Такой подход позволит разработать биомаркеры, с помощью которых ИИ сможет определять подтипы опухолей — их необходимо знать для эффективной терапии. Кроме того, прозрачность алгоритма повысит доверие к нему со стороны врачей и пациентов.
Искусственный интеллект можно научить распознавать признаки раковой опухоли на изображении ткани в течение относительно длительного периода времени. Однако как именно ИИ решает, есть ли перед ним опухоль, до сих пор часто остается загадкой — в отличие от людей-экспертов, они не могут объяснить свои решения.