Специалисты Центра искусственного интеллекта Сколтеха и Института проблем передачи информации РАН разработали метод машинного обучения, который повышает точность и надежность моделей нейронных сетей при решении задач с высоким уровнем риска. Новый подход фактически учит ИИ сомневаться в собственных решениях.
Современные нейросети часто слишком уверены в себе даже в тех ситуациях, когда данные неоднозначны или содержат помехи. Это создает реальные риски в таких областях, как медицина, промышленная безопасность или автономные системы.
Российские ученые пересмотрели классический подход к обучению нейросетей, в котором применяются только бинарные метки (0 или 1), введя в него так называемые «мягкие» метки — значения от 0 до 1. Эти колебания отражают уровень уверенности экспертов в точности разметки данных.
Такой подход помогает нейросетям выстраивать более продуманную стратегию принятия решений и эффективнее реагировать на ситуации с высокой степенью неопределенности.
Важно, что метод учитывает как эпистемическую, то есть связанную с неполнотой обучающих данных, неопределенность, так и случайную, которая возникает под воздействием естественного шума или неоднозначности данных.
По словам разработчиков, метод помогает нейросети понять, где нужно вести себя осторожно, и выявлять случаи, когда ее решения должен проверить человек. Они протестировали свой подход на реальных данных, включая медицинскую диагностику для определения группы крови. В результате экспертам удалось добиться существенного повышения точности оценки неопределенности в задачах классификации и сегментации, сообщает Tech Explore.
