Команда ученых из Технологического института Джорджии разработала новую нейронную сеть, которая имитирует человеческий способ принятия решений. Модель под названием RTnet оценивает вероятность того или иного решения задачи, а потом собирает доказательства для окончательного выбора.
Это очень похоже на то, как решения принимают люди: оценивают возможные варианты, вспоминают похожие ситуации и собирают данные из окружающей среды. При этом поведение в одной и той же ситуации в разное время и разных условиях может отличаться.
Нейронные сети, в свою очередь, практически всегда принимают одни и те же решения. Это делает их менее адаптивными, а значит, менее надежными. В частности, они не могут быть уверенными в правильности своего ответа. Грубо говоря, большие языковые модели не признаются пользователю, что не знают ответа на заданный им вопрос. Скорее, они просто выдумают ответ.
Новая модель использует байесовскую нейронную сеть, которая оценивает вероятности для принятия решения, а также процесс накопления доказательств для каждого выбора. Нейронная сеть постоянно дает немного отличающиеся ответы. Доказательства подтверждают или опровергают ее решение.
Ученые полагают, что научив ИИ принимать решение, как человек, удастся сделать модели более гибкими, способными решать задачи без тонкой настройки.
