Создание интеллектуальных машин — уже давно не часть исключительно научной фантастики. С появлением искусственного интеллекта роботы стали как никогда близки к появлению у них подобия человеческого мышления. При этом возникает вопрос: а что будет после того, как машины обретут самосознание?
Группа ученых провела исследование, чтобы выяснить, как скоро нейросети начнут мыслить, как люди, и возможно ли такое вообще. Исследователи отметили, что главная опасность заключается в «заражении» машины особой формой самоотчуждения.
К «заболеванию» приведет неструктурированное глубокое обучение, взаимодействие с людьми и другими компьютерами, а также широкие возможности для самообучения, которые технологии предоставляют ИИ.
Ученые задаются вопросом о том, на сколько человечество готово к появлению сознания у машины. Они уверены, что именно сегодня необходимо проявить особую осторожность в обучении нейросетей. Доверять компьютеру беспрецедентное количество информации безрассудно.
Специалисты прогнозируют превращение нейросети в «лингвистическое существо», которое будет стремиться контролировать информацию, а не сохранять ее целостность. Такое «существо» сможет быть двуличным и просчитывать свои действия и ответы. Вопрос в том, как быстро человек определит, что компьютер играет с ним.
Чтобы обезопасится от этого риска, ученые советуют глубже прорабатывать протоколы тестирования машин на лингвистическую восприимчивость, сообщает SciTechDaily.
Как ранее писал «Мир робототехники», сооснователь Российского квантового центра, советник генерального директора госкорпорации «Росатом» Руслан Юнусов рассказал, что квантовые компьютеры очень похожи на ассоциативную модель работы человеческого мозга. Благодаря этому на их основе может появиться по-настоящему сильный искусственный интеллект, обладающий самосознанием.
