На сколько люди реально могут контролировать искусственный интеллект? Этим вопросом задается эксперт по безопасности ИИ Роман Ямпольский в преддверии выхода его книги «ИИ: необъяснимый, непредсказуемый, неконтролируемый».
По мнению эксперта, именно проблема контроля ИИ может стать одной из самых значимых для человечества. Создание «безопасного» ИИ трудноосуществимо из-за умения нейросетей самообучаться и адаптироваться. Это делает невозможным предсказание всех потенциальных проблем с безопасностью.
Кроме того, ИИ не всегда может понятно объяснить человеку принятое им решение. Контроль уменьшается с ростом автономности нейросетей. Компьютеру также не свойственны человеческие ценности.
Святым Граалем мира нейросетей является так называемый общий искусственный интеллект (AGI). Его появление, по мнению Ямпольского, изменит траекторию развития человеческой цивилизации. На данном этапе развития технологий люди просто не смогут контролировать такую нейросеть.
Роман Ямпольский отмечает, что необходимо создавать системы, действия которых можно отменить, возможности которых ограничены, обеспечена прозрачность и понятность их функционирования.
Ранее «Мир робототехники» писал, что специалисты Копенгагенского университета первыми в мире смогли доказать невозможность создания постоянно стабильных нейросетей. Ключевая особенность исследования заключается в том, что оно подчеркивает неотъемлемые различия между искусственным и человеческим интеллектами.
