Представляет ли искусственный интеллект угрозу для человека? Американский миллиардер Илон Маск уверен, что вероятность нейросетевого апокалипсиса составляет примерно 10–20%.
Такое мнение он озвучил на семинаре Great AI Debate («Большие дебаты об искусственном интеллекте») на четырехдневном саммите Abundance Summit. При этом Илон Маск подчеркнул, что потенциал ИИ стоит такого риска, но скорее всего сценарий развития этой технологии будет позитивным, пишет Business Insider.
Издание попросило исследователя в области безопасности ИИ Романа Ямпольского прокомментировать заявление миллиардера. Эксперт согласился с Илоном Маском, однако отметил, что последний сильно преуменьшил цифры.
Роман Ямпольский уверен, что нейросетевой апокалипсис наступит с вероятностью в 99,999999%.
Оценкой возможности того, что ИИ повернется против человека, занимаются многие эксперты в этой области. Существует даже специальный термин — p(doom), что в переводе с математического языка означает «вероятность гибели».
P(doom) появился более десяти лет назад как шутка на форумах поклонников нейросетей, однако в конце 2023 года стал мейнстримом из-за опасений, вызванных скоростью развития искусственного интеллекта. Чем выше процент p(doom), тем, по мнению оценивающего, вероятнее, что компьютер уничтожит человечество.
Прогноз Романа Ямпольского, пожалуй, один из самых пессимистичных. Исполнительный директор Anthropic Дарио Амодеи оценивает вероятность нейросетевого апокалипсиса в 10–20%. Председатель Федеральной торговой комиссии Лина Хан говорит о 15%, а Эммет Шир, который в конце 2023 года около пяти минут был временным исполнительным директором OpenAI, заявил, что его p(doom) колеблется от 5 до 50%.
Исследователи искусственного интеллекта, «крестные отцы глубокого обучения» Джеффри Хинтон и Йошуа Бенжио считают, что вероятность уничтожения человечества искусственным интеллектом составляет 10 и 20% соответственно.
При этом есть и очень оптимистичные прогнозы. Например, сооснователь облачной компании Box Аарон Леви сказал, что, по его мнению, p(doom) стремится к нулю. Он уверен, что человечество сможет защититься от угрозы со стороны ИИ
В Кремниевой долине, как пишет New York Times, p(doom) из пустых разговоров превратился в мрачную статистику, которая красноречиво показывает, как люди относятся к нейросетям и на сколько готовы контролировать новые технологии.
Ранее «Мир робототехники» писал, что специалисты Корнелльского университета активно изучают способности искусственного интеллекта отличать вредоносный код от обычного. С помощью нейросети эксперты смогли написать вредоносную программу — червя, который может поражать другие умные системы.
