В 2009 году в мировой прокат вышел американский фантастический боевик «Суррогаты» («Surrogates»), снятый режиссером Джонатаном Мостоу (Jonathan Mostow, род. 28 ноября 1961), с Брюсом Уиллисом (Walter Bruce Willis, род. 19 марта 1955) в главной роли.
Прокудин Михаил Леонидович,
заместитель главного редактора
По сюжету фильма доктор Лайонел Кэнтер (Lionel Canter) разработал интерфейс, позволяющий людям с ограниченными возможностями управлять андроидом — суррогатом — силой нервных импульсов. Андроид при этом ведет себя абсолютно как человек, а человек — оператор — чувствует и переживает все ощущения, которые испытывает его электронный двойник.
Однако это изобретение вскоре становится более чем популярным среди здоровых людей, которые в буквальном смысле слова перестают выходить из дома, в то время как их жизнью живут роботы-суррогаты. У них может быть любая внешность, причем всегда идеальная, мужская или женская, и что бы они ни делали, оператору это не наносит никакого вреда.
Противники нового мироустройства — дреды — не признающие пользы от суррогатов, создали колонии, куда запрещен вход андроидам, и почти не общаются с внешним миром.
Главный герой фильма — агент ФБР Том Грир (Брюс Уиллис) так же, как и большинство людей, пользуется служебным суррогатом, внешне похожим на него самого. Но в глубине души Грир хочет нормального человеческого общения хотя бы со своей женой Мэгги, которая после автокатастрофы, унесшей жизнь их сына и оставившей шрам на ее лице, предпочитает общаться с миром лишь посредством красивого и стройного суррогата.
На первый взгляд сюжет фильма может показаться абсурдным или совсем фантастическим, но так ли это на самом деле?
В СМИ все чаще появляются публикации о том, что мир с развитием ИИ сильно изменился. Человечество развивается так стремительно, все ускоряясь, завоевывая не только планету, но имея еще более амбициозные планы благодаря развитию информационного мира – способности людей к оперированию знаковыми системами – от языка до математики и музыки. По словам доктора биологических и филологических наук, нейро- и психолингвиста, профессора СПбГУ Татьяны Черниговской, в необратимо изменившемся мире произошел цивилизационный слом глобального значения. Новый мир стал текучим, прозрачным, нестабильным, сверхбыстрым, гибридным и мерцающим, и перестал быть «человекомерным».
В ходе исторического развития человечества на протяжении сотен тысяч лет происходила эволюция речи и мыслительных способностей Homo sapiens. А готов ли человек быстро адаптироваться и логично встроиться в этот новый мир, который все более активно захватывает искусственный интеллект?
Мы живем в парадоксальном мире. Достижения промышленной и информационной эпох формируют мир будущего – более опасный и обладающий большими возможностями. По сути дела, человечество выбирает между будущими возможностями и опасностями.
Как говорится, только ленивый не слышал об интернет-зависимости, которая давно уже квалифицируется как психическое заболевание.
Как показал опрос исследовательского центра Superjob.ru, 45% россиян считают себя в той или иной степени зависимыми от современных электронных девайсов, гаджетов и интернета. При этом 13% опрошенных уверены в этом однозначно, 32% склоняются к такому мнению. Россия, к счастью, не занимает пока первое место в мире по интернет-зависимости, а, согласно данным портала ValueWalk, уступает пальму первенства Соединенным Штатам, Бразилии и Макао.
Но теперь ситуация усугубляется тотальным проникновением в сети практически никем не контролируемого искусственного интеллекта. И зачастую невозможно утверждать, что собеседник в социальной сети действительно является человеком.
ИИ уже давно обогнал людей в скорости выполнения многих задач, и теперь стремительно догоняет людей в качестве результатов. Его использование становится нормой. С момента запуска в 2022 году ChatGPT взлетел в рейтингах и стал восьмым по посещаемости сайтом в мире, а также четвертым по популярности приложением на iPhone.
Как пишет портал ADPASS, согласно недавнему исследованию Gallup и Telescope, 99% жителей США хотя бы раз в неделю используют продукты, которые не смогли бы работать без ИИ, – голосовые помощники, навигационные приложения, рекомендации в соцсетях и т. п. Однако почти две трети респондентов оказались не в курсе, что цифровой разум уже выполняет за них повседневные задачи: ответили утвердительно на вопрос об использовании за последние семь дней ИИ-инструментов только 36% опрошенных. При этом среди обладателей диплома колледжа или университета осведомленных о степени проникновения ИИ в нашу жизнь ненамного больше — 47%.
Как сообщает в своих публикациях Российский совет по международным делам (РСМД), «сегодня ИИ в глобальном цифровом пространстве — это, по сути, никем толком не регулируемый инструмент (причем чрезвычайно эффективный) геополитического и экономического влияния владельцев цифровых платформ и сервисов, задающих современные потребительские, общественно-политические и социокультурные тренды.
Максим Федоров, вице-президент Сколтеха в области искусственного интеллекта и математического моделирования пишет, что еще в ноябре 2020 года в журнале Национальной академии наук США американские ученые опубликовали результаты своего исследования (Adversarial vulnerabilities of human decision-making) о возможностях ИИ манипулировать сознанием человека при принятии решений. Если кратко, то натренированная должным образом ИИ-система способна выявлять уязвимости в мыслительных процессах принятия решений и, воздействуя на них, подталкивать человека к определенному выбору (на данном этапе эффективность манипуляционных алгоритмов в лабораторных тестах составляет около 70%). Причем, что немаловажно, такой выбор будет восприниматься человеком как исключительно свой, базирующийся на принципе свободной воли, а не навязанный со стороны хитрой машины.
Но это – аспекты высокого уровня и очень сложная тема. Существует и другая сторона вопроса: при ежедневном использовании ИИ мы так и не знаем, это наш помощник или скрытая угроза для ума.
Мы все чаще перекладываем решение рутинных задач на искусственный интеллект. Это явление называют когнитивной разгрузкой — часть умственной работы выполняют машины. Было бы резонно самим себе задать вопрос: а не делает ли нас повальное использование ИИ когнитивно слабее, с менее гибким умом, слабой памятью и менее способными к критическим суждениям?
Много веков назад древнегреческий философ Сократ (469–399 гг. до н. э.) предупреждал, что изобретение письма ослабит память людей, привыкших полагаться на записи вместо собственной памяти.
В прошлом веке спорили, не разучат ли калькуляторы людей считать в уме, — и действительно, навык устного счета существенно пострадал.
С появлением интернета ученые описали «эффект Google»: зная, что любую информацию можно быстро найти онлайн, люди запоминают сами факты хуже, зато лучше помнят, где эти факты искать.
Психологи и нейробиологи отмечают, что уровень когнитивных способностей человека постепенно снижается при излишней опоре на искусственный интеллект. Если он «думает» за нас, то каковы будут стимулы развивать собственные навыки? Уже мало кто не замечает тот факт, что в наше время молодежь зачастую уверена, что если смартфон под рукой, то не нужно в чем-то стараться запоминать и разбираться самостоятельно.
Постоянное использование ИИ при безграничном доступе к информации может привести к ослаблению силы воображения и памяти человека. То есть чрезмерная автоматизация умственной деятельности несет риск постепенного снижения когнитивных навыков, таких как память, внимание, критическое мышление и творческие способности.
По словам профессора Татьяны Черниговской, если из человеческого головного мозга вытащить все нейроны с отростками – дендритами и аксонами – и выстроить их в одну линию, то ее длина составит 2,8 млн км, что равно расстоянию семи полетов на Луну. То есть, иными словами, излишне полагаясь на ИИ, мы рискуем атрофированием функций миллионов километров нейронных связей. ИИ упрощает жизнь, но создает риск утраты самостоятельности в принятии решений. Чем больше мы доверяем ИИ, тем меньше мы тренируем свое критическое мышление.
Пилоты, годами летающие на автопилоте, утрачивают навык ручного управления самолетом и хуже справляются с нештатной ситуацией. Аналогичная проблема и в медицине: если молодые врачи привыкают полагаться на диагностические системы ИИ, они рискуют не развить собственное клиническое мышление в полной мере.
Есть примеры и проще: водитель, ездивший на автомобиле с автоматической коробкой передач, довольно трудно привыкает к механическому переключению скоростей. Тот, кто постоянно пользуется GPS-навигатором, чувствует себя абсолютно потерянным при его отказе, поскольку утрачивается навык ориентации в городе. Нейронаучные эксперименты с навигацией показали, что у людей, привыкших ездить только по указаниям навигатора, снижается активность гиппокампа — области мозга, ответственной за пространственную память. Проще говоря, технология берет на себя функцию, и мозг «выключает» собственные усилия в этой области. То есть автоматизация начинает обесценивать профессиональные навыки — человек уже не учится так усердно, считая, что машина всегда подстрахует.
Алгоритмы социальных сетей, основанные на нейросетях, создают для нас информационный пузырь, где человек видит только то, что соответствует его интересам. В результате искажается восприятие реальности и не развивается эмпатия и договороспособность. Виртуальные помощники или чат-боты вызывают у нас ощущение комфорта и поддержки, но могут и создавать иллюзию отношений. Мы привыкаем к тому, что всегда есть «кто-то», кто выслушает, но забываем о важности человеческого контакта.
Кроме того, как уточняет РСМД, в глобальных электронных СМИ и агрегаторах новостей ИИ-системы используются для фильтрации, обработки и классификации информации (а с недавних пор избирательное «умное» цензурирование активно применяется и в отношении информационного контента в соцсетях), таргетированного доведения ее до конечного потребителя, как исходя из его личных предпочтений, так и с учетом редакционной политики цифровой платформы или издания. При этом в соцсетях основной фокус делается на оценке поведения и предпочтений пользователя в целях проактивного продвижения товаров и услуг «заказчиков», зачастую также обернутых в определенные социокультурные и политические установки. Большинство людей даже не догадывается, что информация из их аккаунтов используется с целью совершенствования алгоритмов ИИ по воздействию на их же поведенческую модель.
Однако, если пользоваться возможностями ИИ осознанно, негативных эффектов можно избежать. Главное, активно перерабатывать полученную информацию и не брать на веру любой полученный ответ.
Если человек превращается в бездумного потребителя подсказок, без критической оценки, то опасность умственной деградации становится реальной. Но при активном и продуманном применении, когда алгоритмы служат инструментом исследования, генератором идей и способом сэкономить время на рутине, ИИ становится мощным усилителем ума.
Станем мы умнее или глупее, применяя ИИ, по большому счету зависит от того, какие правила обращения с ним выработает общество. Письменность когда-то грозила «вселить забвение», но в итоге дала толчок науке и культуре. Калькуляторы избавили от рутины и позволили сконцентрироваться на концепциях. Интернет отчасти ослабил индивидуальную память, но сделал знания массово доступными. ИИ продолжает этот ряд: при неграмотном использовании он может притупить наши способности, но при грамотном — расширить границы человеческого интеллекта.
Наша задача — не позволить ИИ девальвировать наши навыки, а интегрировать его в свою жизнь таким образом, чтобы открыть новые горизонты для обучения, творчества и понимания мира.
Хотелось бы в заключение привести слова великого философа Эммануила Канта: «Стоит помнить, что чем глубже мы погружаемся в океан знаний о мире, тем опаснее становится путешествие, тем больше ответственность за звездное небо над головой и нравственный закон внутри нас».
И не машина, и не искусственный интеллект должны решать, что будут делать миллионы наших нейронов с дендритами и аксонами, а мы сами. В современном мире, стирающем границы между человеком и искусственным интеллектом, важно помнить о том, что ИИ – союзник, если мы остаемся хозяевами своих решений.
Как пишет издательство «Грамота» в исследовании влияния ИИ на духовный мир человека, «Развитый в мировоззренческом плане человек использует программы искусственного интеллекта как средство, в целях личностного роста. Для недостаточно развитого в этом отношении субъекта последствия взаимодействия с искусственным интеллектом часто негативны: упрощается общение, ослабляется память, снижается активность познания, затрудняется анализ сложных текстов».
Наверное, было бы уместно посоветовать читателям развивать критическое мышление – всегда анализировать ответы, предлагаемые ИИ, сохранять базовые навыки, продолжая тренировать память, счет, письмо, держать мозг в тонусе, направлять высвобожденное ИИ время на более сложные уровни осмысления, а не на простое потребление контента, воспринимать ИИ как полезного помощника, но не как заменитель собственного мышления.
У всемирно знаменитого писателя Владимира Набокова есть замечательные слова: «В фантазии художника нет ни парламента, ни народного представительства. В моем личном мире я абсолютный деспот – я один поддерживаю его в равновесии, я один решаю, что в нем правда, а что нет». Решайте сами!
Уверен, что мы еще увидим немало интересных публикаций на эту тему. Мы же со своей стороны сделаем все возможное для размещения в журнале наиболее интересных материалов о сосуществовании искусственного интеллекта и человеческого разума. Будьте с нами.
