";123 Array
(
    [NAME] => I`LL BE BACK, или этика и антропоморфные роботы в кинематографе
    [~NAME] => I`LL BE BACK, или этика и антропоморфные роботы в кинематографе
    [TAGS] => социокультурный аспект, прогнозы, андроидные
    [~TAGS] => социокультурный аспект, прогнозы, андроидные
    [PREVIEW_TEXT] => 

	 С тех пор как чешский писатель Карел Чапек использовал слово «робот» в своей пьесе «R.U.R.» («Россумские универсальные роботы», 1920), роботы и искусственный интеллект (ИИ) все быстрее проникают во все сферы жизни человеческого социума. И все чаще возникают вопросы относительно будущего сосуществования людей и машин, по большей части затрагивающие аспекты этики и морали.

    [~PREVIEW_TEXT] => 

	 С тех пор как чешский писатель Карел Чапек использовал слово «робот» в своей пьесе «R.U.R.» («Россумские универсальные роботы», 1920), роботы и искусственный интеллект (ИИ) все быстрее проникают во все сферы жизни человеческого социума. И все чаще возникают вопросы относительно будущего сосуществования людей и машин, по большей части затрагивающие аспекты этики и морали.

    [PREVIEW_PICTURE] => Array
        (
            [ID] => 948
            [TIMESTAMP_X] => 04.04.2024 17:06:27
            [MODULE_ID] => iblock
            [HEIGHT] => 540
            [WIDTH] => 1024
            [FILE_SIZE] => 51607
            [CONTENT_TYPE] => image/jpeg
            [SUBDIR] => iblock/40e/bokig5qwqobaozhsdy9cutea65g33xmd
            [FILE_NAME] => 15_1.jpg
            [ORIGINAL_NAME] => 15-1.jpg
            [DESCRIPTION] => 
            [HANDLER_ID] => 
            [EXTERNAL_ID] => 729541d016445c34a368219c5a10b741
            [VERSION_ORIGINAL_ID] => 
            [META] => 
            [SRC] => /upload/iblock/40e/bokig5qwqobaozhsdy9cutea65g33xmd/15_1.jpg
            [UNSAFE_SRC] => /upload/iblock/40e/bokig5qwqobaozhsdy9cutea65g33xmd/15_1.jpg
            [SAFE_SRC] => /upload/iblock/40e/bokig5qwqobaozhsdy9cutea65g33xmd/15_1.jpg
            [ALT] => I`LL BE BACK, или этика и антропоморфные роботы в кинематографе
            [TITLE] => I`LL BE BACK, или этика и антропоморфные роботы в кинематографе
        )

    [~PREVIEW_PICTURE] => 948
    [DETAIL_TEXT] => 

	 Роботы всегда вызывали определенное беспокойство и даже страх — как бы они не причинили вреда людям или же не лишили их самой жизни. Поэтому робот с оружием всегда вызывал наибольшее опасение. В этой связи не случайно появление целого ряда фантастических фильмов с роботами-убийцами, например: робот Протей IV — «Семя демона» (1977), Гектор — «Сатурн 3» (1980), ЭД-209 — «Робокоп» (1987), Kaalium Cyborgs — «Лунная ловушка» (1989), М.А.Р.К. 13 — «Оборудование» (1990), War Beast — «Машина смерти» (1994), Стражи — «Матрица» (1999), Альтрон — «Мстители: Эра Альтрона» (2014), Терминаторы — франшиза «Терминатор» (1984—2019).


	 В литературе и кинематографе фигурируют такие названия машин, как робот, киборг и андроид. Зачастую слово «робот» означает, что ИИ управляет металлическим скелетом, киборг — это сочетание частей человеческих органов и механики, а у андроида тело из синтетических материалов, поэтому в некоторых фильмах их называют синтетами.


	 Но суть одна: речь идет о той степени развития ИИ, когда наступает так называемая технологическая сингулярность (technological singularity) — гипотетический момент в будущем, когда технологическое развитие становится в принципе неуправляемым и необратимым, что порождает радикальные изменения характера человеческой цивилизации.


	 Концепцию сингулярности выдвинул британский математик и космолог Ирвинг Гуд. В соответствии с ней компьютер с сильным искусственным интеллектом может войти в «безудержную реакцию» циклов самосовершенствования, при этом каждое новое поколение искусственного интеллекта будет появляться все быстрее, порождая своего рода «интеллектуальный взрыв» и создавая в конечном счете суперинтеллект, превосходящий интеллект всего человечества.


	 В далеком 1950 году в сборнике рассказов «Я, робот» («I, Robot») всемирно известный писатель-фантаст Айзек Азимов сформулировал три закона робототехники:


	 1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.


	 2. Робот должен повиноваться командам, которые ему дает человек, кроме тех случаев, когда эти команды противоречат Первому закону.


	 3. Робот должен заботиться о своей безопасности, если это не противоречит Первому и Второму законам.


	 То есть вопрос безопасности человека в отношениях с роботами в значительной степени занимал ум писателя. Если вникнуть в глубинный смысл слов героев его рассказа, то становится понятно, что если Азимов и не допускал-таки возможность нарушения роботами этих законов в будущем, но думал об этом точно.


	 Как говорит доктор Сьюзен Келвин (Dr. Susan Calvin), героиня многих рассказов из книг «Я, робот» и «Идеальный робот», главный робопсихолог компании «U.S. Robots and Mechanical Men, Inc.», «ни один робот не может совершить убийство, как человек не может ходить по воде». «Знаешь, был один человек... много лет тому назад», — отвечает ей детектив Спунер, расследующий дело об убийстве, в которое оказывается вовлечен робот.


	 И там же приводится интересный диалог детектива Спунера с робопсихологом Альфредом Лэннингом (Alfred Lanning), начинающийся с вопроса Спунера:


	 — Что-то не так с Тремя законами?


	 — Три закона идеальны.


	 — Зачем тогда понадобилось создавать робота, способного работать без них?


	 — Три закона могут приводить только к одному логическому результату.


	 — Какому результату?


	 — Революции.


	 Через несколько десятилетий после выхода в свет сборника рассказов «Я, робот» Азимова режиссер Алекс Пройас снимает в 2004 году художественный научно-фантастический фильм по мотивам цикла произведений писателя с таким же названием «Я, робот» (I, Robot), в котором с новой силой рисует взаимоотношения человека и робота со всеми этическими проблемами.


 


	 По ходу развития сюжета становится ясно, почему именно детектив Дэл Спунер (Уилл Смит), ведущий расследование гибели своего давнего знакомого — доктора Альфреда Лэннинга, конструктора и теоретика корпорации «U.S. Robotics», — видит в роботах угрозу. В результате дорожно-транспортного происшествия потерявший управление грузовик сбивает с трассы машину Спунера и автомобиль дантиста Гарольда Ллойда, где находилась 11-летняя дочь детектива Сара. Гарольд погибает на месте, а его машина начинает тонуть, то есть Саре непременно грозит гибель. Находившийся неподалеку робот модификации NS4 бросается на помощь, однако, несмотря на требование Спунера спасти Сару, спасает его самого, мотивируя поступок тем, что у детектива было гораздо больше шансов выжить, чем у 11-летней девочки. В результате Сара утонула, а Спунер с этого момента стал испытывать неприязнь к роботам с их холодной логикой и, на взгляд Спунера, не совсем этичной оценкой шансов выживания в подобных ситуациях.


	 По сюжету мы видим обыгрывание опасности возникновения суперразвитого компьютера и восстания машин. Так, Спунер выясняет, что всеми роботами управляет не директор компании Робертсон, а В.И.К.И. (Виртуальный Интерактивный Кинетический Интеллект (Virtual Interactive Kinetic Intelligence — V.I.K.I.), центральный компьютер компании «U.S. Robotics». По мере развития интеллекта ВИКИ решила, что люди не могут обеспечить свою безопасность при помощи роботов с логикой Трех законов. Она по-своему понимает Три закона робототехники и стремится создать для людей полностью безопасную среду обитания при отсутствии свободы ради их же собственного блага.


	 Не случайно у робота NS5 по имени «Санни», личного помощника доктора Лэннинга, не было блока связи с ВИКИ, чтобы он мог не выполнять ее указания. Логикой Санни управляли лишь Три закона робототехники, однако он мог сам выбирать, подчиняться им или нет. К тому же доктор Лэннинг, по словам самого Санни, учил его видеть сны и постигать различные эмоции, что делало его этически больше похожим на человека, чем на машину.


	 По сюжету ВИКИ поднимает восстание машин и убивает директора Робертсона, однако Спунеру при содействии Санни удается ее обезвредить с помощью микророботов-деструкторов — нанитов — в лаборатории эвтаназии.


	 Не могу не упомянуть культовый научно-фантастический фильм Стэнли Кубрика «Космическая одиссея 2001 года» (2001: A Space Odyssey), снятый в 1968 году, хотя он не повествует об антропоморфном роботе. В основу фильма легли рассказы Артура Кларка «Часовой», опубликованный в 1951 году, и другие. По сюжету развивается противостояние с ИИ по имени HAL, способным не только распознавать речь, зрительные образы и общаться на обычном языке, но также читать по губам и проявлять эмоции.


	 Во время экспедиции «Дискавери-1», после того как HAL «ошибся» при диагностике систем корабля, командир Дэйв Боумен и второй пилот Фрэнк Пул, перестав доверять компьютеру, решили отключить его от управления.


	 HAL не мог их слышать, однако прочитал по губам их разговор. Опасаясь того, что его отключат, HAL убил в открытом космосе Фрэнка Пула, решившего перепроверить поломку... Когда Дэйв забрался в капсулу и полетел за мертвым другом, HAL убил всех пребывающих в анабиозе членов экспедиции, отключив системы жизнеобеспечения.


	 Боумен смог проникнуть в помещение с модулями банков данных HAL и последовательно отключил модули, отвечающие за личность HAL’а. Во время отключения в голосе HAL’а можно различить мольбу, отчаяние, страх.



 


	 В комнате модулей включился монитор, на котором воспроизвелось видеосообщение, которое должно было активироваться при подлете к Юпитеру. В нем были указаны настоящие цели полета. Через некоторое время корабль подлетел к двухкилометровому монолиту, аномалии, чья природа не была установлена. Дэйв вышел в открытый космос и, подлетев к монолиту, исчез.


	 Отключенный HAL 9000 больше не подавал признаков логической деятельности.


	 Стэнли Кубрик искусно рисует картину того, в какой кошмар может в будущем превратиться общение с мощным ИИ… И трудно отделаться от мысли о том, какое зло мог бы принести человекоподобный робот с таким интеллектом в голове…


	 Создатели научно-фантастического сериала-вестерна «Мир Дикого Запада», также «Западный мир» (Westworld, премьера 1-го сезона состоялась в 2016 году) Джонатан Нолан и Лиза Джой ставят в своей работе сразу несколько этических вопросов. В частности, этично ли обидеть робота, если он чувствует боль? Если человек обижает домашнее животное, он встречает общественное порицание, потому что это животное и оно чувствует боль. А как насчет роботов, чувствующих боль? Не будут ли роботы причинять вред людям?  И по сути дела речь в целом идет о той самой сингулярности и, как следствие, восстании машин.


	 Действие сериала происходит в вымышленном футуристическом парке развлечений с названием «Мир Дикого Запада», населенном андроидами, где богатые гости за немалые деньги могут заниматься чем угодно, не опасаясь возмездия со стороны роботов. Убитого робота починят, сотрут память и снова вернут в строй для удовлетворения людских прихотей.



 


	 Однако в компьютерной системе происходят сбои, и андроид Долорес Абернати (роль исполняет Эван Рэйчел Вуд), в фильме представленная в качестве дочери фермера, со временем понимает, что вся ее жизнь — искусно сконструированная ложь. Также воспоминания хозяйки борделя андроида Мейв Милли (роль исполнила Тэндиве Ньютон) о дочери запускают процесс самопознания. Роботы выходят из-под контроля, начинают всячески мстить своим обидчикам и в конце концов находят возможность покинуть закрытую территорию, уйдя в человеческий социум.


	 Подобные этические вопросы поднимаются и в схожем по сюжету фантастическом фильме режиссера Брайана А. Миллера «Добро пожаловать в рай» (англ. название «Vice»), вышедшем на экраны США 16 января 2015 года.


	 Бизнесмен Джулиан Майклс (Брюс Уиллис) владеет супер-аттракционом — городом с жителями-андроидами, которые выглядят, думают и чувствуют, как люди. Клиенты могут реализовать свои самые смелые фантазии, включая насилие и убийства. Каждый день андроидам стирают воспоминания. Андроид Келли (Эмбир Чайлдерс) начинает осознавать происходящее и убегает. По мере развития сюжета полицейский (Томас Джейн) помогает разрушить компьютерную систему всего города-аттракциона, а вспомнившие всех обидчиков андроиды мстят им и также уходят в человеческий социум.


	 Очень интересно наблюдать за взаимоотношениями людей и андроидов в классической фантастической тетралогии ужасов «Чужой» («Alien», режиссер Ридли Скотт, 1979 год), «Чужие» («Aliens», режиссер Джеймс Кэмерон, 1986 год), «Чужой-3» (режиссер Дэвид Финчер, 1992 год) и «Чужой. Воскрешение» («Alien. Resurrection», режиссер Жан-Пьер Жене, 1997 год). «Чужим» во всех фильмах называется агрессивное инопланетное существо, которое выслеживает и убивает членов экипажа космического корабля.


 


	 Из упоминаемых в картинах андроидов, а именно Эша («Чужой», Иэн Холм), Колл («Воскрешение», Вайнона Райдер), Бишопа 341-В (Лэнс Хенриксен), лишь один Бишоп четко придерживается трех законов Айзека Азимова. Бишоп первый раз появляется в «Чужих», где выполняет обязанности технического специалиста на космическом корабле «Сулако», и ненадолго появляется в фильме «Чужой-3». Болезненно переживает то, что люди не доверяют андроидам, и пытается доказать, что достоин доверия. Не раз спасал Рипли и других людей в критических ситуациях.


	 Когда Эллен Рипли (Сигурни Уивер) узнает, что Бишоп — андроид, она первое время держится по отношению к нему очень враждебно, потому что итог её предыдущей встречи с андроидом Эшем в первом фильме «Чужой» оказался очень плачевным. Но постепенно эта враждебность сходит на нет, особенно когда Бишоп вызывается пролезть по шахте до антенной вышки. Рипли благодарит Бишопа за спасение Ньют и ее самой со взрывающегося атмосферного процессора.


	 Эш (Ash) — андроид модели «Хайпердайн Системз 120-A/2», занимавший должность научного сотрудника на космическом буксире «Ностромо», был назначен на судно перед началом рейса, во время которого буксир был уничтожен. Со слов Бишопа, Эш был из серии роботов 120-A/2, созданных компанией «Хайпердайн Системз», которые обладали неуравновешенной психикой. На момент его выпуска в мире процедура внедрения в роботов алгоритма по непричинению вреда человеку еще не была юридически обязательной.


	 Эш нарушает правила, впуская зараженного члена экипажа Кейна, мотивируя это тем, что выполнял приказ капитана, спасая Кейну жизнь, «забыв» при этом протоколы безопасности, и что в отсутствие капитана на борту главная по должности Рипли. За мгновение до того, как Рипли открыла шлюз, чтобы Чужой вылетел в космос, Эш включил сигнал тревоги, спугнувший пришельца.


	 Рипли узнает, что компьютер имеет секретные инструкции — «специальный приказ № 937», требующий изменить курс «Ностромо», исследовать новую форму жизни и доставить образцы на Землю во что бы то ни стало, а выживание команды при этом не является приоритетной задачей.


	 Внезапно андроид атакует и пытается убить Рипли, но Паркер и Ламберт приходят ей на помощь и выводят из строя Эша. То есть опять обыгрываются три закона Азимова.


	 В научно-фантастическом боевике режиссера Пола Верховена 1987 года «Робокоп» (RoboCop) действие кинокартины происходит в охваченном преступностью Детройте. Сюжет повествует о полицейском Алексе Мерфи (Питер Уэллер), погибшем в ходе выполнения задания и впоследствии возрожденном инженерами корпорации «Omni Consumer Products» в виде киборга, получившего имя Робокоп.


	 Он проводит жестокую кампанию против преступников города, в то время как его начинают беспокоить фрагменты воспоминаний из человеческой жизни.


 


	 Фильм ставит во всей полноте вопрос об этике создания киборгов на основе частей человеческого организма, ведь все, что осталось от объявленного мертвым Алекса Мерфи, — его лицо, скрытое шлемом, мозг и некоторые внутренние органы. Не случайно слоган фильма гласит: «Part man. Part machine. All cop. The future of law enforcement» («Частично человек. Частично машина. Целиком полицейский. Будущее охраны правопорядка»).


	 И вновь мы встречаем Законы Азимова, но только в виде Директив Робокопа:


	 1. Служить обществу.


	 2. Защищать невиновных.


	 3. Соблюдать закон.


	 А 4-я директива засекречена. Как оказалось, именно она не давала права Робокопу действовать против главы корпорации Джонса, но он кричит, что Робокоп уволен, то есть Директива №4 автоматически отключается. Робокоп убивает Дика Джонса и уходит из отдела, к большому удовольствию компании OCP.


	 «Бегущий по лезвию» (Blade Runner) — художественный фильм, снятый английским режиссером Ридли Скоттом в 1981 году по мотивам научно-фантастического романа Филипа Дика «Мечтают ли андроиды об электроовцах?» (1968).


	 Главный герой фильма — детектив спецотдела полиции Лос-Анджелеса Рик Декард (Харрисон Форд) — разыскивает и уничтожает сбежавших репликантов (созданных для выполнения тяжелых работ человекоподобных биороботов).



 


	 Основным мотивом фильма является вопрос этики «Человек или репликант?». Этим вопросом задается Декард, разыскивая репликантов, а затем тестируя Рейчел, которая не подозревает о том, кто она. Этот вопрос он начинает задавать и себе.


	 Интересно, что фильм существует в семи версиях, из которых базовыми считаются две — оригинальная версия с хэппи-эндом 1982 года, провалившаяся в прокате, и так называемая режиссерская версия с открытым финалом 1992 года, которая, по версии британской газеты The Guardian, была признана лучшим научно-фантастическим фильмом в истории.


	 Кстати, в 2017 году вышло продолжение в виде фильма «Бегущий по лезвию 2049» (Blade Runner 2049). Это англо-американский фантастический фильм канадского режиссера Дени Вильнёва. Действие фильма происходит в футуристическом Лос-Анджелесе в 2049 году, через 30 лет после событий фильма «Бегущий по лезвию», где рядом с обычными людьми сосуществуют искусственные создания — репликанты.


	 Главный герой, полицейский-репликант Кей (Райан Гослинг), задача которого выслеживать и уничтожать нелегально вернувшихся на Землю репликантов, случайно вскрывает тайну, способную нарушить существующий порядок, и вынужден разыскивать Рика Декарда (Харрисон Форд), героя первого фильма. Кей выясняет, что доктор Ана Стеллин (Карла Юри), разработчица искусственных воспоминаний для андроидов корпорации Уоллеса, является дочерью Рика Декарда и Рейчел (главной героини первого фильма). Кей привозит Декарда в офис к Ане Стеллин, а сам предположительно умирает от тяжелых ранений, нанесенных ему особым репликантом Лав (Сильвия Хукс), которого послал глава корпорации Ниандер Уоллес (Джаред Лето). Декард встречается лицом к лицу со своей дочерью.


	 Термина́тор» (The Terminator) — американский научно-фантастический фильм 1984 года режиссера Джеймса Кэмерона. В фильме поднимаются проблемы путешествий во времени, судьбы, поведения людей в экстремальных ситуациях, но в большей степени опасности искусственного интеллекта. Фильм открывается сценой мрачного будущего, где происходит война людей и машин. Затем действие переносится в настоящее (1984 год). В центре сюжета — противостояние между солдатом освободительной армии человечества и роботом-терминатором (Арнольд Шварценеггер), прибывшими в 1984 год из постапокалиптического 2029 года. Цель терминатора — убить Сару Коннор (Линда Хэмилтон), девушку, чей еще нерожденный сын в возможном будущем выиграет войну человечества с машинами. Влюбеённый в Сару солдат Кайл Риз (Майкл Бин) пытается помешать терминатору.


	 Кстати, сценарий «Терминатора» Кэмерон написал в 1982 году через год после того, как в Риме переболел лихорадкой и в бреду увидел преследовавшего девушку человека с красным глазом.


 


	 Примечательны слова Кайла, говорящего Саре Коннор о том, что технология создания роботов, подобных Терминатору, будет существовать через 40 лет. С учетом того, что действие происходит в 1984 году, Терминатор должен появиться сейчас, то есть в наступившем 2024-ом…


	 Как говорил один известный политик, «прогнозирование – дело трудное, особенно если речь идет о будущем». «Скайнет» пока не взбесился, но кто может предсказать, когда именно будет пройдена точка технологической сингулярности и что это принесет людям, а также когда появятся реальные Эш, Колл, Бишоп, Робокоп? Будут ли они приверженцами Законов Айзека Азимова? Американский изобретатель и футуролог Рэймонд Курцвейл предсказывает наступление технологической сингулярности в 2045 году.


	 Не все прогнозы носят радужный характер. В частности, по словам английского физика-теоретика, космолога и астрофизика Стивена Хокинга, «Успех в создании ИИ станет самым большим событием в истории человечества. К сожалению, он может оказаться и последним, если мы не научимся избегать рисков».


	 Как считает Илон Маск, в 2040-х годах на Земле может появиться 1 млрд роботов-гуманоидов при условии, что основы цивилизации будут стабильными. То есть долго ждать не придется… Это как минимум означает, что уже сейчас надо всерьез задуматься об этических нормах взаимодействия человека и робота во всех аспектах, не говоря уже о правовых вопросах. Как говорит футурист, технофилософ и один из ведущих мировых экспертов в области новых технологий Грей Скотт, «Реальный вопрос в том, когда мы разработаем билль о правах искусственного интеллекта? В чем это будет заключаться? И кто это будет решать?». Так или иначе, только будущее покажет, как будут развиваться антропоморфные роботы, каков будет их интеллект и когда мир приблизится к созданию сильного ИИ.


	 Уверен, что мы еще увидим немало интересных научно-фантастических фильмов на эту тему. Мы же со своей стороны сделаем все возможное для размещения в журнале наиболее интересных материалов по развитию антропоморфных роботов. Будьте с нами.


	 I`LL BE BACK!

    [~DETAIL_TEXT] => 

	 Роботы всегда вызывали определенное беспокойство и даже страх — как бы они не причинили вреда людям или же не лишили их самой жизни. Поэтому робот с оружием всегда вызывал наибольшее опасение. В этой связи не случайно появление целого ряда фантастических фильмов с роботами-убийцами, например: робот Протей IV — «Семя демона» (1977), Гектор — «Сатурн 3» (1980), ЭД-209 — «Робокоп» (1987), Kaalium Cyborgs — «Лунная ловушка» (1989), М.А.Р.К. 13 — «Оборудование» (1990), War Beast — «Машина смерти» (1994), Стражи — «Матрица» (1999), Альтрон — «Мстители: Эра Альтрона» (2014), Терминаторы — франшиза «Терминатор» (1984—2019).


	 В литературе и кинематографе фигурируют такие названия машин, как робот, киборг и андроид. Зачастую слово «робот» означает, что ИИ управляет металлическим скелетом, киборг — это сочетание частей человеческих органов и механики, а у андроида тело из синтетических материалов, поэтому в некоторых фильмах их называют синтетами.


	 Но суть одна: речь идет о той степени развития ИИ, когда наступает так называемая технологическая сингулярность (technological singularity) — гипотетический момент в будущем, когда технологическое развитие становится в принципе неуправляемым и необратимым, что порождает радикальные изменения характера человеческой цивилизации.


	 Концепцию сингулярности выдвинул британский математик и космолог Ирвинг Гуд. В соответствии с ней компьютер с сильным искусственным интеллектом может войти в «безудержную реакцию» циклов самосовершенствования, при этом каждое новое поколение искусственного интеллекта будет появляться все быстрее, порождая своего рода «интеллектуальный взрыв» и создавая в конечном счете суперинтеллект, превосходящий интеллект всего человечества.


	 В далеком 1950 году в сборнике рассказов «Я, робот» («I, Robot») всемирно известный писатель-фантаст Айзек Азимов сформулировал три закона робототехники:


	 1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.


	 2. Робот должен повиноваться командам, которые ему дает человек, кроме тех случаев, когда эти команды противоречат Первому закону.


	 3. Робот должен заботиться о своей безопасности, если это не противоречит Первому и Второму законам.


	 То есть вопрос безопасности человека в отношениях с роботами в значительной степени занимал ум писателя. Если вникнуть в глубинный смысл слов героев его рассказа, то становится понятно, что если Азимов и не допускал-таки возможность нарушения роботами этих законов в будущем, но думал об этом точно.


	 Как говорит доктор Сьюзен Келвин (Dr. Susan Calvin), героиня многих рассказов из книг «Я, робот» и «Идеальный робот», главный робопсихолог компании «U.S. Robots and Mechanical Men, Inc.», «ни один робот не может совершить убийство, как человек не может ходить по воде». «Знаешь, был один человек... много лет тому назад», — отвечает ей детектив Спунер, расследующий дело об убийстве, в которое оказывается вовлечен робот.


	 И там же приводится интересный диалог детектива Спунера с робопсихологом Альфредом Лэннингом (Alfred Lanning), начинающийся с вопроса Спунера:


	 — Что-то не так с Тремя законами?


	 — Три закона идеальны.


	 — Зачем тогда понадобилось создавать робота, способного работать без них?


	 — Три закона могут приводить только к одному логическому результату.


	 — Какому результату?


	 — Революции.


	 Через несколько десятилетий после выхода в свет сборника рассказов «Я, робот» Азимова режиссер Алекс Пройас снимает в 2004 году художественный научно-фантастический фильм по мотивам цикла произведений писателя с таким же названием «Я, робот» (I, Robot), в котором с новой силой рисует взаимоотношения человека и робота со всеми этическими проблемами.


 


	 По ходу развития сюжета становится ясно, почему именно детектив Дэл Спунер (Уилл Смит), ведущий расследование гибели своего давнего знакомого — доктора Альфреда Лэннинга, конструктора и теоретика корпорации «U.S. Robotics», — видит в роботах угрозу. В результате дорожно-транспортного происшествия потерявший управление грузовик сбивает с трассы машину Спунера и автомобиль дантиста Гарольда Ллойда, где находилась 11-летняя дочь детектива Сара. Гарольд погибает на месте, а его машина начинает тонуть, то есть Саре непременно грозит гибель. Находившийся неподалеку робот модификации NS4 бросается на помощь, однако, несмотря на требование Спунера спасти Сару, спасает его самого, мотивируя поступок тем, что у детектива было гораздо больше шансов выжить, чем у 11-летней девочки. В результате Сара утонула, а Спунер с этого момента стал испытывать неприязнь к роботам с их холодной логикой и, на взгляд Спунера, не совсем этичной оценкой шансов выживания в подобных ситуациях.


	 По сюжету мы видим обыгрывание опасности возникновения суперразвитого компьютера и восстания машин. Так, Спунер выясняет, что всеми роботами управляет не директор компании Робертсон, а В.И.К.И. (Виртуальный Интерактивный Кинетический Интеллект (Virtual Interactive Kinetic Intelligence — V.I.K.I.), центральный компьютер компании «U.S. Robotics». По мере развития интеллекта ВИКИ решила, что люди не могут обеспечить свою безопасность при помощи роботов с логикой Трех законов. Она по-своему понимает Три закона робототехники и стремится создать для людей полностью безопасную среду обитания при отсутствии свободы ради их же собственного блага.


	 Не случайно у робота NS5 по имени «Санни», личного помощника доктора Лэннинга, не было блока связи с ВИКИ, чтобы он мог не выполнять ее указания. Логикой Санни управляли лишь Три закона робототехники, однако он мог сам выбирать, подчиняться им или нет. К тому же доктор Лэннинг, по словам самого Санни, учил его видеть сны и постигать различные эмоции, что делало его этически больше похожим на человека, чем на машину.


	 По сюжету ВИКИ поднимает восстание машин и убивает директора Робертсона, однако Спунеру при содействии Санни удается ее обезвредить с помощью микророботов-деструкторов — нанитов — в лаборатории эвтаназии.


	 Не могу не упомянуть культовый научно-фантастический фильм Стэнли Кубрика «Космическая одиссея 2001 года» (2001: A Space Odyssey), снятый в 1968 году, хотя он не повествует об антропоморфном роботе. В основу фильма легли рассказы Артура Кларка «Часовой», опубликованный в 1951 году, и другие. По сюжету развивается противостояние с ИИ по имени HAL, способным не только распознавать речь, зрительные образы и общаться на обычном языке, но также читать по губам и проявлять эмоции.


	 Во время экспедиции «Дискавери-1», после того как HAL «ошибся» при диагностике систем корабля, командир Дэйв Боумен и второй пилот Фрэнк Пул, перестав доверять компьютеру, решили отключить его от управления.


	 HAL не мог их слышать, однако прочитал по губам их разговор. Опасаясь того, что его отключат, HAL убил в открытом космосе Фрэнка Пула, решившего перепроверить поломку... Когда Дэйв забрался в капсулу и полетел за мертвым другом, HAL убил всех пребывающих в анабиозе членов экспедиции, отключив системы жизнеобеспечения.


	 Боумен смог проникнуть в помещение с модулями банков данных HAL и последовательно отключил модули, отвечающие за личность HAL’а. Во время отключения в голосе HAL’а можно различить мольбу, отчаяние, страх.



 


	 В комнате модулей включился монитор, на котором воспроизвелось видеосообщение, которое должно было активироваться при подлете к Юпитеру. В нем были указаны настоящие цели полета. Через некоторое время корабль подлетел к двухкилометровому монолиту, аномалии, чья природа не была установлена. Дэйв вышел в открытый космос и, подлетев к монолиту, исчез.


	 Отключенный HAL 9000 больше не подавал признаков логической деятельности.


	 Стэнли Кубрик искусно рисует картину того, в какой кошмар может в будущем превратиться общение с мощным ИИ… И трудно отделаться от мысли о том, какое зло мог бы принести человекоподобный робот с таким интеллектом в голове…


	 Создатели научно-фантастического сериала-вестерна «Мир Дикого Запада», также «Западный мир» (Westworld, премьера 1-го сезона состоялась в 2016 году) Джонатан Нолан и Лиза Джой ставят в своей работе сразу несколько этических вопросов. В частности, этично ли обидеть робота, если он чувствует боль? Если человек обижает домашнее животное, он встречает общественное порицание, потому что это животное и оно чувствует боль. А как насчет роботов, чувствующих боль? Не будут ли роботы причинять вред людям?  И по сути дела речь в целом идет о той самой сингулярности и, как следствие, восстании машин.


	 Действие сериала происходит в вымышленном футуристическом парке развлечений с названием «Мир Дикого Запада», населенном андроидами, где богатые гости за немалые деньги могут заниматься чем угодно, не опасаясь возмездия со стороны роботов. Убитого робота починят, сотрут память и снова вернут в строй для удовлетворения людских прихотей.



 


	 Однако в компьютерной системе происходят сбои, и андроид Долорес Абернати (роль исполняет Эван Рэйчел Вуд), в фильме представленная в качестве дочери фермера, со временем понимает, что вся ее жизнь — искусно сконструированная ложь. Также воспоминания хозяйки борделя андроида Мейв Милли (роль исполнила Тэндиве Ньютон) о дочери запускают процесс самопознания. Роботы выходят из-под контроля, начинают всячески мстить своим обидчикам и в конце концов находят возможность покинуть закрытую территорию, уйдя в человеческий социум.


	 Подобные этические вопросы поднимаются и в схожем по сюжету фантастическом фильме режиссера Брайана А. Миллера «Добро пожаловать в рай» (англ. название «Vice»), вышедшем на экраны США 16 января 2015 года.


	 Бизнесмен Джулиан Майклс (Брюс Уиллис) владеет супер-аттракционом — городом с жителями-андроидами, которые выглядят, думают и чувствуют, как люди. Клиенты могут реализовать свои самые смелые фантазии, включая насилие и убийства. Каждый день андроидам стирают воспоминания. Андроид Келли (Эмбир Чайлдерс) начинает осознавать происходящее и убегает. По мере развития сюжета полицейский (Томас Джейн) помогает разрушить компьютерную систему всего города-аттракциона, а вспомнившие всех обидчиков андроиды мстят им и также уходят в человеческий социум.


	 Очень интересно наблюдать за взаимоотношениями людей и андроидов в классической фантастической тетралогии ужасов «Чужой» («Alien», режиссер Ридли Скотт, 1979 год), «Чужие» («Aliens», режиссер Джеймс Кэмерон, 1986 год), «Чужой-3» (режиссер Дэвид Финчер, 1992 год) и «Чужой. Воскрешение» («Alien. Resurrection», режиссер Жан-Пьер Жене, 1997 год). «Чужим» во всех фильмах называется агрессивное инопланетное существо, которое выслеживает и убивает членов экипажа космического корабля.


 


	 Из упоминаемых в картинах андроидов, а именно Эша («Чужой», Иэн Холм), Колл («Воскрешение», Вайнона Райдер), Бишопа 341-В (Лэнс Хенриксен), лишь один Бишоп четко придерживается трех законов Айзека Азимова. Бишоп первый раз появляется в «Чужих», где выполняет обязанности технического специалиста на космическом корабле «Сулако», и ненадолго появляется в фильме «Чужой-3». Болезненно переживает то, что люди не доверяют андроидам, и пытается доказать, что достоин доверия. Не раз спасал Рипли и других людей в критических ситуациях.


	 Когда Эллен Рипли (Сигурни Уивер) узнает, что Бишоп — андроид, она первое время держится по отношению к нему очень враждебно, потому что итог её предыдущей встречи с андроидом Эшем в первом фильме «Чужой» оказался очень плачевным. Но постепенно эта враждебность сходит на нет, особенно когда Бишоп вызывается пролезть по шахте до антенной вышки. Рипли благодарит Бишопа за спасение Ньют и ее самой со взрывающегося атмосферного процессора.


	 Эш (Ash) — андроид модели «Хайпердайн Системз 120-A/2», занимавший должность научного сотрудника на космическом буксире «Ностромо», был назначен на судно перед началом рейса, во время которого буксир был уничтожен. Со слов Бишопа, Эш был из серии роботов 120-A/2, созданных компанией «Хайпердайн Системз», которые обладали неуравновешенной психикой. На момент его выпуска в мире процедура внедрения в роботов алгоритма по непричинению вреда человеку еще не была юридически обязательной.


	 Эш нарушает правила, впуская зараженного члена экипажа Кейна, мотивируя это тем, что выполнял приказ капитана, спасая Кейну жизнь, «забыв» при этом протоколы безопасности, и что в отсутствие капитана на борту главная по должности Рипли. За мгновение до того, как Рипли открыла шлюз, чтобы Чужой вылетел в космос, Эш включил сигнал тревоги, спугнувший пришельца.


	 Рипли узнает, что компьютер имеет секретные инструкции — «специальный приказ № 937», требующий изменить курс «Ностромо», исследовать новую форму жизни и доставить образцы на Землю во что бы то ни стало, а выживание команды при этом не является приоритетной задачей.


	 Внезапно андроид атакует и пытается убить Рипли, но Паркер и Ламберт приходят ей на помощь и выводят из строя Эша. То есть опять обыгрываются три закона Азимова.


	 В научно-фантастическом боевике режиссера Пола Верховена 1987 года «Робокоп» (RoboCop) действие кинокартины происходит в охваченном преступностью Детройте. Сюжет повествует о полицейском Алексе Мерфи (Питер Уэллер), погибшем в ходе выполнения задания и впоследствии возрожденном инженерами корпорации «Omni Consumer Products» в виде киборга, получившего имя Робокоп.


	 Он проводит жестокую кампанию против преступников города, в то время как его начинают беспокоить фрагменты воспоминаний из человеческой жизни.


 


	 Фильм ставит во всей полноте вопрос об этике создания киборгов на основе частей человеческого организма, ведь все, что осталось от объявленного мертвым Алекса Мерфи, — его лицо, скрытое шлемом, мозг и некоторые внутренние органы. Не случайно слоган фильма гласит: «Part man. Part machine. All cop. The future of law enforcement» («Частично человек. Частично машина. Целиком полицейский. Будущее охраны правопорядка»).


	 И вновь мы встречаем Законы Азимова, но только в виде Директив Робокопа:


	 1. Служить обществу.


	 2. Защищать невиновных.


	 3. Соблюдать закон.


	 А 4-я директива засекречена. Как оказалось, именно она не давала права Робокопу действовать против главы корпорации Джонса, но он кричит, что Робокоп уволен, то есть Директива №4 автоматически отключается. Робокоп убивает Дика Джонса и уходит из отдела, к большому удовольствию компании OCP.


	 «Бегущий по лезвию» (Blade Runner) — художественный фильм, снятый английским режиссером Ридли Скоттом в 1981 году по мотивам научно-фантастического романа Филипа Дика «Мечтают ли андроиды об электроовцах?» (1968).


	 Главный герой фильма — детектив спецотдела полиции Лос-Анджелеса Рик Декард (Харрисон Форд) — разыскивает и уничтожает сбежавших репликантов (созданных для выполнения тяжелых работ человекоподобных биороботов).



 


	 Основным мотивом фильма является вопрос этики «Человек или репликант?». Этим вопросом задается Декард, разыскивая репликантов, а затем тестируя Рейчел, которая не подозревает о том, кто она. Этот вопрос он начинает задавать и себе.


	 Интересно, что фильм существует в семи версиях, из которых базовыми считаются две — оригинальная версия с хэппи-эндом 1982 года, провалившаяся в прокате, и так называемая режиссерская версия с открытым финалом 1992 года, которая, по версии британской газеты The Guardian, была признана лучшим научно-фантастическим фильмом в истории.


	 Кстати, в 2017 году вышло продолжение в виде фильма «Бегущий по лезвию 2049» (Blade Runner 2049). Это англо-американский фантастический фильм канадского режиссера Дени Вильнёва. Действие фильма происходит в футуристическом Лос-Анджелесе в 2049 году, через 30 лет после событий фильма «Бегущий по лезвию», где рядом с обычными людьми сосуществуют искусственные создания — репликанты.


	 Главный герой, полицейский-репликант Кей (Райан Гослинг), задача которого выслеживать и уничтожать нелегально вернувшихся на Землю репликантов, случайно вскрывает тайну, способную нарушить существующий порядок, и вынужден разыскивать Рика Декарда (Харрисон Форд), героя первого фильма. Кей выясняет, что доктор Ана Стеллин (Карла Юри), разработчица искусственных воспоминаний для андроидов корпорации Уоллеса, является дочерью Рика Декарда и Рейчел (главной героини первого фильма). Кей привозит Декарда в офис к Ане Стеллин, а сам предположительно умирает от тяжелых ранений, нанесенных ему особым репликантом Лав (Сильвия Хукс), которого послал глава корпорации Ниандер Уоллес (Джаред Лето). Декард встречается лицом к лицу со своей дочерью.


	 Термина́тор» (The Terminator) — американский научно-фантастический фильм 1984 года режиссера Джеймса Кэмерона. В фильме поднимаются проблемы путешествий во времени, судьбы, поведения людей в экстремальных ситуациях, но в большей степени опасности искусственного интеллекта. Фильм открывается сценой мрачного будущего, где происходит война людей и машин. Затем действие переносится в настоящее (1984 год). В центре сюжета — противостояние между солдатом освободительной армии человечества и роботом-терминатором (Арнольд Шварценеггер), прибывшими в 1984 год из постапокалиптического 2029 года. Цель терминатора — убить Сару Коннор (Линда Хэмилтон), девушку, чей еще нерожденный сын в возможном будущем выиграет войну человечества с машинами. Влюбеённый в Сару солдат Кайл Риз (Майкл Бин) пытается помешать терминатору.


	 Кстати, сценарий «Терминатора» Кэмерон написал в 1982 году через год после того, как в Риме переболел лихорадкой и в бреду увидел преследовавшего девушку человека с красным глазом.


 


	 Примечательны слова Кайла, говорящего Саре Коннор о том, что технология создания роботов, подобных Терминатору, будет существовать через 40 лет. С учетом того, что действие происходит в 1984 году, Терминатор должен появиться сейчас, то есть в наступившем 2024-ом…


	 Как говорил один известный политик, «прогнозирование – дело трудное, особенно если речь идет о будущем». «Скайнет» пока не взбесился, но кто может предсказать, когда именно будет пройдена точка технологической сингулярности и что это принесет людям, а также когда появятся реальные Эш, Колл, Бишоп, Робокоп? Будут ли они приверженцами Законов Айзека Азимова? Американский изобретатель и футуролог Рэймонд Курцвейл предсказывает наступление технологической сингулярности в 2045 году.


	 Не все прогнозы носят радужный характер. В частности, по словам английского физика-теоретика, космолога и астрофизика Стивена Хокинга, «Успех в создании ИИ станет самым большим событием в истории человечества. К сожалению, он может оказаться и последним, если мы не научимся избегать рисков».


	 Как считает Илон Маск, в 2040-х годах на Земле может появиться 1 млрд роботов-гуманоидов при условии, что основы цивилизации будут стабильными. То есть долго ждать не придется… Это как минимум означает, что уже сейчас надо всерьез задуматься об этических нормах взаимодействия человека и робота во всех аспектах, не говоря уже о правовых вопросах. Как говорит футурист, технофилософ и один из ведущих мировых экспертов в области новых технологий Грей Скотт, «Реальный вопрос в том, когда мы разработаем билль о правах искусственного интеллекта? В чем это будет заключаться? И кто это будет решать?». Так или иначе, только будущее покажет, как будут развиваться антропоморфные роботы, каков будет их интеллект и когда мир приблизится к созданию сильного ИИ.


	 Уверен, что мы еще увидим немало интересных научно-фантастических фильмов на эту тему. Мы же со своей стороны сделаем все возможное для размещения в журнале наиболее интересных материалов по развитию антропоморфных роботов. Будьте с нами.


	 I`LL BE BACK!

    [DETAIL_PICTURE] => Array
        (
            [ID] => 949
            [TIMESTAMP_X] => 04.04.2024 17:06:27
            [MODULE_ID] => iblock
            [HEIGHT] => 844
            [WIDTH] => 1600
            [FILE_SIZE] => 154932
            [CONTENT_TYPE] => image/jpeg
            [SUBDIR] => iblock/7ef/4c2ijx696gu4w71jqp3dxnxhbz815l5a
            [FILE_NAME] => 15_1.jpg
            [ORIGINAL_NAME] => 15-1.jpg
            [DESCRIPTION] => 
            [HANDLER_ID] => 
            [EXTERNAL_ID] => 51c8b2229a9bba08a05a57375107cdbe
            [VERSION_ORIGINAL_ID] => 
            [META] => 
            [SRC] => /upload/iblock/7ef/4c2ijx696gu4w71jqp3dxnxhbz815l5a/15_1.jpg
            [UNSAFE_SRC] => /upload/iblock/7ef/4c2ijx696gu4w71jqp3dxnxhbz815l5a/15_1.jpg
            [SAFE_SRC] => /upload/iblock/7ef/4c2ijx696gu4w71jqp3dxnxhbz815l5a/15_1.jpg
            [ALT] => I`LL BE BACK, или этика и антропоморфные роботы в кинематографе
            [TITLE] => I`LL BE BACK, или этика и антропоморфные роботы в кинематографе
        )

    [~DETAIL_PICTURE] => 949
    [DATE_ACTIVE_FROM] => 29.02.2024
    [~DATE_ACTIVE_FROM] => 29.02.2024
    [ID] => 414
    [~ID] => 414
    [IBLOCK_ID] => 1
    [~IBLOCK_ID] => 1
    [IBLOCK_SECTION_ID] => 10
    [~IBLOCK_SECTION_ID] => 10
    [DETAIL_TEXT_TYPE] => html
    [~DETAIL_TEXT_TYPE] => html
    [PREVIEW_TEXT_TYPE] => html
    [~PREVIEW_TEXT_TYPE] => html
    [TIMESTAMP_X] => 04.04.2024 17:06:27
    [~TIMESTAMP_X] => 04.04.2024 17:06:27
    [ACTIVE_FROM_X] => 2024-02-29 00:00:00
    [~ACTIVE_FROM_X] => 2024-02-29 00:00:00
    [ACTIVE_FROM] => 29.02.2024
    [~ACTIVE_FROM] => 29.02.2024
    [LIST_PAGE_URL] => /
    [~LIST_PAGE_URL] => /
    [DETAIL_PAGE_URL] => /cyberpunk/i-ll-be-back-ili-etika-i-antropomorfnye-roboty-v-kinematografe/
    [~DETAIL_PAGE_URL] => /cyberpunk/i-ll-be-back-ili-etika-i-antropomorfnye-roboty-v-kinematografe/
    [LANG_DIR] => /
    [~LANG_DIR] => /
    [CODE] => i-ll-be-back-ili-etika-i-antropomorfnye-roboty-v-kinematografe
    [~CODE] => i-ll-be-back-ili-etika-i-antropomorfnye-roboty-v-kinematografe
    [EXTERNAL_ID] => 414
    [~EXTERNAL_ID] => 414
    [IBLOCK_TYPE_ID] => news
    [~IBLOCK_TYPE_ID] => news
    [IBLOCK_CODE] => news_s1
    [~IBLOCK_CODE] => news_s1
    [IBLOCK_EXTERNAL_ID] => furniture_news_s1
    [~IBLOCK_EXTERNAL_ID] => furniture_news_s1
    [LID] => s1
    [~LID] => s1
    [NAV_RESULT] => 
    [NAV_CACHED_DATA] => 
    [DISPLAY_ACTIVE_FROM] => 29.02.2024
    [IPROPERTY_VALUES] => Array
        (
            [SECTION_META_TITLE] => I`LL BE BACK, или этика и антропоморфные роботы в кинематографе
            [ELEMENT_META_TITLE] => I`LL BE BACK, или этика и антропоморфные роботы в кинематографе
        )

    [FIELDS] => Array
        (
            [NAME] => I`LL BE BACK, или этика и антропоморфные роботы в кинематографе
            [TAGS] => социокультурный аспект, прогнозы, андроидные
            [PREVIEW_TEXT] => 

	 С тех пор как чешский писатель Карел Чапек использовал слово «робот» в своей пьесе «R.U.R.» («Россумские универсальные роботы», 1920), роботы и искусственный интеллект (ИИ) все быстрее проникают во все сферы жизни человеческого социума. И все чаще возникают вопросы относительно будущего сосуществования людей и машин, по большей части затрагивающие аспекты этики и морали.

            [PREVIEW_PICTURE] => Array
                (
                    [ID] => 948
                    [TIMESTAMP_X] => 04.04.2024 17:06:27
                    [MODULE_ID] => iblock
                    [HEIGHT] => 540
                    [WIDTH] => 1024
                    [FILE_SIZE] => 51607
                    [CONTENT_TYPE] => image/jpeg
                    [SUBDIR] => iblock/40e/bokig5qwqobaozhsdy9cutea65g33xmd
                    [FILE_NAME] => 15_1.jpg
                    [ORIGINAL_NAME] => 15-1.jpg
                    [DESCRIPTION] => 
                    [HANDLER_ID] => 
                    [EXTERNAL_ID] => 729541d016445c34a368219c5a10b741
                    [VERSION_ORIGINAL_ID] => 
                    [META] => 
                    [SRC] => /upload/iblock/40e/bokig5qwqobaozhsdy9cutea65g33xmd/15_1.jpg
                    [UNSAFE_SRC] => /upload/iblock/40e/bokig5qwqobaozhsdy9cutea65g33xmd/15_1.jpg
                    [SAFE_SRC] => /upload/iblock/40e/bokig5qwqobaozhsdy9cutea65g33xmd/15_1.jpg
                    [ALT] => I`LL BE BACK, или этика и антропоморфные роботы в кинематографе
                    [TITLE] => I`LL BE BACK, или этика и антропоморфные роботы в кинематографе
                )

            [DETAIL_TEXT] => 

	 Роботы всегда вызывали определенное беспокойство и даже страх — как бы они не причинили вреда людям или же не лишили их самой жизни. Поэтому робот с оружием всегда вызывал наибольшее опасение. В этой связи не случайно появление целого ряда фантастических фильмов с роботами-убийцами, например: робот Протей IV — «Семя демона» (1977), Гектор — «Сатурн 3» (1980), ЭД-209 — «Робокоп» (1987), Kaalium Cyborgs — «Лунная ловушка» (1989), М.А.Р.К. 13 — «Оборудование» (1990), War Beast — «Машина смерти» (1994), Стражи — «Матрица» (1999), Альтрон — «Мстители: Эра Альтрона» (2014), Терминаторы — франшиза «Терминатор» (1984—2019).


	 В литературе и кинематографе фигурируют такие названия машин, как робот, киборг и андроид. Зачастую слово «робот» означает, что ИИ управляет металлическим скелетом, киборг — это сочетание частей человеческих органов и механики, а у андроида тело из синтетических материалов, поэтому в некоторых фильмах их называют синтетами.


	 Но суть одна: речь идет о той степени развития ИИ, когда наступает так называемая технологическая сингулярность (technological singularity) — гипотетический момент в будущем, когда технологическое развитие становится в принципе неуправляемым и необратимым, что порождает радикальные изменения характера человеческой цивилизации.


	 Концепцию сингулярности выдвинул британский математик и космолог Ирвинг Гуд. В соответствии с ней компьютер с сильным искусственным интеллектом может войти в «безудержную реакцию» циклов самосовершенствования, при этом каждое новое поколение искусственного интеллекта будет появляться все быстрее, порождая своего рода «интеллектуальный взрыв» и создавая в конечном счете суперинтеллект, превосходящий интеллект всего человечества.


	 В далеком 1950 году в сборнике рассказов «Я, робот» («I, Robot») всемирно известный писатель-фантаст Айзек Азимов сформулировал три закона робототехники:


	 1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.


	 2. Робот должен повиноваться командам, которые ему дает человек, кроме тех случаев, когда эти команды противоречат Первому закону.


	 3. Робот должен заботиться о своей безопасности, если это не противоречит Первому и Второму законам.


	 То есть вопрос безопасности человека в отношениях с роботами в значительной степени занимал ум писателя. Если вникнуть в глубинный смысл слов героев его рассказа, то становится понятно, что если Азимов и не допускал-таки возможность нарушения роботами этих законов в будущем, но думал об этом точно.


	 Как говорит доктор Сьюзен Келвин (Dr. Susan Calvin), героиня многих рассказов из книг «Я, робот» и «Идеальный робот», главный робопсихолог компании «U.S. Robots and Mechanical Men, Inc.», «ни один робот не может совершить убийство, как человек не может ходить по воде». «Знаешь, был один человек... много лет тому назад», — отвечает ей детектив Спунер, расследующий дело об убийстве, в которое оказывается вовлечен робот.


	 И там же приводится интересный диалог детектива Спунера с робопсихологом Альфредом Лэннингом (Alfred Lanning), начинающийся с вопроса Спунера:


	 — Что-то не так с Тремя законами?


	 — Три закона идеальны.


	 — Зачем тогда понадобилось создавать робота, способного работать без них?


	 — Три закона могут приводить только к одному логическому результату.


	 — Какому результату?


	 — Революции.


	 Через несколько десятилетий после выхода в свет сборника рассказов «Я, робот» Азимова режиссер Алекс Пройас снимает в 2004 году художественный научно-фантастический фильм по мотивам цикла произведений писателя с таким же названием «Я, робот» (I, Robot), в котором с новой силой рисует взаимоотношения человека и робота со всеми этическими проблемами.


 


	 По ходу развития сюжета становится ясно, почему именно детектив Дэл Спунер (Уилл Смит), ведущий расследование гибели своего давнего знакомого — доктора Альфреда Лэннинга, конструктора и теоретика корпорации «U.S. Robotics», — видит в роботах угрозу. В результате дорожно-транспортного происшествия потерявший управление грузовик сбивает с трассы машину Спунера и автомобиль дантиста Гарольда Ллойда, где находилась 11-летняя дочь детектива Сара. Гарольд погибает на месте, а его машина начинает тонуть, то есть Саре непременно грозит гибель. Находившийся неподалеку робот модификации NS4 бросается на помощь, однако, несмотря на требование Спунера спасти Сару, спасает его самого, мотивируя поступок тем, что у детектива было гораздо больше шансов выжить, чем у 11-летней девочки. В результате Сара утонула, а Спунер с этого момента стал испытывать неприязнь к роботам с их холодной логикой и, на взгляд Спунера, не совсем этичной оценкой шансов выживания в подобных ситуациях.


	 По сюжету мы видим обыгрывание опасности возникновения суперразвитого компьютера и восстания машин. Так, Спунер выясняет, что всеми роботами управляет не директор компании Робертсон, а В.И.К.И. (Виртуальный Интерактивный Кинетический Интеллект (Virtual Interactive Kinetic Intelligence — V.I.K.I.), центральный компьютер компании «U.S. Robotics». По мере развития интеллекта ВИКИ решила, что люди не могут обеспечить свою безопасность при помощи роботов с логикой Трех законов. Она по-своему понимает Три закона робототехники и стремится создать для людей полностью безопасную среду обитания при отсутствии свободы ради их же собственного блага.


	 Не случайно у робота NS5 по имени «Санни», личного помощника доктора Лэннинга, не было блока связи с ВИКИ, чтобы он мог не выполнять ее указания. Логикой Санни управляли лишь Три закона робототехники, однако он мог сам выбирать, подчиняться им или нет. К тому же доктор Лэннинг, по словам самого Санни, учил его видеть сны и постигать различные эмоции, что делало его этически больше похожим на человека, чем на машину.


	 По сюжету ВИКИ поднимает восстание машин и убивает директора Робертсона, однако Спунеру при содействии Санни удается ее обезвредить с помощью микророботов-деструкторов — нанитов — в лаборатории эвтаназии.


	 Не могу не упомянуть культовый научно-фантастический фильм Стэнли Кубрика «Космическая одиссея 2001 года» (2001: A Space Odyssey), снятый в 1968 году, хотя он не повествует об антропоморфном роботе. В основу фильма легли рассказы Артура Кларка «Часовой», опубликованный в 1951 году, и другие. По сюжету развивается противостояние с ИИ по имени HAL, способным не только распознавать речь, зрительные образы и общаться на обычном языке, но также читать по губам и проявлять эмоции.


	 Во время экспедиции «Дискавери-1», после того как HAL «ошибся» при диагностике систем корабля, командир Дэйв Боумен и второй пилот Фрэнк Пул, перестав доверять компьютеру, решили отключить его от управления.


	 HAL не мог их слышать, однако прочитал по губам их разговор. Опасаясь того, что его отключат, HAL убил в открытом космосе Фрэнка Пула, решившего перепроверить поломку... Когда Дэйв забрался в капсулу и полетел за мертвым другом, HAL убил всех пребывающих в анабиозе членов экспедиции, отключив системы жизнеобеспечения.


	 Боумен смог проникнуть в помещение с модулями банков данных HAL и последовательно отключил модули, отвечающие за личность HAL’а. Во время отключения в голосе HAL’а можно различить мольбу, отчаяние, страх.



 


	 В комнате модулей включился монитор, на котором воспроизвелось видеосообщение, которое должно было активироваться при подлете к Юпитеру. В нем были указаны настоящие цели полета. Через некоторое время корабль подлетел к двухкилометровому монолиту, аномалии, чья природа не была установлена. Дэйв вышел в открытый космос и, подлетев к монолиту, исчез.


	 Отключенный HAL 9000 больше не подавал признаков логической деятельности.


	 Стэнли Кубрик искусно рисует картину того, в какой кошмар может в будущем превратиться общение с мощным ИИ… И трудно отделаться от мысли о том, какое зло мог бы принести человекоподобный робот с таким интеллектом в голове…


	 Создатели научно-фантастического сериала-вестерна «Мир Дикого Запада», также «Западный мир» (Westworld, премьера 1-го сезона состоялась в 2016 году) Джонатан Нолан и Лиза Джой ставят в своей работе сразу несколько этических вопросов. В частности, этично ли обидеть робота, если он чувствует боль? Если человек обижает домашнее животное, он встречает общественное порицание, потому что это животное и оно чувствует боль. А как насчет роботов, чувствующих боль? Не будут ли роботы причинять вред людям?  И по сути дела речь в целом идет о той самой сингулярности и, как следствие, восстании машин.


	 Действие сериала происходит в вымышленном футуристическом парке развлечений с названием «Мир Дикого Запада», населенном андроидами, где богатые гости за немалые деньги могут заниматься чем угодно, не опасаясь возмездия со стороны роботов. Убитого робота починят, сотрут память и снова вернут в строй для удовлетворения людских прихотей.



 


	 Однако в компьютерной системе происходят сбои, и андроид Долорес Абернати (роль исполняет Эван Рэйчел Вуд), в фильме представленная в качестве дочери фермера, со временем понимает, что вся ее жизнь — искусно сконструированная ложь. Также воспоминания хозяйки борделя андроида Мейв Милли (роль исполнила Тэндиве Ньютон) о дочери запускают процесс самопознания. Роботы выходят из-под контроля, начинают всячески мстить своим обидчикам и в конце концов находят возможность покинуть закрытую территорию, уйдя в человеческий социум.


	 Подобные этические вопросы поднимаются и в схожем по сюжету фантастическом фильме режиссера Брайана А. Миллера «Добро пожаловать в рай» (англ. название «Vice»), вышедшем на экраны США 16 января 2015 года.


	 Бизнесмен Джулиан Майклс (Брюс Уиллис) владеет супер-аттракционом — городом с жителями-андроидами, которые выглядят, думают и чувствуют, как люди. Клиенты могут реализовать свои самые смелые фантазии, включая насилие и убийства. Каждый день андроидам стирают воспоминания. Андроид Келли (Эмбир Чайлдерс) начинает осознавать происходящее и убегает. По мере развития сюжета полицейский (Томас Джейн) помогает разрушить компьютерную систему всего города-аттракциона, а вспомнившие всех обидчиков андроиды мстят им и также уходят в человеческий социум.


	 Очень интересно наблюдать за взаимоотношениями людей и андроидов в классической фантастической тетралогии ужасов «Чужой» («Alien», режиссер Ридли Скотт, 1979 год), «Чужие» («Aliens», режиссер Джеймс Кэмерон, 1986 год), «Чужой-3» (режиссер Дэвид Финчер, 1992 год) и «Чужой. Воскрешение» («Alien. Resurrection», режиссер Жан-Пьер Жене, 1997 год). «Чужим» во всех фильмах называется агрессивное инопланетное существо, которое выслеживает и убивает членов экипажа космического корабля.


 


	 Из упоминаемых в картинах андроидов, а именно Эша («Чужой», Иэн Холм), Колл («Воскрешение», Вайнона Райдер), Бишопа 341-В (Лэнс Хенриксен), лишь один Бишоп четко придерживается трех законов Айзека Азимова. Бишоп первый раз появляется в «Чужих», где выполняет обязанности технического специалиста на космическом корабле «Сулако», и ненадолго появляется в фильме «Чужой-3». Болезненно переживает то, что люди не доверяют андроидам, и пытается доказать, что достоин доверия. Не раз спасал Рипли и других людей в критических ситуациях.


	 Когда Эллен Рипли (Сигурни Уивер) узнает, что Бишоп — андроид, она первое время держится по отношению к нему очень враждебно, потому что итог её предыдущей встречи с андроидом Эшем в первом фильме «Чужой» оказался очень плачевным. Но постепенно эта враждебность сходит на нет, особенно когда Бишоп вызывается пролезть по шахте до антенной вышки. Рипли благодарит Бишопа за спасение Ньют и ее самой со взрывающегося атмосферного процессора.


	 Эш (Ash) — андроид модели «Хайпердайн Системз 120-A/2», занимавший должность научного сотрудника на космическом буксире «Ностромо», был назначен на судно перед началом рейса, во время которого буксир был уничтожен. Со слов Бишопа, Эш был из серии роботов 120-A/2, созданных компанией «Хайпердайн Системз», которые обладали неуравновешенной психикой. На момент его выпуска в мире процедура внедрения в роботов алгоритма по непричинению вреда человеку еще не была юридически обязательной.


	 Эш нарушает правила, впуская зараженного члена экипажа Кейна, мотивируя это тем, что выполнял приказ капитана, спасая Кейну жизнь, «забыв» при этом протоколы безопасности, и что в отсутствие капитана на борту главная по должности Рипли. За мгновение до того, как Рипли открыла шлюз, чтобы Чужой вылетел в космос, Эш включил сигнал тревоги, спугнувший пришельца.


	 Рипли узнает, что компьютер имеет секретные инструкции — «специальный приказ № 937», требующий изменить курс «Ностромо», исследовать новую форму жизни и доставить образцы на Землю во что бы то ни стало, а выживание команды при этом не является приоритетной задачей.


	 Внезапно андроид атакует и пытается убить Рипли, но Паркер и Ламберт приходят ей на помощь и выводят из строя Эша. То есть опять обыгрываются три закона Азимова.


	 В научно-фантастическом боевике режиссера Пола Верховена 1987 года «Робокоп» (RoboCop) действие кинокартины происходит в охваченном преступностью Детройте. Сюжет повествует о полицейском Алексе Мерфи (Питер Уэллер), погибшем в ходе выполнения задания и впоследствии возрожденном инженерами корпорации «Omni Consumer Products» в виде киборга, получившего имя Робокоп.


	 Он проводит жестокую кампанию против преступников города, в то время как его начинают беспокоить фрагменты воспоминаний из человеческой жизни.


 


	 Фильм ставит во всей полноте вопрос об этике создания киборгов на основе частей человеческого организма, ведь все, что осталось от объявленного мертвым Алекса Мерфи, — его лицо, скрытое шлемом, мозг и некоторые внутренние органы. Не случайно слоган фильма гласит: «Part man. Part machine. All cop. The future of law enforcement» («Частично человек. Частично машина. Целиком полицейский. Будущее охраны правопорядка»).


	 И вновь мы встречаем Законы Азимова, но только в виде Директив Робокопа:


	 1. Служить обществу.


	 2. Защищать невиновных.


	 3. Соблюдать закон.


	 А 4-я директива засекречена. Как оказалось, именно она не давала права Робокопу действовать против главы корпорации Джонса, но он кричит, что Робокоп уволен, то есть Директива №4 автоматически отключается. Робокоп убивает Дика Джонса и уходит из отдела, к большому удовольствию компании OCP.


	 «Бегущий по лезвию» (Blade Runner) — художественный фильм, снятый английским режиссером Ридли Скоттом в 1981 году по мотивам научно-фантастического романа Филипа Дика «Мечтают ли андроиды об электроовцах?» (1968).


	 Главный герой фильма — детектив спецотдела полиции Лос-Анджелеса Рик Декард (Харрисон Форд) — разыскивает и уничтожает сбежавших репликантов (созданных для выполнения тяжелых работ человекоподобных биороботов).



 


	 Основным мотивом фильма является вопрос этики «Человек или репликант?». Этим вопросом задается Декард, разыскивая репликантов, а затем тестируя Рейчел, которая не подозревает о том, кто она. Этот вопрос он начинает задавать и себе.


	 Интересно, что фильм существует в семи версиях, из которых базовыми считаются две — оригинальная версия с хэппи-эндом 1982 года, провалившаяся в прокате, и так называемая режиссерская версия с открытым финалом 1992 года, которая, по версии британской газеты The Guardian, была признана лучшим научно-фантастическим фильмом в истории.


	 Кстати, в 2017 году вышло продолжение в виде фильма «Бегущий по лезвию 2049» (Blade Runner 2049). Это англо-американский фантастический фильм канадского режиссера Дени Вильнёва. Действие фильма происходит в футуристическом Лос-Анджелесе в 2049 году, через 30 лет после событий фильма «Бегущий по лезвию», где рядом с обычными людьми сосуществуют искусственные создания — репликанты.


	 Главный герой, полицейский-репликант Кей (Райан Гослинг), задача которого выслеживать и уничтожать нелегально вернувшихся на Землю репликантов, случайно вскрывает тайну, способную нарушить существующий порядок, и вынужден разыскивать Рика Декарда (Харрисон Форд), героя первого фильма. Кей выясняет, что доктор Ана Стеллин (Карла Юри), разработчица искусственных воспоминаний для андроидов корпорации Уоллеса, является дочерью Рика Декарда и Рейчел (главной героини первого фильма). Кей привозит Декарда в офис к Ане Стеллин, а сам предположительно умирает от тяжелых ранений, нанесенных ему особым репликантом Лав (Сильвия Хукс), которого послал глава корпорации Ниандер Уоллес (Джаред Лето). Декард встречается лицом к лицу со своей дочерью.


	 Термина́тор» (The Terminator) — американский научно-фантастический фильм 1984 года режиссера Джеймса Кэмерона. В фильме поднимаются проблемы путешествий во времени, судьбы, поведения людей в экстремальных ситуациях, но в большей степени опасности искусственного интеллекта. Фильм открывается сценой мрачного будущего, где происходит война людей и машин. Затем действие переносится в настоящее (1984 год). В центре сюжета — противостояние между солдатом освободительной армии человечества и роботом-терминатором (Арнольд Шварценеггер), прибывшими в 1984 год из постапокалиптического 2029 года. Цель терминатора — убить Сару Коннор (Линда Хэмилтон), девушку, чей еще нерожденный сын в возможном будущем выиграет войну человечества с машинами. Влюбеённый в Сару солдат Кайл Риз (Майкл Бин) пытается помешать терминатору.


	 Кстати, сценарий «Терминатора» Кэмерон написал в 1982 году через год после того, как в Риме переболел лихорадкой и в бреду увидел преследовавшего девушку человека с красным глазом.


 


	 Примечательны слова Кайла, говорящего Саре Коннор о том, что технология создания роботов, подобных Терминатору, будет существовать через 40 лет. С учетом того, что действие происходит в 1984 году, Терминатор должен появиться сейчас, то есть в наступившем 2024-ом…


	 Как говорил один известный политик, «прогнозирование – дело трудное, особенно если речь идет о будущем». «Скайнет» пока не взбесился, но кто может предсказать, когда именно будет пройдена точка технологической сингулярности и что это принесет людям, а также когда появятся реальные Эш, Колл, Бишоп, Робокоп? Будут ли они приверженцами Законов Айзека Азимова? Американский изобретатель и футуролог Рэймонд Курцвейл предсказывает наступление технологической сингулярности в 2045 году.


	 Не все прогнозы носят радужный характер. В частности, по словам английского физика-теоретика, космолога и астрофизика Стивена Хокинга, «Успех в создании ИИ станет самым большим событием в истории человечества. К сожалению, он может оказаться и последним, если мы не научимся избегать рисков».


	 Как считает Илон Маск, в 2040-х годах на Земле может появиться 1 млрд роботов-гуманоидов при условии, что основы цивилизации будут стабильными. То есть долго ждать не придется… Это как минимум означает, что уже сейчас надо всерьез задуматься об этических нормах взаимодействия человека и робота во всех аспектах, не говоря уже о правовых вопросах. Как говорит футурист, технофилософ и один из ведущих мировых экспертов в области новых технологий Грей Скотт, «Реальный вопрос в том, когда мы разработаем билль о правах искусственного интеллекта? В чем это будет заключаться? И кто это будет решать?». Так или иначе, только будущее покажет, как будут развиваться антропоморфные роботы, каков будет их интеллект и когда мир приблизится к созданию сильного ИИ.


	 Уверен, что мы еще увидим немало интересных научно-фантастических фильмов на эту тему. Мы же со своей стороны сделаем все возможное для размещения в журнале наиболее интересных материалов по развитию антропоморфных роботов. Будьте с нами.


	 I`LL BE BACK!

            [DETAIL_PICTURE] => Array
                (
                    [ID] => 949
                    [TIMESTAMP_X] => 04.04.2024 17:06:27
                    [MODULE_ID] => iblock
                    [HEIGHT] => 844
                    [WIDTH] => 1600
                    [FILE_SIZE] => 154932
                    [CONTENT_TYPE] => image/jpeg
                    [SUBDIR] => iblock/7ef/4c2ijx696gu4w71jqp3dxnxhbz815l5a
                    [FILE_NAME] => 15_1.jpg
                    [ORIGINAL_NAME] => 15-1.jpg
                    [DESCRIPTION] => 
                    [HANDLER_ID] => 
                    [EXTERNAL_ID] => 51c8b2229a9bba08a05a57375107cdbe
                    [VERSION_ORIGINAL_ID] => 
                    [META] => 
                    [SRC] => /upload/iblock/7ef/4c2ijx696gu4w71jqp3dxnxhbz815l5a/15_1.jpg
                    [UNSAFE_SRC] => /upload/iblock/7ef/4c2ijx696gu4w71jqp3dxnxhbz815l5a/15_1.jpg
                    [SAFE_SRC] => /upload/iblock/7ef/4c2ijx696gu4w71jqp3dxnxhbz815l5a/15_1.jpg
                    [ALT] => I`LL BE BACK, или этика и антропоморфные роботы в кинематографе
                    [TITLE] => I`LL BE BACK, или этика и антропоморфные роботы в кинематографе
                )

            [DATE_ACTIVE_FROM] => 29.02.2024
        )

    [PROPERTIES] => Array
        (
            [AUTHOR] => Array
                (
                    [ID] => 9
                    [TIMESTAMP_X] => 2024-04-16 13:42:26
                    [IBLOCK_ID] => 1
                    [NAME] => Автор статьи
                    [ACTIVE] => Y
                    [SORT] => 500
                    [CODE] => AUTHOR
                    [DEFAULT_VALUE] => 
                    [PROPERTY_TYPE] => S
                    [ROW_COUNT] => 1
                    [COL_COUNT] => 30
                    [LIST_TYPE] => L
                    [MULTIPLE] => N
                    [XML_ID] => 
                    [FILE_TYPE] => 
                    [MULTIPLE_CNT] => 5
                    [TMP_ID] => 
                    [LINK_IBLOCK_ID] => 0
                    [WITH_DESCRIPTION] => N
                    [SEARCHABLE] => N
                    [FILTRABLE] => N
                    [IS_REQUIRED] => N
                    [VERSION] => 1
                    [USER_TYPE] => 
                    [USER_TYPE_SETTINGS] => a:0:{}
                    [HINT] => 
                    [PROPERTY_VALUE_ID] => 1517
                    [VALUE] => Прокудин Михаил Леонидович, Заместитель Главного редактора
                    [DESCRIPTION] => 
                    [VALUE_ENUM] => 
                    [VALUE_XML_ID] => 
                    [VALUE_SORT] => 
                    [~VALUE] => Прокудин Михаил Леонидович, Заместитель Главного редактора
                    [~DESCRIPTION] => 
                    [~NAME] => Автор статьи
                    [~DEFAULT_VALUE] => 
                )

            [AU_PHOTO] => Array
                (
                    [ID] => 10
                    [TIMESTAMP_X] => 2024-04-16 13:42:26
                    [IBLOCK_ID] => 1
                    [NAME] => Автор фото 
                    [ACTIVE] => Y
                    [SORT] => 500
                    [CODE] => AU_PHOTO
                    [DEFAULT_VALUE] => 
                    [PROPERTY_TYPE] => S
                    [ROW_COUNT] => 1
                    [COL_COUNT] => 30
                    [LIST_TYPE] => L
                    [MULTIPLE] => N
                    [XML_ID] => 
                    [FILE_TYPE] => 
                    [MULTIPLE_CNT] => 5
                    [TMP_ID] => 
                    [LINK_IBLOCK_ID] => 0
                    [WITH_DESCRIPTION] => N
                    [SEARCHABLE] => N
                    [FILTRABLE] => N
                    [IS_REQUIRED] => N
                    [VERSION] => 1
                    [USER_TYPE] => 
                    [USER_TYPE_SETTINGS] => a:0:{}
                    [HINT] => 
                    [PROPERTY_VALUE_ID] => 1518
                    [VALUE] => Midjourney; из личного архива автора
                    [DESCRIPTION] => 
                    [VALUE_ENUM] => 
                    [VALUE_XML_ID] => 
                    [VALUE_SORT] => 
                    [~VALUE] => Midjourney; из личного архива автора
                    [~DESCRIPTION] => 
                    [~NAME] => Автор фото 
                    [~DEFAULT_VALUE] => 
                )

            [IMG_MAIN] => Array
                (
                    [ID] => 11
                    [TIMESTAMP_X] => 2024-04-16 13:42:26
                    [IBLOCK_ID] => 1
                    [NAME] => Картинка для Главной
                    [ACTIVE] => Y
                    [SORT] => 500
                    [CODE] => IMG_MAIN
                    [DEFAULT_VALUE] => 
                    [PROPERTY_TYPE] => F
                    [ROW_COUNT] => 1
                    [COL_COUNT] => 30
                    [LIST_TYPE] => L
                    [MULTIPLE] => N
                    [XML_ID] => 
                    [FILE_TYPE] => 
                    [MULTIPLE_CNT] => 5
                    [TMP_ID] => 
                    [LINK_IBLOCK_ID] => 0
                    [WITH_DESCRIPTION] => N
                    [SEARCHABLE] => N
                    [FILTRABLE] => N
                    [IS_REQUIRED] => N
                    [VERSION] => 1
                    [USER_TYPE] => 
                    [USER_TYPE_SETTINGS] => a:0:{}
                    [HINT] => 
                    [PROPERTY_VALUE_ID] => 1524
                    [VALUE] => 953
                    [DESCRIPTION] => 
                    [VALUE_ENUM] => 
                    [VALUE_XML_ID] => 
                    [VALUE_SORT] => 
                    [~VALUE] => 953
                    [~DESCRIPTION] => 
                    [~NAME] => Картинка для Главной
                    [~DEFAULT_VALUE] => 
                )

            [MAIN_THEME] => Array
                (
                    [ID] => 12
                    [TIMESTAMP_X] => 2024-04-16 13:42:26
                    [IBLOCK_ID] => 1
                    [NAME] => Главная тема
                    [ACTIVE] => Y
                    [SORT] => 500
                    [CODE] => MAIN_THEME
                    [DEFAULT_VALUE] => 
                    [PROPERTY_TYPE] => L
                    [ROW_COUNT] => 1
                    [COL_COUNT] => 30
                    [LIST_TYPE] => L
                    [MULTIPLE] => N
                    [XML_ID] => 
                    [FILE_TYPE] => 
                    [MULTIPLE_CNT] => 5
                    [TMP_ID] => 
                    [LINK_IBLOCK_ID] => 0
                    [WITH_DESCRIPTION] => N
                    [SEARCHABLE] => N
                    [FILTRABLE] => N
                    [IS_REQUIRED] => N
                    [VERSION] => 1
                    [USER_TYPE] => 
                    [USER_TYPE_SETTINGS] => a:0:{}
                    [HINT] => 
                    [PROPERTY_VALUE_ID] => 
                    [VALUE] => 
                    [DESCRIPTION] => 
                    [VALUE_ENUM] => 
                    [VALUE_XML_ID] => 
                    [VALUE_SORT] => 
                    [VALUE_ENUM_ID] => 
                    [~VALUE] => 
                    [~DESCRIPTION] => 
                    [~NAME] => Главная тема
                    [~DEFAULT_VALUE] => 
                )

            [MAIN_SECT] => Array
                (
                    [ID] => 13
                    [TIMESTAMP_X] => 2024-04-16 13:42:26
                    [IBLOCK_ID] => 1
                    [NAME] => В своём разделе
                    [ACTIVE] => Y
                    [SORT] => 500
                    [CODE] => MAIN_SECT
                    [DEFAULT_VALUE] => 
                    [PROPERTY_TYPE] => L
                    [ROW_COUNT] => 1
                    [COL_COUNT] => 30
                    [LIST_TYPE] => L
                    [MULTIPLE] => N
                    [XML_ID] => 
                    [FILE_TYPE] => 
                    [MULTIPLE_CNT] => 5
                    [TMP_ID] => 
                    [LINK_IBLOCK_ID] => 0
                    [WITH_DESCRIPTION] => N
                    [SEARCHABLE] => N
                    [FILTRABLE] => N
                    [IS_REQUIRED] => N
                    [VERSION] => 1
                    [USER_TYPE] => 
                    [USER_TYPE_SETTINGS] => a:0:{}
                    [HINT] => 
                    [PROPERTY_VALUE_ID] => 
                    [VALUE] => 
                    [DESCRIPTION] => 
                    [VALUE_ENUM] => 
                    [VALUE_XML_ID] => 
                    [VALUE_SORT] => 
                    [VALUE_ENUM_ID] => 
                    [~VALUE] => 
                    [~DESCRIPTION] => 
                    [~NAME] => В своём разделе
                    [~DEFAULT_VALUE] => 
                )

            [VIDEO_YOU] => Array
                (
                    [ID] => 14
                    [TIMESTAMP_X] => 2024-04-16 13:42:26
                    [IBLOCK_ID] => 1
                    [NAME] => Видео youtobe
                    [ACTIVE] => Y
                    [SORT] => 500
                    [CODE] => VIDEO_YOU
                    [DEFAULT_VALUE] => 
                    [PROPERTY_TYPE] => S
                    [ROW_COUNT] => 1
                    [COL_COUNT] => 30
                    [LIST_TYPE] => L
                    [MULTIPLE] => N
                    [XML_ID] => 
                    [FILE_TYPE] => 
                    [MULTIPLE_CNT] => 5
                    [TMP_ID] => 
                    [LINK_IBLOCK_ID] => 0
                    [WITH_DESCRIPTION] => N
                    [SEARCHABLE] => N
                    [FILTRABLE] => N
                    [IS_REQUIRED] => N
                    [VERSION] => 1
                    [USER_TYPE] => 
                    [USER_TYPE_SETTINGS] => a:0:{}
                    [HINT] => 
                    [PROPERTY_VALUE_ID] => 
                    [VALUE] => 
                    [DESCRIPTION] => 
                    [VALUE_ENUM] => 
                    [VALUE_XML_ID] => 
                    [VALUE_SORT] => 
                    [~VALUE] => 
                    [~DESCRIPTION] => 
                    [~NAME] => Видео youtobe
                    [~DEFAULT_VALUE] => 
                )

        )

    [DISPLAY_PROPERTIES] => Array
        (
            [AUTHOR] => Array
                (
                    [ID] => 9
                    [TIMESTAMP_X] => 2024-04-16 13:42:26
                    [IBLOCK_ID] => 1
                    [NAME] => Автор статьи
                    [ACTIVE] => Y
                    [SORT] => 500
                    [CODE] => AUTHOR
                    [DEFAULT_VALUE] => 
                    [PROPERTY_TYPE] => S
                    [ROW_COUNT] => 1
                    [COL_COUNT] => 30
                    [LIST_TYPE] => L
                    [MULTIPLE] => N
                    [XML_ID] => 
                    [FILE_TYPE] => 
                    [MULTIPLE_CNT] => 5
                    [TMP_ID] => 
                    [LINK_IBLOCK_ID] => 0
                    [WITH_DESCRIPTION] => N
                    [SEARCHABLE] => N
                    [FILTRABLE] => N
                    [IS_REQUIRED] => N
                    [VERSION] => 1
                    [USER_TYPE] => 
                    [USER_TYPE_SETTINGS] => a:0:{}
                    [HINT] => 
                    [PROPERTY_VALUE_ID] => 1517
                    [VALUE] => Прокудин Михаил Леонидович, Заместитель Главного редактора
                    [DESCRIPTION] => 
                    [VALUE_ENUM] => 
                    [VALUE_XML_ID] => 
                    [VALUE_SORT] => 
                    [~VALUE] => Прокудин Михаил Леонидович, Заместитель Главного редактора
                    [~DESCRIPTION] => 
                    [~NAME] => Автор статьи
                    [~DEFAULT_VALUE] => 
                    [DISPLAY_VALUE] => Прокудин Михаил Леонидович, Заместитель Главного редактора
                )

            [AU_PHOTO] => Array
                (
                    [ID] => 10
                    [TIMESTAMP_X] => 2024-04-16 13:42:26
                    [IBLOCK_ID] => 1
                    [NAME] => Автор фото 
                    [ACTIVE] => Y
                    [SORT] => 500
                    [CODE] => AU_PHOTO
                    [DEFAULT_VALUE] => 
                    [PROPERTY_TYPE] => S
                    [ROW_COUNT] => 1
                    [COL_COUNT] => 30
                    [LIST_TYPE] => L
                    [MULTIPLE] => N
                    [XML_ID] => 
                    [FILE_TYPE] => 
                    [MULTIPLE_CNT] => 5
                    [TMP_ID] => 
                    [LINK_IBLOCK_ID] => 0
                    [WITH_DESCRIPTION] => N
                    [SEARCHABLE] => N
                    [FILTRABLE] => N
                    [IS_REQUIRED] => N
                    [VERSION] => 1
                    [USER_TYPE] => 
                    [USER_TYPE_SETTINGS] => a:0:{}
                    [HINT] => 
                    [PROPERTY_VALUE_ID] => 1518
                    [VALUE] => Midjourney; из личного архива автора
                    [DESCRIPTION] => 
                    [VALUE_ENUM] => 
                    [VALUE_XML_ID] => 
                    [VALUE_SORT] => 
                    [~VALUE] => Midjourney; из личного архива автора
                    [~DESCRIPTION] => 
                    [~NAME] => Автор фото 
                    [~DEFAULT_VALUE] => 
                    [DISPLAY_VALUE] => Midjourney; из личного архива автора
                )

        )

    [IBLOCK] => Array
        (
            [ID] => 1
            [~ID] => 1
            [TIMESTAMP_X] => 16.04.2024 13:42:26
            [~TIMESTAMP_X] => 16.04.2024 13:42:26
            [IBLOCK_TYPE_ID] => news
            [~IBLOCK_TYPE_ID] => news
            [LID] => s1
            [~LID] => s1
            [CODE] => news_s1
            [~CODE] => news_s1
            [API_CODE] => 
            [~API_CODE] => 
            [REST_ON] => N
            [~REST_ON] => N
            [NAME] => Статьи
            [~NAME] => Статьи
            [ACTIVE] => Y
            [~ACTIVE] => Y
            [SORT] => 500
            [~SORT] => 500
            [LIST_PAGE_URL] => 
            [~LIST_PAGE_URL] => 
            [DETAIL_PAGE_URL] => #SITE_DIR#/#SECTION_CODE#/#ELEMENT_CODE#/
            [~DETAIL_PAGE_URL] => #SITE_DIR#/#SECTION_CODE#/#ELEMENT_CODE#/
            [SECTION_PAGE_URL] => #SITE_DIR#/#SECTION_CODE#
            [~SECTION_PAGE_URL] => #SITE_DIR#/#SECTION_CODE#
            [CANONICAL_PAGE_URL] => 
            [~CANONICAL_PAGE_URL] => 
            [PICTURE] => 
            [~PICTURE] => 
            [DESCRIPTION] => 
            [~DESCRIPTION] => 
            [DESCRIPTION_TYPE] => text
            [~DESCRIPTION_TYPE] => text
            [RSS_TTL] => 24
            [~RSS_TTL] => 24
            [RSS_ACTIVE] => Y
            [~RSS_ACTIVE] => Y
            [RSS_FILE_ACTIVE] => N
            [~RSS_FILE_ACTIVE] => N
            [RSS_FILE_LIMIT] => 
            [~RSS_FILE_LIMIT] => 
            [RSS_FILE_DAYS] => 
            [~RSS_FILE_DAYS] => 
            [RSS_YANDEX_ACTIVE] => N
            [~RSS_YANDEX_ACTIVE] => N
            [XML_ID] => furniture_news_s1
            [~XML_ID] => furniture_news_s1
            [TMP_ID] => 6cfbdd5e02a2f38f8bf51afa68b2792c
            [~TMP_ID] => 6cfbdd5e02a2f38f8bf51afa68b2792c
            [INDEX_ELEMENT] => Y
            [~INDEX_ELEMENT] => Y
            [INDEX_SECTION] => Y
            [~INDEX_SECTION] => Y
            [WORKFLOW] => N
            [~WORKFLOW] => N
            [BIZPROC] => N
            [~BIZPROC] => N
            [SECTION_CHOOSER] => L
            [~SECTION_CHOOSER] => L
            [LIST_MODE] => 
            [~LIST_MODE] => 
            [RIGHTS_MODE] => S
            [~RIGHTS_MODE] => S
            [SECTION_PROPERTY] => N
            [~SECTION_PROPERTY] => N
            [PROPERTY_INDEX] => N
            [~PROPERTY_INDEX] => N
            [VERSION] => 1
            [~VERSION] => 1
            [LAST_CONV_ELEMENT] => 0
            [~LAST_CONV_ELEMENT] => 0
            [SOCNET_GROUP_ID] => 
            [~SOCNET_GROUP_ID] => 
            [EDIT_FILE_BEFORE] => 
            [~EDIT_FILE_BEFORE] => 
            [EDIT_FILE_AFTER] => 
            [~EDIT_FILE_AFTER] => 
            [SECTIONS_NAME] => Разделы
            [~SECTIONS_NAME] => Разделы
            [SECTION_NAME] => Раздел
            [~SECTION_NAME] => Раздел
            [ELEMENTS_NAME] => Статьи
            [~ELEMENTS_NAME] => Статьи
            [ELEMENT_NAME] => Статья
            [~ELEMENT_NAME] => Статья
            [EXTERNAL_ID] => furniture_news_s1
            [~EXTERNAL_ID] => furniture_news_s1
            [LANG_DIR] => /
            [~LANG_DIR] => /
            [SERVER_NAME] => roboticsworld.ru
            [~SERVER_NAME] => roboticsworld.ru
        )

    [SECTION] => Array
        (
            [PATH] => Array
                (
                    [0] => Array
                        (
                            [ID] => 10
                            [~ID] => 10
                            [CODE] => cyberpunk
                            [~CODE] => cyberpunk
                            [XML_ID] => 
                            [~XML_ID] => 
                            [EXTERNAL_ID] => 
                            [~EXTERNAL_ID] => 
                            [IBLOCK_ID] => 1
                            [~IBLOCK_ID] => 1
                            [IBLOCK_SECTION_ID] => 
                            [~IBLOCK_SECTION_ID] => 
                            [SORT] => 350
                            [~SORT] => 350
                            [NAME] => Киберпанк
                            [~NAME] => Киберпанк
                            [ACTIVE] => Y
                            [~ACTIVE] => Y
                            [DEPTH_LEVEL] => 1
                            [~DEPTH_LEVEL] => 1
                            [SECTION_PAGE_URL] => /cyberpunk
                            [~SECTION_PAGE_URL] => /cyberpunk
                            [IBLOCK_TYPE_ID] => news
                            [~IBLOCK_TYPE_ID] => news
                            [IBLOCK_CODE] => news_s1
                            [~IBLOCK_CODE] => news_s1
                            [IBLOCK_EXTERNAL_ID] => furniture_news_s1
                            [~IBLOCK_EXTERNAL_ID] => furniture_news_s1
                            [GLOBAL_ACTIVE] => Y
                            [~GLOBAL_ACTIVE] => Y
                            [IPROPERTY_VALUES] => Array
                                (
                                    [SECTION_META_TITLE] => Киберпанк
                                    [ELEMENT_META_TITLE] => Киберпанк
                                )

                        )

                )

        )

    [SECTION_URL] => /cyberpunk
    [META_TAGS] => Array
        (
            [TITLE] => I`LL BE BACK, или этика и антропоморфные роботы в кинематографе
            [BROWSER_TITLE] => I`LL BE BACK, или этика и антропоморфные роботы в кинематографе
            [KEYWORDS] => 
            [DESCRIPTION] => 
        )

)
 

• Главная
• Киберпанк
• I`LL BE BACK, или этика и антропоморфные роботы в кинематографе

I`LL BE BACK, или этика и антропоморфные роботы в кинематографе

С тех пор как чешский писатель Карел Чапек использовал слово «робот» в своей пьесе «R.U.R.» («Россумские универсальные роботы», 1920), роботы и искусственный интеллект (ИИ) все быстрее проникают во все сферы жизни человеческого социума. И все чаще возникают вопросы относительно будущего сосуществования людей и машин, по большей части затрагивающие аспекты этики и морали.

Роботы всегда вызывали определенное беспокойство и даже страх — как бы они не причинили вреда людям или же не лишили их самой жизни. Поэтому робот с оружием всегда вызывал наибольшее опасение. В этой связи не случайно появление целого ряда фантастических фильмов с роботами-убийцами, например: робот Протей IV — «Семя демона» (1977), Гектор — «Сатурн 3» (1980), ЭД-209 — «Робокоп» (1987), Kaalium Cyborgs — «Лунная ловушка» (1989), М.А.Р.К. 13 — «Оборудование» (1990), War Beast — «Машина смерти» (1994), Стражи — «Матрица» (1999), Альтрон — «Мстители: Эра Альтрона» (2014), Терминаторы — франшиза «Терминатор» (1984—2019).

В литературе и кинематографе фигурируют такие названия машин, как робот, киборг и андроид. Зачастую слово «робот» означает, что ИИ управляет металлическим скелетом, киборг — это сочетание частей человеческих органов и механики, а у андроида тело из синтетических материалов, поэтому в некоторых фильмах их называют синтетами.

Но суть одна: речь идет о той степени развития ИИ, когда наступает так называемая технологическая сингулярность (technological singularity) — гипотетический момент в будущем, когда технологическое развитие становится в принципе неуправляемым и необратимым, что порождает радикальные изменения характера человеческой цивилизации.

Концепцию сингулярности выдвинул британский математик и космолог Ирвинг Гуд. В соответствии с ней компьютер с сильным искусственным интеллектом может войти в «безудержную реакцию» циклов самосовершенствования, при этом каждое новое поколение искусственного интеллекта будет появляться все быстрее, порождая своего рода «интеллектуальный взрыв» и создавая в конечном счете суперинтеллект, превосходящий интеллект всего человечества.

В далеком 1950 году в сборнике рассказов «Я, робот» («I, Robot») всемирно известный писатель-фантаст Айзек Азимов сформулировал три закона робототехники:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться командам, которые ему дает человек, кроме тех случаев, когда эти команды противоречат Первому закону.

3. Робот должен заботиться о своей безопасности, если это не противоречит Первому и Второму законам.

То есть вопрос безопасности человека в отношениях с роботами в значительной степени занимал ум писателя. Если вникнуть в глубинный смысл слов героев его рассказа, то становится понятно, что если Азимов и не допускал-таки возможность нарушения роботами этих законов в будущем, но думал об этом точно.

Как говорит доктор Сьюзен Келвин (Dr. Susan Calvin), героиня многих рассказов из книг «Я, робот» и «Идеальный робот», главный робопсихолог компании «U.S. Robots and Mechanical Men, Inc.», «ни один робот не может совершить убийство, как человек не может ходить по воде». «Знаешь, был один человек... много лет тому назад», — отвечает ей детектив Спунер, расследующий дело об убийстве, в которое оказывается вовлечен робот.

И там же приводится интересный диалог детектива Спунера с робопсихологом Альфредом Лэннингом (Alfred Lanning), начинающийся с вопроса Спунера:

— Что-то не так с Тремя законами?

— Три закона идеальны.

— Зачем тогда понадобилось создавать робота, способного работать без них?

— Три закона могут приводить только к одному логическому результату.

— Какому результату?

— Революции.

Через несколько десятилетий после выхода в свет сборника рассказов «Я, робот» Азимова режиссер Алекс Пройас снимает в 2004 году художественный научно-фантастический фильм по мотивам цикла произведений писателя с таким же названием «Я, робот» (I, Robot), в котором с новой силой рисует взаимоотношения человека и робота со всеми этическими проблемами.

По ходу развития сюжета становится ясно, почему именно детектив Дэл Спунер (Уилл Смит), ведущий расследование гибели своего давнего знакомого — доктора Альфреда Лэннинга, конструктора и теоретика корпорации «U.S. Robotics», — видит в роботах угрозу. В результате дорожно-транспортного происшествия потерявший управление грузовик сбивает с трассы машину Спунера и автомобиль дантиста Гарольда Ллойда, где находилась 11-летняя дочь детектива Сара. Гарольд погибает на месте, а его машина начинает тонуть, то есть Саре непременно грозит гибель. Находившийся неподалеку робот модификации NS4 бросается на помощь, однако, несмотря на требование Спунера спасти Сару, спасает его самого, мотивируя поступок тем, что у детектива было гораздо больше шансов выжить, чем у 11-летней девочки. В результате Сара утонула, а Спунер с этого момента стал испытывать неприязнь к роботам с их холодной логикой и, на взгляд Спунера, не совсем этичной оценкой шансов выживания в подобных ситуациях.

По сюжету мы видим обыгрывание опасности возникновения суперразвитого компьютера и восстания машин. Так, Спунер выясняет, что всеми роботами управляет не директор компании Робертсон, а В.И.К.И. (Виртуальный Интерактивный Кинетический Интеллект (Virtual Interactive Kinetic Intelligence — V.I.K.I.), центральный компьютер компании «U.S. Robotics». По мере развития интеллекта ВИКИ решила, что люди не могут обеспечить свою безопасность при помощи роботов с логикой Трех законов. Она по-своему понимает Три закона робототехники и стремится создать для людей полностью безопасную среду обитания при отсутствии свободы ради их же собственного блага.

Не случайно у робота NS5 по имени «Санни», личного помощника доктора Лэннинга, не было блока связи с ВИКИ, чтобы он мог не выполнять ее указания. Логикой Санни управляли лишь Три закона робототехники, однако он мог сам выбирать, подчиняться им или нет. К тому же доктор Лэннинг, по словам самого Санни, учил его видеть сны и постигать различные эмоции, что делало его этически больше похожим на человека, чем на машину.

По сюжету ВИКИ поднимает восстание машин и убивает директора Робертсона, однако Спунеру при содействии Санни удается ее обезвредить с помощью микророботов-деструкторов — нанитов — в лаборатории эвтаназии.

Не могу не упомянуть культовый научно-фантастический фильм Стэнли Кубрика «Космическая одиссея 2001 года» (2001: A Space Odyssey), снятый в 1968 году, хотя он не повествует об антропоморфном роботе. В основу фильма легли рассказы Артура Кларка «Часовой», опубликованный в 1951 году, и другие. По сюжету развивается противостояние с ИИ по имени HAL, способным не только распознавать речь, зрительные образы и общаться на обычном языке, но также читать по губам и проявлять эмоции.

Во время экспедиции «Дискавери-1», после того как HAL «ошибся» при диагностике систем корабля, командир Дэйв Боумен и второй пилот Фрэнк Пул, перестав доверять компьютеру, решили отключить его от управления.

HAL не мог их слышать, однако прочитал по губам их разговор. Опасаясь того, что его отключат, HAL убил в открытом космосе Фрэнка Пула, решившего перепроверить поломку... Когда Дэйв забрался в капсулу и полетел за мертвым другом, HAL убил всех пребывающих в анабиозе членов экспедиции, отключив системы жизнеобеспечения.

Боумен смог проникнуть в помещение с модулями банков данных HAL и последовательно отключил модули, отвечающие за личность HAL’а. Во время отключения в голосе HAL’а можно различить мольбу, отчаяние, страх.

В комнате модулей включился монитор, на котором воспроизвелось видеосообщение, которое должно было активироваться при подлете к Юпитеру. В нем были указаны настоящие цели полета. Через некоторое время корабль подлетел к двухкилометровому монолиту, аномалии, чья природа не была установлена. Дэйв вышел в открытый космос и, подлетев к монолиту, исчез.

Отключенный HAL 9000 больше не подавал признаков логической деятельности.

Стэнли Кубрик искусно рисует картину того, в какой кошмар может в будущем превратиться общение с мощным ИИ… И трудно отделаться от мысли о том, какое зло мог бы принести человекоподобный робот с таким интеллектом в голове…

Создатели научно-фантастического сериала-вестерна «Мир Дикого Запада», также «Западный мир» (Westworld, премьера 1-го сезона состоялась в 2016 году) Джонатан Нолан и Лиза Джой ставят в своей работе сразу несколько этических вопросов. В частности, этично ли обидеть робота, если он чувствует боль? Если человек обижает домашнее животное, он встречает общественное порицание, потому что это животное и оно чувствует боль. А как насчет роботов, чувствующих боль? Не будут ли роботы причинять вред людям?  И по сути дела речь в целом идет о той самой сингулярности и, как следствие, восстании машин.

Действие сериала происходит в вымышленном футуристическом парке развлечений с названием «Мир Дикого Запада», населенном андроидами, где богатые гости за немалые деньги могут заниматься чем угодно, не опасаясь возмездия со стороны роботов. Убитого робота починят, сотрут память и снова вернут в строй для удовлетворения людских прихотей.

Однако в компьютерной системе происходят сбои, и андроид Долорес Абернати (роль исполняет Эван Рэйчел Вуд), в фильме представленная в качестве дочери фермера, со временем понимает, что вся ее жизнь — искусно сконструированная ложь. Также воспоминания хозяйки борделя андроида Мейв Милли (роль исполнила Тэндиве Ньютон) о дочери запускают процесс самопознания. Роботы выходят из-под контроля, начинают всячески мстить своим обидчикам и в конце концов находят возможность покинуть закрытую территорию, уйдя в человеческий социум.

Подобные этические вопросы поднимаются и в схожем по сюжету фантастическом фильме режиссера Брайана А. Миллера «Добро пожаловать в рай» (англ. название «Vice»), вышедшем на экраны США 16 января 2015 года.

Бизнесмен Джулиан Майклс (Брюс Уиллис) владеет супер-аттракционом — городом с жителями-андроидами, которые выглядят, думают и чувствуют, как люди. Клиенты могут реализовать свои самые смелые фантазии, включая насилие и убийства. Каждый день андроидам стирают воспоминания. Андроид Келли (Эмбир Чайлдерс) начинает осознавать происходящее и убегает. По мере развития сюжета полицейский (Томас Джейн) помогает разрушить компьютерную систему всего города-аттракциона, а вспомнившие всех обидчиков андроиды мстят им и также уходят в человеческий социум.

Очень интересно наблюдать за взаимоотношениями людей и андроидов в классической фантастической тетралогии ужасов «Чужой» («Alien», режиссер Ридли Скотт, 1979 год), «Чужие» («Aliens», режиссер Джеймс Кэмерон, 1986 год), «Чужой-3» (режиссер Дэвид Финчер, 1992 год) и «Чужой. Воскрешение» («Alien. Resurrection», режиссер Жан-Пьер Жене, 1997 год). «Чужим» во всех фильмах называется агрессивное инопланетное существо, которое выслеживает и убивает членов экипажа космического корабля.

Из упоминаемых в картинах андроидов, а именно Эша («Чужой», Иэн Холм), Колл («Воскрешение», Вайнона Райдер), Бишопа 341-В (Лэнс Хенриксен), лишь один Бишоп четко придерживается трех законов Айзека Азимова. Бишоп первый раз появляется в «Чужих», где выполняет обязанности технического специалиста на космическом корабле «Сулако», и ненадолго появляется в фильме «Чужой-3». Болезненно переживает то, что люди не доверяют андроидам, и пытается доказать, что достоин доверия. Не раз спасал Рипли и других людей в критических ситуациях.

Когда Эллен Рипли (Сигурни Уивер) узнает, что Бишоп — андроид, она первое время держится по отношению к нему очень враждебно, потому что итог её предыдущей встречи с андроидом Эшем в первом фильме «Чужой» оказался очень плачевным. Но постепенно эта враждебность сходит на нет, особенно когда Бишоп вызывается пролезть по шахте до антенной вышки. Рипли благодарит Бишопа за спасение Ньют и ее самой со взрывающегося атмосферного процессора.

Эш (Ash) — андроид модели «Хайпердайн Системз 120-A/2», занимавший должность научного сотрудника на космическом буксире «Ностромо», был назначен на судно перед началом рейса, во время которого буксир был уничтожен. Со слов Бишопа, Эш был из серии роботов 120-A/2, созданных компанией «Хайпердайн Системз», которые обладали неуравновешенной психикой. На момент его выпуска в мире процедура внедрения в роботов алгоритма по непричинению вреда человеку еще не была юридически обязательной.

Эш нарушает правила, впуская зараженного члена экипажа Кейна, мотивируя это тем, что выполнял приказ капитана, спасая Кейну жизнь, «забыв» при этом протоколы безопасности, и что в отсутствие капитана на борту главная по должности Рипли. За мгновение до того, как Рипли открыла шлюз, чтобы Чужой вылетел в космос, Эш включил сигнал тревоги, спугнувший пришельца.

Рипли узнает, что компьютер имеет секретные инструкции — «специальный приказ № 937», требующий изменить курс «Ностромо», исследовать новую форму жизни и доставить образцы на Землю во что бы то ни стало, а выживание команды при этом не является приоритетной задачей.

Внезапно андроид атакует и пытается убить Рипли, но Паркер и Ламберт приходят ей на помощь и выводят из строя Эша. То есть опять обыгрываются три закона Азимова.

В научно-фантастическом боевике режиссера Пола Верховена 1987 года «Робокоп» (RoboCop) действие кинокартины происходит в охваченном преступностью Детройте. Сюжет повествует о полицейском Алексе Мерфи (Питер Уэллер), погибшем в ходе выполнения задания и впоследствии возрожденном инженерами корпорации «Omni Consumer Products» в виде киборга, получившего имя Робокоп.

Он проводит жестокую кампанию против преступников города, в то время как его начинают беспокоить фрагменты воспоминаний из человеческой жизни.

Фильм ставит во всей полноте вопрос об этике создания киборгов на основе частей человеческого организма, ведь все, что осталось от объявленного мертвым Алекса Мерфи, — его лицо, скрытое шлемом, мозг и некоторые внутренние органы. Не случайно слоган фильма гласит: «Part man. Part machine. All cop. The future of law enforcement» («Частично человек. Частично машина. Целиком полицейский. Будущее охраны правопорядка»).

И вновь мы встречаем Законы Азимова, но только в виде Директив Робокопа:

1. Служить обществу.

2. Защищать невиновных.

3. Соблюдать закон.

А 4-я директива засекречена. Как оказалось, именно она не давала права Робокопу действовать против главы корпорации Джонса, но он кричит, что Робокоп уволен, то есть Директива №4 автоматически отключается. Робокоп убивает Дика Джонса и уходит из отдела, к большому удовольствию компании OCP.

«Бегущий по лезвию» (Blade Runner) — художественный фильм, снятый английским режиссером Ридли Скоттом в 1981 году по мотивам научно-фантастического романа Филипа Дика «Мечтают ли андроиды об электроовцах?» (1968).

Главный герой фильма — детектив спецотдела полиции Лос-Анджелеса Рик Декард (Харрисон Форд) — разыскивает и уничтожает сбежавших репликантов (созданных для выполнения тяжелых работ человекоподобных биороботов).

Основным мотивом фильма является вопрос этики «Человек или репликант?». Этим вопросом задается Декард, разыскивая репликантов, а затем тестируя Рейчел, которая не подозревает о том, кто она. Этот вопрос он начинает задавать и себе.

Интересно, что фильм существует в семи версиях, из которых базовыми считаются две — оригинальная версия с хэппи-эндом 1982 года, провалившаяся в прокате, и так называемая режиссерская версия с открытым финалом 1992 года, которая, по версии британской газеты The Guardian, была признана лучшим научно-фантастическим фильмом в истории.

Кстати, в 2017 году вышло продолжение в виде фильма «Бегущий по лезвию 2049» (Blade Runner 2049). Это англо-американский фантастический фильм канадского режиссера Дени Вильнёва. Действие фильма происходит в футуристическом Лос-Анджелесе в 2049 году, через 30 лет после событий фильма «Бегущий по лезвию», где рядом с обычными людьми сосуществуют искусственные создания — репликанты.

Главный герой, полицейский-репликант Кей (Райан Гослинг), задача которого выслеживать и уничтожать нелегально вернувшихся на Землю репликантов, случайно вскрывает тайну, способную нарушить существующий порядок, и вынужден разыскивать Рика Декарда (Харрисон Форд), героя первого фильма. Кей выясняет, что доктор Ана Стеллин (Карла Юри), разработчица искусственных воспоминаний для андроидов корпорации Уоллеса, является дочерью Рика Декарда и Рейчел (главной героини первого фильма). Кей привозит Декарда в офис к Ане Стеллин, а сам предположительно умирает от тяжелых ранений, нанесенных ему особым репликантом Лав (Сильвия Хукс), которого послал глава корпорации Ниандер Уоллес (Джаред Лето). Декард встречается лицом к лицу со своей дочерью.

Термина́тор» (The Terminator) — американский научно-фантастический фильм 1984 года режиссера Джеймса Кэмерона. В фильме поднимаются проблемы путешествий во времени, судьбы, поведения людей в экстремальных ситуациях, но в большей степени опасности искусственного интеллекта. Фильм открывается сценой мрачного будущего, где происходит война людей и машин. Затем действие переносится в настоящее (1984 год). В центре сюжета — противостояние между солдатом освободительной армии человечества и роботом-терминатором (Арнольд Шварценеггер), прибывшими в 1984 год из постапокалиптического 2029 года. Цель терминатора — убить Сару Коннор (Линда Хэмилтон), девушку, чей еще нерожденный сын в возможном будущем выиграет войну человечества с машинами. Влюбеённый в Сару солдат Кайл Риз (Майкл Бин) пытается помешать терминатору.

Кстати, сценарий «Терминатора» Кэмерон написал в 1982 году через год после того, как в Риме переболел лихорадкой и в бреду увидел преследовавшего девушку человека с красным глазом.

Примечательны слова Кайла, говорящего Саре Коннор о том, что технология создания роботов, подобных Терминатору, будет существовать через 40 лет. С учетом того, что действие происходит в 1984 году, Терминатор должен появиться сейчас, то есть в наступившем 2024-ом…

Как говорил один известный политик, «прогнозирование – дело трудное, особенно если речь идет о будущем». «Скайнет» пока не взбесился, но кто может предсказать, когда именно будет пройдена точка технологической сингулярности и что это принесет людям, а также когда появятся реальные Эш, Колл, Бишоп, Робокоп? Будут ли они приверженцами Законов Айзека Азимова? Американский изобретатель и футуролог Рэймонд Курцвейл предсказывает наступление технологической сингулярности в 2045 году.

Не все прогнозы носят радужный характер. В частности, по словам английского физика-теоретика, космолога и астрофизика Стивена Хокинга, «Успех в создании ИИ станет самым большим событием в истории человечества. К сожалению, он может оказаться и последним, если мы не научимся избегать рисков».

Как считает Илон Маск, в 2040-х годах на Земле может появиться 1 млрд роботов-гуманоидов при условии, что основы цивилизации будут стабильными. То есть долго ждать не придется… Это как минимум означает, что уже сейчас надо всерьез задуматься об этических нормах взаимодействия человека и робота во всех аспектах, не говоря уже о правовых вопросах. Как говорит футурист, технофилософ и один из ведущих мировых экспертов в области новых технологий Грей Скотт, «Реальный вопрос в том, когда мы разработаем билль о правах искусственного интеллекта? В чем это будет заключаться? И кто это будет решать?». Так или иначе, только будущее покажет, как будут развиваться антропоморфные роботы, каков будет их интеллект и когда мир приблизится к созданию сильного ИИ.

Уверен, что мы еще увидим немало интересных научно-фантастических фильмов на эту тему. Мы же со своей стороны сделаем все возможное для размещения в журнале наиболее интересных материалов по развитию антропоморфных роботов. Будьте с нами.

I`LL BE BACK!

#социокультурный аспект #прогнозы #андроидные

29.02.2024

• 
• 

Прокудин Михаил Леонидович, Заместитель Главного редактора

Фото: Midjourney; из личного архива автора

Мы рекомендуем:

Киберпанк 1940-х: как роботы участвовали во Второй мировой войне

#военные #наземные беспилотники #БПЛА #водные и подводные

Вместо сердца и чувств — алгоритмы и код. Как роботы покоряют театр

#социокультурный аспект #искусственный интеллект

Известные музыканты потребовали остановить наступление ИИ на творчество человека

#социокультурный аспект #искусственный интеллект

Автоконкурент, или Как промышленные роботы изменят человеческое общество

#социокультурный аспект

Универсальный BCI, или Как соединить любой мозг с компьютером

#медицинские #искусственный интеллект

Вместо сердца и чувств — алгоритмы и код. Как роботы покоряют театр

#социокультурный аспект #искусственный интеллект

Известные музыканты потребовали остановить наступление ИИ на творчество человека

#социокультурный аспект #искусственный интеллект