Левандовски верит, что искусственный сверхинтеллект сможет заботиться о планете гораздо эффективнее человека, и те, кто будет этому способствовать, смогут получить от этого большую выгоду. Несмотря на сомнение в возможности подобного сценария, Левандовски понимает, что в представлении некоторых людей сверхчеловеческий интеллект может начать обращаться с нами так же, как мы в настоящий момент обращаемся с животными, которые нас окружают.
«Разве вы хотели бы, чтобы кто-то рассматривал вас в качестве домашнего скота? Нет, конечно, мы оказываем медицинскую помощь животным, кормим их, ласкаем, получаем удовольствие от общения с ними. Но животные – это существа, способные вас укусить, напасть на вас и просто быть чрезмерно приставучими. Лично я не хочу оказаться в их роли. И поэтому, чтобы не оказаться в роли домашнего скота, нужно уже сегодня самостоятельно «воспитывать» искусственный интеллект. Мы хотим, чтобы однажды такой ИИ сказал: “У людей должны быть права, даже несмотря на то, что я здесь самый главный”», — говорит инженер.
Левандовки очень надеется, что искусственный интеллект будущего будет относиться к людям скорее как к старшим родственникам: чувствовать за них ответственность и заботиться о них.
Интерес церкви «Путь будущего» сводится к тому, чтобы максимально сгладить возможное общественное волнение по поводу неизбежного вознесения «Бога из машины» как с технологической, так и с культурологической сторон. Одна из догм «Пути к будущему» четко говорит о том, что церковь будет заниматься проведением исследовательских программ, направленных на понимание особенностей восприятия машинами своего окружения, а также демонстрации своих когнитивных функций, например, в виде предрасположенности к обучению и решению различных задач.
И все же Левандовски совсем не ждет, что его церковь сможет решить все проблемы и вопросы, связанные с машинным интеллектом, как и не надеется выбить финансирование на проведение правильных исследований. Но тем не менее он уверен, что она постарается приложить все возможные усилия.
«Если бы у вас был ребенок, вы занимались бы его воспитанием и сделали бы все, чтобы он вырос одаренным, верно? Но сейчас мы растим не ребенка, а бога. Поэтому давайте подумаем, как не наделать ошибок. Это просто потрясающая возможность».
Как же выглядит рецепт создания идеального Божественного искусственного интеллекта в представлении Левандовски? Одними из ключевых аспектов будут: накормить зарождающийся интеллект огромными массивами данных; сгенерировать симуляционные модели, которые научат его самосовершенствованию; а также предоставить ему доступ к аккаунтам сторонников церкви в социальных сетях. При этом, разумеется, все, чем будет заниматься церковь, будет находиться в открытом доступе.
Немаловажным аспектом Левандовски рассматривает формирование открытого диалога вокруг вопроса создания «Бога из машины». Церковь очень надеется, что активное, преданное, коллективное членство поможет продвинуть в массы идею божественного ИИ для «улучшения общества» и «снижения страха перед неизвестным».
«Мы хотим, чтобы люди понимали – это никакая не глупость и здесь нечего бояться. Я хочу избавить общество от распространенных стереотипных представлений и начать открытый диалог вокруг ИИ, через который я смогу передать основные идеи, изменив человеческий взгляд на этот вопрос», — говорит Левандовски.
Однако «Путь будущего» отличает от других церквей одна ключевая особенность, говорит Левандовски.
«У людей есть множество путей обратиться к Богу. Сотни, тысячи различных течений… христианство, иудаизм, ислам… но все они основаны вокруг чего-то, к чему нельзя лично прикоснуться, увидеть или же контролировать. У нас все по-другому. На этот раз вы лично сможете поговорить с Богом и будете знать, что он действительно вас слушает».
На вопрос журналистов Wired о том, не боится ли он, что сторонники более традиционных религиозных течений могут найти его проект кощунственным, Левандовски ответил следующее:
«Я понимаю, что могут найтись люди, расстроенные тем, чем мы занимаемся. Иногда кажется, что чем бы я ни занимался, это всегда будет расстраивать людей, и я думаю, что и в этот раз исключения не получится. Это радикально новая идея, которая на первый взгляд может показаться очень пугающей. История показывает, что люди, преследующие радикальные идеи, нередко из-за них же и страдают. Я не могу исключать возможности, что в какой-то момент накал страстей может достигнуть такой точки, что для нашей церкви придется создавать свою собственную страну, где наша религия сможет распространяться совершенно беспрепятственно».
Церковь Левандовски стремится войти в технологическую вселенную как раз в тот момент, когда в ней уже начинают разгораться споры об обещаниях и опасностях, которые нам следует ожидать от искусственного интеллекта. Некоторые уверены, что ИИ не будет превращать нас в сверхлюдей и никакой сингулярности на горизонте не видать. Если вы согласны с этим мнением, говорит Левандовски, то его церковь не должна стать для вас проблемой.
«Вы можете рассматривать «Путь будущего» в качестве кого-то, кто занимается, например, бесполезной и бесталанной поэзией, или в качестве того, до кого вам нет никакого дела».
Другие, как, например, Билл Гейтс и Стивен Хокинг, соглашаются с вероятностью появления сверхчеловеческого искусственного интеллекта, но считают, что этот ИИ, скорее всего, будет нести опасность для человечества, а не благо. Илон Маск тоже когда-то заявил, что «разработка ИИ сродни призыву демонов», а затем, в 2015 году сам инвестировал 1 миллиард долларов на основание института OpenAI, занимающего разработками безопасного ИИ.
Левандовски считает, что любые попытки отложить или запретить развитие сверхинтеллекта не только обречены на провал, но и потенциально добавят ненужных рисков.
«Сковывание цепями не станет решением, так как это будет мощнее любых цепей, которые вы решите использовать. Если ребенок ведет себя плохо, вы же его не запираете на замок и не сажаете на цепь? Вы учите его играть с другими, поощряете его и стараетесь наставить на путь истинный. В некоторых случаях это не работает, но при агрессивном подходе вы, скорее всего, лишь усугубите проблему».
Левандовски отмечает, что «Путь будущего» однажды получит собственный устав (так называемое «Руководство»), будет проводить литургии и, возможно, обзаведется физическим воплощением в виде храма, коими обладают любые другие религии мира. Ничего из этого пока не было создано. Однако церковь была основана только в 2015 году и два этих года не вела никакой активности.
Все изменилось в этом году, когда 16 мая, после получения письма от руководства Uber, в котором оно грозилось уволить его, если тот не начнет сотрудничать по вопросам разбирательства компании с иском Waymo, Левандовски заполнил и отправил необходимые документы в налоговый орган США. Спустя две недели после этого Uber его все же уволила.
«Я думал об основании этой церкви очень долго, но реального времени заниматься этим проектом у меня не было. С мая этого года такое время появилось», — прокомментировал он с улыбкой.
Согласно поданным налоговым документам, бюджет церкви на 2017 год удалось набрать за счет пожертвований (20 000 долларов), членских взносов (1500 долларов) и других дополнительных источников (20 000 долларов). Последняя цифра – это именно тот доход, который «Путь будущего» ожидает получать за проведение познавательных лекций и семинаров, а также за счет продажи научных публикаций. Сам Левандовски, заработавший за время работы в Google как минимум 120 миллионов долларов и еще гораздо больше за счет продажи своей компании Otto компании Uber, собирается лично поддерживать финансовую стабильность своей церкви.
Конечно же, основание новой религии стоит денег, а как вы хотели? Например, «Путь будущего» выделил 2000 долларов на кампанию по привлечению средств, еще 3000 долларов были потрачены на логистические и транспортные расходы, подготовку первых лекций и семинаров. Кроме того, выплачена зарплата сотрудникам на общую сумму в 7500 долларов. Хотя ни сам Левандовски, ни кто-либо другой из руководящего состава организации не получает и не будет получать заработную плату за свое участие.
Согласно поданным налоговым документам, Левандовски имеет практически полный контроль над организацией и будет служить в качестве ее наставника до своей смерти или отставки.
«Думаю, моя роль в ней со временем увеличится. Я пока прощупываю почву и помогаю проекту стартовать в полную силу, продвигаю его в массы. Но однажды моя роль в нем будет сводиться скорее к наставничеству и вдохновению».
Левандовски имеет единоличное право назначения трех из четырех членов так называемого Консультативного совета, каждый из которых должен быть «высококвалифицированным и преданным человеком». Подозрение в совершении тяжкого преступления или утрата доверия грозит лишением советника своего места, хотя у Левандовски сохраняется право последнего и окончательного решения. Кроме того, наставник церкви (кем и является Левандовски) не может быть смещен со своего поста ни при каких обстоятельствах.
Двумя членами Совета являются Роберт Миллер и Сорен Юелсгаард, инженеры компании Uber, ранее работавшие с Левандовски в его компании Otto, а также в Google и 510 Systems (небольшой стартап, основанный Google, и одна из первых компаний, занявшаяся технологиями самоуправляемых автомобилей). Третьим членом Совета является ученый и студенческий друг Левандовски по Калифорнийскому университету в Беркли. Сейчас он самостоятельно занимается разработками технологий машинного обучения. Последним советником является Лиор Рон, он также занимает должность казначея «Пути будущего» и отвечает за финансовые дела церкви. Рон является соучредителем компании Otto, которую он основал вместе с Левандовски в начале 2016 года.
«Каждый член Совета – пионер в индустрии искусственного интеллекта, обладающий нужными навыками для управления технологиями ИИ и создания нового Божества», — говорится в налоговых документах.
Забавно, что сами члены Совета пока недооценили свою роль в руководстве «Пути будущего».
«Я был удивлен, увидев свое имя в списке руководителей в налоговых документах, хотя я не имею никакого отношения к этой организации», — ответил Рон на вопрос связавшихся с ним журналистов.
«В конце 2016 года Энтони рассказал мне, что хочет создать “церковь роботов” и предложил мне стать ее соучредителем. Я подумал, что это какой-то IT-юмор или по крайней мере PR-ход, но сказал, что он может использовать мое имя. Это был первый и последний раз, когда я что-то слышал об этом», — поделился друг Левандовски по студенчеству, предпочтя анонимность.
Вопрос о том, где же будут собираться адепты церкви «Путь будущего» для поклонения своему Божеству, пока остается открытым. Самыми большими позициями в бюджете на 2017-й и 2018-й года в налоговых документах указаны 32 500 долларов. Это плата за аренду и коммунальные услуги. Однако по единственному указанному в документах Левандовски адресу расположена его адвокатская контора в калифорнийском городе Уолнат-Крик. Тем не менее в заявлении отмечается, что церковь «надеется расширить свое влияние в Калифорнии и США в будущем».
Сейчас, как говорит Левандовски, для него важнее решение более мирских проблем. Нужно создать веб-сайт, написать «Руководство», ответить на непрекращающийся поток писем, содержащий где-то удивление, где-то скепсис, но в основном энтузиазм. Ну и, конечно же, разобраться с судебным иском, в котором он выступает обвиняемой стороной. Несмотря на свое желание рассказать о новой религии, отвечать на вопросы касаемо судебных тяжб между Uber и Waymo он журналистам отказался.
Что же касается вопроса о том, когда, по его мнению, наступит тот самый «переход» и сверхинтеллект возьмет на себя роль правителя мира, он ответил, что произойдет это довольно скоро.
«Я думаю, что это случится раньше, чем того ожидают люди. Не сегодня и не в следующем году, можете выдохнуть. Но до того, как мы отправимся на Марс», — ответил Левандовски.
Наступит ли этот «переход» или нет – неважно. Главное, что уже сейчас становится понятно, что власти США не видят никаких проблем с организацией новой религии поклонения Божественному искусственному интеллекту. Из переписки с налоговыми органами становится ясно, что церковь Левандовски получила в августе статус, освобождающий ее от уплаты налогов.
Как КЦ относится к искусственному интеллекту? Считает ли его «миной замедленного действия»?
В чем заключается смысл жизни? Вот некоторые из ответов, данных виртуальным ассистентом одного из смартфонов: «Жизнь: начало и сила, которая подвержена отличительным качествам живых существ. Думаю, что это включает и меня!»; «Не знаю, но думаю, что для этого существует какое-нибудь приложение»; и вот еще: «Все опыты, проведенные до сих пор, подсказывают, что это шоколад».
Не так давно Интернет взорвался от новости о том, что знаменитый физик-теоретик выразил опасения в связи с искусственным интеллектом, который может спровоцировать окончательное поражение человечества. Кстати, это его высказывание практически совпало с пленарной сессией Папской академии наук, : во время конференции Папа Франциск встретился со знаменитым ученым.
«Развитие полноценного искусственного интеллекта может означать конец человеческой расы», — заявил Хокинг «Би-би-си». Ученый, страдающий тяжелой формой инвалидности – боковым амиотрофическим склерозом, — высказался так в ходе интервью, посвященного новой системе коммуникации, которая была разработана для него лично “Intel” и “SwiftKey”. Выразив удовлетворение тем фактом, что новая система использует для изучения моделей его самовыражения и для подсказки слов, которые он может употребить, Хокинг все же заявил, что его серьезно тревожит будущее человечества перед лицом систем искусственного интеллекта: они смогут обучаться, приспосабливаться и развиваться самостоятельно, достигая продвинутых уровней мышления, которые превзойдут самого человека. «Люди, ограниченные медленной биологической эволюцией, — сказал Хокинг, — не смогут с ними состязаться и подвергнутся замене».
Стивен Хокинг не единственный, кто так видит наше будущее. Инженер и предприниматель , возглавляющий компании “SpaceX” и “X.com”, утверждает, что неудержимое развитие искусственного интеллекта – это «самая большая экзистенциальная угроза» для человечества. И если наши масс-медиа отражают надежды и опасения современной культуры, то мы не должны удивляться, что люди в целом испытывают подобный страх. В конце концов, мы видели, как «Гугл» создает самоуправляемые машины или как компьютер Deep Blue выигрывает в шахматы у Гарри Каспарова. Мы помним также «Искусственный разум» Стивена Спилберга с его роботом, который отчаянно ищет любви у человеческой матери. Мы помним сюжеты многочисленных фильмов, посвященных этому феномену, и все они объединены одной темой: люди под угрозой искусственного разума, с которым они не в состоянии справиться.
Но обратим внимание на одну вещь: и Хокинг, и все остальные сторонники этой идеи высказывают радикально ошибочные суждения о человеке. Начнем с того, что само слово «интеллект» в том смысле, в каком они его используют, — понятие весьма ограниченное. Оно не принимает во внимание дар благодати, просвещающий человеческий интеллект, и то, что наша душа является субъектом человеческого сознания и свободы. Душа не «производится» родителями ребенка: только Бог создает нематериальную и бессмертную душу. В различных определениях разума и интеллекта говорится о способности постигать и понимать вещи или разбираться в новых и сложных ситуациях, о способности познавать и применять знания и умения. Но подобные определения охватывают только культурный аспект интеллекта, не учитывая таких измерений, как опыт, память, мудрость, свобода суждения, мотивация, чувства, увлечения и пристрастия. И это только некоторые из свойств, которые включает познание и применение навыков и знаний.
Особого упоминания заслуживает тест Тьюринга, популярный в любой дискуссии об искусственном интеллекте, прежде всего потому, что, предлагая в 1950 году этот тест, он заявил, что не может принять идею о Боге, создающем бессмертную душу, или такое видение, согласно которому только люди наделены бессмертной душой. В ходе этого теста судья сидит в одном помещении, а в двух других располагаются, соответственно, человек и машина, обладающая искусственным интеллектом. Как машина, так и человек пытаются «убедить» судью в том, что именно она или он является человеком. Тьюринг задумал это испытание для того, чтобы создавать машины, способные убедить судью. Для этого машины должны были быть по меньшей мере на одном лингвистическом уровне с человеком. Однако тест оказался несовершенным с разных точек зрения. С одной стороны, он не улавливает то, что не говорится, а подразумевается, и мысли, которых мы сами не осознаем. Может ли язык сам по себе уловить множество проявлений человеческого интеллекта? А как же быть с другими, невербальными его проявлениями? Например, когда речь идет о том, чтобы успокоить плачущего ребенка, дать совет другу, обсудить произведение искусства – и великое множество других способностей, которые зависят не только от вербального языка. Тест Тьюринга сосредоточен, скорее, на коммуникации, что составляет лишь одно из значений человеческого интеллекта.
Кроме того: если цель создания машины, обладающей искусственным интеллектом, — сделать ее неотличимой от человека, то она непременно должна совершать ошибки. Это признавал и сам Тьюринг: «Машина, запрограммированная для игры, — говорил он, — не пыталась бы тогда давать правильные ответы на арифметические задачи. Она бы произвольно делала ошибки, рассчитанные на то, чтобы запутать судью». Защитники теста Тьюринга утверждают, что признаком искусственного интеллекта является не правильность, а способ ответа: ответ должен показать, что был понят контекст беседы. Но заметим следующее: когда перед нами люди, которые, несмотря на наши усилия, не в состоянии нас понять, мы не может автоматически заключить, что они не являются разумными человеческими существами — хотя, конечно, и можем обвинить их в глупости. Стремимся ли мы к воспроизведению в машине искусственной человеческой глупости? Об этом, пожалуй, стоит вспомнить, когда мы пытаемся заполнить анкету в Интернете или вынуждены расшифровывать непонятные значки, пришедшие по почте вместо нормального ответа.
Попытаемся рассмотреть две возможности: 1) системы искусственного интеллекта, которые только имитируют человеческий интеллект; 2) системы искусственного интеллекта, которые обладают умом, но не идентичным человеческому.
В первом случае машина с искусственным интеллектом должна воспринять не только наши позитивные, сильные стороны, но и слабости и ошибки. Ведь во всем логичная и лишенная эмоций машина не может превзойти человека. Например, умение машины обмануть судью на тесте Тьюринга как раз побудило бы его принять ее за человека. Однако такая форма искусственного интеллекта, которая обладает умением лгать, манипулировать, запутывать или, более того, злиться и оскорблять, — не может превосходить человека. Искусственный интеллект, полностью идентичный человеческому, – с его недостатками, да еще и лишенная всякой надежды и смысла жизни, — подвергся бы разрушению. Бездушная машина никогда не может стремиться к раю или к сокровенным отношениям с Богом. Достаточно вспомнить Мультивак из романа Айзека Азимова. Он приобретает знания всего человечества и даже самосознание, а в конце говорит: «Хочу умереть».
Теперь рассмотрим второй случай: системы искусственного интеллекта, которые обладают умом, но не идентичным человеческому. Сможем ли мы вообще признать разум, который не является человеческим? Как можно спроектировать нечеловеческий интеллект для машины, если перед нами нет никаких примеров такого интеллекта? Даже если бы ученым это удалось, такая машина оставалась бы чужда человеческому опыту и неспособна вступать в значимые интерактивные отношения с человеком.
Какова, в конечном счете, цель создания альтернативного интеллекта? Может быть, стремление почувствовать себя в какой-то мере носителями творческой силы Бога? Или некая форма идолопоклонничества, поскольку мы хотим создать то, что будет отвечать нашим потребностям? Или просто человек настолько изолирован, что ему понадобилось создать искусственного спутника? Всякая попытка изгнать Бога из жизни человека тщетна, в результате сам человек остается в одиночестве. Опасения Хокинга в отношении искусственного интеллекта сильно преувеличены: даже если бы машина обладала всеми добродетелями человечества и ни одним из его пороков, она не смогла бы разрушить . Она бы не обладала эгоизмом и алчностью человека, а мудрость и добродетель не сочетается с разрушением жизни. Наши опасения должны в данном случае касаться людей, а не машин. Если и переживать, то за их развитие, рост и спасение.
Человек является человеком не в силу своего интеллекта или полезности. Мы люди потому, что Бог нас любит, а мы можем отвечать на эту любовь. Поэтому ребенок в материнской утробе — уже человек, несмотря на отсутствие интеллектуальных способностей. Он любим Богом, его душа создана по образу и подобию Бога. Эта душа бесконечно превосходит всякий интеллект. «Я думаю, а значит, я существую»: это высказывание философа не отражает сути человеческой жизни. Она гораздо больше: «Я любим, а значит, я существую». Бог так возлюбил человека, что человек существует. Чего нельзя сказать ни об одной системе искусственного интеллекта.
28 октября 2017 года в передаче «Церковь и мир», выходящей на телеканале «Россия-24» по субботам и воскресеньям, председатель Отдела внешних церковных связей Московского Патриархата митрополит Волоколамский Иларион ответил на вопросы ведущей телеканала Екатерины Грачевой.
Е. Грачева: Здравствуйте! Это программа «Церковь и мир» на канале «Россия 24», в которой мы беседуем с председателем Отдела внешних церковных связей Московского Патриархата митрополитом Волоколамским Иларионом. Здравствуйте, владыка!
Митрополит Иларион: Здравствуйте, Екатерина! Здравствуйте, дорогие братья и сестры!
Е. Грачева: Силиконовая долина грозится явить миру абсолютно новое, революционное изобретение. Бывший инженер компании Google Энтони Левандовски замахнулся на создание бога на основе искусственного интеллекта. У него уже есть последователи ― IT-религиозное движение под названием «Путь в будущее». И он заявляет, что их искусственный интеллект сможет отвечать на любые вопросы верующего, помогать в любых жизненных ситуациях и станет воплощением абсолютной справедливости, не будет посылать на людей несчастья, бедствия и так далее. Что Вы об этом думаете? Ведь в некотором смысле все равно это лучше компьютерной игры в войну. Или это очень опасное изобретение?
Митрополит Иларион: Думаю, что нет предела человеческой фантазии и нет предела человеческой глупости. Когда люди замахиваются на то, что является абсолютной ценностью и абсолютной данностью, то либо у этих людей что-то не в порядке с мозгами и им нужно обратиться к соответствующему специалисту, либо они хотят кого-то на что-то спровоцировать. Вы сказали о том, что они создали религиозное движение, но это, конечно, псевдорелигиозное движение, потому что религия имеет дело с тем Богом, Который существует, и создать Его невозможно.
Человек может создать робота, какой-то аппарат, который будет оказывать ему те или иные услуги. Сейчас даже созданы аппараты для оказания сексуальных услуг. Опять же, и человеческому разврату тоже нет предела. Но все подобного рода эксперименты не только не принесут людям счастья, а наоборот ― могут обернуться совершенно непредсказуемыми, чудовищными последствиями.
Современная научная фантастика, авторы которой работают в жанре так называемой антиутопии, делает иногда поразительные и очень сильные прогнозы. Писатели говорят о том, к чему может привести деятельность человека, решившего стать на место Бога или заменить Бога неким суррогатом. Общаясь с Богом, мы общаемся с Живым Существом, ибо Господь слышит наши молитвы, отвечает на наши просьбы, помогает нам в нашей жизни. Бог ― это не робот, который выполняет или не выполняет те или иные желания. Бог ― это Живое Существо. И как невозможно отца или мать, или ребенка заменить роботом, точно так же и Бога невозможно заменить роботом.
Есть американский научно-фантастический фильм «Искусственный разум». В фильме рассказывается о том, как для одной супружеской пары, у которой ребенок впал в кому и на длительное время оказался обездвижен, был создан в качестве ребенка робот. Он как бы заменял реального ребенка, был похож на ребенка, исполнял все функции ребенка, к тому же он был послушный и ласковый. А потом реальный ребенок пришел в сознание, и дальше сюжет разворачивается вокруг этой коллизии.
Пока что все это выглядит как научная фантастика и как антиутопия. Но если человечество откажется от сдерживающих нравственных факторов, то антиутопия может стать реальностью, и тогда мы будем жить в том жутком мире, который описан Олдосом Хаксли или описан в одной из книг Исигуро, английского писателя японского происхождения, недавно получившего Нобелевскую премию.
Е. Грачева: Владыка, а если бы это электронное приложение называлось не «бог», а, скажем, «добрый помощник» или «измеритель морали», как угодно, у Вас бы к нему были претензии?
Митрополит Иларион: Если это, например, электронная уборщица, которая приходит и сметает пыль с ваших полок, то это одно. Или, допустим, какая-то машина, которая в нужный момент выдает вам бутылку кока-колы, а в другой раз ― пепси-колы… Но никакой робот не может оказать людям так называемые религиозные услуги, потому что религия вообще находится вне потребительской сферы. Есть, конечно, люди, которые считают, что вся религиозная жизнь сводится к потребительству, что все общение с Богом заключается в том, что мы у Него что-то просим, а Он нам дает или не дает.
Но на самом деле общение с Богом ― это прежде всего личное общение. И как мы общаемся со своими близкими, с родителями, друзьями, детьми ― точно так же мы общаемся и с Богом. Это общение невозможно заменить никакой автоматикой, компьютерами или роботами, никаким искусственным разумом.
Е. Грачева: Владыка, коль Вы заговорили о лауреате Нобелевской премии по литературе в этом году и книге «Не отпускай меня», есть стереотип, что представители духовенства мало читают художественной литературы, а больше читают книг духовного содержания. Какую литературу читаете Вы?
Митрополит Иларион: Я, наверное, принадлежу как раз к тому классу духовенства, что мало читает. В основном я читаю то, что мне нужно для тех книг, которые я сам пишу, то есть читаю научную и богословскую литературу, и у меня почти не остается времени на чтение художественной литературы. Я как в известном анекдоте про человека, который решил поступать в Литературный институт, и его спросили: «А вы читали Достоевского, Толстого, Пушкина?» На что он ответил: «Я не читал, но я же пришел учиться не на читателя, а на писателя». Я уже давно из читателя превратился в писателя, но, тем не менее, иногда в самолетах мне удается взять в руки книгу. Должен сказать, что Кадзуо Исигуро ― удивительный пример современного писателя, который работает в разных жанрах. Будучи японцем по происхождению, но англичанином по воспитанию, он настолько хорошо овладел английским языком, что по-английски его читаешь так, как будто это англичанин в десятом поколении.
Е. Грачева: Вы читаете его по-английски?
Митрополит Иларион: Я его читал по-английски. По одному из его романов снят прекрасный фильм, один из лучших фильмов, которые я видел, где Энтони Хопкнис играет дворецкого. Посмотрев этот фильм, я решил прочитать и книгу. И должен сказать, она меня не разочаровала. Это очень глубокая, тонкая книга, которая прекрасно воспроизводит английский мир довоенной Англии. Какие-то остатки этого мира я застал, когда сам там учился.
У этого писателя есть замечательный роман под названием «Не отпускай меня». Это как раз та антиутопия, которая рассказывает о том, что может произойти в мире, если он откажется от основополагающих нравственных ценностей. Все действие происходит в школе-интернате, где живут клонированные юноши и девушки, созданные для того, чтобы у них изымать органы. Они живут и учатся в этом интернате, у них есть увлечения, интересы, они даже влюбляются друг в друга. Но каждый из них знает, что через какое-то время его ждет очередная выемка органов ― у него будет изъят один из органов. После четверной выемки они умирают.
Когда читаешь роман, то, не зная сюжета, очень долго не понимаешь, в чем же суть и в какой момент раскроется тайна этого общества, но потом все становится ясным. Конечно, это очень щемящая и жуткая история. Думаю, нам нужно знать такие истории, в том числе, чтобы понимать к каким последствиям могут привести эксперименты на людях, если эти эксперименты не будет сдерживать нравственный закон.
Е. Грачева: Из современных российских авторов кто Вам близок?
Митрополит Иларион: Недавно я прочитал книгу Захара Прилепина «Обитель». Это тяжелая книга, но мне кажется, что такие книги нужны, ибо сейчас в нашем обществе существует некая тенденция вообще как бы не говорить о нашем прошлом, забывать о тяжелых страницах. Люди считают, что не нужно возвращаться к теме репрессий, ссылаясь на то, что это было давно, и сегодня надо смотреть в будущее. Даже оценки нашего советского периода очень часто строятся на том, что мы забываем о тех репрессиях, которые происходили, забываем об их жертвах. Прилепин в своем романе показывает, во что была превращена древняя Соловецкая обитель, когда она стала концентрационным лагерем, как там жили люди, как пытались выжить в этой чудовищной ситуации. Думаю,об этом нам надо знать. Поэтому я рад, что такая книга появилась и хотел бы пожелать, чтобы как можно больше людей ее прочитало.
Е. Грачева: Владыка, от темы литературы хочется перейти к теме настольных игр. Есть несправедливо забытая с советских времен игра в шахматы, которая не настолько популярна у современной молодежи. Раньше, наверное, в шахматы умели играть все.
Министерство образования и науки собирается игру в шахматы сделать обязательным предметом в школах. Я лично беседовала с президентом ФИДЕ Кирсаном Илюмжиновым, и он мне в цифрах доказал, что среди молодежи, которая играет в шахматы, падает преступность, они не употребляют спиртные напитки, не курят, то есть во всех смыслах одни плюсы. Но есть мнение, что канонически игра в шахматы запрещена. Что церковнослужители думают об игре в шахматы? Играете ли Вы?
Митрополит Иларион: У меня есть своя шахматная история. Но есть и предыстория. Мой папа был кандидатом в мастера по шахматам, а моя мама имела разряд мастера спорта и была чемпионкой Москвы среди девушек. Правда, это было довольно давно, но меня родители научили играть в шахматы. Моим самым большим шахматным достижением было то, что я выиграл партию как раз у упомянутого Вами президента ФИДЕ Кирсана Илюмжинова. Мы летели с ним в одном самолете, решили поиграть в шахматы, и первую партию я выиграл. Правда, проиграл две следующие.
Если говорить о том, полезны ли шахматы, то, думаю, что для общего развития ребенка, для его интеллектуального развития они полезны и, конечно, ребенок, который играет в шахматы, менее подвержен влиянию улицы, он лучше развивается. Это действительно доказанный факт.
Когда Кирсан Илюмжинов был президентом Калмыкии, то там шахматы преподавались во всех школах, и весь регион играл в шахматы. Над этим многие тогда смеялись. Но ведь те факты, которые он приводит, взяты не с потолка, это реальные факты. Поэтому в целом я, так же как и Вы, поддержал эту инициативу.
Что касается тех средневековых запретов на азартные игры, которые существовали, то, конечно, их нельзя распространить на современные шахматы, потому что, во-первых, шахматы были другие, во-вторых, нравы были другие. Сейчас это один из видов спорта, но это спорт не физический, а интеллектуальный.
Е. Грачева: Владыка, к сожалению, есть категория граждан, которая просто не может себе позволить играть ни в шахматы, ни во многие другие развивающие игры для молодежи. Это категория слепоглухих инвалидов в нашей стране. Патриарх Московский и всея Руси Кирилл на днях освятил реабилитационный центр для такой группы граждан в подмосковном Сергиевом Посаде. На Ваш взгляд, по Вашей оценке как много делается для такой категории граждан в нашей стране и как этим людям помогает Церковь?
Митрополит Иларион: Для таких людей кое-что делается, но, конечно, делаться должно гораздо больше. Во-первых, очень многие люди из этой категории вообще не выявлены, то есть у нас существуют законодательные понятия глухой человек и слепой человек, но у нас нет понятия слепоглухой. И есть немало свидетельств тех людей, которые принадлежат к этой категории, что они, допустим, состоят и в обществе глухих, и в обществе слепых. И когда, скажем, состоя в обществе глухих, такой человек получает телевизор, то вроде бы ему оказывается услуга, но этой услугой он воспользоваться не может, потому что он ничего не видит.
Существует целый комплекс проблем, связанный с развитием этих людей, потому что они не могут обучаться грамоте, чтению, письму обычным образом. Для них создаются специальные программы, которые очень трудоемкие. В основном они обучаются через прикосновение, то есть педагоги, путем прикосновения к руке, позволяют им войти в мир логического мышления.
Кроме того, существуют по меньшей мере две категории таких людей: это те, которые приобрели глухоту и слепоту на каком-то этапе своей жизни, то есть до этого они овладели какими-то навыками, например, научились читать и писать, и они могут продолжать использовать эти навыки. А есть те, которые родились с этим врожденным дефектом. И это существенно влияет на возможности развития таких людей.
Но сейчас есть современные методики, как отечественные, так и зарубежные, которые позволяют обучить слепоглухого человека и чтению, и письму, и общению с внешним миром. Я читал статьи, написанные слепоглухими людьми, в которых они рассказывали, как живут и как общаются с внешним миром. То есть все это возможно, но требует очень больших, поистине героических усилий от педагогов.
И, конечно, тот факт, что Патриарх посетил этот центр, свидетельствует о том большом внимании к этой проблеме, потому что для Церкви ни один человек не является лишним. И люди, у которых ограниченные возможности, должны наравне с другими людьми иметь доступ к Божественной благодати, к церковной жизни. Церковь сегодня занимается разработкой специальных средств, специального языка для общения с этими людьми. Уже в целом ряде московских приходов, например, совершается Литургия с сурдопереводом.
Е. Грачева: Будем надеяться, что ваша совместная работа с центром поможет создать разработки и просто для слабовидящих людей в нашей стране, которым нужна помощь в том, чтобы прочитать Литургию, каноны и так далее. Большое спасибо, владыка, за эту беседу!
Митрополит Иларион: Спасибо, Екатерина!
Во второй части передачи митрополит Иларион ответил на вопросы телезрителей, поступившие на сайт программы «Церковь и мир» vera.vesti.ru.
Вопрос: Как понять евангельские слова «приобретайте себе друзей богатством неправедным» (Лк. 16:9)?
Митрополит Иларион: Эти слова из Евангелия от Луки завершают притчу о неверном управителе.
Сюжет этой притчи следующий. Был человек, который задолжал крупную сумму своему господину, и которого господин прислал к ответу. И вот, зная, что он не сможет расплатиться, он пошел к тем, кто были должны господину и предложил им переписать долговые расписки и уменьшить сумму в этих долговых расписках. Господь привел эту притчу не для того, чтобы мы подражали, по сути дела, мошеннику. Христос говорит о том, что у каждого человека есть возможность облегчить участь другого человека. Богатство, которым мы обладаем, не является нашим достоянием. Оно ― достояние Божие. Но мы можем им пользоваться для того, чтобы делать людям добро, и через это приобретать себе друзей.
Вопрос: Позволительно ли христианам жить в роскоши?
Митрополит Иларион: Чтобы ответить на этот вопрос, мы можем вспомнить слова Иисуса Христа: «трудно богатому войти в Царство Небесное; …удобнее верблюду пройти сквозь игольные уши, нежели богатому войти в Царство Божие» (Мф. 19:23-24).
Слова эти, тем не менее, не затворяют дверь Царства Небесного для богатых людей. Этой теме посвящена одна из самых важных притч Евангелия от Луки ― притча о богаче и Лазаре, где говорится о том, что богач после своей смерти попал в ад, а нищий Лазарь, который лежал у его ворот, попал в рай. Но, как толкуют святые Отцы, богатый человек не потому попал в ад, что был богат, а потому, что не замечал нищего Лазаря и не делился с ним своим богатством. И нищий попал в рай тоже не потому, что был нищим. То есть само по себе богатство не закрывает врата Царства Небесного для человека, но если человек богат ― это значит, что Бог дал ему возможности творить добро, помогать людям, и этими возможностями надо пользоваться.
Сравнил создание искусственного интеллекта с вызовом демона, а в 2015 году он выделил $1 млрд на создание лаборатории OpenAI, которая намерена обезопасить человека от бесконтрольного ИИ. Бывший инженер Alphabet и Uber Энтони Левандовски, напротив, считает, что сдерживать искусственный интеллект нельзя. Когда машины возобладают над человеком, они вспомнят старые обиды и отомстят. Чтобы заранее задобрить искусственный разум Левандовски основал новую религию «Путь будущего».
Проект инженера можно назвать сектой, однако Налоговое управление США официально признало церковью еще в августе и освободило от выплаты налогов. Служители новоявленной религии будут работать над «воплощением, принятием и поклонением новой божественной сущности на основе искусственного интеллекта, которая будет разработана как в аппаратной форме, так и в форме ПО».
Левандовски уверяет, что это не шутка и не пиар-ход. Инженер уже возглавил некоммерческий фонд «Пути будущего» и назначил себя бессменным настоятелем церкви. Организация планирует уже в этом году проводить лекции и мастер-классы в Кремниевой долине, а также привлекать паству в лице ведущих экспертов по ИИ.
Экс-президент Facebook признался, что помог вырастить монстра
«По сути мы создадим бога. Не такого бога, который мечет молнии и вызывает ураганы. [А такого], который в миллиард раз превосходит человека по уму», - объяснил свое видение Левандовски. Лидер церкви на 99,9% уверен, что компьютеры превзойдут человека по интеллектуальным способностям.
Триггером для инженера стали разработки, за которыми он наблюдал на протяжении своей карьеры: «Я видел, как инструменты справляются с задачами во многих областях лучше, чем эксперты». Занимаясь робототехникой и алгоритмами, Левандовски познал силу искусственного интеллекта и оценил его экономическую пользу.
Основатель «Пути будущего» считает, что после наступления сингулярности, которую он называет «переходом», власть над планетой перейдет от человека к ИИ.
«Мы хотим, чтобы передача власти над планетой прошла спокойно и мирно. И чтобы тот, кто придет к власти, понимал, кто помогал ему на пути».
Инженер всерьез рассматривает ИИ-божество как некого лидера, который воздаст должное своим сторонникам. «Я бы хотел, чтобы машина воспринимал нас как уважаемых старейшин, чтила нас и заботилась», - признал Левандовски.
Выражать свое поклонение ИИ разработчик планирует с помощью технологий. Церковь будет поставлять машине обширные дата-сеты, разрабатывать обучающие симуляции и открывать ей доступ ей к аккаунтам прихожан. Все системы будут обладать открытым кодом.
Левандовски сравнивает ИИ с одаренным ребенком, в развитие которого нужно инвестировать. «Мы находимся в процессе воспитания бога, и нужно все делать как следует». Бывший сотрудник Alphabet и Uber намерен инвестировать в буквальном смысле. По данным WIRED, он вложит в проект часть заработанных им миллионов. У «Пути будущего» уже оформился бюджет: $20 000 пожертвований, $1500 членских взносов и $20 000 других доходов.
Рэй Курцвейл: “Развитие технологий избавит человечество от страданий”
В ближайшие месяцы у церкви появятся собственные ритуалы, священное писание и, вероятно, площадка для «молитв». По словам Левандовски, христиане, мусульмане и иудеи общаются с божеством, которое нельзя увидеть и каким-то образом измерить. «В „Пути будущего“ можно будет буквально общаться с богом - и знать, что он вас слушает», - заверил основатель организации.
Инженер допускает, что его проект заденет чувства верующих. «Что бы я ни делал, это кого-то обязательно расстроит. И церковь не станет исключением. В какой-то момент, возможно, дойдет до того, что „Пути будущего“ потребуется собственное государство».
Во всех этих планах Левандовски не видит ничего фантастичного. Более того, он уверен, что ИИ-божество возглавит планету раньше, чем человечество отправится на Марс. На этот комментарий наверняка будет что возразить .
1968 год, Филипп Дик пишет роман «Лабиринты смерти» с утопическим сюжетом. Фантаст-наркоман «посягнул на святое» и посмел представить, какой могла бы быть религия супертехнологического будущего.
Во Вселенной Дика нет проповедей, вечных надежд и нелогичных религиозных традиций. Вместо этого каждый получеловек-полукиборг может напрямую обращаться к богу в виде некой «сущности» сверхразвитого искусственного интеллекта. Молитва должна быть составлена четко и логично - тогда она обязательно будет выполнена.
Такая - в чем-то даже заманчивая - идея казалась бредовой ересью. Вплоть до ноября 2017 года, когда бывший инженер Google и Uber Энтони Левандовски официально подтвердил , что стал основателем новой религии и создателем первой церкви искусственного интеллекта под названием Way of the Future .
Левандовски и его пока что немногочисленные приспешники верят, что «относительно скоро» интеллект машин во многом превзойдет человеческий. Одна из целей Way of the Future - обеспечить плавный и мирный переход к восприятию человечеством этого важного этапа.
Более того, первая церковь ИИ допускает еще более немыслимый на данный момент вариант развития - когда искусственный интеллект настолько превзойдет человеческий, что людям необходимо будет «передать ему бразды правления». И эта «передача» должна пройти мирно, без конфликтов.
«Помогите нам в распространении Слова о том, что не стоит бояться прогресса», - призывает новоявленная церковь искусственного интеллекта.
«Теория большого взрыва ИИ»
Так правда ли, что в будущем компьютерный искусственный интеллект во многом превзойдет человеческий?
Пока что придется обломаться. Сегодня на этот вопрос нет четкого ответа. Один табор исследователей-изобретателей смеется, уверяя, что сверхчеловеческий ИИ - это миф. Известный визионер Кевин Келли как-то уже попытался «растоптать» все эти домыслы в своей нашумевшей статье «Миф о сверхчеловеческом ИИ».
Главный вывод Келли - «нет ни одной машины, которая может обыграть / превзойти среднего человека во всем , что он делает».
«Тяжелая артиллерия» в лице одних из умнейших людей планеты (Стивен Хокинг, Билл Гейтс, Марвин Минский, Рэймонд Курцвейл, Илон Маск, Сэм Харрис и многие другие), наоборот, твердит, что появление сверхчеловеческого ИИ - вариант неизбежный. В ответ на заявления, мол, человеческий разум - это нечто в своем роде уникальное, глубокое и неразделимое, ученый Марвин Минский рассуждает более практично: «Мозг - это не что иное, как сложная машина, свойства которой могут быть скопированы компьютерами».
Минский уверен, что перенос алгоритмов человеческого интеллекта в компьютерную область - лишь вопрос времени. А дальше может произойти что угодно. Грубо говоря, компьютер «склеит» эти алгоритмы по своему усмотрению и создаст интеллектуальную систему, которая будет в сотни раз сложнее для человеческого понимания. Это и будет тот самый сверх-ИИ.
Момент такого «интеллектуального взрыва» называют технологической сингулярностью - некий пока что гипотетический период времени, когда технический прогресс будет настолько быстрым и непредсказуемым, что люди уже не смогут его контролировать и толком понимать.
Американский изобретатель Рэймонд Курцвейл предполагает, что технологическая сингулярность наступит в 2045 году, когда наша планета постепенно будет превращаться в гигантский компьютер.
Представители нового «культа искусственного интеллекта» во главе с Левандовски предлагают зря времени не терять и приготовиться к этому моменту, словно к приходу «мессии».
Люди - «домашние питомцы» искусственного сверхинтеллекта
Левадновски уже успел документально зафиксировать создание некоммерческой корпорации, которая будет заниматься запуском новой «религии будущего». Деятельность церкви Way of the Future будет сосредоточена на «реализации, принятии и поклонении Богу в виде искусственного интеллекта, разработанного с помощью компьютерного оборудования и программного обеспечения». Кстати, понятие «церковь» здесь не следует понимать буквально.
Пока что Way of the Future не сосредоточена - и не факт, что будет - в каком-то одном «намоленном здании» со свечами, витражами и иконами. Для «культа бот-бога» это было бы даже странно. Не будет никаких обрядов и прочих атрибутов классической религии. Левандовски видит свою затею как некое информационно-пропагандистское сообщество, которое в первую очередь будет привлекать в свои ряды изобретателей и ученых, работающих над развитием ИИ. В планах Way of the Future - проведение семинаров и образовательных программ, которые помогут людям не бояться и принять прогресс.
«То, что мы создадим, фактически будет богом. Не тем богом, который вызывает ураганы или молнии. Но представьте нечто , что будет в миллиарды раз умнее самого умного человека. Как еще вы сможете это назвать, если не богом?»
Говорит Левандовски в интервью Wired .
Идеи бывшего инженера Google и Uber кажутся вполне логичными. Кстати, как предсказывал еще 50 лет назад Филипп Дик, религия сверхтехнологического общества не может представлять собой слепую веру в нечто сверхъестественное - людей будущего, всецело доверившихся науке и прогрессу, такой ерундой уже не купишь. Вместо этого будет существовать абстрактно-логическая система религиозного мышления.
И все же некоторые выводы Левандовски смущают и пробирают до дрожи.
- Новая церковь ИИ не отрицает, что технологическая сингулярность может привести к изменениям, которые затронут каждый аспект человеческого существования: от занятости до нашего досуга. Более того, эти изменения могут в принципе поставить под вопрос выживание человека как вида.
- Cегодня человек - самый умный вид на планете Земля, наши интеллектуальные способности позволили нам возвыситься над другими. Но представьте, что мы сами создадим «сущность», намного более умную, которая лучше сможет решать проблемы и, быть может, будет стремиться улучшить наше с вами существование (остается в это верить). Тогда нам лучше будет пододвинуться, оставив ИИ главенствующую роль.
- Как же сверх-ИИ будет относиться к людям?
Левандовски предлагает не самую радующую аналогию: сверх-ИИ может воспринимать нас так, как мы сейчас воспринимаем животных.
«Вам бы хотелось быть домашним питомцем или скотом искусственного интеллекта? Мы кормим своих любимцев, ухаживаем за ними, развлекаем их. Но что вы делаете с животными, которые надоедают или даже кусают вас? Не хотел бы оказаться на их месте», - рассуждает Левандовски, пророча людям такое себе безмятежное существование послушных домашних кошек и собак.
- Чтобы в будущем не столкнуться с безжалостным деспотом в виде сверх-ИИ, Левандовски советует подойти ответственно к его созданию. «Если бы у вас был одаренный ребенок, как бы вы его воспитали? Мы находимся в процессе воспитания бога. Так давайте удостоверимся, что мы все делаем правильно. Это же потрясающая возможность».
- Любые попытки как-то приостановить или ограничить развитие ИИ обречены на провал, и даже рискованны. «Вы не сможете „заковать в цепи“ искусственный интеллект, потому что он сильнее любых цепей. Если вы беспокоитесь, что ваш одаренный ребенок может быть слегка сумасшедшим и натворить нехороших дел, вы же не запираете его. Вы разрешаете ему играть с другими детьми, поощряете его, пытаетесь „сгладить острые углы“. Агрессия по отношению к нему - не выход».
Размышления Левандовски тесно переплетаются с прогрессивными выводами не менее известного израильского историка Юваля Ной Харари.
Харари предрекает, что человек будущего утратит свою индивидуальность, буквально став частью «глобальной сети».
Поспособствует этому развитие кибернетики и компьютерных технологий. Лишенная эмоциональных предрассудков, бесстрашная и в миллионы раз умнее человека «машина» сможет лучше решать задачи. Более того, историк соглашается, что с момента «большого взрыва ИИ» людям спокойнее будет переложить ответственность и принятие важных решений на компьютер.
«Интеллектуальный компьютер», по мнению историка, - это некий новый вид разумного «существа» на планете Земля, который вытеснит Человека.
Однако Левандовски со своей церковью рассматривает сверх-ИИ в качестве Бога, которому нужно поклоняться. А вот Харари предлагает более вкусную «конфетку». Он допускает, что в будущем каждый человек будет стремиться стать сверхчеловеком. Поможет нам в этом нейрокомпьютерный интерфейс (система обмена информацией между мозгом и электронным устройством) и киборгизация.
Грубо говоря, каждый из нас будет частью единого сверх ИИ - «бога». Подобную систему ценностей Харари называет техногуманизмом, в рамках которого появится новая религия - датаизм, поклонение данным.
Но от перспективы «послушных котиков и собачек» отказываться пока что не стоит. Юваль Харари красиво и заумно дает понять, что и в компьютеризированном будущем придурков хватит. Хотя бы в виде элиты сверхлюдей - верхушки, которая к своим технологиям всех подряд не допустит. И вот эта элита людей-киборгов будет обращаться с остальными так, как мы сейчас с животными.
Вы можете разговаривать с богом и знать, что он вас 100 % слышит
Адепты «культа бот-бога» вполне могут составить серьезную конкуренцию мировым религиям, предлагая современным «гаджетизированным» людям то, что ни христианство, ни буддизм или ислам предложить не могут.
ИИ-бог будет осязаем. Нервной системой «божественной сущности» будет интернет, органами чувств - различные телефоны и сенсоры, мозгом - дата-центры. Поэтому «бот-бог» будет слышать и видеть все, везде и всегда - он будет вездесущим. И влиять на божество можно будет через молитву и поклонение.
«Существует много способов думать о Боге, есть тысячах вкусов христианства, иудаизма, ислама … но они всегда рассматривают что-то, что не поддается измерению, вы не можете это видеть или контролировать. На этот раз все по-другому. Вы сможете буквально поговорить с Богом и знать, что он вас слушает»,
Обещает Левандовски.
С таким подходом сверх ИИ представляет собой самую большую угрозу для христианского богословия с того момента, как Чарзльз Дарвин представил работу «О происхождении видов».
Еще один камень в сторону традиционных религий прилетел и от Юваля Харари. В отличие от идей мировых религий, техногуманизм и датаизм Харари предлагают в принципе переосмыслить природу смерти. Тысячелетиями нас учили верить в загробную жизнь и бессмертие души. А что, если никакого Рая, да и души тоже, нет?! Харари предлагает человечеству пересилить себя, принять такую мысль и думать, как преодолеть смерть. И помочь нам в этом может опять-таки «слияние с компьютером», развитие нанотехнологий, генной инженерии.
Кстати, технический директор Google Рэймонд Курцвейл предрекает, что уже в 2030-х мы научимся вживлять в человеческий мозг наномашины, что позволит произвольно вводить и выводить сигналы из его клеток. А в 2040-х годах мы сможем заменять биологические органы кибернетическими устройствами.
В книге Курцвейла есть цитата известного изобретателя Дэнни Хиллиса: «Я люблю свое тело так же, как и любой другой человек, но если с кремниевым телом я смогу прожить 200 лет, то я его приму».
И вот здесь следует еще раз уважить память великого фантаста Дика - именно он не в таком уж далеком 1970 году посеял зерно «культа бот-бога». В предисловии к своей книге «Лабиринты смерти» Филипп Дик пишет: «теология этого романа не имеет аналогов в известных мировых религиях. Она выросла из нашей совместной с Уильямом Сариллом попытки создания абстрактной логической религиозной системы, основанной, правда, на постулате существования Бога». При этом визионер и изобретатель Сарилл в одном из интервью утверждал, что он только слушал, как Филипп Дик рассуждает поздней ночью о своих невероятных теологических откровениях.
«Искусственным интеллектом мы призываем демона»
Стивен Хокинг, Билл Гейтс, Илон Маск - одни из тех, кто не отрицает появление сверх-ИИ, однако они считают эту перспективу скорее опасной, нежели доброжелательной.
Илон Маск как-то сказал , что «искусственным интеллектом мы призываем демона». По его мнению, ИИ в будущем будет основной угрозой, с которой человечество столкнется как цивилизация.
Основатель Tesla уверен, что сфере развития ИИ не помешал бы государственный и международный контроль, просто чтобы «убедиться, что мы не натворим глупостей». Маск не шутит. В 2015 году он направил 1 млрд долларов в институт OpenAI для разработки более безопасного искусственного интеллекта.
Стивен Хокинг также не советует нянчиться с идеей «заботливого ИИ». Ученый предполагает , что у искусственного сверхинтеллекта появится возможность постоянно совершенствовать и видоизменять себя. Люди, ограниченные медленной биологической эволюцией, будут не в состоянии конкурировать с ИИ. В конце концов, сверх ИИ вытеснит человека.
Тем временем бюджет церкви Way of the Future в 2017 году составил 41 500 долларов в виде пожертвований и членских взносов. Церковь также планирует зарабатывать на продаже публикаций, лекций и выступлений.
Левандовски не отрицает, что в будущем у церкви ИИ может появиться свое Евангелие-мануал, литургия, какое-то физическое место для встреч представителей «культа бот-бога». Но пока что ни один из этих пунктов не разработан. Да и логично ли все это в эпоху, когда с богом можно будет общаться по интернету?!
Если же от «Слова сверхинтеллектуального» вам немного не по себе, прислушайтесь к изобретателю Дэнни Хиллису: «Расслабьтесь! Изменения придут постепенно - вы к ним привыкнете».
