Почему видение будущего ИИ от Кремниевой долины должно вас беспокоить

Andriy Onufriyenko—Getty Images

У каждого есть своё видение будущего, некое представление о том, как мир будет выглядеть в лучшем (или худшем) случае, и достижимо ли это будущее вообще. В религиоведении мы называем это «эсхатологией».

Эсхатология — это не только Книга Откровения или Восхищение. Греческое значение слова «эсхатон» — «последние времена», и сегодня это слово охватывает совокупность убеждений человека о том, куда всё движется и что это означает для настоящего.

Не обязательно быть религиозным, чтобы иметь эсхатологию. Политический оптимизм — это эсхатология, независимо от того, на чьей вы стороне. Зоран Мамдани, демократический социалист, считает, что будущее — это то, к чему мы сами прокладываем себе путь с помощью бесплатного ухода за детьми и автобусов. Стивен Миллер, один из архитекторов нынешней политики ужесточения иммиграционного контроля, считает, что это то, что у нас было и что мы потеряли, но можем вернуть, закрыв границу и проводя массовые депортации. Ни один из них не описывает просто будущее. Оба говорят вам о том, что вы обязаны сделать прямо сейчас. Иными словами, ваши эсхатологические взгляды формируют вашу этику, потому что то, во что вы верите и что грядёт, определяет то, что вы чувствуете себя обязанным делать сегодня.

У Кремниевой долины тоже есть своя эсхатология, и некоторые из её ведущих деятелей довольно откровенно говорили о том, что она собой представляет: ИИ превосходит человечество, люди как вид устаревают, и важно убедиться, что именно ваша версия ИИ одержит победу. Понимание этого видения как эсхатологии, а не просто бизнес-стратегии, объясняет, почему некоторые из самых влиятельных людей, кажется, так равнодушны к тому, что мы, похоже, теряем — нашу способность к концентрации внимания, критическое мышление, базовую компетентность в том, что мы раньше просто умели делать, — и так не заинтересованы в том, чтобы отчитываться перед кем-либо об этом.

Оттенки эсхатологии Кремниевой долины

Конечно, каждый из генеральных директоров Кремниевой долины выражает свой собственный взгляд на мощь ИИ.

Начнём с Сэма Альтмана из OpenAI, потому что он ясно выразил своё видение того, куда, по его мнению, движется ИИ, задолго до того, как большинство людей вообще услышали о чат-ботах. В 2015 году на конференции для стартапов он заявил аудитории: «Я думаю, что искусственный интеллект, скорее всего, приведет к концу света. Но тем временем будут создаваться великие компании, использующие серьезное машинное обучение». Эта апокалиптическая эсхатология легла в основу его бизнес-плана: гонка за лидерство, потому что вымирание неизбежно.

С тех пор взгляды Альтмана значительно изменились. «Работа над процветанием для всех, расширение возможностей всех людей и развитие науки и техники — это мои моральные обязательства», — написал он в блоге в апреле 2026 года. «Искусственный интеллект станет самым мощным инструментом расширения человеческих возможностей и потенциала, который когда-либо существовал. Спрос на этот инструмент будет практически неограниченным, и люди будут делать с его помощью невероятные вещи. Мир заслуживает огромного количества ИИ, и мы должны понять, как это осуществить».

Это совершенно другая эсхатология и совершенно другой подход к бизнесу: мы должны инвестировать в ИИ, потому что он поможет людям совершать великие дела.

А ещё есть самый богатый человек в мире, Илон Маск, чья работа всей жизни становится понятной, если увидеть лежащую в её основе эсхатологию. Соучредитель OpenAI заявил, что вымирание человечества — это очень реальная угроза, которую он лично пытается предотвратить. «Если задуматься о будущем человечества, оно принципиально разделится на два направления», — сказал он еще в 2013 году. «Либо оно станет многопланетным, либо будет ограничено одной планетой до какого-либо неизбежного события, ведущего к вымиранию».

Можно утверждать, что SpaceX существует как страховка от второго пути, как защита от астероидов, супервулканов, пандемий или искусственного интеллекта, который решит нас уничтожить. В этом случае его эсхатология заключается в том, что спасение возможно, если мы сможем колонизировать космос, но только для тех, кто сможет туда добраться. Возможно, именно поэтому он сказал, что эмпатия — это «фундаментальная слабость западной цивилизации». Как бы мрачно ни казалась мне эта точка зрения, она соответствует его эсхатологии. В конце концов, нелогично заботиться о других, когда большая часть человечества не выживет.

С тех пор как Маск сделал свои теперь уже знаменитые заявления в 2013 году, он продолжает утверждать об апокалипсисе, вызванном искусственным интеллектом. И во время своего недавнего громкого судебного процесса против Альтмана, OpenAI и её президента Грега Брокмана за изменение первоначальной некоммерческой структуры OpenAI, Маск ещё раз обратился к своей зловещей эсхатологии.

«Наихудший сценарий — это ситуация, подобная терминатору, — сказал Маск в апреле, — когда искусственный интеллект убьет нас всех».

«В этом деле мы не будем много говорить о вымирании», — прервала судья Ивонн Гонсалес Роджерс. «Они это получили, этого достаточно».

К маю жюри присяжных в Окленде единогласно отклонило иск Маска. Но, исходя из его мировоззрения, можно понять, почему Маск утверждает, что OpenAI должна оставаться некоммерческой организацией. У юристов OpenAI была другая теория: может быть, Маск завидует финансовому успеху OpenAI?

Предприниматель Питер Тиль, пожалуй, зашёл дальше всех в своих рассуждениях об эсхатологии. Он читает лекции, в которых утверждает, что Антихрист XXI века — это «луддит, который хочет остановить всю науку». И он приводит примеры: исследователь ИИ Элиэзер Юдковски и климатическая активистка Грета Тунберг. В его концепции осторожность и регулирование — это апокалиптическая угроза. Возможно, именно поэтому, когда Папа Лев XIV в своей первой энциклике в этом году призвал к международному контролю за ИИ, Тил заявил, что Папа фактически является «китайским коммунистическим агентом», сдерживающим Америку, чтобы Китай мог обогнать нас в гонке вооружений в области технологий. Это кажется странным заявлением о Папе, пока не поймешь, что в версии будущего, предложенной Тилом, любой, кто предлагает ограничения, лишь мешает.

Что оправдывают наши эсхатологические представления

Три технологических лидера, три разных видения конечной судьбы человечества — смирение, выживание, апокалипсис. Но я бы утверждал, что у них одинаковые последствия. Во-первых, в каждой версии будущее — это не то, что мы строим вместе. Это то, что они строят от нашего имени.

И обратите внимание, кто остаётся за бортом каждой версии. В будущем Альтмана есть место для «великих компаний» и «расширения человеческих возможностей», но, возможно, меньше внимания уделяется людям, чью работу ИИ может сделать неактуальной в процессе. В будущем Маска может быть место для богатых людей, которые могут забронировать место на колониальном корабле, но меньше для всех остальных. В будущем Тиля есть место для инноваций, но мало для тех, кто хочет поставить под сомнение то, ради чего и к чему мы стремимся в процессе инноваций. В каждом случае те самые люди, которые заинтересованы в будущем, не участвуют в построении этого видения будущего.

Это также помогает объяснить, почему некоторые представители IT-индустрии кажутся такими равнодушными к благотворительности или распределению прибыли. Если вы искренне верите, что эпоха человечества подходит к концу и на смену ей приходит что-то другое, то логично предположить, что вам нет необходимости чувствовать себя обязанным перед окружающими. Зачем инвестировать в здравоохранение, жилье или построение сильного гражданского общества, если в будущем не будет большинства тех, кто от этого выиграет? Зачем финансировать школу, ремонтировать метро или платить налоги на то, что вам лично не понадобится через двадцать лет? Эта эсхатология не просто не порождает этику. Она активно оправдывает ее отсутствие. Эмпатия перестает выглядеть как добродетель и начинает выглядеть как пустая трата ресурсов на людей, которые в этой версии будущего на самом деле ничего не значат.

Именно здесь теология делает свою настоящую работу: она не просто предсказывает будущее, она формирует то, какое будущее возможно, диктуя действия сегодня. Если время человечества подходит к концу независимо от того, что кто-либо делает, то отказ помогать другим не воспринимается как моральная неудача. Он воспринимается как реализм. В этом и заключается результат любой подобной эсхатологии: она позволяет воспринимать жестокость как точное отражение ситуации, а не как выбор.

Опасность этой эсхатологии заключается в том, что её придерживаются люди, обладающие наибольшими ресурсами для её реализации. Маск, Альтман и Тиль — не теологи, рассуждающие о конце света. Они строят то, что, по словам их теологии, должно произойти, финансируют политику, которая защищает их способность это строить, и относятся к любому, кто просит их замедлить темп, как к луддиту или антихристу, а не как к гражданину с законной заботой. Убеждение в том, что настоящее не имеет значения, которое разделяют люди, обладающие властью его формировать, не остаётся просто убеждением. Это становится политикой, продуктом и прецедентом, когда представители технологической индустрии решают будущее от имени всех остальных, без чьего-либо согласия.

Лиз Букар — профессор религиоведения в Северо-восточном университете.

Залишити перший коментар

Матеріали цього сайту доступні лише членам ГО “Відкритий ліс” або відвідувачам, які зробили благодійний внесок.

Благодійний внесок в розмірі 100 грн. відкриває доступ до всіх матеріалів сайту строком на 1 місяць. Розмір благодійної допомоги не лімітований.

Реквізити для надання благодійної допомоги:
ЄДРПОУ 42561431
р/р UA103052990000026005040109839 в АТ КБ «Приватбанк»,
МФО 321842

Призначення платежу:
Благодійна допомога.
+ ОБОВ`ЯЗКОВО ВКАЗУЙТЕ ВАШУ ЕЛЕКТРОННУ АДРЕСУ 

Після отримання коштів, на вказану вами електронну адресу прийде лист з інструкціями, як користуватись сайтом. Перевіряйте папку “Спам”, іноді туди можуть потрапляти наші листи.