Мечта о светлом русском будущем и восстание машин

Сегодня Россия делает разворот, еще лет пять-десять назад казавшийся чем-то из области научной фантастики: от политики, где народ — объект, а государство — начальство, которому завсегда виднее, страна решила перейти к модели социальной архитектуры, где все равны и все ответственны за результат.

Парадокс Гибсона и собачки в колясках

В общепринятом понимании человечества будущее наступает одновременно во всех частях земного шара: хоть в Конго, хоть в Силиконовой долине Калифорнии. Единственный шанс немного вырваться вперед — жить в часовом поясе, где солнце восходит раньше, чем у ваших геополитических противников. Тут у нас явное преимущество, ведь, как известно, Россия — это страна, над которой солнце не заходит вообще никогда.

Таким оптимизмом зарядить могут астрономы. А вот у социологов все куда мрачнее. Они оперируют понятием «парадокс Гибсона», напомнил глава ВЦИОМ Валерий Федоров. Не британского экономиста, который подарил экономике формулу зависимости между процентными ставками и уровнем цен, а американо-канадского писателя-фантаста, подарившего миру киберпанк. Литератор камня на камне не оставил от мечты человечества о едином счастливом будущем для всех жителей планеты. Созданная им формула звучит так: «Будущее уже наступило, просто оно еще неравномерно распределено». Ученые называют парадокс Гибсона строгим социологическим диагнозом.

Будущее фрагментировано и анклавно, заключили эксперты на полях Второй научно-практической конференции «Социальная архитектура: теория и практика социальных изменений» в Санкт-Петербурге. Разные страны и даже группы внутри каждой страны одновременно живут в принципиально разных исторических эпохах: одни горюют по отключившимся 25 сценариям освещения в «умном доме» из-за удара по дата-центру, в то время как другие усматривают божественное благословение в смерти родственника от Эболы.

В последние годы в мире произошел принципиальный сдвиг, констатируют социологи и политологи: разрыв между странами перестал быть сугубо количественным. Раньше, если вы бежали двое быстрее, чтобы вырваться вперед по заветам Черной королевы из «Алисы в Зазеркалье», мы могли похвастаться более высоким ВВП, чем отстающие в технологическом плане страны. Теперь же речь о том, что «жизнь в прошлом» грозит государству снижением когнитивных функций и потерей суверенитета.

Самыми технологичными ребятами на планете по праву сегодня считаются не США, а страны Азии: Сингапур, Макао, Тайвань, Гонконг, Япония и Южная Корея. В популярной игре «Представь любимого персонажа в виде страны» гибсоновский Джонни-мнемоник точно был бы кем-то из них. Эти страны первые не только по уровню роботизации, но и по образованию в школах. Однако значит ли это, что там, где вкалывают роботы, счастлив человек?

Во всех этих странах уровень демографии катастрофически низкий, от 0,5 до 0,7, заметил глава СПЧ Валерий Фадеев. На четверых взрослых приходится всего один ребенок.

— Это цветущие, сверкающие города. Это техника, роботы. И мамочки с детскими колясочками ходят. Только в колясочках не дети, а собачки. Это не будущее. Это социальная катастрофа. Это сбывшаяся антиутопия. И мы это точно видим. Я считаю, что нам туда не надо, — резюмировал Фадеев.

Он напомнил, что в России индекс рождаемости составляет в среднем от 1,3 до 1,4, что также является проблемой с точки зрения демографической политики: для роста нам нужно минимум 2,1.

— То, что мы видим, — это не прогресс. Собачки в колясках — это символ ужасающего китч-прогресса, — заключил Фадеев.

Заглядывая в будущее, социологи видят крайне негативную картину: при сохранении нынешних трендов рождаемости нас ждет в горизонте нескольких десятилетий ультрастарение Севера с медианным возрастом под 50 лет и одновременный демографический взрыв Юга, где уже средний возраст составляет 19 лет, с удвоением численности населения за одно поколение.

Почему нас это касается? Посмотрите на Францию. Так вот, примерно то же самое, только возведенное в степень, будет везде. На нас хлынет людской океан молодой энергии, выросшей в дефиците образования, инфраструктуры и рабочих мест. Мы утонем.

Еще более катастрофический прогноз сделал Илон Маск. Он предрек исчезновение целых стран и культур из-за снижения рождаемости в мире, комментируя свежее исследование американских социологов. Маск поделился результатами работы ученых в соцсети Х. Согласно данным исследователей из США, из 19 стран, попавших в выборку, самый низкий индекс рождаемости на Тайване — 0,7. На предпоследнем месте Южная Корея (0,8).

«Это означает, что целые страны и культуры исчезнут навсегда», — написал Маск.

Но и это не худший сценарий.

«Человечество вымрет из-за ИИ уже к 2036 году», — заявил президент Института исследований машинного интеллекта Нейт Соарес. По его мнению, вероятность такого исхода выше 50%. Сам Соарес уже перестал копить на будущую пенсию, поскольку уверен, что не доживет до нее. Что это — паникерство, точный расчет или попытка завуалировать сиюминутное расточительство, — пускай каждый решает для себя сам.

Меня, мою бессмертную душу — в чип?!

Если бы Пьер Безухов услышал, как боссы бигтех-корпораций всерьез мечтают (у них всегда так: летающий автомобиль совсем недавно был просто фантазией из фильма «Пятый элемент», а теперь — поглядите на «Теслу») запихнуть сознание человека в чип, он бы пришел в такой же ужас непонимания, как когда французы решили лишить его свободы, уверен Валерий Фадеев.

— Он бы воскликнул: «Меня?! Мою бессмертную душу — в чип?!» Я их (руководителей западных IT-корпораций. — «МК») читаю — это почти нацизм, если серьезно, — заметил Фадеев. — Мы всерьез обсуждаем трансгуманизм и как душу человека можно перенести на кремниевый чип.

Тем временем именно развитие технологий и, что еще важнее, отсутствие равного доступа к ним станут одним из драйверов дальнейшего расслоения в мире. Эксперты прогнозируют появление феномена вычислительного феодализма, при котором возникнет монополия на базовые ИИ-модели, ЦОДы и тераватты чистой энергии. Более того, ученые уверены, что в будущем владельцы бигтеха начнут скупать АЭС лишь ради того, чтобы иметь бесконечный и никем не контролируемый доступ к электроэнергии для обеспечения бесперебойной работы дата-центров и суперинтеллекта (придумав этот термин на замену искусственному интеллекту, Дональд Трамп действительно выступил как визионер). Уже к 2030 году ожидается десятикратный рост энергопотребления в дата-центрах. При этом более 85% передовых мощностей обучения сложных мультиагентных систем ИИ уже сегодня сконцентрировано всего у двух игроков: США и Китая. Что ждет остальные страны, которые не обладают собственными вычислительными мощностями? Сценарий один, только называют его ученые по-разному. Кто хочет поберечь психику окружающих, называет их в будущем потребителями чужих интерфейсов. Кто стоит за честность, говорит прямо: мир разделится на техно-патрициев и плебеев, крепостных.

Пока такое будущее видят лишь немногие. 90% россиян относятся к искусственному интеллекту позитивно и находят в нем новые возможности. Такие цифры привел на полях конференции политолог, депутат Госдумы Александр Асафов. При этом 45% респондентов, опрошенных социологами, — абсолютные оптимисты, а еще 45% видят в ИИ как возможности, так и риски. Угрозой машинный разум считают 10% опрошенных. Сам Асафов, по его собственному признанию, относит себя к пессимистически настроенному меньшинству.

Сегодня люди полностью доверяют ответам чат-ботов и не относятся к ним критически. При этом ответам живых людей мы не склонны слепо верить, подвергаем их сомнению, а зачастую и сразу отрицаем. В ситуации с ИИ-собеседником такого не происходит. В этом кроется один из главных рисков, связанных с использованием ИИ-моделей.

— Если мы задаем вопрос той или иной модели [ИИ], мы получаем быстрый, абсолютно уверенный и даже иногда аргументированный ответ. Способность критически оценивать снижается, — объяснил Асафов.

Еще один риск, плохо осознаваемый рядовыми пользователями, связан с тем, что люди свято верят в нейтральность машинного разума. Однако, пояснил эксперт, ИИ далеко не нейтрален.

— В нашем представлении искусственный интеллект обладает академической, политической, этической нейтральностью. Но это мысль в сферическом вакууме, — заявил Александр Асафов.

В каждом ответе чат-бота «зашиты» определенные ценностные установки. Причем для разных пользователей этот набор разный. Например, если запрос искусственному интеллекту отправляет китаец, машины видит иероглифы и предлагает ответа куда более либеральный, чем мог бы сформулировать любой из реальных жителей Поднебесной.

Ценностные установки в ИИ закладывают разработчики, объяснил эксперт. Между тем пользователи этот риск не оценивают, что подтверждают социологические исследования. Например, по данным ВЦИОМ, 66% взрослых россиян относятся к ответам ИИ без критики и считают их достоверными. Среди подростков показатель выше — 77%.

— Мы считаем, что за нейтральностью ИИ стоит вся мудрость человечества, — заметил Асафов, — Тем не менее исследования показывают, что в западных моделях ценности очень крепко и прочно зашиты. Можно это считать способом формирования общественного мнения. Когда один и тот же ответ получают миллионы людей, они этот ответ сначала усваивают, потом присваивают. Это становится их позицией. Это сдвигает рамку восприятия, в том числе и ценностную.

Исследователи установили, что разные ИИ-модели по-разному влияют на восприятие пользователями событий. Во многом это зависит от политических и государственных симпатий владельцев бигтех-корпораций, которые владеют чат-ботами.

Еще одна фишка ИИ — он всегда хочет нравиться собеседнику. Такое угодничество, часто во вред истине и фактам, — не что иное как рекламный ход.

— Это звучит абсурдно: как может алгоритм хотеть понравиться? За этим стоит коммерческая модель. ИИ, который отвечает так, как нравится пользователю, удерживает больше внимания и получает коммерческий приоритет, — разложил подноготную эксперт.

Однако главная угроза сегодня связана с тем, что люди, привыкшие пользоваться ИИ, реже берутся решать сложные задачи самостоятельно. Как рассказал Александр Асафов, на эту тему уже проведено много исследований. Все показывают одно и то же.

— Например, в Турции было обширное исследование. Подростки вместе с ИИ выполняют задания успешнее. Но лишившись его, в дальнейшем справляются хуже, — поведал политолог.

Киса, зачем вам деньги?

Сценарий, который начинает сбываться уже сегодня, в ближайшие годы грозит нам поляризацией рынка труда. Появится модель «песочных часов», где наверху окажется узкий класс, вооруженный ИИ, а внизу — все остальные. Уже сегодня мы видим реализацию этого сценария на примере самозанятых, трудящихся через цифровые площадки. Это признается на уровне экспертного сообщества, Минтруда, Совфеда: миллионы платформенных работников находятся под надзором алгоритма. У них нет пенсий, больничных, права на апелляцию при увольнении. У них нет даже фиксированной зарплаты. И в будущем, скорее всего, ее не будет.

— А кто вам вообще сказал, что через 20–30 лет останется такое понятие, как деньги? — Интернет-омбудсмен Дмитрий Мариничев умудрился одним вопросов вогнать в ступор тысячную аудиторию конференции. Ученые и практики от политики и социологии привыкли в голове крутить разные сценарии. Но вот к такому, похоже, оказались не готовы.

По мнению Мариничева, в перспективе ближайших нескольких лет человечество ждет глобальное перераспределение. Причем «кожаные» могут оказаться далеко не в самой сильной позиции по сравнению с «терминаторами». Правда, в этом мы будем виноваты сами.

— Как вы общаетесь с чат-ботом? — обратился интернет-омбудсмен к аудитории. — Задаете вопрос и получаете ответ? Это неправильно. Надо выходить на следующий уровень, где вы заставляете его, как подмастерье и консультанта, выполнять ваши задачи. Ваши знания должны быть выше. Следующий уровень — это когда вы способны усиливать свою мысль с помощью машины, вступать в резонанс с ней. Это ровно то, к чему нужно стремиться, но это гораздо сложнее. Примерно 1% — это люди, которые будут в симбиозе с ИИ. Это значит, что нельзя будет определить, кто субъект, а кто объект в этой модели. Вы находитесь в симбиозе, и решение — общее.

Это новое комфортное мышление с помощью машины, объяснил эксперт.

Все это, конечно, здорово, но есть нюанс: по подсчетам ВЦИОМ, создателями всей этой новой цифровой реальности, которые будут находиться в том самом комфортном симбиозе с ИИ, будет даже не 1%, а 0,1% от всего населения Земли. Остальные будут сидеть под тотальным цифровым надзором без каких-либо социальных прав и гарантий. Кстати, это подтверждается прогнозными цифрами Минтруда, который видит реальным переход 25% трудоспособных россиян в платформенную экономику уже к 2030 году.

Раскол произойдет и в культуре: для масс будет доступен лишь дешевый экранный суррогат, а элиты будут наслаждаться тем, что сегодня социологи называют «очной аналоговой роскошью». К ней смело можно отнести, например, созерцание картины в Эрмитаже или поход в театр на балет. У остальных для этого не будет… нет, не денег. Просто им будет не положено. Кстати, что там с деньгами?

— Если ты будешь работать с ИИ, кто сказал, что тебе за это будут платить деньгами? — поинтересовался Дмитрий Мариничев. — Не будут, потому что меняется сам принцип распределения. И тут встает вопрос о справедливом распределении — но нигде не написано, чего именно. Нигде не написано, что речь о деньгах или благах. Да, мы будем распределять справедливо, просто доступ будет разный. Когда у крестьян была проблема — не было своей земли в царской России, — Ленин что сказал? «Землю — крестьянам, фабрики — рабочим». Выполнил он свое обещание? Выполнил. Все стало народное, общее. Только вопрос доступа к этим благам изменился. Землю получили крестьяне — только не так, как они себе представляли.

По мнению эксперта, деньги при таком сценарии будущего все-таки останутся. Просто не у людей, а у ИИ-агентов.

— Мы сейчас маленькими шажками заходим в агентную экономику, — объяснил логику дальнейших событий Мариничев. — Это уже не платформенная экономика, а система, в которой операциями рулят, за вас думают и за вас торгуются ИИ-агенты. И делают они все это между собой. Это не завтрашний день, это уже сегодняшний день. Если за вас торгует бот, он и будет определять, что и по какой цене будет стоить.

В такой ситуации ИИ, как Остап Бендер, справедливо заметит: «Киса, зачем вам деньги? Что вы себе купите?» Только у машинного разума, в отличие от обаятельного великого комбинатора, даже лица нет, чтоб при необходимости это лицо набить.

Зато у него уже есть возможность создавать оружие массового поражения. Это не апокалиптический сценарий от футурологов, а предупреждение (вдумайтесь!) одного из лидеров IT-рынка компании Anthropic. Разработчик Claude включила предупреждение об опасности развитых систем ИИ в проспект IPO, опубликованный на сайте Комиссии по ценным бумагам и биржам США. В документе сказано, что наиболее совершенные модели Anthropic «уже продемонстрировали способности, которые могут помочь злоумышленникам в разработке химического, биологического и иного опасного оружия». Корпорация уточнила, что применяет технические средства для выявления и блокировки таких действий, но «защита несовершенна, а ее можно обойти».

«Кабы чего не вышло» vs «Что, если...»

В модели будущего, которую описывают социологи, политологи и футурологи, совершенно не за что зацепиться, чтобы захотеть до него дожить. Но это отнюдь не повод накрыться простыней и ползти в известном направлении. Хотя и «лежать ногами в сторону светлого будущего» не получится. Чтобы достичь блага завтра, человеку придется стать активным сегодня, не уповая на государство, уверены ученые. Это ничуть не умаляет роль властных структур — просто ключевым образом меняет.

На смену политике директив «сверху» в России и ряде других стран мира приходит принципиально новая модель управления — социальная архитектура.

Что это вообще такое и кто такой социальный архитектор? Очень красиво сформулировал замглавы АП Сергей Кириенко: «Социальные архитекторы — это ответственные мечтатели».

— Если художник говорит: «Я так вижу», то архитектор говорит: «Здесь нужно положить такой-то фундамент, а здесь нужно столько-то кирпичей, потому что здесь свои особенности ландшафта», — объяснил разницу проректор РАНХиГС Андрей Полосин.

Социальный архитектор — это человек, проектирующий изменения в жизни людей.

Бюрократ думает: «Кабы чего не вышло». Социальный архитектор: «Что, если...» Для бюрократа это «если» — набор ситуаций, которых надо во что бы то ни стало избежать. Для архитектора — тот самый ландшафт, сканируя который он будет выстраивать связи между людьми и формировать позитивный образ будущего, создавая конкретные проекты. Нужные людям проекты — это ключевое условие.

— Когда я общаюсь с региональными и муниципальными чиновниками и спрашиваю их, что бы они хотели сделать, в подавляющем большинстве случаев я слышу от них: «Я хочу отремонтировать парк». Я уточняю: «А зачем?» — и в большинстве случаев они впадают в ступор, — поделился опытом социальный архитектор Артур Туманян.

Участие общества в социоархитектурных проектах обязательно, подчеркнул директор Института социальной архитектуры, профессор кафедры государственной политики факультета политологии Московского государственного университета имени М.В.Ломоносова Сергей Володенков.

В основе социальной архитектуры подход, который безумно любят психологи, — так называемый «субъект-субъектный». На уровне «государство–общество» это значит, что обе стороны в позиции взрослых и одинаково ответственных за результат, в отличие от «субъект-объектного» подхода, который по-простому характеризуется как «я — начальник, ты — дурак». Второй подход — это про социальную инженерию. Ее используют не только мошенники, желая украсть деньги жертвы с банковской карты. Она лежит в основе политики США в частности и стран Запада вообще. В СССР, кстати, была любопытная смесь обоих подходов. Государство щедро раздавало запреты и директивы, и все же взять хотя бы пример массовых поездок студентов на БАМ. Это в чистом виде социальная архитектура: они ехали туда сами, по доброй воле, во имя большой цели, до которой не факт, что дожили бы. И все-таки ехали и мечтали.

Бытует легенда, что Курчатов во время строительства своего института «зарубил» проект благоустройства, над которым трудился штат, как сейчас сказали бы, ландшафтных дизайнеров и урбанистов. Великий ученый заключил, что дорожки должны быть проложены там, где их протопчут сотрудники института.

Социальная архитектура — это как раз про поиск тех самых интуитивных тропинок и превращение их в государственные проекты.

— Общество — это не пассивная среда, в которой по вертикали традиционно должны реализовываться управленческие решения, а система субъектов: людей, сообществ, связанных ценностями, интересами и с постоянно меняющимися социальными связями. И у людей, конечно, есть собственные представления о достойной жизни, профессиональной самоорганизации, развитии территорий, на которых они живут, образовании, семье, перспективах будущих поколений. Эти представления необходимо исследовать, включать в процесс проектирования, а не просто создавать сверху то, что для общества будет полезно, — объяснил Сергей Володенков.

Кто возглавит поход к звездам?

Социальная архитектура — наука молодая. Всего год назад был написан первый в мире учебник для преподавателей, и вот сейчас еще один, для студентов. Тоже первый в мире. Оба учебника написаны в России. Однако этот метод госуправления уже активно исследуется и точечно внедряется в жизнь в Китае, Сербии, в странах Африки, в Иране. Интерес к равноправному и взаимоуважительному способу взаимодействия между государством и социумом огромен.

В России примеры успешной реализации проектов, в центре которых — человек, а архитектор — государство и люди вместе, уже есть. В качестве одного из них эксперты назвали стратегический план развития Мурманской области «На Севере — жить». Что по цифрам? В 2023 году, после запуска проекта, впервые за 33 года был зафиксирован не отток местного населения, а миграционный прирост в регион. Мурманская область вошла в топ-10 по ВРП на душу населения и заняла 20-ю строчку в рейтинге качестве жизни. Регион стал лидером по инвестициям в арктические территории.

Но вот что интересно: на фоне тотальной ИИ-мании во всем мире ученые из разных стран сходятся в одном: при социоархитектурном методе управления машинный разум никогда не сможет заменить человека. Директиву написать и спустить сверху — сможет. А проследить тонкие связи между людьми, понять мотивацию их действий и желаний — никогда. Почему?

ИИ страдает антологической слепотой, считает и.о. заведующего кафедрой философии и методологии науки философского факультета МГУ Тарас Вархотов.

— Являясь машиной, оперирующей знаками, отвлеченными от значений, ИИ не понимает устройство реального мира и оперирует исключительно математическими корреляциями, а не подтвержденными наукой причинно-следственными связями, — подчеркнул ученый. — Отсюда важный вывод: галлюцинация большой языковой модели — это «не баг, а фича». Это следствие вероятностной природы модели, не позволяющей гарантировать достоверность ответов ИИ без использования консультации человека. Можно сказать, что ИИ все знает, обо всем осведомлен, но ничего не понимает. Это формальные операции со знаками без возможности пережить, как это свойственно человеку, характер связи этих знаков с их значениями в реальном мире.

Илон Маск и прочие визионеры от бигтеха рисуют перед нами картину будущего, где суперинтеллект даст человечеству возможность преодолевать космические расстояния на многие световые годы, продлит нам жизнь до бесконечности. Но что же это получается: если всего этого в силу своего «горя от ума» ИИ дать не сможет, то никто не сможет?

Достичь образа будущего, как его видели Циолковский, Вернадский, Федоров, смогут только люди — причем не любые, а обладающие смекалкой, стойкостью и внутренним стержнем, уверен политолог Евгений Минченко. Это «наши люди».

— Как русский человек, я хочу сказать, что мой народ очень сильно мифологизирован, — отметил Минченко. — Нам рассказывают, какие мы коллективисты, как мы любим крепкую руку начальника и подчиняться. Какие мы консерваторы. Русский народ — один из самых смекалистых и инициативных народов в мире. Это народ с невероятным чувством собственного достоинства и очень глубоким внутренним стержнем. Когда говорят, что никого нет сильнее в мире, чем русский солдат, это не просто так. Русский солдат — это человек невероятного упорства, длинной воли и в то же время невероятной изобретательности.

Русский человек невероятно адаптивен, продолжил политолог.

— Архетипический образ русского человека за всю историю нашего кинематографа — это Федор Сухов: спокойный, адекватный, смекалистый, понимающий, куда он попал и в какой ситуации находится, без пафоса и радостной истеричной самоподачи, которая является замечательной особенностью некоторых других народов. Поэтому если кто и способен выстроить отношения с машинами, то это русские. Если кто-то обладает невероятной страстью для того, чтобы вложиться в идею бессмертия и продления жизни, то это русские. Если есть народ, который возглавит многолетний поход в космос, то это, конечно, русские.