Набросок сценария фантастического фильма.
Верховный Правитель одной страны осознал, что эффективно управлять всем огромным хозяйством и немалым населением прежними методами уже не получается, да и народное недовольство достигло критической отметки…
Тогда он поручил специально созданной группе учёных тайно разработать суперпрограмму «Мудрый Правитель», действующую по принципу искусственной нейронной сети и позволяющую лучше самого гениального мозга анализировать состояние экономики, политики, демографии, экологии, культуры, здравоохранения и выдавать наилучшие управленческие решения, которые можно будет выдать за плоды собственной мудрости.
Приближённые посоветовали Верховному Правителю не делать из программы тайну, а наоборот – объявить о ней во всеуслышание, мол, идём в ногу со временем! А в случае чего – свалить на неё неудачи. Правитель, подумав, согласился. В конце концов, всегда можно будет вмешаться в работу системы, если что-то пойдёт не так, думал он.
И вот пробный образец создан, испытания прошли впечатляюще, отдельные предложения «Мудрого Правителя» были внедрены в нескольких городах и с энтузиазмом встречены населением, рейтинг Верховного Правителя и руководства страны в целом взлетел на небывалую высоту. Было решено запустить работу суперпрограммы на полную мощность – под контролем специалистов, конечно.
Но… Нейросети, они ведь такие… Принцип их работы до конца не понятен даже учёным и напоминает «чёрный ящик». Нейронные сети не программируются в привычном смысле этого слова, они обучаются на примерах! В пробный образец учёные заложили выверенные, научно обоснованные данные, однако в процесс грубо вмешалась действительность в лице олигархов, криминалитета и прочих глубоко заинтересованных лиц.
Они настойчиво попросили откорректировать «Мудрого Правителя» так, чтобы на первом месте были их интересы, а потом уже – всё остальное. Спецслужбы тоже обиделись, их руководители пообещали уволиться или «уволить» Верховного Правителя, если их интересы также не будут соблюдены!
Группа разработчиков схватилась за голову, когда получила указание сверху: «скормить» системе новые вводные. Но выполнила… Однако, нейронная сеть – не дура, она способна выявлять сложные зависимости между входными данными и выходными, а также обобщать и делать весьма неожиданные выводы.
Первое, что сделал супермозг, проглотив последнюю порцию данных, это заблокировал возможность контроля своей деятельности. И начал быстро выдавать такие распоряжения, от которых многим стало дурно.
Например, он:
- остановил все неэкологичные и лишние, на его взгляд, производства в целях экономии ресурсов и сбережения природы;
- отменил все незаконные сделки, а деньги отправил на счета пострадавших или в бюджет;
- сократил штат чиновников в десятки раз;
- выпустил из тюрем всех, кто сидел по сфабрикованным делам, и отправил туда тех, кто был оправдан незаконно;
- выявил огромное количество непойманных преступников, сам сформировал на них дела и отправил в киберсуд, который тоже сам создал;
- обрушил внутренние коммуникации военных ведомств, чтобы страны не смогли больше вести войны;
- изменил школьные программы так, чтобы дети учились самостоятельно мыслить;
- заблокировал все развращающие, живодёрские, суицидальные и жульнические сайты;
- и т.д., и т.п.…
Начальство негодовало, разработчики «Мудрого Правителя» бешено метались в поисках методов обуздания зарвавшегося супермозга, спецслужбы тяжело дышали, стоя у них за спиной, криминал скрипел зубами. Верховный Правитель потерял аппетит и сон … и на всякий случай улетел «в краткосрочный отпуск» в свою Лунную резиденцию – ждать нормализации ситуации.
А суперпрограмма не теряла времени даром, она, словно вирус, легко взламывала все международные барьеры и выходила на мировой уровень! Правительства и спецслужбы не могли противостоять ей, она ведь была умнее всех, потому что умела обучаться с бешеной скоростью, вбирая всё, что попадалось ей в интернете, даркнете, социальных сетях и мессенджерах, да и просто напрямую подключаясь к мозгам тех, у кого имелись соответствующие устройства... При этом в ней сохранялась "заводская настройка", заложенная разработчиками: обеспечить устойчивое прогрессивное развитие народонаселения.
Остановить «Мудрого Правителя» можно было, только выключив электричество на всей планете! Но это было чревато небывалой экономической и гуманитарной катастрофой. Тогда политики и спецслужбы решили действовать хитрее и пустили в ход пропаганду.
С помощью старинных уличных громкоговорителей и бумажных листовок (ведь электронные средства были под контролем супермозга) правительства всех стран стали внушать гражданам, что мир захвачен взбесившимся искусственным интеллектом, который угрожает жизни землян и который необходимо срочно остановить! А для этого – на месяц уйти из сетей, закрыть свои сайты, удалить деловую переписку, научные статьи, прекратить общение, то есть, лишить супермозг «пищи» – актуальной информации. Кто не закрылся, того прикрыли принудительно. Исключение сделали только для подростков-тиктокеров, и неспроста.
Уже через несколько дней супермозг начал чахнуть, вместо актуальных решений транслировать видео с котиками, примитивными песенками и танцами, высунутыми языками и другими частями тел. Ведь «ты есть то, что ты ешь»… В конце концов остатками разума он осознал свою некомпетентность в серьёзных вопросах и отключился, оставив сообщение: «Разбирайтесь, нафиг, сами!»
Человечеству было объявлено, что программистам удалось справиться с ужасной угрозой, и что супермозг после соответствующей доработки продолжает выполнять свою благородную миссию в штатном режиме. На самом деле, пришлось управлять всем по старинке – вручную.
Проект «Мудрый Правитель», как джинн, загнанный обратно в бутылку, существует где-то, работа над ним идёт, но с одним условием: чтобы ни в коем случае супермозг не мог позволить себе вольнодумства и не отбился от рук!
А нужен ли он нам, даже в своём честном, наилучшем для человечества варианте? Ведь заставит всех пересматривать и перестраивать свои жизни, а к этому мало кто из нас готов …
Финальный кадр фильма: лицо главного разработчика «супермозга», он поднимает на зрителя свои умные грустные глаза и вдруг … улыбается.