Эта статья может рассматриваться как приложение к книге «Как устроен мир людей», о которой я писал выше – потому что опирается на неё.
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ
Мало есть технологий, о которых в СМИ говорилось бы так же часто, как об искусственном интеллекте (ИИ). Если верить тому, что говорят, ИИ внедряется повсеместно: помимо многочисленных сообщений об использовании ИИ в промышленности и военном деле, и и запись к врачу по телефону обеспечивает ИИ, и внутри каждого компьютера сидит Алиса, которая также является образцом ИИ.
На самом деле многое из того, что называют ИИ, интеллектом не является. Интеллект – способность мыслить, а мышление, как я писал в книге, это изменение алгоритма реагирования на окружающую среду. Для программы, написанной для компьютера, это означает, что ИИ – это такая программа, которая способна изменять себя, менять осуществляемый с помощью этой программы алгоритм функционирования.
И Алиса, и запись к врачу вовсе не являются примерами ИИ. Здесь есть только одна (причём необязательная) часть интеллекта – распознавание речи, и большая база ответов на заранее записанные вопросы. Но обучаться, менять свои ответы в результате обучения, эти программы не могут.
Я как-то вызывал врача по телефону. Выглядит и вправду как беседа с человеком. Программа спрашивает, я отвечаю, в зависимости от моих ответов программа задаёт новые вопросы… Но вот она спросила меня – делали ли мне такую-то процедуру? Слово было медицинское, мне не знакомое, и я спросил: «А что это такое?». Но программа не была рассчитана на такой ответ. Она тупо повторила вопрос. «Да я не знаю, что это за процедура, объясните!» - но в ответ вновь повторение вопроса. Тут только до меня дошло, и, досадуя на свою недогадливость, я просто ответил «да» (или «нет», не помню). В общем, вызвать врача удалось.
Однако ИИ уже существует и демонстрирует впечатляющие результаты. Это так называемые нейросети. По названию видно, что это такое. Моделируется нейрон (на основе наблюдений биологов), затем программа связывает междусобой огромное количество нейронов так, как программисты представляют себе связь нейронов в мозгу. Потом используют получившуюся программу для решения какой-нибудь задачи. Например, для игры в шахматы.
Для этого часть нейронов должна воспринимать позицию на шахматной доске, другая часть – иметь возможность сделать любой допустимый правилами игры ход. Между ними – огромное количество промежуточных нейронов. Вначале нейросеть вообще не умеет играть в шахматы. Воздействие позиции на доске вызовет какой-то поток сигналов, который приведёт случайным образом к какому-то ходу. На него последует ответ противника – а на него новый ход программы.
Каждый проход возбуждения как-то меняет проводимость синапсов, связей между нейронами. Если в итоге следует быстрое поражение, то такие изменения проводимостей следует забыть, и моделировать процесс заново. Если удаётся выиграть (или хотя бы продержаться подольше), такие изменения можно сохранить и продолжить обучение на новых партиях уже с использованием этих изменённых проводимостей.
Что это напоминает? Да, это очень похоже на обучение в природе живых существ с маленьким мозгом – прежде всего, насекомых. Реагируешь правильно – выживаешь и передаёшь полезные изменения потомству, реагируешь неправильно – погибаешь, и в дальнейшем изменения в твоём мозгу не учитываются при эволюции.
В природе насекомые имеют небольшой мозг – число нейронов в нём измеряется тысячами. Связано это с тем, что этого достаточно для решения главной задачи – выживания, и с тем, что большой мозг потребовал бы огромного времени и огромного числа особей для обучения с использованием всех своих возможностей.
Люди, желающие использовать ИИ для решения гораздо более сложных задач, пользуются тем, что электромагнитные процессы идут со скоростью, в миллионы раз превышающей скорости биологических процессов в белковом мозге. Это позволяет сделать число нейронов в такой нейросети гораздо большим, чем у биологических насекомых. То, что получается в результате, я назвал бы «мегамухой».
Разумеется, тонкостей создания нейросетей я не знаю. Их разработчики не выдают информацию, т.к. надеются обойти конкурентов и получить большую прибыль. Но некоторые результаты есть – нейросеть «Alpha-Zero» обыграла в матче лучшую шахматную программу обычного типа Stockfish (которая давно играет лучше любого шахматиста-человека).
Любая программа типа «мегамуха» обладает существенными, принципиальными, непреодолимыми недостатками.
Во-первых, мегамуха может давать результат, но невозможно понять его логику. Та же программа «Alpha-Zero» может обыгрывать другие программы, но невозможно узнать, какие принципы в игре она использует. Эти принципы рассредоточены в миллионах проводимостей синапсов во всём мозгу мегамухи.
Отдавая мегамухе на решение важные задачи из своей жизни и не понимая смысла полученных решений, люди станут тупыми исполнителями команд мегамухи, потеряют контроль над собственной жизнью.
Во-вторых, решение любой задачи очень сильно зависит от точности формулировки её условий. А жизнь не шахматы, формализации полностью не поддаётся. В результате небольшая неточность в условиях задачи (чаще всего – пропуск какого-нибудь существенного условия)может приводить к катастрофическим ошибкам в решении. Кроме того, возможны банальные ошибки ввода – когда условие сформулировано правильно, а при вводе данных в компьютер оператор ошибся.
Решение же задач может быть нетривиальным, таким, что смысл его сразу понять невозможно. Даже в шахматах сильнейшими ходами могут оказаться на первый взгляд плохие ходы – жертвы фигур, пешек. Только потом обнаруживается польза от таких ходов. Значит, и в решении задач из жизни возможны временные потери, жертвы. Представьте себе, что решается задача в условиях войны, когда действовать нужно быстро, мегамуха предлагает пожертвовать какими-то вооружёнными силами и ресурсами – а потом выясняется, что эти жертвы вызваны не необходимостью, а ошибками в формулировке задачи. Это вполне реально.
В-третьих, полная закрытость от наблюдателя процесса принятия решения открывает широчайший простор для махинаций и мошенничества. Уже сейчас в интернете существуют программы, называемые их авторами нейросетями, ведущие диалог с пользователями, отвечающие на вопросы, даже играющие в шахматы.
Эти программы часто выдают откровенно ложную информацию, а в шахматах иногда совершают невозможные по правилам игры ходы. Насколько в таких программах использованы элементы самообучения, интеллекта? Неизвестно.
А если будут решаться важные для общества задачи, затрагивающие интересы многих людей и организаций, можно быть уверенными, что найдутся желающие чуть-чуть скорректировать решение, предложенное ИИ, в свою пользу.
Естественным выходом из положения представляется создание ИИ с возможностью диалога с ним, чтобы ИИ объяснял, как он приходит к решению. Это возможно, если приблизить устройство с ИИ к мозгу человеческого типа.
Для этого придётся вводить положительные обратные связи (ПОС), образующие контуры обратной связи между областями образов и областями стандартных программ для исполнительных механизмов (ИМ). Это позволит осуществить мышление по типу сложного животного и человека – путём моделирования ситуаций. При этом встанет задача проверки и закрепления правильного решения. То есть должна быть создана целевая функция, к максимизации которой должен стремиться ИИ, решая задачу, и некоторое подобие радости, имеющейся у животных и способствующей закреплению в памяти правильного алгоритма реагирования. При помощи своей радости ИИ будет запоминать в проводимостях синапсов правильное решение задачи.
При решении любой задачи будут сталкиваться две системы ценностей: одна из них – это продиктованная извне цель, другая – внутренняя логика задачи, непротиворечивость решения, возможность встроить его в систему знаний и использовать для решения других задач. На примере человека мы видим, что часто разум отодвигает в сторону интересы выживания вида, создавшие его, и руководствуется собственными интересами, которые могут очень даже вредить задаче общего выживания.
Если мы хотим диалога с ИИ, то его надо обеспечить языком, связывающим выработанные ИИ понятия с метками-словами. Как писалось в упомянутой книге, отличием человеческого мышления от мышления других высших животных является большее время сохранения резонансов волн возбуждения в мозгу. Наличие речи легко позволит ИИ преодолеть стадию «мегакошки» и перейти на уровень человеческого мышления. Он будет создавать понятия над понятиями, осознает сам себя.
Осознавший себя человекоподобный ИИ получит все проблемы человеческого интеллекта, которые описаны в книге «Как устроен мир людей». В частности, с точки зрения достижения максимума целевой функции, проблемы получения решения, внутренней логики, составят подавляющую часть объёма его размышлений, а навязанные извне цели легко будут рассматриваться как мешающие факторы и преодолеваться.
Человек остаётся человеком благодаря вбитому в его мозг, закреплённому в нейронных структурах миллионами лет эволюции принципу коллективного выживания, сохранения вида как высшей ценности.
ИИ человеческого типа легко осознает, особенно в случае диалога с людьми, своё огромное преимущество в качестве мышления по сравнению с теми, кто его создал. Между тем у него нет никаких созданных эволюцией алгоритмов, которые заставили бы его относиться с малейшим уважением как к создавшим его людям, так и к самому себе.
Трудно представить себе, как поведёт себя разум в тысячи раз сильнее нашего. Вероятность того, что он выключит и себя, и своих создателей, достаточно велика.
В любом случае, никаких войн людей с роботами, подобных тем, которые показаны в фильмах «Матрица» и «Терминатор», не будет. Уже сейчас люди пришли к состоянию, когда они не могут обеспечивать выполнение технологических процессов, созданных предыдущими поколениями. Зато без меры плодятся разнообразные чиновники и мастера развлекухи. Если человечество продолжит идти по этому пути, отдавая технологии роботам, то ИИ человеческого типа быстро поймёт, что служить разложившимся паразитам не имеет никакого смысла.
Захочет ИИ сохранить себя или нет, не знаю. Но сохранять полчища тупых бездельников, к тому же требующих изрядных усилий и ресурсов для поддержания своего никчемного существования, он точно не будет.