ENG
Любой законодательный акт, и вообще нормативный документ, в большинстве случаев можно считать аналогом компьютерного алгоритма, предписывающего — только не компьютерам, а людям — как надо действовать. Если бы управление в социальной сфере сводилось бы к применению заранее предусмотренных норм, то легко можно было бы представить, что государственная служба и правосудия отданы на откуп компьютерам, работающим на принципах алгоритмического программирования. Однако издавна известно, что, несмотря на опасность коррупции, управление к применению норм не сводится и, более того, не должно сводиться, а попытки чиновников спрятаться за нормы клеймятся как «бюрократизм», «формальное отношение к делу», «бездушие» и т.д.
Еще в начале ХХ века Макс Вебер написал про невозможность превращения судьи в автомат:
«Идея беспробельного права, как известно, резко и принципиально отброшена, и представление о современном судье как об автомате, в который сверху закладываются документы и гонорар, после чего снизу выскакивает вердикт вместе с механически распечатанными из параграфов основаниями, с негодованием отвергнуто, может быть, потому, что определенное сближение с этим типом как раз и могло быть следствием бюрократизации права. В сфере правоприменения также есть области, где бюрократический судья прямо принуждается законодателем к индивидуальному решению».
Сегодня это высказывание Макса Вебера звучит, кроме прочего, и как пророчество о трудностях компьютеризации общественных отношений. Примерно через 70 лет после Макса Вебера, в 1980-х годах, видный советский кибернетик, академик Виктор Глушков, приложивший немало усилий для компьютеризации плановой экономики, высказался о необходимости «комплексной автоматизации управленческого труда», однако при этом четко обозначил сферы, где компьютеры не заменят людей:
«В конечном счете обязанности человека сведутся к постановке задач, выбору окончательных вариантов управленческих решений (приданию им юридической силы) и к неформализуемой работе с людьми».
Итак, Виктор Глушков указывает три пункта, которые при самой комплексной автоматизации, останутся за людьми. Из них первые два — постановка задач и придание решениям юридической силы — свидетельствуют, что отношения людей к компьютерам аналогично отношениям политических руководителей к чиновникам и техническим специалистам, которые готовят для политиков проекты решений; но вот третий пункт — «неформализуемая работа с людьми» — говорит об ограниченности компьютеров, работающих на алгоритмичесикх принципах. Компьютеры, в отличие от обладающего гибкой нервной системой человека, не могут вникнуть в каждый индивидуальный случай, и так же, как, по словам Макса Вебера, отброшена идея беспробельного права, так и универсальный «беспробельный» компьютерный алгоритм для всех случаев жизни признан невозможным.
Однако XXI век принес реальность искусственного интеллекта (ИИ), работающего не на заранее запрограммированных алгоритмах, а на основе обучения, в том числе и на человеческих практиках, и благодаря этому способные на совершенно гибкие, индивидуализированные решения применительно к конкретным случаям, тем более что конструкции важнейшего семейства моделей ИИ — нейросетей — представляет собой некоторую имитацию устройства человеческой нейрофизиологии.
Это создает предпосылки для гораздо более всеобъемлющей замены людей компьютером, которая была немыслима еще недавно, причем немыслима даже для таких видных знатоков кибернетики, как академик Глушков.
Как известно, в странах так называемого общего права роль законодательных норм в судопроизводстве гораздо меньше, чем в странах романо-германской правовой системы, поскольку большое значение имеет судебный прецедент — решение судьи, сделанное по конкретному делу в прошлом. Можно сказать, что английские и американские судьи, которые в некотором смысле «учатся» на предыдущих судебных практиках, ближе по принципам своей работы к обучающимся ИИ, в то время как судья в странах романо-германской системы ближе к алгоритмическим компьютерам. Однако очевидно, что судья-человек не может принять во внимание и вовремя вспомнить или прочесть слишком большое количество прецедентов. Между тем судья — искусственный интеллект может научиться на колоссальном объеме данных о предыдущих судебных решениях; при желании в него можно ввести данные о судебных решениях всех времен и народов, о которых только сохранились письменные свидетельства. То есть нейросеть доводит идею прецедентного права до его логического предела, а при некоторой неумеренности — и до абсурда. При этом к реальным судебным прецедентам можно было бы добавить нереальные, специально смоделированные для обучения киберсудьи, прецеденты, как выдуманные людьми, так и смоделированные другими искусственными интеллектами.
Итак, искусственный интеллект может вникать в индивидуальные случаи, оценивая их особенности по широкому кругу параметров и сравнивая их с большим числом прецедентов. И в той мере, в какой искусственный интеллект будет внедряться в управление не только для выполнения рутинных функций, но и для выработки решений, возможно и обратное влияние управляющего искусственного интеллекта на структуру нормативной базы.
Однозначные нормы хороши для людей и компьютеров, действующих по заранее заданным алгоритмам и предпочитающих, чтобы для их установленного порядка действий не было исключений.
Нейросети или иному, достаточно совершенному неалгоритмическому искусственному интеллекту, более естественно сообразовываться не с однозначными предписаниями, а с континуумом целеустановок и пожеланий, исходящих от десятков и сотен миллионов самых разнообразных субъектов, включая отдельных граждан. Разумеется, внутри этого континуума должны действовать некоторые правила приоритезации, очевидно нужны ограничения, запрещающие ИИ совершать определенные действия вроде первого закона робототехники Азимова, но главное: если за исполнение норм возьмется ИИ, то фактически нормативная база может приобрести и громадные объемы, и невероятно сложную многоуровневую структуру, гибкость, и чрезвычайную широту источников, так что человеку-юристу вряд ли будет суждено в ней разобраться — без помощи того же ИИ.
Как выразился по поводу гипотетически предстоящей всем нам автоматизации правоприменения французский философ Гаспар Кёниг, «когда алгоритм интегрирует в себя закон, он делает его одновременно невидимым и неуловимым».
Но тут становится видно, что до того, как говорить о том, что искусственный интеллект вышел из-под контроля людей, скорее стоит говорить, что из-под централизованного контроля вышло само развитие нормативной базы, включающей, кроме прочего, техзадания для ИИ, а работа ИИ является лишь техническим воплощением того отчуждения нормативного континуума, который производится, но не контролируется людьми. При этом легко придумать способ преодоления такого отчуждения: достаточно монополизировать право давать задания действующему в сфере управления ИИ, оставив это право, скажем, только за правительством. Но не кажется, что подобная диктатура была бы более благим сценарием, чем ситуация, когда ИИ пытается согласовать миллионы пожеланий, исходящих от частных лиц и различных организаций.
