Обещание кажется очевидным. Если бюрократия состоит из формуляров, служебных заключений и административных решений, искусственный интеллект должен стать её естественным противником. То, на что сегодня уходят недели, можно было бы за считаные минуты разобрать, проверить и решить. Заявления больше не залеживались бы без движения, дела не кочевали бы из кабинета в кабинет, а гражданам не приходилось бы ждать. Машина читает быстрее, сопоставляет точнее, не забывает ни одного приложения и составляет решения без перекуров. С этой точки зрения искусственный интеллект представляется заменой бензопиле в борьбе с разросшимся государственным аппаратом.
Но именно это представление и вводит в заблуждение. Бюрократия — не просто медленная обработка информации и не неповоротливая справочная служба, которую можно заменить более быстрой. Это особое социальное сословие, распоряжающееся властными полномочиями и перераспределяющее миллиарды. Её функция состоит не только в том, чтобы изматывать очевидное бесконечными проверками. Она распределяет ответственность, регулирует конфликты, дробит компетенции и превращает политические решения в формально безупречные процедуры. Тот, кто видит в бюрократии лишь техническую неэффективность, принимает её осязаемую поверхность за неприкосновенное ядро.
Бюрократия, таким образом, — не отклонение в развитии современного государства, а один из органов, возникших вместе с ним. Европейское государство рождалось не только в противоборстве корон и войн, конфессий и конституций, но и из прочного союза права и письменности. Власть всегда означала в том числе и способность превращать людей в списки, собственность — в кадастры, подати — в доходы, приказы — в исполнение, а пространство — в предмет управления. Поэтому бюрократия — не ржавчина на государственном механизме, а часть его несущей конструкции. Сокращая бюрократию, мы затрагиваем не просто медлительную сферу государственных услуг, но и сам каркас государства. И ни один аппарат не станет добровольно сокращать себя, если от его размеров зависят его власть, защищённость и общественное положение.
Бюрократия действует в государстве подобно катализатору. Без неё власть остаётся инертной. Ни налогового уведомления, ни разрешения, ни реестра. Только благодаря ей государственная воля обретает способность воплощаться в действии. Опасность возникает там, где катализатор начинает ускорять не основной процесс, а побочные реакции: размножение ведомственных полномочий, снятие с себя ответственности и самосохранение.
Суть рассуждений Мизеса и Хайека вовсе не в том, что рынки всегда умнее бюрократии. Она заключается в другом: цены, собственность, прибыль и убытки позволяют превращать разрозненное знание в практическое действие. Бюрократические структуры способны справляться с чётко определёнными задачами, подчинёнными установленным правилам. Но предел их возможностей обнаруживается там, где требуется непрерывно обрабатывать практическое, локальное и постоянно меняющееся знание. Искусственный интеллект технически отодвигает эту границу. Политически он её не устраняет.
Именно поэтому представление о технологическом спасении столь же опасно, сколь и соблазнительно. Кажется, что машина способна дать государству то, чего оно едва ли может добиться собственными силами: ускорить свою работу, не ограничивая при этом собственную власть. Этой надеждой питались ещё кибернетические фантазии о государственном управлении XX века. Советский математик и кибернетик Виктор Глушков, с 1962 года возглавлявший Институт кибернетики в Киеве, разработал проект ОГАС — общегосударственной вычислительной сети для управления плановой экономикой. Аббревиатура означала «Общегосударственная автоматизированная система» учёта и обработки экономической информации. Бухгалтерский учёт, планирование и руководство народным хозяйством предполагалось объединить в единую иерархически организованную сеть. Сходную задачу преследовал и чилийский проект Cybersyn, разработанный при Сальвадоре Альенде для координации национализированной промышленности посредством оперативного обмена данными. Мечта упорядочить власть с помощью информации возникла задолго до цифровой эпохи.
Именно эти исторические предшественники позволяют понять природу проблемы. Их неудачи объяснялись отнюдь не одними техническими ограничениями. На пути вставали должности, ведомственные интересы и страх утраты власти. Советские функционеры опасались не столько самой техники, сколько потери собственного общественного положения. Автоматизация информации неизбежно затрагивает отношения власти. Сокращая цепочку принятия решений, мы лишаем кого-то того промежуточного пространства, в котором можно осуществлять влияние, перекладывать ответственность и отстаивать приобретённые привилегии. Поэтому нынешняя дискуссия об искусственном интеллекте воспроизводит старую иллюзию на новом языке: она рассматривает бюрократию как проблему обработки информации, хотя та давно превратилась в самостоятельную форму власти.
Разумеется, простейшие административные процедуры можно ускорить. Выдача справок о регистрации, обработка типовых заявлений, составление кратких обзоров дел и подготовка проектов документов прекрасно подходят для автоматизации. Искусственный интеллект способен сократить очереди и облегчить работу государственных служащих. Это принесло бы несомненную пользу. Но не здесь парализуется политическая инициатива страны. Наибольшие потери возникают там, где распределение государственных средств, реализация крупных проектов и выдача разрешений становятся предметом столкновения интересов ведомств, общественных объединений и экономических субъектов. Здесь бюрократия — уже не просто медлительность. Она представляет собой саму форму согласования интересов.
В подобных случаях исход дела определяется не недостатком информации, а соотношением интересов. Аэропорт остаётся недостроенным вовсе не потому, что некому составить краткое изложение его документации. Реконструкция школы дорожает не из-за отсутствия языковой модели. Жилищный проект срывается не потому, что чиновники не способны грамотно составить административное решение. Причины кроются в бюджетных ограничениях, пороговых значениях, бесконечных согласованиях и подписях, политических приоритетах и правилах государственных закупок. В конечном счёте всё упирается в вопрос: кто несёт ответственность за принятое решение? Именно этот вопрос искусственный интеллект разрешить не способен. Он может лишь быстрее его описать.
Поэтому искусственный интеллект не упразднит бюрократию. Поначалу он лишь автоматизирует её. И это принципиальная разница. Административная система, распределяющая ответственность между множеством инстанций, не станет ответственнее благодаря искусственному интеллекту. Ведомство, привыкшее уклоняться от принятия решений, не обретёт решительности только потому, что в его распоряжении появится языковая модель. Аппарат, выстроенный вокруг собственного освобождения от ответственности, получит в лице искусственного интеллекта ещё один инструмент такого освобождения. Машина не определяет, какие интересы должны иметь преимущество. Она не несёт политической ответственности.
Опасения массового исчезновения рабочих мест также не затрагивают всей глубины проблемы. Исчезнут прежде всего те виды деятельности, которые можно свести к набору стандартных операций. Лифтёры нажимали кнопки, телефонистки соединяли абонентов, наборщики составляли строки из литер. То, что некогда было профессией, сначала превратилось в рутинную операцию, а затем стало функцией техники. Но там, где речь идёт об ответственности, выборе и санкциях, по-прежнему необходим человек или институт, способный выступать их носителем. Поэтому опасность заключается не только в том, что искусственный интеллект заменит людей. Она состоит и в том, что он способен укрепить существующие иерархии: наверху — машинная подготовка решений, внизу — всё более точный контроль, исчерпывающая документация и ужесточение санкций. Искусственный интеллект — не самостоятельный субъект действия. Он лишь усилитель.
Поэтому решающий вопрос заключается не в том, ускорит ли искусственный интеллект работу бюрократии. Вопрос в том, какую именно бюрократию он ускорит. Сократит ли он путь к принятию решения или лишь ускорит производство подтверждающих документов? Облегчит ли жизнь гражданам и предприятиям или доведёт до совершенства формальную безупречность документации аппарата, давно утратившего способность действовать?
На своих простейших, периферийных уровнях бюрократия представляет собой проблему административного обслуживания. Но в самом её сердце лежит порядок власти. Там, где речь идёт о крупных проектах, огромных денежных средствах и политической ответственности, её не заменить языковыми технологиями. Ведь бюрократический аппарат состоит не из одних только текстов. Он существует благодаря договорённостям, интересам и связям.
Из этого, однако, вовсе не следует либертарианское учение о спасении через освобождение от государства. Тот, кто полагает, будто сокращение бюрократии автоматически означает освобождение, недооценивает тёмную сторону политического порядка. Власть не исчезает, когда государство отступает. Она перемещается в пространство частных и неформальных отношений.
Поэтому будущее вовсе не обязательно должно привести нас к либеральному минимальному государству. Оно с таким же успехом может обернуться футуроархаическим порядком: цифровые интерфейсы, алгоритмически непрозрачные административные структуры, феодальные островки власти и насквозь оцифрованное население, прозрачное для надзора.
Но из этого столь же мало следует вера во всеспасительную силу государства. Тот, кто оснащает разрастающийся бюрократический аппарат искусственным интеллектом, не удаляет опухоль. В худшем случае он лишь улучшает её кровоснабжение.
Альтернатива разросшейся бюрократии заключается не в романтическом разгосударствлении, а в таком политическом порядке, который ограничивает административный аппарат, не разрушая самой государственности. Не машина решает судьбу государства. Государство само решает, использовать ли машину для освобождения от институциональных оков или для доведения собственной косности до совершенства.
Искусственный интеллект способен заменить бюрократию лишь там, где она является управлением. Но он не заменит её там, где она является властью.