Введение

Цифровая трансформация государственного управления относится к стратегическим приоритетам развития Российской Федерации. Ее содержание не ограничивается заменой бумажного документооборота электронным, она предполагает изменение способов подготовки управленческих решений, предоставления государственных услуг и организации взаимодействия органов власти с гражданами.

Технологии искусственного интеллекта позволяют классифицировать значительные объемы информации, выявлять отклонения и закономерности, прогнозировать события и формировать рекомендации. Благодаря этому искусственный интеллект становится одним из инструментов модернизации административных процессов, повышения качества государственных услуг и совершенствования управленческой деятельности. Вместе с тем его внедрение сопровождается новыми угрозами — от киберпреступлений с использованием синтетического контента до недостаточной готовности государственных органов к выявлению и предотвращению технологических рисков.

Цель исследования заключается в определении современного уровня применения искусственного интеллекта в системе государственного управления, выявлении основных направлений его использования, а также оценке связанных с ним ограничений и угроз. В работе применяются методы сравнительного анализа, обобщения статистических данных и систематизации научных подходов.

Перспективы развития государственного управления до 2030 г. связаны с переходом от отдельных пилотных проектов к единой архитектуре доверенного искусственного интеллекта. Обновленная Национальная стратегия развития искусственного интеллекта закрепляет требования безопасности, объективности, недискриминации и защиты прав человека [1]. Реализация данных принципов предполагает формирование реестра государственных алгоритмов, документирование происхождения и качества используемых данных, проведение независимой проверки моделей, протоколирование автоматизированных операций и сохранение возможности пересмотра результата человеком. Эффективность внедрения следует оценивать не по количеству информационных систем, а по сокращению сроков предоставления услуг, административных расходов, ошибок и обоснованных жалоб граждан.

Результаты и обсуждение

По данным Национального центра развития искусственного интеллекта средний уровень внедрения искусственного интеллекта в органах исполнительной власти субъектов РФ составляет 13,4%, в муниципальных образованиях — 6,3%. В федеральных органах исполнительной власти лишь 20% ведомств обладают инфраструктурой для развития и использования искусственного интеллекта во всех административных процессах, еще 18% ведомств отметили наличие инфраструктуры для развития и использования данной технологии в большинстве процессов, а у 40% ведомств инфраструктура вообще отсутствует [2]. Приведенные показатели свидетельствуют о существенной дифференциации технологической готовности между уровнями публичного управления.

Рассмотрим на рисунке 1 использование технологии искусственного интеллекта в государственном управлении на 2024 год (в процентах).

Рис. 1. Использование технологии искусственного интеллекта в государственном управлении [3]

Данные показатели на рисунке свидетельствует о множественном внедрении технологии искусственного интеллекта, когда органы власти осваивают несколько технологических линий одновременно, а не последовательно. Следует отметить, что из всех направлений доминирует обработка текста (40,9 %), так как административная деятельность изначально предполагает делопроизводство, нормотворчество, обращения граждан, поэтому это позволяет говорить о переходе от простой оцифровки документов к семантической автоматизации: извлечению смысла, классификации обращений, автоматическому реферированию и генерации ответов через чат-ботов и виртуальных помощников. На втором месте по использованию находятся технологии компьютерного зрения (37,4 %), применяемые в сферах безопасности, ЖКХ, транспорта и распознавания документов, что способствует переходу от реактивного реагирования к превентивному наблюдению. Менее всего используется технология при интеллектуальной поддержке принятия решений и повышения ее эффективности.

Практическое использование технологии искусственного интеллекта в государственном управлении охватывает несколько групп задач. При работе с обращениями граждан алгоритмы распознают и классифицируют текст, выявляют массовые или повторяющиеся проблемы, направляют сообщения ответственным органам и помогают подготавливать проекты ответов. В электронном документообороте они применяются для поиска правовых норм и противоречий, сопоставления редакций документов, извлечения реквизитов, составления кратких резюме и проектов служебных материалов.

Геопространственная аналитика позволяет использовать спутниковые снимки и ведомственные данные для обнаружения изменений в землепользовании, оценки состояния объектов, а также выявления экологических и инфраструктурных рисков. Интеллектуальные системы поддержки решений могут прогнозировать потребность в социальной, транспортной и медицинской инфраструктуре, определять приоритетность объектов контроля, выявлять аномалии в государственных закупках и бюджетных операциях. При этом юридически значимое решение должно утверждаться уполномоченным должностным лицом.

В сфере государственных услуг алгоритмы способны определять наступление жизненной ситуации, информировать гражданина о положенных мерах поддержки и предварительно заполнять заявления. Это создает условия для перехода от реактивной модели, при которой государственный орган начинает действовать после обращения заявителя, к проактивному обслуживанию, предполагающему предложение услуги после наступления юридически значимого события.

Применение технологии искусственного интеллекта может повысить скорость и обоснованность государственных решений, однако последствия технологических ошибок в публичном секторе особенно существенны. Некорректная работа коммерческой модели обычно затрагивает ограниченный круг клиентов, тогда как ошибка государственной системы способна повлиять на реализацию прав значительного числа граждан, назначение социальных выплат, проведение контрольных мероприятий и распределение бюджетных средств.

Основные риски применения искусственного интеллекта в государственном управлении могут быть систематизированы следующим образом.

1. Масштабирование ошибок. Государственный служащий может допустить ошибку при рассмотрении отдельного дела, тогда как некорректно настроенный алгоритм способен одинаково неверно обработать тысячи заявлений. Причинами могут стать неполнота исходных сведений, ошибки разметки данных, программные дефекты или изменение внешних условий. Модель, обученная на материалах определенного периода или региона, не всегда обеспечивает сопоставимую точность в иной территориальной и социально-экономической среде. Поэтому качество алгоритма необходимо контролировать как до его ввода в эксплуатацию, так и на протяжении всего периода использования.
2. Нарушение конфиденциальности. Разработка и обучение моделей требуют значительных информационных массивов, которые могут содержать сведения о доходах, состоянии здоровья, трудовой деятельности, имуществе и получении социальной поддержки. Объединение данных различных ведомств повышает аналитические возможности системы, но одновременно увеличивает последствия возможной утечки и риск несанкционированного профилирования граждан. Даже обезличенная информация при сопоставлении нескольких наборов данных в отдельных случаях позволяет повторно установить личность человека. В связи с этим обработка информации должна соответствовать Федеральному закону № 152-ФЗ «О персональных данных», а доступ к ней необходимо ограничивать объемом, требующимся для исполнения конкретной государственной функции.
3. Угрозы кибербезопасности и внешнее воздействие. Интеллектуальные системы становятся дополнительными объектами компьютерных атак. Злоумышленники могут подменять обучающие данные, направлять специально сформированные запросы, получать конфиденциальную информацию или провоцировать модель на выдачу ошибочного результата. Наиболее опасны подобные действия в системах, связанных с критической информационной инфраструктурой, государственными финансами и социальной поддержкой. Дополнительным фактором риска выступает зависимость от внешних программных компонентов, порядок обновления и функционирования которых не контролируется государственным органом.

В 2025 году МВД России зафиксировало 663 тысячи киберпреступлений, это на 12% меньше, чем годом ранее. Число жертв кибермошенников уменьшилось в прошлом году на 5,5%, до 534,5 тысяч человек. Сумма зарегистрированного материального ущерба снизилась с 205 млрд руб. до 189,5 млрд рублей [4]. Несмотря на положительную динамику, абсолютные значения свидетельствуют о сохранении значительного уровня угроз.

4. Формирование недостоверного контента. Генеративные языковые модели могут создавать убедительные по форме, но фактически неверные тексты, ссылки и правовые конструкции. Использование подобных материалов без дополнительной проверки способно привести к ошибкам в служебных записках, ответах на обращения и проектах нормативных правовых актов. Генеративный искусственный интеллект следует рассматривать как вспомогательный инструмент, а не как самостоятельный источник юридически значимых выводов. Подготовленные с его помощью документы должны проходить содержательную и правовую экспертизу.
5. Размывание ответственности. При разработке и эксплуатации системы одновременно участвуют поставщик технологии, обладатель данных, оператор и государственный орган. Такая структура может затруднить определение лица, ответственного за неблагоприятный результат. Кроме того, возникает риск предвзятости автоматизации, при которой служащий доверяет машинной рекомендации даже при наличии признаков ее ошибочности. Формальное право изменить предложенный системой результат не обеспечивает полноценного контроля, если сотрудник не понимает принципов работы модели либо избегает отклонения от ее выводов. Поэтому ответственность за окончательное решение должна сохраняться за соответствующим государственным органом и конкретным должностным лицом.

А.А. Ефремов отмечает, что переход к модели «умного» государства ограничивается действием правовых норм, которые первоначально не были рассчитаны на принятие юридически значимых решений посредством автоматизированной обработки данных [5]. Другие исследователи подчеркивают необходимость обеспечения качества информации, участия отраслевых экспертов, соблюдения этических требований и комплексной защиты интеллектуальных систем [6].

6. Подмена общественных целей формальными показателями. Алгоритм оптимизирует тот критерий, который установлен разработчиком или заказчиком. Если эффективность органа власти определяется преимущественно скоростью закрытия обращений, система может способствовать их формальному завершению без фактического разрешения проблем граждан. При оценке жизненной ситуации по ограниченному набору сведений также могут быть проигнорированы обстоятельства, которые не представлены в государственных реестрах. В результате формальные показатели улучшаются, тогда как содержательное качество управления остается неизменным или снижается.

Снижение перечисленных рисков предполагает применение риск-ориентированного подхода. До запуска системы необходимо оценить возможный вред, определить категории лиц, на которых может повлиять ее работа, и установить допустимую степень автоматизации. Для решений высокого риска требуются независимый аудит, проверка моделей на дискриминационные эффекты, защита данных, журналирование операций и регулярный мониторинг точности. Гражданина следует информировать об использовании технологии искусственного интеллекта, знакомить с основаниями принятого решения и обеспечивать возможность его пересмотра человеком. Таким образом, центральным принципом цифровой трансформации должно быть не максимальное вытеснение государственного служащего, а контролируемое расширение его аналитических возможностей при сохранении ответственности государства.

Одной из национальных целей Российской Федерации является достижение к 2030 г. цифровой зрелости государственного и муниципального управления, предусматривающей автоматизацию большей части транзакций и принятие решений на основе данных с применением машинного обучения и искусственного интеллекта [7]. Достижение этой цели требует совместимости государственных информационных систем, единых требований к данным, развития компетенций служащих и сохранения традиционных каналов обслуживания для граждан, не обладающих достаточными цифровыми навыками.

Заключение

Результаты исследования показывают, что искусственный интеллект может повысить оперативность, обоснованность и адресность государственного управления. Наиболее востребованными направлениями его применения выступают анализ текстовой информации, обработка обращений граждан, автоматизация документооборота, компьютерное зрение и геопространственная аналитика. Вместе с тем уровень внедрения технологии остается неоднородным, особенно на муниципальном уровне, а значительная часть государственных органов пока не обладает необходимой инфраструктурой.

Масштабное использование технологии искусственного интеллекта сопряжено с рисками автоматического воспроизведения ошибок, нарушения конфиденциальности, внешнего вмешательства, формирования недостоверных сведений, размывания ответственности и ориентации на формальные показатели. Вследствие этого интеллектуальные системы не должны самостоятельно принимать решения, непосредственно затрагивающие права и законные интересы граждан.

Устойчивый эффект цифровой трансформации возможен в рамках модели, при которой человек принимает окончательное решение, а алгоритм выполняет аналитическую и вспомогательную функции. Сочетание современной инфраструктуры, качественных данных, профессиональных компетенций, правовых гарантий и общественного контроля позволит использовать искусственный интеллект как средство создания публичной ценности, а не как самоцель технологической модернизации.