Заявления с помощью ИИ стремительно растут в сфере госуслуг, усиливая давление на ведомства
Новое исследование показывает, что заявления с помощью ИИ стремительно растут в сфере госуслуг, облегчая административную нагрузку для заявителей и одновременно перегружая ведомства и бюджеты.
Инструменты ИИ помогают всё большему числу людей заполнять формы, подавать жалобы и добиваться официального обжалования, что приводит к резкому росту обращений в государственные службы в ряде стран. Этот рост даёт имеющим право заявителям доступ к системам, которых они раньше, возможно, избегали, но одновременно заставляет ведомства обрабатывать гораздо больше обращений без признаков того, что штат и бюджеты успевают за этим темпом.
Исследователь Chris Schmitz документирует этот тренд в статье, которую планируется представить в следующем месяце на конференции AI Ethics and Society. Его обзор охватывает 84 потенциальных случая в 11 юрисдикциях, включая заявки на пособия, судебные петиции, парламентские петиции и жалобы потребителей. Он описывает этот паттерн как «agentic flooding», хотя исследование не доказывает, что ИИ напрямую вызвал каждый рост.
Эти выводы важны не только для государственной администрации. Они дают раннее представление о том, что происходит, когда ИИ-ассистенты уменьшают время, знания и уверенность, необходимые для навигации в сложных институциях, — и когда эти институции не рассчитаны на резкий рост спроса.
Объём жалоб растёт в разных юрисдикциях
Примеры, выявленные Schmitz, показывают необычно крупные всплески после 2022 года, по мере того как ориентированные на потребителей ИИ-инструменты становились проще в использовании. В Великобритании жалобы в жилищный омбудсмен выросли примерно с 2 600 в 2022 году до немногим более 7 000 в следующем году, согласно сообщению TechCrunch. Бюро по финансовой защите потребителей США за тот же период зафиксировало в пять раз больше жалоб, говорится в отчёте.
Аналогичный рост наблюдался в бразильских судебных петициях и немецких парламентских петициях. В более широком наборе данных поданные обращения в целом оставались стабильными до 2022 года, а затем начали расти быстрее по мере распространения ИИ. В большинстве случаев пока не наблюдалось явного замедления, что позволяет предположить, что спрос может продолжить увеличиваться.
Эти цифры следует рассматривать как свидетельство корреляции, а не как окончательное измерение причинного эффекта ИИ. Методология статьи не устанавливает, что ИИ был ответственен за каждое новое обращение, а доступные материалы не дают разбивки по каждому случаю, показывающей, сколько заявлений было создано или поддержано системой ИИ.
Термин «ИИ-агенты» в этой дискуссии также охватывает широкий спектр поведения. Некоторые люди могут использовать ChatGPT или Claude, чтобы подготовить ответ, интерпретировать письмо или определить нужную форму. Это отличается от автономной системы, самостоятельно проходящей по государственному порталу и подающей заявление. Исходные материалы в основном описывают деятельность с помощью ИИ, а не однородную группу полностью автономных агентов.
Снижение административной нагрузки может выявить неудовлетворённый спрос
Schmitz сказал TechCrunch, что большинство рассмотренных им случаев касались людей, которые, вероятно, имели право на что-то претендовать и добивались этого законного права. Это различие имеет центральное значение для политических выводов. Более длинная очередь не обязательно является признаком злоупотребления, если ИИ помогает людям преодолеть административную нагрузку, которая раньше мешала им подавать заявление.
Государственные формы и апелляции часто требуют от заявителей собрать документы, понять специализированный язык, изложить связную историю и соблюдать процедурные требования. Для человека с ограниченным временем, юридическими знаниями или уверенностью эти шаги могут быть достаточными, чтобы отказаться от законного требования. ИИ-ассистент может снизить это трение, превращая письмо или фотографию в черновик объяснения, предлагая недостающую информацию или помогая заявителю понять следующий шаг.
В результате возникает трудный компромисс. Государственные органы могут столкнуться с большим объёмом работы, потому что доступ к ним получают больше людей, но этот рост может означать улучшение доступа, а не низкокачественный спрос. Если считать каждое заявление, подготовленное с помощью ИИ, спамом, можно лишить услуг именно тех заявителей, которым цифровые инструменты впервые помогают.
В то же время источник сравнивает ситуацию с волной низкокачественных, но массовых сообщений, которые некоторые bug bounty-программы получили после распространения больших языковых моделей. Государственные службы не могут предполагать, что каждое обращение значимо только потому, что оно поступило от реального человека. Им по-прежнему нужны способы выявлять дубликаты, неполные заявки, вредоносную активность и требования, требующие человеческой проверки.
Ведомства сталкиваются с проблемой пропускной способности и надёжности
Немедленный операционный риск — это объём. Если ведомства получают в несколько раз больше запросов при том же бюджете и штате, очереди могут расти, время ответа — увеличиваться, а сотрудники на передовой могут тратить больше времени на сортировку, чем на решение дел. Система, построенная вокруг ручной проверки, может стать менее надёжной именно в тот момент, когда всё больше жителей учатся ею пользоваться.
ИИ мог бы помочь ведомствам справиться с этим давлением, но безопасное внедрение — это не простое обращение проблемы со стороны заявителя. Автоматическая первичная сортировка должна избегать дискриминации людей с неполными документами, языком, отличающимся от обучающих данных системы, или делами, не вписывающимися в типичные шаблоны. Государственным органам также потребуются чёткие правила в отношении конфиденциальности, хранения записей, апелляций и человеческой ответственности.
Для продуктовых команд и разработчиков civic-tech доказательства указывают скорее на необходимость переработки рабочих процессов, чем на тонкий слой чат-бота. Полезные системы должны объяснять право на получение услуги, запрашивать только необходимую информацию, выявлять неопределённость, сохранять подтверждающие материалы и облегчать проверку логики человеком-чиновником. Заявители должны иметь возможность исправить черновик, сгенерированный ИИ, до того, как он станет частью официальной записи.
Данные указывают на возможность, а не на простую историю успеха
Самые сильные утверждения в этой истории основаны на продолжающемся исследовании Schmitz, как его описал TechCrunch, а не на официальном межведомственном наборе данных или независимо подтверждённом причинном исследовании. Полный набор данных статьи, как сообщается, доступен, но приведённые материалы не раскрывают метод выборки, точную роль ИИ в каждом случае или то, были ли всплески вызваны изменениями в политике, общественной осведомлённости, штате или онлайн-доступе.
Сообщаемые цифры жалоб также представлены как примеры более широкой тенденции, а не как контролируемый эксперимент. Они показывают, что спрос на госуслуги менялся в тот же период, когда генеративный ИИ стал более доступным. Сами по себе они не доказывают, что рост объясняется ИИ-сгенерированными подачами.
Эта неопределённость не делает тренд неважным. Даже частичный вклад ИИ был бы значим для ведомств, которые исторически полагались на административные барьеры для ограничения спроса. Ключевой вопрос в том, могут ли институции отличать подлинный доступ от злоупотребляющего объёма, не восстанавливая барьеры, которые ИИ убрал.
На что обратить внимание дальше
Следующим важным сигналом станет публикация и обсуждение статьи Schmitz на конференции AI Ethics and Society. Исследователям и ведомствам понадобятся более детальные данные, связывающие отдельные заявления с ИИ-помощью, при этом отделяя помощь в черновике от автономных действий.
Операторы госуслуг также должны раскрывать изменения в очередях, времени обработки, повторных подачах и доле отказов по мере роста спроса с ИИ-помощью. Эти показатели могут показать, отражает ли новый объём подлинную неудовлетворённую потребность, процедурную путаницу или автоматическое дублирование.
Для разработчиков практическими индикаторами будут публикация ведомствами правил для заявлений с ИИ-помощью, наличие машиночитаемых форм и предоставление поддерживаемых путей к человеческой проверке. Более чёткие правила в отношении личности, согласия, обработки документов и права на обжалование определят, сможет ли ИИ снижать трение, не ослабляя надлежащую правовую процедуру.
Мнение Creati.ai
Сообщаемый всплеск — это предупреждение о том, что внедрение ИИ не заканчивается на интерфейсе. Когда инструмент облегчает существующий процесс, он может изменить число и тип людей, которые в этот процесс входят. Поэтому государственным органам нужно планировать расширение спроса, а не просто автоматизировать текущие очереди.
Наиболее конструктивный ответ — не отвергать заявления с ИИ-помощью и не принимать автоматически каждое обращение. Ведомствам следует перестроить услуги вокруг прозрачной помощи, строгой проверки и подотчётных человеческих решений. Если большинство новых запросов являются законными, задача не в том, чтобы подавлять доступ, а в том, чтобы построить государственные системы, способные справляться с доступом, который делает возможным ИИ.
