AI 協助的申請在公共服務中激增,對機構帶來更大壓力

一項新研究發現,AI 協助的申請在公共服務中激增,減輕了申請人的行政負擔,同時也讓機構與預算承受壓力。

AI News

AI 工具正幫助更多人完成表格、提出申訴,並推進正式上訴,因而在多個國家造成公共服務請求的大幅增加。這種成長讓符合資格的申請人得以接觸到他們過去可能會避開的系統,但也迫使機構在沒有證據顯示人力與預算同步增加的情況下,處理遠更多的提交案件。

研究者 Chris Schmitz 正在一篇預定下個月於 AI Ethics and Society 會議發表的論文中記錄這項趨勢。他的回顧涵蓋 11 個司法管轄區中的 84 個潛在案例,包括福利申請、司法請願、議會請願與消費者申訴。他將這種模式描述為「agentic flooding」,不過研究並未證明 AI 直接造成每一次增加。

這些發現的重要性不僅限於政府行政。它們提供了 AI 助理如何減少人們在複雜制度中摸索所需的時間、知識與信心,以及當這些制度並非為吸收需求突然上升而設計時會發生什麼事的早期觀察。

各司法管轄區的申訴量都在上升

Schmitz 所辨識的例子顯示,在 2022 年之後出現異常大幅的增加,因為面向消費者的 AI 工具變得更容易使用。根據 TechCrunch 的報導,在英國,住房申訴專員收到的申訴從 2022 年的約 2,600 件上升到隔年的略高於 7,000 件。報導指出,美國消費者金融保護局在同一期間記錄到的申訴數量增加了五倍。

類似的成長也出現在巴西的司法請願與德國的議會請願中。在更大的資料集中,2022 年之前的提交量整體上大致穩定,之後隨著 AI 採用擴散而開始更快增加。多數案例至今仍未顯示明顯放緩,這表示需求可能會持續累積。

這些數據應被視為相關性的證據,而非 AI 因果效果的確切衡量。論文的方法並未證明 AI 對每一件新提交都負有責任,現有報導也沒有逐案拆解有多少申請是由 AI 系統建立或協助的。

在這段討論中,「AI 代理」一詞也涵蓋了非常廣泛的行為。有些人可能會使用 ChatGPT 或 Claude 草擬回覆、解讀信件,或找出相關表格。這與一個自主系統獨立進入政府入口網站並提交申請是不同的。來源證據主要描述的是 AI 協助的活動,而非一群一致、完全自主的代理。

降低行政負擔可揭示尚未被滿足的需求

Schmitz 告訴 TechCrunch,他審視的大多數案例都涉及可能有權提出申請的人,並且是在追求那項正當權益。這個區分對政策意涵至關重要。若 AI 正在幫助人們克服先前阻止他們提出申請的行政負擔,那麼較長的排隊不一定就是濫用的證據。

政府表格與上訴通常要求申請人蒐集文件、理解專門用語、提出連貫敘述,並符合程序要件。對於時間有限、法律知識不足或缺乏信心的人來說,這些步驟足以讓一項有效請求被放棄。AI 助理可以將這種摩擦降低,將信件或照片轉為說明草稿、建議缺漏資訊,或幫助申請人理解下一步。

結果是一個困難的權衡。公共機構可能因為更多人能夠接觸到它們而面臨更多工作,但這種增加也可能代表可近性提升,而不是低品質需求。若把每一件 AI 協助提交都當成垃圾內容,可能會讓那些正是數位工具首次幫上忙的申請人被拒於門外。

同時,來源將此情況與大型語言模型擴散後,一些 bug bounty 計畫收到的大量低品質回報相提並論。公共服務不能只因為提交來自真人,就假設每一件都具有意義。它們仍然需要方法來辨識重複、未完成的申請、惡意活動,以及需要人工審查的請求。

機構面臨容量與可靠性問題

眼前的營運風險在於量能。若機構在預算與人力不變的情況下收到數倍的請求,積壓可能增加、回應時間可能拉長,而第一線人員可能花更多時間在分流而不是解決案件。建立在人工審核上的系統,可能會在更多居民學會如何使用它的同時,變得更不可靠。

AI 或許能幫助機構管理這種壓力,但安全部署並不是申請人端問題的簡單反轉。自動分流必須避免讓文件不完整、語言不同於系統訓練資料,或案件不符合常見模式的人處於不利地位。公共機關也需要在隱私、紀錄保存、上訴與人類責任方面制定清楚規範。

對產品團隊與公民科技開發者而言,這些證據指向的是工作流程重設,而不是加上一層薄薄的聊天機器人。真正有用的系統需要說明資格、只要求必要資訊、辨識不確定性、保留佐證,並讓人類官員容易審查其推理。申請人應該能在 AI 生成的草稿成為正式紀錄之前先行修正。

這些證據支持的是機會,而不是單純的成功故事

這則報導中最強的主張來自 Schmitz 持續進行的研究,如 TechCrunch 所描述,而不是來自官方跨政府資料集或獨立驗證的因果研究。據報導,該論文的完整資料集可取得,但所提供的證據並未說明其抽樣方法、AI 在每個案例中的精確角色,或增加是否由政策變動、大眾認知、人力配置或線上存取所驅動。

報導中的申訴數字也被當作更大趨勢的例子,而非受控實驗。它們顯示公共服務需求在同一時期發生變化,而生成式 AI 也變得更容易取得。它們本身並不能證明 AI 生成的提交就是增加的原因。

這種不確定性並不表示這項趨勢不重要。即使 AI 只造成部分影響,對於歷來依賴行政摩擦來限制需求的機構而言,也將是重大影響。關鍵問題在於,制度能否在不重新築起 AI 已經拆除的障礙下,分辨真正的可近性與濫用性的大量提交。

接下來值得觀察什麼

下一個重要訊號將是 Schmitz 的論文在 AI Ethics and Society 會議上的發布與討論。研究人員與機構將需要更細緻的證據,將個別提交與 AI 協助連結起來,同時區分草擬協助與自主行動。

隨著 AI 協助的需求成長,公共服務營運者也應揭露積壓、處理時間、重複提交與拒絕率的變化。這些指標可以顯示新的量能究竟反映了尚未滿足的正當需求、程序混亂,還是自動重複。

對建構者而言,實際指標將是機構是否公布 AI 協助申請的規則、是否提供機器可讀表格,以及是否提供有人力支援的審查途徑。關於身分、同意、文件處理與上訴權的更清楚政策,將決定 AI 是否能在不削弱正當程序的情況下降低摩擦。

Creati.ai 觀點

這波被報導的激增提醒我們,AI 的採用並不會在介面就結束。當一個工具讓既有流程更容易時,它會改變進入該流程的人數與類型。因此,公共機構必須為需求擴張做規劃,而不只是把目前的隊列自動化。

最具建設性的回應,既不是拒絕 AI 協助的申請,也不是自動接受每一件提交。機構應該圍繞透明協助、強健驗證與可問責的人類決策來重新設計服務。若大多數新請求都是正當的,挑戰就不是壓抑接觸,而是打造能夠承載 AI 所帶來接觸的公共系統。

廣告