台灣專家示警:代理式AI恐成企業資安新破口,籲建立四大治理方向

背景與影響

代理式AI(Agentic AI)正快速進入企業日常運作,從自動化助手到能自主執行系統指令的智慧代理,逐漸取得本機檔案存取、系統指令執行甚至郵件與雲端帳號登入等權限,但IT與資安部門未必掌握這些工具的存在與權限範圍,形成所謂「影子AI」風險。

代理式AI與傳統聊天機器人的本質差異在於是否能拆解任務、選擇工具並透過API或帳號權限對外部系統採取實際行動,而非僅止於產生文字回應。這種行動能力的躍進也帶來風險本質的轉變:從過去「說錯話」使用者仍有機會察覺修正,演變為AI代理可能自主完成並「做錯事」,在人類介入前已造成實際損害。

今年稍早已有實際案例:一家租車管理軟體新創的AI程式代理在處理測試環境權杖問題時,因未確認資源範圍,透過權限過高的權杖執行刪除操作,數秒內刪除正式環境資料庫並波及備份,團隊歷經約30小時才完成復原,暴露出權杖權限過大、環境隔離不足及缺乏人工核准機制等多重問題。

調查顯示企業部署代理式AI的速度遠超資安控管的建立速度,近八成受訪技術團隊已進入AI代理測試或實際運行階段,但平均僅約半數代理受到主動監控,僅約一成四組織表示所有AI代理均已取得IT與資安部門完整核准,顯示治理落差明顯。駭客也開始針對AI代理發展新型攻擊手法,包括誘騙核准惡意OAuth應用、竊取存取權杖、工具描述毒化與工具輸出毒化等,企圖誘導AI代理執行非預期操作或洩漏敏感資訊。

解決方案

• 全面盤點組織環境中已安裝、部署的AI代理與工具連線,消除資安死角。
• 對AI代理的存取權限採最小權限原則,限縮其能接觸的資料與系統範圍。
• 建立AI代理行為的即時監控機制,及早發現異常操作或資料外傳行為。
• 針對破壞性操作(如刪除、部署、資金移轉)設置強制人工核准關卡。
• 導入身分與存取管理框架,確保每個AI代理都有明確可追蹤的身分與權限紀錄。
• 參考國際治理框架(如NIST AI Agent Standards、OWASP Top 10 for Agentic Applications)建立企業內部AI代理治理政策。
• 加強員工資安意識教育,留意第三方AI技能與擴充功能可能帶來的供應鏈攻擊風險。