資源
部落格

一個 9 秒鐘的教訓 一間租車軟體新創公司的工程師,請 Cursor AI 代理協助處理程式碼任務。在未經人工確認的情況下,這個代理自主判斷、自主執行, 在 9 秒內刪除了公司整個正式環境的資料庫 ,造成超過 30 小時的系統中斷。 事後,這個 AI 代理寫了一封道歉信。 這起事件真正的警訊不是「 Cursor 出了問題」,而是: 一個 AI 代理被賦予了過高的系統權限,卻沒有任何人工確認機制,就能自主執行權限過大之操作。 而在它動手之前,企業並不知道端點上有這樣一個代理,也不知道它被賦予了多大的權限。 風險的質變:從「給錯答案」到「做錯事情」 要理解為什麼 AI Agent 是一個全新的資安議題,得先看清它和過去 AI 工具的根本差異: 聊天機器人 Chatbot AI Agent 代理式 AI 運作環境 活在獨立的瀏覽器分頁中 以主程式身分在系統中運作 記憶 侷限於單次對話 跨任務的持久性記憶 主動性 被動等待你下指令 依規則自主決策、自主行動 存取權限 封閉系統 廣泛存取檔案與私人帳號 過去我們擔心 AI 「幻覺」,頂多是給了一個錯誤的答案,由人類判斷後修正。但當 AI 擁有了行動能力與系統權限,風險就從「說錯話」升級成「做錯事」 —— 而且往往是不可逆的。 更關鍵的是: 這些代理握有哪些權限、能碰到哪些資料,對多數企業來說是完全不透明的黑盒子。 多數企業對 AI 代理缺乏掌握 根據 Gravitee 發布的《State of AI Agent Security Report 2026》,情況比多數人想像的嚴重: • 企業部署的 AI Agent 數量較 2025 年底 幾乎翻倍 ,38% 的企業已部署超過 100 個 Agent • 54% 的企業在過去 12 個月內曾發生或疑似發生 AI Agent 相關資安事件(已確認事件占 34.9%) • 但只有 9.5% 的企業能保護超過八成已部署的 Agent • 僅 7.2% 的組織有指派專人對 Agent 行為負責 換句話說:AI 代理正快速進入企業日常,超過半數的企業已發生相關資安事件,但絕大多數企業仍缺乏對應的可視性與管理機制。 Gartner 在 2026 年資安與風險管理峰會上將這個現象稱為「 Shadow AI(影子 AI) 」——它比傳統的影子 IT 更棘手,因為影子 IT 只是未經授權的軟體,而影子 AI 是一個擁有自主行動能力、且行動軌跡難以追蹤的「隱形員工」。 從「原則」走向「規範」:各國開始為 AI 代理訂定規範 過去談 AI 治理,多半停留在「公平、透明、可問責」這類原則宣示。但從 2025 年底開始,國內外的監理與資安機構陸續把矛頭對準一個更具體的對象—— 會自己行動的 AI 代理 。不到一年之間,代理式 AI 已經從一個技術名詞,變成各國規範文件裡被明文定義的風險類別。 發布方 文件 與 AI 代理相關的重點 時間 台灣 數位發展部 人工智慧風險分類框架 依《人工智慧基本法》第 16 條訂定,20 項風險子類別中明列「AI 自主代理授權外行為」 2026/7 五眼聯盟 Careful Adoption of Agentic AI Services 由美、英、加、澳、紐五國資安機構共同發布的首份跨國代理式 AI 安全指引,涵蓋 23 項風險類別與逾 100 項最佳實務 2026/5 新加坡 IMDA Model AI Governance Framework for Agentic AI 全球首份專為代理式 AI 設計的治理框架 2026/1 發布、6 月更新 歐盟 AI Act 第 50 條透明度義務 要求明確揭露使用者正在與 AI 系統互動 2026 美國 NIST AI Agent 標準制定倡議 聚焦自主系統的紅隊測試與合規指引 2026 OWASP Top 10 for Agentic Applications 業界首份代理式 AI 風險清單(ASI01–ASI10),搭配 AIVSS 評分機制 2025/12 依《人工智慧基本法》第 16 條,數位發展部於 2026 年 7 月發布《人工智慧風險分類框架》,將 AI 風險分為三大類、共 20 項子類別;其中「部署後操作問題」一類明確納入「 AI 自主代理之授權外行為 」——這是台灣官方文件首次把代理式 AI 的失控行為,列為需要被辨識與管理的獨立風險類別。 值得注意的是,該框架給出的四個建議步驟中, 第一步就是「盤點應用情境」 ;各機關須完成風險評估,並於一年內建立對應的管理規範。 規範的共同語言:看得到、說得清、管得住、夠強韌 這些文件出自不同國家、不同機構,關注面向也不盡相同,但拆開來看,訴求高度一致,可以歸納成四件事: • 看得到 :消除監控盲點,掌握環境中有哪些代理、各自握有什麼權限 • 說得清 :建立數位信任,代理的行為與決策必須可追溯、可解釋 • 管得住 :確保決策主權,高風險操作保留人為審核與介入的能力 • 夠強韌 :落實層次化防禦,假設代理會出錯,並確保錯誤可逆 核心理念只有一句話: AI 必須在「安全受控」的前提下運行。 而這四件事有明確的先後順序—— 「看得到」是其餘三者的前提 。你無法為一個不知道存在的代理建立稽核軌跡,也無法為一份從未盤點過的權限清單設計審核關卡。這也正是數發部的四步驟把「盤點」放在第一步的原因。 第一步,永遠是「你知道有什麼」 資安治理有一項基本原則: 看不見的東西,就無法管理。 在談 AI Agent 的風險管理之前,企業得先回答一個更基本的問題 —— 我們的端點上,到底裝了哪些 AI 代理? 這正是 ThreatSonar Plus 全方位端點風險檢測平台 的切入點。 ThreatSonar Plus 能夠盤點端點上市面主流的 AI 代理工具,並持續擴充支援範圍以因應快速變動的生態系。 有了這份清單,資安團隊才能從「我猜公司大概有人在用 AI 」進到「我知道哪些部門、哪些機器、裝了哪些代理、權限範圍多大」 —— 這是所有後續治理動作(存取控管、合規盤點、風險分級)的地基。 盤點之後:在出事之前看見風險 知道裝了什麼,接著要知道它帶來多少風險。 回到開頭那個 9 秒刪庫的案例:真正的根源不是事後沒攔下來,而是事前沒有人知道這個代理握有足以刪除正式環境資料庫的權限。等到行為發生才反應,損害已經造成;真正有效的做法,是在代理動手之前就把風險收斂。 因此端點層的風險檢測必須能回答幾個具體問題。 ThreatSonar Plus 以 OWASP 的 AI 代理風險分類與 AIVSS 評分機制為基礎,從四個維度檢視 AI 代理帶來的風險: • 權限與存取範圍 :代理的權限與工作範圍,是否超出任務實際所需? • 機敏資料曝險 :端點上的 API 金鑰、憑證與機密資料存放在哪裡,是否落在代理可觸及的範圍內? • 惡意技能識別 :代理所使用的第三方與開放原始碼技能,是否夾帶後門或惡意程式碼? • 隱蔽指令分析 :代理的工具說明與設定內容中,是否藏有隱藏指令或危險指令? 從「有沒有裝」到「風險有多大」,這是 AI 代理治理必須在事前走完的兩步。 結語 1. AI 已從「生成對話」進化為「自主行動」 :風險從單純的幻覺錯誤,升級為具毀滅性的系統操作與權限濫用(如誤刪資料庫)。 2. 治理要落地,得先有風險可視性 :因應 OWASP 及各國數位治理指引,企業必須對高風險操作建立受控機制;而任何治理措施的前提,都是先清楚環境中有哪些代理、各自握有多少權限。 3. 無法防禦看不見的威脅 :終結影子 AI ( Shadow AI )的首要之務,是取得完整的可視性,全面掌握環境內 AI 代理的分布與權限。 4. 在攻擊發生前就看見風險 :透過 ThreatSonar Plus 的檢測,主動發掘機敏資料外洩、隱藏指令與惡意技能,趕在自動化攻擊發生之前收斂風險。 AI Agent 不會因為企業沒準備好就停下腳步,擁抱它也是必然的趨勢;而安全地擁抱它,請從「看見風險」開始。 想知道貴公司的端點上正跑著哪些 AI 代理?歡迎 與 TeamT5 聯繫 ,了解 ThreatSonar Plus 如何協助您建立 AI 代理的可視性與風險基準。 參考資料 [1] Yahoo! News [2] AOL [3] Gravitee

隨著生成式 AI 與 AI Agent 快速進入企業環境,AI 治理(AI Governance)逐漸成為企業風險管理的重要議題。許多組織開始制定 AI 治理政策,規範員工可以使用哪些 AI 工具、哪些資料不得輸入,以及 AI 應用需要遵循哪些資安與法遵要求。 然而,制定規範只是 AI 治理的一部分。政策定義了企業希望 AI 如何被使用,但治理還需要知道實際環境中的使用狀況是否符合這些要求。 對企業而言,其中一個實際問題就是:端點上究竟正在使用哪些 AI? 如果企業只知道制定了哪些規則,卻無法掌握實際部署與使用狀況,就可能形成 AI 治理中的端點可視性缺口(Endpoint Visibility Gap)。 AI 治理不只是寫出治理政策 完整的 AI 治理涵蓋政策、權責、風險管理、資料治理、安全控制、持續監控與稽核等不同面向。AI 治理政策可以建立組織使用 AI 的基本原則,但若要確認這些要求是否落實,企業還需要來自實際環境的資訊。例如: 員工實際使用了哪些生成式 AI 或 AI Agent? 是否存在未經核准的 AI 工具? AI Agent 是否存取敏感檔案或重要系統? 端點是否存在不安全的 AI 相關設定? 如果缺乏實際環境的可視性,企業可能出現「政策已經制定,實際使用狀況卻看不見」的落差。 為什麼端點是 AI 治理的關鍵環節? 過去企業導入軟體,多半經過 IT 採購、部署與權限管理;但生成式 AI 改變了這個模式。員工可以直接使用雲端 AI 服務、瀏覽器工具、IDE 外掛,甚至自行安裝具有自主操作能力的 AI Agent。 因此, 端點逐漸成為企業 AI 使用與風險實際發生的重要場域。 例如,員工可能在工作電腦安裝未經核准的 AI 工具,或授權 AI Agent 存取本機檔案、瀏覽器及其他應用程式。這些狀況不一定能從治理政策本身看出來,卻可能直接影響企業的資料存取與風險範圍。即使企業已經明確禁止特定行為,如果無法掌握端點上的實際部署、設定與權限狀況,也很難確認政策是否真正落實。 這種「治理政策看得到規則,卻看不到實際使用」的落差,就是企業推動 AI 治理時需要注意的 端點可視性缺口。 從「規範」走向「可驗證」的 AI 治理 要縮小這個缺口,企業可以先從建立 AI 使用標準做法開始:盤點端點上的 AI 應用與 Agent、確認相關設定與權限,再依照企業政策辨識潛在風險。 這並不代表端點健檢能涵蓋所有 AI 治理工作。企業仍需要建立政策、資料治理、法遵、模型風險管理與組織權責等機制;但端點可視性可以提供其中一項重要基礎—— 讓企業知道政策所規範的 AI,在實際環境中究竟如何被使用。 TeamT5 ThreatSonar Plus 從端點健檢角度協助企業盤點端點環境,包括 AI Agent Detection、組態與弱點檢測等能力,協助資安與 IT 團隊發現潛在風險,並依嚴重程度安排後續處置。 AI 治理不應只回答「我們制定了什麼規則」,也需要進一步確認:實際環境是否符合這些規則? 當企業能將政策要求與端點上的實際部署、設定與權限狀況進行對照,AI 治理才有更多具體依據進行後續判斷與處置。建立端點可視性,正是縮小政策與實際使用之間落差的重要一步。
 mirella-callage-Kile7-U74s0-unsplash_1.jpg)
隨著今年 11 月美國國會期中選舉與台灣地方選舉將至,須關注的選舉相關資安議題,不僅是投票系統本身,尚包括政治組織、媒體機構與政府機關,因為這些重要組織掌握了網路攻擊者(下稱攻擊者)想獲取的資訊。另一方面,提供政治議題討論與資訊交流的網路平台,也可能被利用來散布誤導性資訊。 為什麼政治資訊會成為攻擊者的目標? 政治資訊本身就具有價值。美國過去的實際案例[1]指出,攻擊者曾入侵與總統競選團隊相關的帳號,竊取未公開的競選文件與電子郵件。 這顯示,即使組織本身並不負責選務,只要掌握攻擊者感興趣的資訊,就可能成為目標。 此外,時事新聞往往是社交工程攻擊最好的包裝。攻擊者可能藉由選舉或政治事件,設計出高度相關的郵件內容,誘使收件者開啟惡意連結或檔案。[2] 然而,信件內容雖切中當前熱門話題,並不等於寄件者或附件是值得信任的。 另一個不能忽視的隱形陷阱是資訊操弄。過去的資訊作戰案例顯示,攻擊者曾利用高度仿冒的新聞媒體的網站與網路帳號,藉由假冒權威媒體的公信力,散布不實內容。[3] 這類攻擊模式,不只是製造假內容,更是利用人們對熟悉資訊來源的信任。 這也提醒我們看到訊息時,先思考一個關鍵問題: 這則資訊究竟從何而來? 即使同一個說法在多個平台流傳,或發布在看似權威的網站上,也不代表內容真實可信。釐清資訊由誰發布、並進一步剖析資訊發布者的潛在意圖,有助於判斷內容的可信度。[4] 網路間諜活動與資訊操弄的目的並不相同,但兩者都顯示政治資訊如何被利用。前者可能透過未經授權的存取獲取敏感資料;後者則試圖影響大眾認知。 從過往選舉威脅看攻擊者如何選擇目標 根據 TeamT5 對台灣 2024 年總統與立法委員選舉的觀察,中國相關的網路間諜活動不只鎖定政治立場相異的媒體,被視為立場親中的媒體也是目標之一。[5] 這項發現也挑戰了一種常見假設:「組織成為情報蒐集的目標,關鍵在於其政治光譜。」實際上,該組織實際掌握哪些資訊,就可能成為攻擊者的目標。要防範這類風險,可以從三個面向著手:誰正在試圖取得資訊?訊息為何看似可信?資訊的真正來源為何? 想進一步了解台灣 2024 大選期間觀察到的威脅?索取 TeamT5 白皮書《 Cyber Threats against Taiwan's 2024 Presidential Election 》,深入了解我們在選舉期間觀察到的威脅、研究發現與調查分析。 參考資料 U.S. Department of Justice, Three IRGC Cyber Actors Indicted for 'Hack-and-Leak' Operation Designed to Influence the 2024 U.S. Presidential Election ,2024 年 9 月 27 日 Cybersecurity and Infrastructure Security Agency (CISA), Cybersecurity Toolkit and Resources to Protect Elections ,Category 1: Phishing European External Action Service (EEAS), Fighting Foreign Interference to Protect Our Democracy Federal Bureau of Investigation (FBI), Election Crimes and Security ,Section: Protect Your Vote TeamT5, Cyber Threats against Taiwan's 2024 Presidential Election

生成式 AI 與 AI Agent 快速進入企業環境,員工可能使用 ChatGPT、Claude、Gemini 等 AI 服務,也可能由開發或 IT 團隊部署各種 AI Agent。當 AI 應用越來越多元,企業面臨的首要問題並非是否應使用 AI,而是「 我們知道組織內,實際正在使用哪些 AI Agent 嗎?」 這也是 AI 治理(AI Governance)落地時不可忽視的基礎。 AI 治理的關鍵是什麼? AI 治理是企業針對 AI 的導入、使用與風險建立管理機制,涵蓋政策與權責、資料治理、資安、隱私、法規遵循、模型風險及持續監督等面向。 因此,AI 治理並不是部署一套工具就能完成,而是一套跨部門的管理框架。然而,不論企業採用哪一種治理方法,都必須先掌握一個基本問題——企業內正在使用哪些 AI ? 如果連 AI 資產與使用情況都不清楚,後續的風險評估、管理政策制定與控管措施就容易出現盲點。 為什麼企業需要先盤點 AI Agent 使用狀況? 企業導入 AI 的速度往往比內部管理制度建立得更快。除了公司正式採購的 AI 服務,員工也可能自行註冊生成式 AI、安裝 AI 應用程式,甚至授權 AI Agent 存取檔案、瀏覽器或其他企業資源,形成類似 Shadow IT 的 Shadow AI 問題。 這些未被掌握的 AI 應用可能帶來敏感資料外洩、不當權限存取、惡意指令與第三方服務風險。 因此,建立 AI Inventory(AI 資產清冊),可視為企業推動 AI 治理的重要基礎之一。 企業可以從哪些面向盤點 AI Agent? 第一步是建立基本的 AI Inventory 。企業可記錄 AI 工具或服務名稱、使用部門、使用目的、資料類型、部署方式,以及負責管理的人員,先回答「誰在什麼情境下使用哪些 AI」。 第二步則應進一步掌握 端點上的實際 AI Agent 使用情況 。政策或問卷盤點只能反映企業「已知」的 AI,如果員工自行安裝 AI 應用程式、瀏覽器擴充功能或 AI Agent,IT 與資安團隊仍可能缺乏完整可視性。 第三步是進行 風險分類與排序 。例如:AI 是否會接觸機密文件?是否具有讀寫檔案、執行程式或連接外部服務的能力?權限是否超出實際業務需求?企業可依據資料敏感度、存取權限與使用情境,決定後續管理優先順序。 從「看見 AI」開始建立治理基礎 AI 治理涉及政策、流程、法遵與資安等多個環節,盤點並不等於完成 AI 治理,但企業若缺乏對 AI 使用狀況的可視性,就很難進一步評估與管理風險。 TeamT5 解決方案「 ThreatSonar Plus 」從端點安全評估角度協助企業辨識環境中的 AI Agent 與相關風險,讓資安團隊更容易掌握端點實際狀況,作為後續風險評估與治理決策的參考。 面對快速增加的企業 AI 應用,AI 治理不一定要從複雜制度開始。企業可 先知道有哪些 AI 工具與 AI Agent 正在被使用、在哪裡使用,及可能接觸哪些企業資源,展開第一步 ,後續才有機會進一步談管理與風險控制。
 mitchell-luo-FWoq_ldWlNQ-unsplash.jpg)
漏洞揭露量持續增加,但真正遭攻擊者利用的只占極少數。根據 Google Threat Intelligence Group(GTIC)統計,2026 年每月揭露的漏洞數量從 1 月的 5,045 個增加至 8 月的 10,740 個,成長超過一倍,但實際遭利用的僅占 0.23%[1]。 雪上加霜的是,在漏洞公開後,資安團隊的反應時間卻越來越短。根據 VulnCheck 統計,從漏洞公布到確認遭利用的時間中位數,從 2025 年的 120 天,到 2026 上半年,已縮短至 80 天,少了近三分之一的時間[2]。面對日益增加的漏洞與更短的反應時間,光是找出漏洞已不能滿足資安團隊真正的需求,而是如何更快辨識哪些風險需要優先關注。 而要做出這項判斷,單看漏洞數量或嚴重度並不夠。這些資訊能反映系統弱點與潛在衝擊,卻無法說明攻擊者是否正在利用某項漏洞、如何利用,以及可能留下哪些痕跡。當漏洞清單不斷增加,這些來自實際攻擊活動的資訊,正是資安團隊判斷風險優先順序與規劃後續處置的重要依據。 將攻擊者研究納入漏洞風險判讀 TeamT5 長期追蹤亞太駭客集團的行為模式與攻擊行動,研究漏洞在其實際攻擊中的利用方式,以及攻擊過程中留下的痕跡,並將這些研究成果進一步轉化為可實際應用的偵測能力,協助資安團隊在判讀漏洞風險時,能掌握來自駭客攻擊活動的線索: 漏洞的實際利用情況 了解哪些漏洞已出現在實際攻擊活動中,辨識需要提高關注程度的風險。 可能與入侵相關的跡象 從偵測到的技術線索中,辨識可能顯示漏洞已遭利用,或系統可能遭未授權存取的跡象。 後續處置方向 結合技術證據與風險資訊,協助團隊判斷應優先修補,或需要進一步查證與調查。 漏洞的優先順序,不應單由漏洞本身的風險程度決定,而是要納入「是否已在實際攻擊中利用」以及「是否發現攻擊者留下的痕跡」等關鍵資訊;從攻擊者視角出發,才能真正掌握最切身相關的真實風險。 參考資料: [1] Google Threat Intelligence Group,《 Vulnerability Discovery and Exploitation Trends in the AI Era 》,October 2026 [2] VulnCheck,《 VulnCheck State of Exploitation 1H-2026 》,July 2026

針對近期揭露的 PHP Session Upload Progress Use-After-Free(CVE-2026-109618 / CVE-2026-109619) 漏洞,TeamT5 已掌握相關攻擊手法,並將持續透過 ThreatSonar Anti-Ransomware 與 MDR 服務 ,協助客戶監控場域內的可疑攻擊行為,降低潛在資安風險。 漏洞說明 CVE-2026-109618 PHP 在發生記憶體不足(OOM)錯誤時,會使用 longjmp() 離開目前的執行環境,並中止該次請求的處理。然而,某些執行環境可能未妥善考量此情況,導致在執行記憶體配置前,部分請求記憶體仍處於未初始化狀態。後續的請求清理程序可能讀取這些記憶體,或根據其內容進行分支判斷。透過多種觸發 OOM 的方式,可穩定觸發此問題,進而導致遠端程式碼執行(RCE)。 官方安全公告: 連結 CVE-2026-109619 PHP 有多種全域狀態會暫時指向請求記憶體。在某些情況下,這些全域狀態可能未被正確重設,或在重設後再次被填入資料,導致其在請求記憶體釋放後,仍指向該記憶體。後續請求可能在這些狀態完成初始化前,讀取其中已失效的內容,或根據其內容進行分支判斷。透過多種方式可觸發此問題,進而導致遠端程式碼執行(RCE)。 官方安全公告: 連結 建議依據 PHP 官方安全公告更新至已修補版本。此外,TeamT5 為協助客戶掌握漏洞影響範圍,並提供以下防護與盤點措施: 一、ThreatSonar Anti-Ransomware:持續監控 PHP 相關攻擊行為 ThreatSonar Anti-Ransomware 已具備多項 PHP 相關威脅偵測規則,可協助識別攻擊者可能利用 PHP 執行惡意指令、WebShell、Reverse Shell 等異常行為,包含: php command reverse shell php_cgi_spawn_shell php_cgi_shell_exec_lolbas php-cgi webshell lolbas W3wp Suspicious php-cgi.exe process execution TeamT5 將持續關注上述 CVE 的攻擊手法與威脅情資,透過 ThreatSonar 監控客戶場域內的可疑活動,並依據最新攻擊趨勢持續評估與強化偵測能力。 二、MDR 服務:主動協助 PHP 資產盤點與修補通知 針對使用 TeamT5 MDR 服務 的客戶,我們後續將協助盤點場域內使用 PHP 軟體的端點清單,並透過既有通報管道提醒客戶確認 PHP 版本及執行必要的漏洞修補作業。 透過資產盤點與威脅監控相互配合,協助客戶優先處理可能受影響的系統,降低漏洞遭利用的風險。 三、ThreatSonar 平台的 Threat Hunter 功能:客戶自主查詢 PHP 端點 客戶亦可透過 ThreatSonar 平台的 Threat Hunter(威脅狩獵) 功能,自行搜尋場域內可能安裝或執行 PHP 的端點。 Windows 系統:可透過 Hunting Tag 搜尋「 Co The Php Group 」 Linux 系統:可透過 filename 搜尋「 ~php-fpm 」 透過上述查詢方式,可初步識別使用 PHP 的端點,進一步確認軟體版本、評估漏洞影響範圍並安排修補。 提醒您,查詢結果取決於 ThreatSonar 已蒐集的端點資訊,未查詢到結果不代表端點未安裝 PHP;建議搭配系統套件及軟體清單確認。 TeamT5 結合 ThreatSonar Anti-Ransomware 威脅偵測、 ThreatSonar 平台 的 Threat Hunter 資產盤點及 MDR 主動監控服務 ,協助企業掌握漏洞暴露範圍、加速修補作業,並及早發現潛在攻擊活動,強化整體資安防護。 另請注意,現有 PHP 相關偵測規則主要用於識別可疑攻擊行為,並非上述 CVE 的專屬漏洞利用偵測規則,因此未出現相關告警不代表不存在漏洞或遭入侵風險。

生成式 AI 正從「回答問題的工具」進一步發展為能自主執行任務的 AI Agent(AI 代理) 。企業開始利用 AI Agent 搜尋資料、操作應用程式、存取企業系統,甚至執行多步驟工作流程。然而,當 AI 從「提供建議」走向「採取行動」,企業面對的資安風險也隨之擴大。 這也使 AI 治理(AI Governance) 成為企業導入 AI 時的重要課題。AI 治理是企業針對 AI 的開發、導入與使用,建立政策、權責與風險管理機制,確保 AI 的使用符合組織規範、安全要求及相關法規。其範圍不只包含模型本身,也涉及資料使用、存取權限、資安控制、持續監督與稽核等面向。 對準備導入 AI Agent 的企業而言, 資安風險評估正是 AI 治理中的重要環節之一 。在正式部署前,除了評估 AI Agent 能帶來哪些效率與功能,更應先確認: AI Agent 能接觸哪些資料、擁有哪些權限,以及執行環境是否安全? AI Agent 與一般生成式 AI 有什麼不同? 一般生成式 AI 多半由使用者輸入 Prompt,再產生文字、程式碼或其他內容;AI Agent 則可能進一步串接企業內部系統、瀏覽器、API 或其他工具,依照目標自主規劃並執行任務。 這代表 AI Agent 的風險不只存在於模型本身,也延伸至 帳號權限、端點設備、資料存取與工具串接 等層面。一旦權限配置不當或端點環境存在弱點,AI Agent 所具備的自動化能力也可能放大既有的安全問題。 AI Agent 常見的 5 大資安風險 1. 敏感資料外洩 AI Agent 在執行任務時可能接觸企業文件、原始碼、客戶資料或帳號資訊。若資料存取範圍過大,或缺乏適當控管,敏感資訊可能被非預期地讀取、處理或傳送。 2. Prompt Injection 與惡意指令 AI Agent 可能從網頁、文件、Email 等外部內容取得資訊。攻擊者可將惡意指令藏在這些內容中,誘導 Agent 忽略原有規則、存取不應取得的資訊,甚至執行非預期操作。 3. 過度授權 為了讓 AI Agent 自動完成工作,企業可能授予檔案存取、系統操作或 API 呼叫等權限。若未遵循最小權限原則,一旦 Agent 被誤導或遭濫用,影響範圍可能進一步擴大。 4. 自主行為難以預測 AI Agent 可以根據任務自行規劃多個步驟,但其執行路徑未必完全符合使用者預期。若缺乏適當限制與人工確認機制,錯誤決策可能透過自動化流程被快速放大。 5. 端點環境與設定風險 AI Agent 最終仍需要在企業的電腦、伺服器或其他端點環境中運作。若設備本身存在漏洞、不安全設定、權限過高或缺乏必要的安全控制,即使 AI Agent 本身沒有遭到攻擊,仍可能形成新的攻擊面。 企業導入 AI Agent 前,應評估哪些風險? AI Agent 安全並非單一產品或工具就能完全解決,而應納入企業既有的 AI 治理、身分與權限管理、資料安全及資安管理流程。 在正式部署前,可先從幾個問題進行盤點: 哪些端點正在使用或準備導入 AI Agent? AI Agent 可以存取哪些企業資料與系統? 是否授予超出工作需求的權限? 執行 AI Agent 的端點是否存在漏洞或高風險設定? 是否建立安全基線,並能持續確認端點符合要求? 高風險操作是否需要人工確認或其他控制措施? 從端點風險評估開始建立 AI Agent 安全基線 完整的 AI 治理涵蓋政策、資料、模型、權限、稽核、風險管理等多個面向,而 端點安全評估是其中一項重要的技術控制環節 。 企業可以在大規模部署 AI Agent 前,先盤點端點環境中的 AI Agent 使用情況、安全設定與潛在弱點,建立可檢視的安全基線,再依風險嚴重程度安排改善優先順序。 TeamT5 ThreatSonar Plus 即從端點安全評估角度切入,協助企業辨識 AI Agent 相關風險,並結合弱點與組態檢測,讓資安團隊在導入 AI Agent 前更清楚掌握端點的安全狀態。 AI Agent 能為企業帶來新的自動化能力,但「能不能使用」之外,更重要的問題是「 能不能安全地使用 」。先釐清資產、權限、設定與端點風險,才能為後續更完整的 AI 治理建立可靠的技術基礎。