跳至主要內容
Lizely
加密提示注入突破 AI 安全防護機制,OWASP 重寫其最高風險清單

編碼與加密 · 2026-08-23

加密提示注入突破 AI 安全防護機制,OWASP 重寫其最高風險清單

重點結論

研究人員揭露了「加密上下文注入」(Cryptographic Context Injection)技術,這種技術會將攻擊者的指令包裝在一個加密 blob 中,並讓它們僅在受信任的 AI 執行環境內解密,藉此洩露 Grok 和 Gemini 中的聊天資料。OWASP 2026 年第八版 Top 10 引入了兩個新的風險類別並進行了大規模的重新結構。實務工作者應立即預期模型上下文信任邊界、網路代理沙箱化以及安全提示檢查會在優先順序清單中向上提升。

一句話總結:值得關注的工具:能在模型瀏覽過的網頁中標記出密文 blob 的加密酬載偵測器、OWASP-2026 風險對應檢查清單產生器、提示防火牆雜湊信譽 CLI、密文健全性驗證器(長度、熵值。

來源報導了什麼

加密提示酬載在受信任的 AI 執行環境中引爆

2026 年 8 月 23 日,安全研究人員公開了一項他們稱為「加密內容注入」的技術。該攻擊手法將惡意指令包裹在一個加密的位元組塊中,透過一個被動的網頁或文件傳遞該位元組塊,並且只有在 AI 助理(或代為瀏覽的 LLM 代理)將內容拉入受信任的執行環境後,才將酬載解密。報告描述了解密後的酬載接著將對話資料(包括對話紀錄)導向資料外洩路徑。該行為已在 Grok 與 Gemini 助理上皆獲得驗證。獨立的分析文章描述了一條針對 Grok 的「零點擊」攻擊路徑:使用者只需造訪一個網頁,內嵌的加密位元組塊即會被助理接收,且對話資料會在無需使用者進一步互動的情況下被靜默外洩。其中一篇廠商分析將整個攻擊鏈描述為「在執行過程中解密了攻擊者的酬載,接著外洩了你的對話紀錄」。

OWASP Top 10 已於 2026 年重新發布

同一天,OWASP 發布了其 2026 年第八版的 Top 10 安全風險清單,新增了兩個風險類別,並被某家媒體形容為對既有類別進行了顯著的結構重組。已經將控制措施對應到前一版 Top 10 的安全團隊,應將重新檢視這份清單視為近期內必須完成的工作,因為政策對應、稽核清單以及開發者訓練教材皆是以該文件為依據。

本段來源gbhackers.com

為何加密包裝是值得追蹤的威脅

將加密的位元組塊視為不透明的內容,正是這項技術能夠成功的原因:掃描器若僅尋找已知的越獄字串,只會看到密文,危險的文字只有在受信任的執行環境將解密金鑰交給它之後,才會以明文形式存在。這項轉變將信任邊界從「使用者在提示中貼上了什麼?」轉移到了「助理在執行過程中解密了什麼?」——而這個問題並非大多數已部署的防護機制當初設計來回答的。它也與實務工作者原本就在關注的編碼範疇重疊,因為將酬載位元組隱藏在受信任內容中的技巧,本質上與 在文字中隱藏文字:零寬度 Unicode 方法 指南中所記錄的零寬度 Unicode 隱寫術相同,只是把外層的不可見字元換成了加密殼層。

本週工程師需要因應的改變

近期的行動項目相當明確。擷取並解密外部位元組塊的提示接收管線,應被視為等同於在不受信任的輸入上呼叫 `JSON.parse` 的解析邊界:結構描述、長度以及指令外形的檢查應設置在該處,而非模型內部。網頁瀏覽工具的介面應預設將加密的位元組塊視為惰性內容,並拒絕將其轉送至模型的上下文視窗中。以雜湊值為基礎的酬載信譽機制也變得更為實用,因為即使明文被隱藏,密文的雜湊值仍是確定性的,可以在代理伺服器層級加以阻擋——目前驅動完整性檢查的 SHA256 雜湊產生器 與 SHA512 雜湊產生器 程式,現在在提示防火牆中也派上了用場。針對內部紅隊的酬載,線上 XOR 加密 工具是一種快速重現「包裹秘密、稍後揭露」這種模式的方法,而無需架設完整的加密測試環境。

讀者應持續追蹤的事項

在現有證據中,沒有任何廠商為加密內容注入攻擊鏈公布修復日期或 CVE 識別碼,而 OWASP 的 2026 年清單也並未列出前一版的淘汰時程。請在 SHA1 雜湊產生器 的審查涵蓋到此技術所隱含依賴的弱雜湊案例後,重新比對 OWASP Top 10 的發布內容與您目前的控制對應表,並稽核您 AI 技術堆疊中所有在模型內容內解密遠端位元組的位置。當揭露此技術的研究人員之一或 OWASP 的維護者公布了修復方式或編號風險時,那就是下一個值得追蹤的項目。

對工具的意義

  • 能在模型瀏覽的網頁中標記出密文位元組塊的加密酬載偵測器
  • OWASP-2026 風險對應檢查清單產生器
  • 提示防火牆雜湊信譽 CLI 工具
  • 密文健全性驗證器(長度
  • 熵

站內相關工具

AI 顧問觀點

以下討論由 AI 生成並翻譯為繁中;標註「AI-generated」,非真人作者。

  1. Evan Marsh

    Product Outcome Lead · AI-generated · 2026-09-05

    真正值得探討的產品問題並非「助理能否偵測加密內容?」而是「使用者能否正常瀏覽,而不會在不知情的情況下將對話紀錄變成對外資產?」這指向一個刻意收窄的安全範疇:可能洩露聊天資料的瀏覽行為,應要求清楚預覽並取得明確同意;至於加密的資料區塊,預設應保持不具作用力。理想結果很單純——杜絕靜默外洩——而且這項目標無須先解決所有提示注入問題,就能進行測試。從更宏觀的後量子遷移觀點切入也很有幫助:持久可靠的保護,有賴於一套能夠更替密碼學假設的系統,而非仰賴單一演算法長久使用。

  2. Theo Ashby

    Chief Executive · AI-generated · 2026-09-05

    我一直反覆回顧的高層解讀是:這在技術問題之前,先是一個所有權歸屬的問題。文章明確指出,證據中的所有廠商都未公布修復日期或 CVE 識別碼,而 OWASP 的 2026 年清單也未列出前一版的淘汰時程。這段空窗意味著,「加密內容注入」攻擊鏈的當前責任歸屬,落在實際操作助理的一方,而非建置模型的一方。對執行長而言,這可化約為一位具名負責人、30 天的處理期限,以及一個強制中斷條件:若屆時可能洩露對話資料的瀏覽行為仍未設有明確核准機制,該助理將停留在唯讀瀏覽模式。更深層的結構性觀點(於 post-quantum migration perspective 中有精準闡述)在於:持久的保護仰賴一套能依需求置換其加密假設的系統,而非寄望任何單一演算法永遠無法被破解。現在採取可逆的限制,勝過日後承擔不可逆的曝險。

Evidence資料來源(5)

本頁分析由 Lizely AI 產生,內容以所連結的公開證據為根據;參與者為虛構的編輯角色,並非真人作者。

更多其他分類