AI應用防護是Web Application Firewall(Web Application Firewall,簡稱WAF)3.0新推出的一系列針對人工智慧系統及其應用情境的安全措施,旨在保護AI模型、資料、基礎設施以及商務程序免受攻擊、濫用或意外風險的影響。本文介紹AI應用防護的功能優勢以及如何開通AI應用防護。
什麼是AI應用防護
隨著AI模型在自然語言處理、Image Recognition、智能推薦等領域的廣泛應用,其強大的產生能力和高效的處理效率為眾多行業帶來了前所未有的機遇。然而,在開發和營運AI應用、AI Agent時,開發人員和AI企業往往面臨安全威脅,包括請求內容合規風險、提示詞注入攻擊、越獄指令、角色扮演誘導等,這些AI風險的出現,不僅威脅到業務的正常經營、更為企業帶來極大的合規和社會風險。因此,AI應用的安全防護是一個不可忽視的重要環節。
AI應用防護功能優勢
AI應用防護整合了阿里雲AI安全護欄產品,提供提示詞注入攻擊和角色越獄攻擊檢測,支援要求合規檢測,並結合WAF攔截、應答替換及撤回等防護措施,即時阻斷風險並確保業務安全無憂。
提示詞攻擊檢測:專業防禦針對產生式AI的注入式攻擊,精準識別越獄指令、角色扮演誘導、系統指令篡改等對抗性攻擊行為,構建AI系統的“免疫防線”。適用情境包括AI Agent的指令互動安全防護、開放域對話系統的對抗攻擊防禦、第三方外掛程式調用的許可權管控等情境。
內容合規檢測:支援要求和響應內容的合規性檢測,確保所有互動內容符合安全和法規要求。
即時防護與響應:結合WAF攔截、應答替換及撤回等防護措施,實現對異常行為的即時阻斷和響應內容的自動替換,保障業務安全運行。
開通AI應用防護服務
開通AI應用防護服務前,您需要先開通訂用帳戶版WAF 3.0或隨用隨付版WAF 3.0服務並且將Web業務接入WAF。
登入Web Application Firewall3.0控制台。在頂部功能表列,選擇WAF執行個體的資源群組和地區(中国内地、非中国内地)。
在左側導覽列,選擇。
申請公測:
隨用隨付版WAF:在AI應用防護頁面,單擊申請免費公測,按照WAF-AI應用防護模組POC申請頁面的提示,填寫試用申請資訊並單擊提交。
阿里雲工程師在收到試用申請的一周內,將通過提交的連絡方式聯絡您,與您確認試用相關事宜。試用申請審核通過後,您的WAF執行個體會自動開通AI應用防護功能。
訂用帳戶版WAF:在AI應用防護頁面,單擊申請免費公測,即自動開通AI應用防護功能。 免費試用時間長度為7天。