用AI對抗AI!Cloudflare 開發特殊 AI 防火牆以防範 AI 攻擊

2024-3-9 30 3/9
用AI對抗AI!Cloudflare 開發特殊 AI 防火牆以防範 AI 攻擊

ADVERTISEMENT

Cloudflare正在開發一種特殊的防火牆,用於防範利用人工智慧 (AI) 進行的攻擊。這項新技術目的是保護生成式 AI 模型免受網路威脅,Cloudflare 正在利用其 AI 工具進行這一防禦策略。 

該公司的 AI 防火牆目的是在有害活動發生之前加以攔截。它類似於可以阻擋惡意網路流量的傳統防火牆,不僅遵循一般的安全規則,還會檢查發送給 AI 服務的請求,以便提前發現潛在危險。 

Cloudflare注意到,聊天機器人或內容生成等 AI 模型可能會被誘騙做出有害行為或洩露資訊。因此,他們的 AI 防火牆會在使用者輸入到達 AI 之前進行檢查,查找具有風險的請求並移除任何個人詳細資訊以保護使用者隱私。 

  • 延伸閱讀:GPT-4讓人工智慧駭客距離比想像的還近,「金融」可能是第一個被攻擊的系統
  • 延伸閱讀:「潛伏AI間諜」系統知道如何找到繞過檢查的方法,包括竊取數據、破壞系統或傳播惡意軟體

然而,此防火牆也可能會限制使用者可以詢問 AI 的內容。其目的在於阻止 AI 生成有害或誤導性的答案。Cloudflare希望阻止可能讓 AI 說出負面言論的請求,並嚴防「提示詞注入 (prompt injection)」威脅,也就是惡意輸入導致 AI 執行非預期的操作。不過,目前尚不清楚這會如何影響正常的使用者請求。 

Cloudflare還推出了一項名為「防禦性 AI」的服務,該服務利用 AI 技術檢查網站是否存在利用 AI 的威脅。Cloudflare的首席執行官馬修·普林斯 (Matthew Prince) 表示,利用 AI 對抗 AI 威脅在當今至關重要。 

研究表明,AI 可以被用於新型的惡意行為,例如傳播能夠自我複製的惡意軟體。測試發現,AI 電子郵件助手可能會被誘騙發送垃圾郵件或竊取個人資訊。 

Cloudflare創建 AI 防火牆和利用 AI 進行安全防護的舉措,正是針對這些新挑戰的應對措施。他們致力於確保隨著 AI 技術越來越普遍,能夠在不危及隱私和安全的情況下安全地使用該技術。

  • 延伸閱讀:微軟最新《Cyber Signals》研究:微軟與 OpenAI 共同揭露國家型 AI 網路攻擊