微軟表示多國駭客正利用ChatGPT增進網路攻擊功力,解決之道是:用AI來對抗AI

2024-2-26 31 2/26
微軟表示多國駭客正利用ChatGPT增進網路攻擊功力,解決之道是:用AI來對抗AI

微軟和 OpenAI 透露,駭客已經在使用 ChatGPT 等大型語言模型來完善和改進他們現有的網路攻擊。在最新發佈的研究報告中,微軟和 OpenAI 發現俄羅斯、北韓、伊朗和中國支援的組織試圖利用 ChatGPT 等工具研究目標、改進程式碼並幫助建立社群工程技術。

微軟在今天的一篇貼文中說:「網路犯罪集團、民族主義國家恐怖行動組織和其他對手正在探索和測試新出現的各種人工智慧技術,試圖瞭解它們對其行動的潛在價值以及它們可能需要規避的安全控制。」

他們舉出了不同的駭客集團,如何利用大型語言模型來提升他們的攻擊。

1.俄羅斯駭客組織

與俄羅斯軍事情報機構有關聯的"鍶"組織,被發現使用 LLMs來瞭解衛星通訊協議、雷達成像技術和特定技術參數。該駭客組織也被稱為 APT28 或 Fancy Bear,在俄羅斯的烏克蘭戰爭期間一直很活躍,此前曾參與2016 年針對希拉蕊.克林頓總統競選活動的攻擊。

據微軟稱,該小組還一直在使用 LLM 來幫助完成基本的程式碼任務,包括檔案操作、資料選擇、正規化和多處理程序處理,以實現技術操作的自動化或最佳化。

2.北韓駭客組織

一個名為 Thallium 的北韓駭客組織一直在使用 LLMs 來研究公開報導的漏洞和目標組織,幫助完成基本的程式碼任務,並為網路釣魚活動起草內容。微軟稱,名為 Curium 的伊朗組織也一直在使用 LLMs 生成網路釣魚電子郵件,甚至是用於躲避防毒軟體檢測的程式碼。與中國政府有關聯的駭客也在使用 LLMs 進行研究、編寫程式碼、翻譯和改進現有工具。

3.釣魚郵件利用AI提升說服力

此外,人們一直擔心在網路攻擊中使用人工智慧,特別是出現了像 WormGPT 和 FraudGPT 這樣的人工智慧工具來協助建立惡意電子郵件和破解工具。美國國家安全局的一位高級官員上個月也警告說,駭客正在利用人工智慧讓他們的釣魚郵件看起來更有說服力。

解決之道:用AI來對抗AI

微軟和 OpenAI 尚未發現任何使用 LLMs 的"重大攻擊",但這兩家公司已經關閉了與這些駭客組織相關的所有帳戶和資產。

微軟表示:「與此同時,我們認為這是一項重要的研究,通過發佈來揭露我們觀察到的知名威脅行為者試圖採取的早期、漸進式行動,並與防禦者分享我們如何阻止和反擊這些行動的資訊。」

雖然目前人工智慧在網路攻擊中的應用似乎還很有限,但微軟對未來的使用案例(如語音冒充)發出了警告。「人工智慧驅動的欺詐是另一個令人嚴重關切的問題。語音合成就是一個例子,三秒鐘的語音樣本就能訓練出一個聽起來像任何人的模型,即使是像語音郵件問候語這樣無害的東西,也可以用來獲得足夠的樣本。」

微軟的解決方案是利用人工智慧來應對人工智慧攻擊。「人工智慧可以幫助攻擊者提高攻擊的複雜程度,而且他們有足夠的資源來應對。」

微軟首席檢測分析經理霍馬.海蒂法(Homa Hayatyfar)說:「我們已經從微軟追蹤的 300 多個威脅行為體身上看到了這一點,我們使用人工智慧來保護、檢測和應對。」

微軟正在打造一款新的人工智慧助手Security Copilot,專為網路安全專業人士設計,用於識別漏洞並更好地理解每天通過網路安全工具產生的大量訊號和資料。在 Azure 雲端遭受攻擊,甚至俄羅斯駭客監視微軟高層之後,這家軟體巨頭也在全面整頓其軟體安全機制。

 

  • 延伸閱讀:趨勢科技發現活躍中的零時差漏洞,可讓駭客繞過 Windows Defender 防護
  • 延伸閱讀:台灣8成保險業者使用 SaaS 平台帳密外洩,易成駭客社交工程攻擊工具
  • 延伸閱讀:中國駭客組織利用VMware關鍵漏洞進行長達兩年零日攻擊