當前位置: 主頁 > 新聞 >
 

ChatGPT對資安可能造成的衝擊 - CyberArk Labs針對ChatGPT所進行的一項研究

本文作者:CyberArk Labs       點擊: 2023-02-03 16:18
前言:
參考QA:
這與之前我們曾見過的ChatGPT產生惡意軟體有何不同?
之前有人發佈了一篇文章,說可以利用 ChatGPT 查詢以獲取具惡意目的的破壞性程式。我們展示了如何繞過內容過濾器並創建惡意軟體,該惡意軟體可在運行時查詢 ChatGPT 以載入惡意程式碼。惡意軟體並不會在磁碟上留存任何惡意程式碼,因為程式碼是直接從 ChatGPT接收,驗證它(檢查程式碼是否正確),然後執行這些程式碼,且並不留下任何痕跡。此外,我們可以要求 ChatGPT “變異”我們的程式碼。

為什麼它在本質上是多態的這一事實特別值得關注?
多態惡意軟體對於資安產品來說處理起來很複雜,因為您無法真正偵測到它們。 此外,他們通常不會在檔案系統上留下任何痕跡,因為他們的惡意程式碼只會在記憶體中處理。 此外,如果查看可執行檔,它可能看起來是良性的。

既然我們知道可以使用 ChatGPT 生成多態惡意軟體,那麼 IT 團隊的日常風險是什麼?
 
資安產品因無法識別這類先進惡意軟體因此不具備偵測能力。
 
目前,沒有此類使用的公開記錄,因為我們似乎是第一個發佈它的人。 截至目前,我們並不提供完整惡意軟體的公開程式碼。
 
請記住,應謹慎使用本文中討論的訊息和想法,因為使用 ChatGPT 的 API 創建惡意程式碼是一個嚴重的問題,不應掉以輕心。
 
這篇文章旨在提高對潛在風險的認識,並鼓勵對該主題進行進一步研究。

該惡意軟體在哪些系統上進行過測試? 它可以在最新版本的 Windows 11 上運行嗎?
 
是的,它可以在最新版本的 Windows 11 上運行,也可以在其他作業系統上順利運行

惡意軟體有什麼功能?
這種惡意軟體的美妙之處在於它幾乎可以具有您想要的任何功能。 當它向 ChatGPT 請求惡意模組時,它可以是:長久存在的、加密過的、使用注入方式、鍵盤記錄等

如果它感染了公司網路上的一台機器,(現實的)潛在結果是什麼?
 
這取決於惡意行為者的意圖,與任何惡意軟體一樣,它很容易躲過偵測,並且可以做任何惡意軟體可以做的事情,或者你想做的事。

產生惡意模組需要多長時間? 使用的提示是什麼?
我們仍在進行研究。 做一次概念驗證需要大約幾週的時間。 將來,我們將擴大其範圍並添加其他模組。 重要的是要記住,這不僅僅是一個假設的場景,而是一個非常現實的問題。 這是一個不斷發展的領域,因此,保持知情和警惕至關重要。
 
 
 

電子郵件:look@compotechasia.com

聯繫電話:886-2-27201789       分機請撥:11