AI網路蠕蟲被曝光:能不斷繁殖,傳送垃圾郵件並竊取資料

首頁 > 科技

AI網路蠕蟲被曝光:能不斷繁殖,傳送垃圾郵件並竊取資料

來源:枝頭的喜鵲 釋出時間:2024-03-03 17:17

AI網路蠕蟲被曝光:能不斷繁殖,傳送垃圾郵件並竊取資料

IT之家 3 月 3 日訊息,國際網路安全團隊近日研發了新型 AI 蠕蟲病毒,能夠在生成式人工智慧服務之間獨立傳播、竊取資料並透過電子郵件傳送垃圾郵件。

伴隨著 OpenAI ChatGPT 和 Google Gemini 等生成式 AI 系統的快速發展,AI 開始被應用於解決某個特定問題或者任務,例如建立日曆項、訂購某件物品等等。

網路安全技術研究人員表明生成式 AI 存在漏洞,並將其命名為“Morris II”。

IT之家在這裡簡要介紹下這個名稱的背景,Morris 被認為是人類發現的第一個計算機蠕蟲病毒,於 1988 年被發現,感染了超過 6200 臺計算機,佔當時連線到網際網路的所有計算機的 10%。

“Morris II”可以基於生成式 AI,繞過了 ChatGPT 和 Gemini 的保護,能從電子郵件中竊取資料併發送垃圾郵件。

研究作者表示在沙盒環境中測試了新的攻擊模型,但目前尚未在實踐中被發現,不過個人開發者、初創企業和科技公司都應考慮到這一威脅。

大多數生成式人工智慧系統的工作原理是接收文字指令:要求回答問題或建立影象。

這些命令可以用來對付系統,使其忽略安全措施並生成不恰當的內容;還可以向系統發出隱含指令,例如,向其提供一個隱藏有此類命令文字的惡意網頁地址。

攻擊生成式人工智慧的蠕蟲病毒的執行原理基於“對抗性自我複製提示”機制。這種命令會導致生成式人工智慧模型發出另一條命令作為回應,這很像 SQL 注入和緩衝區溢位等傳統攻擊模式。

為了演示該蠕蟲的工作原理,研究人員透過連線 ChatGPT、Gemini 和開源 LlaVA 模型,建立了一個可以使用生成式人工智慧接收和傳送資訊的電子郵件服務。

然後,他們使用自我複製的文字指令和嵌入影象檔案的類似指令兩種方法,成功利用人工智慧漏洞發起攻擊。

研究報告的作者指出,由於人工智慧生態系統的架構設計錯誤,這些攻擊方法成為可能。他們與谷歌和 OpenAI 分享了他們的發現--OpenAI 證實了威脅的存在,但補充說該公司正在努力提高其系統的穩定性,而谷歌拒絕發表評論。

AI網路蠕蟲被曝光:能不斷繁殖,傳送垃圾郵件並竊取資料

IT之家 3 月 3 日訊息,國際網路安全團隊近日研發了新型 AI 蠕蟲病毒,能夠在生成式人工智慧服務之間獨立傳播、竊取資料並透過電子郵件傳送垃圾郵件。

伴隨著 OpenAI ChatGPT 和 Google Gemini 等生成式 AI 系統的快速發展,AI 開始被應用於解決某個特定問題或者任務,例如建立日曆項、訂購某件物品等等。

網路安全技術研究人員表明生成式 AI 存在漏洞,並將其命名為“Morris II”。

IT之家在這裡簡要介紹下這個名稱的背景,Morris 被認為是人類發現的第一個計算機蠕蟲病毒,於 1988 年被發現,感染了超過 6200 臺計算機,佔當時連線到網際網路的所有計算機的 10%。

“Morris II”可以基於生成式 AI,繞過了 ChatGPT 和 Gemini 的保護,能從電子郵件中竊取資料併發送垃圾郵件。

研究作者表示在沙盒環境中測試了新的攻擊模型,但目前尚未在實踐中被發現,不過個人開發者、初創企業和科技公司都應考慮到這一威脅。

大多數生成式人工智慧系統的工作原理是接收文字指令:要求回答問題或建立影象。

這些命令可以用來對付系統,使其忽略安全措施並生成不恰當的內容;還可以向系統發出隱含指令,例如,向其提供一個隱藏有此類命令文字的惡意網頁地址。

AI網路蠕蟲被曝光:能不斷繁殖,傳送垃圾郵件並竊取資料

IT之家 3 月 3 日訊息,國際網路安全團隊近日研發了新型 AI 蠕蟲病毒,能夠在生成式人工智慧服務之間獨立傳播、竊取資料並透過電子郵件傳送垃圾郵件。

伴隨著 OpenAI ChatGPT 和 Google Gemini 等生成式 AI 系統的快速發展,AI 開始被應用於解決某個特定問題或者任務,例如建立日曆項、訂購某件物品等等。

網路安全技術研究人員表明生成式 AI 存在漏洞,並將其命名為“Morris II”。

IT之家在這裡簡要介紹下這個名稱的背景,Morris 被認為是人類發現的第一個計算機蠕蟲病毒,於 1988 年被發現,感染了超過 6200 臺計算機,佔當時連線到網際網路的所有計算機的 10%。

“Morris II”可以基於生成式 AI,繞過了 ChatGPT 和 Gemini 的保護,能從電子郵件中竊取資料併發送垃圾郵件。

研究作者表示在沙盒環境中測試了新的攻擊模型,但目前尚未在實踐中被發現,不過個人開發者、初創企業和科技公司都應考慮到這一威脅。

大多數生成式人工智慧系統的工作原理是接收文字指令:要求回答問題或建立影象。

這些命令可以用來對付系統,使其忽略安全措施並生成不恰當的內容;還可以向系統發出隱含指令,例如,向其提供一個隱藏有此類命令文字的惡意網頁地址。

AI網路蠕蟲被曝光:能不斷繁殖,傳送垃圾郵件並竊取資料

IT之家 3 月 3 日訊息,國際網路安全團隊近日研發了新型 AI 蠕蟲病毒,能夠在生成式人工智慧服務之間獨立傳播、竊取資料並透過電子郵件傳送垃圾郵件。

伴隨著 OpenAI ChatGPT 和 Google Gemini 等生成式 AI 系統的快速發展,AI 開始被應用於解決某個特定問題或者任務,例如建立日曆項、訂購某件物品等等。

網路安全技術研究人員表明生成式 AI 存在漏洞,並將其命名為“Morris II”。

IT之家在這裡簡要介紹下這個名稱的背景,Morris 被認為是人類發現的第一個計算機蠕蟲病毒,於 1988 年被發現,感染了超過 6200 臺計算機,佔當時連線到網際網路的所有計算機的 10%。

“Morris II”可以基於生成式 AI,繞過了 ChatGPT 和 Gemini 的保護,能從電子郵件中竊取資料併發送垃圾郵件。

研究作者表示在沙盒環境中測試了新的攻擊模型,但目前尚未在實踐中被發現,不過個人開發者、初創企業和科技公司都應考慮到這一威脅。

大多數生成式人工智慧系統的工作原理是接收文字指令:要求回答問題或建立影象。

這些命令可以用來對付系統,使其忽略安全措施並生成不恰當的內容;還可以向系統發出隱含指令,例如,向其提供一個隱藏有此類命令文字的惡意網頁地址。

上一篇:沙特推出世界... 下一篇:65歲女子沒有...
猜你喜歡
熱門閱讀
同類推薦