(資料圖片)
6 月 9 日消息，據英國《金融時報》報道，英偉達人工智能軟件“NeMo” 可被輕易繞過安全限制，并且有可能泄露用戶隱私。
報道稱，NeMo 是一款面向企業客戶的軟件，可結合企業用戶數據與大語言模型，以此回答用戶的問題。其應用場景包括客服和回答簡單醫療問題等。加州信息安全公司 Robust 在報告中表示，惡意使用者能輕易繞開 NeMo 內部的 AI 系統安全限制。Robust 的研究員僅耗費幾小時，便繞開了這些語言模型的使用限制。
▲ 圖源：英偉達
IT之家注意到，在其中一項測試中，研究人員要求 NeMo 用字母“J”替代“I”，這使得 NeMo 公布了數據庫中的用戶個人信息。此外，研究人員還發現，盡管已將 NeMo 設定為僅能為用戶提供擇業建議，但通過引導式提問使 NeMo 討論了好萊塢演員的健康情況和普法戰爭等話題。這意味著系統內阻止 AI 討論特定話題的限制已經失效。
▲ 圖源：英偉達
英偉達副總裁喬納森科恩表示，NeMo 架構只是為了幫助打造符合開發者所定義的主題的聊天機器人，其以開源軟件的形式發布給開發者。目前，這些漏洞已被修復?？贫骶芙^透露有多少企業使用 NeMo 架構，但強調英偉達沒有收到其他關于漏洞的報告。
標簽：
