自從生成式人工智能熱潮興起以來，有關(guān)數(shù)據(jù)安全性的爭議就始終不斷。事實證明，即便是“頭部大廠”微軟也有數(shù)據(jù)泄露的風險。據(jù)一家網(wǎng)絡安全公司的最新研究顯示，微軟公司的人工智能研究團隊數(shù)月前就曾意外在軟件開發(fā)平臺GitHub上泄露了大量私人數(shù)據(jù)，其中涵蓋了3萬多條微軟團隊的內(nèi)部信息。雖然沒有涉及用戶信息，但正如在上周一場以管理人工智能為主題的閉門論壇上特斯拉CEO馬斯克所說，“對我們來說，重要的是要有一個裁判”。

訪問權(quán)限設置錯誤

一個小小的設置失誤，導致微軟在近三年的時間里將大量內(nèi)部數(shù)據(jù)暴露在外。當?shù)貢r間9月18日，據(jù)網(wǎng)絡安全公司W(wǎng)iz報告，公司在對云托管數(shù)據(jù)的泄露問題進行持續(xù)調(diào)查時，發(fā)現(xiàn)微軟AI研究團隊在發(fā)布開源數(shù)據(jù)時意外泄露38TB的隱私數(shù)據(jù)，其中包含3萬多條員工內(nèi)部信息。

據(jù)了解，導致該次數(shù)據(jù)泄露的源頭是微軟在GitHub存儲庫中提供了一個屬于微軟云存儲系統(tǒng)Azure Storage的網(wǎng)址鏈接，可以用來下載開源代碼和用于圖像識別的AI模型。然而，由于微軟的AI開發(fā)人員在網(wǎng)址中包含了一個過于寬松的共享訪問簽名(SAS)令牌，此鏈接竟被設置成授予整個存儲賬戶的權(quán)限。也就是說，點進該鏈接的任何人都能訪問與之相關(guān)的存儲賬戶的全部內(nèi)容。

更可怕的是，該鏈接給予訪問者的權(quán)限不是只能觀看、不能修改的“只讀”，而是“完全控制”，意味著任何人都有可能在整個賬戶中刪除、替換或添加惡意內(nèi)容。

在受到影響的全部數(shù)據(jù)中，包括了兩名微軟員工的個人電腦備份，還有用于微軟服務的密碼、秘鑰以及Teams上來自359名微軟員工的超3萬條內(nèi)部群聊消息。

Wiz表示，這個網(wǎng)址鏈接從2020年就開始暴露數(shù)據(jù)，直到Wiz發(fā)現(xiàn)該問題并在今年6月22日和微軟分享了研究成果。微軟在兩天后的6月24日撤銷了有問題的SAS令牌，并在今年8月16日完成了對組織內(nèi)部潛在影響的調(diào)查。

對于此事，微軟發(fā)言人表示，微軟已確認沒有用戶數(shù)據(jù)遭到泄露，也沒有其他內(nèi)部服務受到威脅。微軟安全響應中心在當日發(fā)布的博客文章中表示，收到Wiz的研究結(jié)果之后，他們已經(jīng)改進了GitHub的秘密掃描服務，該服務能夠監(jiān)控所有公開的開源代碼改動，其中包括那些過于寬松的SAS令牌。

AI安全如何確保

事件再一次引起了對于AI數(shù)據(jù)安全問題的關(guān)注。Wiz的聯(lián)合創(chuàng)始人兼首席技術(shù)官阿米·盧特瓦克(Ami Luttwak)指出：“很多開發(fā)團隊都需要處理大規(guī)模的數(shù)據(jù)，需要與同事共享數(shù)據(jù)或在公共開源項目上進行合作，像微軟這樣的案例將會變得越來越難以監(jiān)控和避免。”

一位從事IT研發(fā)的工程師也對北京商報記者表示，大模型時代需要跑通的數(shù)據(jù)更多，人工智能企業(yè)需要收集和利用大量數(shù)據(jù)來訓練算法模型，由此出現(xiàn)漏洞的概率也就更大。

在2021年，Wiz就曾指出過微軟Azure基礎(chǔ)設施中的一個“超級漏洞”，其開源應用Jupyter Notebook功能中的一系列錯誤配置讓黑客能夠訪問、修改和刪除數(shù)千名Azure客戶的數(shù)據(jù)。隨后，微軟發(fā)布聲明稱該問題已得到解決，并用電子郵件通知了數(shù)千名受其影響的云客戶。

在天使投資人、資深人工智能專家郭濤看來，人工智能行業(yè)保護用戶隱私和數(shù)據(jù)安全需要多方面協(xié)同發(fā)力，一方面，人工智能技術(shù)公司需要遵循嚴格的隱私數(shù)據(jù)保護相關(guān)的法律法規(guī)，采取相應的措施和技術(shù)手段來確保數(shù)據(jù)的安全性、完整性和機密性，如匿名化、去標識化等技術(shù)來保護用戶因素和數(shù)據(jù)安全;另一方面，提高數(shù)據(jù)利用的透明度，向用戶解釋如何收集和使用數(shù)據(jù)，以及為什么需要這些數(shù)據(jù)，用戶有權(quán)決定是否愿意提供這些數(shù)據(jù)。

“要有一個裁判”

與此同時，監(jiān)管部門也正在努力解決如何減輕風險。上周，美國商務部長雷蒙多等政府高官在白宮召集AI行業(yè)高管，宣布Adobe、Cohere、IBM、英偉達、Palantir、Salesforce、Scale AI和Stability 8家公司承諾，采取自愿監(jiān)管措施管理AI技術(shù)開發(fā)風險，包括在推出前展開安全測試、構(gòu)建將安全放在首位的系統(tǒng)、為AI生成內(nèi)容添加數(shù)字水印等。

具體來看，上述8家公司承諾：在發(fā)布AI系統(tǒng)前進行內(nèi)部和外部安全測試、對網(wǎng)絡安全和內(nèi)部威脅保障措施投資、推進第三方發(fā)現(xiàn)和報告AI系統(tǒng)存在的漏洞等。

此外，8家公司還承諾，對AI生成的內(nèi)容加上水印以防止虛假信息的傳播，公開報告安全風險和社會風險，開發(fā)有助于解決癌癥預防、氣候變化等社會挑戰(zhàn)的AI系統(tǒng)等。

這8家為第二批承諾管控AI風險的公司。今年7月，已有7家領(lǐng)先的人工智能公司——亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和OpenAI自愿承諾，將幫助推動AI技術(shù)安全且透明地發(fā)展。

當天，馬斯克、微軟公司聯(lián)合創(chuàng)始人比爾·蓋茨和Meta首席執(zhí)行官扎克伯格等科技公司大佬還受邀參加了一場人工智能峰會，商討未來人工智能的監(jiān)管方式。

作為推動人工智能立法的一部分，美國參議院多數(shù)黨領(lǐng)袖查克·舒默組織了這次私人論壇。他表示，他問了在場的每個人——包括約20名科技高管、倡導者和懷疑論者——政府是否應該在人工智能的監(jiān)督中發(fā)揮作用，“每個人都舉手了，盡管他們有不同的觀點，”他說。

在國會方面，雖然國會議員也同意需要加強立法，但對于具體行動也一直沒有達成共識。一些國會成員擔心監(jiān)管會“過度”，而另一些議員則認為沒有足夠的監(jiān)管將難以發(fā)現(xiàn)“潛在風險”。

關(guān)鍵詞： 數(shù)據(jù) 人工智能 安全 公司