數(shù)據(jù)是構(gòu)建人工智能系統(tǒng)必需的關(guān)鍵基礎(chǔ)設(shè)施。數(shù)據(jù)在很大程度上決定了AI系統(tǒng)的性能、公平性、穩(wěn)健性、安全性和可擴展性。
那么,用足夠多的數(shù)據(jù)訓(xùn)練而來的AI系統(tǒng),能夠做出正確的決策么?今年5月份,medium上的Marianne Bellotti博主發(fā)表了一篇名為“AI正在解決錯誤問題的文章”。在文章中,作者提出一個觀點:在更多數(shù)據(jù)(信息)加持下,人類都不一定做出“合適決策”,為什么要假設(shè)AI會表現(xiàn)更好呢?
為了論證這個觀點,博主寫道:
“在現(xiàn)實生活中,決策者往往為了節(jié)約成本而進行優(yōu)化決策。但決策畢竟是根據(jù)結(jié)果來判斷好壞的,在正確分析的基礎(chǔ)上還需要一點運氣。在結(jié)果出來之前,即使是在絕佳數(shù)據(jù)支持下最仔細、最徹底構(gòu)建的策略也無法保證決策的絕對正確。”
顯然,這一觀點的意思是:決策的過程與其說是對數(shù)據(jù)的客觀分析,不如說是對風(fēng)險和優(yōu)先級的權(quán)衡。最后,基于上述觀察,作者論證了這么一個觀點:數(shù)據(jù)驅(qū)動的AI模型,在做決策時候,極易受到攻擊。
1
AI 的方向存在偏差
面對一個難題,分步驟、有條理的解決方案是值得肯定的。有哪些假設(shè)?假設(shè)如何構(gòu)建?需要解決的問題?如果這些假設(shè)不同,會解決不同的問題嗎?想要解決的問題和結(jié)果之間有什么關(guān)系?以上這些子問題,對于決策過程異常重要。假設(shè)訪問更多數(shù)據(jù)是決策者做出更好決策的關(guān)鍵,所以研究者希望喂給系統(tǒng)越多數(shù)據(jù),AI越好的做出決策,擁有更少的負面影響。在這一假設(shè)下,我們理所當(dāng)然的認為:完美信息應(yīng)該自動改善決策過程??紤]到現(xiàn)實,這一假設(shè)是錯誤的。因為,決策的過程更多是由決策者背后的政治決定,退一步講,即使能夠獲得完美信息,它也會通過增加噪音水平而降低了決策質(zhì)量。例如,人工智能可以正確識別內(nèi)容,但基于該內(nèi)容做出的決策在很大程度上受到用戶和組織的規(guī)范和期望的影響。例如,F(xiàn)acebook 的審核政策允許將某些敏感部位圖片 PS 到“明星”身上,但禁止明星真實敏感部位圖片露出。在Facebook這個例子上, 人類很容易理解利益相關(guān)者之間的關(guān)系如何使這種區(qū)分變得合理:一個是違反言論自由和公共評論的規(guī)范;另一個則沒有。顯然,當(dāng)團隊做出決策時,考慮到各個利益相關(guān)者及其激勵因素,改進決策的最佳途徑就不再是獲取更多數(shù)據(jù),而是需要加強利益相關(guān)者之間的溝通。這對于問題“從國家層面來看,為了提高AI的決策能力,是否需要花費數(shù)十億美元來清理數(shù)據(jù)和增強數(shù)據(jù)傳感器?”有了更好的回答。畢竟,美國國防部每年在員工身上花費11-150 億美元,以求他們將數(shù)據(jù)處理成某種形式。經(jīng)過數(shù)十年的投資、監(jiān)管和標準制定,我們今天與1970年時候的“計算機化的大腦(computerized brain)”提法相比,本質(zhì)上并沒提高多少。然而,隨著計算機越來越先進,人們也越來越沉迷數(shù)據(jù)。
2
數(shù)據(jù)驅(qū)動的脆弱性
談?wù)摂?shù)據(jù)質(zhì)量的方式具有誤導(dǎo)性。我們談到“干凈”數(shù)據(jù),就好像存在一種數(shù)據(jù)既準確(且無偏差)又可重用的狀態(tài)。其實,干凈與準確不同,準確與可操作又不同。而無論哪種類型的數(shù)據(jù)出現(xiàn)問題,都有可能阻礙AI模型的開發(fā),或者影響AI模型做決策。數(shù)據(jù)出問題的方式有很多,例如:數(shù)據(jù)實際上不正確、已損壞或采用錯誤格式。還有些更微妙的錯誤:數(shù)據(jù)是在特定上下文中獲取的,但重用的時候不恰當(dāng);數(shù)據(jù)沒有標準化導(dǎo)致相同的事情,表達方式不一;對于模型來說數(shù)據(jù)處于錯誤的粒度級別......對于上述問題,僅使用單一數(shù)據(jù)源是無法解決的。如果有攻擊者試圖往模型、系統(tǒng)中注入“錯誤”,那么這些問題更不可能解決了。AI雖然創(chuàng)造了新機會,但我們也不能忽略它的脆弱性。換句話說,AI帶來新解決方案的同時,也發(fā)明了新攻擊方法。例如Deepfake、衛(wèi)星數(shù)據(jù)的“位置欺騙”等。這些“有毒”技術(shù)正在和“良善”技術(shù)一起進步。當(dāng)前的AI系統(tǒng)完全依賴數(shù)據(jù)質(zhì)量,雖然技術(shù)已經(jīng)比較成熟,但這種設(shè)計方案極易受到攻擊。因此在這種情況下,AI系統(tǒng)必須被設(shè)計成能夠靈活應(yīng)對不良數(shù)據(jù)的模型。讓 AI“反脆弱”是一種抵御攻擊風(fēng)險的方式。
3
什么是反脆弱人工智能?
在系統(tǒng)思維中,“反脆弱”是一種設(shè)計,不僅可以從故障中恢復(fù),而且在遇到故障時更加強大、更有效?;趯嶋H改善決策的因素構(gòu)建 AI 系統(tǒng)將為反脆弱人工智能創(chuàng)造機會。
認知科學(xué)的研究中提到,良好的決策是:主動闡明假設(shè)、構(gòu)建假設(shè)檢驗驗證這些假設(shè)以及在利益相關(guān)者之間建立清晰的溝通渠道的產(chǎn)物。許多引發(fā)人為錯誤的認知偏差都是上述三方面出現(xiàn)問題的結(jié)果。例如沒有清楚地闡明假設(shè),就將解決方案應(yīng)用于不合適的環(huán)境條件;不測試假設(shè),就無法根據(jù)不斷變化的條件來調(diào)整正確的決策。AI很容易受到不良數(shù)據(jù)的影響,因為我們過分強調(diào)了它在分類和識別方面的應(yīng)用,而低估了它在建議和情境化方面的應(yīng)用。然而,決策型AI又非常容易被破壞。設(shè)計反脆弱AI非常困難,因為將算法分析的結(jié)果作為結(jié)論和作為建議,這兩者之間有很大的差別。而決策者,為了節(jié)省精力非常有可能一股腦的將AI輸出作為結(jié)論。這種想法,已經(jīng)在刑事司法和警務(wù)領(lǐng)域造成了災(zāi)難性的錯誤。那么在醫(yī)學(xué)中,為什么AI能夠提高決策質(zhì)量?因為,許多診斷并沒有單一的正確答案,某種癥狀背后可能對應(yīng)多種疾病,到底患有哪種疾病,可能只是概率問題。臨床醫(yī)生會在頭腦中建立一個決策樹,其中包含他能想到的所有可能病因,并讓病人做排除某些可能病因的測試。因此,醫(yī)學(xué)診斷是一個“定義假設(shè)、檢驗測試、進一步縮小可能病因集”的循環(huán)過程,直到?jīng)Q策收斂。這時候,AI決策模型的作用是提示醫(yī)生將可能的疾病類型納入他的決策樹,所以盡管可能數(shù)據(jù)不佳,但患者的治療效果卻有所改善。目前,這種AI已經(jīng)在用于改善醫(yī)療專業(yè)人員之間的溝通和知識共享,或在關(guān)鍵時刻從患者那里獲得新的相關(guān)信息。
4
使用AI進行決策的正確姿勢
在決定如何最好地利用人工智能時,技術(shù)領(lǐng)導(dǎo)者需要首先考慮他們?nèi)绾味x需要解決的問題。如果 AI 是改善決策,那么 AI 應(yīng)該引導(dǎo)決策者進行假設(shè)檢驗,而不是試圖超越專家。當(dāng) AI 試圖勝過專家,它完全取決于接收到的數(shù)據(jù)的質(zhì)量,從而產(chǎn)生了一系列漏洞,攻擊者可以輕松地利用這些漏洞。當(dāng)人工智能的目標不是成為最好的頂級專家,而是加強和支持決策實踐時,其對不良數(shù)據(jù)具有彈性并能夠具有反脆弱的功能。但這樣的人工智不能做決定。相反,它幫助人們闡明決策背后的假設(shè),將這些假設(shè)傳達給其他利益相關(guān)者,并在與這些假設(shè)相關(guān)的條件發(fā)生重大變化時提醒決策者。綜上,人工智能可以幫助決策者弄清楚什么狀態(tài)是可能的,或者在什么條件下它們是可能的。這樣的解決方案可以通過解決現(xiàn)有弱點來增強決策團隊的整體能力,而不是因不良數(shù)據(jù)產(chǎn)生一些新的弱點。