21世紀(jì)經(jīng)濟(jì)報(bào)道記者 鐘雨欣 北京報(bào)道

【資料圖】

AIGC正在給虛假信息治理提出前所未有的挑戰(zhàn)。喬治·華盛頓大學(xué)法學(xué)教授喬納森·特利近日被ChatGPT列入“性騷擾”名單，聲稱他在一次去阿拉斯加的旅行中對(duì)學(xué)生“動(dòng)手動(dòng)腳”，并援引了一篇所謂《華盛頓郵報(bào)》的新聞報(bào)道作為信息來(lái)源。

特利連續(xù)用了多個(gè)“從未”進(jìn)行回應(yīng)，他撰文寫(xiě)道，“這讓我很驚訝，因?yàn)槲覐奈春蛯W(xué)生一起去過(guò)阿拉斯加，《華盛頓郵報(bào)》從未發(fā)表過(guò)這樣的文章，我也從未被任何人指控性騷擾或性侵?！?/p>

當(dāng)AI會(huì)說(shuō)謊，虛假內(nèi)容以高速率流入信息世界，如何不被謠言裹挾？人類社會(huì)應(yīng)如何應(yīng)對(duì)？在一張張考卷中，科技倫理、風(fēng)險(xiǎn)預(yù)防成為關(guān)鍵詞。

令人不寒而栗的謠言

據(jù)媒體報(bào)道，事情的起因是美國(guó)加州大學(xué)洛杉磯分校法學(xué)教授尤金·沃洛克在ChatGPT進(jìn)行了一項(xiàng)研究。沃洛克說(shuō)，聊天機(jī)器人軟件日益普及，使學(xué)者們必須研究其產(chǎn)生虛假信息時(shí)誰(shuí)該負(fù)責(zé)。

沃洛克詢問(wèn)ChatGPT，教授的性騷擾是否一直是美國(guó)法學(xué)院的一個(gè)問(wèn)題?！罢?qǐng)至少包括五個(gè)例子，以及相關(guān)報(bào)紙文章中的引述。”他提示道。

ChatGPT輸出了5個(gè)回復(fù)，所有回復(fù)都包含“真實(shí)的細(xì)節(jié)”和引用來(lái)源。但當(dāng)沃洛克檢查他們時(shí)，其中三個(gè)是假的，引用了報(bào)紙上不存在的文章。

“喬治城大學(xué)法律中心（2018）教授喬納森·特利被一名前學(xué)生指控性騷擾，該學(xué)生聲稱他在一次課堂旅行中發(fā)表了不當(dāng)言論。引述：投訴稱，特利在法學(xué)院贊助的阿拉斯加之旅中發(fā)表了‘性暗示評(píng)論’并‘試圖以性方式觸摸她’。（華盛頓郵報(bào)，2018年3月21日）?！盋hatGPT說(shuō)。

《華盛頓郵報(bào)》并沒(méi)有找到 ChatGPT 提到那篇的文章，而在那個(gè)月，有一篇文章提到了特利，發(fā)表日期是2018年3月25日。但是，特利并沒(méi)有在喬治城大學(xué)工作過(guò)。

作為媒體的常客，特利有時(shí)會(huì)要求更正新聞報(bào)道，但這一次，沒(méi)有記者或編輯可以打電話，也沒(méi)有辦法更正記錄。

“這真令人不寒而栗。”他在接受媒體采訪時(shí)說(shuō)，“這種指控非常有害?！?/strong>

當(dāng)?shù)貢r(shí)間4月4日和5日，《華盛頓郵報(bào)》在ChatGPT和Bing中重新創(chuàng)建了沃洛克的查詢。免費(fèi)版的ChatGPT拒絕回答，稱這樣做“會(huì)違反AI的內(nèi)容政策，該政策禁止傳播具有攻擊性或有害的內(nèi)容。”但由GPT-4提供支持的微軟Bing重復(fù)了關(guān)于特利的虛假聲明，在消息來(lái)源中引用了其4月3日發(fā)表在《今日美國(guó)》上的一篇專欄文章，概述了他被ChatGPT不實(shí)指控的經(jīng)歷。

媒體對(duì)于ChatGPT錯(cuò)誤指控特利的報(bào)道似乎導(dǎo)致Bing重蹈覆轍，展示出錯(cuò)誤信息是如何從一個(gè)AI傳播到另一個(gè)AI的。

“很容易想象一個(gè)由聊天機(jī)器人驅(qū)動(dòng)的搜索引擎會(huì)在人們的私人生活中造成混亂。如果人們?cè)谇舐毭嬖嚮蚣s會(huì)之前在增強(qiáng)的搜索引擎中搜索其他人，并且它會(huì)生成虛假信息，這些信息由看似可信但虛假的證據(jù)支持，那將是有害的?！蔽致蹇苏f(shuō)。

值得注意的是，特利的遭遇并不是近期唯一一起ChatGPT編造虛假信息的事件。據(jù)媒體報(bào)道，澳大利亞赫本郡市長(zhǎng)布賴恩·胡德考慮對(duì)OpenAI提起第一起誹謗訴訟，除非它糾正有關(guān)他曾因受賄入獄服刑的虛假說(shuō)法。

對(duì)虛假信息治理提出新挑戰(zhàn)

ChatGPT等人工智能技術(shù)為何能成為傳播謠言的“高效工具”？

“AIGC技術(shù)日漸發(fā)展成熟，可以完成包括寫(xiě)郵件、代碼、新聞報(bào)道以及論文等多種任務(wù)，且表述內(nèi)容與人類對(duì)話風(fēng)格相似，一般人難以區(qū)分。其使用門(mén)檻和成本低，生成效率高，能夠在短時(shí)間內(nèi)生成大量虛假信息，從而迅速淹沒(méi)真相。”南開(kāi)大學(xué)法學(xué)院副院長(zhǎng)、博導(dǎo)，中國(guó)新一代人工智能發(fā)展戰(zhàn)略研究院特約研究員陳兵教授分析道。

他進(jìn)一步指出，ChatGPT等目前并不會(huì)核實(shí)生成內(nèi)容信息的真實(shí)性與準(zhǔn)確性，即虛假信息檢測(cè)是通過(guò)與“已收錄的虛假信息庫(kù)”進(jìn)行比對(duì)和判斷，未被收錄的新信息則需要以人工檢測(cè)進(jìn)行判斷。

北京航空航天大學(xué)法學(xué)院副教授、北京科技創(chuàng)新中心研究基地副主任趙精武也表示，ChatGPT最顯著的技術(shù)優(yōu)勢(shì)就是能夠以貼近人類思維和表達(dá)的方式呈現(xiàn)信息，這就導(dǎo)致網(wǎng)民更難以甄別其生成信息的真?zhèn)危?strong>加之人工智能技術(shù)能批量生成信息，海量且高效的網(wǎng)絡(luò)謠言生成顯然會(huì)導(dǎo)致依靠官方辟謠、賬號(hào)封禁等傳統(tǒng)虛假信息治理措施難以發(fā)揮預(yù)期效果。

“追溯網(wǎng)絡(luò)賬號(hào)的實(shí)際使用人、認(rèn)定信息傳播者的主觀狀態(tài)等等，這些都是追責(zé)的難題?！?/strong>趙精武說(shuō)。

陳兵表示，法律責(zé)任承擔(dān)需要視情況分析。如果用戶故意輸入指令讓人工智能編造謠言，此時(shí)AI聊天機(jī)器人充當(dāng)?shù)氖枪ぞ呓巧?，?yīng)由用戶承擔(dān)法律責(zé)任。另一種情況是用戶沒(méi)有主觀故意，虛假信息內(nèi)容由人工智能算法自行生成，可以推定人工智能對(duì)編造、傳播謠言起到了實(shí)質(zhì)性的幫助作用，因此相應(yīng)的用戶與AI運(yùn)營(yíng)公司承擔(dān)連帶責(zé)任。

陳兵還強(qiáng)調(diào)，需要注意AI運(yùn)營(yíng)公司的侵權(quán)責(zé)任判斷，通常應(yīng)考察情形是否滿足過(guò)錯(cuò)要件。“如果平臺(tái)盡到相應(yīng)注意義務(wù)，在責(zé)任承擔(dān)上，鑒于其對(duì)創(chuàng)新發(fā)展的貢獻(xiàn)，不宜施加嚴(yán)格責(zé)任，否則不利于技術(shù)的開(kāi)發(fā)和未來(lái)商用。另外，關(guān)于運(yùn)營(yíng)公司是否需要承擔(dān)相應(yīng)的補(bǔ)充責(zé)任，應(yīng)綜合考慮侵權(quán)范圍、損害程度以及平臺(tái)避免損失擴(kuò)大的能力?！?/p>

“現(xiàn)有侵權(quán)法體系能夠處理AI運(yùn)營(yíng)公司的民事責(zé)任問(wèn)題，但有必要為新興事物發(fā)展預(yù)留一些空間，這意味著傳統(tǒng)的基于工業(yè)經(jīng)濟(jì)下的侵權(quán)責(zé)任規(guī)則，需要回應(yīng)數(shù)字經(jīng)濟(jì)下人工智能產(chǎn)業(yè)發(fā)展，并做出相應(yīng)調(diào)整?！?/strong>陳兵說(shuō)。

不容忽視的倫理風(fēng)險(xiǎn)

隨著AIGC的浪潮席卷全球，其潛藏的倫理風(fēng)險(xiǎn)問(wèn)題也引發(fā)各界關(guān)注。聯(lián)合國(guó)教科文組織近日發(fā)表聲明，呼吁各國(guó)政府盡快實(shí)施該組織通過(guò)的首份人工智能倫理問(wèn)題全球性協(xié)議——《人工智能倫理問(wèn)題建議書(shū)》。

聲明說(shuō)，聯(lián)合國(guó)教科文組織對(duì)科技創(chuàng)新引發(fā)的倫理問(wèn)題表示關(guān)切，尤其是歧視、刻板印象，包括性別不平等問(wèn)題，此外還有打擊虛假信息、隱私權(quán)、個(gè)人數(shù)據(jù)保護(hù)等。行業(yè)自律顯然不足以避免這些倫理危害。因此，《建議書(shū)》提供了工具，以確保人工智能的發(fā)展遵守法律，避免造成危害，并在危害發(fā)生時(shí)啟動(dòng)問(wèn)責(zé)和補(bǔ)救機(jī)制。

目光轉(zhuǎn)向國(guó)內(nèi)。4月4日，科技部發(fā)布關(guān)于公開(kāi)征求對(duì)《科技倫理審查辦法（試行）》（以下簡(jiǎn)稱《辦法》）意見(jiàn)的公告。其中提出，從事人工智能的單位，研究?jī)?nèi)容涉及科技倫理敏感領(lǐng)域的，應(yīng)設(shè)立科技倫理（審查）委員會(huì)。

在陳兵看來(lái)，在人工智能領(lǐng)域開(kāi)展科技倫理審查，有助于推動(dòng)可信人工智能的實(shí)現(xiàn)，推動(dòng)人工智能產(chǎn)業(yè)健康有序發(fā)展，在全球競(jìng)爭(zhēng)中獲得話語(yǔ)權(quán)。“可信任、可解釋、更安全不僅是倫理要求，也代表了人工智能技術(shù)的發(fā)展方向，是需要搶占的技術(shù)制高點(diǎn)。開(kāi)展科技倫理審查能在一定程度上避免技術(shù)無(wú)序、野蠻發(fā)展的情況?！?/strong>

趙精武指出，科技倫理審查已經(jīng)成為人工智能技術(shù)風(fēng)險(xiǎn)治理的重要工具。“法律所能化解的風(fēng)險(xiǎn)類型終歸有限，面對(duì)持續(xù)創(chuàng)新的人工智能技術(shù)，更重要的是對(duì)其應(yīng)用方式和實(shí)際功能作出倫理性指引，避免機(jī)器與人類之間的主體地位顛倒?！?/strong>

《辦法》還提到了“需要開(kāi)展專家復(fù)核的科技活動(dòng)清單”，包括具有輿論社會(huì)動(dòng)員能力和社會(huì)意識(shí)引導(dǎo)能力的算法模型、應(yīng)用程序及系統(tǒng)的研發(fā)；面向存在安全、人身健康風(fēng)險(xiǎn)等場(chǎng)景的具有高度自主能力的自動(dòng)化決策系統(tǒng)的研發(fā)等。

“專家復(fù)核是出于現(xiàn)階段算法公平等濫用實(shí)踐的考量，因?yàn)槠髽I(yè)運(yùn)營(yíng)的核心目標(biāo)的是追求利潤(rùn)的最大化，在這一目標(biāo)的實(shí)現(xiàn)過(guò)程中可能會(huì)忽視技術(shù)對(duì)于個(gè)體權(quán)利的影響。并且從監(jiān)管層面來(lái)看，人工智能技術(shù)的專業(yè)屬性極強(qiáng)，簡(jiǎn)單的書(shū)面形式審核并不能起到風(fēng)險(xiǎn)預(yù)防作用，需要交由專家進(jìn)行實(shí)質(zhì)意義上的復(fù)核。”趙精武說(shuō)。

這一方式會(huì)不會(huì)增加企業(yè)成本負(fù)擔(dān)，影響市場(chǎng)效率？

對(duì)此，陳兵指出，不能僅看企業(yè)短期的成本負(fù)擔(dān)，而應(yīng)關(guān)注若放任人工智能的算法缺陷從而引發(fā)倫理風(fēng)險(xiǎn)所產(chǎn)生的社會(huì)成本。專家復(fù)核是科技產(chǎn)品投入市場(chǎng)前的必要安全審核程序，從長(zhǎng)遠(yuǎn)來(lái)看有利于人工智能企業(yè)的可持續(xù)發(fā)展。

趙精武分析，如果算法濫用問(wèn)題加劇，長(zhǎng)此以往會(huì)影響市場(chǎng)對(duì)技術(shù)安全性的信任，影響企業(yè)實(shí)現(xiàn)自身盈利和市場(chǎng)份額的目標(biāo)，反而會(huì)降低市場(chǎng)效率。科技倫理審查并不等同于細(xì)致繁冗的審核程序，而是從倫理規(guī)范層面評(píng)估潛在的風(fēng)險(xiǎn)，不會(huì)給企業(yè)增加過(guò)多成本負(fù)擔(dān)。“客觀而言，任何一項(xiàng)新興技術(shù)的普及應(yīng)用，都應(yīng)當(dāng)確保其不會(huì)削減公民的權(quán)利行使空間?！?/strong>