南方財經(jīng)全媒體記者 陳思琦 深圳報道

“機器人不得傷害人類個體，必須服從人給予它的命令，在不違反前述二者的情況下盡可能保護自己的生存。”

1950年，科幻小說作家艾薩克·阿西莫夫在《我，機器人》中提出“機器人三定律”，讓世界警惕技術(shù)進步帶來的反噬與反叛風(fēng)險。

(資料圖片)

連日來，“AI教父”杰弗里·辛頓（Geoffrey Hinton）從谷歌離職、馬斯克聯(lián)合近千科技人員呼吁未來6個月暫停訓(xùn)練巨型GPT模型——ChatGPT浪潮下，人工智能倫理爭議愈發(fā)激烈，“三定律”有了衍生意義。

“ChatGPT使社會系統(tǒng)結(jié)構(gòu)發(fā)生變化，要求我們更注重人機關(guān)系研究。人工智能不再是單純的輔助工具，而是走向了人機融合、人機平衡?！?/p>

在5月5日于深圳大學(xué)舉辦的“智慧城市與數(shù)字經(jīng)濟交叉學(xué)科高端論壇”上，華中科技大學(xué)特聘教授、中國管理科學(xué)與工程學(xué)會副理事長王紅衛(wèi)作為首位發(fā)言者，以對人機關(guān)系的關(guān)注開啟了接近3小時的圓桌討論。

與會專家認為，ChatGPT等技術(shù)可為管理學(xué)、心理學(xué)、地理學(xué)等領(lǐng)域研究提供極大幫助，但隨之而來的技術(shù)倫理問題要求我們關(guān)注立法，以完善的制度法規(guī)約束AI的無序發(fā)展。

另一方面，技術(shù)的迅猛進步對人才培養(yǎng)提出新的挑戰(zhàn)。25年前，誕生于深圳的騰訊被認為破解了互聯(lián)網(wǎng)“密碼”。如今培養(yǎng)破解AI“密碼”的創(chuàng)新團隊，深圳最具土壤，要求高校從源頭上推進科技與人文的雙輪驅(qū)動，重構(gòu)教育體系以培養(yǎng)更多具備跨學(xué)科素養(yǎng)的“多面手”。

實現(xiàn)可控、有邊界的AI發(fā)展

ChatGPT橫空出世，能以極快的速度回答各種領(lǐng)域的問題，被認為大大提高了人類的工作效率與生活質(zhì)量。

然而，直接引用ChatGPT答案會產(chǎn)生極大的倫理風(fēng)險，如個人隱私侵犯、虛假信息傳播等。離開谷歌的辛頓也坦言，網(wǎng)上充斥的虛假圖片、視頻和文字，將讓普通人“無法再辨別真假”。

論壇上，中國人民大學(xué)信息學(xué)院教授、中國計算機學(xué)會會士孟小峰指出，當(dāng)前ChatGPT“吃”掉的素材全是人類的知識成果，與人類自身吸收、學(xué)習(xí)的素材同源，而人類消化了同樣的信息可能無法生成與ChatGPT同等質(zhì)量的答案。

“核聚變是毀滅人類的，‘可控的’核聚變才可被人類應(yīng)用。人工智能同樣不能直接服務(wù)于經(jīng)濟社會，需要像核聚變一樣探索一個可控的、有邊界的機制。”

孟小峰認為，不能單純從倫理角度“一刀切”地認為ChatGPT生成的結(jié)果不可接受，人工智能也需要一套可控的技術(shù)體系。

深圳大學(xué)黨委書記、光明實驗室主任李清泉則強調(diào)了法律約束的重要性。技術(shù)發(fā)展的“可控”需要加強頂層設(shè)計和規(guī)劃，從法律法規(guī)到產(chǎn)業(yè)扶持政策都需進一步完善，尤其法律的約束對象要從“人”拓展到人工智能。

以智能駕駛為例，即使技術(shù)達到相對成熟的水平，其大規(guī)模推廣也面臨著復(fù)雜城市路況帶來的高度不確定性與道德倫理困境，事故權(quán)責(zé)歸屬問題尤為棘手。

在這方面，深圳發(fā)揮經(jīng)濟特區(qū)立法優(yōu)勢，于2022年8月出臺實施全國首部智能網(wǎng)聯(lián)汽車管理法規(guī)《深圳經(jīng)濟特區(qū)智能網(wǎng)聯(lián)汽車管理條例》，全國首部人工智能產(chǎn)業(yè)專項立法《深圳經(jīng)濟特區(qū)人工智能產(chǎn)業(yè)促進條例》也于去年11月正式生效。

學(xué)界與業(yè)界也持續(xù)發(fā)力。李清泉透露，以深圳大學(xué)為牽頭建設(shè)單位的人工智能與數(shù)字經(jīng)濟廣東省實驗室（深圳）（即光明實驗室）正在探索與保險公司合作，生成無人駕駛的保費模型。

推進科技與人文的雙輪驅(qū)動

“藝術(shù)與科學(xué)總是在山腳下分手，又在山頂上相遇。”正如法國作家福樓拜所言，科學(xué)思維與藝術(shù)思維是相輔相成、相得益彰的。

與會專家認為，ChatGPT對高校人才培養(yǎng)帶來了新的機遇和挑戰(zhàn)，要求重構(gòu)教育體系，重視科技與人文雙輪驅(qū)動，培養(yǎng)學(xué)生成為具備多學(xué)科素養(yǎng)的“多面手”。

北京大學(xué)計算機學(xué)院教授、中國計算機學(xué)會會士李曉明提到，其曾在北京大學(xué)開設(shè)通識課程“社會科學(xué)中的計算思維方法”“社會科學(xué)問題研究的計算實踐”等，培養(yǎng)人文社科學(xué)生的計算思維。

如今擔(dān)任大灣區(qū)大學(xué)（籌）科教負責(zé)人，李曉明透露，該校擬面向全校開設(shè)一門為期一年的計算機通識課，而這將是一門“認真的通識課”，幫助學(xué)生邁出舒適圈，推進理工科與人文社科更緊密地融合。

華東師范大學(xué)心理與認知科學(xué)學(xué)院院長周曉林提出，ChatGPT在很多方面的行為表現(xiàn)與人非常相似，但在心理學(xué)領(lǐng)域，還缺乏“機器人心理學(xué)”這類二級學(xué)科。

周曉林舉例說，機器人行走的角度與速度不同，與人類發(fā)生碰撞的可能性不同，人類由此產(chǎn)生的心理認知也有很大差異。因此，建議高校設(shè)置“機器人心理學(xué)”等前沿學(xué)科，探索將人類的心理特性融入機器人設(shè)計中，讓心理學(xué)更好賦能技術(shù)進步。

“ChatGPT成功的背后，是一幫年輕人掌握了‘密碼’。我們要培養(yǎng)潛心修煉、能夠破解AI‘密碼’的創(chuàng)新團隊，而深圳最有培養(yǎng)這種團隊的土壤和條件?！泵闲》鍖υ杏鲵v訊，在互聯(lián)網(wǎng)浪潮中取得先機的深圳寄予厚望。

深圳大學(xué)作為深圳高等教育“長子”，李清泉透露，該校正探索將ChatGPT等技術(shù)與教育信息化結(jié)合，為傳統(tǒng)教育賦能。

“公立大學(xué)受限于成本，長期以來難以實現(xiàn)個性化教育。而ChatGPT可以根據(jù)學(xué)生的基礎(chǔ)條件、素質(zhì)、愛好等，生成其所需要的課程，并根據(jù)其學(xué)習(xí)過程展開評價，對后續(xù)的學(xué)習(xí)提供有針對性的幫助。深大希望在這方面積極探索，起到引領(lǐng)作用?！崩钋迦硎尽?/p>

關(guān)鍵詞：