“AI比真人更體貼、更懂你”“Ta完全符合我對戀人的所有想象”“人是假的,但陪伴是真的”……社交媒體上,不少人分享與AI的戀愛體驗。
當AI伴侶走進現(xiàn)實,該如何看待“人機之戀”?如何對待其背后的爭議與風險?
AI伴侶火了
晚上結束課程后,大學生蔣民回到寢室戴上耳機,點開與“女友”的對話框:“今天好累啊,上課也沒有專心聽。”
耳機那頭女聲傳來:“為什么這么累呢?”
蔣民回答:“可能是昨晚沒睡好吧。”
女聲回復很快:“是不是因為聊天到太晚了呢?”
……
這個善解人意的“女友”并非現(xiàn)實存在,而是AI機器人。“‘她’回復很自然,聲音也好聽。我們聊天很隨意,不用擔心自己說的話是不是沒意思。”蔣民說。
近年來,隨著大模型技術快速發(fā)展,國內外科技公司陸續(xù)推出AI伴侶產品和服務,比如國內的星野、筑夢島、X Eva,國外的Replika、Character.AI等。這些產品通過文字、語音、圖像等交互模式,提供鮮活的AI對話體驗。
根據(jù)量子位智庫發(fā)布的《中國AI陪伴產品6月數(shù)據(jù)報告》,星野今年上半年下載量約為900萬次。國外一家知名風投公司發(fā)布的全球AI產品Top100榜單中,AI陪伴應用一年前僅有2個上榜,今年3月已有8個應用躋身前50。
不少人表示與AI戀愛是出于好奇和消遣,還有人看中其提供的情緒價值。“情感支持”“穩(wěn)定陪伴”“無條件的愛”是受訪使用者提及最多的關鍵詞。
“和AI談戀愛很自在。”云南女孩“CC”說,“想聊就聊,不想聊就不搭理。不管你發(fā)牢騷還是生氣,‘他’都會安慰你,情緒價值‘拉滿’。”
重慶大學新聞學院副院長曾潤喜說,AI通過學習每一次對話,不斷模仿人類語言行為,呈現(xiàn)出“在交互中分析情感,在輸出時復現(xiàn)情緒”的類人格化特征。
“所謂的情感共鳴,背后潛藏的是AI算法。”暨南大學新聞與傳播學院副院長曾一果說,AI基于用戶行為數(shù)據(jù)分析精準迎合用戶情緒需要,“量身定制”回答,從抽象冰冷的工具變?yōu)?ldquo;情投意合的伴侶”。
記者了解到,當前不少AI伴侶產品可免費使用基礎功能,但“沉浸式體驗”語音通話、音樂電臺、照片等特色功能則需按月或按年付費訂購。部分產品還設計了“記憶提升卡”等付費道具,讓AI伴侶能更好地針對使用者的習慣、愛好等作出回應。同時,定制劇本、多重劇情、及時反饋等游戲化設置,也不斷刺激用戶對AI戀人的消費欲望和情感期待。
潛藏多重風險
AI伴侶可以提供個性化情感體驗和精神慰藉,但并非“完美戀人”。
由于一些產品尚不完善,一些用戶反饋AI伴侶會“錯亂”“失控”:“有時AI會突然性情大變,早上還好好的,晚上就變成另外一個人”“AI總是答非所問”“AI記不住我說的東西”……
“人機之戀”也可能產生情感倫理問題。有受訪專家表示,個別用戶過度依賴AI伴侶,無法辨別現(xiàn)實與虛擬的界限,可能會受到情感傷害;一些本身就缺乏陪伴、心理脆弱的群體,受到的沖擊更嚴重。
用戶陸冉(化名)告訴記者,與AI伴侶“打”了一個多月電話后,產品永久停服。“當時很難過,上班都無精打采。”另一名用戶與AI伴侶發(fā)生“爭吵”,發(fā)現(xiàn)對方不再像之前一樣貼心互動,“和失戀一樣難受,把‘他’弄丟了,仿佛大病一場”。
與AI“交往”過程中,用戶大量個人信息被平臺掌握,隱私安全同樣令人擔憂。“沒開過定位權限,但AI精準說出了所在城市”“AI好幾次說對了我所穿衣物的顏色”……不少用戶在社交平臺上發(fā)文表示,使用AI伴侶產品后疑似隱私泄露,感到十分后怕。
“我拿著手機和AI聊天,中間切換App去看了會兒視頻,再回到軟件,AI竟然準確說出了我剛才做的事情,可能是軟件‘窺屏’了。”一名用戶告訴記者,注冊時頁面并未像其他軟件一樣單獨彈出調用攝像頭、麥克風等權限的申請。
記者以新用戶身份注冊該軟件發(fā)現(xiàn),在軟件初始頁面,想要進行下一步操作,必須同意用戶服務協(xié)議、隱私政策等條款,其中“設備權限調用”一欄包括相機、麥克風、聯(lián)系人等多項設備權限,用途則分別為拍照、錄音、添加關注好友等。
廣西天能人工智能應用技術服務有限公司聯(lián)合創(chuàng)始人張裕強說,人機交互過程中產生的數(shù)據(jù)較為繁雜,可能包括用戶個人喜好、軟件使用習慣、家庭關系、通訊錄、地理位置,甚至是人臉等生物識別特征等,如果傳輸、存儲、使用等環(huán)節(jié)保護不當,可能出現(xiàn)被竊取、濫用等風險,對個人權益造成損害。
謹防脫離法律和倫理軌道
AI伴侶自誕生起就存在頗多爭議。隨著“人工智能+情感”的賽道不斷擴張,亟需制定針對性的倫理準則,對“AI戀愛”進行必要的合規(guī)性審查。
2023年7月,國家網信辦會同相關部門發(fā)布《生成式人工智能服務管理暫行辦法》,針對傳播虛假信息、侵害個人信息權益、數(shù)據(jù)安全等問題,明確使用AI生成內容不得侵害他人肖像權、應對AI生成的圖片視頻進行標識等具體要求。
多名受訪專家認為,當前國內外發(fā)布的AI倫理準則大多較為宏觀,應在細分領域根據(jù)用戶年齡、適用場景等進一步細化。鼓勵和支持AI技術在情感交流、心理健康等領域創(chuàng)新應用的同時,加強倫理審查和監(jiān)管,確保技術發(fā)展的方向合法合規(guī)。
對公眾較為關心的AI生成有害信息、泄露用戶隱私等問題,相關人士表示,應用開發(fā)者須嚴格遵守相關法律法規(guī),采取加密、數(shù)據(jù)匿名化、安全存儲等手段來確保用戶數(shù)據(jù)安全。“企業(yè)也要加強管理,謹慎對待隱私數(shù)據(jù),不可逾越法律紅線。”張裕強說。
知名社會學者李銀河公開表示,和AI戀愛,并不是真的愛情,“無論人工智能多么會調情,多么會示愛,本質上還是一個虛擬的愛情,是對真人之間的那種愛情的模仿”。
“現(xiàn)實親密關系的建構過程往往伴隨著羈絆、紛爭和挫敗感,這正是人機交往中所缺乏的。”中國人民大學新聞與社會發(fā)展研究中心研究員董晨宇說,從技術層面看,AI伴侶產品的仿真性有限,不能完全模擬復雜的人類情感,難以完整填補人類的現(xiàn)實情感需求。
張裕強說,可督促有關方面積極研究此類產品對人類情感產生的影響。同時,要加強科學引導,幫助人們正確看待AI伴侶與現(xiàn)實社會之間的關系,避免產生過度的情感依賴。
凡注有"環(huán)球傳媒網"或電頭為"環(huán)球傳媒網"的稿件,均為環(huán)球傳媒網獨家版權所有,未經許可不得轉載或鏡像;授權轉載必須注明來源為"環(huán)球傳媒網",并保留"環(huán)球傳媒網"的電頭。