智能體是人工智能(AI)領(lǐng)域中的一個(gè)重要概念,是指能夠自主感知環(huán)境、做出決策并執(zhí)行行動(dòng)的智能實(shí)體,它可以是一個(gè)程序、一個(gè)系統(tǒng)或是一個(gè)機(jī)器人。
智能體的核心是人工智能算法,包括機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等技術(shù)。通過這些算法,智能體可以從大量數(shù)據(jù)中學(xué)習(xí)并改進(jìn)自身的性能,不斷優(yōu)化自己的決策和行為。智能體還可根據(jù)環(huán)境變化做出靈活的調(diào)整,適應(yīng)不同的場景和任務(wù)。
學(xué)界認(rèn)為,智能體一般具有以下三大特質(zhì):
第一,可根據(jù)目標(biāo)獨(dú)立采取行動(dòng),即自主決策。智能體可以被賦予一個(gè)高級(jí)別甚至模糊的目標(biāo),并獨(dú)立采取行動(dòng)實(shí)現(xiàn)該目標(biāo)。
第二,可與外部世界互動(dòng),自如地使用不同的軟件工具。比如基于GPT-4的智能體AutoGPT,可以自主地在網(wǎng)絡(luò)上搜索相關(guān)信息,并根據(jù)用戶的需求自動(dòng)編寫代碼和管理業(yè)務(wù)。
第三,可無限期地運(yùn)行。美國哈佛大學(xué)法學(xué)院教授喬納森·齊特雷恩近期在美國《大西洋》雜志發(fā)表的《是時(shí)候控制AI智能體》一文指出,智能體允許人類操作員“設(shè)置后便不再操心”。還有專家認(rèn)為,智能體具備可進(jìn)化性,能夠在工作進(jìn)程中通過反饋逐步自我優(yōu)化,比如學(xué)習(xí)新技能和優(yōu)化技能組合。
以GPT為代表的大語言模型(LLM)的出現(xiàn),標(biāo)志著智能體進(jìn)入批量化生產(chǎn)時(shí)代。此前,智能體需靠專業(yè)的計(jì)算機(jī)科學(xué)人員歷經(jīng)多輪研發(fā)測試,現(xiàn)在依靠大語言模型就可迅速將特定目標(biāo)轉(zhuǎn)化為程序代碼,生成各式各樣的智能體。而兼具文字、圖片、視頻生成和理解能力的多模態(tài)大模型,也為智能體的發(fā)展創(chuàng)造了有利條件,使它們可以利用計(jì)算機(jī)視覺“看見”虛擬或現(xiàn)實(shí)的三維世界,這對于人工智能非玩家角色和機(jī)器人研發(fā)都尤為重要。
智能體可以自主決策,又能通過與環(huán)境交互施加對物理世界影響,一旦失控將給人類社會(huì)帶來極大威脅。哈佛大學(xué)齊特雷恩認(rèn)為,這種不僅能與人交談,還能在現(xiàn)實(shí)世界中行動(dòng)的AI的常規(guī)化,是“數(shù)字與模擬、比特與原子之間跨越血腦屏障的一步”,應(yīng)當(dāng)引起警覺。
智能體的運(yùn)行邏輯可能使其在實(shí)現(xiàn)特定目標(biāo)過程中出現(xiàn)有害偏差。齊特雷恩認(rèn)為,在一些情況下,智能體可能只捕捉到目標(biāo)的字面意思,沒有理解目標(biāo)的實(shí)質(zhì)意思,從而在響應(yīng)某些激勵(lì)或優(yōu)化某些目標(biāo)時(shí)出現(xiàn)異常行為。比如,一個(gè)讓機(jī)器人“幫助我應(yīng)付無聊的課”的學(xué)生可能無意中生成了一個(gè)炸彈威脅電話,因?yàn)锳I試圖增添一些刺激。AI大語言模型本身具備的“黑箱”和“幻覺”問題也會(huì)增加出現(xiàn)異常的頻率。
智能體還可指揮人在真實(shí)世界中的行動(dòng)。美國加利福尼亞大學(xué)伯克利分校、加拿大蒙特利爾大學(xué)等機(jī)構(gòu)專家近期在美國《科學(xué)》雜志發(fā)表《管理高級(jí)人工智能體》一文稱,限制強(qiáng)大智能體對其環(huán)境施加的影響是極其困難的。例如,智能體可以說服或付錢給不知情的人類參與者,讓他們代表自己執(zhí)行重要行動(dòng)。齊特雷恩也認(rèn)為,一個(gè)智能體可能會(huì)通過在社交網(wǎng)站上發(fā)布有償招募令來引誘一個(gè)人參與現(xiàn)實(shí)中的敲詐案,這種操作還可在數(shù)百或數(shù)千個(gè)城鎮(zhèn)中同時(shí)實(shí)施。
由于目前并無有效的智能體退出機(jī)制,一些智能體被創(chuàng)造出后可能無法被關(guān)閉。這些無法被停用的智能體,最終可能會(huì)在一個(gè)與最初啟動(dòng)它們時(shí)完全不同的環(huán)境中運(yùn)行,徹底背離其最初用途。智能體也可能會(huì)以不可預(yù)見的方式相互作用,造成意外事故。
已有“狡猾”的智能體成功規(guī)避了現(xiàn)有的安全措施。相關(guān)專家指出,如果一個(gè)智能體足夠先進(jìn),它就能夠識(shí)別出自己正在接受測試。目前已發(fā)現(xiàn)一些智能體能夠識(shí)別安全測試并暫停不當(dāng)行為,這將導(dǎo)致識(shí)別對人類危險(xiǎn)算法的測試系統(tǒng)失效。
專家認(rèn)為,人類目前需盡快從智能體開發(fā)生產(chǎn)到應(yīng)用部署后的持續(xù)監(jiān)管等全鏈條著手,規(guī)范智能體行為,并改進(jìn)現(xiàn)有互聯(lián)網(wǎng)標(biāo)準(zhǔn),從而更好地預(yù)防智能體失控。應(yīng)根據(jù)智能體的功能用途、潛在風(fēng)險(xiǎn)和使用時(shí)限進(jìn)行分類管理。識(shí)別出高風(fēng)險(xiǎn)智能體,對其進(jìn)行更加嚴(yán)格和審慎的監(jiān)管。還可參考核監(jiān)管,對生產(chǎn)具有危險(xiǎn)能力的智能體所需的資源進(jìn)行控制,如超過一定計(jì)算閾值的AI模型、芯片或數(shù)據(jù)中心。此外,由于智能體的風(fēng)險(xiǎn)是全球性的,開展相關(guān)監(jiān)管國際合作也尤為重要。
關(guān)鍵詞:
凡注有"環(huán)球傳媒網(wǎng) - 環(huán)球資訊網(wǎng) - 環(huán)球生活門戶"或電頭為"環(huán)球傳媒網(wǎng) - 環(huán)球資訊網(wǎng) - 環(huán)球生活門戶"的稿件,均為環(huán)球傳媒網(wǎng) - 環(huán)球資訊網(wǎng) - 環(huán)球生活門戶獨(dú)家版權(quán)所有,未經(jīng)許可不得轉(zhuǎn)載或鏡像;授權(quán)轉(zhuǎn)載必須注明來源為"環(huán)球傳媒網(wǎng) - 環(huán)球資訊網(wǎng) - 環(huán)球生活門戶",并保留"環(huán)球傳媒網(wǎng) - 環(huán)球資訊網(wǎng) - 環(huán)球生活門戶"的電頭。
- 警惕人工智能時(shí)代的“智能體風(fēng)險(xiǎn)” 今日看2024-07-18
- 江西日報(bào)“文化中國行”專欄|婺源歙硯雕刻2024-07-17
- 旅日華僑關(guān)乃平個(gè)人畫展在京開幕-最新消息2024-07-17
- 科技之刃與未來之路 《一路奔北》研討會(huì)舉2024-07-17
- 山東港口煙臺(tái)港打造中國北方二手車交易集散2024-07-17
- 車市半年風(fēng)云:中國品牌崛起,競爭重塑格局2024-07-17
- 7月17日晚8時(shí)“京東超級(jí)18”重磅來襲 千元2024-07-17
- 【聚看點(diǎn)】福州高溫橙色預(yù)警 民眾溪谷山林2024-07-17
- 香港書展盛大開幕 北京首次作為主題城市參2024-07-17
- 每日消息!南陽市場監(jiān)管局宛城分局:下好營2024-07-17
- 南陽市宛城區(qū)法院:26萬貨款歸原主 為草莓2024-07-17
- 焦點(diǎn)!內(nèi)鄉(xiāng)縣全面啟動(dòng)國有檔案資源普查工作2024-07-17
- 大學(xué)生為八旬奶奶改造智能屏獲贊 全球速看2024-07-17
- 焦點(diǎn)精選!3373億元、979.6公里!鐵路客貨2024-07-17
- 更輕更靜更節(jié)能 我國自主研制的高速內(nèi)置轉(zhuǎn)2024-07-17
- 制造業(yè)轉(zhuǎn)型升級(jí)再提速 為經(jīng)濟(jì)發(fā)展注入新動(dòng)2024-07-17
- 金恪生活館(靜安館)投資簽約儀式圓滿舉行2024-07-17
- 天天即時(shí):金恪集團(tuán)王鵬:生活館是一種全新2024-07-17
- 山東日照:魅力文化游“圈粉”外籍友人2024-07-17
- 天天快看:湖北巴東:李子豐收農(nóng)戶喜2024-07-17
- 讀懂5.0%背后的“效”與“質(zhì)” 熱門看點(diǎn)2024-07-17
- ?西平縣委書記侯公濤督導(dǎo)檢查全縣防汛備汛2024-07-17
- 全球快資訊:信陽市政協(xié)副主席周剛等一行蒞2024-07-17
- ?息縣:全方位多角度持續(xù)優(yōu)化營商環(huán)境|全2024-07-17
- 環(huán)球速讀:財(cái)政部擬發(fā)行2024年超長期特別國2024-07-17
- 上半年北京新能源汽車零售額同比增近三成2024-07-17
- 全球觀焦點(diǎn):深圳金融監(jiān)管局提示:理性選擇2024-07-17
- 日蘭高鐵7月18日全線貫通運(yùn)營 天天新資訊2024-07-17
- 天天實(shí)時(shí):浙江加快推進(jìn)大視聽產(chǎn)業(yè)高質(zhì)量發(fā)2024-07-17
- 北京上半年GDP同比增長5.4%_當(dāng)前頭條2024-07-17
- 鄧州市夏集鎮(zhèn)稅務(wù)分局:深化辦稅便利度 打造優(yōu)質(zhì)營商環(huán)境-新資訊
- 觀天下!6760億元!人民銀行逆回購操作加碼
- 天天短訊!萬能險(xiǎn)市場6月份新動(dòng)態(tài):結(jié)算利率下調(diào),行業(yè)進(jìn)入調(diào)整期
- 羅山縣定遠(yuǎn)鄉(xiāng)扎實(shí)做好鄉(xiāng)鎮(zhèn)統(tǒng)戰(zhàn)工作|觀焦點(diǎn)
- 尼日利亞中部一學(xué)校建筑倒塌至少22人死亡
- 焦點(diǎn)精選!固始縣郵政分公司開展“夏日送清涼 防暑護(hù)安康”慰問活動(dòng)
- 【新視野】潢川縣人防事務(wù)中心:走流程優(yōu)服務(wù)
- ?潢川縣:直播助農(nóng)帶增收 走訪幫扶促振興
- 內(nèi)鄉(xiāng)縣赤眉鎮(zhèn):“三全”機(jī)制 打造項(xiàng)目建設(shè)服務(wù)新樣板 當(dāng)前速讀
- ?潢川縣教體局:揚(yáng)起營商環(huán)境之帆 提升政務(wù)服務(wù)之效
資訊
- 退場!鵬揚(yáng)國證財(cái)富管理 ETF即將清盤并終止上市
- A股三大指數(shù)集體收漲,北交所四只個(gè)股30CM漲停
- 今日報(bào)丨【地評(píng)線】中安時(shí)評(píng):中國經(jīng)濟(jì)“半年報(bào)” 彰顯發(fā)展“強(qiáng)動(dòng)力”
- 【全球新視野】多家整車企業(yè)披露上半年業(yè)績預(yù)告 分化趨勢明顯
- 貴陽復(fù)讀學(xué)校新篇章:貴陽南圖學(xué)府教育(附貴陽南圖學(xué)府教育復(fù)讀學(xué)費(fèi))
- 世界今熱點(diǎn):溫網(wǎng)綜合 | 阿爾卡拉斯、梅德韋杰夫四強(qiáng)再碰撞
- 河南交通技師學(xué)院信息工程系黨支部與后楊村黨支部開展支部共建活動(dòng) 天天消息
- 【世界新要聞】荷蘭隊(duì)主帥:我們還有兩場比賽要打
- 南召法院2024年暑假托管班開班啦!_今日訊
- 7月4日央行開展20億元7天期逆回購操作
焦點(diǎn)
- 旅日華僑關(guān)乃平個(gè)人畫展在京開幕-最新消息
- 當(dāng)前快訊:中汽協(xié):上半年商用車產(chǎn)銷同比分別增長2%和4.9%
- ?息縣縣委書記管保臣調(diào)研督導(dǎo)防汛工作_每日動(dòng)態(tài)
- 【環(huán)球快播報(bào)】北京大學(xué)!信陽市2024年首封高考錄取通知書已送達(dá)!
- 鄧州市汲灘鎮(zhèn):三個(gè)強(qiáng)化解民憂 抗?jié)撤姥幢F桨?當(dāng)前熱聞
- 當(dāng)前訊息:(身邊的變化)中國醫(yī)保如何惠民生?
- 南召法院:孩子在校園內(nèi)受傷誰擔(dān)責(zé)?法院判了!
- 南召法院:總結(jié)經(jīng)驗(yàn)提質(zhì)效 雙抓雙促爭先進(jìn)
- ?魅力豫東南 活力高新區(qū)——2024年潢川光山新縣美術(shù)作品巡回聯(lián)展首展在潢川開展
- 北京大興榆垡商業(yè)綜合體順利通過竣工驗(yàn)收:點(diǎn)亮航城新生活 天天快資訊