中新網(wǎng)烏鎮(zhèn)11月22日電(奚金燕 藍(lán)伊旎)人工智能生成的內(nèi)容如何“防偽”？網(wǎng)絡(luò)空間國(guó)際規(guī)則怎么制定？數(shù)據(jù)安全的邊界在哪里？隨著人工智能的高速發(fā)展以及在各領(lǐng)域的廣泛應(yīng)用，加強(qiáng)人工智能在開發(fā)和應(yīng)用層面的安全治理逐漸成為社會(huì)共識(shí)，聚焦的議題也愈加細(xì)分、深入。

11月19日至22日，2024年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)在烏鎮(zhèn)舉辦，人工智能成為本次大會(huì)核心議題，AI的倫理風(fēng)險(xiǎn)、安全治理等問題成為討論的焦點(diǎn)。

11月19日至22日，2024年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)在烏鎮(zhèn)舉辦?！≈鬓k方 供圖

近年來，AI技術(shù)的快速發(fā)展帶來了巨大的經(jīng)濟(jì)和社會(huì)效益，也引發(fā)了眾多安全和治理方面的挑戰(zhàn)。

在本屆峰會(huì)的網(wǎng)絡(luò)安全技術(shù)發(fā)展與國(guó)際合作論壇上，奇安信集團(tuán)董事長(zhǎng)齊向東指出，AI技術(shù)正面臨著“黑箱化”導(dǎo)致內(nèi)容生成良莠不齊、“黑產(chǎn)化”導(dǎo)致深度偽造泛濫成災(zāi)和“武器化”導(dǎo)致黑客攻擊愈演愈烈三重安全危機(jī)，亟須通過多維度體系化防護(hù)、深度偽造技術(shù)防治以及安全大模型的創(chuàng)新來加強(qiáng)治理。

“有了高效的安全治理，AI才有未來。”他認(rèn)為，建立AI安全大模型是應(yīng)對(duì)未來挑戰(zhàn)的關(guān)鍵策略。

以奇安信為例，用其部署自研的QAX-GPT安全大模型賦能天眼、天擎、椒圖等安全產(chǎn)品，再依托AISOC進(jìn)行告警全局關(guān)聯(lián)，可以讓網(wǎng)絡(luò)安全、終端安全、服務(wù)器安全的防御變得更加主動(dòng)。

再如，安恒信息牽頭研發(fā)的恒腦·安全垂域大模型在杭州亞運(yùn)會(huì)賽事期間輔助處理安全事件287起，降低了ITCC57%的工作量。以AI對(duì)AI，以AI管AI，人工智能切實(shí)給網(wǎng)絡(luò)安保帶來了質(zhì)的變化。

同時(shí)，隨著人工智能深入到生活的各個(gè)方面，如何用人文關(guān)懷搭建數(shù)字橋梁、實(shí)現(xiàn)技術(shù)發(fā)展與社會(huì)責(zé)任間的平衡成為新的課題。

在量子之歌董事長(zhǎng)李鵬看來，隨著數(shù)字資源供給日益豐富、數(shù)字發(fā)展環(huán)境逐漸優(yōu)化，老年人對(duì)知識(shí)與精神生活的需求也更加迫切，銀發(fā)教育普惠及資源共享需要在供給側(cè)發(fā)力。

他呼吁，人工智能的發(fā)展應(yīng)當(dāng)為老年教育等領(lǐng)域提供更多的數(shù)字化解決方案。比如，通過“線上+線下”的融合創(chuàng)新，一起構(gòu)建“15分鐘學(xué)習(xí)圈”，實(shí)現(xiàn)“老年大學(xué)辦到家門口”，打通“老年教育最后一百米”，以數(shù)字創(chuàng)新增強(qiáng)老年教育服務(wù)的“可及性”和“均衡性”。

那么，應(yīng)當(dāng)如何加強(qiáng)安全治理和社會(huì)引導(dǎo)，助力人工智能可持續(xù)發(fā)展？

據(jù)了解，本屆峰會(huì)圍繞人才培養(yǎng)、數(shù)據(jù)安全等方面，打造了多個(gè)“亮點(diǎn)”、實(shí)現(xiàn)了多個(gè)“首次”。

峰會(huì)期間，世界互聯(lián)網(wǎng)大會(huì)智庫(kù)合作計(jì)劃啟動(dòng)。該計(jì)劃由全球約60家智庫(kù)聯(lián)合發(fā)起，涉及互聯(lián)網(wǎng)、人工智能、大數(shù)據(jù)、通信、云計(jì)算等專業(yè)方向和數(shù)字經(jīng)濟(jì)、網(wǎng)絡(luò)文化、網(wǎng)絡(luò)空間國(guó)際治理、網(wǎng)絡(luò)安全等研究領(lǐng)域，將為全球互聯(lián)網(wǎng)領(lǐng)域?qū)W術(shù)交流和思想對(duì)話機(jī)制化、常態(tài)化搭建合作平臺(tái)，推動(dòng)全球智庫(kù)圍繞互聯(lián)網(wǎng)相關(guān)議題開展研究、交流與合作。

功以才成，業(yè)由才廣?；ヂ?lián)網(wǎng)迅猛發(fā)展，亟需規(guī)模宏大、結(jié)構(gòu)合理、素質(zhì)優(yōu)良的創(chuàng)新人才隊(duì)伍。

為了應(yīng)對(duì)這一挑戰(zhàn)，世界互聯(lián)網(wǎng)大會(huì)數(shù)字研修院正式啟動(dòng)，旨在聚焦人工智能、數(shù)據(jù)、網(wǎng)絡(luò)安全、跨境電商等國(guó)際社會(huì)廣泛關(guān)注的熱點(diǎn)領(lǐng)域，通過開展國(guó)際化綜合性、專題性培訓(xùn)和沙龍活動(dòng)，為全球各國(guó)，特別是發(fā)展中國(guó)家培養(yǎng)具有廣闊國(guó)際視野、前沿?cái)?shù)字化思維、先進(jìn)數(shù)字化技能的專業(yè)人才。

作為研修院首批合作單位，安恒信息相關(guān)負(fù)責(zé)人表示，將以此為契機(jī)，在網(wǎng)絡(luò)安全人才培養(yǎng)領(lǐng)域走穩(wěn)走遠(yuǎn)，走深走實(shí)，助力“數(shù)字研修院”這一全新引擎，以更加創(chuàng)新、開放、普惠的方式，搭建全球能力建設(shè)平臺(tái)，維護(hù)安全的新疆域、文明互鑒的新平臺(tái)。

此外，世界互聯(lián)網(wǎng)大會(huì)還成立了首個(gè)專業(yè)性、常態(tài)化分支機(jī)構(gòu)——人工智能專業(yè)委員會(huì)。第一屆專委會(huì)成員共170余人，匯集了來自人工智能領(lǐng)域國(guó)際組織、知名智庫(kù)、科研院所、專業(yè)協(xié)會(huì)及產(chǎn)業(yè)界的權(quán)威專家和專業(yè)人才，設(shè)立了標(biāo)準(zhǔn)推進(jìn)計(jì)劃、安全與治理推進(jìn)計(jì)劃和產(chǎn)業(yè)推進(jìn)計(jì)劃。

當(dāng)前正處于全球人工智能治理的重要時(shí)期，專委會(huì)將秉持搭建國(guó)際交流合作平臺(tái)、推動(dòng)發(fā)展與治理協(xié)同、促進(jìn)全球共享人工智能發(fā)展成果的原則，通過開展專題研討、成果分享、倡議發(fā)布等活動(dòng)，不斷凝聚國(guó)際共識(shí)，促進(jìn)人工智能包容普惠、可持續(xù)發(fā)展。(完)

關(guān)鍵詞：