【資料圖】

科技日報(bào)訊 (記者劉艷)近日，文心大模型4.0在“百度世界2023”發(fā)布并開啟邀請測試，搜索、如流、地圖、網(wǎng)盤、文庫等百度AI原生應(yīng)用以全新面目亮相。

百度首席技術(shù)官王海峰說：“文心大模型4.0基本技術(shù)架構(gòu)與3.0和3.5版本一脈相承，在多個(gè)關(guān)鍵技術(shù)方向上進(jìn)一步創(chuàng)新突破。理解和生成能力提升幅度相近，邏輯和記憶能力的提升更大，邏輯的提升幅度達(dá)到理解的近3倍，記憶的提升幅度也達(dá)到了理解的2倍多。9月開始小流量上線后，一個(gè)多月內(nèi)效果又提升了近30%。”

談及文心大模型4.0，百度創(chuàng)始人、董事長兼首席執(zhí)行官李彥宏難掩自豪地表示：“這是迄今為止最強(qiáng)大的文心大模型，實(shí)現(xiàn)了基礎(chǔ)模型的全面升級，綜合能力與GPT-4相比毫不遜色。”

這么顯著的效果提升是怎么實(shí)現(xiàn)的?王海峰介紹，技術(shù)人員在萬卡算力上運(yùn)行飛槳平臺，通過集群基礎(chǔ)設(shè)施和調(diào)度系統(tǒng)、飛槳框架的軟硬協(xié)同優(yōu)化，支持了大模型的穩(wěn)定高效訓(xùn)練;建設(shè)了多維數(shù)據(jù)體系，形成了數(shù)據(jù)挖掘、分析、合成、標(biāo)注、評估閉環(huán)，充分釋放數(shù)據(jù)價(jià)值，大幅提升模型效果;基于有監(jiān)督精調(diào)、偏好學(xué)習(xí)、強(qiáng)化學(xué)習(xí)等技術(shù)進(jìn)行多階段對齊，保證模型更好地與人類的判斷和選擇對齊;可再生訓(xùn)練技術(shù)通過增量式參數(shù)調(diào)優(yōu)，有效節(jié)省了訓(xùn)練資源和時(shí)間，加快了模型迭代速度。

據(jù)了解，在強(qiáng)大的基礎(chǔ)大模型之上，百度進(jìn)一步研制了智能體機(jī)制，包括理解、規(guī)劃、反思和進(jìn)化，能夠做到可靠執(zhí)行、自我進(jìn)化，并在一定程度上將思考過程白盒化，讓機(jī)器像人一樣思考和行動，自主完成復(fù)雜任務(wù)，在環(huán)境中持續(xù)學(xué)習(xí)實(shí)現(xiàn)自主進(jìn)化。

當(dāng)下，大模型已成為人工智能發(fā)展的熱點(diǎn)方向和新型工業(yè)化的重要推動力，但應(yīng)用層面的挑戰(zhàn)始終存在，如何破除大模型進(jìn)一步普及的阻礙?“過去一年，科技領(lǐng)域最大的創(chuàng)新是大模型帶來的智能涌現(xiàn)，并成為開發(fā)AI原生應(yīng)用的基礎(chǔ)。”李彥宏認(rèn)為，AI原生應(yīng)用，就是基于大模型的理解、生成、邏輯和記憶能力開發(fā)出來的應(yīng)用，而這些能力是過去時(shí)代所不具備的，因此才能打開無限的創(chuàng)新空間。

今年5月，百度提出用AI思維重構(gòu)所有產(chǎn)品，做出AI原生應(yīng)用。“百度世界2023”大會上，百度通過展現(xiàn)基于文心大模型技術(shù)土壤重構(gòu)的10余款A(yù)I原生應(yīng)用，給出了大模型應(yīng)用落地的有效路徑。

關(guān)鍵詞： 重要推動力 百度世界2023 王海 記憶能