昨日,網(wǎng)易有道宣布將自研的知識庫問答引擎QAnything正式開源,除了可以調(diào)用云端大模型服務(wù),還支持純本地部署,所有用戶可免費在開源社區(qū)Github內(nèi)進(jìn)行下載,一鍵部署即可使用。該系統(tǒng)目前支持word、ppt、excel、pdf、圖片等多種文檔格式,直接導(dǎo)入進(jìn)去即可實現(xiàn)像"ChatGPT"一樣問答。
據(jù)了解,QAnything的主要原理是基于檢索增強(qiáng)的生成(Retrieval Augmented Generation,簡稱RAG),RAG是目前很火的一種技術(shù)框架,它能夠利用檢索外部內(nèi)容的方式增強(qiáng)大語言模型的準(zhǔn)確度、專業(yè)能力和個性化等各方面的性能。
目前,通用大模型能力很強(qiáng),但無法使用用戶的私有數(shù)據(jù),且存在胡亂編造的幻覺問題。QAnything作為有道自研的RAG引擎,則結(jié)合了用戶私有數(shù)據(jù)和大模型的優(yōu)勢——用戶的任何內(nèi)容,以任意的形式存在,比如各種格式的文檔,音頻,數(shù)據(jù)庫等,都可以在QAnything的支持下,變成可以針對其內(nèi)容進(jìn)行問答的使用方式,通過這個技術(shù)框架用戶可以很方便地搭建自己的智能知識助手。
(QAnything系統(tǒng)架構(gòu)圖)
值得一提的是,本次開源的QAnything是一套完整的RAG系統(tǒng),包括專門優(yōu)化的自研的embedding和rerank模型,微調(diào)后的LLM,優(yōu)化后的推理代碼,向量數(shù)據(jù)庫,以及一個立即上手可用的前端。所有的算法模型(包括7B大模型+embedding/rerank+OCR)占用顯存不超過16G。
如今,QAnything已在有道的多個產(chǎn)品中應(yīng)用,包括有道翻譯文檔問答、有道速讀及有道內(nèi)部業(yè)務(wù)的客服系統(tǒng)等。
以有道速讀為例,它是前不久子曰教育大模型最新發(fā)布的創(chuàng)新應(yīng)用成果之一,目前上線在有道翻譯中。針對大家在日常生活中的閱讀文檔需求,有道速讀內(nèi)置了文檔問答、文章摘要、要點解讀、引文口碑和領(lǐng)域綜述五大功能,能夠幫大家更快更準(zhǔn)地獲得信息和對文檔的理解。而該功能背后的驅(qū)動就是QAnything,在大模型技術(shù)的加持下,用戶能夠?qū)崿F(xiàn)快速理解文檔、定位要點,實現(xiàn)1分鐘讀完萬字長文。
“目前,QAnything項目還在不斷迭代,歡迎大家參與開發(fā),并給予我們更多反饋。我們希望能幫助有需要的開發(fā)者們,和更多伙伴一起推動大模型的落地。”網(wǎng)易有道首席科學(xué)家段亦濤介紹道。
關(guān)鍵詞:
凡注有"環(huán)球傳媒網(wǎng)"或電頭為"環(huán)球傳媒網(wǎng)"的稿件,均為環(huán)球傳媒網(wǎng)獨家版權(quán)所有,未經(jīng)許可不得轉(zhuǎn)載或鏡像;授權(quán)轉(zhuǎn)載必須注明來源為"環(huán)球傳媒網(wǎng)",并保留"環(huán)球傳媒網(wǎng)"的電頭。
- 雪域任運(yùn)#愛唱歌#愛學(xué)習(xí)#愛分享#傳播快樂#傳遞好運(yùn),一路厚愛相隨,感恩遇見
- 開好頭!興業(yè)消金續(xù)播“希望的種子” 天天亮點
- 世界熱議:冬季幼兒經(jīng)常便秘怎么辦?媽咪愛促腸道健康助通便
- 全球熱議:杏林中醫(yī):古方傳承特制能量沐浴包 潔凈身心續(xù)寫健康篇章
- 環(huán)球速遞!奧萊照明——乘勢而上 質(zhì)贏未來
- 今日快看!踐行可持續(xù) 思念食品榮獲市界2023年商業(yè)力量-ESG綠色先鋒獎
- 天天日報丨新野縣法院:送法進(jìn)社區(qū) 普法零距離
- 商丘金管家物業(yè)華都御府項目中心舉行慶元旦文藝匯演-最新消息
- 新動態(tài):駐馬店市驛城區(qū)古城街道:入戶走訪解民憂 養(yǎng)老保險認(rèn)證暖人心
- 商城縣馮店鄉(xiāng):堅持三“字”訣 扎實做好今冬明春森林防滅火工作-天天新消息
資訊
- 大模型+AI,Smartbi對話式分析再創(chuàng)新高度!-當(dāng)前焦點
- 博創(chuàng)聯(lián)動亮相漢諾威國際農(nóng)機(jī)展 向全球展示最新成果 世界即時看
- 中奧物業(yè):有家的地方才有“年味兒”
- 即時看!唯領(lǐng)門窗攜手金螳螂·家 打造智美樂居新家園
- 環(huán)球熱點評!騰訊游戲深度定制 ROG游戲手機(jī)8系列新品開啟高幀風(fēng)暴
- 百年養(yǎng)發(fā)品牌——法國溫莎森林,開啟SPA奢養(yǎng)護(hù)發(fā)新潮流 全球新資訊
- ?西平縣召開鄉(xiāng)村建設(shè)行動示范創(chuàng)建調(diào)度會 天天快消息
- 信陽市浉河區(qū)譚家河鄉(xiāng):“三化”模式 護(hù)航冬季安全生產(chǎn)|天天觀焦點
- 駐馬店市驛城區(qū)朱古洞鄉(xiāng):因地制宜發(fā)展中草藥種植——綠化帶變“致富帶”
- 看熱訊:全市檢察機(jī)關(guān)典型案例培育工作經(jīng)驗交流會在固始召開
焦點
- 民建福建省委會直屬智媒體支部、民建福建省委會書畫院聯(lián)合舉辦迎新聯(lián)誼活動
- 世界快消息!杭州(春夏)服裝電商供應(yīng)鏈博覽會,3月18-19在杭州舉辦
- 鄭州首店|宮中燕鄭州旗艦店盛大開業(yè)
- 世界快訊:安捷倫 “指紋圖譜相似度智能判讀”方案
- 一嗨租車榮獲“2023年度ESG可持續(xù)發(fā)展創(chuàng)新先鋒企業(yè)”稱號 天天新要聞
- 中醫(yī)外治|藥透立體動態(tài)干擾電療儀,在家就能做藥透,家有孩子老人的了解一下-全球焦點
- ?西平縣應(yīng)急管理局積極推進(jìn)轄區(qū)工貿(mào)領(lǐng)域電氣焊作業(yè)數(shù)字化監(jiān)管工作 世界快播報
- 羅山縣楠桿鎮(zhèn):“冬日暖陽 巾幗關(guān)愛”活動溫暖起航
- 公募基金堅守長期 謀篇布局FOF產(chǎn)品 浦銀安盛招睿精選FOF正在發(fā)行中 天天滾動
- 當(dāng)前速訊:淄博沂源首屆花燈節(jié)即將開幕