復旦開源首個「中國版ChatGPT」MOSS!全新插件系統(tǒng),能上網(wǎng),會雞兔同籠(1)
國內(nèi)首個類ChatGPT模型MOSS,開源了!這次,復旦團隊的模型不僅更加成熟,而且還增加了「搜索引擎、計算器、解方程、文生圖」等插件功能,既可在線體驗,也支持本地部署——在FP16精度下單張A100/A800或兩張3090顯卡就能運行,而在INT4/8精度下只需一張3090即可。(但還沒放出)目前,項目已在Github上收獲了2.2k星。
MOSS升級版正式開源,搭載全新插件系統(tǒng)
當然,這次除了模型正式開源外,還有一個新的升級——「插件系統(tǒng)」。還有一個比較有意思的功能就是,我們可以通過點擊MOSS回復消息框右下角的小燈泡,來查看MOSS的「內(nèi)心想法」。根據(jù)介紹,moss-moon系列模型具有160億參數(shù),并且已經(jīng)在1000億中文token上進行了訓練,總訓練token數(shù)量達到7000億,其中還包含約3000億代碼。同時,在經(jīng)過對話指令微調(diào)、插件增強學習和人類偏好訓練之后,MOSS目前已經(jīng)具備了多輪對話能力及使用多種插件的能力。此外,團隊還給MOSS增加了Inner Thoughts作為輸出,幫助模型決定調(diào)用什么API、傳入什么參數(shù),以及幫助MOSS通過類似思維鏈的方式提升推理能力。
調(diào)用搜索引擎
解方程
生成圖片
除了這些官方演示外,知名答主「段小草」也在第一時間進行了評測。「段小草」表示,插件能力的激發(fā)需要分成兩個步驟:
- 觸發(fā)正確的插件
- 通過調(diào)用給出更準確的回答
然而,在實際的測試中,有時會出現(xiàn)插件不能觸發(fā),或者調(diào)用之后依然出錯的情況,比較玄學。目前可選的插件有下面這些。
Calculator:計算功能如果MOSS顯示了插件圖表和計算公式,就說明它調(diào)用了響應插件。
以經(jīng)典的雞兔同籠問題為例。開啟「方程」插件時,有時成功有時失敗。在觸發(fā)插件時,MOSS可以作答正確,表現(xiàn)還是很優(yōu)異的。但有時也會回答錯誤,比如下面這個例子,MOSS就把列方程和求解都做錯了。
在未能觸發(fā)插件時,MOSS也把題算錯了。
到了文生圖部分,還是那道經(jīng)典的考題:畫個「車水馬龍」。
MOSS畫得很漂亮,但好像不太對的樣子。
再來個「胸有成竹的男人」?
感覺MOSS有自己的想法,還不算錯。
*博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點,如有侵權請聯(lián)系工作人員刪除。