中证网
返回首页

度小满:对“轩辕70B”金融大模型开源

董添 中国证券报·中证网

中证网讯(记者 董添)9月22日,度小满宣布“轩辕70B”金融大模型开源,所有用户均可自由下载和试用,并同时公布了“轩辕70B”在C-Eval、CMMLU两大权威大语言模型评测基准的成绩。

数据显示,在C-Eval榜单上,“轩辕70B”的总成绩达到71.9分;在CMMLU榜单中,“轩辕70B”得分为71.05分。其中,C-Eval榜单是由清华大学、上海交通大学和爱丁堡大学合作构建的综合性考试评测集。CMMLU数据集是一个综合性的中文评估基准,由MBZUAI、上海交通大学、微软亚洲研究院共同推出,专门用于评估语言模型在中文语境下的知识和推理能力。

度小满CTO许冬亮表示,“相比通用大模型,‘轩辕70B’金融大模型经过度小满业务场景中沉淀的海量金融数据训练,对金融知识理解更专业、精准,具备较高的可控性和安全性。把大模型开源,希望能降低大模型在金融行业的应用门槛,促进金融行业服务效率和服务体验的突破性革新”。

据了解,今年5月份,度小满开源了首个千亿参数的金融大模型,已有上百家金融机构申请试用。本次发布的新版大模型相较于上一个版本能力全面提升:在增量预训练和指令微调阶段,加入了度小满业务场景中的海量金融数据,对金融问题回复更专业,金融知识理解能力提升明显;同时在预训练阶段,“轩辕70B”的模型上下文长度扩充到8k,能够处理更长的金融报告、研究和分析。

中证网声明:凡本网注明“来源:中国证券报·中证网”的所有作品,版权均属于中国证券报、中证网。中国证券报·中证网与作品作者联合声明,任何组织未经中国证券报、中证网以及作者书面授权不得转载、摘编或利用其它方式使用上述作品。