当前位置: 江南文明网 > 科技 > 智能 >

百川智能推大模型Baichuan2-192K

条评论

百川智能推大模型Baichuan2-192K

百川智能今日发布Baichuan2-192K大模型。其上下文窗口长度高达192K,称这是目前全球最长的上下文窗口。

百川智能指出,Baichuan2-192K能处理约35万个汉字,是目前支持长上下文窗口最优秀大模型Claude2(支持100K上下文窗口,实测约8万字)的 4.4倍,是 GPT-4(支持32K上下文窗口,实测约 2.5万字)的14倍。Baichuan2-192K不仅在上下文窗口长度上超越Claude2,在长窗口文本生成质量、长上下文理解以及长文本问答、摘要等方面的表现也领先Claude2。

2023年9月25日,百川智能已开放了Baichuan2的API接口,正式进军企业级市场,开启商业化进程。此次Baichuan2-192K将以API调用和私有化部署的方式提供给企业用户,目前百川智能已经启动Baichuan2-192K的API内测,开放给法律、媒体、金融等行业的核心合作伙伴。

10项长文本评测7项取得SOTA,称领先Claude2

据介绍,上下文窗口长度是大模型的核心技术之一,通过更大的上下文窗口,模型能够结合更多上下文内容获得更丰富的语义信息,更好的捕捉上下文的相关性、消除歧义,进而更加准确、流畅的生成内容,提升模型能力。


 

此外,LongEval的评测结果显示,在窗口长度超过100K后Baichuan2-192K依然能够保持很好的性能。