10月31日,在2023云栖大会上,百川智能创始人兼CEO王小川分享了百川智能在大模型时代的思考与实践。
日前,百川推出全球最长上下文窗口大模型Baichuan2-192K引发媒体关注。王小川介绍,百川成立仅半年便发布了7款大模型,快速迭代背后离不开云计算的支持。
【1】语言代表认知世界的边界
2023年4月,搜狗公司原CEO王小川官宣创办AI大模型公司“百川智能”,此后百川短短数月便跻身科技独角兽行列。令人瞩目的是,仅半年时间,百川先后发布7款基础大模型,研发速度远超行业水平,且开源模型表现优异。今年8月底,百川更是率先通过国家《生成式人工智能服务管理暂行办法》备案,是首批公司中唯一一家今年成立的大模型公司。
王小川认为,大模型浪潮将超越外界之前所有的想象,技术大爆炸正在发生,人类已步入通用人工智能时代。2018年,王小川便提出,“机器掌握语言,通用人工智能时代就来了。”他认为,语言代表认知世界的边界,大模型一旦掌握了语言的规律,就意味着掌握了语言背后的知识、思考、沟通和文化。在智能时代,就像互联网时代的芯片提供信息化基础一样,大模型会在社会各个方面起到“点亮智能”的作用。
但客观而言,国内大模型的发展与“不计成本登月”的OpenAI还存在差距。王小川表示,国内大模型的现状是“理想上慢一步,落地上快三步”。虽然在技术创新和技术理想上美国有所领先,但是中国的应用落地能力更强。百川拥有经验丰富的搜索团队,过去成功打造过基于语言模型的超级应用,且拥有经过市场验证的技术、产品、商业化能力,团队掌握的搜索技术可以助力大模型研发,且能补齐大模型在幻觉等问题上的短板。
通过结合过去经验和技术积累“小步快跑”,百川目前已成为中国大模型创业公司引领者之一。百川开源大模型总下载量3个月突破600万次,Baichuan2在通用及垂直领域均达到领先水平,中英文表现超过LLaMA2。10月30日最新发布的Baichuan2-192K更是成为全球支持最长上下文窗口的大模型,一次可输入35万字,全面领先Claude2-100K。
【2】百川智能将与阿里云持续深入合作
除了团队、经验等优势外,百川实现平均每月迭代一款模型的另一重要原因是云计算的支撑。
王小川介绍,模型的快速迭代和部署离不开云计算,百川智能和阿里云作为紧密的合作伙伴,在模型预训练和模型部署等方面进行了深入合作。在双方的共同努力下,百川很好地完成了千卡大模型训练任务,有效降低了模型推理成本,提升了模型部署效率。
百川的开源模型在阿里云的魔搭社区上也吸引了大量的开发者,借助社区的力量,开发者们在百川大模型的基础上针对众多垂直领域进行微调,并将其能力集成到各类AI应用,极大丰富了国内的大模型生态。
王小川表示,未来,百川智能将与阿里云持续深入合作,携手探索更前沿的大模型技术创新,推动大模型落地到更丰富的应用场景,共同助力大模型生态更加繁荣。
九派新闻记者 温艳丽 浙江杭州报道
【来源:九派新闻】
相关标签: