把大模型“装”进小盒子

2024-05-09 07:18 来源:中国证券报
查看余下全文
(责任编辑:王婉莹)
手机看中经经济日报微信中经网微信

把大模型“装”进小盒子

2024年05月09日 07:18   来源:中国证券报   

  ● 本报记者 齐金钊

  从“云天天书”大模型,到深度学习推理计算芯片,再到千元级别的大模型硬件产品……近年来,在人工智能赛道上,云天励飞埋头奔跑,不断迭代技术和产品解决方案。

  云天励飞董事长陈宁接受中国证券报记者专访时表示,云天励飞将自己定义为一家拥有“算法芯片化”能力的AI公司,在行业内率先提出打造“1+1+N”自进化城市智能体实践框架,如今公司正在积极构建自学习、自进化的数字城市智能协同发展体系,以期推动人工智能产业快速发展。

  推出千元级大模型产品

  2022年11月,OpenAI发布ChatGPT,生成式大规模预训练模型(GPT)展现了从量变到质变的能力。自此,不断有新的公司发布新的模型与应用。今年3月,云天励飞宣布推出千元级别的大模型硬件产品——“深目”AI模盒,受到市场关注。

  “未来将有更多企业使用大模型。但是,要训练专属大模型,普通的企业难以承担高昂的研发成本。”对于研发该产品的初衷,陈宁表示,大模型毫无疑问是当前AI发展的主流方向之一,可以预见未来各行业都将被大模型赋能和改造。但大模型的研发成本非常高,对人才的需求也非常大。

  “云天励飞推出‘深目’AI模盒,就是希望把大模型技术,以及云天励飞10年的算法芯片化技术和行业知识,沉淀到一款标准化的产品中,快速为各类场景赋能。”陈宁介绍,这款产品搭载了云天励飞的自研大模型边缘训推芯片DeepEdge10 Max以及自研多模态大模型“云天天书”,让用户可以根据自身场景需求,利用大模型能力,训练出可实战应用的算法。

  据介绍,“深目”AI模盒可实现算法场景覆盖超过90%、算法精度超过90%,使用成本降低90%,让用户能够根据自身场景需求,训练出可实战应用的算法。

  “能够实现上述三个90%数据的提升,离不开云天励飞的核心能力——算法芯片化。”陈宁介绍,“深目”AI模盒的算力基础,来源于去年云天励飞推出的大模型训推芯片。该芯片支持大模型训练推理部署,已适配并可承载10亿级SAM、百亿级Llama2等大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。此外,为了共同探索更多大模型低成本、高效率落地应用路径,云天励飞与鹏城实验室、之江实验室、上海交通大学城市治理研究院等多家单位共同成立“深目2.0”生态联盟,共同探索更多大模型落地应用路径。

  构建“软硬结合”核心竞争力

  报告显示,2023年云天励飞研发投入合计2.95亿元,占营业收入58.27%。截至2024年3月,云天励飞已授权专利700余项(含境外专利30项),其中发明专利500余项,已登记的软件著作权180余项。

  持续高强度的研发投入,为云天励飞构建了“软硬结合”的核心竞争力。陈宁介绍,公司拥有算法和芯片两大核心技术平台,凭借“算法芯片化”的核心能力和“端云协同”的技术路线,在数字城市、人居生活等领域成功落地一系列标杆式解决方案,为各行业带来安全、智慧、便捷的AI体验。

  据悉,在算法层面,经过多年的技术研发与积累,云天励飞构建了人工智能算法平台,拥有大模型研发能力,并推出了“云天天书”大模型,打造服务于多场景的行业大模型,并且与华为昇腾合作推出了搭载“云天天书”大模型的“天舟”大模型训推一体机。在芯片层面,公司基于对人工智能算法技术特点及行业场景计算需求的理解,通过自定义指令集、处理器架构及工具链的协同设计,实现算法技术芯片化,构建了神经网络处理器平台。

  推动AI商业化落地

  在陈宁看来,AI商业化将经历AI方案化、AI运营化、AI产品化三个阶段,而云天励飞的业务布局也对应了AI商业化的三个阶段,涵盖了AI方案、AI运营和AI产品三大板块。

  在AI方案层面,云天励飞已经形成了成熟的城市级行业解决方案,包括安防、交通、城市治理和人居生活等领域,并在AI教育和低空经济等新兴领域取得了突破。AI运营层面,云天励飞正致力于智能算力运营、数据运营和新能源运营,以推动其业务的多元化发展。而在AI产品层面,标准化智能硬件产品是云天励飞的战略重点。目前,云天励飞正在通过端、边、云三个不同的计算节点和产品形态,推动AI从方案化走向运营化,最终实现智能硬件产品标准化。

  除了内生式研发创新外,随着商业化落地需求的到来,云天励飞还在同步探索外延式并购发展。今年3月22日,云天励飞宣布收购智能穿戴方案设计头部公司岍丞技术,探索“大模型+智能可穿戴”深度融合。据悉,除了收购岍丞技术外,云天励飞还投资了智慧互通、臻识科技、神州云海等在动态停车、静态停车、全息路口及清洁机器人等方向的龙头企业,并作为创始股东成员之一参股深圳国创具身智能机器人有限公司,提供AI芯片、大模型领域的技术支持。

  “我们将继续依托算法芯片化,围绕多模态大模型和AI芯片技术,通过商业创新、市场合作、投资并购等方式逐步构建各项业务生态,推动人工智能技术在千行百业的实际落地。”陈宁表示。

(责任编辑:王婉莹)

精彩图片