登录

一体机及边缘AI终端助力工业企业大模型应用深入

2025-04-02 13:56 来源:IDC中国

随着DeepSeek的火热,越来越多的工业企业希望开展大模型的应用探索,市场也涌现了很多一体机助力企业快速实现DeepSeek等大模型应用部署。在此基础上,工业专业服务商也开始推出集成开发平台及智能体应用的训推一体机,以及各类边缘AI算力终端,助力工业企业进一步深入应用DeepSeek。为此,IDC启动《工业级边缘AI算力终端市场份额,2024》研究,为市场提供参考。

一体机助力企业快速应用DeepSeek

对于很多尚未建设AI算力中心的工业企业,如果希望快速体验和应用DeepSeek,一体机可能是个方便的选择,通过一体机企业可以通过“开箱即用”的方式快速应用部署DeepSeek,并围绕DeepSeek等大模型快速构建知识库、应用助手等大模型应用。

目前华为、联想、浪潮、腾讯、浪潮、京东、移动、电信、联通、曙光等都已经纷纷推出了相关服务器级DeepSeek一体机产品,且很多一体机产品也都支持英伟达以外的其它品牌AI加速卡应用。

训推一体机满足更多工业应用需求

对于工业企业而言,要让大模型发挥业务应用效果,除了直接部署DeepSeek外,还需要涉及到结合场景积累的专业数据和知识,对模型进行微调,从而使模型能够更好的处理专业业务问题,以及结合应用开发平台,开发各种适合企业自身的智能体(Agent)。

针对工业企业实际应用的这些需求,一些专业工业服务商也在相继推出了面向工业的训推一体机产品,如雪浪云的MindCenter X100训推一体机、中工智联的“智工 智脑”训推一体工控机、羚数智能推出的大模型训推一体机等,这些训推一体机一方面集成了供应商的工业大模型应用开发平台以及积累的工业专业智能体应用,另一方面也集成了各种十亿、百亿级别参数的模型,可供工业企业结合场景数据进行模型的微调,从而发挥更多业务价值。

边缘AI算力终端引领大模型走向边缘端

除了在企业中心云侧的部署应用,DeepSeek等大模型的应用还将走向边缘端,各类边缘AI终端则是支撑边缘侧AI应用的重要基础。研华、研祥、凌华、智微智能等边缘算力设备供应商相继介绍了多款自身边缘AI终端适配和应用部署蒸馏版DeepSeek的情况,旭光电子、河钢数字等供应商也借着DeepSeek的东风,推出了自身的边缘AI终端产品。

在此背景下,结合IDC在现场级边缘算力设备/泛工控机领域的研究基础,IDC启动《工业级边缘AI算力终端市场份额,2024》研究,通过对市场格局、发展趋势等研究,为更多企业开展端侧大模型应用提供参考。未来一段时间,预计将有更多供应商推出训推一体机相关产品,IDC届时也将启动相关研究。

相关新闻

编辑精选