3月27日,英特尔举办了名为“‘至’绘未来,锐炫来袭”的创新解决方案研讨会,与生态伙伴共同分享最新AI算力一体机方案。该方案基于英特尔®至强® W处理器和多个英特尔锐炫™显卡,可为日益增长的AI私有化部署需求提供强大支持。和传统方案不同,该方案采用了多个锐炫显卡,展现了出色的成本效益优势,显著降低了大语言模型部署门槛,为企业和组织铺设了一条通往智能化时代的“高速路”。
英特尔锐炫显卡多卡打造开箱即用私有化部署方案
面对市场上客户端和边缘端AI推理需求的快速增长,传统算力架构面临着成本敏感、低能效比的困境。英特尔借助创新的“英特尔至强W处理器+英特尔锐炫独立显卡”硬件组合,和生态伙伴共同打造了“AI算力一体机平台+解决方案+服务”的开箱即用私有化部署方案,为边缘和企业软硬一体机、AGI开发者工作站等场景带来高性能、高并发及高能效比的AI算力一体机方案。
在这一创新解决方案中,英特尔锐炫显卡可以提供出色的性能与价格平衡。以英特尔锐炫™A770显卡为例,其可提供最高16GB显存、560GB每秒的显存带宽和200+TOPS的INT8峰值算力,而多卡方案的出现,让英特尔锐炫显卡突破游戏、渲染、视觉和视频分析等场景,开始借助算力的多重叠加,进入到大语言模型、AI推理和渲染农场等需要高算力来支持的广阔AI应用之中。
基于英特尔至强W处理器和多个英特尔锐炫显卡的AI算力一体机方案现可为主流应用场景提供支持:
应用场景成功落地,加速释放AI价值
降低部署门槛,还需要AI算力一体机具备与现有系统无缝集成的能力。英特尔锐炫多卡大语言模型(LLM)推理软件栈为此提供了关键的软件保障。通过拥抱IPEX等开源生态,利用通用图形显卡的多用途特性(如LLM、AI推理、AIGC、渲染和VDI等),英特尔锐炫多卡AI算力一体机方案,与超云数字技术集团有限公司、深圳市自强电子有限公司、长城科技股份有限公司、云尖信息技术有限公司、深圳市智微智能科技股份有限公司、深圳市倍联德实业有限公司、昱格电子科技有限公司、北京容天汇海科技有限公司等生态伙伴一道,针对市场上主流的开源大模型,推出了多平台、多品类AI算力一体机产品。
数量如此众多的生态伙伴,齐齐发力AI算力一体机,其背后有着迫切的市场原因。首先,边缘侧的很多企业用户,对于AI应用的需求,有其独特性。在大多数情况下,并非模型越大越好。再考虑到成本和部署难度,边缘侧用户更强调实用性与使用效率。而当前市场现有多卡并行的解决方案,在实际部署和可行性上,多少有些不尽如人意之处。其次,考虑到便捷性和安全性,很多边缘侧的应用,比如常见的监控类、管理类系统,包括智能问答、文档处理等办公场景,更适合本地处理。而部分企业核心数据,如财务分析等,放在本地,不存在安全隐患,也无需租用公有资源。正是这两点原因,让英特尔和众多生态伙伴洞察到了这一新近浮出水面的市场空间。
以华胜天成推出的基于英特尔锐炫显卡的智能运维一体机为例,作为落地方案之一,彰显了其在降低运营成本、提升运维效率和保障安全性等方面的市场优势。传统的机房运维在机器报警后,接下来的处理大多依靠人工——发现问题、截取信息、读取日志、上报等,需要一系列操作,处理周期长,效率低下。英特尔AI算力一体机方案帮助企业及边缘侧实现自动化智能运维,让监控报警和日志信息,在代理程序之间快速处理和传递,使得信息采集更加迅捷。再加上后台的知识库可以直接进行查询,让整体处理方式更加自动化。以运行32B的大语言模型为例,多个英特尔锐炫显卡保障了AI算力一体机所需算力及高性能的同时,显示出极高的成本优势,大幅降低了智能运维一体机部署成本。
凭借全面的软硬件产品组合,英特尔创新的AI算力一体机方案为医疗、教育、制造、零售和交通等多个场景提供底层软硬件支撑,助力千行百业的智能化转型如虎添翼。
0 条