当前位置:首页  >  技术文章  >  AI服务器与普通的GPU服务器相比有哪些区别?

AI服务器与普通的GPU服务器相比有哪些区别?

更新时间:2020-08-25      点击次数:5271
  AI服务器是采用异构形式的服务器,在异构方式上可以根据应用的范围采用不同的组合方式,如CPU+GPU、CPU+TPU、CPU+其他的加速卡等。与普通的服务器相比较,在内存、存储、网络方面没有什么差别,主要在是大数据及云计算、人工智能等方面需要更大的内外存,满足各种数据的收集与整理。
 

  AI服务器与普通的GPU服务器虽然组成上类似,核心计算部件都是GPU加速卡,但是不可等同,主要有以下几点区别: 
  1、卡的数量不一致:普通的GPU服务器一般是单卡或者双卡,AI服务器需要承担大量的计算,一般配置四块GPU卡以上,甚至要搭建AI服务器集群。 
2、*设计:AI服务器由于有了多个GPU卡,需要针对性的对于系统结构、散热、拓扑等做专门的设计,才能满足AI服务器长期稳定运行的要求。 
  3、P2P通讯:普通GPU服务器要求的是单卡性能,AI训练中GPU卡间需要大量的参数通信,模型越复杂,通信量越大,所以AI服务器除了要求单卡性能外,还要求多卡间的通讯性能,采用PCI3.0协议通信的大P2P带宽达到32GB/s,采用SXM2协议通信的大P2P带宽达到50GB/s,采用SXM3协议通信的大P2P带宽达到300GB/s。 
  4、先进技术:AI服务器有很多更先进的技术,包括Purley平台更大内存带宽,NVlink提供更大的互联带宽,TensorCore提供更强的AI计算力。
公司简介  >  在线留言  >  联系我们  >  

CONTACT

办公地址:北京市海淀区东北旺西路中关村软件园信息中心A306

TEL:400-874-1880

EMAIL:1660276275@qq.com
公司服务号
版权所有©2024 北京蓝卡科技股份有限公司 All Rights Reserved    备案号:京ICP备12041033号-2    sitemap.xml 管理登陆    技术支持:智慧城市网
Baidu
map