ODCC 决策委员及服务器工作组组长、百度高级技术经理张家军:AI时代下的异构计算

2017/8/23 10:31:52 来源:DTDATA 作者: 分类:会议活动

第一个围绕与AI相关的异构计算跟大家做分享,这里我会邀请嘉宾共同组成分享的环节。




首先我先代表百度跟大家做一个分享,百度怎么样用一些创新的解决方案支持AI业务的发展。2012年底百度成立深度学习研究院,专门从事跟AI相关的研究。再后来我们做了无人车,发布了阿波罗无人车开放平台等等。我们发现要解决AI的问题,还是要从最根本的需求着手。我们构想设计出一个更好的能够适应AI训练需求的设计,我们把这个项目称之为X-Man。核心逻辑是左边这张架构图,不只是一个system的拓扑,而是整个异构计算的拓扑。在这个拓扑里我们构想的是通过PCIe的交换方式,把更多的计算节点和后面异构计算的模块进行整合,这个也很好的匹配了天蝎3.0所谓的资源解耦合的设计理念。在这个设计里,通过PCIE switch,构建一个异构计算的计算资源池,很好的适应大数据大模型的计算场景。通过这样的设计比较好的解决了训练的问题,基于Inference的需求变得更大,现在行业里变成共识,在未来的三五年,整个Inference的需求量规模是高出一个数量级甚至更多。在云端,百度X-Man设计最大的好处是异构垂直的计算跟前端的计算是解耦合的。X-Man 2.0可以更好的支持下一代的GPU或者FPGA设计,可以支持NV-Link和PCIe,设计里增加了对液冷的支持,这个产品很快也会公布。这是我想跟大家分享的百度怎么样用一个新的设计架构来解决AI计算层面的问题。

我的分享到这里,谢谢。

相关资讯

    暂无相关的资讯...

共有访客发表了评论 网友评论

验证码: 看不清楚?