当前,随着人工智能、大数据、云计算一系列新兴技术加速向产业和行业下沉后,数字化大潮正在重塑全球经济格局,我们的工作场所、商业、金融、健康、安全、农业和其他领域都将迎来更多更大的变化。
人工智能(AI)是数字化转型的重要组成部分,日益成为政企数字化转型中不可或缺的一环,与移动互联网、物联网、云计算、大数据、区块链等新技术一起,共同推动经济数字化转型并为其建立护城河。
凭借在挖掘数据丰富的内在信息、拟合能力、数据扩展性等方面的优势,深度学习正在成为大量政企用户部署AI应用的优先选择。随着深度学习算法的不断创新,越来越多的应用需要对深度学习模型进行大规模和实时的分布式推理服务。为了便于构建和生成面向大数据的深度学习应用程序,宝德联手英特尔打造支持 Analytics Zoo Cluster Serving 的自动分布式可扩展推理平台。
Analytics Zoo Cluster Serving 解决方案总体框架
该平台提供了统一的数据分析+ AI平台,可将TensorFlow、Keras、Pytorch、BigDl Spark、Flink和 Ray 程序无缝集成到一个统一的数据分析流水线中,用于分布式训练或预测,方便用户构建深度学习应用。整个流水线可以透明地扩展到运行在由搭载英特尔® 至强® 处理器的服务器PR2510P组成的 Hadoop/Spark 集群上,以进行分布式训练或推理。该方案支持多种深度学习模型,提供了一个简单的发布/订阅 API,可支持用户可轻松地将他们的推理请求发送到输入队列。然后,Cluster Serving 将使用分布式流框架在大型集群中进行实时模型推理和自动扩展规模。
搭载第二代英特尔®至强®可扩展处理器的宝德 AI 推理服务器PR2510P的Analytics Zoo Cluster Serving 自动分布式可扩展推理平台,是软硬一体的分布式全栈推理解决方案,可为高性能计算、高级人工智能分析任务而设计,具有出色的性能功耗比。用户只需要准备 Analytics Zoo Cluster Serving 的 Docker Image、配置文件、训练好的模型及推理数据,即可在几分钟内启动并运行推理应用,显著降低了配置和流程的复杂程度,在提供高级定制化服务的同时,有效降低了TCO。这种全新的集群模型服务支持有助于简化用户的分布式推理工作流,提高工作效率,并为深度学习场景带来领先的性能。
宝德 AI 推理服务器PR2510P
宝德AI推理服务器PR2510P基于第二代英特尔®至强®可扩展处理器,采用矢量神经网络指令(VNNI)的英特尔® 深度学习加速技术(英特尔® DL Boost)、英特尔FPGA芯片和英特尔®傲腾™DC持久内存,能够基于所有框架的各种人工智能工作负载提供快速且高效的推理运算,并且支持Infiniband、Omni-Path高速网卡,在高集成度的有限空间内带来强劲的性能表现,已经携手安恒、佳发、恒安、启明星辰等客户在信息安全、智慧城市和数字经济建设中担当重任。
如今的万物互联时代中,数字化转型成为实现创新发展的重要动能,而人工智能技术与应用是数字化转型的关键技术方向。多年来,宝德与英特尔等合作伙伴构建了繁荣的AI生态,不断推动软硬一体化AI方案的创新,为机器学习、深度学习等技术提供基础设施支撑,并深化产品与产业的应用融合,以不断激活数字化转型的无限动力!
必应中文网
