人工智能开放计算体系 DeepLink介绍

2023-10-25 01:37:03 字數 1244 閱讀 4374

deeplink是由上海人工智能实验室(上海ai实验室)推出 的人工智能开放计算体系,其目标是在搭建对硬件芯片与深度学习软件框架进行适配的桥梁,共建开放的软硬件适配生态。

deeplink把硬件芯片与深度学习软件框架连接起来,ai开发厂商可基于 deeplink 一次适配即接入广泛的算法生态,实现了软硬件解耦,破除生态壁垒。遵守此标准可以实现主流ai框架与ai芯片高效适配,极大降低ai的算力门槛,减少技术阻力,实现算力要素多样化,基于deeplink开发的ai应用软件,可以运行在不同的ai芯片上,不需要开发多个版本。

deeplink在ai开发架构中的位置如下:

deeplink定义了一套计算开放的接口体系,良好的函数抽象使得下游芯片和上游框架两层在适配工程实施时能有效地解耦。与此同时,基于这种思路,可以将芯片的适配工作复用到不同的训练框架适配中去。接口的标准化定义包含算子接口(diopi)和编译接口(dicp)两个部分。

基于deeplink,上下游厂商通过一次适配即可深度接入算法生态,为人工智能软硬上下游合作共建起到关键纽带作用。

在deeplink官方**介绍,有下面的优点:

1、开放:deeplink现已开源,方便芯片/框架厂商协同共建国产生态。现已完成多国内一线厂商的芯片适配,具备cv、nlp等多场景、大模型支持能力。

2、完备:已经支持200+标准算子接口,支持7000+个常见算子测例,覆盖cv类常见问题以及nlp等多场景模型。deeplink赋能国产硬件,加速大模型在国产芯片上的产业落地,并已完成语言类大模型llama、书生·浦语在硬件上的推理适配。

3、高效:提供“算子模式+编译模式”双路径接入标准,deeplink针对不同国产芯片的不同适配需求,开放多层次接入技术,着力性能提升。目前已支持多后端接入pytorch2.0编译链路,对接国际主流生态,具备多场景的性能优势。

4、简单:deeplink实现了软硬件适配,一次适配即可兼容多硬件&多框架,减少上下游厂商的工作量。以硬件适配举例,芯片厂商完成算子适配后,即可无缝对接多款主流深度学习框架。

虽然deeplink有很多优点,但是困难也是比较大的,比如要求芯片厂商完成算子的适配这个工作,对于大的芯片厂商来说是没有驱动力的,因为大的ai芯片厂商的生态已经很完备了。

神经形态计算对于人工智能系统开发至关重要

神经形态计算是人工智能系统发展的关键技术。基于生物神经元的结构和功能,神经形态计算系统可以实现传统人工智能算法无法比拟的灵活性和适应性。神经形态计算可以实时学习和适应。传统的人工智能算法需要大量数据进行训练才能发挥作用,与此相比,神经形态计算系统可以即时学习和适应。这意味着它们可以快速响应不断变化的...

人工智能开发出“癌症生存计算器”

根据正在举行的年美国外科医生学会临床大会上发表的一项研究,美国西北大学研究人员开发了一种基于人工智能的工具,用于估计新诊断的癌症患者长期生存的机会。目前,估计癌症患者的生存率主要取决于他们的癌症分期。研究人员表示,除了分期标准之外,还有许多其他因素可能会影响患者的生存。团队使用机器学习方法,创建了称...

人工智能与创意设计架构 开创智能创作时代

在当今数字化时代,人工智能已经成为了设计领域的一股强大力量,为创意设计带来了革命性的变革。从生成式设计到用户体验优化,ai的应用正在改变设计的方式。本文将深入 人工智能如何与创意设计相互作用,以及如何构建智能创作的架构,开创智能创作时代。人工智能与创意设计的融合 人工智能已经从设计领域的辅助工具演变...