360点游网 科技 新型AI器件研制成功,可实现训练推理一体化

新型AI器件研制成功,可实现训练推理一体化

开发高能效的类脑计算器件和架构,是当下人工智能硬件领域的热点。22日,记者从南京大学获悉,该校王欣然教授团队与清华大学吴华强教授团队合作,提出基于二维半导体铁电晶体管的新型存内计算器件架构,通过调节铁电势阱,研制出同时满足训练和推理的AI底层器件,并展示了每焦耳高达1015次运算操作级别的能效潜力。相关论文近日发表于国际学术期刊《自然·纳米技术》。

AI可以走多远,计算机的算力和能效是关键。以最近饱受关注的人工智能应用ChatGPT为例,其算力可以达到每秒1019次运算操作,而维持其巨大算力的基础是上万块最先进的图形处理器(GPU)以及77160千瓦时的日耗电量。

“实际上,人脑算力与ChatGPT相当,能效却比ChatGPT采用的GPU高5个数量级。”该论文的共同第一作者宁宏凯介绍,大脑存算一体的特征,可以显著降低传统“冯诺依曼”架构中数据传输的能耗与延迟,大幅提高计算并行度和能效。

而“训练和推理一体化”,即“学”和“用”在同一硬件上实现,被认为是通向AI智慧终端的核心挑战。然而,训练和推理对存储器要求截然不同,两者好似鱼和熊掌,难以兼得。

“推理过程,要求存储器能长久地储存数据;而训练过程,要求器件能以极快的速度不断擦写存储的信息,所以要能耐受多次擦写,而且翻转功耗要小。”宁宏凯告诉科技日报记者。

在这项研究中,研究人员巧妙利用了铁电材料能量双阱曲线的可调性,他们提出了一种“复式”的二维半导体铁电晶体管结构,通过设计浮栅两侧铁电电容和介电电容的面积比例(AFE/ADE),调控了铁电两端的分压比例,从而实现了对铁电能量双阱曲线的形态调节。AFE/ADE较大的栅极,更适合用于AI训练;而AFE/ADE较小的栅极,适合用于AI推理。

“这项研究解决了长久以来边缘端AI硬件所面临的推理-训练之间的矛盾,为万物智能提供了一种潜在的高能效解决方案,同时也展示了新材料在智能芯片领域的应用前景。”论文共同通讯作者王欣然说。

开发高能效的类脑计算器件和架构,是当下人工智能硬件领域的热点。22日,记者从南京大学获悉,该校王欣然教授团队与清华大学吴华强教授团队合作,提出基于二维半导体铁电晶体管的新型存内计算器件架构,通过调节铁电势阱,研制出同时满足训练和推理的AI底层器件,并展示了每焦耳高达1015次运算操作级别的能效潜力。相关论文近日发表于国际学术期刊《自然·纳米技术》。

AI可以走多远,计算机的算力和能效是关键。以最近饱受关注的人工智能应用ChatGPT为例,其算力可以达到每秒1019次运算操作,而维持其巨大算力的基础是上万块最先进的图形处理器(GPU)以及77160千瓦时的日耗电量。

“实际上,人脑算力与ChatGPT相当,能效却比ChatGPT采用的GPU高5个数量级。”该论文的共同第一作者宁宏凯介绍,大脑存算一体的特征,可以显著降低传统“冯诺依曼”架构中数据传输的能耗与延迟,大幅提高计算并行度和能效。

而“训练和推理一体化”,即“学”和“用”在同一硬件上实现,被认为是通向AI智慧终端的核心挑战。然而,训练和推理对存储器要求截然不同,两者好似鱼和熊掌,难以兼得。

“推理过程,要求存储器能长久地储存数据;而训练过程,要求器件能以极快的速度不断擦写存储的信息,所以要能耐受多次擦写,而且翻转功耗要小。”宁宏凯告诉科技日报记者。

在这项研究中,研究人员巧妙利用了铁电材料能量双阱曲线的可调性,他们提出了一种“复式”的二维半导体铁电晶体管结构,通过设计浮栅两侧铁电电容和介电电容的面积比例(AFE/ADE),调控了铁电两端的分压比例,从而实现了对铁电能量双阱曲线的形态调节。AFE/ADE较大的栅极,更适合用于AI训练;而AFE/ADE较小的栅极,适合用于AI推理。

“这项研究解决了长久以来边缘端AI硬件所面临的推理-训练之间的矛盾,为万物智能提供了一种潜在的高能效解决方案,同时也展示了新材料在智能芯片领域的应用前景。”论文共同通讯作者王欣然说。

本文来自网络,不代表本站立场,转载请注明出处:https:

新型AI器件研制成功,可实现训练推理一体化

360点游网后续将为您提供丰富、全面的关于新型AI器件研制成功,可实现训练推理一体化内容,让您第一时间了解到关于新型AI器件研制成功,可实现训练推理一体化的热门信息。小编将持续从百度新闻、搜狗百科、微博热搜、知乎热门问答以及部分合作站点渠道收集和补充完善信息。