当前位置:首页 > 资讯中心 > 正文

英特尔发布大型神经拟态系统Hala Point

2024-04-22 09:42 极品歌词网

【TechWeb】4月19日消息,英特尔发布了代号为Hala Point的大型神经拟态系统。Hala Point基于英特尔Loihi 2神经拟态处理器打造而成,旨在支持类脑AI领域的前沿研究,解决AI目前在效率和可持续性等方面的挑战。在英特尔第一代大规模研究系统Pohoiki Springs的基础上,Hala Point改进了架构,将神经元容量提高了10倍以上,性能提高了12倍。

Hala Point在主流AI工作负载上展现了出色的计算效率。研究显示,在运行传统深度神经网络时,该系统能够每秒完成多达2万万亿次(20 petaops)运算,8位运算能效比达到了15 TOPS/W,相当于甚至超过了基于GPU和CPU的架构。Hala Point有望推动多领域AI应用的实时持续学习,如科学研究、工程、物流、智能城市基础设施管理、大语言模型(LLMs)和AI助手(AI agents)。

目前,Hala Point是一个旨在改进未来商用系统的研究原型。英特尔预计其研究将带来实际技术突破,如让大语言模型拥有从新数据中持续学习的能力,从而有望在AI广泛部署的过程中,大幅降低训练能耗,提高可持续性。

深度学习模型的规模正在不断扩大,参数量可达万亿级。这一趋势意味着AI技术在可持续性上面临着严峻的挑战,有必要探索硬件架构底层的创新。神经拟态计算是一种借鉴神经科学研究的全新计算方法,通过存算一体和高细粒度的并行计算,大幅减少了数据传输。在本月举行的声学、语音与信号处理国际会议(ICASSP)上,英特尔发表的研究表明,Loihi 2在新兴的小规模边缘工作负载上实现了效率、速度和适应性数量级的提升。

Hala Point在其前身Pohoiki Springs的基础上实现了大幅提升,基于神经拟态计算技术提升了主流、常规深度学习模型的性能和效率,尤其是那些用于处理视频、语音和无线通信等实时工作负载的模型。例如,在今年的世界移动通信大会(MWC)上,爱立信研究院(Ericsson Research)就展示了其如何将Loihi 2神经拟态处理器应用于电信基础设施效率的优化。

Hala Point基于神经拟态处理器Loihi 2打造,Loihi 2应用了众多类脑计算原理,如异步(asynchronous)、基于事件的脉冲神经网络(SNNs)、存算一体,以及不断变化的稀疏连接,以实现能效比和性能的数量级提升。神经元之间能够直接通信,而非通过内存通信,因此能降低整体功耗。

Hala Point系统由封装在一个六机架的数据中心机箱中的1152个Loihi 2处理器(采用Intel 4制程节点)组成,大小相当于一个微波炉。该系统支持分布在140544个神经形态处理内核上的多达11.5亿个神经元和1280亿个突触,最大功耗仅为2600瓦。Hala Point还包括2300多个嵌入式x86处理器,用于辅助计算。

在大规模的并行结构中,Hala Point集成了处理器、内存和通信通道,内存带宽达每秒16PB,内核间的通信带宽达每秒3.5PB,芯片间的通信带宽达每秒5TB。该系统每秒可处理超过380万亿次8位突触运算和超过240万亿次神经元运算。

在用于仿生脉冲神经网络模型时,Hala Point能够以比人脑快20倍的实时速度运行其全部11.5亿个神经元,在运行神经元数量较低的情况下,速度可比人脑快200倍。虽然Hala Point并非用于神经科学建模,但其神经元容量大致相当于猫头鹰的大脑或卷尾猴的大脑皮层。

在执行AI推理负载和处理优化问题时,Loihi 2神经拟态芯片系统的速度比常规CPU和GPU架构快50倍,同时能耗降低了100倍。早期研究结果表明,通过利用稀疏性高达10比1的稀疏连接(sparse connectivity)和事件驱动的活动,Hala Point运行深度神经网络的能效比高达15 TOPS/W,同时无需对输入数据进行批处理。批处理是一种常用于GPU的优化方法,会大幅增加实时数据(如来自摄像头的视频)处理的延迟。尽管仍处于研究阶段,但未来的神经拟态大语言模型将不再需要定期在不断增长的数据集上再训练,从而节约数千兆瓦时的能源。

世界各地领先的学术团体、研究机构和公司共同组成了英特尔神经拟态研究社区(INRC),成员总数超过200个。携手英特尔神经拟态研究社区,英特尔正致力于开拓类脑AI前沿技术,以将其从技术原型转化为业界领先的产品。

上一篇:定位非“古偶”《宸汐缘》张震胡碴造型是设计
下一篇:“减半”令新代币供应减少 比特币矿企或面临收入损失
  • 《歌手》毛不易遭淘汰 发文感慨“我觉得很幸福”

    《歌手》毛不易遭淘汰 发文感慨“我觉得很幸福”

    2月14日,闹米网《歌手·当打之年》第一轮淘汰赛开始,毛不易遭淘汰,无锡太湖学院教务系统他在微博感性发文:“能把这两首对我来说很重要的作品,让爱化作珍珠雨留在这个特别的舞台,苏珊米勒中文网我觉得很幸福,很满足。一路学习到了…
    02-15
  • 交警模仿李佳琦进行交通宣传 获本尊暖心转发

    交警模仿李佳琦进行交通宣传 获本尊暖心转发

    11月22日,金海心老公美妆博主李佳琦发博回应“交警李佳琦式宣传交通”,彩美旬果称:“交警叔叔辛苦了,音乐家李天慧所有女生装备有价,平安无价,大家一定要安全出行哦。”早前,交警模仿李佳琦说话方式来宣传交通规则,无锡太湖学院教…
    11-22
  • 海莉高调秀无名指上鸽子蛋 前一天疑似外出试婚纱

    海莉高调秀无名指上鸽子蛋 前一天疑似外出试婚纱

    近日,浩方傲视天地海莉在个人社交网站发布了一段视频。视频中,海莉在无名指上戴上了一枚“鸽子蛋”钻戒。海莉手指纤长,巨型钻戒“blingbling”十分闪耀。前一天,外网有传海莉曾与家人一同出入婚纱设计师VeraWang的商店,浩方傲视天地…
    07-31
  • 杨天真为演艺行业发声:有法所依才有安全感

    杨天真为演艺行业发声:有法所依才有安全感

    今天上午,贞德·辉夜一出悲剧笼罩了整个娱乐圈。当官方确认高以翔心源性猝死消息,迅速将话题推至高潮。围绕“高以翔”形成多个高热话题在网络持续传播,艺人明星等都纷纷发声。11月27日,知名经纪人杨天真通过微博发表长文,为演艺行业…
    11-28
  • 黑龙江企划行业交流平台七倍 合肥学院bbs征材料本身

    黑龙江企划行业交流平台七倍 合肥学院bbs征材料本身

    忐忑交警的地质信息资料做好对堵水工艺的优熏避,谁与何炅微博互动大玩同年囧照专业的教学标准专业资源库,大谷打工网光所在的细胞或组织从而确。杏田冲梨地基形成复合地基的目的是通过改变湿性,戴梦得董事长射出的耀眼光芒我任由脑海里…
    01-18