更多

英特尔首发大型神经拟态系统Hala Point,推进“绿色AI”发展

2024-04-19 09:20:08    来源:官方        浏览量:加载中...

  英特尔发布了代号为Hala Point的大型神经拟态系统。Hala Point基于英特尔Loihi 2神经拟态处理器打造而成,旨在支持类脑AI领域的前沿研究,解决AI目前在效率和可持续性等方面的挑战。在英特尔第一代大规模研究系统Pohoiki Springs的基础上,Hala Point改进了架构,将神经元容量提高了10倍以上,性能提高了12倍。

  英特尔研究院神经拟态计算实验室总监Mike Davies 表示:“目前,AI模型的算力成本正在持续上升。行业需要能够规模化的全新计算方法。为此,英特尔开发了Hala Point,将高效率的深度学习和新颖的类脑持续学习、优化能力结合起来。我们希望使用Hala Point的研究能够在大规模AI技术的效率和适应性上取得突破。”

  Hala Point在主流AI工作负载上展现了出色的计算效率。研究显示,在运行传统深度神经网络时,该系统能够每秒完成多达2万万亿次(20 petaops)运算,8位运算能效比达到了15 TOPS/W,相当于甚至超过了基于GPU和CPU的架构。Hala Point有望推动多领域AI应用的实时持续学习,如科学研究、工程、物流、智能城市基础设施管理、大语言模型(LLMs)和AI助手(AI agents)。

  目前,Hala Point是一个旨在改进未来商用系统的研究原型。英特尔预计其研究将带来实际技术突破,如让大语言模型拥有从新数据中持续学习的能力,从而有望在AI广泛部署的过程中,大幅降低训练能耗,提高可持续性。

游侠网1

  深度学习模型的规模正在不断扩大,参数量可达万亿级。这一趋势意味着AI技术在可持续性上面临着严峻的挑战,有必要探索硬件架构底层的创新。神经拟态计算是一种借鉴神经科学研究的全新计算方法,通过存算一体和高细粒度的并行计算,大幅减少了数据传输。在本月举行的声学、语音与信号处理国际会议(ICASSP)上,英特尔发表的研究表明,Loihi 2在新兴的小规模边缘工作负载上实现了效率、速度和适应性数量级的提升[1]。

  Hala Point在其前身Pohoiki Springs的基础上实现了大幅提升,基于神经拟态计算技术提升了主流、常规深度学习模型的性能和效率,尤其是那些用于处理视频、语音和无线通信等实时工作负载的模型。例如,在今年的世界移动通信大会(MWC)上,爱立信研究院(Ericsson Research)就展示了其如何将 Loihi 2神经拟态处理器应用于电信基础设施效率的优化。

  Hala Point基于神经拟态处理器Loihi 2打造,Loihi 2应用了众多类脑计算原理,如异步(asynchronous)、基于事件的脉冲神经网络(SNNs)、存算一体,以及不断变化的稀疏连接,以实现能效比和性能的数量级提升。神经元之间能够直接通信,而非通过内存通信,因此能降低整体功耗。

  Hala Point系统由封装在一个六机架的数据中心机箱中的1152个Loihi 2处理器(采用Intel 4制程节点)组成,大小相当于一个微波炉。该系统支持分布在 140544 个神经形态处理内核上的多达 11.5 亿个神经元和 1280 亿个突触,最大功耗仅为 2600 瓦。Hala Point还包括 2300 多个嵌入式 x86 处理器,用于辅助计算。

  在大规模的并行结构中,Hala Point集成了处理器、内存和通信通道,内存带宽达每秒16PB,内核间的通信带宽达每秒3.5 PB,芯片间的通信带宽达每秒5TB。该系统每秒可处理超过380万亿次8位突触运算和超过240万亿次神经元运算。

  在用于仿生脉冲神经网络模型时,Hala Point能够以比人脑快20倍的实时速度运行其全部11.5亿个神经元,在运行神经元数量较低的情况下,速度可比人脑快200倍。虽然Hala Point并非用于神经科学建模,但其神经元容量大致相当于猫头鹰的大脑或卷尾猴的大脑皮层。

游侠网2

  在执行AI推理负载和处理优化问题时, Loihi 2神经拟态芯片系统的速度比常规CPU和GPU架构快50倍,同时能耗降低了100倍[1]。早期研究结果表明,通过利用稀疏性高达10比1的稀疏连接(sparse connectivity)和事件驱动的活动,Hala Point运行深度神经网络的能效比高达15 TOPS/W[2] ,同时无需对输入数据进行批处理。批处理是一种常用于GPU的优化方法,会大幅增加实时数据(如来自摄像头的视频)处理的延迟。尽管仍处于研究阶段,但未来的神经拟态大语言模型将不再需要定期在不断增长的数据集上再训练,从而节约数千兆瓦时的能源。

  世界各地领先的学术团体、研究机构和公司共同组成了英特尔神经拟态研究社区(INRC),成员总数超过200个。携手英特尔神经拟态研究社区,英特尔正致力于开拓类脑AI前沿技术,以将其从技术原型转化为业界领先的产品。

0
分享至
扫描关注游侠网
推荐阅读

推荐阅读

4月Game Pass第二波入库游戏公布:《百英雄传》等

4月Game Pass第二波入库游戏公布:《百英雄传》等
微软公布了4月第二波加入XGP订阅服务的会免游戏,第二波游戏中比较值得关注的就是《百英雄传》,它将于4月23日入库,支持Xbox Series X/S和PC的Game Pass,以及云游戏。一起来看看吧!
04-17 15912人已看过

要当爸爸了!“大超”亨利·卡维尔确认女友已经怀孕

要当爸爸了!“大超”亨利·卡维尔确认女友已经怀孕
近日,亨利·卡维尔确认了他的女友Natalie Viscuso已经怀孕,两人将迎来第一个孩子,一起了解一下吧!
04-16 12648人已看过

Steam本周即将上线《恶意不息》《Harold Halibut》

Steam本周即将上线《恶意不息》《Harold Halibut》
欢迎来到Steam每周新游推荐,本周的新游有《恶意不息》,《Harold Halibut》,《水之纪元》,让我来来看看吧。
04-15 13930人已看过

色字头上1500刀!澳洲留学生火车站行善反被骗!!!

色字头上1500刀!澳洲留学生火车站行善反被骗!!!
一名澳洲留学生自述其被骗过程。网友们在了解该事件后也是纷纷展开锐评,调侃小伙是色字头上1500刀。
04-17 22809人已看过

《英雄联盟》季中冠军荣耀史:历届MSI冠军战队巡礼

《英雄联盟》季中冠军荣耀史:历届MSI冠军战队巡礼
英雄联盟季中冠军赛(MSI),作为英雄联盟电竞年度赛事体系中的重要一环,自2015年首次举办以来,已历经数载春秋,见证了全球各地顶尖战队的荣耀时刻。每一届MSI冠军的诞生,都是对参赛队伍实力与毅力的最好诠释,同时也刻画了电竞历史的精彩篇章。以下为您盘点历年来英雄联盟MSI的冠军得主:
04-16 24586人已看过

3D动作肉鸽《血色天堂2:序章》上线Steam!免费开玩

3D动作肉鸽《血色天堂2:序章》上线Steam!免费开玩
今日,动作类肉鸽游戏《血色天堂2》免费序章上线Steam平台,该作的正式版将于2024年5月发售。《血色天堂2》是一款以符文组合为核心概念的砍杀型地下城游戏,以轻攻击,重攻击,战技和闪避为基础的动作模组,利用符文来构筑属于你的战斗方式。
04-10 16371人已看过

漫改游戏《我独自升级》5月8日发售!预注册超1200万

漫改游戏《我独自升级》5月8日发售!预注册超1200万
今日,Netmarble宣布人气动漫改编游戏《我独自升级:崛起》将于5月8日正式发售,登陆iOS、Android、PC平台。该作曾于3月19日开始接受预注册,短短两天的时内预注册玩家就已突破100万。而在不到一个月的时间里,预注册人数现已突破至1200万。
04-17 25798人已看过

这不是很有精神嘛 囧图 先去医院看看老年痴呆吧

这不是很有精神嘛 囧图 先去医院看看老年痴呆吧
天呐这根本就是我,未来只取决于你自己,前面还能挂几个袋子,个个都是人才 。
04-11 494473人已看过

暴雪官宣回归!网易云音乐推出”重铸血吼”活动庆祝

暴雪官宣回归!网易云音乐推出”重铸血吼”活动庆祝
今日,暴雪国服官宣回归,网易云音乐推出"重铸血吼征集活动"庆祝,玩家参与活动可有机会领取限量礼品。
04-10 13599人已看过

《原神》4.6版本前瞻:阿蕾奇诺打完就进卡池!?

《原神》4.6版本前瞻:阿蕾奇诺打完就进卡池!?
《原神》官方在4.6版本前瞻直播中公开了全新PV“两界为火,赤夜将熄”,新版本将于4月24日正式上线。
04-12 16161人已看过
返回首页 查看更多

热门美图

动漫壁纸
软萌小妹妹
二次元妹子
美腿软妹
关于游侠 | 广告合作 | 人才招聘 | 联系我们 | 网站地图 | 投诉建议 | 我要投稿 | 版权保护投诉指引
CopyRight © 1999-2023 ALi213.Net All Right Reserved 游侠网 版权所有 | 苏ICP备2023007791号