【导语】据外媒最新报道,日本东京科技大学的研究团队成功研发出名为BingoCGN的图神经网络加速器。该加速器通过创新的图分区技术,实现了实时大规模图推理,有效解决了大型图数据内存需求高、计算效率低下的难题。BingoCGN采用跨分区消息量化技术和新颖训练算法,为社交网络、药物研发、自动驾驶等领域的图神(shén)经(jīng)网(wǎng)络(luò)应(yīng)用(yòng)带(dài)来(lái)了(le)突(tū)破(pò)性(xìng)进(jìn)展(zhǎn)。

驾趣智库讯(xùn) 据(jù)外(wài)媒(méi)报(bào)道,日本东京科技大学(Institute of Science Tokyo)的研究人员开发出可扩展且高效的图神经网络加速器BingoCGN,能够通(tōng)过(guò)图(tú)分(fēn)区(qū)实现实时大规模图推理。这一突破性框架采用创新的跨分区消息量化技术和新颖的训练算法,显著降低了内存需求,并提高了计算效率和能效。

东(dōng)京(jīng)科(kē)技(jì)大(dà)学(xué)发明新框架 减少内存使用量并提高大规模AI图形分析的能源效率

图片来源:东京科技大学

图神经网络(GNN)是强大的人工智能(AI)模型,旨在分析复杂的非结构化图数据。在这类数据中,实体表示为节点,实体之间的关系表示为边。GNN已成功应用(yòng)于(yú)许(xǔ)多(duō)实(shí)际(jì)应(yīng)用(yòng),包(bāo)括(kuò)社(shè)交(jiāo)网(wǎng)络(luò)、药(yào)物(wù)研发、自动驾驶和推荐(jiàn)系(xì)统(tǒng)。尽(jǐn)管(guǎn)GNN潜(qián)力巨大,但实现对自动驾驶等任务至关重要的实时大规模GNN推理仍然充满挑战。

大型图需要大量内存,这通常会溢出片上缓冲区(即集成在芯片中的内存区域)。这迫使系统依赖于速度较慢的片外内存。由于图数据存储不规律,这会导致内存访(fǎng)问(wèn)模(mó)式不规律,从而降低计算效率并增加能耗。

一个有前景的解决方案是图分区,将大型图划分为较小的图,每个图分配各自的片上缓冲区。随着分区数量的增加,这将导致内存访问模式更加本地化,并且缓冲区大小要求也更小。