第 21 屆 IEEE 泛在智能與計(jì)算國(guó)際會(huì)議(UIC 2024)在斐濟(jì)盛大舉行。吸引了全球人
工智能領(lǐng)域的頂尖學(xué)者與專家匯聚一堂,,共同探討和展示最新的研究成果,。iGraph 研究組的論文“Meta-path and Meta-schema Hierarchical Aggregation for Heterogeneous Graph Neural Networks”有幸可以在此會(huì)議上發(fā)表,。
論文概述:隨著近年來(lái)深度學(xué)習(xí)的發(fā)展,,異構(gòu)圖神經(jīng)網(wǎng)絡(luò)(HGNNs)引起了諸多關(guān)注。它們是一組專門為處理異構(gòu)圖數(shù)據(jù)而設(shè)計(jì)的深度學(xué)習(xí)模型,,在異構(gòu)圖數(shù)據(jù)中,,節(jié)點(diǎn)和邊具有多種類型,并且假定所有節(jié)點(diǎn)之間存在直接或間接的關(guān)聯(lián),。元模式作為異構(gòu)圖全面且統(tǒng)一的藍(lán)圖,,通過(guò)具有豐富語(yǔ)義的多條異構(gòu)邊,巧妙地將不同的節(jié)點(diǎn)類型與其他異構(gòu)節(jié)點(diǎn)連接起來(lái),。然而,,許多利用元模式挖掘異構(gòu)信息的現(xiàn)有方法往往側(cè)重于模式內(nèi)部不同的元關(guān)系,這使得元模式僅限于描述局部關(guān)系語(yǔ)義,。
為了更好地利用元模式高效整合不同的異構(gòu)信息,,我們將它們組織成一種層次結(jié)構(gòu)(即層次元模式),所有類型的節(jié)點(diǎn)分布在不同的層中,。各層通過(guò)異構(gòu)關(guān)系相互連接,。目標(biāo)類型被置于最后一層,而其他類型則根據(jù)元模式中定義的異構(gòu)關(guān)系按層次排列在前,。在信息聚合過(guò)程中,,依據(jù)層次元模式,各層的信息通過(guò)注意力機(jī)制由遠(yuǎn)及近逐步聚合到最后一層的目標(biāo)類型上,。 此外,,元路徑通常起始和終止于相同類型,有助于定義復(fù)雜的結(jié)構(gòu)和語(yǔ)義,。因此,,我們還在所提出的層次元模式內(nèi)基于元路徑考慮鄰居的語(yǔ)義信息,以增強(qiáng)元模式中可能缺失的同類型節(jié)點(diǎn)之間的復(fù)雜語(yǔ)義,。 最后,,我們提出了一種面向異構(gòu)圖神經(jīng)網(wǎng)絡(luò)模型的元路徑和元模式層次聚合方法,名為HGNN-MMHA,。我們可以使元模式不再局限于其內(nèi)部的元關(guān)系信息,,最大限度地考慮異構(gòu)圖中不同類型節(jié)點(diǎn)之間的相關(guān)性。在四個(gè)真實(shí)的異構(gòu)圖數(shù)據(jù)集上進(jìn)行的大量實(shí)驗(yàn)表明,,與現(xiàn)有最先進(jìn)的方法相比,,所提出的HGNN-MMHA方法是有效的。
創(chuàng)新點(diǎn):
(1)為了充分挖掘并保留異構(gòu)圖中各類節(jié)點(diǎn)及關(guān)系所產(chǎn)生的異構(gòu)信息,,我們將元模式組織成一種層次結(jié)構(gòu),即層次元模式。層次元模式將不同類型的節(jié)點(diǎn)分布在不同的層中,,并通過(guò)異構(gòu)關(guān)系將它們相互連接起來(lái),。
(2)為了補(bǔ)充元模式中可能缺失的同類型節(jié)點(diǎn)之間的復(fù)雜語(yǔ)義,我們?cè)谒岢龅膶哟卧J絻?nèi)基于元路徑來(lái)考慮鄰居的語(yǔ)義信息,。此外,,本文還設(shè)計(jì)了一種基于元模式自動(dòng)提取元路徑的簡(jiǎn)易方法,該方法在一定程度上避免了人工定義元路徑,。