UniNet:采用 Metropolis-Hastings 采样的可扩展网络表示学习
UniNet: Scalable Network Representation Learning with Metropolis-Hastings Sampling
基于摘要分析。该研究面向图网络表示学习,而非脑信号解码,针对随机游走模型多样、游走生成采样效率不足的问题,提出基于 Metropolis-Hastings 的边采样器与随机游走模型抽象,并实现可扩展框架 UniNet。 在机制上,随机游走生成用于捕获网络结构的序列,再由 word2vec 模型学习低维表示。UniNet 允许用户通过动态边权和随机游走状态定义转移概率,由统一的边采样器支持不同模型。作者报告,该采样器具有收敛到任意离散概率分布的理论性质,并可按常数时间复杂度从未归一化概率分布中采样。该复杂度与收敛精度、初始化及混合过程之间的关系,需结合全文中的假设和复杂度定义核对。 作者报告,在十一项真实世界数据集上测试了五种基于随机游走的网络表示学习模型,实验显示 UniNet 能高效处理十亿边级网络。摘要未给出数据集名称、具体对照、运行时间、硬件条件或下游表示质量指标,因此尚不能量化加速幅度或判断效率与表示质量的权衡;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 功能连接已被构造成图,其随机游走采样模块可能用于连接图的节点表示学习;这一假设依赖可靠的图结构和可定义的非负转移权重,而非直接适用于原始 EEG。可复用的是采样器与游走抽象,需改造的是通道或脑区节点定义、连接估计和动态边权。低信噪比、跨被试连接差异及通道数量较少,可能使图结构不稳定或使采样加速收益有限。一个小规模检验是在固定 EEG 连接图、训练划分及 word2vec 设置下,仅替换采样器,比较采样分布误差、游走生成耗时与下游表现。已有 EEG 相关工作尚未检索确认。
值得关注其以 Metropolis-Hastings 边采样统一多种随机游走模型的机制,但常数时间采样的适用条件、收敛开销及大图效率对照仍需全文核对。
来源:OpenReview · Representation learning · openreview.net