489期行健讲坛：ParamReL:通过渐进解码贝叶斯流网络从而实现对参数空间的表示学习
2024.07.24
投稿：彭蕾部门：通信与信息工程学院浏览次数：
活动信息
时间: 2024年7月23日（周二）上午10:30
地点: 校本部东区翔英大楼T706
讲座: ParamReL:通过渐进解码贝叶斯流网络从而实现对参数空间的表示学习
演讲者: 樊旭晖博士
演讲者简介：
樊旭晖，澳大利亚麦考瑞大学助理教授，研究兴趣包括深度概率模型，生成模型（扩散模型）。在相关领域有着长期的积累和良好的理论基础。获得多个荣誉奖项，包括ARC Linkage奖项（~$910.000.00）,纽卡斯尔大学的早期职业优秀研究奖、Hunter Water Seed Grant、澳大利亚数理研究中心杰出贡献奖等。以第一作者或通讯作者身份在多个高水平期刊/会议发表了30多篇学术论文，担任多个期刊的审稿专家，并在国际会议上做过多次口头报告。 现为ICML、NeurIPS、ICLR、COLT，AAAI、AISTATS、T-PAMI，JMLR等多个著名国际期刊/会议审稿专家。受邀在多个著名国际国内学术会议上和多个海外大学进行学术报告。
讲座摘要：
最近提出的贝叶斯流网络(Bayesian Flow Networks)在参数空间建模方面显示出巨大的潜力，为处理连续、离散和离散数据提供了统一的策略。然而，BFN无法从参数空间中进行表征学习，因为以往编码器通常数据编码为一个表示，无法捕获参数中的语义变化。我们提出了一个名为ParamReL的表示学习框架，该框架在参数空间中操作以获得具有递进结构的参数潜在语义，并且能在不同的数据类型上都具有强大的建模能力。具体来说，ParamReL提出了一个自编码器，直接从参数而不是从数据中学习潜在语义。然后将编码器集成到BFN中，实现了各种数据格式的表示学习。ParamReL同时又实用互信息项去促进了潜在语义的解耦合和有意义语义的捕获。我们通过扩展BFN说明了ParamReL中的条件生成和重建，实验结果证明ParamReL在学习参数表示方面的优越有效性。
邀请人：通信与信息工程学院 王瑞教授
欢迎广大教师和学生参加！
