【AI Drive】第122期 - 华中科技大学陈使明：基于互语义蒸馏网络的零样本学习
1144
1
2022-05-26 20:46:49
未经作者授权，禁止转载本期为AI Drive总第170期线上分享的内容回顾。
5月26日（周四）19点，AI Drive邀请华中科技大学2019级博士生-陈使明，为大家带来CVPR 2022论文：“基于互语义蒸馏网络的零样本学习”主题演讲。主要介绍了一种互语义蒸馏网络（MSDN），该网络逐步蒸馏视觉和属性特征之间的内在语义表示。MSDN包含一个属性→视觉的注意力子网络（A→V）学习基于属性的视觉特征，以及视觉→属性注意子网络（V→A）学习基于视觉的属性特征。通过进一步引入语义蒸馏损失促使两个注意子网络能够在训练过程中相互协作学习和教导，从而实现特征的语义蒸馏。
页游已死？来试试这款能搬砖的页游！
AI Drive学术直播间往期回放
(121/122)
14.5万播放
简介
简介「AI Drive」是由 biendata 和 PaperWeekly 共同发起的学术直播间，通过邀请众多AI领域优秀的PhD及行业优秀公司来宣传和分享其最前沿的研究成果，从而促进多个研究方向的交叉融合。在这里，青年学者们既可以获得一个展示学术成果的舞台，拓展新的科研方向、提升科研能力，又可以认识更多优秀的AI研究者，通过有效地反馈和交流让知识的传播更加有意义，从而产生更大的价值。
加入AI Drive进行学术直播分享请添加小助手微信biendata02，备注：AI Drive+姓名+学校/公司
1-50
第1期 - 北京邮电大学纪厚业：异质图神经网络:模型和应用
第1期 - 北京邮电大学纪厚业：异质图神经网络:模型和应用
1:53:52
第2期 - 清华大学岂凡超：义原知识库的应用和扩充
1:01:35
第3期 - 清华大学王晓智：事件抽取的进展与挑战
1:07:45
第4期 - 美团王金刚：美团BERT的探索和在搜索业务中的实践
1:04:51
第5期 - 清华大学刘正皓：信息检索的进展与挑战
54:58
第7期 - 清华大学秦禹嘉：基于自然语言解释的数据增强
1:08:47
第8期 - 云从数据羽生：行为动作定位的算法流程介绍与分享
54:11
第9期 - 清华大学高天宇：对比学习及其在NLP中的应用
1:11:18
第10期 - 商汤科技宋广录：大规模视觉检测任务的检测器设计与优化
1:21:41
第11期 - 清华大学高信龙一：浅谈对话策略学习与人机对话交互
59:30
第12期 - 旷视科技李彦伟：动态网络及其在场景分割中的应用
1:28:04
第13期 - 清华大学牛艺霖：常识知识获取与常识推理
59:31
第14期 - 香侬科技孟昱先：用MRC框架解决各类NLP任务
41:48
第15期 - 旷视科技郑安林：一框预测多目标，数据驱动的遮挡物体检测新方法
51:08
第16期 - 滴滴出行：探索资源约束的Contextual Bandits问题
1:13:59
第17期 - 商汤科技邵昊：高效视频理解模型的设计及ICCV比赛冠军方案解读
53:06
第18期 - 小米科技李滨：解密小米移动端深度学习框架MACE
49:47
第19期 - 旷视科技王毅：用于条件图像生成的注意力归一化
1:00:58
第20期 - 商汤科技刘宇：神经网络结构与大规模优化方法
1:06:50
第21期 - 旷视科技周鸣一：不需要真实数据的模型窃取方法
44:35
第22期 - 小米科技崔世起：小爱同学全双工技术实践
47:51
第23期 - 旷视科技周博言 | 双边分支网络BBN：攻坚长尾分布的现实世界任务
22:41
第24期 - 旷视科技程昌茂 | Circle Loss：从对相似性优化的统一视角进行深度特征学习
28:39
第25期 - 滴滴口罩佩戴识别技术 & CVPR2020论文解读
1:04:22
第26期 - 平安人寿马跃 ：基于阅读理解模型和 Wide & Deep模型的端到端对话状态追踪系统
51:31
第27期 - 旷视科技万若斯：带批归一化和权重衰减的深度神经网络的优化过程中的球面运动
1:10:24
第28期 - 清华大学王晨阳 | ReChorus: 一个轻量级Top-K推荐框架及相关论文介绍
1:07:09
第29期 - 明略科技付骁弈：语音图谱实践与前沿
30:48
第30期 - 平安人寿谢舒翼：SemEval-2020自由文本信息抽取冠军方案解读
53:09
第31期 - 彩云科技袁行远：NLP与冒险游戏研究一览
1:06:14
第32期 - 华为云卢栋才：对话机器人的应用实践和最新进展
1:12:41
第33期 - 达观数据杨慧宇：金融文档结构化实践
1:04:39
第34期 - 小米科技雷宗：小爱中控意图理解
45:03
第35期 - 第四范式罗远飞：强化学习在比赛和自动机器学习中的应用简析
48:01
第36期 - 清华大学关健：利用自监督学习的开放端故事生成评价方法
43:38
第37期 - 北京邮电大学王啸：网络嵌入的最新进展：结构、性质和应用
1:08:43
第38期 - 清华大学郑楚杰：知识增强对话生成中的差异感知知识选择
40:38
第39期 - 清华大学彭皓：从上下文学习还是从实体名字学习？
39:14
第40期 - EMNLP 2020：用语义分割的思路解决不完整话语重写任务
49:49
第41期 - 中国人民大学周昆：基于话题引导的对话推荐系统
1:20:24
第42期 - 天津大学副教授张长青：多模态融合的基础问题及算法研究
1:13:08
第43期 - 南京大学龙思宇：利用近义知识增强中文成语阅读理解
36:48
第44期 - 华中科技大学王晓森：文本对抗攻防中的对抗训练方法
43:40
第45期-复旦大学李林阳：自然语言中token-aware的虚拟对抗样本训练
29:22
第46期 - 北航刘乾：我们离有效的上下文建模还有多远?
25:09
第47期 - 清华大学李一鸣：后门攻击简介
34:53
第48期 - 腾讯陆元福：如何缓解GNN预训练和微调之间的优化误差？
33:22
第49期 - 清华大学矣晓沅：基于学习实例隐空间的文本风格转换
52:57
第50期 - 清华大学姚远：对抗语言游戏
54:14
51-100
第51期 - 北邮朱美琪：同源共流 | 一个优化框架统一与解释图神经网络
1:03:39
第52期 - 浙江大学任意：非自回归语音合成
58:06
第53期 - 北邮纪厚业：异质图神经网络在阿里推荐业务中的探索
1:02:29
第54期 - 微软黄浩洋 | M^3P: 多语言与多模态在预训练中的结合
1:00:37
第55期 - AAAI 2021最佳论文 | Informer：比Transformer更有效的长时间序列预测方法
49:50
第56期 - 伦敦大学杨梦月| CausalVAE：引入因果结构的解耦表征学习
49:48
第57期 - 北航郑耀威 | AMP：针对模型参数施加对抗扰动的高效神经网络正则化算法
51:18
第58期 - 中科院张雪遥：挖掘虚假新闻中的双重情感
53:54
第59期 - 中科大董汉德 | 殊途同归：论解耦图卷积网络和标签传播的等价性
34:46
第60期 - 北京邮电大学徐逸辰：图对比学习研究进展
41:27
第61期 - 吉林大学夏婷玉：在语义文本匹配任务中使用先验知识指导BERT的注意力机制的方法
26:00
第62期 - 北航孙庆赟 | SUGAR：强化学习与互信息驱动的子图神经网络
35:22
第63期 - 吉林大学王博：一种基于结构增强文本表示学习的知识图谱补全方法
31:24
第64期 - 北京大学刘炳言：基于隐私保护的模型联邦个性化
46:37
第65期 - 中科大周正阳：STUaNet理解人类活动中的时空不确定性
57:48
第66期 - 罗格斯大学刘殊畅：生成式板块推荐的变分控制和评估
51:10
第67期 | 天津大学韩宗博 - 兼听则明，信而有征：可信多模态分类
41:55
第68期 - 清华大学秦禹嘉：利用对比学习增强预训练语言模型的实体与实体间关系理解
59:01
第69期 - 清华大学王子奇：基于对抗学习的事件抽取预训练模型
44:39
第70期 - 北邮刘念：基于协同对比学习的自监督异质图神经网络
52:31
第71期 - 上海交大徐明皓：具有局部和全局结构的自监督图表征学习
42:19
第72期 - 浙江大学冯浩哲：满足隐私保护要求的去中心化无监督域适应范式
52:32
第73期 - 北邮王睿嘉 | 优胜劣汰：图结构估计神经网络
37:47
第74期 - 清华大学滕佳烨 | T-SCI：基于Cox-MLP模型的二阶段共形预测
50:30
第75期 - 上海交大任洁、李明杰：对神经网络中层不同复杂度的特征分量的解释与拆分
33:30
第76期 - 北京交大贾子钰：生理时间序列的分类方法及其在睡眠分期的应用
41:35
第77期 - 上海科大王新宇：为结构预测问题自动寻找更强的词嵌入拼接方式
34:29
第78期 - 北京理工柏宇：低资源语言场景下的跨语言文本摘要
46:41
第79期 - 微软亚研徐毅恒：预训练时代下的文档智能
43:17
第80期 - 蚂蚁金服胡翔：表征与结构兼备，结构化语言模型R2D2
47:50
第81期 - 北京大学许润昕：基于异质图交互与事件追踪器的文档级事件抽取
51:14
第82期 - 加州大学洪逸宁：视觉和语言的联合语法归纳
26:25
第83期 - CMU博士后刘鹏飞：文本生成任务十大发展趋势（2020-2021）
1:13:27
第84期 - 中科院计算所杨传广：自监督增强的知识蒸馏
39:26
第84期 - 中科院计算所杨传广：自监督增强的知识蒸馏
44:00
第86期 - 浙江大学张宁豫：基于语义分割的文档级三元组关系抽取
34:53
第87期 - 北京交通大学贾子钰：面向多模态/多视图生理时间序列的分类方法研究
1:02:54
第88期 - 北京大学杨寒：一种基于广群的知识图谱表示学习统一模型框架
39:59
第89期 - 北京邮电大学刘洪瑞：基于置信度校正的可信图神经网络
52:52
第90期 - 电子科技大学潘尔林：多视图对比图聚类
32:05
第91期 - 帝国理工学院王剑虹：配电网中用多智能体强化学习进行的主动电压控制
57:35
第92期 - 复旦大学李林阳：预训练模型中的后门攻击——使用层级别权重“扰动”
23:56
第93期 - 东南大学乔聪玉：示例依赖的偏标记学习
34:14
第94期 - 复旦大学许燚：少量标注样本场景下基于数据编程的半监督分类
54:25
第95期 - 北航宋腾炜：基于投影变换建模传递关系的知识图谱表示学习模型
42:30
第96期 - 北京大学张文涛：大规模图机器学习的可扩展性
48:12
第97期 - 北京大学朱晴晴：基于课程学习和知识蒸馏的对话生成
24:14
第98期 - 中国科学技术大学杜逸超：三角分解一致性约束的端到端语音翻译
44:35
第99期 - 哈工大李东方、陈俊颖：采用症状序列生成的方式做自动诊断
37:51
第100期 - 北京大学许润昕：基于对比学习的预训练语言模型剪枝压缩
45:18
101-150
第101期 - 北航程义华：基于特征纯化的视线估计算法
42:54
第102期 - 清华大学陈波：基于对比学习和对抗微调的无监督专家链接框架
37:19
第103期 - 香港科技大学沈志强：重新思考图像融合策略和自监督对比学习
59:01
第104期 - 香侬科技孟昱先：GNN-LM 从“闭卷考试”到“开卷考试”
52:56
第105期 - 浙江大学刘静林：基于生成模型的语音/歌声合成与歌声美化
1:06:15
第106期 - 北京大学孙泽宇：GNN节点分类的广义等变性和优先标记算法
29:23
第107期 - 北京理工大学谢斌辉：基于能量的主动域自适应学习方法
27:00
第108期 - 浙江大学方尹：融入知识图谱的分子对比学习
43:54
第109期 - 武汉理工大学孙朝阳：一个对称的语义感知的妆容迁移与移除网络
45:53
第110期 - 清华大学李一鸣：通过验证嵌入的外源特征防止模型窃取
25:07
第111期 - 香港中文大学姜美锐：协调异质医学图像引起的局部和全局偏移的联邦学习算法
36:21
第112期 - 南京理工大学李钢：基于锚框排序的目标检测知识蒸馏
38:02
第113期 - 加州大学古静：视觉语言导航的任务、方法和未来方向调研
1:22:42
第114期 - 上海交通大学吴齐天：图机器学习分布外泛化与外推
1:04:11
第115期 - 电子科技大学章琪泷：超越源域面向黑盒域制作对抗样本
31:01
第116期 - 浙江大学王皓波：基于对比消歧的偏标签学习
44:24
第117期 - 清华大学张斌杰：基于退化缓解兼容训练的热刷新模型升级
24:40
第118期 - 中科院深圳先进所黎昆昌：用于高效时空表征学习的统一变换器
1:20:59
第119期 - 香港科技大学任烜池：利用预训练的生成模型来学习解耦表征
38:21
第120期 - 上海交通大学冯正阳：通过曲线建模重新思考高效车道线检测
51:51
第121期 - 西安交通大学林卉：基于多面注意力机制的人群计数
45:04
第122期 - 华中科技大学陈使明：基于互语义蒸馏网络的零样本学习
44:11
第123期 - 中科院信息工程所加小俊：基于可学习攻击策略的对抗训练
47:59
顶部