2025年多模态情绪识别创新点
1. 跨模态深度融合
通过Transformer模型来学习不同模态间的关系。具体做法:用Transformer来融合文本、语音、面部表情等信息,提升情绪识别的精度。
模型参考:BERT+Transformer
数据集:Emo-DB, IEMOCAP
2. 动态情绪建模
使用时序建模捕捉情绪随时间变化。具体做法:通过LSTM或GRU处理面部表情、语音等模态的动态信息,提升对情绪转变的捕捉能力。
模型参考:LSTM
数据集:AffectNet
3. 自监督学习强化多模态
通过自监督学习优化每个模态特征提取,减少标签需求。具体做法:在没有标签的情况下,先用自监督学习训练每个模态,再进行情绪识别。
模型参考:SimCLR + ResNet
数据集:VGGFace2, VoxCeleb
4. 强化学习优化情绪分类
使用强化学习优化情绪识别策略。具体做法:通过强化学习根据情绪反馈调整识别策略,提升识别准确度。
模型参考:DDPG+CNN
数据集:AffectNet
5. 多模态情绪检测+情感强度预测
除了情绪分类外,进行情感强度预测。具体做法:将情绪强度作为连续值进行回归,增加情绪识别的细粒度。
模型参考:BERT+CNN
数据集:IEMOCAP, CREMA-D
6. 模态间互助式学习
使用模态间的互助学习提升各自的特征提取能力。具体做法:通过互相“指导”或信息共享,优化每个模态的识别效果。
模型参考:Cross-Modal Attention
数据集:VoxCeleb, Affective-3D
