2025年多模态情绪识别创新点
AI药物发现与设计_AIDD
2025年05月06日 23:23

2025年多模态情绪识别创新点

1. 跨模态深度融合

通过Transformer模型来学习不同模态间的关系。具体做法:用Transformer来融合文本、语音、面部表情等信息,提升情绪识别的精度。

模型参考:BERT+Transformer

数据集:Emo-DB, IEMOCAP

2. 动态情绪建模

使用时序建模捕捉情绪随时间变化。具体做法:通过LSTM或GRU处理面部表情、语音等模态的动态信息,提升对情绪转变的捕捉能力。

模型参考:LSTM

数据集:AffectNet

3. 自监督学习强化多模态

通过自监督学习优化每个模态特征提取,减少标签需求。具体做法:在没有标签的情况下,先用自监督学习训练每个模态,再进行情绪识别。

模型参考:SimCLR + ResNet

数据集:VGGFace2, VoxCeleb

4. 强化学习优化情绪分类

使用强化学习优化情绪识别策略。具体做法:通过强化学习根据情绪反馈调整识别策略,提升识别准确度。

模型参考:DDPG+CNN

数据集:AffectNet

5. 多模态情绪检测+情感强度预测

除了情绪分类外,进行情感强度预测。具体做法:将情绪强度作为连续值进行回归,增加情绪识别的细粒度。

模型参考:BERT+CNN

数据集:IEMOCAP, CREMA-D

6. 模态间互助式学习

使用模态间的互助学习提升各自的特征提取能力。具体做法:通过互相“指导”或信息共享,优化每个模态的识别效果。

模型参考:Cross-Modal Attention

数据集:VoxCeleb, Affective-3D