仅凭感官,如何识别AI生成的内容?
ChoosAI
2025年11月17日 18:31
收录于文集
共8篇

目录

  1. 前言

  2. 辨别AI生成的图像、视频

  3. 甄别AI生成的音频

  4. 鉴别AI生成的文本

  5. 小结

今年双十一,竟然有不少人,为了骗商家“仅退款”,用AI来p图。

比如卖袜子的商家在网上怒斥某职校生买家用AI生成有质量问题的袜子。再比如有买了洗鼻器的男子,直接P了个图,给商家说,这个头有问题,结果商家放大图片一看,有AI水印(这哥们忘记p掉了)。

(左为袜子p图退款,右为洗鼻器p图退款)

AI不知何时,从单纯的好助理,变成了身兼数职的复杂角色——除任工作好秘书一职外,还任诈骗者的帮凶,混淆视听者的狗腿子。

对,屏幕前的你想的没错,坏的是人,不是AI。

不过幕后操控AI之人散落各方,要想解除他们带给我们的负面影响,还是对付AI生成内容的可操作性最强。而应对AI生成结果,第一步就是要辨别它。

为了帮助大家甄别信息真假、防止被诱导和被消费,本篇针对不同模态,教给大家一些快速辨别真伪的方法。

一、辨别AI生成的图像、视频

AI图像可以结合如下五个维度去判断:

一、看结构逻辑

其实就是人体五官和比例逻辑,物体、空间结构逻辑。这是AI最容易出错的地方。AI常见的异常有:

二、看光影反射

这也是辨别大多数AI生图平台生成结果的重要方法,即便是数一数二的AI生图模型,也容易出现其中一方面的问题。

三、看材质细节

四、看文字符号

五、看整体氛围

最重要的还是前三点。比如看阴影边缘和动物毛发:

(左为实拍,右为即梦4.0生成)

(左为实拍,右为即梦4.0生成)

即梦4.0生成的太阳没有外层轮廓,边缘分界不明,小狗脸上的毛发和胡须模糊。

(左为实拍,右为即梦4.0生成)

不过也有无法分辨的,比如上面湖景图。

当碰上图生图复刻能力和细节处理优秀的工具时,或者碰上梦幻唯美类的艺术图片时,就还是需要工具检测。比如国内的朱雀 AI 检测助手、Deepfake Defenders,国外的AI Image Detector、Undetectable AI Image Detector等。

视频的辨别方法在图像和音频方法的基础上多了如下两部分:

一、看一致性(百试百灵)

二、看动态逻辑(百试百灵)

就比如这个真实和AI生成的对比视频,你能分辨出来哪个为真吗?

当然,我们网上看到的优质AI视频也能从中发现AI味儿,尽管它最大程度上绕开了上面说的AI问题。但它产生的新特点就是场景切换快、同框角色少、运镜有瑕疵,引导的视觉重心在剧情。

若实在分辨不出,或者提升辨别效率,可使用朱雀 AI 检测助手、DeepReal、Sensity AI等工具进行检测。

二、甄别AI生成的音频

相比音乐,普通人更能听出AI人声。AI人声没有呼吸声,语速四平八稳,停顿很有规律,情绪假或者根本就没有情绪波动,说的方言奇奇怪怪。

所以,这里重点讲区别AI音乐和人类制作音乐的方法。需要注意的是,这里所讲的方法还是更适合有乐理基础和音乐敏感人士哦~

方法如下:

一、听和声

二、听音乐片段

这三个问题都是因为AI模型有难以规避的连贯性弱点,在构建长时序音乐时容易暴露。

三、听动态与情绪

四、听人声

五、听空间与乐器

对于小白群体,若连听人声也无法鉴别,那么使用专业工具就是最佳方法。这类专业工具常见的有Resemble AI、Hiya Deepfake Voice Detector、SafeEar等。

三、鉴别AI生成的文本

因为甄别是为了规避被诱导、被消费、被骗的不利影响,所以下面不对“AI激发文本创意”作讨论,仅对讲求原创、需要保持客观真实的文本(大多来源于教育科研、文学艺术和传媒领域)作探讨。

这类文本大多篇幅较长(除诗词之外),我们可以从如下五个方面结合去判断:

一、看语言节奏

若提示词未经精雕细琢,AI生成的文本大多具有语气平稳、结构模板化、频繁使用逻辑连词、词汇和句式重复的特点。不过若文本本身就是说明性、研究性较强的文章,就需要结合其他维度判断。

二、看内容逻辑

三、看情绪、修辞(百试百灵)

四、看细节痕迹(百试百灵)

五、看个人风格

就比如我让Gemini写的散文《背影》(提示词见评论区)

(文由Gemini生成)

一句句细看后,我们能发现它有几个突出的问题:

送别场景重点不突出;有几处逻辑问题(父亲嘴上只说了不送,但母亲却劝他不送;一般深夜归来时视觉上看到的是正面而不是背影;2次提到“最后一次”);修辞太多;用词风格跨度大(近代、现代、二次元都有)。

不过细看耗时较多,且当碰上用AI生成、人工修改的文本时,区分就非常费力了。此时还是需要用上专业鉴别工具,比如朱雀 AI 检测助手、PaperYY、Papertime等。

四、小结

经过AI提示词的反复训练,AI生成文本、音频、图像和视频的结果会更逼真,不过无论如何逼真,只要抓住如下关键,就能快速发现它们的“狐狸尾巴”:

1.图像抓身体、空间结构逻辑,光影反射和材质细节。

2.视频抓一致性和动态逻辑。

3.音乐抓人声音质、编曲协调性和动态变化。

4.文本抓细节逻辑、带有数据的具体案例(科研、商业文)和表现情绪的手法。

好了,今天的分享就到这里了。若你也有一些辨别AI生成式内容的心得和方法,欢迎在评论区分享和讨论,也欢迎大家入群交流哦~

关注ChooseAI,和我们一起探索AI时代!