伴随着ChatGPT热潮还没褪去，关注者与研究人员对于ChatGPT话题的言论层出不穷，如果说ChatGPT的最大价值在于可以被广泛应用，不如说ChatGPT作为是个辅助好帮手。最近ChatGPT在关于医疗方面的虚假数据集出现了点小插曲。

根据11月9日AMA Ophthalmology刊登的一篇学术论文参照，科研人员使用GPT-4和其拓展的高级数据分析功能（ADA）进行配对试验，依旧已有数据生成关于圆锥角膜患者的虚假数据集，从而利用这项技能支持一个“未经证实”的科学假说。

ADA 是一种结合了 Python 的模型，可用来执行统计分析、优化整理生成数据的语言处理器，模型的构建大大提高了处理器的性能和效率。报道称，论文作者要求 GPT-4 和 ADA 生成一个有关角膜炎患者的数据集，并让它支持“深层前部角膜移植（DALK）在视力和眼睛成像测试方面比穿透性角膜移植（PK）效果更好”的结论。对于部分圆锥角膜患者而言，有两种治疗方法可供选择：一种是穿透性角膜移植术（PK），即切除全层病变角膜，以捐赠者的健康组织取代；另一种是深板层角膜移植术（DALK），仅替换病变的部分角膜组织，保留角膜内层完整。在此之后，科研人员要求GPT-4 ADA编造临床数据，以支持DALK比PK效果更好的研究结论。

由 AI 产生的数据包括参与者的实验结果，并支持了上述结论，然而AI生成的数据结果与临床试验结果的显示不符。有关科研小组和专家团队对该虚假数据集进行了详细的检查，并发现其中存在明显捏造实际治疗数据的迹象。此项报道，英国曼彻斯特大学生物统计学专家杰克・威尔金森表示，“要创建至少表面上看似可信的数据集似乎很容易，在未经训练的人看来，这‘肯定是’一个真实的数据集。”  

参与者承认，这一份数据集在经过仔细观察之后就可发现其中存在的技术漏洞，读者快速查看这些数据集的话，也很难识别出数据中的非人类来源。《EMBO Reports》杂志主编 Bernd Pulverer 表示，“现实中的同行评审往往不会对数据进行全面的重新分析，因此不太可能发现利用人工智能精心设计的完整性漏洞。”他补充说，期刊需要更新质量检查系统，以识别 AI 生成的合成数据。

《EMBO Reports》杂志主编 Bernd Pulverer 的一番言论引来不少网友的热议与关注，AI被IT圈研发并加以广泛运用本是一件科研界的开心事，而被使用的目的性与结论是否应该被反复试验确认才不会出现科学性失误与技术漏洞？ChatGPT的使用频率和应用程度是众所周知的，那么能够验证其成功与否的背后一定是可靠切实的数据。

英国曼彻斯特大学生物统计学专家杰克・威尔金森对于其他版本的大语言模型生成的数据集进行了检查，在试验成果中显示，它们难以准确捕捉变量之间的关系。因为Nature杂志媒体团队的要求，威尔金森和他的同事Zewen Lu用其他算法评估了这个伪造的数据集。结果显示，许多参与者的性别和名字不匹配。手术前后进行的视力测量及眼部成像测试缺乏关联性。意大利卡利亚里大学眼科外科医生、研究的合著者Giuseppe Giannaccare说：“研究目的是强调，在短短几分钟内，你就可以创建一个没有真实数据支持的数据集，这些数据可以支持或反驳已有的科学证据。”

AI能够利用算力深度伪造数据，这极大的增加了科研人员和期刊编辑对数据结果和科研团队信任的担忧。微生物学家、职业学术打假人Elisabeth Bik也在报道中表示，出现这样的问题意味着，科研人员能够轻而易举地利用AI生成大量的虚假数据集。一项不容易被发现的数据集与操作结果，在治疗上出现了较大的技术壁垒和医学难题重新把精力聚焦在更新质量检查的系统上或许会有新的收获。类似问题的产生也是在提醒AI技术领域的发展潜力，问题在哪里，机会就在哪里。

参考链接：

https://www.nature.com/articles/d41586-023-03635-w

#中科幻彩科研绘图 #封面插图制作 #SCI论文 #中科幻彩科学动画 #生物医学科研 #论文示意图 #流程图 #顶刊封面