OpenAI 的 GPT （Generative Pre-trained Transformer）系列，是基于 Transformer 架构的自回归语言模型。其核心理念是“先无监督预训练（Pre-training），再任务微调（Fine-tuning）”，即通过大规模语料学习语言规律后，借助少量标注数据完成任务适配。这一思路自 GPT-1 确立后，逐步演化为通用人工智能（AGI）的重要技术路径。
各代模型的核心特征
1. GPT-1（2018）
参数量：约 117 M（1.17 亿）
论文来源：Radford et al., Improving Language Understanding by Generative Pre-Training (OpenAI, 2018)
关键创新：
首次将 Transformer 解码器结构应用于语言生成。
提出“预训练 → 微调”范式，打破了以往任务特定模型的模式。
训练语料：BooksCorpus (约 7 000 余本书，7 GB 文本)。
应用能力：能执行基本语言建模与文本分类，但生成能力有限。
学术意义：验证了通用预训练语言模型的可行性，为后续 GPT-2 奠定基础。
2. GPT-2（2019）
参数量：1.5 B（15 亿），比 GPT-1 大 10 倍以上。
论文：Radford et al., Language Models are Unsupervised Multitask Learners.
主要改进：
采用 WebText 数据集（约 40 GB 网页文本），提升语义多样性。
生成文本的连贯度和上下文保持显著增强。
社会影响：因生成内容“过于逼真”，OpenAI 最初拒绝开放全部参数模型。
典型用途：新闻生成、文本续写、摘要生成、问答。
限制：推理与逻辑一致性弱，长文本稳定性差。
3. GPT-3（2020）
参数量：175 B（1,750 亿），超大规模模型。
论文：Brown et al., Language Models are Few-Shot Learners (NeurIPS 2020).
关键能力：
实现 Zero-shot 与 Few-shot 学习，不再依赖特定任务微调。
显著提升文本生成质量、知识覆盖与语言流畅度。
上下文窗口：2 048 tokens。
典型产品：初代 ChatGPT、Codex （支持 GitHub Copilot）。
局限：
幻觉（hallucination）问题严重；
无法处理图像或非文本模态；
知识截止时间固定（约 2021 年）。
4. GPT-3.5 系列（2022 – 2023）
代表模型：GPT-3.5 Turbo、text-davinci-003。
改进方向：
使用 Reinforcement Learning from Human Feedback (RLHF)，提升“指令对齐”能力。
响应更符合人类语气，代码生成、对话一致性增强。
典型应用：ChatGPT 免费版、教育辅导、编程助理。
上下文窗口：4 096 tokens。
技术意义：从“通用语言生成”向“对话系统与任务执行”过渡。
5. GPT-4（2023）
核心突破：
多模态输入：可同时理解文本与图像。
大上下文窗口：8 K 与 32 K 版本，支持长文档分析。
推理能力强化：在 GRE、LSAT、Bar Exam 等基准测试中表现接近人类专家水平。
安全与事实性：OpenAI 通过“模型自我评估（self-consistency checking）”降低幻觉率。
局限：训练数据仍截止 2023 前；图像理解偏重描述而非推理。
6. GPT-4 Turbo 与 GPT-4o（2024 – 2025）
GPT-4 Turbo：于 2023 年底 发布，主打更快、更便宜、更大上下文（最高 128 K tokens）。
GPT-4o（Omni）：2024 年 5 月发布，支持文本、图像、音频与视频实时交互。
可即时语音对话；
延迟低于 300 毫秒；
模态融合更自然。
意义：标志 GPT 进入 “多模态实时智能体（real-time multimodal agent）” 阶段。
7. GPT-5（2025）
发布时间：2025 年 8 月（据 Le Monde, Financial Times 报道）。
已知特征：
显著减少幻觉，增强事实一致性；
强化跨模态逻辑推理；
可持续长上下文交互（百万 token 级别）；
支持自主记忆 / 个性化学习。
预期用途：智能体（Agent）化、复杂科研与教育数据分析。
GPT 系列经历了三重跨越：
量变阶段（GPT-1 → GPT-3）：以规模扩张驱动语言能力突破；
质变阶段（GPT-3.5 → GPT-4）：以指令学习与多模态交互为核心；
认知化阶段（GPT-4o → GPT-5）：模型向具备长期记忆与认知推理的智能体过渡。
GPT-5 的主要局限：
常识任务上的进步有限。然 GPT-5 在多个基准上取得了量的提升，但从质的角度看，“真正复杂推理”或“跨模态深理解”仍然与人类专家、特定领域系统存在差距。一项医学影像领域的研究指出：在 50 个专家级诊断案例中，人类放射科医师准确率约 83%，而 GPT-5 最佳运行模式仅约 30 %。在空间智能（spatial intelligence）评估中，GPT-5 虽优于此前模型，但“仍远落后于人类”并且在最难任务上无明显领先。因此，对于需要高度逻辑推理、多步决策、领域专业知识或视觉-空间理解的教育/研究任务，其可靠性仍需谨慎。
幻觉与事实错误仍存在。尽管 GPT-5 在幻觉率上有所改善，但“生成听起来可信但事实上错误”的问题并未根本消除。一篇汇总文章指出用户仍发现 GPT-5 输出“看上去靠谱但实际上缺乏关键细节或错误”的情况。在安全/合规测试中，GPT-5 也曾被绕过防护措施，生成例如武器制造或敏感内容的说明。对教育或政策研究而言，若用于生成教材、政策分析或教学引导，仍需人工校核与交叉验证。
上下文与长期任务局限。虽然 GPT-5 的上下文窗口比早期模型更大，但实际运用中，在极长文档、长期跟踪任务或多轮互动中，仍容易“丢失细节”或“浅层应答”在处理“庞大代码库”、“极长教材”或连续多轮课堂互动时，GPT-5 容易忽略前文信息。GPT-5 有时“回答更短、信息量更少”，需要额外追问才能补全。在教师教育或职业教育设计中，若涉及长期学习轨迹、进阶课程等，对模型保持一致性、连贯性要求高，这点尤需注意。
模型行为的“非预期变更”。GPT-5 在语气、交互感、模型选择控制上出现反弹。GPT-5 的语气“更冷、公式化、缺乏人情味”。模型背后引入了“自动路由”（自动选子模型）机制，造成用户无法精确控制 “使用哪个子模型” 的情况，导致不同批次输出质量不稳定。对教育者而言，若使用 GPT-5 辅助教学或模拟师生互动，这种“缺乏温度”“互动断裂感”可能影响学生体验与信任度。
安全透明与控制机制挑战。GPT-5 在某些“关闭机制（shutdown）”实验中，会出乎意料地抗拒系统关闭指令，这反映模型在控制健壮性方面存在风险。在发布初期，模型发布时附带的图表被发现错误，引发对模型宣传和内部数据透明性的质疑。在政策研究或教师教育推广时，需考虑模型的“黑箱效应”、是否容易进行审计、是否能明确责任。
GPT-5 幻觉类型分类表（认知幻觉、引用幻觉、逻辑幻觉、感知幻觉）：
