由自然语言处理技术孕育而生的大模型已经成为人工智能领域的一个重要突破。这些模型通过大规模语言数据训练,能够实现对文本的深度理解和生成。然而,大模型的应用远远超过文本处理,其在代码上也展现出巨大的潜力,进而衍生出了代码大模型。代码大模型可以学习和理解各种编程语言,完成代码生成、摘要等典型编程任务,极大提高了开发效率。与此同时,代码所具备的高度结构化、可执行以及长距离依赖等特性,又反哺了对语言的理解和生成,提升了大模型逻辑推理、工具调用以及复杂问题分解与规划等能力。本报告将系统介绍语言大模型和代码大模型的基本概念、发展历程、技术原理以及应用场景。