1.大模型工具使用及开发环境部署技术

简介：本课程主要内容可以概括为以下几个方面：大模型工具概述；热门大模型工具应用实践:以 ChatGPT为例，深入讲解其技术原理等，分别以 Google AI for Developers、智谱AI开放平台、文心一言、讯飞星火、通义千问、腾讯混元大模型等为例进行具体的操作实践，包括 API调用、功能体验、模型应用等；讲解开发环境部署技术:包括Python常用库、PyTorch的基本操作、虚拟环境管理工具 (conda) 的基本操作、NVIDIA GPU 环境配置 (CUDA、cuDNN) 的操作实践、PyCharm 开发工具的安装和使用等重要知识；进行具体项目实践:鼓励学生参与大模型工具的实际应用项目，并进行独立操作、结果分析、问题解决、报告撰写等实践活动，培养其独立解决相关工程问题的能力。

2.大模型工程深度学习基础

简介：本课程主要内容是面向大模型工程应用深度学习的基本理论和基本方法，培养学生解决大模型相关复杂工程问题的算法设计能力。具体包括深度学习基础知识；深度学习训练数据处理；深度学习基础网络模型；深度学习损失计算；深度学习常用优化算法；深度学习应用项目设计开发；完成大模型工程应用设计开发所需的深度学习的基本技能。通过问题引导、项目驱动使学生所学知识能融会贯通，确实提高学生解决复杂工程问题的实践能力。

3.基础大模型Transformer复杂工程设计与实现

简介：本课程系统地讲解了Transformer模型的基本架构、数据预处理、模型设计与实现、模型训练、验证和部署。具体内容涵盖以下几个方面：Transformer模型基本架构；数据预处理；英文、中文数据预处理；分词与词嵌入技术案例实践；位置编码技术案例实践 ；掩码矩阵设计及案例实践；自注意力机制与多头注意力机制计算及实践；前馈神经网络、层归一化、正则化 ；编码器设计及实现；解码器设计与实现；结合编码器和解码器实现完整的Transformer模型；标签平滑与损失计算；模型训练与验证及模型参数计算和评估；模型预测、存储、加载及模型部署。本课程通过英文翻译成中文实际文本生成项目分模块讲解上述课程单元的教学重点和教学难点，一个项目贯穿该课程的全部课程单元，高效支撑相关毕业要求指标点，旨在全面提高学生解决复杂工程问题的实践能力。

4.开源大模型项目应用开发技术

简介：本课程系统地讲解了开源大模型项目应用开发技术，旨在使学生掌握开源大模型的基本概念、架构和应用场景，熟悉常用的开源大模型框架，掌握使用开源大模型进行项目开发的基本原理和基本技能，培养学生独立开发开源大模型应用项目的能力，具体内容涵盖以下几个方面：

开源大模型概述、ChatGLM3 模型架构、ChatGLM3项目介绍、ChatGLM3-6B模型应用项目环境部署、ChatGLM3-6B 模型的简单对话程序、ChatGLM3-6B模型批量生成故事文本、ChatGLM3-6B模型禁止词过滤、ChatGLM3-6B模型Gradio网页界面交互、ChatGLM3-6B 模型Streamlit网页界面交互、ChatGLM3-6B 模型Python代码生成、 ChatGLM3-6B模型工具注册机制及应用、ChatGLM3-6B模型组合应用、ChatGLM3-6B模型微调原理、ChatGLM3-6B模型微调应用示例、使用NVIDIA TensorRT-LLM 部署 ChatGLM3。

本课程通过ChatGLM3-6B模型项目分模块讲解上述课程单元的教学重点和教学难点，ChatGLM3-6B模型项目贯穿该课程的全部课程单元，高效支撑相关毕业要求指标点，旨在全面提高学生解决复杂工程问题的实践能力。

5.大模型本地化应用设计开发技术

简介：本课程主要围绕OpenAI API规范和LangChain 框架，讲解如何将大模型技术应用于本地化场景，并开发出实用的 AI应用。

课程内容涵盖以下方面：OpenAI API 基础； OpenAI API接口分类、关键参数、响应格式、错误处理；OpenAI服务器设计方案； OpenAI服务器实现；OpenAI API服务器响应处理实践；OpenAI API 服务器项目应用实践；LangChain框架；LangChain框架基础应用；LangChain框架应用实践；基于LangChain框架的RAG项目实践；基于LangChain框架的Agents项目实践；LangChain框架本地化应用开发实践。通过学习本课程，培养学生将大模型技术应用于本地化场景的基本技能，并能够利用 OpenAI API规范以及LangChain 框架开发出实用的面向各自专业的实际应用项目，为今后从事人工智能相关工作打下坚实的基础。本课程以ChatGLM3-6B模型为例进行大模型本地化应用设计开发，该项目案例贯穿该课程的全部课程单元，高效支撑相关毕业要求指标点，旨在全面提高学生解决复杂工程问题的实践能力。

6.大模型项目Docker部署技术

简介：本课程的主要内容可以概括为以下几个方面：Docker基础知识:包括Docker简介、Docker环境搭建、Docker命令行工具使用、Dockerfile；Docker应用实践:包括用Docker快速安装软件、Docker目录挂载、构建自己的 Docker镜像、Docker多容器通信；Docker高级应用:包括Docker-Compose、Docker镜像发布和部署、Docker数据备份和迁移、Docker容器调用宿主机NVIDIA GPU支持LLM服务、大型语言模型的Docker容器化方案。

本课程内容涵盖了Docker的基础知识和应用实践，以及使用Docker部署大模型项目的相关技术，旨在帮助学生掌握 Docker技术并将其应用于实际项目中。

7.大模型工程+专业领域Agent项目设计开发

简介：本课程旨在训练学生如何利用大型语言模型（LLM）构建智能体（AI Agent）并将其应用于实际项目开发。 课程涵盖以下主要内容：AI Agent基础理论与设计、大型语言模型（LLM）概述与应用、AI Agent架构设计与核心模块实现、AI Agent系统集成与测试、项目总结与展示。

本课程以项目驱动组织教学，学生需选择一个和本专业相关的特定领域进行AI Agent设计开发，并最终完成一个完整的AI Agent项目。 整个课程的教学实践过程将培养学生团队合作能力、问题解决能力和创新能力，并帮助他们将理论知识应用于实践，成为能够利用大模型技术解决实际复杂工程问题的复合型人才。