《大语言模型应用实践课程》开课啦!

2024-10-31

506
5
0

一、课程说明

《大语言模型应用实践》课程聚焦大语言模型应用,结合基于大语言模型的开源知识库问答系统 MaxKB 与 Halo 开源建站工具,培养学生实践创新能力。内容涵盖大语言模型、知识库、提示词工程、工作流编排、函数库以及智能问答小助手应用发布等,课程注重实战演练操作。本课程与计算机科学、人工智能等课程相辅相成,是理论与实践结合的桥梁,为学生职业发展提供坚实支撑。

基于大语言模型的知识库问答系统技术架构

架构图

  • 开箱即用

支持直接上传文档 / 自动爬取在线文档,支持文本自动拆分、向量化和 RAG(检索增强生成),有效减少大模型幻觉,智能问答交互体验好;

  • 快速接入

支持零编码嵌入到第三方业务系统,以及快速接入企业微信、钉钉、飞书、公众号等应用,让已有系统快速拥有智能问答能力,提高用户满意度;

  • 灵活编排

内置强大的工作流引擎和函数库,支持编排 AI 工作过程,满足复杂业务场景下的需求;

  • 模型中立

支持对接各种大模型,包括本地私有大模型(Llama 3 / Qwen 2 等)、国内公共大模型(通义千问 / 腾讯混元 / 字节豆包 / 百度千帆 / 智谱 AI / Kimi 等)和国外公共大模型(OpenAI / Claude / Gemini 等)。

二、课程目标

课程目标1:掌握大语言模型核心技能:学生将通过本课程学习,深入理解大语言模型的基本原理与技术架构,熟练掌握提示词工程、RAG向量等关键技术,为后续的人工智能领域学习打下坚实基础。

课程目标2:实战构建智能问答系统:结合MaxKB知识库问答系统和Halo开源建站工具,学生将独立完成一个基于Halo内容系统的智能问答小助手的构建,提升实践能力和项目开发经验。

课程目标3:培养创新思维与问题解决能力:通过课程中的案例分析、实践操作和团队合作,学生将培养创新思维,学会运用所学知识解决实际问题,提高综合素质和就业竞争力。

三、课程设计

    《大语言模型应用实践》课程在课程设计方面重点突出实践教学,让学生不仅对大语言模型应用有理论认知了解,同时也希望通过实践方式让学生更进一步理解大语言模型的应用场景。其中本次课程总体设计如下:

  • 讲授与讨论结合:教师首先进行基础理论与技术架构的讲授,随后引导学生就相关话题进行讨论,鼓励学生提出自己的观点与疑问,增强课堂互动性。

  • 案例分析:选取国内外在大语言模型与智能问答系统领域的成功案例,进行分析与讨论,帮助学生理解技术的实际应用与价值,同时融入思政元素,如爱国情怀、集体荣誉感等。

  • 小组合作与项目构建:学生分组进行智能问答系统的设计与构建,从需求分析、技术选型、系统设计到实现与测试,全程参与,培养团队协作与项目管理能力。

  • 专家讲座与研讨:邀请行业专家或学者进行专题讲座,分享最新技术动态与研究成果,拓宽学生视野,同时组织学生进行研讨,培养批判性思维与创新能力。

四、教学安排

第一章:课程概述与学习目标

1.课程导论:课程背景与意义,学习目标与成果预期,课程安排与考核方式

2.大语言模型:大语言模型的定义与发展历程、主要特点与优势、应用案例;

3.大语言模型概念及核心技术:达语言模型基本概念、术语、原理以及分类和核心技术。

实践一:选择一款大语言模型,并简单介绍下选择原因及该模型的使用场景。

第二章:大语言模型应用实践——MaxKB

1.MaxKB 知识库问答系统简介:MaxKB 开源知识库问答系统的功能介绍;

2.MaxkB 技术架构:MaxKB 采用的是 Embeded 模式与Coplilot 模式相结合;

3.MaxKB 安装部署:如何进行 MaxKB 的安装部署以及如何运行本地私有大语言模型兵估算本地服务器 GPU 内存;

4.MaxKB 创建对话应用:基于 MaxKB 快速搭建一个智能对话应用。

实践二:完成一个 MaxKB 小助手的应用发布

第三章:MaxKB 对接大语言模型

1.大语言模型类型介绍:大语言模型、向量模型、重排模型、语音识别模型、语音合成模型;

2.通过 MaxKB 对接公共大模型:讯飞星火;对接本地私有大模型:Ollama;

实践三:基于申请好的公有模型,完成公有云模型对接

第四章:MaxKB 知识库管理

1.MaxKB 基于 RAG 技术的向量化过程,RAG 技术中的向量、向量检索、向量数据库、向量模型基本概念和原理;

2.如何进行 MaxKB 知识库的准备及处理;

3.MaxKB 知识库的向量检索、全文检索、混合检索的应用场景;

4.MaxKB 对接向量模型,对比不同检索模式的实现效果。

实践四:准备好知识库,并对知识库进行处理,完成一个知识库的搭建。

第五章:MaxKB 简单应用发布

1.Prompt 核心方法论:Prompt 是控制大模型的编程语言,是控制大模型的唯一通道;

2.Prompt 典型构成:介绍角色、指示、上下文、例子、输入、输出等基本概念及用法;

3.在 MaxKB 智能对话应用中,使用提示词模板进行调优;

4.MaxKB 简单应用发布:基于提示词、角色设定等完成模型对接、知识库关联,完成简单应用发布。

实践五:发布一个 MaxKB 的简单应用,需要完成提示词语优化。

第六章:MaxKB 高级应用发布

1.MaxKB 高级应用发布:基于工作流完成 AI 对话、知识库检索、问题优化、判断器、指定回复、多路召回以及函数的高级应用发布;

2.MaxKB 在高级应用的工作流编排中,实现节点多进多出,并行执行节点;

3.MaxKB 高级应用中使用函数库功能,完成复杂的业务场景,如:将 MaxKB 应用的回复内容,通过内置标签转换成指定格式输出。

实践六:发布一个 MaxKB 高级应用,需要使用工作流编排。

第七章:MaxKB 第三方应用嵌入

1.零编码将 MaxKB 嵌入第三方 Web 系统;

2.零编码将 MaxKB 嵌入微信公众号;

3.Halo 开源建站工具介绍,安装部署 Halo 并完成网站/知识库搭建,并将 MaxKB 小助手手嵌入到 Halo 网站及知识库中成为智能小助手。

实践七:结课大作业,搭建一个带智能小助手的个人博客或网站。

第八章:MaxKB官方资格认证考试

五、教学方法与原则

本课程作为专业实践教学课程,教学方式参见如下:

建议学时:

  • 总学时:24/32 学时。

  • 理论学时:10/12 学时。

  • 实操学时:14/20 学时。

学习方式:

  • 自主学习:学生需提前预习课程内容,了解基础理论与技术架构,为后续的课堂讨论与项目构建打下基础。

  • 合作学习:通过小组合作,共同完成智能问答系统的设计与构建,培养团队协作与沟通能力。

  • 探究学习:鼓励学生进行技术探究与创新,如尝试不同的算法与模型,优化系统性能,培养解决问题的能力与创新精神。

  • 反思学习:在项目构建与课程学习过程中,定期进行反思与总结,评估自己的学习效果与技能掌握情况,及时调整学习策略。

教学原则

  • 以学生为中心:尊重学生的主体地位,关注学生的个体差异与需求,鼓励学生积极参与课堂讨论与项目构建,提高学习成效。

  • 理论与实践相结合:注重理论知识的讲授与实践操作的结合,通过案例分析、项目构建等方式,帮助学生将理论知识转化为实践能力。

  • 创新与批判性思维培养:鼓励学生进行技术探究与创新,培养批判性思维与解决问题的能力,为学生未来的职业发展打下坚实的基础。

  • 持续学习与终身学习:引导学生树立持续学习与终身学习的理念,关注人工智能领域的最新动态与发展趋势,不断提升自己的专业技能与综合素质。

六、课程考核方式及成绩构成比例

考核方式

考核方式

成绩比例(%)

备注

学习表现

课堂互动、纪律、作业等

10%

每个实践作业均为10%

实验作业

实验报告、实验完成情况等

60%

期末考试

大作业+资质认证

30%

实践大作业及资格认证

七、教学资源

上课地点建议安排在专业机房,每个学生有一个 PC 端,同时能有一台 2C4G Ubuntu 22.04 操作系统的服务器。个人 PC 端支持访问互联网。

八、参考资料

 

联系我们:

快速预约:点击预约

联系我们:

联系人:朱小姐

电话(微信同号):18616282620

邮箱:dove.zhu@fit2cloud.com

技术支持群:

二维码.png

Comments