【课程简介】
课时:200h
上课形式:线上
【适合人群】
软件工程师
懂至少一门编程语言,通过学习,在实际项目中应用大模型技术提升产品的智能化水平。
产品经理
结合 A 工具,为业务赋能。
人工智能爱好者
对AI有强烈的兴趣,想提升对A1的认知,用辅助提升帮贡效率。
算法工程师
了解机器学习/深度学习基本概念的在职算法工程师,有助于更深入地理解大模型的原理、应用和开发技术。
创意工作者
通过学习AI技术,他们可以将自己的创意与AI技术相结合,创作出更具创新性和艺术性的作品。
【培训目标】
【课程阶段】
核心内容:
从网站里提取早期NLP发展知识,着重讲解传统NLP 算法在文本处理中的应用,如词法分析、句法分析等。介绍机器学习、深度学习基础概念,以及深度学习框架PyTorch和TensorFlow 的基础使用,让学员初步掌握工具操作。
课程收益:
了解 AI技术发展源头,搭建起基础技术认知,能够运用基础工具和算法开展简单文本处理任务,为深入学习大模型做好铺垫。
核心内容:
围绕网站中的 Transformer 架构、GPT 系列、BERT 模型展开深入剖析,包括模型结构、训练机制等。学习0penAl的发展规划,探究模型发展背后的战略布局。讲解开源社区(如 Hugging Face)在模型开发和应用中的角色,开展基于开源资源的模型搭建与微调实践。
课程收益:
透彻理解主流模型工作原理,把握模型发展趋势学会利用开源资源高效开发模型,提升模型开发能力,融入模型开发的开源生态。
核心内容:
大模型开发实战内容,开展基于ChatGPT的智能翻译助手开发,以及大模型插件开发等实践。在自然语言处理和计算机视觉领域,结合实际场景进行应用开发,如智能客服系统、图像识别应用等,强调多模态数据融合应用。
课程收益:
积累丰富的大模型应用开发经验,掌握实际项目开发流程,能够开发出创新性的大模型应用,满足企业对大模型应用的实际需求。
核心内容:
学习大模型核心硬件选型,了解硬件对模型训练和应用的影响。深入研究从0到1训练私有大模型的方法,如DPO、PPO训练方法,分析Auto-GPT等前沿模型。探讨大模型伦理安全、新兴技术结合应用。
课程收益:
具备从硬件到软件全方位开发大模型的能力,掌握训练私有大模型技术,紧跟前沿技术动态,增强在前沿大模型技术领域的竞争力。
【课程大纲】
早期 NLP 与机器学习基础:
早期NLP 技术,如规则引擎用于词性识别、词干提取,有限状态自动机进行文本分词和模式匹配,依存语法和短语结构语法分析句子结构与文本分类。
机器学习各类算法,包括监督学习(线性回归、逻辑回归、决策树)、无监督学习(K-Means 聚)、半监督学习的原理与应用场景。
深度学习基础与框架入门:
深度学习神经网络结构,如前馈神经网络、激活函数作用,反向传播算法计算过程。
PyTorch 和 TensorFlow 深度学习框架,包括张量操作、计算图原理,搭建手写数字识别CNN模型,模型训练参数设置、优化器使用及评估指标分析。
主流模型架构剖析:
Transformer架构,涵盖多头注意力机制计算、位置编码方式,编码器、解码器结构及应用原理。
GPT 系列架构演进、自监督学习应用,BERT 预训练任务及下游任务微调方法。
开源生态与工具应用:
OpenAl发展历程、技术商业战略,了解行业发展趋势。
Hugging Face模型库与Transformers库使用,基于开源工具进行文本分类模型微调与部署。
大模型应用开发实战:
ChatGPT AP| 申请与 Python 调用,开发智能翻译助手并优化提示工程。
大模型插件开发,包括插件概念、开发流程,实现知识图谱查询插件,进行个性化推荐插件开发与用户数据分析。
多模态应用开发,如文本与图像、语音融合方法,开发多模态智能客服系统并优化性能。
私有模型训练与硬件选型
GPU、TPU 性能特点与适用场景,硬件参数对模型训练的影响及配置建议。
DPO、PPO 训练方法原理与流程,数据收集、预处理及模型训练全流程,模型初始化与训练效果优化。
前沿技术探索:
Auto-GPT 架构与自主决策机制,分析前沿模型发展。
量子计算在大模型训练中的应用,探讨新兴技术融合。
大模型伦理安全问题与解决方法,提升风险意识。
行业案例与知识整合:
金融、医疗、教育领域大模型应用案例分析,进行需求分析、技术选型、部署及优化经验总结。
课程重点知识梳理,小组经验分享,整合知识体系。
行业专家分享新发展趋势与人才需求,把握行业动态。
职业规划与衔接:
个性化职业发展规划制定,明确职业方向。
简历撰写、面试技巧培训与就业推荐,做好就业准备。
【环境展示】
环境展示
环境介绍
【机构简介】
清徕智能专注于人工智能技术应用与人才培养,核心团队来自清华大学北京大学等高等院校,具备深厚的AI技术背景与产业经验。
清徕智能是中国软件行业协会认证的人工智能开发工程师认证机构,致力于链接企业、学员、培训机构,提供培训、认证、资源对接一体化服务。