一、目标
为充分发挥长三角研究型大学联盟教学实践基地共建共享功能,加强华东高校优秀青年学子的交流与互动,提供学生与产业界接触的机会,上海交通大学与华为共同发起,面向长三角研究型大学学生开设本次训练营。
全场景AI框架昇思MindSpore是业界首个全自动并行的框架,且具备全场景协同和全流程极简的特点。昇思MindSpore致力于成为全球主流AI框架,具备一次开发云边端全场景部署、原生支持大模型训练、支持AI+科学计算等关键特性,加速科研创新和产业应用。在大模型能力持续增强的基础上,昇思MindSpore 2.0升级为AI融合框架,原生支持科学智能。
昇思MindSpore创新实践训练营以实际项目和业界需求为牵引,以学生实践为主线,让学生在实践的过程中主动学习和实践人工智能相关知识,掌握相关技术和工具,跟上业界最新趋势,形成对人工智能行业全局观,通过创新训练营,为持续的创新能力提升打下坚实的基础。
本训练营从当前最热门的大模型技术为背景,从实践的角度出发,通过动手复现ChatGPT的实现过程,手把手地搭建一个简易版的“ChatGPT”,从而深入了解大型语言模型的构建和原理。本课程将理论与代码进行融合,系统地逐步揭秘ChatGPT、GPT-4背后支持的大型语言类模型(Large Language Model, LLM),旨在让学生深入了解大模型领域知识的同时,真正切实地参与到大模型相关的任务实践中来。
二、组织方
- 主办:
- 上海交通大学
- 华为技术有限公司
- 昇思MindSpore开源社区
- 协办:
- 长三角各高校教务处
三、时间安排
时间 | 内容 |
---|---|
2023年8月2日-8月18日 | 各校学生招募。 |
2023年8月19日-8月20日 | 训练营名额确认。 |
2023年8月29日-9月1日 | 线下训练营学习。 |
四、教学内容
第一天 | 训练营和MindSpore的介绍 Transformer BERT |
第二天 | GPT GPT2 MindSpore并行 |
第三天 | 代码预训练 Prompt Tuning Instruction Tuning |
第四天 | RLHF 结营 |
五、学生招募
时间安排:8月28日报道,8月29日-9月1日线下课程,9.1日下午16点结营。
授课地点:上海交通大学(上海市闵行区东川路800交大学生创新中心)。
活动费用:本次训练营免费,线下进行,由主办方负责场地、住宿、保险与部分餐饮。参与者自行承担交通与部分餐饮。
报名要求:至少熟练掌握C/C++/Python/MATLAB中任一编程语言。需具有良好的沟通和协作能力(不同高校的学生将混合编组)。
招募人数:上海交通大学学生15名,其他长三角高校每校不超过10名,共100名。
六、校内报名及选拔(中国科学技术大学)
1.基本条件:
我校在读本科生、研究生(仅限已录取我校的2023级硕士生),有较好的数学基础及编程技能,无不良记录,可以全程参与本次活动。
2.提供材料:
- 个人简介:包括姓名、学号、所在院系、数学分析、线性代数、概率论与数理统计及C语言等成绩、个人特长及获奖、科技实践经历(非必须)、联系电话等。
- 本科已修课程成绩单:教务系统导出版,附在个人简介后
3.报名方式:
以上报名材料以“长三角训练营2023_姓名_学院”命名的Word或PDF格式文档发送至邮箱:etcis@ustc.edu.cn
4.截止时间:
2023年8月11日下午18:00,以邮件发送时间为准。
5.选拔方式:
初筛及面试,最终确定不超过10名入选同学参加训练营,学校报销往返交通费。
6.联系人:
周老师:18019585228