一、目标

为充分发挥长三角研究型大学联盟教学实践基地共建共享功能,加强华东高校优秀青年学子的交流与互动,提供学生与产业界接触的机会,上海交通大学与华为共同发起,面向长三角研究型大学学生开设本次训练营。

全场景AI框架昇思MindSpore是业界首个全自动并行的框架,且具备全场景协同和全流程极简的特点。昇思MindSpore致力于成为全球主流AI框架,具备一次开发云边端全场景部署、原生支持大模型训练、支持AI+科学计算等关键特性,加速科研创新和产业应用。在大模型能力持续增强的基础上,昇思MindSpore 2.0升级为AI融合框架,原生支持科学智能。

昇思MindSpore创新实践训练营以实际项目和业界需求为牵引,以学生实践为主线,让学生在实践的过程中主动学习和实践人工智能相关知识,掌握相关技术和工具,跟上业界最新趋势,形成对人工智能行业全局观,通过创新训练营,为持续的创新能力提升打下坚实的基础。

本训练营从当前最热门的大模型技术为背景,从实践的角度出发,通过动手复现ChatGPT的实现过程,手把手地搭建一个简易版的“ChatGPT”,从而深入了解大型语言模型的构建和原理。本课程将理论与代码进行融合,系统地逐步揭秘ChatGPT、GPT-4背后支持的大型语言类模型(Large Language Model, LLM),旨在让学生深入了解大模型领域知识的同时,真正切实地参与到大模型相关的任务实践中来。

二、组织方

主办:
上海交通大学
华为技术有限公司
昇思MindSpore开源社区
协办:
长三角各高校教务处

三、时间安排

时间 内容
2023年8月2日-8月18日 各校学生招募。
2023年8月19日-8月20日 训练营名额确认。
2023年8月29日-9月1日 线下训练营学习。

四、教学内容

第一天 训练营和MindSpore的介绍
Transformer
BERT
第二天 GPT
GPT2
MindSpore并行
第三天 代码预训练
Prompt Tuning
Instruction Tuning
第四天 RLHF
结营

五、学生招募

时间安排:8月28日报道,8月29日-9月1日线下课程,9.1日下午16点结营。

授课地点:上海交通大学(上海市闵行区东川路800交大学生创新中心)。

活动费用:本次训练营免费,线下进行,由主办方负责场地、住宿、保险与部分餐饮。参与者自行承担交通与部分餐饮。

报名要求:至少熟练掌握C/C++/Python/MATLAB中任一编程语言。需具有良好的沟通和协作能力(不同高校的学生将混合编组)。

招募人数:上海交通大学学生15名,其他长三角高校每校不超过10名,共100名。

六、校内报名及选拔(中国科学技术大学)

1.基本条件:

我校在读本科生、研究生(仅限已录取我校的2023级硕士生),有较好的数学基础及编程技能,无不良记录,可以全程参与本次活动。

2.提供材料:

  1. 个人简介:包括姓名、学号、所在院系、数学分析、线性代数、概率论与数理统计及C语言等成绩、个人特长及获奖、科技实践经历(非必须)、联系电话等。
  2. 本科已修课程成绩单:教务系统导出版,附在个人简介后

3.报名方式:

以上报名材料以“长三角训练营2023_姓名_学院”命名的Word或PDF格式文档发送至邮箱:etcis@ustc.edu.cn

4.截止时间:

2023年8月11日下午18:00,以邮件发送时间为准。

5.选拔方式:

初筛及面试,最终确定不超过10名入选同学参加训练营,学校报销往返交通费。

6.联系人:

周老师:18019585228