简介:《人工智能与大模型通论》是清华大学孙茂松教授主讲的系统性讲义,面向希望快速建立人工智能与大模型认知框架的技术人员、高校学生及AI爱好者。它从“迈向通用智能的大模型技术”切入,完整梳理了从图灵测试、2012年图像识别突破到2016年AlphaGo的发展脉络,并划分深度学习从“白手起家”到“预训练大模型+一巨托众小”的三个层次,帮助读者理解大模型的技术演进逻辑。讲义重点剖析了GPT-3等语言生成模型“强大理解与生成能力”及“幻觉问题”的成因,涵盖“下一个词预测”机制与世界知识存储,同时结合AIGC的创造性、多样性与个性化特点,展示了AI生成对联等实际案例,兼具理论深度与实践启发。资源共1个文件,为PDF格式,压缩包约10.36MB,排版清晰、便于阅读和打印,适合讲座学习、课程备课或自学参考。目前已有299人学习浏览,是一份高含金量的入门至进阶学习资料。
1. 先说结论:这份PPT解决的是“大模型从哪来、到哪去”的认知问题
做AI相关工作的人,这两年多少都有一种“知识焦虑”:模型越来越大、名词越来越多,但真要你讲清楚大模型为什么突然能用了,很多人反而卡壳。这份“人工智能与大模型通论”PPT,是某高校人工智能研究院副院长在2023年11月做的一次讲座课件,核心主题是“迈向通用智能的大模型技术”。它用一条时间线把图灵测试、深度学习三重境界、GPT-3、AIGC串起来,解决的是“大模型整套演进逻辑长什么样”这个认知问题。适合技术产品经理、算法入门者、给业务方做科普的培训讲师;不适合想直接抄代码训练大模型的人——它几乎不讲工程实现。
2. 从图灵测试到“一巨托众小”:大模型演进的三条主线
2.1 图灵测试定目标,深度学习给答案
这份PPT把图灵测试放在第一页,不是为了考古,而是在给整场讲座定基调:AI从诞生那天起,就在回答“机器能不能像人一样思考”。图灵测试之所以重要,是因为它把“思考”这个不可测量的问题,转化成了“对话能不能骗过人”这个可执行的实验。后来深度学习干的事,本质上就是把这个实验往前推了一大截:2010年前后语音识别被深度神经网络重写,2012年图像识别准确率大幅跃升,2015年机器翻译开始全面转向神经机器翻译,2016年围棋AI在复杂策略博弈里击败人类顶尖棋手。
这组时间点放在一起,你能看到一个很明显的信号:深度学习不是只在某一个领域好使,而是同时在“感知”和“认知”两条线上突破。语音、图像属于典型的感知任务,机器翻译和围棋博弈则更偏认知。PPT里反复强调“感知+认知”,就是在提醒你:大模型的底子不是凭空长出来的,它是深度学习在多个任务上被反复验证之后,才走到了“统一模型”这一步。
2.2 三重境界:从“各家自扫门前雪”到“一巨托众小”
我拆这份PPT的时候,印象最深的是它对深度学习发展阶段的划分。它不是按年份硬切,而是按“模型怎么训练、怎么复用”来分,这个视角很实用。
第一重境界叫“白手起家 + 各家自扫门前雪”。做语音的团队用一套专用流程,做图像的团队用另一套专用流程,每个任务都得从数据处理、模型设计到训练调参全部重来。你和同事在同一个公司做两个不同任务,模型互相之间完全没法复用,每个项目都是新摊子。
第二重境界是“预训练模型 + 大小联调”。先用大规模数据训练一个通用模型,然后在具体任务上做微调。语音识别、图像识别、机器翻译这几个方向都吃到了这波红利。好处是底层的通用表征不用每次重学,坏处是模型规模还不够大,通用性也只是“能用”,谈不上“好用”。
第三重境界就是现在常说的“预训练大模型 + 一巨托众小”。一个大模型在超大规模语料上完成预训练之后,可以同时支撑大量下游任务,很多任务甚至不需要再单独微调,直接给提示词就能出结果。PPT里用“一巨托众小”这个词,比“大模型”本身更能说明问题——重点不是模型大,而是“大”能换“多”。
我做了个对比表,方便你把这三种范式拉开看:
| 境界 | 训练范式 | 任务间关系 | 典型问题 | 代表方向 |
|---|---|---|---|---|
| 第一重 | 每任务独立训练 | 各自为战,互不复用 | 成本高、周期长、无法迁移 | 传统语音识别、早期图像模型 |
| 第二重 | 预训练 + 微调 | 底座共享,任务各自调 | 模型规模不足,通用性有限 | BERT式预训练模型 |
| 第三重 | 大规模预训练 + 多任务通用 | 一个底座支撑多个任务 | 算力门槛高、存在幻觉 | GPT-3 这代生成式大模型 |
从第一重到第三重,变化的不是“更多数据”或“更大参数量”这种数字层面的增长,而是范式变了:模型从“被训练来做一个任务”变成了“学会语言本身,然后什么都能沾一点”。一句话总结就是——第一重是造工具,第二重是造平台,第三重是造底座。
3. 大道至简:GPT-3为什么靠“下一个词预测”就能扛起通用智能
3.1 下一步词预测:语言生成模型的最小闭环
PPT里有一页专门讲GPT-3,用词很有冲击力:大道至简。不是夸张,GPT-3的训练目标几乎简单到让人怀疑:给定前文,预测下一个词。整个语言生成模型的逻辑就是这么一条闭环:你给它一段话,它根据前面所有内容,计算下一个词最可能是哪个。
这个“最可能”是怎么算出来的?训练阶段,模型会从海量文本里随机截取段落,把后半部分当成“答案”,前半部分当成“问题”,反复让模型学着猜。GPT-3之所以能存储世界知识,就是因为它读过的文本多到一定程度后,很多事实类信息已经嵌在参数里了。比如问“某国首都建在哪一年”,模型不是去查数据库,而是在做概率填空——它在训练时见过太多类似表达,知道这类问题的答案模式是什么。
PPT里给了一些填空题式的例子,有地理知识、签证场景、临时叫车这种日常生活推理。看到这些例子你会明白:GPT-3不是用“规则”在回答问题,而是用“统计关联”在生成最高概率的表述。这也是为什么它能做逻辑推理——前提是这个推理模式在训练语料里出现过足够多次。
3.2 理解、生成与幻觉:GPT的强大和它的“翻车”边界
但“按概率生成”是一把双刃剑。PPT原文里有一句很到位的话,翻译过来就是:模型具有强大的理解和生成能力,同时也有与生俱来的“幻觉”问题,像按概率随机游走。
幻觉的典型表现是:模型会用非常流利、非常肯定的语气,说出一个错误结论。PPT里举的例子包括中文歧义句,比如“某省份最高的山”和“某省份最高的是哪座山”这两种问法,模型可能给出不同结果;再比如“某大学很赞”和“某大学很赞”这种切分方式不同,语义重心就变了,模型判断也会跟着飘。这不是它故意的,而是它每一步都在挑概率最高的词,而概率最高不等于事实正确。
我一般会这么跟别人解释:GPT-3在做题时不是“想”出来的,是“猜”出来的。猜的次数多了,总会碰到它没见过或者语料本身就含糊的情况。所以你在用它做事实类问答时,一定要有心理防线——它可以帮你写初稿、理思路,但不能当百科词典用。真做知识型产品,后面必须挂校验逻辑,或者把生成结果交给人工复审。
4. AIGC的创造性、多样性与个性化:top-p参数到底在调什么
4.1 天马行空不只是模型“灵感”:生成策略在起作用
AIGC(人工智能生成内容)在PPT里被描述为“天马行空式创造性”,随之而来的是多样性、个性化这两个卖点。很多人以为AI的创造性是模型“自己发挥”的结果,生成什么全看运气。这么理解其实会误导你——真实工程里,AI的“天马行空”是可以被参数调节的。
语言模型生成文本时,每一步都会得到一组候选词和它们的概率。如果每次都用概率最高的那一个,输出会特别稳定但也特别无聊,而且容易陷入重复;如果每次都从整个词表里随机抽,输出会特别跳跃甚至乱套。实际做法是在“确定性”和“随机性”之间取一个平衡。
PPT里出现了一个关键词:top-p search。这是目前最常用的采样策略之一,也叫核采样。它的逻辑是:把所有候选词按概率从高到低排序,从概率最高的开始累加,一直加到累计概率超过阈值p,然后只在这些词里做随机采样。p越接近1,候选池越大,输出越花;p越小,比如0.7、0.8,候选池越收窄,输出越保守。这套机制解释了很多现象:为什么你让AI写两个版本的诗,风格会差很多;为什么调低某个参数之后,它又会变得一板一眼。
4.2 用参数控制“天马行空”:temperature、top-p、惩罚项
实际控制生成风格的参数不止top-p,还有temperature,以及频率惩罚和重复惩罚。给你一个我在内容生成场景里惯用的参数参照表:
| 参数 | 作用 | 低值表现 | 高值表现 | 常用区间 |
|---|---|---|---|---|
| temperature | 调节概率分布平滑度 | 输出稳定、保守 | 输出多样、跳跃 | 0.7~1.0 |
| top_p | 控制候选词集大小 | 候选少,内容收敛 | 候选多,内容发散 | 0.8~0.95 |
| 频率惩罚 | 抑制重复出现的词 | 重复内容多 | 用词更丰富 | 0~0.5 |
| 重复惩罚 | 惩罚连续重复片段 | 容易循环 | 不会车轱辘话 | 0.2~0.8 |
PPT里有一组“兴到狂吟雪满枝”这类风格的生成内容,配合top-p search说明。虽然没给出具体参数组合,但按我做内容生成的实践经验,那种“有点文气、又不至于乱飘”的风格,一般就是temperature设到0.8上下、top_p设到0.9上下,再开一点重复惩罚。如果AI输出太“放飞”,优先调低top_p,这是最直接的手段。
4.3 多样性与个性化:同一个上联,能生成多少种下联?
PPT里用对联举了个例子,上联是“夜阑卧听风吹雨”,让AI生成下联。这个例子选得特别好——对联是对仗、平仄、意境三层约束叠加的任务,很能展示AIGC的边界:正经对仗时它显得很聪明,放宽约束让它自由发挥时,它能给你好几个风格完全不同的方案。
多样性不是说模型“精神分裂”,而是它在候选集内部随机采样,每次选词路径不同,最终文本自然不同。个性化则是把“用户偏好”翻译成“采样参数”。比如偏好工整的,就把top_p调低;偏好新奇的,就调高temperature。同一个上联,调整两组参数后,出来的下联一个是稳健流派,一个是大开大合流派,这就实现了AIGC的“千人千面”。
我通常会在项目里把这套逻辑做成一个配置面板:普通用户只调一个“创意程度”滑块,背后的映射就是temperature和top_p的组合预设。这样既避免普通用户看到参数名词发怵,又能让懂行的开发直接改底层数值。
5. 用这份PPT翻过车的五个地方:避坑与排查记录
5.1 坑一:用“图灵测试”开头,被听众质疑“这标准早被超过了”
现象:我第一次拿这份PPT做内部分享时,刚讲到图灵测试,底下就有人反问:ChatGPT不是早就通过图灵测试了吗?为什么还要提这个老古董?场面一度很“真实”。
原因:图灵测试是一个思想实验,它定义的不是“及格线”,而是“判断机器智能的思考方向”。现在的聊天AI确实在对话上很像人,但图灵测试本身并没有严格的实验规程,几千人测和几万人测,通过标准完全不同。听众的质疑来自把它当成了过去的“考试题”。
解决:讲的时候不要用“这是检验AI是否智能的标准”这种说法,改成“这是人类第一次把‘机器能不能思考’变成了一场可执行的实验”。把图灵测试定位成“目标函数”,而不是“成绩单”,后面的内容就顺了。
5.2 坑二:把“三重境界”讲成必由之路,听众以为训练大模型必须从零开始
现象:讲完三重境界之后,一位做产品的同事问我:那我们要做大模型,是不是也得先从第一重开始,然后第二重,再第三重?我当时一愣,发现是我没讲清楚。
原因:三重境界是历史演进路径,不是“每个人都要走一遍的路”。早期之所以必须第一重,是因为那时还没有预训练范式;现在一个团队完全可以跳过白手起家,直接基于开源预训练模型做微调,或者直接调大模型API。
解决:在讲完第三重之后,补一句明确的话:“对今天的从业者来说,第一重和第二重是历史包袱,第三重是当前入口。你不要从第一重开始学造轮子,你要站在第三重的底座上做应用。”这是很多入门者最容易误解的地方。
5.3 坑三:现场演示事实问答,模型一本正经讲错话
现象:分享时我想秀一下GPT-3的“世界知识”,问了一个事实类问题,结果模型很流畅地给了一个错误答案。现场有人直接皱眉,整个演示环节的可信度掉了一半。
原因:幻觉问题在开放域问答里几乎无法避免。特别是中文的歧义句、分词差异、事实性冷门问题,模型本质上是在“猜概率”,不是“查答案”。演示前如果没筛过问题,翻车率很高。
解决:事前挑3到5个模型大概率能答对的常识推理问题,别问冷门事实;或者把问题设计成“推理题”而不是“知识题”。真要在演示里展示知识回答,就把AI的答案和资料校验结果摆在一起,主动说明“它可能胡说,所以要校验”——这反而显得你懂边界。
5.4 坑四:老板看到AIGC创造力后,以为AI可以独立产出内容
现象:PPT里那些对联、诗句、天马行空的生成内容让管理者很兴奋,会后问我:这东西能不能自动生成营销文案,全部用它来写行不行?我说行,但需要一个筛选环节,老板表示不理解。
原因:AIGC的创造性来自采样随机性,而随机性本身就是不可控的。你能让它产出十个版本,但不能保证十个版本个个达标。它适合当“创意供给器”,不适合当“终审编辑器”。
解决:在实际落地时,把生成流程拆成“批量生成 → 打分筛选 → 人工微调”三截。用高top_p生成大量候选,用低top_p或规则过滤保留稳定版本,最后让人做最终确认。把“AI独立干活”的念头,换成“AI负责量大,人负责质优”。
5.5 坑五:拿2023年11月的案例当“最新现状”,被更懂行的听众纠正
现象:我在讲GPT-3的时候说这是“当前语言生成模型的代表”,话音刚落,一位经常刷论文的同事就补了一句:现在早就有新一代模型了。
原因:这份PPT的时间点是2023年11月,里面提到的GPT-3是那个阶段的主流代表。但大模型迭代实在太快,把PPT中的“当下最强”直接搬进对话里,很容易被时间打脸。
解决:讲之前把PPT里的“代表模型”全部降级成“历史节点”,变成“GPT-3是当时把这条路跑通的关键代表,它之后又出现了很多新版本”。解释原理时以GPT-3为锚没问题,但不要用“最强”“最新”这类限时词。PPT讲的是脉络,不是新闻联播。
6. 把PPT变成你自己的东西:一张一页纸大模型认知框架
如果你只是把这份PPT从头到尾放一遍,听众大概率只记住几页金句。我的习惯是把它拆成一张“一页纸认知框架”,分四块:时间线、三重境界、GPT-3原理、AIGC参数。
第一步,把PPT里提到的年份和事件拉成长条:图灵测试、语音识别突破、图像识别突破、机器翻译转向、围棋AI,逐个标上“感知还是认知”的标签。第二步,在每一个节点旁边注明它属于第几重境界,比如2016年围棋AI属于第一重向第二重过渡,GPT-3属于第三重。第三步,把GPT-3的“下一个词预测”写成一句话放在框架中央,周围挂上“世界知识、逻辑常识、幻觉”三个分支,这样原理和边界一眼能看全。第四步,把temperature、top_p、惩罚项这张参数表贴在末尾,作为“可调旋钮”清单。
之后给非技术同事讲,就只讲这一页;技术讨论再展开到具体层数、数据集规模、采样细节。遇到新模型发布,直接在框架里替换对应节点,不用重做整套。
我早期的分享习惯是逐页讲PPT,结果台下一位朋友问我“你到底想表达什么”,那一瞬间我意识到课件是素材,不是答案。从那以后,我每次拿到技术分享PPT,都强制自己先做一页纸框架再开口,效果完全不一样。这份PPT最值钱的地方也不是某个结论,而是它把散落的大模型知识点连成了一条线。希望帮到你。
本文还有配套的精品资源,点击获取