前沿课-吴军讲GPT（计算机科学家）把GPT一次性讲明白[MP3/PDF/154MB]百度网盘

你好，我是吴军。欢迎来到《前沿课吴军讲GPT》。很高兴有这个机会，和你聊一聊ChatGPT。

关于ChatGPT，你应该已经听到了很多讨论、看到了很多信息。可惜的是，绝大部分人在谈论ChatGPT时甚至没有搞清楚最基本的概念

chatGPT是什么?我先下个判断: 它是一个被神化的语言模型的衍生品。

1972年，当贾里尼克博士在IBM沃森实验室建立人类第一个语言模型，并且创造出这个专有名词时，一定不会想到这个概念今天会这么火。

二十年后，也就是1991年，我在清华大学开始从事语音识别工作，我和郭进博士最早构建了中文的语言模型，然后将这个名词翻译成了中文，“语言模型”这四个字便从此出现在中国的会议刊物上。同样，我们也不会想到，这个原本那么生僻的名词，今天成了中文媒体上的热门词

1993年，贾里尼克成为了约翰霍普金斯大学语言与语音处理中心(CLSP)的主任，而我在1996年成为了他的学生，并且在他和库旦普的指导下，利用 (美国)自然科学基金会(NSF)构建第二代语言模型。第二代模型比第一代复杂很多，但是效果好不少。

2010年，贾里尼克走完了他传奇的一生。这一年，Google的杰夫·迪恩等人实现了第一个真正实用的深度学习系统-Google大脑，然后用它构建出第三代语言模型。这个模型比第二代更上了一层楼。

两年后，也就是2012年，我回到Google，启动了计算机问答的项目。到了2014年，我们已经能够利用语言模型回答一些很复杂的问题了，在后面的课程还会详细展开。

我梳理这段历史是想告诉你，今天ChatGPT使用的语言模型采用了深度学习算法进行训练，但是这几十年发展下来，语言模型还是语言模型，不是什么其他的东西。

这就如同今天特斯拉的电动汽车还是汽车，虽然和本茨早期的汽车、福特的内燃机车、丰田的混合动力汽车不同，但它不是飞机。

2020年疫情期间，我在几次内部讲座中介绍未来科技时，特别强调要关注一个叫做GPT-3的语言模型。当时开发它的OpenAl还是一家小公司，因此听众并不对它感兴趣，所有人关心的都是大公司的动态，没有一个人事后向我提出任何有关语言模型的问题。

又过了两年，chatGPT一夜爆红，大家才都开始谈论语言模型、GPT-3以及后来的GPT-4。

媒体从来是扮演加速师的角色，在赞扬的同时贩卖恐惧。绝大部分赞誉是炒作，这并不可怕，因为20世纪技术的发展常常伴随着泡沫。但几乎所有的恐惧都是自己在吓唬自己，这才是可怕之处。我不知道如果贾里尼克能活过来，会如何评论这种现象。如果他想给大家降降温，大家是否会说他老糊涂了，跟不上发展了。

但是稍微了解一点宗教历史的人都会知道，只有神具有让人们既赞誉，又恐惧的特点。chatGPT已经成为了一尊新的神。

看到很多人今天对ChatGPT的反应让我想起了当年哥伦布的一则故事

1503年，哥伦布的船队到达了牙买加，岛上的原住民对哥伦布他们表示欢迎，并为他们提供食品。但由于有水手盗窃了当地人的物品，几个月后，当地人不再为他们供应食品了

哥伦布是一个对天文和地理颇为感兴趣的人，他航海时恰巧带了一本天文年鉴，里面记载了1475到1506年月食出现的时间。于是哥伦布就想到，可以借此扭转不利局势。

在一个将要发生月食的夜晚，哥伦布约见了当地的部落首领、告诉他，神对当地人不招待哥伦布和船员的事情愤怒了，神会使月亮“愤怒地发红”然后消失，以表达惩罚

果然，当晚月亮变红了，然后逐渐消失。哥伦布的儿子斐迪南在航海日记这样写道:

(土著人)从四面八方赶到船上悲伤地哀嚎著，带着食品和各类供给，恳求他们向神尽可能地说情，不要将怒火发泄在他们头上……”

这时，哥伦布走进船舱去假装“祈祷”，其实是在用沙漏计时，当长达48分钟的月全食快结束时，他告诉惊魂未定的原住民，神即将原谅他们。不久后，月球开始走出地球阴影，露出了亮光。哥伦布对说，神已经宽恕了他们。此后原住民就把哥伦布当成了神的代理人，老老实实地给他的船队提供食物。

世界上各种自然神，都是人创造出来的，但是人从此匍匐于它们的脚下而人这么做，是因为不知道各种自然现象背后的原因，简单地讲，就是不懂得科学原理。

今天，当ChatGPT这尊新的神被树立起来的时候，我不知道有多少人想成为哥伦布，又有多少人的行为和当年的土著人没有差别。如果想成为前者，就需要知道ChatGPT背后的科学原理，就如同需要掌握基本的天文地理知识一样。

很多人一听说了解科学原理就失去了耐心，希望我马上给出一个答案或者行动指南。但根据我对我这十几年来上百万读者的观察，凡是能够耐心听我讲讲道理的人都进步了，凡是懒得动脑筋，想很快得到一些结论或者行动指南的人，还在原地踏步。我相信得到的同学，一定都属于前者。

听完这门课，你会了解什么呢?

首先，这是一门让你成为哥伦布，而不是土著人的课程，它不长，也不难懂，里面没有任何公式，而是一个讲原理的课程。听完之后，你会知道chatGPT以及类似的产品是怎么一回事，它们能做什么、不能做什么，这就如同哥伦布懂得月食的原理。听完这门课，你会像哥伦布一样，当看到别人在朝拜月亮时至少不会跟着起哄。

我在课程中所讲述的观点，不仅来自于我个人。我和Google、苹果和微软等公司负责人工智能项目的负责人和MIT、斯坦福等大学这个领域的教授，以及年轻一代刚获得博士学位的机器学习从业者都进行了讨论。课程中给出的观点和结论包括他们的看法，只不过我以讲述人的方式给你讲出来。

其次，这不是一门讲商业机会的课程，指望着听完课就能从chatGPT上挣一笔快钱的人，可能会失望了。但是，认真听完课的人，至少不会因为chatGPT亏钱。人一辈子挣钱的机会很多，但关键是在机会到来时得有本钱，本钱输掉了，机会真的到来时就会倍感无力。

最后，我知道也会有人不同意我的看法。我的想法是，我们尽可以保留自己的观点，不必说服我，我也不会去说服谁，毕竟思想的多元化让世界变得美丽。

顺便说一句，既然是得到的课程，版权当然属于得到，因此不欢迎媒体断章取义地转载

重要的事情交代完了，接下来，就让我们来了解ChatGPT。我是吴军，我们课程里见。

课程目录：

wj第12讲 还有哪些人工智能和科技值得关注mp3

wj第11讲 理&性&看待ChatGPT .mp3

wi第10讲 ChatGPT能替代什么人? mp3

wj第9讲 ChatGPT为什么会被热炒mp3

wj第8讲今天人工智能的边界在哪里mp3

wj第7讲 ChatGPT需要什么资源? .mp3

wi第6讲 ChatGPT有哪些固有缺陷.mp3

wj第5讲 ChatGPT的回答从哪里来.mp3

wj第4讲 ChatGPT的能力边界在哪mp3

wj第3讲 语言模型是如何进化的? mp3

wj第2讲 ChatGPT的本质是什么? mp3

wj第1讲 计算机回答问题、写诗难吗? mp3

wj发刊词:“ChatGPT神话”背后的原理是什么? mp3