【球盟会】老黄发家史——华人AI教母李飞飞，老黄发家的贵人！

摘要

知名科技公司英伟达，市值突破了4万亿美元，超过微软和苹果，成为全球市值最高的公司，在过去的30年时间里，英伟达从一家开发图形处理游戏显卡的小公司，一路成长为全球AI巨擘！欢迎大家来到老黄发家史的第十期，今天承接前九期内容，继续聊老黄的创业史！

球盟会官网报道

【新人豪礼】新会员专享注册送88元体验金，存100送100，再送免费游戏局
【存款返赠】使用虚拟币支付额外再赠2%，均可获赠58元红包优惠券！
最佳投注体验，超高游戏赔付，千场精彩赛事，下载体育APP，等你来战。

知名科技公司英伟达，市值突破了4万亿美元，超过微软和苹果，成为全球市值最高的公司，在过去的30年时间里，英伟达从一家开发图形处理游戏显卡的小公司，一路成长为全球AI巨擘！欢迎大家来到老黄发家史的第十期，今天承接前九期内容，继续聊老黄的创业史！

01 至暗时刻

上文讲到英伟达初代Xbox供货后与微软分道扬镳，

微软转投ATI，老黄寻求破局之道，

开始秘密启动CUDA项目，调动1200名工程师投入研发，

但导致游戏业务搁置、显卡成本激增，

爆发“凸点门事件”，英伟达股价暴跌，

斯坦福大学计算机系主任比尔·戴利加入英伟达，

召开全球的GTC学术大会，推销CUDA英伟达科学计算，

2009年，CUDA下载量达30万次后连续3年下滑，

2012年仅10万次新安装，

华尔街嘲讽老黄，英伟达的科学计算是小众市场，

投入数十亿美元纯属浪费，

投资人杰夫·史密斯做空英伟达，

要求砍掉CUDA、专注游戏显卡，

与此同时英伟达大股东富达（Fidelity）以撤资威胁英伟达，

此时英伟达外部有AMD竞争，内部员工股东不和，

老黄再次陷入了至暗时刻。

02 坚持CUDA

平日里，老黄每周工作80小时，错过了自己儿女的成长时光，

老黄的儿子赴芝加哥艺术学院学摄影，

女儿远赴巴黎蓝带学院学烹饪，

老黄的爱犬"寿司"也在此时离世，

没有人可以帮助老黄分担压力，

危机之中，老黄仍然将CUDA视为核心战略，

在英伟达董事会成员吉姆·盖瑟律师的斡旋下，

黄仁勋亲赴波士顿与富达一方会面，

然后再前往纽约接连拜会了其他6家机构的投资者，

竭尽全力游说这些金融巨头支持CUDA。

老黄挂在嘴边最多的一本书是《创新者的窘境》，

他经常给华尔街讲书中真实的案例，

比如17世纪初期，荷兰的工匠在眼镜制造过程中意识到，

重新排列镜片便能观察远处的物体，

于是这些工匠向荷兰专利局提交了大量的望远镜设计方案，

他们自身只懂制造望远镜的技术，不懂任何天文知识，

然而短短一年内，伽利略便用其中一款望远镜观测星空，

成为首位描绘金星相位、木星卫星以及土星光环的人，

老黄自比是17世纪的工匠，

英伟达的CUDA就是给全球的科学家提供低成本的超级计算机，

然后引发一场类似的跨时代的技术跃迁！

03 内心的茫然

很多人认为老黄如此坚持CUDA，

他的内心里一定有一条直通AI的技术路线，

不过老黄接受采访时坦白，他其实对未来的技术没有明确的构想，

老黄还把自己和马斯克对比，

老马先从设想自己站在火星表面的场景开始，

然后逆向构建所需技术去实现目标，

老黄自己则恰恰相反，他从眼前电路的功能出发，

极力向前推测潜能，把自己局限在理性的边界内，

只允许稍作逾越，涉足其他朦胧未知的领域。

这种内心中的迷茫，老黄自然不会告诉华尔街，

但他依然坚持CUDA技术，尊重科学家们的观点，

每次开发布会或者GTC大会时，

营销人员、新闻媒体总是被安排在后排，科学家则位居前列。

到了2010年左右，

老黄冥冥之中突然感受到了突破的曙光，

原来在与比尔·戴利、约翰·尼科尔斯和伊恩·巴克这些科学家交流时，

他能感受到这些天才们的热忱，

多年以后老黄回忆，正是这些感受，

足以让他毅然割舍部分利润，去探索未来，

老黄深信在某处，定有某位研究人员将跳过大学里的烦琐官L，

通过攒钱购买一块英伟达GPU，从而掀起一场技术革命，

只是在当时，老黄还不知道哪个角落会有这样的奇迹诞生。

04 技术偶然

当我们在回顾人类这场AI算力的技术革命，

会发现很多非常偶然、非常有趣的事情，

那就是这场技术革命中有太多太多偶然的巧合，

随着命运的齿轮转动，

几个巧合碰撞到一起，造就了英伟达的成功。

回到2006年，从浙**田走出来的老黄，

在硅谷的GTC大会上隆重推出了CUDA，

与此同时，在斯坦福大学里，

也有一位从成都七中毕业的华人科学家，

出于对物理的喜爱，她前往钱老的母校加州理工学院读博，

2005年，经过五年学习，她获得加州理工博士学位，

然后受聘加入斯坦福大学任教，

这位正是号称“AI教母”的华人科学家李飞飞，

33岁成为斯坦福终身教授，

40岁成为美国艺术与科学院、工程院和医学院三院院士。

05 AI教母

2006年，李飞飞继续自己博士阶段的神经科学和计算机视觉课题，

希望在实验中探索人类如何利用算法，去快速准确地识别视觉场景，

不过传统学者比较喜欢去研究优化算法，

而李飞飞虽然不太了解英伟达这家公司，

但她敏锐洞察到数据的重要性，

在新时代算法是引擎，数据才是真正的燃料，

当时李飞飞找到语言学家克里斯蒂安·费尔鲍姆，

交流后得知了心理学项目WordNet。

WordNet是一个语言类的数据集，用层级结构组织15.5万个英文词汇，

李飞飞想到可以把语言推广到图像上面，

因为主流的数据集仅有数千张图像，

算法过度依赖特征工程，泛化能力极差，

例如，识别“猫”仅用5张样本，

无法覆盖光线、角度、品种的多样性，

所以李飞飞希望构建一个图像版的大型数据集，

通过海量标注图像映射现实世界。

06 标注劳工

2006年，李飞飞规划构建人类历史上最庞大的图像数据集，

涵盖22000个类别、每类1000张图像，

总量达到2200万张图像的超级数据库，

规模达当时同类数据集的1000倍，

覆盖从具体物体（如熊猫）到抽象概念（如爱情）的语义层级，

一开始，李飞飞招募了自己的本科生手动下载标注图像，

时薪仅有10美元，基本相当于本科生免费当苦力，

李飞飞发现需要90年才能够完成，

而且在搜集图像时，她自己的账号还因为搜索引擎请求限制被谷歌封了。

一位研究生孙民建议李飞飞，

可以采用亚马逊众包平台 Mechanical Turk（AMT），

这个平台允许全球用户以微酬参与标注，一张成本仅有0.01美元，

高峰期数据库共吸引了167个国家4.8万名标注者，效率提升6倍，

为了保证数据库的准确，李飞飞设计了三重验证机制，

每张图由3人独立标注，冲突结果由专家仲裁，

开发统计模型过滤欺诈标注，确保错误率<5%。

07 ImageNet

基于WordNet层级结构，李飞飞将图像分类为12个子树，

由于部分类别图像不足，未达2200万的目标，

最终整合了1500万张图像、22000个类别，

耗时3年完成19年的工作量！

2009年，在计算机视觉的顶级会议CVPR上，

李飞飞将这个使用大量苦力劳工标注的数据集命名为ImageNet，

同时在CVPR上公开展示，

不过数据集的展示位仅仅只有一张海报，还放在角落里面，

因为学界普遍有一点质疑，即要这么多图片有什么用，

当时并没有算法可以同时处理如此巨量的数据，

李飞飞干的这件事完全是吃力不讨好。

接下来的几年里，李飞飞为了让ImageNet有推广度，

还让自己其中一位博士生带着其他研究生，

去免费派发ImageNet品牌钢笔，

希望吸引关注，但仍反响寥寥，

值得一提的是，这位博士生正是李飞飞的高徒Andrej Karpathy，

你可能并不知道他是谁，但他在博士毕业后，

就成为特斯拉FSD自动驾驶部门的主管，

成为马斯克最器重的天才工程师，

并且还与马斯克一起成为了OpenAI创始人之一。

08 视觉识别大赛

当然，上面这些都是后话了，再回到李飞飞的ImageNet数据集上来，

2009年，ImageNet首次在CVPR亮相遇冷，

第二年，李飞飞联合PASCAL VOC竞赛团队，

启动了ImageNet大规模视觉识别挑战赛（ILSVRC），

要求全球的高校实验室团队设计算法，

在1000类图像中识别物体并计算错误率，

这1000个类别是从ImageNet里随机抽取的，

包含120万训练图、5万验证图、10万测试图（测试集标签不公开），

核心任务是进行图像分类，

比拼Top-5错误率（预测5个类别含正确答案即正确），

这里我可以给大家剧透一下，英伟达显卡和CUDA的崛起，

完全就始于李飞飞的这个ImageNet大赛，

但是在2009-2012年期间，

老黄自己其实并没有注意到这个比赛，

也没有想过自己的命运居然会在这个比赛上改变。

09 首届ImageNet大赛

2010年，第一届ImageNet大赛正式举办，

日本NEC北美研究室和UIUC大学的联合团队夺冠，

以28.2%的Top-5错误率赢得首届ImageNet挑战赛冠军！

比较有趣的是，首届冠军团队负责人均为华人，

其中NEC的领队为中国科学家林元庆（清华毕业，后任百度研究院院长），

UIUC团队由著名的华人教授黄煦涛（Thomas Huang）负责，

黄煦涛是CV领域的一代宗师、中国工程院外籍院士和中国科学院外籍院士

（你可能发现这场AI技术革命在海外，其实也是一堆华人大佬在卷）。

Thomas Huang

不过第一届ImageNet大赛并没有改变老黄的命运，

林元庆和黄煦涛提出了一种用于图像分类的特征编码方法，

改进了传统的词袋模型（Bag-of-Features, BoF）和空间金字塔匹配（Spatial Pyramid Matching, SPM），

通过引入局部性约束提升特征表达的判别力和计算效率，

分类器设计结合支持向量机（SVM）进行多类别分类，

这个方案其实还是把传统特征工程方法在大规模数据集上，

但也直接挖到了传统方法的极限。

林元庆 AiBee

10 老黄的转机

有趣的是，2012年后进入AI元年，

黄煦涛派遣博士生周曦、曹亮亮等到NEC参与研究，

双方在稀疏编码（Sparse Coding） 方向也取得突破，

相关论文成为CVPR/ECCV的高引工作，

周曦博士回国后创立了云从科技，入选福布斯中国青年海归菁英100人，

曹亮亮先后在谷歌、苹果任职，曾为Vision Pro机器学习负责人，

主导Apple Intelligence的视觉算法开发，整合AR与AI交互技术，

这些也都是后话了。

回到2010年首届ImageNet大赛，

我们可以看到当时仍然是传统方法在统治比赛，

李飞飞所做的只不过是让传统方法在更大的数据集上拉到极限，

如果仅仅是这样，李飞飞的地位可能远没有现在AI教母名头这么高，

而老黄的命运可能还要等很多年才会改变，

接下来的2011年是整个AI爆发的前夜，

ImageNet大赛即将迎来一位AI领域的传奇人物，

他是如何在2012年拿下ImageNet大赛的冠军，

这个冠军对李飞飞、黄仁勋，乃至整个世界有多大的影响，

欲知后事如何，且听下回分解（答案全在下面这张图中）。

游戏&AI系列：

老黄发家史——英伟达市值突破4万亿，老黄的传奇人生！

老黄发家史——传奇AMD工程师，老黄人生的第一份工作！

老黄发家史——世嘉主机拯救英伟达，老黄曾差点破产！

老黄发家史——FPS天才成就英伟达，N卡的诞生！

老黄发家史——N卡大战A卡，上古芯片巨头ATI！

老黄发家史——英伟达创造显卡，PC游戏的崛起！

老黄发家史——极客玩家的一次灵感，启发英伟达进军AI！

老黄发家史——让玩家为 AI 买单，老黄成功的秘诀！

老黄发家史——CUDA崛起，英伟达AI的护城河！

AI——是游戏NPC的未来吗？

巫师三——AI如何帮助老游戏画质重获新生

你的游戏存档——正在改写人类药物研发史

无主之地3——臭打游戏，竟能解决人类大肠便秘烦恼

一句话造GTA——全球首款A游戏引擎Mirage上线

AI女装换脸——FaceAPP应用和原理

AI捏脸技术——你想在游戏中捏谁的脸？

Epic虚幻引擎——“元人类生成器”游戏开发（附教程）

脑机接口——特斯拉、米哈游的“魔幻未来技术”

白话科普——Bit到底是如何诞生的？

永劫无间——肌肉金轮，AI如何帮助玩家捏脸？

Adobe之父——发明PDF格式，助乔布斯封神

FPS游戏之父——谁是最伟大的游戏程序员？

《巫师3》MOD——制作教程，从零开始！

#gd的ai&游戏杂谈#