《深度学习革命》记录的一些历史细节

1、Ilya Sutskever其实是最后加入OpenAI的初始成员

OpenAI的诞生,源自Sam Altman在2015年7月加州门罗帕克召集的一场晚宴。Altman和Musk等发起成立新组织,拉拢人才,推动开发造福全人类的AI
Stripe的CTO Greg Brockman,和当时负责Google Brain项目的Ilya Sutskever都当场表示有意加入。

晚宴结束后,Brockman就开始四处挖人组建团队,找到了三巨头之一的Yoshua Bengio
Bengio无意跳出学界,但是给他列了一份圈子里有前途的年轻研究人员的名单,Brockman就按图索骥去联系。

一些人被Brockman描述的宏大愿景——一间完全没有任何企业压力的实验室、一间将放弃所有研究成果的非营利实验室——所吸引
但是,招人也没有那么顺利,这些人没有一位承诺加入一间新的实验室,都还是会担心风险,除非有其他人这样做。

Brockman邀请有意向的10人正式加入,给了他们三周时间考虑
最后10个人中有9个人同意了,其中5人(包括Ilya)都在DeepMind待过,他们给实验室命名为OpenAI。

同时,科技巨头开出天价薪酬挖人。谷歌给Ilya的薪酬是OpenAI的两到三倍,第一年接近200万美元,Ilya犹豫了
Altman、Musk和Brockman等原本计划在2015年底的NIPS会议上,官宣带着10亿美元投资承诺的OpenAI成立,但为了等Ilya做决定,只得推迟声明。Brockman还短信轰炸Ilya,敦促他选择OpenAI。
直到周五NIPS会议最后一天,Brockman等人决定不等了,定在下午3点官宣。一直拖到最后,Ilya才发短信告知Brockman,决定加入OpenAI。

2、杨立昆(Yann LeCun)的傲慢和身在大厂的尴尬

CHatGPT推出不久,LeCun就在Twitter炮轰
书中也记载一些细节,感觉他还是挺傲慢的。
LeCun曾经直接对Ilya说:“你会失败的”,他给的10多条理由包括:1)OpenAI的研究人员都太年轻;2)实验室没有丰富的经验,也没有背靠大公司的资金资源支持;3)非营利的形式也不会赚钱;4)长期无法跟大公司争夺人才;5)实验室公开分享其所有的研究成果,不太现实,等等
现在看,很多因素恰好就是OpenAI现在能获得成功的原因。

另一个事件,DeepMind发布AlphaGo前不久,LeCun先行官宣了Facebook自己的围棋AI研究。有记者问LeCun,DeepMind是否有可能打造一个可以击败顶级围棋选手的系统
LeCun很自负地说:“不会”,部分原因是他觉得这项任务很难,同时也因为什么消息都没听到,圈子就那么小。

几天后,DeepMind在《自然》杂志刊登封面故事,透露自研的AlphaGo击败了三届欧洲围棋冠军
消息公布的前一天,Facebook就已知悉,小扎亲自推动一场奇怪的抢先公关活动,让媒体关注小扎和LeCun网上发布的帖子,这些帖子吹嘘Facebook自己的围棋研究。当然后来,就被谷歌和DeepMind打脸。
前有谷歌+DeepMind,后(现在)有微软+OpenAI,Facebook和处在Facebook体系的LeCun都是很尴尬的
在硅谷大厂的第一次AI人才争夺战,就没有顶尖学者愿意加入Facebook,Facebook挖LeCun,后者就担心企业对AI长期愿景和短期目标之间的平衡。结果还是发生这种矛盾。

有次内部演示上,LeCun向小扎展示他们在图像识别、翻译和自然语言理解方面的工作。小扎和时任CTO
Mike Schroepfer都没说话。走出房间,Schroepfer告诉LeCun,他所说的一切都没有任何意义。“我们只需要一些能表明我们比其他公司做得更好的东西,我不管你怎么做,我们只要赢得一场比赛,只要启动一场我们知道可以赢的比赛
”一名同事替LeCun说:“视频,我们可以赢得视频。”Schroepfer对LeCun大吼:“看到了吗?你可以学到一些东西!”

这是大厂AI Lab普遍面临的尴尬境地,老板只会在乎短期内比竞争对手领先多少,而不在乎研究是否需要时间,尤其是Facebook这种推崇“Move
Fast”价值观、强调增长效率和规模的公司。后边,Facebook内部又专门设立了一个组织“应用机器学习团队”,负责将实验室的技术付诸实践。

3、陆奇的逆向思维和微软的第一次AI人才争夺
2016年春天,陆奇在练习骑行他的“逆向思维自行车”——向左转动车把,自行车向右转——他试图以这种方式让自己,乃至让微软训练逆向思维,以摆脱大公司的路径依赖。结果跌到摔骨折了,这是个偶然事件,但也成为微软在初次AI竞争失利的一个注脚。
微软研究人员不受商业化压力的任何影响,养尊处优,这原本是出自慈善家比尔·盖茨的情怀。但在AI领域竞争中,微软的局限性在于:缺少针对AI技术落地的业务场景。这也是Hinton当初加盟谷歌而非微软的原因之一:谷歌搜索10亿的用户规模,能高效推动AI研究
于是,陆奇在微软内部尝试推动自动驾驶,但并没有顺利推下去。

微软的另一个弱势是:缺少AI研究领头人。这些顶尖人物是公司了解未来变化、打造新技术、吸引顶尖人才,以及推广企业品牌(最重要的)的一种方式。陆奇也找到了Bengio,但后者拒绝任何大公司的邀请
Bengio在蒙特利尔大学可以讲母语法语,可以享受学术研究的开放性,这是企业无法比拟的。他在大学工作外还为几家创业公司做顾问。

于是Bengio提了个主意,如果微软可以收购他顾问的一家初创公司Maluuba,Bengio就可以用同样的时间为微软提供咨询
Maluuba的两位创始人起初拒绝了这个提议。但一年后,还是被微软收购,Bengio也因此成为微软的顾问。但那时,陆奇已经离开了微软,回到中国,加盟百度,继续推动AI和自动驾驶战略。 #你不知道的行业内幕

• • •

Missing some Tweet in this thread? You can try to force a refresh
 

Keep Current with 即刻精选

即刻精选 Profile picture

Stay in touch and get notified when new unrolls are available from this author!

Read all threads

This Thread may be Removed Anytime!

PDF

Twitter may remove this content at anytime! Save it as PDF for later use!

Try unrolling a thread yourself!

how to unroll video
  1. Follow @ThreadReaderApp to mention us!

  2. From a Twitter thread mention us with a keyword "unroll"
@threadreaderapp unroll

Practice here first or read more on our help page!

More from @jike_collection

Mar 23
《如何找到靠谱的源头厂家》

因为我base义乌,很多做电商、跨境的商家最近会找我介绍源头工厂。如何找到靠谱的源头工厂,其实有一些常见的坑。

1.不要以为1688上做得大的都是源头工厂,恰恰相反,做得好的很大概率可能是贸易商
以我们家为例,我们做纽扣电池30年,对国内所有做这类电池的源头工厂都很熟悉,在1688上做得最好的电商,恰恰是一个在义乌的贸易商,他们在一个平台上开了n家店,专注于做电商。而大部分工厂老板光厂里的事都顾不过来,而且因为厂的地址比较偏远,很难招到人才,电商渠道反而做不太起来。
2.如果想要在某个品类达成深度合作,想找靠谱的供货商,最好通过关系,找几个在行业内做比较久的源头厂家给内部信息。以我们家举例,我们家在纽扣电池做了30年,对于这个细分领域的供应链很了解。最近跟着爸爸到处跑厂,跟各个老板聊天,光看厂、聊天,其实不太能判断出他们的产品质量
Read 9 tweets
Mar 22
2023年03月23日
🌍资讯快读
1、OPPO、小米、Vivo 宣布 支持第三方应用数据互相迁移
pingwest.com/w/278937
2、台湾烟害防制新规:全面禁止电子烟,吸烟年龄提高至20岁
36kr.com/newsflashes/21…
3、年初以来全球科技行业裁员超14.8万人,全年裁员人数将稳超2022年
jiemian.com/article/910795…
4、新西兰政府发起“爱得更好”项目,帮助年轻人应对失恋
thepaper.cn/newsDetail_for…

👬即刻镇小报
1、《深度学习革命》记录的历史细节
m.okjike.com/originalPosts/…
2、ChatGPT创始人Sam Altman的采访
m.okjike.com/originalPosts/…
3、如何构建自己的工作流和方法论
m.okjike.com/originalPosts/…
4、如何提升自己的思维层次?
Read 5 tweets
Mar 22
上一次逛飞书大会,最感兴趣的是得到CEO脱不花,她写周报给下属们看,充分完成了向下管理。

今年逛飞书大会,最大的感触是有很多业务高手凭借飞书多维表格变革了公司运转的很多细枝末节,也有因此升职管理层的案例。
一个是保安总结了一套夜巡系统,然后不断把这套夜间巡检体系优化,弄的便捷易懂,最后让华住8000多家酒店里的蓝领保安能够学会,甚至轻松的教会其他保安大叔。

另一个案例是新希望,新希望是中国最大的养殖企业之一,总资产达千亿人民币,大家很容易吃到它家出品的猪肉、鸡肉、牛肉。
有一个人在使用飞书后,总结了养猪场的猪粪利用情况,新希望会用机器把这种废料发酵成肥料,成本是电力,那么190多个养殖场的日常产出情况,在他得出规律之后,就做出了电力统筹工作,能按照存栏量预估要开启发酵罐的数量、时间、长短。
Read 6 tweets
Mar 21
2023年03月22日
🌍资讯快读
1、中国GDP千亿县达52个,江苏昆山经济总量超8个省会
new.qq.com/rain/a/2023032…
2、“杭州杀妻案”凶手许国利被执行死刑
jiemian.com/article/910168…
3、联合国气变报告称20年内或突破升温阈值,“机会窗口正迅速关闭”
thepaper.cn/newsDetail_for…
4、法国议会通过政府退休制度改革方案
thepaper.cn/newsDetail_for…
5、谷歌推出Bard,与OpenAI的ChatGPT展开竞争
jiemian.com/article/910725…

👬即刻镇小报
1、GPT 对劳动力市场的潜在影响
m.okjike.com/originalPosts/…
2、文字生成视频模型
m.okjike.com/originalPosts/…
3、抗敏感牙膏的使用
Read 5 tweets
Mar 21
10条小红书博主运营经验

1、做小红书博主,目前来看是涨粉最快的平台了,适合普通人。

前期选好赛道,研究清楚变现模式。

常见的变现模式,接广告、卖货、卖课。

2、关于涨粉,从0-1是最难的,我之前做小红书从0到1000粉,几乎日更笔记,50篇才突破1千粉。
后来做第二个号,用了一周多,有经验涨粉就快了。

3、小红书多少粉丝可以变现?

好物分享、数码软件、美妆这类博主比较好接广告。

数码软件博主,几百粉就有合作了,刚开始也就50-150元广告费。

好物分享,刚开始置换比较多。

4、小红书哪类博主不建议做?
影视剪辑、动漫二剪、搞笑娱乐视频,这种价值最低了。

视频内容再好,和你一点关系没有,用户也记不住你。播放量高也没有,平台没收益。

这种账号,大家就是图一开心,涨粉也没用,变不了现。

现在全网可以变现的影视博主,也就收徒弟一条路了。

5、小红书数据焦虑?
Read 8 tweets
Mar 20
2023年03月21日
🌍资讯快读
1、中国民航局发布《关于“3·21”东航MU5735航空器飞行事故调查进展情况的通报》
36kr.com/newsflashes/21…
2、拼多多去年净利润逾315亿元,同比增长306%
jiemian.com/article/909871…
3、BOSS直聘:2023年前两个月新增900万完善用户
pingwest.com/w/278864
4、2023 年进口网络游戏审批信息公布 27 款游戏获批
pingwest.com/w/278859
5、多家央行宣布通过常设美元流动性互换额度增加流动性供应
bjnews.com.cn/detail/1679271…
6、韩国晚婚成趋势:40岁出头的新娘人数比20岁出头的还多
thepaper.cn/newsDetail_for…

👬即刻镇小报
1、即刻AIGC目录第4期《黑客与画家》
m.okjike.com/originalPosts/…
Read 5 tweets

Did Thread Reader help you today?

Support us! We are indie developers!


This site is made by just two indie developers on a laptop doing marketing, support and development! Read more about the story.

Become a Premium Member ($3/month or $30/year) and get exclusive features!

Become Premium

Don't want to be a Premium member but still want to support us?

Make a small donation by buying us coffee ($5) or help with server cost ($10)

Donate via Paypal

Or Donate anonymously using crypto!

Ethereum

0xfe58350B80634f60Fa6Dc149a72b4DFbc17D341E copy

Bitcoin

3ATGMxNzCUFzxpMCHL5sWSt4DVtS8UqXpi copy

Thank you for your support!

Follow Us on Twitter!

:(