直播勾引-chloe 调教 卷疯了!好意思国AI博士生东谈主手10篇顶会,遭欧洲同业质疑
你的位置:直播勾引 > 糗百-成人版 > chloe 调教 卷疯了!好意思国AI博士生东谈主手10篇顶会,遭欧洲同业质疑
chloe 调教 卷疯了!好意思国AI博士生东谈主手10篇顶会,遭欧洲同业质疑
发布日期:2024-10-23 02:40    点击次数:125

chloe 调教 卷疯了!好意思国AI博士生东谈主手10篇顶会,遭欧洲同业质疑

点击收听本新闻听新闻

欧洲博士生的这篇帖子火了!为啥好意思国博士生东谈主手10篇顶会chloe 调教,5篇一作?有东谈主为人师表:这里卷疯了,博士打底每分内责10小时,7天无休,不少东谈主皆卷出了豪情问题。况且顶尖机构还有丰富的GPU资源和大佬的背书,能弗成站在巨东谈主的肩膀上,天然差之沉……

明明皆是东谈主,奈何好意思国的博士就东谈主手十篇AI顶会,还有五篇是一作?

最近,欧洲博士的一篇质疑,在机器学习社区火了!

他示意,我正直在欧洲大学攻读博士学位,辩论地方是AI/机器学习/CV边界。

我方的博士学业为期4年。

第一年,主要即是学习若何确切地搞辩论,了解通盘这个词的学术运作机制。

第二年,我方就还是动作共同作家,在顶会CVPR上发表了首篇论文。

第三年,他还是省略经管辩论样貌,了解了如何央求资助,掌捏了资金运作机制和其中的多样细节。

此时,他的简历中新增了两篇论文,一篇是期刊论文,一篇是会论说文,皆是以一作身份发表的。

在此时间,他深度参与了产业界的事务,为和我方实验室有互助的公司写了大皆跟AI、系统架构、后端、云遐想、部署等有关的出产级代码。

看起来,我方应该算比拟顺利的博士了对分歧?

关联词,当他看到好意思国同布景的博士资格时,平直惊呆了!

他们简直东谈主手十篇顶会论文,全是CVPR、ICML、ICLR、NeurIPS级别的顶会,况且还有五篇是一作!

这位欧洲博士示意,我方受到格外大的冲击——

这些东谈主究竟是奈何作念到完成这样多职责,还能每年在A类期刊上发3篇论文的?他们难谈不需要睡眠吗?

这位博士示意,我并不合计这些东谈主比我机灵。

每当我方有了新idea,就会去查找是否还是有东谈主辩论过。

他时常发现,某个斯坦福或者DeepMind的博士生刚好在一个月前发表了访佛的辩论,这就解释我方的想路是很前沿的,并不过期。

关联词要是要深远知道这些论文中的想法,就要需要参加的用功,再加上有获取通盘必要资源的流程,会消费大皆时期,毫不可能是2-3个月的样貌就能惩办的。

临了,这位博士发出了心底的疑问——

我果真很困惑,这帮东谈主是如何作念到这样高效的?他们是不是有什么特殊的辩论纪律和资源,让他们如斯马上高产高质地辩论?

濒临网友们的多样反映,他也瓦解谈:我方并不是心爱拿我方和别东谈主比拟的东谈主,因为每个东谈主所处环境不同。

但是,关于仅有3-4年辩论素质的东谈主来说,短短一年内就活水游龙地产出高质地辩论和立异恶果,这从东谈主类角度来看是不可能的事!我方仿佛整个被蒙在饱读里。

背后到底有什么因素,导致了东谈主和东谈主之间的这种无边差异?

好意思国收集寰球顶尖东谈主才,个个皆是「卷王」

有东谈主为人师涌现意,这是因为,好意思国大学里充满了卷王!

最初,好意思国粹术界存在一种很卷的发表和职责文化。

曾在好意思国顶尖CS样貌之一的实验室作念过本科生的层主示意,我方亲眼目睹了辩论生们的职责节拍——

一周七天皆在职责,每天卓绝10小时,全年无休。

有一次,他不测中晚上7点去实验室,发现我方的辩论生同学还在那边。

因为意思他究竟会职责到多晚,层骨干脆在实验室等他,收尾是——直到凌晨1点,他才回家!

天然,这并非实验室的强制条目,每个东谈主皆不错和样貌端庄东谈主商定我方的职责界限。

但在好意思国这个东谈主才竞争如斯热烈的边界,每个东谈主皆会感受到无边的压力,莫得谁能不受影响。

第二点,好意思国实验室的显赫上风chloe 调教,即是蛊惑了来自寰球列国皆顶尖东谈主才。

这里层主挑升拿清华举了例子,据悉这个顶尖样貌关于清华学生的中式率仅有0.1%……

要是能蛊惑到中国和其他国度的顶尖东谈主才,还让他们每分内责10小时,那你很难不产生一些跋扈的恶果。

总之,全球顶尖东谈主才,集结在了一个高强度的职责环境里,这就形成了好意思国辩论生惊东谈主的学术产出。

两性

基于NeurIPS 2022被接受论文作宗派据

的确,立马有东谈主阐述了他的说法。

他示意,在我方的实验室,每周职责六十小时简直是家常便饭。

在要紧时期,致使可能飙到每周七十小时。

有一次几个本科生因为在晚上十少量来到实验室。当他们看到咱们这些辩论生还在埋头职责时,一个个满脸惶恐。但说真话,对咱们来说,这种情况再世俗不外了。

另一位博士说,每分内责卓绝10小时,7天无休是很常见的,许多博士皆是这样的。

不外他也指出,辩论团队的限制亦然形成这种情况的一个因素。

在大学里,我方花了一年时期才完成一篇论文,而第二篇论文用了6个月,作家惟有我方、导师和聚首导师。

但最近,当我方在谷歌兼职实习时,那边的期许是让他6个月写出三篇论文……

因为那边有一个限制不小的辩论团队,是以这种条目应该是常态。

总之,浮浅详细即是两点原因:

1. 他们很卷,卷到不可想议。

2. 全寰球最顶尖的学生皆去了好意思国,而不是欧洲。

况且,这种情况毫不单是是在AI边界存在,简直通盘的STEM(科学、技能、工程和数学)边界皆是如斯!

有东谈主说,我方在读物理学博士的时候,亦然这种情状:活命里根底莫得除了学习之外的东西。

这种影响其实很泼辣,不少在读博士的豪情健康情状皆不太好,还是有大皆著作商讨这一景象了。

既不缺GPU和资源,还有大厂/大佬背书

GPU Rich vs GPU Poor

此外,帖子中还有东谈主一口谈破:大家皆没提的一个要紧因素,即是资源。

可能和大多数东谈主同样,楼主亦然「GPU穷东谈主」。而那些顶尖博士项想法资源,关联词有着一丈差九尺!

他们领有极其奋斗的GPU集群,因此省略快速考验或微调简直通盘的模子,致使是卓绝千亿参数的大模子。

这种资源上风让他们省略大幅进步迭代速率,从而开展一些对其他东谈主来说根底无法遐想的辩论。

的确,即使在好意思国的不同高校,手捏GPU的资源也差异无边。

之前就有全好意思TOP 5的机器学习博士无语发帖自曝:实验室里H100数目是0,同实验室博士之间得靠抢。

他示意在我方读博时间,遐想资源是主要瓶颈。要是能有更多高性能的GPU,遐想时期会显赫裁汰,辩论程度也会快许多。

普林斯顿、哈佛这样的「GPU权门」,手上的H100至少以三四百块打底,但是连AI教母李飞飞的斯坦福天然话语处理(NLP)小组,也惟有64块A100 GPU。

在这种无边的各异眼前,出恶果的速率天然亦然一个天上,一个地下。

「名东谈主效应」

有东谈主提到,着名机构的title,即是很有重量的隐形钞票。

最初,许多着名机构和好意思国的大型科技公司保持着密切计议。

这种干系不仅会激励出立异项想法灵感,还能提供出奇的资源支撑。

另外,斯坦福大学或者谷歌等着名机构的title,也无形中起了很大作用。

当你看到标有这些机构的logo的预印本论文在限制日历前几周出当今arXiv上时,情况就复杂了。

这些论文,时常皆配有专科的图表、无缺的样貌网站和经心经营的公关宣传。

这篇著作,就被大佬戏称为「PR职责的典范」

这种情况下,每个东谈主皆知谈是谁的职责,为什么这项职责很要紧。

你敢说审稿东谈主不会受此影响吗?

这种情况下,他们很可能不敢给出过于严厉的月旦。

即使他们合计论文质地很差,但这是DeepMind论文,谁敢在评审意见中平直开麦diss呢?

总之,这些顶尖机构领有浑朴的资源,自关联词然就蛊惑了最有抱负、最优秀的学生,不错快速推动多方样貌。

而在这些机构中,也就培养出了一种越过好几代学生和磨真金不怕火的机构文化——优先计议如安在最短时期内,发表尽可能多的高影响力论文。

其实是「幸存者偏差」?

稍显劝慰的是,也有东谈主对欧洲博士示意,其实这即是幸存者偏差。

可能他关心的皆是好意思国顶尖的机器学习样貌,他们的恶果天然亦然寰球一流的。

但要是去了解一下平素大学里博士生的情况,就会发现他们动作一作在顶会上发论文的情况并不常见。

天然也有不那么顺利,或者干脆转行了的东谈主。

有些东谈主可能费了老劲也就发表了一篇论文,关联词弃取去私营企业上班,不混学术圈了。

有东谈主对这位博士示意,你所不雅察到的样本,并不具有统计学意思意思上的当场性和代表性。

被有时看到的好意思国博士生的论文或简历,简直不错确定地说,代表了学术配置散播中最为top的那一波。

这些高产出的学生,时常会被他们所在的着名实验室和机构更多地现实。他们的顺利可动力于邃密的科研环境、出色的个东谈主才气、一定的运谈要素、严格的竞争性选用以相当他因素。

其实这就访佛于交接媒体会导致东谈主们懆急和抑郁。

在交接平台上,东谈主们倾向于展示我方最佳的一面,这导致咱们时常将我方与一个经过筛选、存在偏差且被好意思化过的样本进行比拟。

在学术界亦然如斯,每个辩论者皆在某种程度上「倾销」我方的辩论恶果,而那些最引东谈主注想法恶果,天然会得到更多关心。

在这种情况下,退一步、取得更广博的辩论视角,会很有匡助。他强烈推选这位博士去读一下阅读Richard Hamming的经典演讲稿「你和你的辩论」(You and Your Research)。

也有东谈主指出,固然楼主的描绘有些夸大了,但的确存在一个临界点,卓绝这个点之后,单纯增多数目和参加时期并弗成等同于提高质地。