新闻动态
你的位置:kaiyun·开云(中国)官方网站 入口 > 新闻动态 > 开云官网切尔西赞助商Hinton 西宾也忍着腰痛专程飞到瑞典-kaiyun·开云(中国)官方网站 入口
开云官网切尔西赞助商Hinton 西宾也忍着腰痛专程飞到瑞典-kaiyun·开云(中国)官方网站 入口

发布日期:2024-12-25 08:43    点击次数:175

开云官网切尔西赞助商Hinton 西宾也忍着腰痛专程飞到瑞典-kaiyun·开云(中国)官方网站 入口

2024 年诺贝尔物理学奖的两位获奖者 John Hopfield 和 Geoffrey Hinton 最近在斯德哥尔摩大学发表了最新的演讲开云官网切尔西赞助商。

现场的氛围非常强烈!

看到 Hopfield 西宾即使借助手杖也躬行到达现场发表了演讲,Hinton 西宾也忍着腰痛专程飞到瑞典,让不雅众们非常敬佩。

在此次活动中,John Hopfield 西宾的演讲主题是"物理学是一种不雅点",敷陈他个东说念主的科研履历和作念科研的念念考形式。

他坦荡了许多对于科研和对物理的想法:

如何遴荐问题是科研效力的瑕玷要素

大脑是如何产生念念想的,这对我来说是东说念主类最高深的问题

我认为物理学有助于相识东说念主类和宇宙

Geoffrey Hinton 西宾则用下里巴人的式样敷陈了Hopfield 汇集和玻尔兹曼机器的旨趣与发展,全程莫得用一个方程式。

当咱们最终了解了大脑是如何学习的时分,我确信就寝的作用一定瑕瑜常弥留的,对此我非常乐不雅

两位西宾搁置演讲时,台下的不雅众亦然忍不住齐站起来向他们饱读掌问候。

以下是现场演讲本色,在不改造快乐的情况下,量子位对部分篇幅作念了颐养。

John Hopfield:物理学是一种不雅点

约翰 · 霍普菲尔德于 1933 年诞生于芝加哥,1954 年在威廉 · 莫尔学院取得第一个学位,1958 年在康奈尔大学取得博士学位。1964 年,他被任命为普林斯顿大学物理学西宾,1980 年景为加州理工学院化学和生物学西宾,之后他回到普林斯顿大学,现在是分子生物学名誉西宾。

(以下为 John Hopfield 西宾发言)

我的第一份全员责任是在比尔电话公司发明晶体管的执行室,我加入了一个六东说念主小组。初入执行室时,我在新办公室大开竹素期刊,参不雅库存室获取文具后,念念考着下一步责任。

在科研中,大宗东说念主常践规踏矩,很少深化念念检会究标的的遴荐,而这正是科研效力的瑕玷要素。我在科研中撰写了 40 余篇论文,几年前造成的责任基础最终发展成霍普菲尔德模子,关联不雅点源于对随即事件的分析。

我成长于物理学家家庭,自幼受物理学不雅念素养,心爱探索事物旨趣,如拆解自行车、进行化学执行等,这让我或者相识复杂系统运作。上高中时,化学老非诚挚常出色,物理诚挚却对电磁学旨趣相识不及,这影响了我大学专科遴荐,但最终我决定在斯沃斯莫尔学院专注物理。

干涉物理学盘问生院后,我在康奈尔大学学习,时代与 Albert Overhauser 消亡,从他的盘问列表中采纳晶体中激子辐照寿命关联问题,开启盘问。取得博士学位后,我在表面小组任职,后矫健化学家 David G. Thomas,成立表面执行定约,取得效力并获奥利弗里 · 巴克利固体物理学奖。

之后,我在盘问中遭逢瓶颈,前去剑桥大学寻找新标的,回普林斯顿后担任半导体组照拂人,构兵到血红卵白关联执行,为我从凝合态物理转向生物物理提供机会,我也受 Linus Pauling 不雅点启发盘问卵白质合成问题并取得效力。

1974 年论文影响我对生物知识题的盘问念念路,促使我念念考神经元汇集特色等。1977 年在哥本哈根举办研讨会后,我寻求跨学科防碍,受邀参加神经科学会议,天然那时一无所知,自后加入神情取得神经生物学灵感。

1979 年,我转任化学和生物学西宾,发现了学科干系,冷落新打算视力并撰写论文,该论文鼓吹了关联领域发展。

自后,我发现霍普菲尔德模子汇集问题,2015 年与他东说念主消亡冷落密集欲望牵挂模子,盼望鼓吹东说念主工智能发展。

我非常尊重各个领域的内行,积极参与跨学科互动,我认为物理学有助于相识东说念主类与天地。

Hinton:Hopfield 汇集与 Boltzmann 机的发展

杰弗里 · 辛顿,1947 年生于英国伦敦,获剑桥大学执行情绪学博士学位,曾在爱丁堡大学从事东说念主工智能博士后盘问,在多所大学任职,现从事学术盘问,并在谷歌公司任职。

(以下为 Geoffrey Hinton 西宾发言)

今天我将毋庸任何方程式,向庸俗不雅众素养 Hopfield 汇集。

先来看一个二元神经元版块的小霍普菲尔德汇集,其神经元间有对称加权勾搭,汇集全局景象是竖立,竖立有优良性(单位对权重总额),能量是优良性相背数,采麇集逍遥于能量最小值。

霍普菲尔德冷落用能量最小值对应牵挂,通过二元方案法例计帐不完满牵挂,终了本色可寻址内存。

特里 · 西诺斯基和我冷落用汇集构建感官输入讲明,汇集含可见和荫藏神经元,可见经受感官输入(如二进制图像),荫藏构建讲明,能量代表讲明犀利进度,咱们需要狡猾量讲明。

以线条画为例,有不同三维讲明,咱们要让汇集给出讲明。

先将线条滚动为线条神经元激活,线条神经元与三维角落神经元勾搭,商量感知光学要素让角落神经元相互扼制,还要依据图像线条勾搭原则开拓勾搭,但愿通过竖立勾搭强度使汇集料理两种替代讲明。

这产生两个问题:一是幸免堕入局部最优的搜索问题;二是神经汇集自动学习勾搭的问题。

对于搜索问题,咱们通过使神经元有噪声料理,有噪声神经元景象是二元的但方案具有概狂放。

用荫藏神经元讲明二进制图像时,在可见单位固定图像,随即选荫藏神经元把柄输入决定其景象,抓续操作使系统达热均衡,此时荫藏神经元景象是均衡讲明,汇集学习正确权重使狡猾量景象对应更好的讲明,热均衡是系统逍遥于概率散播(波尔兹曼散播),狡猾量竖立概率大。

玻尔兹曼机学习宗旨是使汇集生成的图像肖似它感知到的信得过图像,有粗浅学习算法,含叫醒和就寝阶段。

叫醒阶段固定图像于可见单位,让荫藏单位达热均衡后颐养勾搭权重,就寝阶段肖似作念梦更新神经元达热均衡后反向颐养权重,该算法平均上能让汇集生成图像历程肖似感知图像,触及对数似然梯度主见,通过改造权重使汇集关心 wake 阶段看到的数据。

但玻尔兹曼机存在问题,权重变大时热均衡历程慢,天然想法很好但算法太粗浅,不错作念复杂的事情但速率受限。

自后我发现了受限玻尔兹曼机(RBM),其荫藏单位不相互勾搭,叫醒阶段更新荫藏神经元更粗浅,就寝阶段有捷径虽不通盘正确但实行灵验。Netflix 公司即是用受限玻尔兹曼机调治其他步伐推选电影。

为构建特征检测器层可堆叠 RBM,将前一个 RBM 荫藏单位活动形式当数据给下一个 RBM,以此捕捉复杂关联性学习多组权重,堆叠后视为前馈汇集可进行监督学习,这么开动化汇集学习更快。因为汇集已学习了数据结构,背面用于学事物称号相对容易,如识别物体方面。

One More Thing

就在演讲视频发布不久后,你懂的,LSTM之父又来搞事情了。

著明打算机科学家J ü rgen Schmidhuber发表推文称,Hopfield & Hinton 的 2024 年诺贝尔物理学奖是抄袭得来的。

J ü rgen 宣称,这两位西宾重新发表了乌克兰盘问者 Ivakhnenko 和日本盘问者 Amari 在 20 世纪 60 年代和 1970 年代开发的步伐以迥殊他本事,且莫得援用原作家。

现在这一帖子在 X 上照旧取得了 2.1k 点赞、杰出 44 万次浏览。

有网友暗示淌若事情是真实,那将比剽窃更晦气:

不外也有网友认为这是 J ü rgen 吃不到葡萄就说葡萄酸的情绪:

J ü rgen 还发表了一个详备的本事回报,列出了两位诺贝尔获奖者责任的存疑之处,感兴致的一又友不错点击参考一语气 2 进一步阅读。

参考一语气:

[ 1 ] https://www.youtube.com/watch?v=lPIVl5eBPh8

[ 2 ] https://people.idsia.ch/~juergen/physics-nobel-2024-plagiarism.html#DLP

—  完  —

点这里� � 关心我,难忘标星哦~

一键三连「共享」、「点赞」和「在看」

科技前沿推崇日日再见 ~