北京時(shí)間10月8日，諾貝爾物理學(xué)獎(jiǎng)揭曉，約翰·霍普菲爾德（John J. Hopfield）與杰弗里·辛頓（Geoffrey E. Hinton）因“使用物理學(xué)訓(xùn)練人工智能神經(jīng)網(wǎng)絡(luò)”獲獎(jiǎng)。值得注意的是，霍普菲爾德是正統(tǒng)的物理學(xué)家出身，但辛頓的學(xué)術(shù)經(jīng)歷并不包括物理學(xué)，而是聚焦人工智能領(lǐng)域。
新京報(bào)貝殼財(cái)經(jīng)記者梳理發(fā)現(xiàn)，辛頓的主要學(xué)術(shù)成就包括三大項(xiàng)：證明反向傳播算法、發(fā)明玻爾茲曼機(jī)、改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)。而這些成就是今日AI技術(shù)發(fā)展乃至落地不可或缺的“拼圖”，例如辛頓研發(fā)的深度卷積神經(jīng)網(wǎng)絡(luò)AlexNet在2012年贏得ImageNet圖像識(shí)別大賽（華裔AI科學(xué)家李飛飛主導(dǎo)的比賽）冠軍，讓業(yè)界將AI研究路線從當(dāng)時(shí)主流的符號(hào)學(xué)轉(zhuǎn)換成了神經(jīng)網(wǎng)絡(luò)，后者“一炮而紅”，直接促使了AI識(shí)圖功能的“大爆發(fā)”，當(dāng)今隨處可見的人臉識(shí)別技術(shù)正來源于此。
此外，辛頓還“桃李滿天下”，他的學(xué)生包括前OpenAI首席科學(xué)家伊利亞·蘇茨克維（Ilya Sutskever）、Meta首席科學(xué)家楊立昆（Yann LeCun）等，“徒子徒孫”更是遍布人工智能業(yè)界。
諾貝爾獎(jiǎng)現(xiàn)場(chǎng)連線杰弗里·辛頓（Geoffrey E. Hinton）
物理獎(jiǎng)為何頒發(fā)給人工智能科學(xué)家？
諾貝爾獎(jiǎng)官方稱，今年的兩位諾貝爾物理學(xué)獎(jiǎng)得主利用物理學(xué)工具開發(fā)了今天強(qiáng)大機(jī)器學(xué)習(xí)的基礎(chǔ)方法。約翰·霍普菲爾德創(chuàng)造了一種聯(lián)想記憶，可以存儲(chǔ)和重建圖像及其他類型的數(shù)據(jù)模式。杰弗里·辛頓發(fā)明了一種能夠自主發(fā)現(xiàn)數(shù)據(jù)屬性的方法，從而執(zhí)行識(shí)別圖片中特定元素等任務(wù)。
新京報(bào)貝殼財(cái)經(jīng)記者發(fā)現(xiàn)，之所以諾貝爾物理學(xué)獎(jiǎng)同時(shí)頒給了這兩人，是因?yàn)樾令D的工作建立在霍普菲爾德的基礎(chǔ)之上。根據(jù)諾貝爾獎(jiǎng)官網(wǎng)提供的科普文章，霍普菲爾德從物理學(xué)中磁性物質(zhì)原子自旋找到了靈感：相鄰原子的自旋相互連接可以使域形成同一方向的自旋，他利用描述自旋相互影響的物理學(xué)建立了一個(gè)帶有節(jié)點(diǎn)和連接的模型網(wǎng)絡(luò)，即“Hopfield網(wǎng)絡(luò)”，如果把其中的節(jié)點(diǎn)看做圖片中的像素，就可以記憶不同的顏色，而不只是黑色和白色，這一方法還為相似圖片的識(shí)別提供了技術(shù)基礎(chǔ)。
當(dāng)霍普菲爾德發(fā)表關(guān)于聯(lián)想記憶的文章時(shí)，辛頓正在美國(guó)卡內(nèi)基梅隆大學(xué)工作，他之前曾在英國(guó)學(xué)習(xí)過實(shí)驗(yàn)心理學(xué)和人工智能，并致力于了解機(jī)器是否能以和人類相似的方式識(shí)別并分類信息。他從Hopfield網(wǎng)絡(luò)著手，并使用統(tǒng)計(jì)物理的方式將其進(jìn)行了延展，最終發(fā)明了玻爾茲曼機(jī)。
諾貝爾獎(jiǎng)官方科普文章寫道：辛頓使用了19世紀(jì)物理學(xué)家玻爾茲曼創(chuàng)造的一個(gè)統(tǒng)計(jì)物理學(xué)方程，并在1985年發(fā)表了一個(gè)神經(jīng)網(wǎng)絡(luò)方法，命名為“玻爾茲曼機(jī)”，該神經(jīng)網(wǎng)絡(luò)可以不從指令中學(xué)習(xí)，而是從給定的示例中學(xué)習(xí)。訓(xùn)練有素的玻爾茲曼機(jī)可以識(shí)別它以前沒有看到的信息中的熟悉特征，“想象一下，你遇到了一個(gè)朋友的兄弟姐妹，你馬上就能看出他們一定是親戚。同樣，只要曾經(jīng)學(xué)過類似類別的樣本，玻爾茲曼機(jī)可以馬上識(shí)別出一個(gè)全新的同類樣本，并將其與不同的樣本區(qū)分開來?！?/p>
值得稱道的是，玻爾茲曼機(jī)在最初發(fā)布時(shí)相當(dāng)?shù)托В枰荛L(zhǎng)時(shí)間才能找到解決方案。20世紀(jì)90年代，許多研究人員對(duì)人工神經(jīng)網(wǎng)絡(luò)失去了興趣，但辛頓仍然繼續(xù)在這一領(lǐng)域工作。2006年，辛頓再度開發(fā)出一種方法，用一系列層狀玻爾茲曼機(jī)器對(duì)網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練，這種預(yù)訓(xùn)練為網(wǎng)絡(luò)中的連接提供了一個(gè)更好的起點(diǎn)，從而優(yōu)化了訓(xùn)練，可以識(shí)別圖片中的元素。
北京師范大學(xué)系統(tǒng)科學(xué)學(xué)院教授，集智俱樂部創(chuàng)始人張江表示，辛頓在 Hopfield網(wǎng)絡(luò)基礎(chǔ)上做了擴(kuò)展，得到一種能夠區(qū)分輸入和輸出的二分網(wǎng)絡(luò)，其中一部分接收輸入數(shù)據(jù)，另一部分則起到記憶作用，這種網(wǎng)絡(luò)稱為“受限的玻爾茲曼機(jī)”。將多種這樣的網(wǎng)絡(luò)串聯(lián)起來，還可以形成深度的網(wǎng)絡(luò)，這也構(gòu)成了第一個(gè)可以被稱為“深度神經(jīng)網(wǎng)絡(luò)”的架構(gòu)。
現(xiàn)如今，玻爾茲曼機(jī)通常被用作更大網(wǎng)絡(luò)的一部分，例如，它可以根據(jù)觀眾的喜好推薦電影或電視劇，這一技術(shù)已經(jīng)深入了當(dāng)今人們的生活，例如短視頻平臺(tái)的“猜你喜歡”功能。
“獲獎(jiǎng)?wù)叩墓ぷ饕呀?jīng)帶來了最大的好處。在物理學(xué)中，我們?cè)趶V泛的領(lǐng)域使用人工神經(jīng)網(wǎng)絡(luò)，例如開發(fā)具有特定特性的新材料。”諾貝爾物理委員會(huì)主席 Ellen Moons 說?！靶令D以玻爾茲曼機(jī)為基礎(chǔ)，幫助啟動(dòng)了當(dāng)前機(jī)器學(xué)習(xí)的爆炸性發(fā)展。”諾貝爾獎(jiǎng)官網(wǎng)如此寫道。
不過，在辛頓本人看來，玻爾茲曼機(jī)并不是神經(jīng)網(wǎng)絡(luò)當(dāng)前取得巨大進(jìn)展的主要推動(dòng)力，推動(dòng)AI應(yīng)用飛躍的是反向傳播算法。
“正是通過反向傳播，神經(jīng)網(wǎng)絡(luò)才能夠?qū)W習(xí)各種任務(wù)，比如識(shí)別圖像、理解語音、處理自然語言等。當(dāng)前的許多AI技術(shù)，比如 GPT 語言模型和醫(yī)學(xué)圖像分析，都依賴于反向傳播算法，而不是玻爾茲曼機(jī)。因此，反向傳播算法才是真正促使現(xiàn)代AI應(yīng)用廣泛普及的關(guān)鍵技術(shù)?！毙令D在諾貝爾獎(jiǎng)官方現(xiàn)場(chǎng)連線時(shí)表示。
辛頓的傳奇人生：“帶火”李飛飛 被百度微軟等爭(zhēng)搶 因擔(dān)憂AI風(fēng)險(xiǎn)從谷歌離職
事實(shí)上，辛頓早就因?yàn)樵谌斯ぶ悄茴I(lǐng)域的杰出貢獻(xiàn)獲得了圖靈獎(jiǎng)，還被譽(yù)為深度學(xué)習(xí)的“三巨頭”之一，以及人工智能“教父”。在AI圈中，辛頓也與不少知名人士有著各種各樣的交集。
例如被譽(yù)為“AI教母”的華裔科學(xué)家李飛飛之所以有這樣高的聲譽(yù)，重要原因之一是因?yàn)樗I(lǐng)導(dǎo)了圖像標(biāo)記數(shù)據(jù)集Image Net項(xiàng)目，并舉辦了大規(guī)模視覺識(shí)別挑戰(zhàn)賽。該挑戰(zhàn)賽2012年的獲獎(jiǎng)?wù)摺懊灰娊?jīng)傳”的AlexNet深度卷積神經(jīng)網(wǎng)絡(luò)算法，將圖像識(shí)別差錯(cuò)率從25.8%一舉降至16.4%，震撼業(yè)界，從而才有了深度學(xué)習(xí)的爆發(fā)。
而AleNet的作者正是辛頓與他的兩個(gè)學(xué)生伊利亞·蘇茨克維以及亞歷克斯·克里澤夫斯基（Alex Krizhevsky）。
值得注意的是，辛頓在AlexNet爆火后，立刻收到了百度的邀約。在連線雜志知名作者凱德·梅茨（Cade Metz）所著的《深度學(xué)習(xí)革命》一書中，當(dāng)時(shí)還在百度領(lǐng)導(dǎo)多媒體部的余凱（現(xiàn)為地平線CEO）向李彥宏介紹深度學(xué)習(xí)方面的進(jìn)展，并且推薦了辛頓。百度立即向辛頓提出了一個(gè)“出價(jià)1200萬美元聘請(qǐng)辛頓及其學(xué)生”的合約。
根據(jù)《深度學(xué)習(xí)革命》書中的描述，辛頓當(dāng)時(shí)咨詢了律師后，做出決定：和兩名學(xué)生創(chuàng)建一家初創(chuàng)公司，并對(duì)該公司進(jìn)行拍賣。最終，百度、谷歌、微軟、DeepMind圍繞辛頓和他的兩名學(xué)生進(jìn)行了一輪大競(jìng)價(jià)，價(jià)格甚至炒到了4400萬美元。最終，百度雖然出價(jià)最高，但由于辛頓早已“心有所屬”，他和兩名學(xué)生最后選擇了谷歌。辛頓承認(rèn)，“為研究找到合適的歸宿，比獲得最高競(jìng)標(biāo)價(jià)格更重要。”
此后，辛頓的學(xué)生們也都各自離開“獨(dú)挑大梁”，如蘇茨克維后來成為了OpenAI的聯(lián)合創(chuàng)始人以及首席科學(xué)家，再后來又陷入了該公司著名的“CEO山姆奧特曼被逼宮”事件，最終離職創(chuàng)業(yè)。另一名學(xué)生克里澤夫斯基則入職了DeepMind成為研究員。
縱觀辛頓的人生，他并非一個(gè)“正統(tǒng)科學(xué)家”形象。在研究人工智能之前，他學(xué)習(xí)過心理學(xué)、生物學(xué)、化學(xué)、認(rèn)知科學(xué)甚至當(dāng)過木匠，他的研究生涯大部分時(shí)間都在“反抗主流”，例如在AI研究停滯不前之時(shí)，他一直堅(jiān)持耕耘當(dāng)時(shí)小眾的神經(jīng)網(wǎng)絡(luò)方向，才有了后續(xù)AI技術(shù)的爆發(fā)。
但當(dāng)AI進(jìn)入風(fēng)口后，辛頓又在2023年從谷歌離職，只是為了“能直言不諱地談?wù)撊斯ぶ悄艿奈ｋU(xiǎn)，因?yàn)槲覀兡壳昂茈y阻止壞人利用人工智能做壞事。”他的思想可能也間接影響了學(xué)生蘇茨克維，畢竟相比山姆奧特曼對(duì)AI發(fā)展的“加速主義”，辛頓和蘇茨克維贊同的“對(duì)齊主義”主張更多關(guān)注AI風(fēng)險(xiǎn)，在AI發(fā)展之前對(duì)齊AI與人類的價(jià)值觀。
辛頓十分關(guān)注AI研究，他曾對(duì)外表示，盡管ChatGPT將使AI研究變得更加高效，影響 AI 研究過程，但長(zhǎng)期來看，AI 發(fā)展太快了，容易超越人類，人類需要把控好AI技術(shù)帶來的風(fēng)險(xiǎn)。
在諾貝爾獎(jiǎng)公布的連線現(xiàn)場(chǎng)，辛頓表示：“人工智能的影響將與工業(yè)革命相媲美。然而，不同的是，機(jī)器學(xué)習(xí)和人工智能不僅僅是在體力上超越人類，而是會(huì)在智力上超過人類。我們現(xiàn)在尚未真正體驗(yàn)到比我們更聰明的事物，這種經(jīng)歷將是前所未有的。在許多領(lǐng)域，特別是醫(yī)療保健，神經(jīng)網(wǎng)絡(luò)將為所有行業(yè)提供更好的服務(wù)，使他們更高效。人們?cè)谖磥砜梢越柚悄苤衷诟虝r(shí)間內(nèi)完成與之前相同的工作量，這將大大提高生產(chǎn)力?！?/p>
“不過，我們也不能忽視可能帶來的負(fù)面影響，尤其是當(dāng)這些技術(shù)失控時(shí)的潛在威脅。我們需要關(guān)注如何合理控制這項(xiàng)技術(shù)的發(fā)展，以確保它不會(huì)產(chǎn)生無法預(yù)見的負(fù)面后果?！毙令D說。
記者聯(lián)系郵箱：luoyidan@xjbnews.com
新京報(bào)貝殼財(cái)經(jīng)記者 羅亦丹 編輯 陳莉 校對(duì) 柳寶慶
