秘密打造「AI陶哲軒」 震驚數(shù)學圈!谷歌IMO夢之隊首曝光,菲爾茲獎得主深度點評
相信很多大家對秘密打造「AI陶哲軒」 震驚數(shù)學圈!谷歌IMO夢之隊首曝光,菲爾茲獎得主深度點評還不知道吧,今天菲菲就帶你們一起去了解一下~.~!
【新智元導讀】19秒破解幾何難題,谷歌AI奪得IMO銀牌在業(yè)界掀起了巨震。就連菲爾茲獎得主陶哲軒,前IMO美國隊負責人羅博深都對此大加贊賞。更有AI大佬高調預測,若谷歌繼續(xù)加碼研究,應該可以造出一個「AI陶哲軒」。
谷歌DeepMind正在做的,是要打造出世界上最強的AI數(shù)學家。
Perplexity AI的CEO對此做出了大膽預測——DeepMind繼續(xù)研究下去的話,應該可以搞出一個「AI陶哲軒」了!
這個預測可謂相當大膽。
要知道,陶哲軒在IMO競賽圈,乃至整個數(shù)學界,都是傳奇般的存在。
「天才出少年」、「數(shù)學界莫扎特」,各種溢美之詞放到他身上都不為過,畢竟人家首次參加IMO競賽時只有10歲,是迄今為止最年輕的參賽者。
10歲銅牌、11歲銀牌、12歲金牌,一路高歌猛進,他又成為了IMO史上最年輕的金牌得主。
AI大佬能夠做出此類預測,正是基于谷歌DeepMind兩大AI——AlphaProof+AlphaGeometry2,上周在IMO2024競賽中取得了卓越的成績。
6道題目中,它們一同做對4道,距金牌僅有一分之差(獲得28分)。
AlphaGeometry2效果愈加炸裂,竟可以在短短19秒里,破解了一道幾何題目。
然而,這個消息至今余波未平。許多AI界和數(shù)學界的大佬們,紛紛給出了自己的思考和感悟。
數(shù)學大佬怎么看?
這邊隔空被cue的陶哲軒發(fā)表了自己的看法。
但人家并不在意所謂的「AI陶哲軒」,而是延續(xù)了自己以往的關注點——分析AI和數(shù)學將怎樣共同發(fā)展。
過去幾周我一直在旅行,還沒有時間完全消化這個消息……但可以在此記錄一些初步印象
陶哲軒首先承認,DeepMind做出了一項偉大的工作,拓寬了AI輔助/全自動化方法在基準挑戰(zhàn)上的能力邊界,再次顛覆了我們的預期。
具體而言,IMO級別的幾何問題,對專門的AI工具來說已經(jīng)是實際可解的問題。
現(xiàn)在看來,能夠形式化的,且可以用強化學習過程找到形式化證明的IMO問題,至少在某種程度上都可以被AI攻克(盡管目前每個問題都需要相當程度的算力,以及形式化過程中的人類協(xié)助)。
這種方法帶來的好處,就是讓形式數(shù)學更容易自動化,從而有助于包含形式化成分(formal components)的數(shù)學研究。
特別是,如果用這種方式創(chuàng)建一個含有形式化證明過程的數(shù)據(jù)庫,并將其公開共享,將成為非常有用的資源。
DeepMind這次的研發(fā)路徑很聰明,而且事后看來也很合理。他們更多基于強化學習而非大語言模型,有些秉承了AlphaGo的精神,并且非常強調形式化方法。
根據(jù)「AI效應」,一旦解釋清楚其中的原理,AI就不再像是「類人智慧」的展現(xiàn),但這依舊擴展了AI輔助工具的能力。
「AI效應」描述一種現(xiàn)象:一旦AI項目取得了某些成功或進展,相關任務就不再被視為AI領域的一部分。類似的還有Tesler定理:「AI是指尚未完成的事情」
值得注意的是,AlphaProof/AlphaGeometry2與最近獲得AIMO冠軍的NuminaMath模型,二者不能直接比較。
NuminaMath是完全自動化的,資源效率相比DeepMind模型高了搞幾個數(shù)量級,而且采用了完全不同的思路,即通過LLM生成Python代碼,對數(shù)字答案進行暴力破解。
由于AIMO所有問題答案都是范圍為0~999的整數(shù),因此暴力破解是可行的,但對開放式的IMO賽題就完全不適用了。
NuminaMath也是一項非常好的工作,在數(shù)學解題的不同部分中嘗試用AI協(xié)助或自動化,向我們展示了這個挑戰(zhàn)本身的多維性質。
目前,NuminaMath這個冠軍模型已經(jīng)在HuggingFace上開源了7B版本。
倉庫地址:https://huggingface.co/AI-MO/NuminaMath-7B-TIR
與IMO打過多年交道的CMU數(shù)學教授羅博深(Po-Shen Loh)也發(fā)推表達了自己的震撼。用他的話說,這種感受和當年人們看到蘇聯(lián)第一顆人造衛(wèi)星Sputnik的感覺是類似的。
他甚至表示,「人類文明需要進入高度戒備狀態(tài)」。羅博深本人雖然一直期待這種水平的AI能夠到來,但他曾經(jīng)認為,至少還需要幾年時間才能達到。
羅博深教授的「震撼」,不僅來自于他數(shù)學家的身份,更來自于他對IMO競賽的多年了解。
1999年,時年17歲的他首次參與IMO競賽獲得銀牌,2002年就進入美國IMO國家隊訓練營擔任助理教練,開啟了自己長達21年的IMO執(zhí)教生涯。
2014年,羅博深被正式任命為總教練,隨后帶領美國隊分別在2015年、2016年、2018年和2019年贏得比賽,讓1994年后將近20年沒有冠軍的美國IMO國家隊「重回巔峰」。
由于多年執(zhí)教,羅博深對競賽的出題流程非常熟悉——IMO會專門選擇非標準化問題。
出題小組的重要任務之一就是避免任何類似題目。教練們甚至會翻出一些古老又不為人知的數(shù)學競賽,然后否決掉已經(jīng)提出的類似題目。
這種題目的創(chuàng)新性讓很多人類學生都很難上手,因為學生們也習慣于從例題中學習,記住解題步驟,用來解決相似題目。
以本屆IMO的6道題目為例,它們遠遠超出了任何課程標準。
解決這些題目最困難的部分不在于計算,而是需要找到一條解題路徑。很多人即使有一整年的時間思考也只能拿到零分。
因此,DeepMind模型在IMO上的勝利和GPT-4在標準化測試上通過「模式匹配」拿到的高分有完全不同的意義。
盡管AI花費的時間遠遠超出比賽規(guī)定,但實現(xiàn)軟硬件的加速只是時間問題,模型能夠解決這些問題本身就是一個重大進步。
羅博深教授長期致力于數(shù)學教育,因此他也會進一步思考——AI具有如此強大的數(shù)學能力,這對我們意味著什么?我們能做些什么?
他認為,AI越強大,大幅提升人類智慧就越為重要。
首先就是對就業(yè)動態(tài)產生的影響。
AI出現(xiàn)以前,個別有非凡能力的人不會真正損害你的就業(yè),因為這樣的人終究只是少數(shù)。即使這些天之驕子會占據(jù)一些職位,余下的工作依舊很多。
然而,一旦AI的能力超越人類,它就可以通過大規(guī)模復制,從而奪走所有工作。這與之前的邏輯完全不同。
AlphaProof/AlphaGeometry2在IMO中的表現(xiàn)已經(jīng)告訴我們,AI具備了發(fā)現(xiàn)新事物的能力(這是最有價值的技能之一),因此整個教育方法都需要快速變革。
無法否認的是,當前的教育結構很大程度上受到考試的影響,為了測試學生在預定義標準上的熟練程度。
然而,現(xiàn)在的每個人都必須學會如何解決從未見過的新問題,否則就無法跟上AI的步伐。
此外,技術越強大,我們就越需要努力保持人類文明中的人性。
這意味著,我們需要建立一個讓人們共同合作、互相支持的社區(qū),而不是在「叢林競爭」中互相爭斗。分裂則亡。
對我來說,這與構建人類的分析性才能密切相關,因為培養(yǎng)一個試圖擊敗他人而非幫助他人的天才,很可能是有害的。
以上這些觀點并非羅博深教授的「紙上談兵」,也不僅僅停留在提出問題或理念的層面。基于數(shù)學教育領域十多年的工作經(jīng)驗,他對此有深入的思考,并試圖提出了啟發(fā)性的解決方案。
數(shù)學大佬怎么看?
在谷歌DeepMind倫敦總部的實驗室,研究團隊在慶祝每次AI里程碑時,內部承襲著一個傳統(tǒng)——敲響大鑼。
2016年,AlphaGo在圍棋比賽中表現(xiàn)優(yōu)異,鑼聲響起;2017年,當AlphaZero征服國際象棋時,鑼聲再次回蕩。
每次一敲鑼,都代表著算法擊敗了人類冠軍。
就在AlphaProof+AlphaGeometry2奪得了奧賽IMO2024銀牌的那天,倫敦總部再次敲響了銅鑼。
紐約時報的這篇報道深入團隊內部,讓我們對這位AI數(shù)學家有了更深一層的了解。
文章表示,AI越來越擅長數(shù)學,并且很快就會成為人類最值得合作的伙伴。
DeepMind數(shù)學計劃負責人之一Alex Davies表示,這是AI在數(shù)學推理方面,取得的重大突破。
7月11日-22日,IMO2024在倫敦以西約100英里的巴斯大學舉行,被公認為是世界上「最聰明的數(shù)學天才」參加的頂級數(shù)學競賽。
人類選手(來自108個國家的609名高中生)贏得了58枚金牌、123枚銀牌和145枚銅牌。
谷歌AI在答題的過程中,解決了6個問題中的四個,總得分28分,與金牌僅差一分。
對此,谷歌DeepMind研究副總裁Pushmeet Kohli在接受采訪時表示,「這并不完美,我們沒有解決所有問題。我們的目標是做到完美」。
盡管如此,Kohli博士將這一結果描述為一種「相變」(phase transition),一種革命性的變化,即在數(shù)學中使用AI,以及AI系統(tǒng)進行數(shù)學運算的能力。
DeepMind實驗室邀請了2位獨立專家,來評判AI的表現(xiàn)——劍橋大學數(shù)學家、菲爾茲獎得主Timothy Gowers,以及軟件開發(fā)人員Joseph Myers。
他們都曾是IMO競賽獲獎者,紛紛表示對這次AI的表現(xiàn)印象深刻。
過去25年來,Gowers一直對AI與數(shù)學結合感興趣,他認為,「AI已經(jīng)找到了解決問題的神奇鑰匙」。
銅鑼敲響每年IMO,人類選手們都要經(jīng)過幾個月的嚴格訓練,去參加兩場奧數(shù)考試(共9小時)。
每天僅需做答三題,涉及了代數(shù)、組合學、幾何和數(shù)論。
與此同時,AI數(shù)學家也在倫敦實驗室里,埋頭苦干。
研究科學家David Silver說,「每次系統(tǒng)解決一個問題,我們就敲鑼慶?!?。
IMO結果公布那天,中國隊中的Haojia Shi是唯一一位獲得滿分(42分)的參賽者,6道題目分別拿了7分滿分成績。
總榜成績中,美國隊以192分獲得第一名,中國以190分獲得第二名。
這邊,谷歌AI成功破解了4道題——2道代數(shù)題、1道幾何題和1道數(shù)論題,得分28分。它在另外兩個組合學問題上,失敗了。
與人類選手不同的是,AI答題完全不限時間。
對于某些問題,AI需要長達三天的時間,而學生在每場考試中僅有4.5小時。
Silver博士解釋道,「對于谷歌DeepMind團隊來說,速度是整體成功的次要因素。因為這實際上只是取決于算力的投入」。
他繼續(xù)稱,「我們能夠達到這個閾值,能夠解決這些問題,這代表了數(shù)學史上的一個重大變化。但也希望能成為一個轉折點,讓計算機從只能證明簡單問題,到證明人類無法證明的問題」。
兩大團隊,兩個AI數(shù)學家幾年來,將AI應用于數(shù)學一直是DeepMind使命的一部分,而且通常是與世界級的研究數(shù)學家合作。
Davies博士表示,數(shù)學需要抽象、精確和創(chuàng)造性推理的有趣結合。
他指出,部分原因是這種能力組合,使數(shù)學成為達到所謂的AGI這一最終目標的良好試金石,而且這也是OpenAI、Meta AI、Xai等公司一直在追逐的目標。
因此,奧林匹克數(shù)學題已成為公認的一個基準。
今年年初,谷歌DeepMind首次發(fā)布AlphaGeometry,解決了奧林匹克抽樣的幾何問題,水平相當于人類金牌獲獎者。
論文地址:https://www.nature.com/articles/s41586-023-06747-5
首席研究員Thang Luong在電子郵件中表示,AlphaGeometry2在解決IMO問題上已經(jīng)超過了金牌得主。
借著這股勢頭,谷歌DeepMind為這項挑戰(zhàn)組建了兩個團隊:
一個由倫敦的研究工程師Thomas Hubert領導,另一個團隊由位于美國Mountain View實驗室的Luong博士和Quoc Le領導,每個團隊約有20名研究人員。
Luong博士領導的團隊名為「超人類推理團隊」,目前為止招募了十幾名IMO獎牌獲得者。
谷歌DeepMind超人類推理團隊(superhuman reasoning team)
他自豪地表示,這是目前為止,谷歌內部「IMO密度最高」的團隊。
大約20年前,我全身心投入奧數(shù)競賽,在全國獲得銀牌(當時排名第8),但我沒能進入2005年的 IMO比賽.....,時光荏苒,我非常高興谷歌最新的AI系統(tǒng)(AlphaGeometry2+AlphaProof)幫我實現(xiàn)了「贏得」IMO獎牌的夢想!
時隔半年,谷歌推出迭代后的AlphaGeometry2,僅用了19秒,解決了IMO2024的幾何問題。
另一波在倫敦總部的團隊,由Hubert領隊,開發(fā)了全新模型AlphaProof。它具有可比性,更加通用,目標是為了解決更廣泛的數(shù)學問題。
背后算法揭秘簡言之,AlphaGeometry和AlphaProof利用了多種不同的AI技術。
非形式推理系統(tǒng)
AlphaProof是用自然語言表達的非形式推理系統(tǒng)(informal reasoning system)。
它基于谷歌Gemini打造,使用已公開的問題、證明等英文語料庫作為訓練數(shù)據(jù)。
非形式系統(tǒng)擅長識別模式,以及提出下一步建議。而且它富有創(chuàng)造性,以一種自然語言可以理解的方式談論想法。
當然,LLM傾向于編造內容,這對詩歌可能行得通(也可能不是),但對數(shù)學肯定不行。
在數(shù)學這種情況下,大模型似乎表現(xiàn)出了克制。但這并不是說,它完全免疫于「幻覺」,但頻率有所降低。
形式推理系統(tǒng)
AlphaGeometry是基于邏輯并用代碼表達的形式推理系統(tǒng)。
它使用了名為Lean的定理證明器和證明助手軟件。該軟件可以確保,如果AI認為證明是正確的,那么它確實是正確的。
Hubert表示,「我們可以準確地檢查證明是否正確,因為每一步都保證在邏輯上是合理的」。
而另一個關鍵組件是,AlphaGo和AlphaZero譜系中的強化學習算法。
谷歌DeepMind負責強化學習的副總裁Silver博士說,「AI可以自主學習,無限擴展」。
「由于RL算法不需要要老師,所以它可以不斷地學習,一直學習,直到最終它能夠解決人類可以解決的最困難的問題」。
數(shù)學家,會被AI取代嗎?
菲爾茲獎得主Gowers并不擔心AI數(shù)學家,帶來的長期后果。
我們可以假想這樣一種情況,數(shù)學家基本上沒有什么可做的了。如果計算機在數(shù)學家目前做的所有事情上都變得更好、更快,那就會是這種情況。
不過,在AI能夠進行研究級數(shù)學之前,似乎還有很長的路要。
他補充道,「如果谷歌DeepMind能至少解決一些棘手的IMO問題,那么一個有用的研究工具就不會太遙遠」。
而一個真正熟練的AI工具,可能會讓數(shù)學更容易上手,加速研究過程,還能讓數(shù)學家跳出固有思維。
最終,它甚至可能提出引起共鳴的新奇想法。
參考資料:
https://x.com/AravSrinivas/status/1817422458540155334
https://x.com/PoShenLoh/status/1816500461484081519
https://mathstodon.xyz/@tao/112850716240504978
https://www.nytimes.com/2024/07/25/science/ai-math-alphaproof-deepmind.html
以上就是關于【秘密打造「AI陶哲軒」 震驚數(shù)學圈!谷歌IMO夢之隊首曝光,菲爾茲獎得主深度點評】的相關內容,希望對大家有幫助!