NTO:谷歌痛失大將：“AI教父” Geoffrey Hinton離職，只為給人類敲響警鐘？_MOMENTO

文|Juny??編輯|VickyXiao

進入2023年以來，科技界里彷佛沒有了大事，只剩下了人工智能。人人都在談論ChatGPT、科技圈開卷大模型、OpenAI估值節節攀升、大公司你追我趕硝煙四起……

而這一切繁榮的背后，其實都離不開三位人工智能研究者的工作———曾因提出和發展深度學習神經網絡，在2019年獲得計算機界最高榮譽“圖靈獎”的GeoffreyHinton、YoshuaBengio、YannLeCun。

可以說，沒有這三位學者的研究，我們今天根本看不到ChatGPT、Bard的出現，也不會這么快的就能在日常生活中使用語音識別、人臉識別、圖片檢索、機器翻譯、自動駕駛等技術。

其中，GeoffreyHinton是“三巨頭”中最核心的人物，被業界譽為“人工智能教父”。他在2013年加入谷歌，把深度學習技術帶進了谷歌的多項業務，直接推動谷歌成為了AI技術最出色的公司之一。同時，他還親自培養了一大批機器學習相關的人才，包括了如今OpenAI的聯合創始人和首席科學家IlyaSutskever。

谷歌對“加密”的搜索量降至2020年以來低點:金色財經報道，根據谷歌趨勢的數據，“加密”一詞目前的熱度為17，遠低于2021年5月的參考點100。比特幣和以太坊也遵循了類似的下行軌跡。

投資者對比特幣的興趣下降之際，比特幣已經連續10周穩定在2.8萬美元左右。Galaxy Digital首席執行官最近將其描述為“缺乏活力”，因為“目前缺乏機構的興奮感”。[2023/6/5 21:16:46]

“深度學習三大先驅”，圖片來自于推特

而就在加入谷歌的第十年、深度學習迎來爆發式發展的當下，幾周前，現年75歲的GeoffreyHinton辭去了他在谷歌的工作。而離職的原因，用他的原話來講，是想要沒有任何負擔的給所有人講一些他關于人工智能發展的“真心話”。

來自“人工智能教父”的擔憂和警告

如果說誰最熱愛深度學習相關的人工智能研究，GeoffreyHinton一定是最有發言權的那一位。從上個世紀70年代至今，GeoffreyHinton作為計算機神經網絡的開拓者，已經在這個領域默默耕耘了近50年。

對于GeoffreyHinton來說，從無到有的創造一個全新概念和技術的過程曾經無比艱難。

谷歌披露其超計算機速度、能耗效率高于英偉達A100芯片構建的同類系統:4月10日消息，谷歌本周披露其訓練人工智能模型使用的超級計算機的最新細節，其稱這些系統的速度和能耗效率均高于英偉達基于A100芯片的同類系統，其90%以上的人工智能訓練任務都通過谷歌擁有自主定制的TPU芯片完成。

目前，AI芯片主要包括GPU、FPGA、ASIC等。ASIC作為專用集成電路，廣泛應用于人工智能設備等領域，其根據終端功能又細分為TPU芯片、DPU芯片和NPU芯片等。資料顯示，ASIC在吞吐量、功耗、算力水平等單個方面都是最優秀的，其中，TPU比同時期的GPU或CPU平均提速15-30倍，能效比提升30-80倍。[2023/4/10 13:53:53]

從上個世紀80年代他提出神經網絡理論開始，一直到本世紀初，長達20多年的時間里，學術界對神經網絡理論都充滿質疑，同時，受制于當時數據集規模限制以及計算機算力的不足，相關研究的進展也一度非常緩慢。在這個漫長的過程中，一些人放棄了、一些人轉了研究方向，但GeoffreyHinton從未放棄過關于深度學習神經網絡的研究。

但如今，深度學習終于守得云開見月明，所有人都開始向深度學習里瘋狂砸人力、砸資金，堅守了多年的GeoffreyHinton這時卻想要大家都暫停腳步，甚至對自己付出了一生心血的研究感到有些后悔，為什么？

聲音 | 谷歌前副總裁：與以Grin為代表的Mimblewimble協議相比，Origo具有更好的匿名性:谷歌前副總裁 Tyler Innes 發布文章對隱私加密貨幣技術進行介紹和分析。其中他對比了Origo的隱私性和以Grin為代表的Mimblewimble隱私技術，在他看來Origo的隱私性要比Grin更好。

Tyler Innes稱與Mimblewimble協議相比，Origo協議使用ZK-SNARKS來保護發送者和接收者地址的隱私。Origo的一大優點是。Origo的私有交易模型中的匿名集是其所有此前已經創建的私有記錄。從信息論的角度來看，這是與Mimblewimble中典型的2~4個匿名集的大小相比可以提供更強的匿名性。在Mimblewimble中很容易追蹤到私有交易，但是由于Origo的匿名集很大，所以不可能鏈接到它的私有交易。

另外，Mimblewimble是UTXO的基本交易模型，它不支持智能合約。但相比之下Origo支持保護隱私的智能合約。很多對隱私性敏感的去中心化應用只能在Origo網絡上運行。

總之，與Mimblewimble相比，Origo具有更好的匿名性。而Origo在隱私保護應用程序方面也有更大的應用潛力，關心隱私的用戶或許應更多的關注Origo網絡。原文地址點擊鏈接。[2020/2/4]

在最近接受紐約時報的專訪中，GeoffreyHinton表示，自己此次從谷歌離職并不是因為要批判谷歌，而是他能夠在不影響谷歌的情況下，去真實地談論AI的潛在風險。

動態 | 谷歌插件數字錢包MetaMask被刪除:據Newsbtc報道，谷歌Chrome瀏覽器插件型數字錢包MetaMask突然從該瀏覽器的網上商店中被刪除。目前，MetaMask團隊沒有找到導致這種情況的原因。根據團隊官方社交媒體顯示，已經在Chrome瀏覽器中安裝了該軟件的人將不會受到影響。但新用戶無法通過谷歌Chrome訪問MetaMask插件的安裝程序。[2018/7/26]

在他看來，作為AI技術的領軍者，過去這些年谷歌一直扮演著一位“負責任的管家”的角色，小心翼翼地保留和控制著那些可能造成傷害的技術。但由于微軟極快的將Bing和ChatGPT結合并向公眾發布，挑戰了谷歌核心的搜索引擎的業務，所以谷歌也無法像過去那樣繼續保持著發展節奏，科技巨頭陷入了一場可能無法停止的競爭之中。

在這樣的情況下，他需要以一名研究者而不是谷歌員工的身份站出來，給大家發出警告。結合整個采訪來看，Hinton主要有以下幾個方面的擔憂。

一是在人工智能技術的支持下，他認為互聯網將很快被各種虛假信息淹沒。這些信息包括文字、照片、視頻等，而普通人將越來越難分辨這些信息的真假，引發社會的失序。

行情丨BTC谷歌搜索指數呈現走高趨勢:據谷歌數據顯示，BTC谷歌搜索指數近來呈現上升趨勢，5月24日至30日指數較之前相比增長21。目前指數為33。[2018/7/2]

二是就業市場可能在就業市場還沒有準備好的情況下被顛覆，造成失業潮的爆發。雖然目前像ChatGPT這樣的聊天機器人還只是對人類工作的補充，但按照人工智能的發展速度，它們將很快可以取代律師助理、翻譯、行政助理等其他任何基礎的、重復性的工作。“它消除了苦差事，但帶走的可能遠不止于此。”Hinton表示。

此外，他還擔心人工智能技術的接下來的發展會對人類社會構成威脅。他承認，在他們過去的研究之中，人工智能常常能從大量數據中學習進而產生出很多讓人意想不到的行為。而當前，包括個人和公司在內的很多使用者們不僅讓人工智能自主生成代碼，也讓人工智能運行和管理著代碼。在這種不斷的訓練之中，很有可能讓“自主殺手機器人”真的成為現實。

“很多人都覺著這很遙遠，我曾經也是這么認為的，覺得至少還要有30-50年我們才會走到那一天。但就我目前所了解到的信息而言，我已經不這么想了。”Hinton認為，谷歌和微軟以及其他大型公司之間的競爭，將很快升級為一場全球性競爭，如果沒有某種監管，這場競爭將不會停止，人工智能發展的速度會遠超我們的想象，并最終走向失控。

呼吁AI監管的聲音越來越強

如果以上這些話從別人口中說出來，大家可能仍然會覺得這些觀點帶著危言聳聽的意味。但當如今世界上人工智能領域最權威的專家、深度學習的奠基人GeoffreyHinton也這么說時，也引發了更多人開始認真思考和關注這個問題。

實際上，在此次GeoffreyHinton發聲之前，最近幾個月來人工智能領域就已經發起過兩波大型的聯名，呼吁謹慎地發展人工智能技術。

一次是由馬斯克、YoshuaBengio等數千名來自學術界和企業界的大佬呼吁至少暫停6個月比GPT-4更強模型的研究的公開信。另一次則是由擁有40多年歷史、人工智能領域最權威學術機構之一的人工智能促進協會的19名現任及前任領導人所發布的聯名信，其中也包括了微軟現任首席科學家、人工智能研究專家EricHorvitz。

雖然此前馬斯克他們暫停模型研發的呼吁在業界受到了爭議，包括YannLeCun、吳恩達在內的研究者都對停止研發“一刀切”的做法表示了反對，甚至也有人質疑馬斯克等人提出暫停研發是為了私利。但目前看來，關于共同加強AI監管、預防潛在性危險發生的觀點，大家的看法幾乎都是一致的。

在今天GeoffreyHinton的報道發出后，吳恩達第一時間轉發了GeoffreyHinton的推特表示支持，感謝Hinton對于人工智能技術所做出的不可估量的貢獻，以及對人工智能在虛假信息、自動機器和勞動力影響方面的發聲。

一些AI的投資人、研究者今天也紛紛轉發了GeoffreyHinton的訪談，呼吁學界、工業界、政府監管機構應該快速行動起來，趁當前技術還在可控范圍內，盡快制定好監管框架和應用方案等。

當然，也有研究者并不認同AI威脅論，其中就包括了GeoffreyHinton曾經的學生、研究的伙伴YannLeCun。他此前多次表示，大語言模型根本不算什么，要想真正通往AGI之路，還需要構建“世界模型”。

對此，很多人也很希望這些對于人工智能發展持有不同觀點的研究泰斗們能夠很快來一場深度對談，讓人們更多的了解當前人工智能發展前方的機遇和風險。

AI會成為新時代的“原子彈”嗎？

在此次的訪談中，一個尤其引人關注的地方在于GeoffreyHinton在談到AI風險時，多次提及了核武器。從一定程度上來看，GeoffreyHinton或許認為AI對人類社會的潛在危險并不亞于核武器。

他表示，跟核武器研究不同，現在AI研究更危險的地方在于，我們目前幾乎沒有辦法知道有哪些組織或者國家正在秘密研究這項技術。理想的情況下，全球各國組織和科學家們應該共同進行合作和對技術進行控制，但顯然現在很難做到這一點。

作為深度學習技術的發起人，GeoffreyHinton坦言自己目前甚至有些后悔進行了這項技術的研究。當潘多拉魔盒被打開，作為研究人員很難去防止不好的人利用這些技術去做不好的事。

而Hinton的這種說法也讓人不由地想起了當年“原子彈之父”羅伯特·奧本海默相似的心路歷程。當年，美國在廣島長崎投放原子彈兩個月之后，奧本海默辭去了職務，之后他在擔任美國原子能委員會顧問期間一直致力于游說國際機構對軍備進行管制，并運用影響力宣揚控制核武器和核不擴散運動。

GeoffreyHinton說，以前人們問他如何從事具有潛在危險的技術時，他總會會引用奧本海默的話：“當你看到一個東西擁有美妙的技術前景時，就盡管去做吧。”但現在，他已經不會再那樣說了。

“人們不應該快速擴大AI研究的規模，直到足夠了解自己是否能夠控制它，”GeoffreyHinton說道。

*參考資料：

https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html

Tags：NTOTONNTONHINTMOMENTOton幣總量SuntonChintai

PEPE