他本是一位普普通通的高中教師,卻活生生養出一個估值40億美元獨角獸。
而且方法也是非常的獨特——
打造了世界最大的免費開源數據集,卻從未從中收取過一分錢,也婉拒了各類工作的邀請。
他叫舒曼,在德國漢堡市的高中教物理和計算機科學。
兩年前他創立了LAION,如今被用于各種生成模型,包括谷歌Imagen、Parti,以及驚艷全球的StableDiffusion。
就連StableDiffuision背后公司StabilityAI的創始人曾親自來送錢時,他都表現出嗤之以鼻的樣子,認定“這個人一定是瘋了”。
或許他怎么也沒想到,只不過兩年前靈機一動,就帶來了生成式AI的劇變。
受DALL-E啟發
2021年新年之際,OpenAI重磅推出DALL-E,GPT-3首次成功實現跨界:
Algorand升級協議并縮短出塊時間,ALGO 24H漲幅逾4%:6月22日消息,周四,Algorand升級其協議,以減短平均出塊時間,使網絡上的應用程序開發更快、更具成本效益。
Algorand首席產品官Paul Riegle表示,其PoS區塊鏈的升級將把出塊時間從3.8秒減少到3.3秒。
其他改進包括一個模擬器,允許開發人員在將代碼庫部署到主網之前測試和模擬問題,以及一個新的插件框架,允許人們創建簡單的、可定制的數據。
歐易OKX行情顯示,ALGO代幣現報0.1270 USDT,24H漲幅為4.27%。[2023/6/22 21:55:02]
只需對著它說上一段話,就能生成對應圖片。
一時間風光無兩,吳恩達在內的科技大佬們都激動了,網友們都稱其為甲方克星。
但在德國漢堡市郊區的一間房屋內,這位高中教師舒曼卻產生了對數據私有化的擔憂:
如果這一切都集中在一家、兩家或三家公司,那將對社會產生非常糟糕的影響。
當時,OpenAI發表了背后關鍵模型CLIP的論文。論文中顯示,CLIP在4億個圖像-文本對上進行了預訓練,在沒有精細調整的情況下,最終在各種多模態基準中實現高性能。
數據:全球擁有超4.2億加密貨幣用戶,其中2.6億在亞洲:6月21日消息,Triple數據顯示,截至2023年,估計全球加密貨幣擁有率平均為4.2%,全球擁有超過4.2億加密貨幣用戶,其中大部分在亞洲(2.6億),其次是北美(5400萬)、非洲(3800萬)以及南美(3300萬)。[2023/6/21 21:51:33]
由此可見數據集對于CLIP的重要性,但OpenAI并沒有進行公開,它只開源了CLIP的代碼和模型權重。
于是乎,舒曼就開始在Discord網羅了一群同為AI愛好者的朋友,嘗試復制OpenAI同等水平的「文本-圖像對」數據集。
沒想到這一搞就搞了大半年,直到2021年8月他們首次發布了LAION-400M數據集,里面包含了4.13億圖像-文本對。
回顧整個創建過程,舒曼對彭博社這樣形容:
就像是用數百萬張抽認卡來教一個人一門外語。
Proof首席執行官兼聯合創始人個人錢包遭黑客攻擊:金色財經報道,Proof 的首席執行官兼聯合創始人凱文·羅斯 (Kevin Rose )周三在推特上表示,他的個人錢包遭到黑客攻擊。在他的推文中,Rose建議他的 160 萬粉絲避免購買任何 Chromie Squiggles,這是 Art Blocks 創始人埃里克卡爾德隆(又名 Snowfro )的一個生成藝術 NFT 項目。羅斯說他丟失了 25 個 Squiggles,以及“其他一些 NFT”,包括一個 Autoglyph。
二級市場OpenSea上 Squiggle 的底價為 13.3 ETH,在撰寫本文時約為 20,700 美元。更稀有的 Squiggles NFT甚至以高達 945 ETH或 280 萬美元的價格售出。[2023/1/26 11:30:36]
他們用一個非盈利組織CommonCrawl在2014年到2021年期間,抓取的隨機HTML代碼來定位網絡上的圖像,并將這些圖像與描述性文本聯系起來,最后還得根據一定規則來過濾掉不適合的樣本。
比如,刪除了所有文本長度少于五個字符;圖像小于5KB的的樣本;關鍵字帶有NSFW的……幾周之內,他們就擁有了300萬對圖文對。
ApeCoin DAO發起構建APE生態網站的提案投票:據官方消息,ApeCoin DAO社區已發起新提案AIP-123投票,該提案擬構建一個名為Apeverse的APE生態網站,及時向ApeCoin持有者傳遞APE相關信息。根據提案,該生態網站將支持多語言,最先支持英文、中文、日文和韓文,同時將支持ApeCoin支付系統的衍生產品銷售。[2022/12/5 21:22:56]
數據集發布之后就收到了各種反響,被用于諸多論文和實驗。其中最具代表性的,就是GoogleBrain去年發布的Imagen——文本生成圖像的擴散模型。
與此同時,更多機構開始關注到這個非盈利組織并給予資金支持。2021年他們就收到了HuggingFace的一次性捐贈。
但印象最深的一次,還要屬一個對沖基金經理來到Discord聊天室。
當時他二話不說直接送錢,大概意思是:我給你們支付算力費用,沒有任何附加條件。
全球證券監管機構主席:FTX破產后全球監管機構將瞄準加密平臺:金色財經報道,全球證券監管機構IOSCO的新任主席在接受采訪時表示,FTX交易所的破產給監管加密行業敲響警鐘,針對此類加密平臺將成為2023年監管重點。(鞭牛士)[2022/11/24 8:04:39]
舒曼團隊對這個行為嗤之以鼻,甚至覺得他是個瘋子:
一開始我們非常懷疑,但大概一個月后,我們獲得了價值近1萬美元的云計算服務。
后來,這個所謂的“瘋子”創辦了StabilityAI,使用LAION數據集推出了StableDiffusion,引領了生成式AI的浪潮,順便還拐走了LAION組織的兩個研究人員。
如今StabilityAI正在尋求40億美元估值,這主要歸功于LAION提供的數據。
據彭博社消息,舒曼卻并沒有從LAION中獲利,原因很簡單:不感興趣,希望保持這份工作的獨立性。
因此他還婉拒了各類工作邀請,依舊選擇在德國漢堡當一名普普通通的高中老師。
本人:數據集不應該被監控
即便如此,隨著LAION知名度打響,他還是避免不了地卷入到各種紛擾之中。
目前,LAION已經發布了10項數據集,最具代表性的就是去年3月發布的LAION-5B,由58.5億個圖像文本組成,是當前最大的免費開源數據集。
作為LAION-400M的繼任者,它收到了來自HuggingFace、StabilityAI以及Doodlebot資助。
結果一發布就遭到了不小的爭議,網友們紛紛質疑其數據未經整理,導致充斥大量的非法內容,對此LAION工程師RomainBeaumont回應:
非標注數據集是自我監督學習的基礎,這是機器學習的未來。沒有人工標注的圖像/文本是一項功能,而非錯誤。
早在Imagen發布時,也專門針對LAION-400M做出警示:因為依賴于這種未經整理的網絡數據,集成了大模型的社會偏見和限制,因此不適合公開使用。
據彭博社消息,為了打造LAION,舒曼團隊從亞馬遜網絡服務、Shopify等公司獲取視覺數據,還有包括YouTube縮略圖、各類新聞網站上的內容。
對此舒曼表示,任何在網上免費提供的東西都是公平競爭,歐盟也沒有人工智能法規。
更何況,也沒有人知道OpenAI實際上用什么樣的數據集訓練AI的。
目前,LAION被迫卷入兩場訴訟之中,一起是StabilityAI與Midjourney等集體訴訟,被指使用藝術家的版權圖片來訓練他們的模型;
另一起是GettyImages起訴StabilityAI,稱其1200萬張照片被LAION取走,并用來訓練StableDiffusion。
而舒曼將LAION比作大信息技術海嘯之上一艘“小型研究船”,采取海下的樣本向世界展示。
其實早在構建數據庫時,他們就在運行一個自動化過濾工具,不過舒曼感興趣的不是清理,而是從這些資產中學習。
我們本可以從公布的數據中過濾掉暴力,但我們決定不這樣做,因為這將加快暴力檢測軟件的開發。
現在更多關于監管的建議在推動,各個科技大廠也在采取相應的措施,比如英偉達就開源了護欄工具,來防止大模型來胡說八道。
但在舒曼看來,數據集不應該被監控。這也正是當時創建LAION時候的初心。
他還警告,如果我們試圖放慢速度、過度監管,就會有很大的危險,最終只有少數大公司能負擔得起所有的正式要求。
前段時間,在LAION與全球志愿者的合力之下,他們完成了ChatGPT最大開源平替OpenAssistant的發布。
60萬余條訓練數據全部由人工生成,涵蓋了廣泛的話題和語言風格,一時間引發眾人關注,HuggingFace也直接拿來用來構建它自己的聊天軟件HuggingChat。
拿著德國鐵飯碗
不可否認的是,他已經在用開源數據集,加劇了生成式AI的浪潮。
但在舒曼的個人網站上,看到的只是一位兩個孩子的父親,在德國當著終身制公務員,游走于中學校之間講授物理和計算機科學。
舒曼擁有維也納大學計算機科學與物理學學位。在學習這兩個專業之前,他還學了心理學。。
除此之外,他還在學習表演,制作了一部關于孩子學習的紀錄片「SchoolsofTrust」。
最近,這位高中教師也沒閑著,他還將作為2023年智源大會嘉賓參與邀請報告與線上論壇環節。
參考鏈接:https://laion.ai/blog/laion-400-open-dataset/https://www.bloomberg.com/news/features/2023-04-24/a-high-school-teacher-s-free-image-database-powers-ai-unicornshttp://christoph-schuhmann.de/https://www.infoq.com/news/2022/05/laion-5b-image-text-dataset/https://laion.ai/projects/
來源:元宇宙之心
頭條 BNBGreenfield?主網將于今年第三季度啟動Odaily星球日報訊去中心化存儲基礎設施BNBGreenfield主網將于?2023?年第三季度啟動.
1900/1/1 0:00:00來源:江南時報網 作者:南京產業協會 元宇宙正逐步從概念變為現實,各類帶有元宇宙標簽的文旅實踐案例頻繁涌現.
1900/1/1 0:00:00當Blur這臺NFT市場的流動性發動機也逐漸熄火: Blur?自身乃至各?NFT?市場的?ETH?交易總量都在不斷下滑當Doodles、CloneX、Moonbirds三個「老藍籌」不斷下跌成為.
1900/1/1 0:00:00出品:歐科云鏈研究院 作者:JasonJiang過去20余年,香港是全球最自由的經濟體之一。Web3數字游民們如今追尋著自由的氣息,匯集在香江兩岸.
1900/1/1 0:00:00除了大火的?BRC-20?以外,比特幣現在還有包括?BRC-21、ORC-20等諸多創新,或許都可潛在的下一個熱點.
1900/1/1 0:00:00原文作者:DanielLi,CoinVoice在區塊鏈領域,最大化價值提取問題一直備受關注。MEV?是一種在區塊構建過程中通過優化交易順序從中獲利的手段.
1900/1/1 0:00:00