本文作者為哈工大SCIR實驗室丁效,李忠陽,劉挺,雷鋒網獲權轉載。
2016年7月,哈工大社會計算與信息檢索研究中心開始啟動事理圖譜的研究工作。2017年10月,研究中心主任劉挺教授在中國計算機大會上正式提出事理圖譜的概念。2018年9月,在研究中心丁效老師的主持下,研制出中文金融事理圖譜1.0版本,2019年7月更新為2.0版。本文是對2016年7月以來工作的最新總結,敬請各位同行指正。
引言
事件是人類社會的核心概念之一,人們的社會活動往往是事件驅動的。事件之間在時間、空間上相繼發生的演化規律和模式是一種十分有價值的知識。然而,現有的典型知識圖譜均以實體及其屬性和關系為研究核心,缺乏對事理邏輯這一重要人類知識的刻畫。為了彌補這一不足,事理圖譜應運而生,它能夠揭示事件的演化規律和發展邏輯,刻畫和記錄人類行為活動。在圖結構上,事理圖譜是一個有向有環圖,其中節點表示事件,有向邊表示事件之間的演化關系。現實世界中事件演化規律的復雜性決定了我們必須采用這種復雜的圖結構。本質上,事理圖譜是一個事理邏輯知識庫,描述了事件之間的演化規律和模式。
1.研究背景及意義
隨著深度學習的興起,人工智能迎來了新的發展高潮。人工智能的一個發展瓶頸在于,如何讓機器掌握人類知識。例如,人類能輕易理解“吃過飯”后,就“不餓”了這樣的常識知識,而讓機器理解并掌握大量這樣的知識是一件極其困難的事情,而這也是通往強人工智能的必由之路。在眾多類型的人類知識中,事理邏輯是一種非常重要且普遍存在的知識。
Curve向CRV/ETH池黑客公布還款地址:8月9日消息,Curve官方發推稱,“CRV/ETH池黑客需將資金返還至由Curve DAO控制的地址0x4090......b9968。”
值得一提的是,Curve于8月7日曾表示容許該黑客自愿歸還資金的截止日期已過,將不再視其為白帽,同時將向任何可提供相關線索的用戶給予10%追贓數額的報酬。[2023/8/9 21:34:52]
許多人工智能應用依賴于對事理邏輯知識的深刻理解。以隱式消費意圖識別以及隱式情感分析為例,只有讓機器知道“結婚”事件伴隨著后續一系列消費事件,例如“買房子”、“買汽車”和“去旅行”,我們才能在觀察到“結婚”事件的時候,準確地識別出用戶潛在的隱式消費意圖,進而向目標用戶做出精準的產品推薦。只有讓機器掌握“考試不及格”會引起“情緒低落”這樣的常識事理,才能從顯式事件當中挖掘出用戶背后的隱式情感。現有的對話生成系統大多從大規模對話語料中以最大似然估計進行訓練。然而人類對話的語義和語境是復雜多變的,這樣得到的對話系統很難深入理解對話上下文的前因后果,而只是對訓練語料中特定問答模式的記憶。只有讓機器理解了“吃過飯”之后“人不餓了”,“看電影”之前要“先買票”這樣的常識事理,對話系統才能根據不同的問答語境,做出更加智能的回復。股市一般伴隨著短期內隨機的小波動,以及長期內重大事件驅動的大波動。例如,近來隨著人工智能迎來發展高潮,以及“國家將人工智能列為國家發展戰略”,科大訊飛等人工智能企業股價迎來了一波大漲。事件驅動的股市預測悄然興起。從金融文本中挖掘“糧食減產”導致“農產品價格上漲”,再導致“通脹”,進而導致“股市下跌”這樣的遠距離事件依賴,對于事件驅動的股市漲跌預測非常有價值。事理邏輯知識的挖掘與知識庫構建迫在眉睫,這將極大地推動多項人工智能應用的發展。
數據:ParaFi Capital于2小時前將1206枚MKR轉入Coinbase:金色財經報道,據 Spot On Chain 數據顯示,區塊鏈投資公司 ParaFi Capital 通過地址開頭為 0xD9B 的中間錢包于 2 小時前將 1206 枚 MKR 轉入 Coinbase,均價 699.62 美元(合計 84.4 萬美元)。[2023/5/3 14:39:54]
事件是人類社會的核心概念之一,人們的社會活動往往是事件驅動的。事件之間在時間上相繼發生的演化規律和模式是一種十分有價值的知識,挖掘這種事理邏輯知識對我們認識人類行為和社會發展變化規律非常有意義。然而,當前無論是知識圖譜還是語義網絡等知識庫的核心研究對象都不是事件。盡管傳統知識圖譜在現代搜索引擎中得到了廣泛應用,但是其聚焦于實體和實體之間的關系,缺乏對事理邏輯知識的挖掘。我們認為事理邏輯知識,包括事件之間的順承、因果、條件和上下位等關系,對于人工智能領域的多種任務具有非常巨大的價值。為了揭示事件的演化規律和發展模式,我們提出了事理圖譜的概念,旨在將事件的演化規律和模式構建成一個有向圖形式的事理知識庫,用于刻畫和記錄人類行為活動和事件客觀演化規律。
2.事理圖譜的定義
事理圖譜是一個事理邏輯知識庫,描述了事件之間的演化規律和模式。結構上,事理圖譜是一個有向有環圖,其中節點代表事件,有向邊代表事件之間的順承、因果、條件和上下位等事理邏輯關系。
蘇富比拍賣行將拍賣《雪崩》的手稿:金色財經報道,蘇富比拍賣行將拍賣《雪崩》(Snow Crash)的手稿,該書由Neal Stephenson于1992年出版,他因創造了“元宇宙”(metaverse)一詞而聞名。此次拍賣還將包括《Snow Crash》的排版手稿,以及用于宣傳該項目的35毫米幻燈片(最初的構思是一本漫畫小說),以及一把手工鍛造的塔奇劍,靈感來自小說主人公所使用的武器。[2023/2/24 12:26:29]
理論上,事理圖譜中的事件是具有一定抽象程度的泛化事件。表示為抽象、語義完備的謂詞短語或句子,也可以表示為可變長度的、結構化的(主體、事件詞、客體)多元組,其中必然包含一個事件詞,標志事件的發生,例如:“跑步”,而事件的主體和客體都可以在不同的應用場景下被省略,例如:“”可以省略事件的客體,“”可以省略事件的主體。一般情況下,事件以及事件的抽象程度與該事件發生的場景緊密關聯在一起,脫離了具體的場景,一個單獨的事件可能變得過度抽象而難以理解。
例如,雖然脫離了具體的場景,但“吃火鍋”,“看電影”,“去機場”,“地震”仍是合理的事件表達;但“做事情”,“吃”等事件由于過度抽象,屬于不合理或不完整的事件表達。事件詞可以是動詞或名詞,但是絕大多數事件都是動詞觸發的。其中,按動詞的內容意義進行劃分,可將事件分為動作類事件、狀態類事件、關系類事件與能愿類事件四個大類。
韓國男子因“挪用”合作公司240萬美元的ETH而被判處5年監禁:2月7日消息,一名韓國公司首席執行官因從合作公司“挪用”價值240萬美元的以太坊而被判處5年監禁。這名姓氏為Chae的43歲的男子是一家與加密基金打交道的“營銷機構”負責人。
法院獲悉,2018年10月,Chae開始“任意”將其中一些ETH資金轉移到他擁有的另一家公司的賬戶上。最終通過“數十筆交易”轉移了“共計21245.99 ETH”。
檢方還指控Chae將其中一些加密貨幣換成法幣,并將它們轉移到以他妻子名義持有的錢包中。(Cryptonews)[2023/2/7 11:52:46]
2.1事理圖譜中的事件關系類型
我們認為,現實世界中有四種事理邏輯關系特別重要,也是我們提出的事理圖譜中主要關注的事理邏輯關系,包括事件之間的順承關系、因果關系、條件關系和上下位關系。
順承關系是指兩個事件在時間上相繼發生的偏序關系。我們借鑒TimeML時序關系類別中的before和after偏序關系,在事理圖譜中的順承關系包括兩種情況:一種情況是順承的前序事件a結束后,后序事件b緊接著發生;另一種情況是前序事件a結束后,隔一段時間后序事件b才會發生,具體如圖1所示。兩個前后順承的事件之間存在一個介于0到1之間的轉移概率,表示從一個事件按時序順承關系演化到下一事件的置信度。
GSR公布其NFT投資組合“GSR Blue”,包含基于以太坊和Solana的藍籌PFP和生成藝術:6月22日消息,加密做市商GSR公布其NFT投資組合“GSR Blue”,其中包括BAYC #8971、CryptoPunk #8450、CryptoPunk #2290、Moonbirds #8985、Doodle #9317、CloneX #17133等44個NFT。GSR的NFT投資組合選擇了建立在以太坊和Solana網絡上的PFP和生成藝術,都是來自高質量的藍籌集合,具有文化意義且由高度知名的團隊和社區支持。[2022/6/22 4:44:45]
事理圖譜與傳統知識圖譜有本質上的不同。如表1所示,事理圖譜以事件為核心研究對象,有向邊表示事理邏輯關系,即順承、因果、條件和上下位;邊上標注有概率信息說明事理圖譜是一種事件間相繼發生可能性的刻畫,不是確定性關系。而知識圖譜以實體為核心研究對象,實體屬性以及實體間關系種類往往成千上萬。知識圖譜以客觀真實性為目標,某一條屬性或關系要么成立,要么不成立。
4.事理圖譜的構建
4.1基本技術原理
事理圖譜課題主要研究從大規模無結構化文本數據中自動獲取事理邏輯知識,并將這些知識組織成有向有環圖結構,用以描述事件之間的演化規律和模式。這樣的知識庫我們稱之為“事理圖譜”。
事理圖譜項目包含“構建”、“推理”和“應用”三個關鍵技術點:
(1)事理圖譜的構建
事理圖譜的構建主要用到以下具體的自然語言處理技術:事件定義、開放域或限定域事件抽取,事理關系抽取,事理關系置信強度計算,事件相似度計算,事件抽象與泛化等。
(2)事理圖譜的推理
事理圖譜的推理可以用于事件及關系的補全,主要涉及到的技術有:結構化事件表示學習,短語級、句子級事件表示學習,事理圖譜圖結構上的圖神經網絡技術等。
(3)事理圖譜的應用
事理圖譜的應用是指將構建好的事理圖譜用于下游任務,例如消費意圖識別和商品推薦、對話系統回復生成、股市漲跌預測、未來事件預測等,幫助提升具體任務的效果。此階段用到的技術主要有:事理圖譜的存儲與查詢,事件表示學習,事理圖譜表示學習等。
4.2主要技術領域及當前發展熱點
與事理圖譜項目密切相關的技術領域主要包含以下幾個方面:
(1)常識知識庫資源構建
傳統的常識知識庫資源構建主要圍繞實體及其關系展開。2012年谷歌成功將大規模知識圖譜商業化,顯著改善了搜索結果的呈現方式,并提升了搜索引擎的用戶體驗。之后以實體為中心的知識圖譜獲得了長足的發展以及廣泛的應用。時至今日,知識圖譜仍然是學術界的一個發展熱點。知識圖譜上的知識表示學習、實體鏈接、實體消歧、知識圖譜補全等等研究方向仍然是當下研究的熱點問題。
然而,已有研究者注意到事件常識的重要性,部分最新的研究工作開始研究以事件為中心的常識知識庫構建。
(2)統計腳本學習
給出多個事件組成的上文,統計腳本學習研究下一個可能發生的事件是什么,可以認為是建模事件預測的能力。
傳統方法多在無監督抽取的結構化事件鏈條上進行模型的搭建,這條技術路線仍然在發展當中,不斷有新的模型涌現;最近,學者們提出故事結尾預測的評估方式,是對傳統評估方法的進一步完善。
(3)事件順承關系抽取
由于語料標注的限制,事件時序關系抽取研究進展相當緩慢。雖然曾經連續舉辦多個技術評測,推動了該技術的發展,但是進步仍然十分有限。最近,時序關系抽取重新引起了學者的研究興趣,有許多相關研究發表。從預料的構建,識別方法的改進等多個方面繼續推動該研究走向使用階段。目前,已有開放域的時序關系抽取系統發布。
(4)事件因果關系抽取
文本中的因果關系抽取一直是一個難點。雖然學者們提出了許多方法,但是仍以因果模板匹配的方法抽取精確度最好。模板匹配的缺點在于召回率難以保證,許多有價值的因果關系無法召回。目前,高效準確的因果關系抽取方法仍然是一個難點及研究熱點。
(5)知識表示學習與網絡表示學習
知識表示學習是指將知識圖譜中的實體及關系映射到低維稠密向量,進而可以更加方便地用于后續任務當中。網絡表示學習的研究對象不僅僅包含知識圖譜這種網絡,而是更廣義上的網絡。這兩個研究方向都是當下研究的熱點問題,屬于事理圖譜應用階段的實用技術。
5.金融事理圖譜V2.0版本發布
2018年9月10日,HIT-SCIR正式對外發布金融事理圖譜V1.0版本,經過近10個月的潛心研發,HIT-SCIR推出金融事理圖譜V2.0版本,相對于V1.0版本,V2.0版本進行了如下的改進。
金融事理圖譜V2.0版本擴充了數據源,擴大了數據規模,增加了事件節點數量以及因果關系數量,同時增加了事件上下位關系以及抽象事件和抽象因果關系,采用基于BERT+CRF的方法將因果關系抽取的F值由原來的59.54%提升到了85.12%。
結束語
知識圖譜在各個領域精耕細作,逐漸顯露價值。知識表示形式有待突破,推理能力有待提高。統計腳本學習和事件關系識別等事理圖譜相關研究越來越吸引研究者關注。以“謂詞性短語”為節點,以事件演化為邊的事理圖譜方興未艾。事理圖譜必將在預測、對話等領域發揮重要作用,有力地提升人工智能系統的可解釋性。
詳細論文請參考:https://arxiv.org/pdf/1907.08015.pdf
Tags:人工智能SCICIR人工智能技術應用學人工智能后悔死了人工智能考研考哪些科目SCI幣SCI價格CIR價格CIR幣
這是二十四節氣中 第一個帶“寒”字的節氣 天氣將由涼爽向寒冷過渡 秋意更濃,天更涼 世界遺產——杭州西湖文化景觀金銀紀念幣 ——平湖秋色 寒露節 寒露,是二十四節氣中的第十七個節氣.
1900/1/1 0:00:00Chromia—區塊鏈的先驅,以數據庫為中心的分散式應用程序導向平臺. Chromia是ChromaWay開發的一個全新的去中心化應用部署區塊鏈平臺,它為了應對現存通用平臺的短板而生.
1900/1/1 0:00:00貝納利VZ125i是專門為亞洲市場開發的踏板車,VZ125i具有棱角分明的運動設計,是針對年輕客戶推出的。VZ125i從馬來西亞進口在越南經銷,價格不到3,000萬越南盾.
1900/1/1 0:00:00原創:市后諸葛 自動ETH從POW轉型POS后,POS作為POW之外的另一種勢力,開始逐步崛起.
1900/1/1 0:00:006月10日,最大加密貨幣媒體網站之一的CCN將關閉,理由是6月3日谷歌搜索引擎算法的更新(GoogleCoreUpdate)抑制了其流量.
1900/1/1 0:00:00在區塊鏈和加密貨幣浪潮席卷全球、央行加密貨幣前景尚未明朗的當下,全球各大城市推出區域性的加密貨幣似乎正在成為熱潮.
1900/1/1 0:00:00