您的位置:首頁>科技>正文

「金融客服AI新玩法」LSTM+DSSM演算法、多模態情感交互


【新智元導讀】目前, 金融業智慧客服創業公司大量湧現, 一方面說明行業整體技術壁壘較低, 另一方面, 也說明智慧客服的在金融領域的應用商業場景還有巨大的開發空間。

如何在構建技術壁壘的同時開發更多的商業場景, 是創業公司能夠脫穎而出關鍵。

目前, 人工智慧已經在金融領域滲透:智慧客服、智慧投顧、人臉支付、智慧安防等, 已經進入商業化階段。 在這些應用場景中,

智慧客服屬於獲客機會最大的業務。

埃森哲(Accenture)去年的《全球消費者消費管道與市場調研》顯示, 在銀行、保險等金融行業, 有七成的消費者願意選擇人工智慧客服為他們的消費決策提供建議。 正因如此, 市場上湧現出大量的智慧客服創業公司。

創業公司廣泛存在一方面說明行業整體技術壁壘較低, 另一方面, 也說明智慧客服的在金融領域的應用商業場景還有巨大的開發空間。 如何在構建技術壁壘的同時開發更多的商業場景, 是創業公司能夠脫穎而出關鍵。

三大痛點:傳統NLP方法對意圖和語意理解不足、缺少深度學習訓練模型資料、無法精確感知使用者情緒

通常意義上的智慧客服系統有語音客服、文字客服兩大形態,

其核心技術主要由語音辨識、自然語言處理、語音合成組成(部分還涉及到電腦視覺)。 其中語音辨識與語音合成技術相對比較成熟, 但中文的語義理解由於漢語自身的複雜性(諸如分詞、歧義、缺乏形態變化、結構鬆散等), 技術難度較大, 也被很多業內人士譽為人工智慧皇冠上的明珠, 也是能否實現高品質人機交互的關鍵。

智慧客服系統框架(圖據恒生研究院)

對於智慧客服機器人而言, 語義理解與意圖識別決定了對話機器人的回答準確率。 隨著深度學習在自然語言處理中的運用, 訓練資料的品質也成為了智慧客服開發的關鍵。 特別是服務于金融、電商等垂直行業的智慧客服, 相關領域的對話訓練資料的品質直接決定了深度學習模型的訓練品質。

深度學習的運用也成為區別新一代智慧客服區與傳統以關鍵字、模版為核心的問答機器人的關鍵。

另一方面, 客服知識庫是智慧客服的核資料, 它存儲了所有的問題和相應的答案。 用戶的提問, 將匹配到知識庫中的問題, 從而將正確的答案返回給用戶。 知識庫的好壞直接決定了智慧客服的服務品質和使用者體驗。

回到金融領域, 智慧客服的應用解決了金融企業有限的真人客服與龐大的使用者服務需求之間的矛盾, 以及24小時線上的問題。 通過智慧客服還能將海量的使用者對話資料轉化為業務洞察, 為後端的精准行銷與持續的業務優化提供參考依據。

不過, 智慧客服在金融領域的應用仍然面臨一些挑戰:

1、由於金融領域涉及的專業知識與詞彙較多, 傳統NLP方法無法準確理解語義與客戶意圖。

例如, 客戶問“中國聯通的股票據說要跌?”在分詞上, 普通的NLP可能會將這句話分為中國聯通的股/票據/說要跌?。 分詞上的錯誤會直接影響到語義的準確理解, 讓智慧客服無法理解問句背後的真實意圖, 並作出回答或處罰某些技能和服務。

2、缺乏深度學習模型訓練資料。

單純從業務資料上來講, 金融的資料尤其是交易資訊資料非常大, 這跟金融業務資訊化較早有關。 但使用者的業務諮詢資料、客服資料、金融產品的導購對話資料, 長期沒有得到充分重視, 也缺乏積累和開發, 因此可用來進行深度學習的訓練資料並不充裕。

3、無法精確感知客戶情緒(如電話客服系統)。

金融領域,人類情緒極易隨著金融行業市場的波動而起伏不定,經常難免帶有情緒與客服溝通,因此帶有情感識別與分析的人性化人機交互體驗就顯得更為重要。當智慧客服普遍沒有感情時,一個稍微有些“感情”的智慧客服系統就會更容易被選擇。

技術新招:語言學運用、LSTM+DSSM演算法、多模態情感交互等

針對前述問題,在語義理解方面,目前比較新銳的做法是以傳統的NLP技術打底,加上語言學結構,結合新的機器學習、深度學習、以及金融知識圖譜的方法,融合地去把整個語義理解抽象化後做降維。

目前使用上述方法的竹間智慧,其語義理解演算法包含言外行為分析、語義角色標準、命名實體識別等四十餘個模組,且已反覆運算至第四代,嘗試了對抗生成網路等眾多新方法。真正做到金融領域的語義層面的抽象和理解,而不是單純字詞層面的分析。

同時,竹間智慧還在金融對話機器人中大範圍的利用深度學習。從分詞、詞性、語法解析、資訊抽取等基礎模組,到自然語言生成、機器翻譯、對話管理、知識問答等高層的NLP領域,幾乎都可以應用以CNN、RNN為代表的深度學習模型,並取得不錯的效果。

智慧客服眼下已是各大服務平臺的標配,但多數客服更接近於一個搜尋引擎,將使用者輸入的關鍵字與資料庫的相關答案匹配。對於口語化的提問,這樣的智慧客服往往很難給出“智慧”的回答。螞蟻金服的LSTM+DSSM

(Long Short-Term Memory + DeepStructured Semantic Model)演算法能夠對使用者語義和意圖進行很好的理解。用戶問題回答得越多,越精准,尤其對於口語化、表述不夠完整的提問,機器能夠主動理解。

例如,當用戶向支付寶智慧客服提問“如何退款?”時,這種沒有上下文的問詢,也意味著沒有場景。通過LSTM對使用者行為軌跡做一個編碼,通過深度排序模型,結合使用者之前的歷史操作,系統能夠判斷使用者的訴求更接近“轉帳到帳戶轉錯了怎麼辦?”,而不是“為什麼銀行卡轉帳被退回來了?”。

同時,用戶來到客服解決問題,往往並不明確自己的問題所在,因此他們的提問也往往很模糊,甚至存在很多缺失的資訊。這個時候,反問就很重要,可以通過多輪的交互,來逐步明確用戶的真實訴求。

多輪交互一直是對話系統一個很大的挑戰,傳統的基於語言理解和對話狀態跟蹤的多輪對話技術並不適用於客服知識問答。螞蟻金服用問題結構化的思路來解決客服多輪對話,通過演算法輔助以人工,對客服知識庫中的每個問題進行結構化,搞清楚每個問題是由哪些要素構成的。對用戶的提問我們同樣識別其中的要素,看看可以匹配到知識庫中的哪些問題。如果發生了要素缺失,就反問用戶,讓用戶進行補充和確認。

針對金融領域對話機器人深度學習模型訓練資料的缺乏,遷移學習是一個有效的嘗試。遷移學習的目的是從一個或多個源任務(source tasks)中抽取知識、經驗,然後應用於一個有相關性的目標領域(target domain)中去,從而實現在金融領域跨行業、跨領域的知識學習。

目前,竹間智慧嘗試使用遷移學習方法,讓對話機器人能夠跨領域、跨行業學習。尤其當金融類客戶在客服、導購等領域面臨訓練資料缺乏時,在竹間現有訓練過的模型基礎上做遷移學習可以很大程度上提高模型的性能,達到更好的機器學習效果。

由於情感在人類資訊溝通中的意義重大,所以情感計算也是實現人性化的人機交互中必不可少的組成部分,情感識別與理解技術也正逐漸成為人機交互的基礎性技術之一。

竹間智慧嘗試建立起了一套多模態的情感情緒交互模型來解決情感計算的問題。通過找到人機對話中隱藏的資訊狀態並加入到計算中,並結合內外部的多模態設計,即文本+emoji+照片+表情包+文本長度等,與外部的多模態,即加入面部表情識別+語音情緒識別+提供的標籤(比如性格,星座,愛好,年齡,性別等),來實現更深的的語義理解和多模態情感交互分析,從而達到人機交互過程中對人更深層次的理解。

竹間多模態情感識別展示傅園慧視頻

此外,在知識庫構建方面,對於傳統的知識庫而言,其構建往往依賴於人工運營,由運營專家根據自己的業務經驗來決定知識庫中會有哪些問題。這樣的構建過程需要很多人力成本,後期維護成本也很大,而且並不能發現用戶的真實訴求。螞蟻金服的做法是從過往海量的客服對話記錄中,通過文本聚類演算法,將相似的問法找出來,形成很多聚類,每個聚類就是一個用戶關心的問題。

這樣的做法還有一個額外的收益就是,聚類演算法本身找到了每個問題所有可能的問法,這樣就為線上的問題匹配提供了寶貴的資料,使用者的提問只要模糊匹配到某個問題的任何一個問法,就可以知道用戶想問的是這個問題,這樣極大的提升了客服問題匹配準確率。這樣一個基於資料採擷的知識庫一直處於自學習的狀態, 就可以持續的提升智慧客服的效果。

從幕後走向台前:智慧客服打開更多行銷空間

客服部門是銀行業務中勞動密集型部門的之一,一家中等規模以上的銀行甚至有數千名員工接聽客戶電話,人工智慧可以大幅降低金融業務成本,提升業務效率。

據21世紀經濟報導,光大銀行電子銀行部總經理楊兵兵曾表示,人工智慧在銀行業務中最早的應用便是智慧客服。光大在引入智慧客服後,“最近三年每年呼入的話務量有10%的速度增長,但是三年來我們沒有增加一名客服。”楊兵兵說,去年光大銀行的話務中有近60%是類比人工服務。

同時,隨著人工智慧在客戶服務領域的不斷拓展、互聯網獲客成本越來越高,智慧客服逐漸由售後轉向售中和售前,承擔起更多企業行銷任務。

竹間智慧CEO簡仁賢介紹,竹間智慧將售後、售中、個性化交互三者結合,可以形成端到端的解決方案。

去年底,興業證券優理寶App上線“小興機器人”智慧客服,它背後正是竹間AI證券機器人解決方案,幫助其實現了智慧客服、投資者教育、產品諮詢、多輪對話與上下文記憶在內的一系列服務與功能。

“小興機器人”智慧客服

簡仁賢還透露,在今年第一季度將推出新版的財富管理機器人,將對話機器人實現投資者教育、智慧投顧、財富管理。目前,竹間智慧的收入主要來源於對話機器人應用,如智慧客服、導購機器人、企業助手、個人助理、語義理解、情感情緒分析等,並有望靠自身業務在2018年實現全年的收支平衡。

著名呼叫中心運營及顧問培訓專家、亞太客服與呼叫中心聯盟APCCAL的發起人以及客戶世界機構(CCMWorld Group)的創辦人趙溪認為,人工智慧完全替代人工客服還為時尚早,但是會對結構化、標準化的客服工作進行替代,這有非常大的市場潛力。

“客服中心是企業對內對外資料整合的一個平臺,有大量的資料,因此在大資料的背景下,有更大的挖掘的空間。”趙溪說。

此外,圖像識別等技術也越來越多的應用到智慧客服中,豐富和拓展了金融客服的場景。螞蟻金服資深演算法專家張家興介紹,去年7月,螞蟻金服份發佈車險的圖像定損功能,今後用戶有望直接通過手機拍攝圖片,就知道事故車的損害情況以及賠付金額。

“拍照定損對保險業的衝擊來說是根本性的,它整個改變了保險業理賠的工作模式。”張家興說,拍照定損將來還能廣泛應用到生鮮電商等多個領域。

新智元立即體驗新智元小程式,一鍵直達AI大咖小程式

加入社群

新智元AI技術+產業社群招募中,歡迎對AI技術+產業落地感興趣的同學,加小助手微信號: aiera2015_1 入群;通過審核後我們將邀請進群,加入社群後務必修改群備註(姓名-公司-職位;專業群審核較嚴,敬請諒解)。

此外,新智元AI技術+產業領域社群(智慧汽車、機器學習、深度學習、神經網路等)正在面向正在從事相關領域的工程師及研究人員進行招募。

3、無法精確感知客戶情緒(如電話客服系統)。

金融領域,人類情緒極易隨著金融行業市場的波動而起伏不定,經常難免帶有情緒與客服溝通,因此帶有情感識別與分析的人性化人機交互體驗就顯得更為重要。當智慧客服普遍沒有感情時,一個稍微有些“感情”的智慧客服系統就會更容易被選擇。

技術新招:語言學運用、LSTM+DSSM演算法、多模態情感交互等

針對前述問題,在語義理解方面,目前比較新銳的做法是以傳統的NLP技術打底,加上語言學結構,結合新的機器學習、深度學習、以及金融知識圖譜的方法,融合地去把整個語義理解抽象化後做降維。

目前使用上述方法的竹間智慧,其語義理解演算法包含言外行為分析、語義角色標準、命名實體識別等四十餘個模組,且已反覆運算至第四代,嘗試了對抗生成網路等眾多新方法。真正做到金融領域的語義層面的抽象和理解,而不是單純字詞層面的分析。

同時,竹間智慧還在金融對話機器人中大範圍的利用深度學習。從分詞、詞性、語法解析、資訊抽取等基礎模組,到自然語言生成、機器翻譯、對話管理、知識問答等高層的NLP領域,幾乎都可以應用以CNN、RNN為代表的深度學習模型,並取得不錯的效果。

智慧客服眼下已是各大服務平臺的標配,但多數客服更接近於一個搜尋引擎,將使用者輸入的關鍵字與資料庫的相關答案匹配。對於口語化的提問,這樣的智慧客服往往很難給出“智慧”的回答。螞蟻金服的LSTM+DSSM

(Long Short-Term Memory + DeepStructured Semantic Model)演算法能夠對使用者語義和意圖進行很好的理解。用戶問題回答得越多,越精准,尤其對於口語化、表述不夠完整的提問,機器能夠主動理解。

例如,當用戶向支付寶智慧客服提問“如何退款?”時,這種沒有上下文的問詢,也意味著沒有場景。通過LSTM對使用者行為軌跡做一個編碼,通過深度排序模型,結合使用者之前的歷史操作,系統能夠判斷使用者的訴求更接近“轉帳到帳戶轉錯了怎麼辦?”,而不是“為什麼銀行卡轉帳被退回來了?”。

同時,用戶來到客服解決問題,往往並不明確自己的問題所在,因此他們的提問也往往很模糊,甚至存在很多缺失的資訊。這個時候,反問就很重要,可以通過多輪的交互,來逐步明確用戶的真實訴求。

多輪交互一直是對話系統一個很大的挑戰,傳統的基於語言理解和對話狀態跟蹤的多輪對話技術並不適用於客服知識問答。螞蟻金服用問題結構化的思路來解決客服多輪對話,通過演算法輔助以人工,對客服知識庫中的每個問題進行結構化,搞清楚每個問題是由哪些要素構成的。對用戶的提問我們同樣識別其中的要素,看看可以匹配到知識庫中的哪些問題。如果發生了要素缺失,就反問用戶,讓用戶進行補充和確認。

針對金融領域對話機器人深度學習模型訓練資料的缺乏,遷移學習是一個有效的嘗試。遷移學習的目的是從一個或多個源任務(source tasks)中抽取知識、經驗,然後應用於一個有相關性的目標領域(target domain)中去,從而實現在金融領域跨行業、跨領域的知識學習。

目前,竹間智慧嘗試使用遷移學習方法,讓對話機器人能夠跨領域、跨行業學習。尤其當金融類客戶在客服、導購等領域面臨訓練資料缺乏時,在竹間現有訓練過的模型基礎上做遷移學習可以很大程度上提高模型的性能,達到更好的機器學習效果。

由於情感在人類資訊溝通中的意義重大,所以情感計算也是實現人性化的人機交互中必不可少的組成部分,情感識別與理解技術也正逐漸成為人機交互的基礎性技術之一。

竹間智慧嘗試建立起了一套多模態的情感情緒交互模型來解決情感計算的問題。通過找到人機對話中隱藏的資訊狀態並加入到計算中,並結合內外部的多模態設計,即文本+emoji+照片+表情包+文本長度等,與外部的多模態,即加入面部表情識別+語音情緒識別+提供的標籤(比如性格,星座,愛好,年齡,性別等),來實現更深的的語義理解和多模態情感交互分析,從而達到人機交互過程中對人更深層次的理解。

竹間多模態情感識別展示傅園慧視頻

此外,在知識庫構建方面,對於傳統的知識庫而言,其構建往往依賴於人工運營,由運營專家根據自己的業務經驗來決定知識庫中會有哪些問題。這樣的構建過程需要很多人力成本,後期維護成本也很大,而且並不能發現用戶的真實訴求。螞蟻金服的做法是從過往海量的客服對話記錄中,通過文本聚類演算法,將相似的問法找出來,形成很多聚類,每個聚類就是一個用戶關心的問題。

這樣的做法還有一個額外的收益就是,聚類演算法本身找到了每個問題所有可能的問法,這樣就為線上的問題匹配提供了寶貴的資料,使用者的提問只要模糊匹配到某個問題的任何一個問法,就可以知道用戶想問的是這個問題,這樣極大的提升了客服問題匹配準確率。這樣一個基於資料採擷的知識庫一直處於自學習的狀態, 就可以持續的提升智慧客服的效果。

從幕後走向台前:智慧客服打開更多行銷空間

客服部門是銀行業務中勞動密集型部門的之一,一家中等規模以上的銀行甚至有數千名員工接聽客戶電話,人工智慧可以大幅降低金融業務成本,提升業務效率。

據21世紀經濟報導,光大銀行電子銀行部總經理楊兵兵曾表示,人工智慧在銀行業務中最早的應用便是智慧客服。光大在引入智慧客服後,“最近三年每年呼入的話務量有10%的速度增長,但是三年來我們沒有增加一名客服。”楊兵兵說,去年光大銀行的話務中有近60%是類比人工服務。

同時,隨著人工智慧在客戶服務領域的不斷拓展、互聯網獲客成本越來越高,智慧客服逐漸由售後轉向售中和售前,承擔起更多企業行銷任務。

竹間智慧CEO簡仁賢介紹,竹間智慧將售後、售中、個性化交互三者結合,可以形成端到端的解決方案。

去年底,興業證券優理寶App上線“小興機器人”智慧客服,它背後正是竹間AI證券機器人解決方案,幫助其實現了智慧客服、投資者教育、產品諮詢、多輪對話與上下文記憶在內的一系列服務與功能。

“小興機器人”智慧客服

簡仁賢還透露,在今年第一季度將推出新版的財富管理機器人,將對話機器人實現投資者教育、智慧投顧、財富管理。目前,竹間智慧的收入主要來源於對話機器人應用,如智慧客服、導購機器人、企業助手、個人助理、語義理解、情感情緒分析等,並有望靠自身業務在2018年實現全年的收支平衡。

著名呼叫中心運營及顧問培訓專家、亞太客服與呼叫中心聯盟APCCAL的發起人以及客戶世界機構(CCMWorld Group)的創辦人趙溪認為,人工智慧完全替代人工客服還為時尚早,但是會對結構化、標準化的客服工作進行替代,這有非常大的市場潛力。

“客服中心是企業對內對外資料整合的一個平臺,有大量的資料,因此在大資料的背景下,有更大的挖掘的空間。”趙溪說。

此外,圖像識別等技術也越來越多的應用到智慧客服中,豐富和拓展了金融客服的場景。螞蟻金服資深演算法專家張家興介紹,去年7月,螞蟻金服份發佈車險的圖像定損功能,今後用戶有望直接通過手機拍攝圖片,就知道事故車的損害情況以及賠付金額。

“拍照定損對保險業的衝擊來說是根本性的,它整個改變了保險業理賠的工作模式。”張家興說,拍照定損將來還能廣泛應用到生鮮電商等多個領域。

新智元立即體驗新智元小程式,一鍵直達AI大咖小程式

加入社群

新智元AI技術+產業社群招募中,歡迎對AI技術+產業落地感興趣的同學,加小助手微信號: aiera2015_1 入群;通過審核後我們將邀請進群,加入社群後務必修改群備註(姓名-公司-職位;專業群審核較嚴,敬請諒解)。

此外,新智元AI技術+產業領域社群(智慧汽車、機器學習、深度學習、神經網路等)正在面向正在從事相關領域的工程師及研究人員進行招募。

Next Article
喜欢就按个赞吧!!!
点击关闭提示