2019年,一篇題為“ALBERT: A Lite BERT for Self-Supervised Learning of Language Representations”的工作橫空出世,其中,與愛(ài)因斯坦同名的輕量級(jí)預(yù)訓(xùn)練語(yǔ)言模型“ALBERT”因以極少的參數(shù)量在 GLUE、SQuAD 2.0 與 RACE 等三個(gè)基準(zhǔn)上達(dá)到了 SOTA,而在自然語(yǔ)言處理研究社區(qū)引起了極大關(guān)注。這篇工作由當(dāng)時(shí)正任職于谷歌研究(Google Research)的中山大學(xué)校友藍(lán)振忠主導(dǎo)完成。同年,他還與一眾國(guó)內(nèi)NLP研究人員合作推出了對(duì)標(biāo) GLUE 的中文預(yù)訓(xùn)練語(yǔ)言模型評(píng)價(jià)基準(zhǔn) ChineseGLUE(后來(lái)簡(jiǎn)稱“CLUE”),同樣大受歡迎,他也因此紅極一時(shí)。但鮮為人知的是,當(dāng)時(shí)距離藍(lán)振忠從卡內(nèi)基梅隆大學(xué)(CMU)獲得博士學(xué)位只有大約兩年的時(shí)間,而藍(lán)振忠在 CMU 讀博時(shí)的主要研究?jī)?nèi)容是計(jì)算機(jī)視覺(jué)與多媒體分析。博士畢業(yè)后,他之所以從視覺(jué)轉(zhuǎn)向語(yǔ)言,是因?yàn)樗氪蛟煲慌_(tái)能夠輔助心理咨詢的對(duì)話機(jī)器人,而語(yǔ)言處理是對(duì)話系統(tǒng)的核心??梢哉f(shuō),ALBERT 的誕生,其實(shí)是藍(lán)振忠追求“AI向善”過(guò)程中一個(gè)美麗的意外。2020 年,藍(lán)振忠從谷歌離職,回國(guó)加入西湖大學(xué)工學(xué)院,成立了深度學(xué)習(xí)實(shí)驗(yàn)室。3個(gè)月后,他與團(tuán)隊(duì)推出了國(guó)內(nèi)第一個(gè)用于輔助心理咨詢的 AI 機(jī)器人「小天」,經(jīng)過(guò)不斷迭代,目前已有超過(guò)一萬(wàn)個(gè)小程序用戶,且仍在不斷增長(zhǎng)。相比短短兩年內(nèi)就在谷歌學(xué)術(shù)上獲得 1500+ 引用數(shù)的 ALBERT 模型,藍(lán)振忠更愿意談?wù)勊c「小天」之間的故事。
作者 | 陳彩嫻
編輯 | 琰琰
1
起因
“為什么會(huì)想到研究 AI 輔助心理咨詢?”藍(lán)振忠停了下來(lái),沉思了一會(huì)。
凡是與藍(lán)振忠打過(guò)交道的人,都很難將這位總是帶著開(kāi)朗笑容的廣東男生與“抑郁癥”、“心理問(wèn)題”這類消極字眼聯(lián)系在一起。事實(shí)上,這個(gè)想法的產(chǎn)生,不是來(lái)源于藍(lán)振忠本人的親身經(jīng)歷,而是源于一場(chǎng)悲劇的目睹:
當(dāng)時(shí),2017年,藍(lán)振忠即將從卡內(nèi)基梅隆大學(xué)博士畢業(yè),結(jié)果有一天從朋友那得知,一位他曾與之共同成長(zhǎng)的同窗因心理壓力過(guò)大、得了心理抑郁癥,選擇了自殺。
這件事令藍(lán)振忠十分震撼:
因?yàn)槲抑岸际潜容^直男的,從小到大都是樂(lè)天派,科研也做得比較順利。加上之前在心理方面所接受的教育比較少,所以我當(dāng)時(shí)是第一次聽(tīng)說(shuō),原來(lái)抑郁是會(huì)死人的。從那時(shí)候起,藍(lán)振忠才開(kāi)始關(guān)注到心理抑郁群體。他的性格比較內(nèi)向,平日很少社交,與身邊的同學(xué)都沒(méi)有太深入的交往,但這件事發(fā)生后,他仔細(xì)留意,才發(fā)現(xiàn)原來(lái)身邊有很多同學(xué)在吃抗抑郁藥。
圖注:卡內(nèi)基梅隆大學(xué)
事實(shí)上,博士生是公認(rèn)的心理壓力最大的群體之一,“因?yàn)樽x博就是要開(kāi)拓新的領(lǐng)域,沒(méi)有人告訴你要做什么、怎么做,你也不知道你所選擇的研究方向是不是一條死胡同,但你又必須堅(jiān)持走下去,所以特別難。”讀博那會(huì),他也經(jīng)歷過(guò) paper 被拒、抓狂的時(shí)候,但沒(méi)想到壓力會(huì)帶來(lái)這么嚴(yán)重的后果。
藍(lán)振忠來(lái)自廣東潮州,是一個(gè)地道的海邊人,喜歡游泳。讀博那會(huì),雖然有壓力,但他極少陷入悲觀的情緒。這可能與他樂(lè)觀、自控與熱愛(ài)運(yùn)動(dòng)的性格有關(guān):在 CMU 讀博時(shí),他每天早上都是六七點(diǎn)起床,先去游泳,游一個(gè)小時(shí)后再去實(shí)驗(yàn)室做研究,呆到晚上九點(diǎn),然后準(zhǔn)時(shí)回家陪家人。他從來(lái)不把工作帶回家里,也不熬夜。
“你看我整天都是笑嘻嘻的。我也不是很 care 外面的事情,投出去的 paper,結(jié)果是好是壞我都無(wú)所謂的,所以可能受傷比較少?!彼{(lán)振忠回憶。
藍(lán)振忠的“開(kāi)闊心胸”,或許也受到了博士導(dǎo)師 Alexander G. Hauptmann 的影響。
2010年從中山大學(xué)獲得軟件工程與統(tǒng)計(jì)學(xué)學(xué)士學(xué)位后,藍(lán)振忠先是在卡內(nèi)基梅隆大學(xué)的感知實(shí)驗(yàn)室(Human Sensing Laboratory)跟著 Fernando De La Torre 研究計(jì)算機(jī)視覺(jué),取得了不錯(cuò)的研究成果,偶然結(jié)識(shí) Alexander Hauptmann,2012年開(kāi)始到 Alexander Hauptmann的門(mén)下讀博。
在藍(lán)振忠的印象中,Alexander Hauptmann 是一個(gè)很有生活情趣的人,熱愛(ài)馬術(shù)與旅游:“他有一個(gè)莊園,家里養(yǎng)了三匹馬,估計(jì)他的大部分收入都放在這上面了。他跟他夫人都很喜歡騎馬,拿到過(guò)很多騎馬比賽的獎(jiǎng)勵(lì)。而且他經(jīng)常來(lái)中國(guó)旅游,去過(guò)的地方比我要多得多,包括內(nèi)蒙古、新疆、西藏等等?!?/p>
圖注:Alexander Hauptmann參加騎馬比賽
「他在生活上有其他的寄托,不會(huì)只著圍繞著科研轉(zhuǎn)。跟著他,你會(huì)慢慢學(xué)會(huì)更多地從人性的角度去看問(wèn)題。」藍(lán)振忠談道。
在了解到身邊有許多人飽受心理問(wèn)題困擾、又身處孤立無(wú)援的境地后,他就想:“我能做點(diǎn)什么?因?yàn)槲覀冏鲈S多研究,目的就是希望能夠幫助到別人。”
他接著解釋:“其實(shí)我一直在尋找一種意義感。我對(duì)發(fā)很多論文不是很感興趣,因?yàn)橛X(jué)得沒(méi)什么意思。但如果我的研究能夠真正幫助到別人,那么我會(huì)覺(jué)得特別有意義?!?/p>
藍(lán)振忠的哲學(xué)觀是存在主義(Existentialism):
我覺(jué)得一個(gè)人最大的價(jià)值有兩方面:一是求真,比如探索科學(xué)真理、社會(huì)本質(zhì)與知識(shí)本質(zhì);二是求善,即人生存在的價(jià)值就是理解世界,理解他人,然后能夠幫助他人。你幫助的人越多,你的價(jià)值就越大。當(dāng)然,有些事情也是我管不了的,只能說(shuō)在我的能力范圍之內(nèi)。就我而言,我希望利用技術(shù)的力量去對(duì)社會(huì)做出最大的貢獻(xiàn)。2017年5月,藍(lán)振忠從卡內(nèi)基梅隆大學(xué)獲得博士學(xué)位,先是去了位于洛杉磯的一家創(chuàng)業(yè)公司(WiZR)學(xué)習(xí)創(chuàng)業(yè)的能力,又面向因?yàn)閴毫^(guò)大而患得心理亞健康的人員組織了一個(gè)留學(xué)生抑郁互助團(tuán)體,希望大家能夠相互傾聽(tīng)與支持。
但隨著越來(lái)越多的人加進(jìn)來(lái),運(yùn)營(yíng)工作量越來(lái)越大,有專業(yè)的心理咨詢能力的團(tuán)員又十分少,藍(lán)振忠開(kāi)始想:能不能用人工智能技術(shù)來(lái)提高心理咨詢的效率?
他坦言:事實(shí)上,在與心理焦慮或抑郁的人溝通時(shí),即使他能理解他們的情緒,也曾經(jīng)歷過(guò)相同的難處,但也很難與他們共情。「因?yàn)槲易约翰淮髸?huì)安慰人,但我也會(huì)想:為什么我不能做到?我是不是可以學(xué)習(xí)一個(gè)套路去開(kāi)導(dǎo)他們?但是我又比較木訥,很難學(xué)會(huì),教自己還不如教機(jī)器?!?/p>
于是,藍(lán)振忠想到了打造一個(gè)像電影《她》(Her)里面的對(duì)話系統(tǒng),能夠陪伴人類聊天、說(shuō)話,給予他們支持,開(kāi)導(dǎo)他們的心情。
2
入谷歌,造ALBERT
2018年2月,藍(lán)振忠立志從事自然語(yǔ)言處理研究,并加入了谷歌研究(后來(lái)更名為谷歌AI )下的研究與機(jī)器智能組(Research & Machine Intelligence group)。
談及選擇谷歌的原因,藍(lán)振忠解釋:
在計(jì)算機(jī)視覺(jué)領(lǐng)域,諸如 ImageNet 的核心工作,如果你有一個(gè)小的集群,就可以訓(xùn)練起來(lái)。但如果是像 BERT 那樣的大規(guī)模語(yǔ)言模型,只有大的集群才能跑起來(lái)。所以,就自然語(yǔ)言理解的研究而言,在大公司做研究會(huì)更有優(yōu)勢(shì),因?yàn)樵诖蠊镜募豪?,你能跑的?shí)驗(yàn)會(huì)多很多。他原是為了研究 AI 輔助心理咨詢加入谷歌「學(xué)習(xí)」自然語(yǔ)言處理,意外的是,只經(jīng)過(guò)一年多的「打基礎(chǔ)」階段,他就在自然語(yǔ)言能處理研究上取得了令人矚目的成就:推出了基于BERT的輕量級(jí)預(yù)訓(xùn)練語(yǔ)言模型「ALBERT」(A Lite BERT)。
「這個(gè)想法是我在騎自行車回家的路上突然蹦出來(lái)的。」藍(lán)振忠介紹,「所以我覺(jué)得做研究真的是運(yùn)氣的成分居多,就像那句話說(shuō)的,『文章本天成,妙手偶得之』?!?/p>
當(dāng)時(shí),他應(yīng)國(guó)內(nèi) AI 教育公司貪心科技的邀請(qǐng)準(zhǔn)備一個(gè)演講,于是就把自然語(yǔ)言理解的工作梳理了一遍。在梳理的過(guò)程中,他發(fā)現(xiàn)一個(gè)問(wèn)題:目前大規(guī)模預(yù)訓(xùn)練語(yǔ)言模型(如BERT)的效果雖然非常好,對(duì)各項(xiàng)任務(wù)都有明顯提升,但參數(shù)量太大,比如 BERT-large 的參數(shù)量就超過(guò)了 3 億。
「能否在性能不變的情況下減少參數(shù)量呢?」帶著這個(gè)疑問(wèn),藍(lán)振忠開(kāi)始尋找解決方案。
當(dāng)時(shí),有許多人在研究知識(shí)蒸餾,但知識(shí)蒸餾的學(xué)習(xí)能力受限于大模型。如果想要在大模型的基礎(chǔ)上有所提升,就需要做架構(gòu)上的改變。于是,他們就借鑒了計(jì)算機(jī)視覺(jué)的一些做法,比如 MobileNet,從架構(gòu)創(chuàng)新入手,通過(guò)對(duì)詞向量的投射做因式分解和對(duì)隱層的參數(shù)做共享來(lái)分別減少這兩個(gè)模塊的參數(shù)量。
他們的工作(“ALBERT: A Lite BERT for Self-Supervised Learning of Language Representations”)最終被 ICLR 2020 接收,新穎的觀點(diǎn)引起了廣泛關(guān)注,藍(lán)振忠成為自然語(yǔ)言處理領(lǐng)域小有名氣的青年研究者,ALBERT 被應(yīng)用于谷歌新聞、谷歌助手等產(chǎn)品,當(dāng)時(shí)與他一起工作的實(shí)習(xí)生陳明達(dá)(豐田工業(yè)大學(xué)芝加哥分校在讀博士生)后來(lái)也獲得了2020年谷歌博士生獎(jiǎng)學(xué)金。
圖注:BERT與ALBERT的參數(shù)量對(duì)比,ALBERT的參數(shù)量約為BERT的十分之一
這個(gè)工作從想法的萌生到最終完成,只用了大約一個(gè)暑假的時(shí)間。事后回想,藍(lán)振忠想,除了「運(yùn)氣」,他能完成這項(xiàng)研究,也要?dú)w功于他在卡內(nèi)基梅隆大學(xué)計(jì)算機(jī)科學(xué)學(xué)院下的語(yǔ)言技術(shù)研究所(Language Technology Institute)讀博時(shí)所接受的學(xué)術(shù)訓(xùn)練。
比如批判性思維的養(yǎng)成:「其實(shí)那個(gè)idea之所以會(huì)蹦出腦海,并不是無(wú)中生有,而是你之前就讀過(guò)一些相關(guān)工作,進(jìn)行了大量的思考,只是你當(dāng)時(shí)沒(méi)有想法,后來(lái)突然之間就蹦了出來(lái)?!?/p>
此外,他在Alexander Hauptmann 的帶領(lǐng)下也練就了一身強(qiáng)悍的工程實(shí)現(xiàn)能力?!赣幸粋€(gè)好的 idea,能夠快速做出來(lái),也是因?yàn)楣こ棠芰Ρ容^強(qiáng)。」藍(lán)振忠解釋,比如,神經(jīng)網(wǎng)絡(luò)需要很多調(diào)參、做很多實(shí)驗(yàn),在做 ALBERT 時(shí),他們一共做了幾百個(gè)實(shí)驗(yàn),ALBERT 只是其中的一小部分,「如果沒(méi)有管理好,很容易做到后面就把前面的忘了」。
除了藍(lán)振忠,Alexander Hauptmann 還帶出過(guò)許多優(yōu)秀的中國(guó)學(xué)生,包括現(xiàn)任阿里巴巴數(shù)據(jù)科學(xué)研究院副院長(zhǎng)的金榕、Dada Group的創(chuàng)始人楊俊等。
「博士期間的成長(zhǎng)是多方面的,包括批判思考、如何寫(xiě)論文、做研究、做presentation等。當(dāng)你掌握了做研究的方法后,從一個(gè)方向轉(zhuǎn)到另一個(gè)方向后,也不是很難出結(jié)果的?!顾忉?,且此前他在做視頻分析時(shí)也更多是圍繞特征理解,與ALBERT這個(gè)工作有一定的延續(xù)性。
再談 ALBERT,藍(lán)振忠表示:
其實(shí)谷歌團(tuán)隊(duì)后來(lái)有了更強(qiáng)的工作,好漢不提當(dāng)年勇,所以我現(xiàn)在的重心更多是做更好的項(xiàng)目,比如「小天」。我只能解決一些現(xiàn)有的科學(xué)問(wèn)題,因?yàn)閺膶?shí)現(xiàn)真正的語(yǔ)言理解來(lái)看,ALBERT 只是萬(wàn)里長(zhǎng)征的一小步,甚至連很小的一步都算不上。像 GPT 與 BERT 這類工作才是開(kāi)創(chuàng)性的。3
回國(guó)打造「小天」
雖然ALBERT的誕生是偶然,但ALBERT與CLUE的發(fā)布,以及在谷歌的兩年工作積累,給了藍(lán)振忠回國(guó)研究 AI 輔助心理咨詢機(jī)器人的信心。
2019年年底,他決定回國(guó)。當(dāng)時(shí)研究自然語(yǔ)言處理的另一知名學(xué)者張?jiān)绖偤迷谖骱髮W(xué)工學(xué)院任職,藍(lán)振忠便與他聯(lián)系,張?jiān)勒f(shuō):「你要不要來(lái)講講你的工作呀?」藍(lán)振忠就去做了一個(gè)學(xué)術(shù)演講,「講完覺(jué)得西湖大學(xué)很不錯(cuò),就過(guò)來(lái)了?!?/p>
圖注:西湖大學(xué)云谷校區(qū)
「我是2020年1月15日回國(guó)的,剛好趕在新冠疫情爆發(fā)前,好險(xiǎn)?!?
至于為什么選擇回國(guó)做這項(xiàng)研究,藍(lán)振忠的解釋是:
因?yàn)檫@項(xiàng)工作需要多團(tuán)隊(duì)協(xié)作,但在谷歌很難有這么大的團(tuán)隊(duì)來(lái)支持我做這件事情。谷歌的模式是:如果你有一個(gè)idea,你要自己先做一段時(shí)間,如果有人感興趣,再慢慢加入。你并不能百分百保證這個(gè)idea 一定是work的。所以總的來(lái)說(shuō),溝通成本比較大。心理出現(xiàn)問(wèn)題的人,最需要的是什么?為了尋找這個(gè)問(wèn)題的答案,藍(lán)振忠曾請(qǐng)教過(guò)許多心理學(xué)專家、教授、精神科主治醫(yī)生,還找過(guò)患者調(diào)研訪談,最后總結(jié)出:許多抑郁/焦慮患者的情緒是突然爆發(fā)的,如果沒(méi)有及時(shí)、專業(yè)的干預(yù),悲劇的發(fā)生可能就在一秒之間。
針對(duì)這個(gè)需求,藍(lán)振忠想做一個(gè)能夠隨時(shí)隨地陪伴、對(duì)話的專業(yè)心理咨詢「機(jī)器人」。與已有的陪聊機(jī)器人、幫忙掃地訂票的任務(wù)型機(jī)器人不同,這個(gè)機(jī)器人專門(mén)針對(duì)心理咨詢,同時(shí)又需要理解人類情緒、具備長(zhǎng)期記憶能力。這就意味著,它不僅需要AI中的語(yǔ)言理解與處理技術(shù),還需要搭建對(duì)話系統(tǒng)的工程師、提升對(duì)話專業(yè)度的心理咨詢師等等。
在這方面,西湖大學(xué)給了藍(lán)振忠團(tuán)隊(duì)有力的支持,比如可以自由支配的、豐富的啟動(dòng)資金,純粹自由的科研環(huán)境,也沒(méi)有冗贅的行政考核,他可以更專心地做研究?!高M(jìn)來(lái)之后,真的是遠(yuǎn)超我的預(yù)期?!顾{(lán)振忠不掩贊嘆。
藍(lán)振忠在2020年6月正式加盟西湖大學(xué),創(chuàng)立了深度學(xué)習(xí)實(shí)驗(yàn)室,隨即組建了一支 30 多人的團(tuán)隊(duì),又分為4個(gè)小團(tuán)隊(duì):研究對(duì)話、理解與情感計(jì)算等內(nèi)容的純 AI 技術(shù)組,專業(yè)咨詢師團(tuán)隊(duì),負(fù)責(zé)系統(tǒng)打造的工程團(tuán)隊(duì),以及負(fù)責(zé)量化心理咨詢的心理研究組。
此前,藍(lán)振忠在 CMU 讀博與谷歌工作所訓(xùn)練出的管理能力與工程能力派上了用場(chǎng)。加上團(tuán)隊(duì)的共同努力,深度學(xué)習(xí)實(shí)驗(yàn)室在2020年9月就成功探索出了一個(gè)初步的模型,為接下來(lái)的研究奠定了基礎(chǔ)。
之后,又經(jīng)過(guò)八個(gè)多月的努力,他們搭建了一個(gè)較完整的對(duì)話系統(tǒng),還開(kāi)發(fā)出了一個(gè)小程序,起名為「小天」,主要做公益咨詢,為線上來(lái)訪者提供免費(fèi)的對(duì)話咨詢服務(wù),目前已有超過(guò)一萬(wàn)名用戶。
說(shuō)來(lái)也巧秒:在自然語(yǔ)言處理領(lǐng)域,目前研究社交型計(jì)算語(yǔ)言與情感語(yǔ)言理解的知名「NLPer」大多來(lái)自卡內(nèi)基梅隆大學(xué)語(yǔ)言技術(shù)研究所(LTI),比如楊笛一、俞舟等人。與他們不同的是,藍(lán)振忠在 CMU 時(shí)沒(méi)有接受過(guò)專業(yè)訓(xùn)練,屬于「半路出家」。對(duì)他來(lái)說(shuō),CMU讀博對(duì)他最重要的成長(zhǎng)是培養(yǎng)了他的「實(shí)用科研」精神。
「這可能與CMU的科研傳統(tǒng)有關(guān)。CMU的科研經(jīng)費(fèi)主要來(lái)自于 IARPA(美國(guó)高級(jí)情報(bào)研究所)與 DARPA(美國(guó)國(guó)防部高級(jí)研究計(jì)劃局),這兩類資助項(xiàng)目都要求你必須產(chǎn)出一些實(shí)用的成果,比如造月球車。這不是你發(fā)多少篇論文就能完成的,而是真的要做出一臺(tái)月球車?!?/p>
「有很多人來(lái)尋求咨詢,但我們目前只能服務(wù)一小部分人,其實(shí)心里還是很內(nèi)疚的。但我會(huì)很努力去做這件事,真正幫助我所能幫助的人。」藍(lán)振忠堅(jiān)定地說(shuō)道。
4
「小天」的機(jī)遇與挑戰(zhàn)
互聯(lián)網(wǎng)有個(gè)知名的段子:「小天是我見(jiàn)過(guò)最單純善良的人。」此小天非彼小天,但在藍(lán)振忠與團(tuán)隊(duì)成員的心里,這個(gè)中性、陽(yáng)光的名字,正寄托了他們對(duì)于 AI 輔助心理咨詢機(jī)器人的期望。
在談起這項(xiàng)研究時(shí),藍(lán)振忠感慨,雖然天性樂(lè)觀,但自己的內(nèi)心會(huì)有一種「緊迫感」,因?yàn)榻?jīng)常在網(wǎng)絡(luò)新聞上看到因?yàn)槭苄睦韱?wèn)題困擾而一蹶不振、甚至選擇輕生的例子。除了個(gè)體的事例,還有許多宏觀的數(shù)據(jù):
2020年10月9日,世衛(wèi)組織通報(bào)過(guò)一組數(shù)據(jù):全球有近10億人患有精神障礙,每40秒就有1人死于自殺。在中低收入國(guó)家,患有精神、神經(jīng)和藥物濫用障礙的人中,超過(guò)75%的患者沒(méi)有得到任何治療。 具體到中國(guó)來(lái)說(shuō),9500萬(wàn)抑郁人群中,很多人并不知道自己是抑郁癥,哪怕知道了,也只有很少一部分人選擇去醫(yī)院。心理問(wèn)題得不到及時(shí)干預(yù),主要有兩方面原因:一是治療費(fèi)用,目前針對(duì)抑郁癥的處理方法主要是服用抗抑郁藥物與心理治療,需要長(zhǎng)期投入,花銷如同一個(gè)無(wú)底洞;二是醫(yī)療資源緊缺,主要集中在大城市,普通縣城基本沒(méi)有心理咨詢或治療機(jī)構(gòu),更別提偏遠(yuǎn)的山區(qū)。
且不提醫(yī)生的體力,藍(lán)振忠曾拜訪專業(yè)的心理咨詢師,發(fā)現(xiàn)隨著受心理問(wèn)題困擾的人越來(lái)越多,高質(zhì)量的預(yù)約可能要排到兩個(gè)月后,且價(jià)格十分昂貴,普通的心理咨詢價(jià)格約為每小時(shí) 400 元。
「有些網(wǎng)站的人工客服,到了晚上就成了很多青少年的“樹(shù)洞”,“不想活了”、“活著好沒(méi)勁”……這些話經(jīng)常在深夜跳出來(lái);很多城市有開(kāi)通24小時(shí)心理危機(jī)干預(yù)熱線電話,但夜里經(jīng)常打不通,因?yàn)榇螂娫挼娜藢?shí)在太多了?!?/p>
「我研究『小天』,就是為了使每個(gè)人都能夠在 TA 需要的時(shí)候得到相應(yīng)的、專業(yè)的心理咨詢與陪伴?!顾{(lán)振忠談道。
在訓(xùn)練「小天」的過(guò)程中,他們是先疊一層類似 ALBERT 的預(yù)訓(xùn)練模型,讓「小天」學(xué)會(huì)語(yǔ)法、語(yǔ)義的理解,然后通過(guò)網(wǎng)絡(luò)對(duì)話數(shù)據(jù)讓「小天」學(xué)習(xí)對(duì)話,再通過(guò)真實(shí)的心理咨詢對(duì)話數(shù)據(jù)對(duì)模型架構(gòu)進(jìn)行二次標(biāo)注,讓「小天」學(xué)會(huì)咨詢,以此來(lái)提高它的專業(yè)水平。
「小天」的核心技術(shù)是對(duì)話系統(tǒng),目前仍處于訓(xùn)練模型階段,但已能保證 30% 的自動(dòng)對(duì)話,剩余 70% 的對(duì)話由心理咨詢師指導(dǎo)。但藍(lán)振忠相信,隨著越來(lái)越多心理咨詢師的加入,「小天」接觸到的案例越來(lái)越多,它也會(huì)越來(lái)越聰明,越來(lái)越專業(yè)。
圖注:深度學(xué)習(xí)實(shí)驗(yàn)室工作場(chǎng)景
需要注意的是,藍(lán)振忠對(duì)「小天」的定位是「輔助心理咨詢」,而非「心理治療」。「小天」所在的系統(tǒng)帶有危機(jī)轉(zhuǎn)介設(shè)置,遇到有自殺風(fēng)險(xiǎn)的用戶會(huì)自動(dòng)推薦心理援助資源。如遇到有自殺風(fēng)險(xiǎn)的來(lái)訪進(jìn)入輔助心理咨詢聊天界面,后臺(tái)的咨詢師會(huì)評(píng)估來(lái)訪者的危機(jī)程度,提供心理援助資源與轉(zhuǎn)介處理,盡可能確保來(lái)訪者得到專業(yè)有效的幫助。
不難發(fā)現(xiàn),「小天」結(jié)合了任務(wù)型與社交型對(duì)話系統(tǒng)的特征與要求,研究的難度與復(fù)雜度也更高。藍(lán)振忠形容,與常見(jiàn)的小愛(ài)、小冰、Siri 不同,做這項(xiàng)研究有點(diǎn)像做自動(dòng)駕駛,安全第一,首要任務(wù)是避免「小天」在與人類對(duì)話的過(guò)程中輸出消極語(yǔ)言和負(fù)面情緒。
除了安全,評(píng)估咨詢的質(zhì)量與更好地實(shí)現(xiàn)「小天」的語(yǔ)言理解,也是藍(lán)振忠團(tuán)隊(duì)面臨的難點(diǎn)。他們的評(píng)分標(biāo)準(zhǔn)分為三方面,即「小天」在與人類進(jìn)行基本對(duì)話時(shí):1)語(yǔ)言是否自然連貫;2)是否會(huì)對(duì)來(lái)訪者產(chǎn)生負(fù)面作用;3)能否達(dá)到心理咨詢的目的?;谀壳暗?AI 技術(shù),第一點(diǎn)不難實(shí)現(xiàn),難的是第二點(diǎn)與第三點(diǎn),這也是他們接下來(lái)的研究重點(diǎn)。
在藍(lán)振忠的設(shè)想里,如今搭載在小程序上的「小天」只是 1.0 版本,就像正在上幼兒園的小孩,要繼續(xù)成長(zhǎng),不斷迭代 2.0、3.0、4.0 … 在未來(lái),「小天」也許會(huì)結(jié)合語(yǔ)音識(shí)別、計(jì)算機(jī)視覺(jué)等技術(shù),比如,藍(lán)振忠團(tuán)隊(duì)正與同德醫(yī)院合作研究如何用面部表情識(shí)別來(lái)判斷來(lái)訪者的情緒。
圖注:藍(lán)振忠與實(shí)驗(yàn)室部分成員合影
他很少參與督導(dǎo)「小天」的心理咨詢過(guò)程,但僅有的幾次督導(dǎo)也給他留下了深刻的印象。比如,來(lái)訪者中曾出現(xiàn)一位母親,原本一路陪伴小孩,為小孩的成長(zhǎng)付出,但因?yàn)樾『⒁验L(zhǎng)大成人、畢業(yè)入職,心里一下變得空空蕩蕩,卻又不方便頻繁給小孩打電話。
「不同的來(lái)訪者有不同的困擾?!乖谂c咨詢師交流的過(guò)程中,藍(lán)振忠深刻感覺(jué)到,有必要針對(duì)不同群體的困擾訓(xùn)練「小天」的聊天能力,如空巢老人、留守兒童、產(chǎn)后母親、996的上班族……令「小天」能更好地輔助心理咨詢。目前,他們已經(jīng)開(kāi)始分任務(wù)訓(xùn)練,首先針對(duì)的任務(wù)便是親子關(guān)系。
目前的「小天」有「上下班」時(shí)間:10:00-10:50、16:00-16:50 與 19:00-19:50,但藍(lán)振忠團(tuán)隊(duì)的目標(biāo)是打造一個(gè)24小時(shí)在線的「心理咨詢師」:「雖然無(wú)法代替心理咨詢師為來(lái)訪者做治療,但在他們需要情緒出口、支持與陪伴時(shí),它可以起到一個(gè)很好的輔助作用。」
5
讓 AI 陪你說(shuō)說(shuō)話
“Hi,今天心情怎么樣呀?”
這是聊天機(jī)器人「小天」的常用開(kāi)場(chǎng)白。每個(gè)用戶都擁有一個(gè)專屬于自己的 ID,與「小天」的每一次對(duì)話都會(huì)存在「小天」的“記憶”里。
“人與機(jī)器聊天,也許更放得開(kāi)?!?/p>
回顧過(guò)去一年的研究歷程,藍(lán)振忠感覺(jué)到有一種緊迫感:“因?yàn)樵谧鲞@件事之前,我不知道它有這么大的意義。”他們?cè)谶@一年里收到了非常多正面的反饋,“一年前我們也沒(méi)有想到我們現(xiàn)在能做得這么好,「小天」對(duì)語(yǔ)言的理解也沒(méi)有現(xiàn)在這么深?!?/p>
圖注:藍(lán)振忠領(lǐng)導(dǎo)的深度學(xué)習(xí)實(shí)驗(yàn)室合影
除了能幫助他人,這項(xiàng)研究對(duì)藍(lán)振忠本人的成長(zhǎng)也有著很深的意義:
我感覺(jué)自己每天都在成長(zhǎng)。一年前我對(duì)「小天」的認(rèn)識(shí),與我現(xiàn)在對(duì)「小天」的認(rèn)識(shí)是完全不同的,我當(dāng)時(shí)的管理能力與我現(xiàn)在的管理能力也是完全不同的。這一年下來(lái),與心理咨詢師相處,對(duì)心理方面的認(rèn)識(shí)也有了很大的進(jìn)步。所以總體來(lái)說(shuō),這一年可能是我這么多年來(lái)成長(zhǎng)最快的一年。何愷明與 Alexei Efros 是藍(lán)振忠最欣賞的兩位研究者,因?yàn)樗麄兊墓ぷ鳌讣扔杏糜钟腥ぁ?,這也正是他對(duì)科研的追求。
他的目標(biāo)是打造一個(gè)能夠隨時(shí)隨地給予人類陪伴與支持的機(jī)器人,希望在五年內(nèi)能為一千萬(wàn)人提供免費(fèi)的、全自動(dòng)化的、隨時(shí)隨地的心理咨詢服務(wù)。
目前,藍(lán)振忠的實(shí)驗(yàn)室里有9名在讀博士生,同時(shí),他也在繼續(xù)招收對(duì) AI 輔助心理咨詢感興趣的博士生,并希望與更多專業(yè)的心理咨詢師合作。有興趣的朋友可以與藍(lán)振忠老師聯(lián)系:lanzhenzhong@westlake.edu.cn。
作者注:人物/采訪、交流、爆料、抬杠,歡迎添加微信(302703941)。
參考鏈接:
1、https://baijiahao.baidu.com/s?id=1650447054353296936&wfr=spider&for=pc
2、https://arxiv.org/pdf/1909.11942.pdf?fbclid=IwAR1gWlaWokv7Ys5JNkTgQ3Hw-wdvwv9J5zkYE1-N0lHbqiAOlvJTfhaKuDg
3、https://blog.csdn.net/weixin_37947156/article/details/101529943
相關(guān)閱讀
雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
評(píng)論列表
我朋友咨詢過(guò),還真的挽回了愛(ài)情,現(xiàn)在兩人已經(jīng)結(jié)婚了
被拉黑了,還有希望么?
求助