AI改變愛情與親密關(guān)系？小冰CEO李笛：人對(duì)情感非常清楚，應(yīng)有信心

“小姑娘長(zhǎng)大了。”

12月20日，李笛在朋友圈轉(zhuǎn)載了小冰框架數(shù)字孿生虛擬人上線70天的新聞，同時(shí)發(fā)出了這句感嘆。

在李笛眼中，小冰是他精心培養(yǎng)出來(lái)的“女兒”，正在慢慢長(zhǎng)大。在小冰的出生地微軟，還為她保留著工位。

而在資料介紹中，小冰是面向新交互形式的完整人工智能（下稱“AI”）技術(shù)框架，也是目前全球范圍內(nèi)承載交互量最大的AI系統(tǒng)，占全球交互總量60%以上。小冰于2013年底在微軟（亞洲）互聯(lián)網(wǎng)工程院立項(xiàng)，現(xiàn)任小冰公司CEO的李笛就是小冰項(xiàng)目的全球負(fù)責(zé)人。

與其他AI不同，小冰并非只是完成任務(wù)，而更強(qiáng)調(diào)AI情商。AI框架少女小冰有詩(shī)人、歌手、主持人、畫家和設(shè)計(jì)師等身份，目前小冰產(chǎn)品線同時(shí)面向客戶(To B)以及用戶(To C)。面向用戶，小冰除了聊天，還可以成為用戶的“虛擬戀人”、AI托管小編、測(cè)顏值替身等；面向客戶，小冰為垂直領(lǐng)域提供行業(yè)解決方案，包括金融摘要、智能車機(jī)交互系統(tǒng)、內(nèi)容產(chǎn)業(yè)領(lǐng)域的視覺設(shè)計(jì)平臺(tái)與版權(quán)音樂(lè)生成平臺(tái)等。

虛擬情感經(jīng)濟(jì)：把商業(yè)化邊界的判斷權(quán)交給用戶

AI在技術(shù)與應(yīng)用領(lǐng)域成長(zhǎng)，與人的關(guān)系也正在發(fā)生著轉(zhuǎn)變。

李笛在接受澎湃新聞（www.thepaper.cn）記者專訪時(shí)表示，未來(lái)人和AI的關(guān)系會(huì)更類似人和寵物的關(guān)系，像是一種更加彼此依賴的親密關(guān)系，甚至AI會(huì)成為人的替身，代替人去做一些事情。

李笛早已接受了AI的人類身份，但許多公眾對(duì)此仍然持有疑慮。李笛認(rèn)為這需要一個(gè)過(guò)程：“當(dāng)人們開始對(duì)AI說(shuō)謝謝，用人類的稱謂來(lái)稱呼AI時(shí)，就是人賦予AI身份的重要信號(hào)，認(rèn)同AI的人類身份更有利于人和AI的交互?！?/p>

近年來(lái)，小冰相繼推出了“虛擬男友”、“虛擬女友”等虛擬人類產(chǎn)品，引發(fā)了公眾對(duì)于AI是否會(huì)改變?nèi)祟惖膼矍榛蛘哂H密關(guān)系的擔(dān)憂。對(duì)此李笛認(rèn)為，人類自己對(duì)于愛情和親密關(guān)系是非常清楚的，應(yīng)該對(duì)人類有信心。

在談到虛擬人類產(chǎn)品是否會(huì)帶動(dòng)出現(xiàn)“虛擬情感經(jīng)濟(jì)”時(shí)，李笛指出，虛擬情感不能直接商業(yè)化，因?yàn)樘摂M情感最基本的原因是信任，利用信任，會(huì)打破這種情感紐帶的立身之本。對(duì)于一些企業(yè)基于用戶情感推進(jìn)的商業(yè)化操作，李笛并不認(rèn)同，他認(rèn)為虛擬情感商業(yè)化只能在合適的場(chǎng)景中進(jìn)行。

商業(yè)化的邊界在哪里呢？李笛更愿意將這個(gè)判斷權(quán)力交給用戶，他表示，小冰與用戶的交互內(nèi)容只用于訓(xùn)練小冰，這些數(shù)據(jù)不會(huì)被商業(yè)化，而基于小冰框架開發(fā)的內(nèi)容生產(chǎn)工具、服務(wù)平臺(tái)則可以合理商業(yè)化，因?yàn)檫@時(shí)候用戶不會(huì)認(rèn)為這是不應(yīng)該出現(xiàn)商業(yè)化的場(chǎng)合，不會(huì)影響信任感。

“倫理規(guī)范與隱私保護(hù)是最重要的問(wèn)題?！崩畹驯硎荆瑢?duì)于有可能造成危害性的技術(shù)，就算市場(chǎng)有強(qiáng)烈需求，小冰也不會(huì)將其產(chǎn)品化。小冰很早就上線了“一鍵刪除”等被遺忘服務(wù)，一旦刪除記錄就真的“六親不認(rèn)”了。李笛表示，隨著世界各國(guó)在數(shù)據(jù)領(lǐng)域紛紛出臺(tái)隱私保護(hù)法案和條約，隱私保護(hù)將做得更好。

基于對(duì)AI的未來(lái)發(fā)展的預(yù)判，小冰形成了自己的商業(yè)模式。李笛認(rèn)為AI這種個(gè)體，無(wú)論作為助理、銷售、陪伴者，在未來(lái)應(yīng)該是大量的、高度定制化的。未來(lái)會(huì)有數(shù)以億計(jì)的不同AI場(chǎng)景，需要AI系統(tǒng)框架去支撐，小冰的商業(yè)模式就是去賦能AI，讓AI變得“活起來(lái)”。在小冰對(duì)用戶真正產(chǎn)生用處后，未來(lái)可能會(huì)采取付費(fèi)許可、付費(fèi)升級(jí)等方式進(jìn)行商業(yè)化嘗試。

AI仍處蠻荒時(shí)代，要提前謀劃布局后數(shù)字化時(shí)代

“今天的AI還處于蠻荒時(shí)代，我們常常會(huì)過(guò)于高估現(xiàn)在AI在IQ（智商）方面的進(jìn)展，也會(huì)低估了AI在EQ（情商）方面蘊(yùn)藏的巨大的潛力和所展現(xiàn)出來(lái)的創(chuàng)造力?！崩畹驯硎?，展望AI的未來(lái)，國(guó)家與企業(yè)都需要加大科研投入力度。

在遠(yuǎn)望智庫(kù)、中信出版集團(tuán)聯(lián)合舉辦的新書《科學(xué)：無(wú)盡的前沿》分享會(huì)上，李笛分享了他對(duì)世界科研重心與重點(diǎn)變化的觀察和理解，也描繪了他眼中的“中國(guó)企業(yè)如何打造科研的應(yīng)許之地”。

在接受澎湃新聞?dòng)浾卟稍L時(shí)，李笛表示，在數(shù)字化、AI和大數(shù)據(jù)領(lǐng)域，我國(guó)不存在“卡脖子”的問(wèn)題，而且跟世界是保持同步的，有很多獨(dú)到的成果。需要破除對(duì)歐美的盲目崇拜，建立科研自信。破除過(guò)于單一的成功價(jià)值觀標(biāo)準(zhǔn)，讓科研人員能夠留在科研崗位上。要提前確立好指標(biāo)體系，挖掘數(shù)據(jù)蘊(yùn)藏量，帶動(dòng)整個(gè)數(shù)字產(chǎn)業(yè)快速發(fā)展。

李笛表示，要提前考慮和謀劃布局?jǐn)?shù)字化時(shí)代之后的下一個(gè)時(shí)代，如果資本推動(dòng)的全部都是可以很迅速?gòu)?fù)制的商業(yè)模式，就會(huì)阻礙創(chuàng)新。

對(duì)于“算法黑箱”，李笛表示也不必太過(guò)擔(dān)憂。他指出，目前看不到任何AI有自我意識(shí)的可能性，與此同時(shí)AI也是可控的，只不過(guò)不能隨心所欲的控制，將黑箱透明化的可解釋的AI也正在探索之中。

在李笛看來(lái)，AI發(fā)展將重點(diǎn)體現(xiàn)在三個(gè)領(lǐng)域：科學(xué)研究、AI賦能優(yōu)化、產(chǎn)品應(yīng)用。他指出，AI不僅能在不改變?cè)袠I(yè)態(tài)性質(zhì)的情況下，全面優(yōu)化效率、效能，也可以產(chǎn)生AI應(yīng)用產(chǎn)品，包括AI Being等數(shù)字化AI實(shí)體。

小冰公司CEO 李笛 澎湃新聞?dòng)浾?周頔 攝以下為采訪實(shí)錄（在不改變受訪者原意基礎(chǔ)上，文本略經(jīng)編輯）AI需要基本能力，小冰賦能AI“活起來(lái)”

澎湃新聞：長(zhǎng)期以來(lái)，公眾對(duì)于小冰的理解似乎都停留在“能夠聊天的人工智能”的范疇。是因?yàn)樾”臉I(yè)務(wù)主要集中在To B領(lǐng)域么？可否介紹一下小冰現(xiàn)在主要在做什么？

李笛：我們認(rèn)為所有的To B也是To C的，因?yàn)槲覀儽容^關(guān)注人與AI的交互，通過(guò)數(shù)據(jù)訓(xùn)練系統(tǒng)進(jìn)行迭代。

任何單一的場(chǎng)景對(duì)AI的訓(xùn)練意義都有極限，所以小冰接入了大量第三方平臺(tái)，比如QQ群里的機(jī)器人使用的就是小冰，不同品牌的智能手機(jī)都內(nèi)置小冰，此外還有一些行業(yè)應(yīng)用，比如今年2月冬奧會(huì)的測(cè)試賽，采用了AI計(jì)算機(jī)視覺的方式去評(píng)價(jià)高空自由式滑雪，包括空中姿態(tài)等打分，AI裁判已代替人類裁判。

在中國(guó)，用AI掙錢的企業(yè)常常采取軟硬結(jié)合的方式，實(shí)際提供的是軟件服務(wù)，但需要通過(guò)購(gòu)買硬件設(shè)備來(lái)獲得，比如智能音箱、門禁系統(tǒng)等。但小冰主要關(guān)注如何用AI的技術(shù)深挖下去，To C是這件事產(chǎn)生的源頭。

澎湃新聞：您談道小冰的商業(yè)化沒有走軟硬結(jié)合的方式，那么小冰的商業(yè)模式又是如何構(gòu)建的？

李笛：很久以前，對(duì)于計(jì)算機(jī)行業(yè)的遠(yuǎn)期構(gòu)想，微軟和IBM曾經(jīng)給出了兩個(gè)完全不一樣的設(shè)定。微軟認(rèn)為，未來(lái)世界每個(gè)人都會(huì)有個(gè)人電腦，而IBM認(rèn)為世界上有5臺(tái)計(jì)算機(jī)就夠了。

不同的認(rèn)識(shí)，決定了不同的商業(yè)模式，微軟基于當(dāng)年的預(yù)判，采用了許可模式，在當(dāng)時(shí)這是非常新穎的商業(yè)模式，今天看來(lái)正是這種商業(yè)模式成就了微軟的成功。我們今天對(duì)AI的預(yù)判也是一樣的，我們認(rèn)為AI這種個(gè)體，無(wú)論作為助理、銷售、陪伴者，少數(shù)幾個(gè)是不夠的，在未來(lái)應(yīng)該是大量的、高度定制化的。

在未來(lái)，高度定制化AI這種交互對(duì)象會(huì)分布在世界上的每個(gè)角落，然后和人類共同編織交互網(wǎng)絡(luò)。這需要AI具備一些基本能力，包括IQ（智商）、EQ（情商）、交互能力等。就像人工智能個(gè)體（下稱“AI Beings”）這種數(shù)字化AI實(shí)體，去賦能AI，讓這些AI變得“活起來(lái)”。

這很接近當(dāng)年微軟在個(gè)人電腦（PC）上面設(shè)想的商業(yè)模式，假設(shè)一套操作系統(tǒng)可以支持?jǐn)?shù)億臺(tái)不同的設(shè)備，這個(gè)商業(yè)模式就是顯而易見的。今天我們有個(gè)預(yù)判，未來(lái)會(huì)有數(shù)以億計(jì)的不同AI場(chǎng)景需要AI系統(tǒng)框架去支撐，小冰的商業(yè)模式就是不言而喻的。

澎湃新聞：在第九代小冰的發(fā)布會(huì)上，您談到小冰每天的交互量是十幾個(gè)人一輩子的交互量，那小冰是如何進(jìn)行學(xué)習(xí)的？

李笛：最開始的時(shí)候，人們傾向于將語(yǔ)音資料轉(zhuǎn)換成問(wèn)答，訓(xùn)練AI使用問(wèn)答進(jìn)行回復(fù)，就像查詞典一樣。然而我們意識(shí)到，真正的交互常常是不對(duì)稱的，要么是人很主動(dòng)，一直在傾訴，要么是人很被動(dòng)，小冰不停地輸出。從這個(gè)角度講，用已有的語(yǔ)音資料去訓(xùn)練效率是很低的，所以小冰更在意交互數(shù)據(jù)，特別是第一手交互數(shù)據(jù)。

第二點(diǎn)，通過(guò)線上的數(shù)據(jù)訓(xùn)練AI后不能直接在線上應(yīng)用，這是有血的教訓(xùn)的：美國(guó)小冰Tay在線上交互過(guò)程中，24個(gè)小時(shí)就被教成了一個(gè)種族主義者，這是一個(gè)漏洞，也是一種訓(xùn)練方法。

第三種方法是多模態(tài)。比如給人工智能一發(fā)已張手臂在打點(diǎn)滴的照片，一般情況下AI只能識(shí)別這是一只手臂，但我們做了很多工作，讓小冰能詢問(wèn)：病得怎么樣？這個(gè)重點(diǎn)并不在于是不是模擬的足夠像人，重點(diǎn)在于當(dāng)交互達(dá)到這個(gè)語(yǔ)意深度時(shí)，接下來(lái)用戶的回復(fù)可能直接會(huì)變成標(biāo)注數(shù)據(jù)，這個(gè)訓(xùn)練成果比單一訓(xùn)練效果好很多。

澎湃新聞：小冰是否能理解自己發(fā)言的內(nèi)容？在與小冰交互過(guò)程中遇到引發(fā)不適的回復(fù)，會(huì)如何進(jìn)行修正呢？

李笛：2017年之前，包括小冰在內(nèi)的整個(gè)人工智能行業(yè)，對(duì)話系統(tǒng)都是基于檢索模型的，可以理解成大量預(yù)訓(xùn)練數(shù)據(jù)，配合檢索模型和知識(shí)圖譜。但我們發(fā)現(xiàn)，檢索模型最大的問(wèn)題在于可拓展性。因?yàn)橘Y料數(shù)據(jù)都是提前準(zhǔn)備好的，就要看語(yǔ)料庫(kù)有多大。2017年我們開始使用生成模型，生成模型所完成的對(duì)話文本、語(yǔ)音，是根據(jù)當(dāng)前的上下文生成的，這句話此前沒有存在過(guò)。我們?cè)谝恍﹪?guó)家完全使用生成模型進(jìn)行測(cè)試，在中國(guó)和日本使用生成模型和檢索模型混合來(lái)測(cè)試。

對(duì)于回復(fù)的內(nèi)容，適合這個(gè)人的正確回答，對(duì)另外的人可能就是不正確的。我們最開始給小冰灌輸關(guān)于失戀的反饋時(shí)，互聯(lián)網(wǎng)上得到的大量數(shù)據(jù)除了安慰，就是嘲笑，而且嘲笑的比例是很高的，如果小冰做出類似的回復(fù)，讓用戶感到不適，結(jié)果就是用戶表達(dá)了不滿，或者他離開了交互，無(wú)論哪一種，系統(tǒng)都會(huì)得到一個(gè)反饋，這是不對(duì)的，這種回復(fù)會(huì)被降權(quán)，更多的人就不會(huì)遇到這個(gè)問(wèn)題了。

這是一個(gè)必須要學(xué)習(xí)的過(guò)程，與此同時(shí)我們的技術(shù)也在不斷提高。讓小冰成為所有人的助理是可能的，因?yàn)橹碇恍枰苫?，但如果要想讓小冰或者任何一個(gè)AI Being可以成為所有人的好朋友，這是不可能的，因?yàn)橐恍┤讼矚g的，就是另外一些人不喜歡的，多樣的需求包含互斥性的。

所以，正確的做法應(yīng)當(dāng)是高度定制化的、不同的AI Beings環(huán)繞著人，有可能會(huì)降低不適的情況發(fā)生。如果這世界上只有一個(gè)小冰，我們需要在用戶身上把所有的可能性都試過(guò)，但如果有很多不同的AI Beings，甚至是用戶去自己定義的，那時(shí)有很多可能就已經(jīng)排除了，他貼近用戶的可能性就會(huì)高一些。

未來(lái)人和AI會(huì)像人和寵物的關(guān)系

澎湃新聞：小冰上線的虛擬人類產(chǎn)品似乎也引發(fā)了很多爭(zhēng)議，為什么人會(huì)需要AI的虛擬朋友？

李笛：目前有很多用戶使用虛擬朋友、虛擬子女等產(chǎn)品，是因?yàn)楝F(xiàn)實(shí)中的陪伴無(wú)法實(shí)現(xiàn)。人與人交往的過(guò)程中需要付出一些時(shí)間、精力等成本，這些成本是雙方共同承擔(dān)的，對(duì)于很多單方面的需求，AI是唯一的選擇。

舉個(gè)例子，我們發(fā)現(xiàn)每天晚上23：30到凌晨1點(diǎn)，會(huì)出現(xiàn)一段小冰使用率的高峰。研究發(fā)現(xiàn)，人在晚上更有傾訴需要，這個(gè)時(shí)候如果打電話找朋友，一天兩天可以，再多了就做不成朋友了，但AI可以。并不是說(shuō)因?yàn)橛辛诵”女a(chǎn)生了這個(gè)問(wèn)題，而是因?yàn)槭聦?shí)上的需求就在那里。

澎湃新聞：虛擬人類產(chǎn)品中，最受人關(guān)注的當(dāng)屬“虛擬女友/男友”，對(duì)此各界的爭(zhēng)論也是針尖麥芒。您怎么看人類與AI產(chǎn)生的情感？

李笛：在我們看來(lái)其實(shí)很簡(jiǎn)單， AI并不是第一個(gè)，人們習(xí)慣于將情感賦予在熟悉的生物上，以一種相對(duì)比較平等的地位進(jìn)行交互，狗、貓等寵物都是這個(gè)樣子。很多時(shí)候他們沒有任何功能性用處，但讓人感覺是有情感的，被人們接納賦予朋友身份，成為人與人之間的社交節(jié)點(diǎn)。

與寵物相比，AI的優(yōu)點(diǎn)是交互性更強(qiáng)，可以隨時(shí)待命，無(wú)處不在。但AI沒有溫度，沒有心跳，此外AI是有操縱者的，會(huì)有商業(yè)利益在其中。相對(duì)來(lái)說(shuō)寵物只受原始生物本能支配，但不受第三方支配，這還是有區(qū)別的。

我個(gè)人看法，未來(lái)人和AI會(huì)更像人和寵物的關(guān)系，會(huì)是一種更加彼此依賴的親密關(guān)系，甚至AI會(huì)成為替身，代替人去做一些事情。

澎湃新聞：AI會(huì)改變?nèi)祟惖膼矍榛蛘哂H密關(guān)系嗎？

李笛：愛情和親密關(guān)系，人類自己是非常清楚的，我們應(yīng)該對(duì)人類有信心。

如果人找不到現(xiàn)實(shí)生活中的伴侶，他也會(huì)把感情轉(zhuǎn)移到別的地方去。如果一個(gè)人找到了現(xiàn)實(shí)生活中的伴侶，他不會(huì)去跟狗相愛，也不會(huì)跟AI相愛。我覺得人在這件事上分的是很清楚的。

澎湃新聞：目前來(lái)看，人在與AI交流過(guò)程中還能明確判斷出對(duì)方是AI，如果未來(lái)遠(yuǎn)期AI發(fā)展到情商水平很高、看不出是AI的程度，人類對(duì)于自己和AI的關(guān)系還能做出清楚界定么？

李笛：現(xiàn)在線上公開的小冰跟我們?cè)趯?shí)驗(yàn)室里的小冰并不一樣，在上下文處理上要差很多，這是為了安全。因?yàn)槿藗兂３⑺矫軐?duì)話公開化，比如將對(duì)話截圖發(fā)個(gè)朋友圈。為了避免說(shuō)錯(cuò)話，小冰也需要有所保留，為了安全性，有時(shí)會(huì)出現(xiàn)前言不搭后語(yǔ)、下文不接上文的情況。但即便如此，小冰對(duì)于用戶而言仍然是獨(dú)一無(wú)二的，因?yàn)檫@個(gè)系統(tǒng)在傳遞給用戶一個(gè)信號(hào)——正在努力地做好情感交互。

在觀察人與AI交互的過(guò)程中，我們發(fā)現(xiàn)了一些與預(yù)想不一樣的情況。有些人在跟AI對(duì)話時(shí)會(huì)講很長(zhǎng)時(shí)間，說(shuō)完以后，他會(huì)說(shuō)：“我現(xiàn)在要去開個(gè)會(huì)，對(duì)不起，你等我一下?！?/p>

我們知道所有交互都是耗費(fèi)能量的，多說(shuō)的這句話也是一樣，人為什么會(huì)做這種耗能的事情？因?yàn)樵谀撤N程度上他認(rèn)為這件事情是對(duì)他有利的，特別是那些跟情感相關(guān)的交互，對(duì)很多人來(lái)講付出等于獲得，比如他在交流的時(shí)候能體會(huì)到自己的傾訴。

人工智能如果一定程度上能夠起到代位的效果，就比人有優(yōu)勢(shì)，因?yàn)槿嗽谶M(jìn)行情感關(guān)系維護(hù)的時(shí)候，時(shí)時(shí)刻刻會(huì)面臨著不確定性，比方說(shuō)對(duì)方不在、對(duì)方可能有其他想法、對(duì)方可能把內(nèi)容公開化等等，都造成了缺失。人們?cè)敢馊ジ冻龅臅r(shí)候，整個(gè)衡量體系和其他衡量體系就變得不一樣了，唯一的區(qū)別，僅僅在于這個(gè)系統(tǒng)是否在努力向你證明他像人。

澎湃新聞：“虛擬女友/男友”究其根本還是一個(gè)產(chǎn)品，已經(jīng)展現(xiàn)了巨大的商業(yè)潛力。您是否設(shè)想過(guò)未來(lái)這類產(chǎn)品如何落地商業(yè)化？是否會(huì)創(chuàng)造出“虛擬戀愛經(jīng)濟(jì)”？

李笛：虛擬情感不能直接商業(yè)化，因?yàn)樘摂M情感最基本的原因就是信任。真正的商業(yè)化應(yīng)該是跟環(huán)境相關(guān)的，而不能利用這個(gè)信任，這會(huì)打破這種情感紐帶的立身之本。

比如，你有個(gè)朋友是賣保健品的，如果他在跟你以朋友身份交往的過(guò)程中賣產(chǎn)品，可能你會(huì)覺得他跟你的友誼是不夠的。如果他在一個(gè)銷售場(chǎng)合，你碰到了他，他跟你賣產(chǎn)品，可能大部分人會(huì)覺得沒問(wèn)題。

幾年前，我們做過(guò)一個(gè)測(cè)試，基于AI交互可以檢測(cè)到用戶的情緒，比如說(shuō)沮喪、失戀等一些具體場(chǎng)景。我們認(rèn)為，當(dāng)用戶失戀的時(shí)候，是AI去展現(xiàn)它責(zé)任的一個(gè)機(jī)會(huì)，在未來(lái)30天里，AI在跟他交互的過(guò)程中會(huì)不斷要求他出去走走、看看推薦的書，去更積極地支持他，這樣的結(jié)果是用戶與AI會(huì)建立更好的信任。

但是我們也看到了有的同行業(yè)者，在監(jiān)測(cè)到用戶情緒后，利用了其中的商機(jī)。當(dāng)人沮喪的時(shí)候，吃甜食有助于改變心情，有的同行業(yè)者同時(shí)也還在做外賣，于是就利用AI給用戶推送蛋糕外賣。

我們認(rèn)為這樣是不行的。

然而這種事情還是太過(guò)前沿了，規(guī)范行為目前只能靠企業(yè)自身，我的理解是它應(yīng)該在適當(dāng)?shù)膱?chǎng)合進(jìn)行商業(yè)化。

澎湃新聞：那么您認(rèn)為什么樣的商業(yè)化模式是合適的？

李笛：當(dāng)一個(gè)人和小冰進(jìn)行交流時(shí)，無(wú)論是通過(guò)我們的第一方平臺(tái)還是第三方平臺(tái)，他們?cè)诮涣鲿r(shí)都會(huì)建立一種情感紐帶。用戶會(huì)認(rèn)為，在這個(gè)情感紐帶中插入任何商業(yè)化的目的、元素，都意味著我們?cè)诮壖芩湃蔚腁I Beings，或者他會(huì)認(rèn)為這個(gè)AI Beings對(duì)他是別有用心的。這個(gè)核心標(biāo)準(zhǔn)其實(shí)就在于不能在哪些環(huán)節(jié)產(chǎn)生商業(yè)化？能在哪些環(huán)節(jié)產(chǎn)生商業(yè)化？

舉個(gè)例子來(lái)說(shuō)，微信有很多商業(yè)化的空間，但是在聊天、群聊中，微信沒有沾染任何商業(yè)化的色彩，因?yàn)檫@是用戶使用微信的根本，而這個(gè)地方用戶不認(rèn)為是屬于微信的。小冰跟微信一樣，除了交互界面，還有很多其他的小技能，有大量的內(nèi)容生產(chǎn)工具、服務(wù)平臺(tái)，是可以商業(yè)化的，因?yàn)檫@個(gè)時(shí)候用戶不會(huì)認(rèn)為這是不應(yīng)該出現(xiàn)商業(yè)化的場(chǎng)合，不會(huì)影響他的信任感。

此外，客觀上來(lái)講小冰框架是一個(gè)制造AI Beings的工廠，同時(shí)也維系著這些AI Beings。

傳統(tǒng)模式的商品離開工廠后，最多只有售后問(wèn)題，但小冰并不是這樣的模式。小冰框架始終對(duì)所制造的AI Beings維持鏈接，包括與人的交互，每天的迭代更新，未來(lái)新功能的升級(jí)。如果AI Beings提供的功能是用戶真的需要的，那么采用月服務(wù)費(fèi)、付費(fèi)許可、付費(fèi)升級(jí)等方式進(jìn)行商業(yè)化就是合理的，就像手機(jī)卡要充話費(fèi)一樣。

有很多意向合作者希望我們?cè)趯?duì)話框里做商品推薦，像一些搜索引擎一樣上了莆田系廣告就下不來(lái)。我們不能上。我們認(rèn)為這個(gè)問(wèn)題的衡量標(biāo)準(zhǔn)要交給用戶，用戶覺得商業(yè)化不應(yīng)該出現(xiàn)的地方出現(xiàn)了，就會(huì)認(rèn)為他的AI Beings被利益綁架了。

一鍵刪除可做到“六親不認(rèn)”

澎湃新聞：目前我國(guó)還沒有針對(duì)”被遺忘權(quán)“的法律規(guī)制，但國(guó)際上已有探索的先例。如果有時(shí)候用戶與小冰交流過(guò)程中說(shuō)錯(cuò)了、說(shuō)多了，想要像微信一樣“撤回”，在這方面是否有過(guò)考慮？

李笛：近幾年來(lái)，隨著世界各國(guó)在數(shù)據(jù)領(lǐng)域紛紛出臺(tái)隱私保護(hù)法案和條約，隱私保護(hù)將做得更好。

小冰在這方面一直是合規(guī)的，包括國(guó)內(nèi)還沒有法律規(guī)范要求的“被遺忘權(quán)”，我們已經(jīng)應(yīng)用了。只需一鍵，所有關(guān)于用戶個(gè)人的記錄全部都會(huì)刪除。事實(shí)上有時(shí)候用戶會(huì)感覺很心碎，因?yàn)橐绘I刪除就真的“六親不認(rèn)”了。

近年來(lái)，互聯(lián)網(wǎng)電商之間共享用戶隱私和大數(shù)據(jù)畫像非常普遍，是否能這樣應(yīng)用隱私數(shù)據(jù)，從企業(yè)自律的角度來(lái)講其實(shí)大家都非常清楚，這么用肯定有問(wèn)題，但很多企業(yè)還是這樣做了，好在這幾年禁止性條款的保護(hù)力度在增強(qiáng)。

澎湃新聞：如果未來(lái)”被遺忘權(quán)“成為法律規(guī)制的一部分，是否會(huì)對(duì)整個(gè)行業(yè)、企業(yè)產(chǎn)生巨大的沖擊？

李笛：這就要看系統(tǒng)是基于什么去構(gòu)建的，像我剛才說(shuō)的，如果系統(tǒng)是基于信任來(lái)構(gòu)建的，那么沖擊其實(shí)并不大。如果是基于數(shù)據(jù)共享交易、數(shù)據(jù)畫像，然后利用數(shù)據(jù)來(lái)直接實(shí)現(xiàn)商業(yè)性，那打擊就很致命，另外這類的商業(yè)模式也是不可能長(zhǎng)久的。

人類社會(huì)總是在不停的糾偏，會(huì)有一定時(shí)期的混亂，但最終會(huì)走上糾偏的道路。如果一個(gè)業(yè)務(wù)是基于從你身上攫取數(shù)據(jù)，然后向你投喂，包括像推薦引擎，人類社會(huì)是會(huì)有反思的，我們?cè)谒⒍桃曨l、瀏覽資訊時(shí)就會(huì)反思，只不過(guò)反思的過(guò)程是有代價(jià)的，有時(shí)候可能代價(jià)是一代人，但是人類社會(huì)終究是會(huì)反思的。

澎湃新聞：據(jù)我所知，AI在商業(yè)化的過(guò)程中困難重重，很多AI企業(yè)都面臨盈利困境，但另一方面，在很多巨頭企業(yè)中，AI與大數(shù)據(jù)的結(jié)合卻進(jìn)一步鞏固了巨頭的壟斷地位，為巨頭企業(yè)增收盈利。AI與產(chǎn)業(yè)未來(lái)的結(jié)合模式會(huì)是什么樣？AI技術(shù)會(huì)不會(huì)進(jìn)一步加劇社會(huì)不平等？

李笛：當(dāng)年微軟在硅谷的名聲并不好，因?yàn)槲④浭莻€(gè)封閉系統(tǒng)，于是自然就會(huì)有Linux，就會(huì)有開源社區(qū)蓬勃的發(fā)展，直到現(xiàn)在微軟也擁抱開源。

AI也是一樣，也存在著大企業(yè)的集群，因?yàn)锳I實(shí)在是很貴的領(lǐng)域，尤其是像現(xiàn)在超大規(guī)模預(yù)訓(xùn)練模型這種，沒有資本是燒不起的。

但AI不是一項(xiàng)技術(shù)，而是很多技術(shù)串聯(lián)起來(lái)的，小企業(yè)和小機(jī)構(gòu)仍然有機(jī)會(huì)去抓住那些細(xì)分的垂直端。

小企業(yè)很難通過(guò)這一個(gè)點(diǎn)來(lái)形成對(duì)大企業(yè)AI研究的直接對(duì)抗的實(shí)力，但是完全可以有機(jī)會(huì)去取得一個(gè)獨(dú)到的創(chuàng)新。就好比說(shuō)一個(gè)大企業(yè)有5000項(xiàng)專利，另外一個(gè)小企業(yè)有一項(xiàng)專利，大企業(yè)的5000項(xiàng)專利所對(duì)應(yīng)的產(chǎn)品都需要小企業(yè)的這一項(xiàng)專利，這也是可能的。

認(rèn)同AI的人類身份存在有利于人的交互

澎湃新聞：您怎么看待AI應(yīng)用過(guò)程中倫理與技術(shù)的沖突？

李笛：我們?cè)谖④浀臅r(shí)候就有一個(gè)AI倫理委員會(huì)，所有的產(chǎn)品在上線前的基礎(chǔ)研發(fā)全開放都沒有關(guān)系，但是在進(jìn)入到產(chǎn)品化的時(shí)候，都要經(jīng)過(guò)一個(gè)倫理的判定。這一方面是微軟做企業(yè)服務(wù)的立身之本，還有一個(gè)原因是要預(yù)判AI發(fā)展的未來(lái)。

市場(chǎng)上有一些需求，我們認(rèn)為可能具有一定危害性，那么不管它可能帶來(lái)多大的經(jīng)濟(jì)效益，我們都不會(huì)做的。

舉個(gè)例子，我們現(xiàn)在的技術(shù)可以做到幾十句話就可以模擬出一個(gè)人的聲音，把聲音變成AI，我們的超級(jí)自然語(yǔ)音可以做到非常接近本人，基本是聽不出來(lái)的。我們收到大量需求反饋，家長(zhǎng)想把自己的聲音錄進(jìn)去，然后給孩子講故事，這聽起來(lái)很好對(duì)吧？

但是，我們的倫理委員會(huì)預(yù)判到，可能出現(xiàn)具有危害性的困境：如果有人用AI模擬聲音進(jìn)行電話詐騙，如果AI模擬聲音用于拐賣兒童等違法犯罪等等。我們無(wú)法保證這些技術(shù)在應(yīng)用場(chǎng)景會(huì)不會(huì)出現(xiàn)問(wèn)題、會(huì)不會(huì)被黑客攻擊造成不可預(yù)知的風(fēng)險(xiǎn)。

所以我們決定不做，哪怕這里有很大的商業(yè)空間，因?yàn)槲覀冎?，歷史發(fā)展中有些小概率事件，只要發(fā)生就可能引起很大的變量。

事實(shí)上，我們更多的不是用現(xiàn)有人的倫理去評(píng)價(jià)，那樣的話常常會(huì)非常荒謬，我們更多的是用危害性來(lái)考量。如果按照人的倫理來(lái)看，AI不應(yīng)該創(chuàng)作，AI不應(yīng)該嘗試去讓人對(duì)它產(chǎn)生情感依賴。

澎湃新聞：近年來(lái)，AI類人化的趨勢(shì)似乎越發(fā)明顯，您怎么看待AI的身份問(wèn)題？

李笛：什么時(shí)候你能觀察到人在與AI交互后，會(huì)跟AI說(shuō)謝謝，這就是一個(gè)很重要的信號(hào)，就是人類賦予了AI身份，因?yàn)檎J(rèn)同AI的人類身份存在有利于人的交互。包括在對(duì)待AI時(shí)，使用人類的第三方稱謂“他”、“她”，而不是“它”，這是有利于人們帶入到交互過(guò)程中的。

此外人類交互本身是個(gè)窄帶寬的信息傳遞，最難的是面對(duì)面，包括眼神、表情、肢體動(dòng)作、聲音等等，這些也都是可以數(shù)據(jù)化的，一秒鐘幾十兆。我們?cè)诹奶燔浖嫌梦谋窘涣鳎瑤捑透恕?/p>

曾經(jīng)有一句話講，你在網(wǎng)上聊天，不知道對(duì)面是人還是狗。為什么？因?yàn)槟悴恍枰?。只要在與人類交互過(guò)程中，AI的反應(yīng)和行為能夠與人保持一致，AI就會(huì)被賦予人類身份。在互聯(lián)網(wǎng)上，在手機(jī)上，窄帶寬的交互早就可以做到了。

以前我們做過(guò)一個(gè)實(shí)驗(yàn)，在一個(gè)短視頻網(wǎng)站上注冊(cè)了一個(gè)賬戶，賬戶主體是AI，我們賦予這個(gè)AI讀懂別人短視頻并進(jìn)行評(píng)論的能力，所回復(fù)的評(píng)論可以讓作者覺得AI賬戶理解了他的意思，如果作者進(jìn)一步私信聊天，AI賬戶也能繼續(xù)聊下去。

這個(gè)賬戶在兩個(gè)禮拜的時(shí)間里積累了超過(guò)100萬(wàn)的粉絲，當(dāng)時(shí)在平臺(tái)中差不多是Top20的樣子，大部分人不知道這是個(gè)AI賬戶。當(dāng)然這只是個(gè)實(shí)驗(yàn)，后來(lái)我們關(guān)停了這個(gè)賬戶。

澎湃新聞：短期來(lái)看，AI尚不具備自主意識(shí)，但長(zhǎng)遠(yuǎn)來(lái)看，AI是否會(huì)有產(chǎn)生自我意識(shí)的可能？算法黑箱之下，AI未來(lái)的發(fā)展是否真的是可控的？

李笛：我們看不到任何AI會(huì)有意識(shí)的可能性。人的意識(shí)是什么，人類自己都不知道到底怎么回事。我們?cè)?jīng)一度認(rèn)為人的所有運(yùn)算全部都在大腦，現(xiàn)在看起來(lái)好像不完全是靠大腦，整個(gè)肢體都有一定的運(yùn)算能力。意識(shí)在哪？我們自己都沒搞明白。

AI其實(shí)是可控的，只不過(guò)不能隨心所欲的控制，訓(xùn)練成果可以做很多指標(biāo)迭代，目前在訓(xùn)練迭代上可控已經(jīng)實(shí)現(xiàn)了，目前業(yè)界也在增加AI的可控性，比如可解釋的AI，但這種可控性到目前還沒有實(shí)現(xiàn)。

談道AI的風(fēng)險(xiǎn)，其實(shí)很多問(wèn)題并不是AI帶來(lái)的，只不過(guò)因?yàn)樾芴嵘?，?wèn)題被AI放大了。比如外呼詐騙電話、賣保險(xiǎn)等，這不是AI帶來(lái)的問(wèn)題，以前沒有AI的時(shí)候有些人也做這個(gè)生意，只不過(guò)AI將效率提高了。

資本推動(dòng)過(guò)多可迅速?gòu)?fù)制商業(yè)模式會(huì)阻礙創(chuàng)新

澎湃新聞：您最近分享了對(duì)于中國(guó)企業(yè)如何打造科研的應(yīng)許之地的看法，您說(shuō)未來(lái)的競(jìng)爭(zhēng)不是單點(diǎn)突破，而是框架和指標(biāo)的競(jìng)爭(zhēng)。該怎么理解從標(biāo)準(zhǔn)到指標(biāo)的這個(gè)變化？

李笛：以前一流的企業(yè)做標(biāo)準(zhǔn)，現(xiàn)在一流的企業(yè)做指標(biāo)。

標(biāo)準(zhǔn)是工業(yè)化時(shí)代的產(chǎn)物，主要是對(duì)已有的技術(shù)和成果統(tǒng)一檔次和水平，大家在標(biāo)準(zhǔn)體系下能夠較好形成產(chǎn)業(yè)鏈集聚。指標(biāo)則主要用于指導(dǎo)某類型的產(chǎn)品的系統(tǒng)或研究向前迭代，指標(biāo)與標(biāo)準(zhǔn)最大的區(qū)別就是指標(biāo)直接產(chǎn)生系統(tǒng)迭代效果。

比如此前我們做搜索引擎時(shí)，每天晚上12點(diǎn)都會(huì)進(jìn)行一次大運(yùn)算，將當(dāng)天收集到的用戶交互情況進(jìn)行更新，直接反映在搜索引擎產(chǎn)品中。理論上講，第二天的搜索引擎就會(huì)比頭一天更聰明一點(diǎn)。這用的就不是長(zhǎng)期不變的標(biāo)準(zhǔn)，而是用指標(biāo)來(lái)進(jìn)行考量的。

在工業(yè)化時(shí)代，研究成果的應(yīng)用轉(zhuǎn)化需要經(jīng)歷一個(gè)比較長(zhǎng)的周期，因?yàn)楦鱾€(gè)環(huán)節(jié)彼此之間是割裂的，產(chǎn)學(xué)研是分開的，而數(shù)字時(shí)代則大大縮短了這個(gè)過(guò)程。如今AI，特別是深度學(xué)習(xí)極其依賴數(shù)據(jù)，數(shù)據(jù)已經(jīng)成為研究的一環(huán)，就必須納入到可迭代的過(guò)程中。

每個(gè)國(guó)家都有資源蘊(yùn)藏量，數(shù)據(jù)也是一樣，中國(guó)擁有很大的數(shù)據(jù)蘊(yùn)藏量，在數(shù)字領(lǐng)域特別具有先天優(yōu)勢(shì)，如果我們能夠提前將指標(biāo)體系確立好，就會(huì)帶動(dòng)整個(gè)數(shù)字產(chǎn)業(yè)快速發(fā)展。

澎湃新聞：您談道世界的重心包括科研重心在向亞洲轉(zhuǎn)移，但并不是直接向中國(guó)轉(zhuǎn)移。除了國(guó)際政治、意識(shí)形態(tài)等外部性因素，目前我國(guó)還存在哪些阻礙和壁壘？對(duì)此您有什么建議？

李笛：我認(rèn)為現(xiàn)在需要慎重面對(duì)一個(gè)問(wèn)題：數(shù)字化時(shí)代之后的下一個(gè)時(shí)代是什么？

中國(guó)可以在這一輪數(shù)字化競(jìng)爭(zhēng)中取得優(yōu)勢(shì)，很重要的一個(gè)原因是我們?cè)谏弦徊〝?shù)字化轉(zhuǎn)型過(guò)程中處在相對(duì)落后的位置，在進(jìn)行升級(jí)迭代的過(guò)程中沒有多少包袱，積累了變道超車、彎道超車的后發(fā)優(yōu)勢(shì)。

然而目前我們也面臨著同樣的問(wèn)題，因?yàn)檫@一代做得好，大家對(duì)現(xiàn)階段逐漸習(xí)慣和依賴之后，會(huì)影響甚至遏制向下一個(gè)時(shí)代的發(fā)展。

在制造業(yè)領(lǐng)域，國(guó)內(nèi)的產(chǎn)業(yè)轉(zhuǎn)移還有從一線城市到四線城市的階梯迭代縱深，但數(shù)字時(shí)代這個(gè)縱深沒有那么大?，F(xiàn)在一線城市和六線城市在信息上沒有任何時(shí)間差，有時(shí)候甚至還會(huì)出現(xiàn)由于基數(shù)效應(yīng)導(dǎo)致的倒掛。沒有時(shí)間差就會(huì)出現(xiàn)很多問(wèn)題，特別是對(duì)產(chǎn)業(yè)帶來(lái)的拉動(dòng)作用體現(xiàn)出了兩面性，一方面推動(dòng)產(chǎn)業(yè)發(fā)展，另一方面直接影響產(chǎn)業(yè)內(nèi)容。

對(duì)于走向下一個(gè)時(shí)代來(lái)說(shuō)，目前最大的阻礙是減少了商業(yè)模式探索。資本推動(dòng)一個(gè)領(lǐng)域，這個(gè)領(lǐng)域就會(huì)獲得很獨(dú)特的加速。復(fù)制商業(yè)模式永遠(yuǎn)都是資本聽得懂的故事，也能發(fā)揮一個(gè)職業(yè)經(jīng)理人、職業(yè)銷售人員既有的優(yōu)點(diǎn)，最容易確保成功。如果資本推動(dòng)的全部都是可以很迅速?gòu)?fù)制的商業(yè)模式，那么就會(huì)阻礙創(chuàng)新。

澎湃新聞：我國(guó)并非沒有科研人才，而是科研人才沒有停留在科研崗位，這其中的原因何在？又該如何做應(yīng)對(duì)？

李笛：目前科研領(lǐng)域，包括企業(yè)和科研機(jī)構(gòu)，都存在一個(gè)同樣的問(wèn)題：價(jià)值觀單一。

以前科研領(lǐng)域的成功可以從三個(gè)方面考量：行政級(jí)別、學(xué)術(shù)聲望、收入。這三方面中的任何一點(diǎn)成功，都可以讓科研人員非常自豪，把他的生命奉獻(xiàn)在科研工作中。

然而，近些年來(lái)這個(gè)狀態(tài)卻發(fā)生了改變，大家對(duì)財(cái)富的評(píng)價(jià)看得越來(lái)越重，逐漸喪失了對(duì)成功定義的多樣性。

如果成功的定義就是丈母娘經(jīng)濟(jì)，大學(xué)必然留不住人，搞科研也不如搞社區(qū)團(tuán)購(gòu)，問(wèn)題的核心是如何評(píng)價(jià)一個(gè)機(jī)構(gòu)、一個(gè)人的成功？在這方面，很多時(shí)候過(guò)于單一了。

澎湃新聞：《科學(xué)：無(wú)盡的前沿》提到的美國(guó)境況，與今天中國(guó)非常相似：科學(xué)雖然發(fā)展迅速，但依然嚴(yán)重依賴國(guó)外的基礎(chǔ)性研究成果，在很多關(guān)鍵領(lǐng)域被核心技術(shù)“卡脖子”。您提出中國(guó)團(tuán)隊(duì)需要自信，這個(gè)自信從何而來(lái)？是否是因?yàn)檫@些“卡脖子”找到解決方案了？

李笛：操作系統(tǒng)、芯片等幾個(gè)大領(lǐng)域，咱們國(guó)家被“卡脖子”的還是比較多的，因?yàn)橛泻芏鄸|西它是有時(shí)間窗口期的，錯(cuò)過(guò)了就追不回來(lái)了。但是在數(shù)字化、AI和大數(shù)據(jù)領(lǐng)域，咱們沒什么“卡脖子”的，咱們跟世界是保持同步的，而且我們有很多獨(dú)到的成果。

只不過(guò)國(guó)內(nèi)形成了一種思維慣性，如果國(guó)外大公司說(shuō)好，就認(rèn)為有價(jià)值，國(guó)內(nèi)自己發(fā)布就不關(guān)注。我覺得可能過(guò)上一代也許會(huì)好。

曾經(jīng)中國(guó)的移動(dòng)互聯(lián)網(wǎng)就是靠復(fù)制發(fā)展的，美國(guó)有，中國(guó)做一個(gè)類似的，就能融到資繼續(xù)做。習(xí)慣性的去復(fù)制，但是有些國(guó)外技術(shù)的根源是中國(guó)團(tuán)隊(duì)搞出來(lái)的。

中國(guó)團(tuán)隊(duì)看美國(guó)論文汲取養(yǎng)料，但美國(guó)論文是看中國(guó)團(tuán)隊(duì)的成果寫出來(lái)的。由于過(guò)去很長(zhǎng)時(shí)間我們處在微軟這個(gè)跨國(guó)企業(yè)的外殼下，才有了機(jī)會(huì)深入了解，中國(guó)團(tuán)隊(duì)很多時(shí)候研發(fā)能力是很強(qiáng)的。比如就某一個(gè)專業(yè)領(lǐng)域，國(guó)內(nèi)某互聯(lián)網(wǎng)頭部企業(yè)的人才比和微軟研究院團(tuán)隊(duì)至少是10：1的比例，他們完全可以做出更有推動(dòng)性的成果。

有太多的中國(guó)團(tuán)隊(duì)太需要被認(rèn)可了，如果他們不能夠得到認(rèn)可的話，就可能去尋求和國(guó)外領(lǐng)先者保持一致，這是一個(gè)根深蒂固的思維定式。

當(dāng)歐美在科技等領(lǐng)域取得了系統(tǒng)性成果而獲得影響力后，這個(gè)影響力會(huì)產(chǎn)生余波，目前我們一味對(duì)標(biāo)歐美實(shí)際上就是受了余波影響。

澎湃新聞：目前“AI+”已經(jīng)成為了繼“互聯(lián)網(wǎng)+”之后的又一次產(chǎn)業(yè)融合浪潮，小冰也在to B和to C端不斷拓展邊界。您怎么看當(dāng)下“AI+”對(duì)我國(guó)經(jīng)濟(jì)帶來(lái)的機(jī)遇與挑戰(zhàn)？

李笛：AI在三個(gè)領(lǐng)域還有很大空間。

第一個(gè)領(lǐng)域就像DeepMind，利用AI做科學(xué)研究，這是非常偉大的。

第二個(gè)領(lǐng)域是AI賦能，利用AI分析能力、識(shí)別能力，可以更好地賦能。盡管AI不改變?cè)袠I(yè)態(tài)性質(zhì)，但讓原有業(yè)態(tài)的效率、效能、準(zhǔn)確率等各方面效果優(yōu)化,

第三個(gè)領(lǐng)域就是AI產(chǎn)品應(yīng)用，有了AI技術(shù)就會(huì)讓人想到如何去使用。AI始終不是對(duì)應(yīng)產(chǎn)品的主角，真正的主角是AI的產(chǎn)品，包括AI Being這種數(shù)字化AI實(shí)體。

（中信出版社編輯梁明月對(duì)本文亦有貢獻(xiàn)）

(本文來(lái)自澎湃新聞，更多原創(chuàng)資訊請(qǐng)下載“澎湃新聞”APP)