?人工智能真的如看起來的那么“聰明”嗎？

AI（人工智能）帶給人類的驚喜還在繼續(xù)。

2018谷歌I/O開發(fā)者大會(huì)開幕。在整個(gè)大會(huì)過程中，最抓人眼球的莫過于谷歌助手打電話以假亂真：在預(yù)訂理發(fā)店時(shí)間時(shí)，谷歌助手不僅清晰表達(dá)了自己的預(yù)訂訴求，甚至在面對(duì)復(fù)雜對(duì)話場(chǎng)景應(yīng)對(duì)自如。例如，當(dāng)理發(fā)店服務(wù)員告知它所要求的12點(diǎn)到店時(shí)間排滿、最近時(shí)間只有下午1∶15分的時(shí)間段時(shí)，它再次詢問是否有早上10點(diǎn)到12點(diǎn)排期。

就在前一天的2018微軟Build開發(fā)者大會(huì)上，微軟的語(yǔ)音助手小娜同樣“秀”了一筆自己的“表演”。在智能會(huì)議室的現(xiàn)場(chǎng)展示環(huán)節(jié)，演示人員利用搭載了小娜的智能設(shè)備語(yǔ)音預(yù)訂了會(huì)議室，甚至，當(dāng)每位參會(huì)人員進(jìn)入會(huì)議室時(shí)，小娜還能夠念出其名字、主動(dòng)打招呼以及進(jìn)行各種交互，與一位常人無異。

但人工智能真的如看起來的那么“聰明”嗎？

“今天，無論是語(yǔ)音識(shí)別、文本翻譯、或是計(jì)算機(jī)視覺等技術(shù)所支撐的人工智能，都沒有真正理解自己所接受信息的含義。它們只是在匹配預(yù)設(shè)的模型。”5月8日，在接受記者專訪時(shí)，微軟全球資深副總裁、微軟亞太研發(fā)集團(tuán)主席兼微軟亞洲研究院院長(zhǎng)洪小文直言，“它只是一個(gè)黑盒，無法歸納和理解，只知道根據(jù)輸入導(dǎo)出結(jié)果?！?/p>

與之相對(duì)應(yīng)的是，人類能夠理解。不僅是理解自己已知的概念，甚至面對(duì)未知的事物，也可以根據(jù)自己過去的經(jīng)驗(yàn)去嘗試?yán)斫?，去歸納總結(jié)，舉一反三，這便是所謂“白盒”。

值得注意的是，白盒智慧，但存在偏差，黑盒機(jī)械，但更加公正，這其中各有優(yōu)劣。因此，洪小文認(rèn)為，AI可以幫助人類去做一些專業(yè)性的任務(wù)，面對(duì)需要分析決策的環(huán)節(jié)，則需要人類的智力，“AI+HI（人工智能+人類智能）非常重要?！?/p>

不過，盡管AI本身仍處于黑盒階段，但搭載AI終端的智能邊緣計(jì)算正在撲面而至，這一點(diǎn)，從今年微軟Build開發(fā)者大會(huì)上頻頻提及智能邊緣計(jì)算，并與大疆無人機(jī)、高通合作開發(fā)相關(guān)開發(fā)工具包便可見一斑。在洪小文看來，智能邊緣計(jì)算必將發(fā)生，也特別值得期待。

黑盒與白盒

記者：今年Build大會(huì)上現(xiàn)場(chǎng)展示了智能語(yǔ)音技術(shù)。當(dāng)前國(guó)外智能語(yǔ)音技術(shù)已經(jīng)找到了智能音箱作為一個(gè)較為普及的落地場(chǎng)景，國(guó)內(nèi)則仍在苦苦探索。這背后是中文語(yǔ)音技術(shù)本身的問題嗎？

洪小文：即便擁有方言，中文的語(yǔ)音識(shí)別也并不難于英文，只要收集到足夠多的數(shù)據(jù)，就不是問題。國(guó)外智能音箱（尤其是搭載亞馬遜Alexa的Echo）之所以普及，還是與亞馬遜電商業(yè)務(wù)本身有關(guān)，外國(guó)用戶習(xí)慣在亞馬遜上購(gòu)物后，就愿意嘗試使用更方便的智能音箱來購(gòu)物。另外外國(guó)用戶家里空間大又喜歡聽音樂，本身就有音箱的需求，所以這種形態(tài)的終端更容易普及。

至于國(guó)內(nèi)用戶，平時(shí)更喜歡與自己的智能手機(jī)交互，在手機(jī)上體驗(yàn)購(gòu)物、聽音樂等功能，對(duì)于這些用戶而言已經(jīng)足夠便捷和直觀，并已經(jīng)養(yǎng)成了這樣的習(xí)慣，這些因素導(dǎo)致智能音箱在國(guó)內(nèi)沒有普及。

記者：就語(yǔ)音技術(shù)而言，你提到識(shí)別不是問題，那目前的問題在哪里？

洪小文：當(dāng)前人工智能對(duì)語(yǔ)音的反饋包括三個(gè)階段：識(shí)別、理解和提供服務(wù)，問題的難點(diǎn)是在理解上。由于要理解的內(nèi)容本身?yè)碛袩o窮組合，因此便沒有精確模型，無法只用建構(gòu)模式去進(jìn)行，這還不論更復(fù)雜的言外有意的情況。今天的AI只是一個(gè)黑盒，但理解本身是白盒，也就是人類擁有的能力：不僅理解所接受的信息本身，甚至還可以對(duì)本身不了解的信息進(jìn)行猜測(cè)，部分理解其含義。這對(duì)于今天的AI而言非常難解，需要更新的技術(shù)才行。

記者：存在黑盒與白盒的應(yīng)用界限嗎？或是黑盒必將需要轉(zhuǎn)變?yōu)榘缀校?/p>

洪小文：對(duì)于一些推理過程而言，一定需要白盒，沒有白盒的系統(tǒng)很難進(jìn)行推理。即便黑盒可進(jìn)行推理，也只存在于某個(gè)輸出剛好是下一個(gè)輸入的情況下，這是黑盒的局限性。

但黑盒也有其好處，從某個(gè)角度而言，它不會(huì)存在偏差，是什么就是什么，非常公平。白盒推理存在既定立場(chǎng)，例如人類心理狀態(tài)中多少會(huì)有一些偏見，比如關(guān)于墮胎、性別傾向等各種容易引起爭(zhēng)議的問題，便是源于每個(gè)人的既定立場(chǎng)。在這個(gè)立場(chǎng)下推理出的東西必然會(huì)有所偏頗。黑盒就不會(huì)，因此類似于法官這樣的角色就需要黑盒的思維，怎樣輸入就怎樣輸出。

因此，當(dāng)前的合理狀態(tài)應(yīng)該是AI+HI（人工智能+人類智能）。AI可以致力于流程性分析，但深度分析、理解和創(chuàng)造仍需要依靠人類。

可解釋AI

記者：人工智能盡管還處于黑盒階段，但已不可解釋和理解，即將無法確切了解其內(nèi)部運(yùn)作方式，進(jìn)而導(dǎo)致人類對(duì)人工智能產(chǎn)生不信任感。事實(shí)上，最近歐盟也在力圖推動(dòng)AI算法透明化。你如何理解這種不可解釋AI？

洪小文：先來說一說可解釋AI。可解釋AI擁有兩層意義，第一層意義是指，輸入信息后得出結(jié)果，能夠知道得出這個(gè)結(jié)果的原因，從這個(gè)角度而言，我認(rèn)為它可以解釋，只是解釋的過程非常復(fù)雜。比如AlphaGo使用增強(qiáng)學(xué)習(xí)后，在棋盤上最終落子，你無法講明其背后的決策規(guī)則，但你了解它在使用增強(qiáng)學(xué)習(xí)得出這一步，而這一步的目的是贏棋。知道結(jié)果，只是不知道結(jié)果背后的規(guī)則究竟如何，它一定有規(guī)則，只不過這個(gè)規(guī)則繁瑣到無法窮舉，這就是可解釋AI。

通常所說的不可解釋AI，在我看來其實(shí)是第二層意義的可解釋AI，即一般人無法理解的結(jié)果，例如將黑人辨認(rèn)為猩猩等。在我看來，這依然是可解釋AI：之所以出現(xiàn)這樣的結(jié)果，是因?yàn)橛?xùn)練數(shù)據(jù)里擁有偏差，因此還是可解釋。

此外，設(shè)計(jì)AI系統(tǒng)的人是否能預(yù)期到輸入信息、得出結(jié)果后的后果。如果能夠預(yù)期到這個(gè)后果，一定會(huì)準(zhǔn)備一套理論去加以解釋，即便遇到危機(jī)事件，也能擁有一套自己的邏輯。

記者：所以從技術(shù)角度而言，通常意義的AI不可解釋性是數(shù)據(jù)偏差導(dǎo)致的，這種情況下AI技術(shù)人員可以有怎樣的作為？

洪小文：數(shù)據(jù)偏差所導(dǎo)致的結(jié)果很嚴(yán)重。以實(shí)際生活為例，比如風(fēng)控系統(tǒng)判定某人無法貸款，原因是此人來自一個(gè)平均收入較低的區(qū)域，根據(jù)這個(gè)基礎(chǔ)規(guī)則設(shè)定下的AI就會(huì)進(jìn)而導(dǎo)致偏見甚至歧視。對(duì)于技術(shù)人員而言，能否預(yù)先知曉有這樣的不合理漏洞，甚至最好能夠?qū)⒙┒炊伦。褪瞧渎氊?zé)所在。

智能邊緣已來

記者：無論人工智能當(dāng)前實(shí)力如何，但畢竟已經(jīng)有了許多應(yīng)用甚至是在終端的應(yīng)用。相較于往年而言，今年微軟Build大會(huì)上智能邊緣計(jì)算高頻出現(xiàn)，您如何看待邊緣計(jì)算未來適用的行業(yè)和場(chǎng)景？

洪小文：AI應(yīng)用剛發(fā)生時(shí)，絕大部分都發(fā)生在云端。但如今，以視覺應(yīng)用為例，視頻畫面采集設(shè)備正在從4K進(jìn)化到8K，相應(yīng)地像素幀數(shù)也在大幅提升，導(dǎo)致數(shù)據(jù)量呈現(xiàn)爆發(fā)式增長(zhǎng)。即便未來5G技術(shù)發(fā)展，但也存在巨大的數(shù)據(jù)量需要傳輸。因此我大膽預(yù)測(cè)，許多視覺相關(guān)的服務(wù)、智能工廠等場(chǎng)景會(huì)產(chǎn)生大量終端計(jì)算，即邊緣計(jì)算。

記者：邊緣計(jì)算場(chǎng)景的特點(diǎn)是怎樣的？

洪小文：大部分的數(shù)據(jù)訓(xùn)練會(huì)發(fā)生在云端，因?yàn)樵贫嗽跀?shù)據(jù)收集和訓(xùn)練上存在優(yōu)勢(shì)。但諸如智能工廠、智能安防等場(chǎng)景需要有即時(shí)反饋，需要當(dāng)機(jī)立斷，因此大部分終端至少需要執(zhí)行和辨認(rèn)的能力。

除了傳輸速度之外，還有傳輸能耗的問題，大量數(shù)據(jù)傳輸必然會(huì)存在大量能耗。事實(shí)上，智能工廠中即便終端要與云端互動(dòng)，也是短途傳輸再聚總傳送至云端。既然有一個(gè)聚總過程，就可以在這個(gè)過程中本地賦予一些處理和智能的功能。從能耗的角度而言，這種方式也最為節(jié)能。所以終端計(jì)算必然會(huì)發(fā)生。