我們生活在一個(gè)人工智能爆炸發(fā)展的年代——每隔一小段時(shí)間，研究人員們就會(huì)想出新奇的人工智能訓(xùn)練方式。這不，微軟研究院的計(jì)算機(jī)學(xué)家最近就創(chuàng)
我們生活在一個(gè)人工智能爆炸發(fā)展的年代——每隔一小段時(shí)間，研究人員們就會(huì)想出新奇的人工智能訓(xùn)練方式。
這不，微軟研究院的計(jì)算機(jī)學(xué)家最近就創(chuàng)造了一種用人類(lèi)情緒來(lái)訓(xùn)練機(jī)器自我學(xué)習(xí)的方法。
該研究使用虛擬代理人來(lái)輔助機(jī)器在虛擬環(huán)境中學(xué)習(xí)。研究中極具意義的一點(diǎn)是，它使用了人與系統(tǒng)交互時(shí)產(chǎn)生的微笑來(lái)訓(xùn)練AI。
這項(xiàng)研究的背后其實(shí)是強(qiáng)化學(xué)習(xí)
強(qiáng)化學(xué)習(xí)非常適用于教學(xué)系統(tǒng)來(lái)訓(xùn)練機(jī)器完成一系列的任務(wù)。在這項(xiàng)研究中，應(yīng)用主要著重于計(jì)算機(jī)視覺(jué)的相關(guān)任務(wù)。
強(qiáng)化學(xué)習(xí)的工作原理是通過(guò)讓虛擬代理人(agent)在模擬環(huán)境中反復(fù)執(zhí)行任務(wù)，再將經(jīng)驗(yàn)提取成策略。用這種方法訓(xùn)練系統(tǒng)來(lái)玩游戲在幾年前十分流行，甚至更先進(jìn)的算法擊敗了圍棋世界冠軍李世石。
強(qiáng)化學(xué)習(xí)的關(guān)鍵在于它嚴(yán)重依賴(lài)于代理人通過(guò)在虛擬環(huán)境中探索得到的數(shù)據(jù)，該數(shù)據(jù)就是該研究的核心。
微軟研究人員希望采用常規(guī)方法來(lái)構(gòu)建一個(gè)極具探索能力的代理人。為了實(shí)現(xiàn)這一點(diǎn)，他們使用了另一項(xiàng)技術(shù)——模仿學(xué)習(xí)，即通過(guò)使系統(tǒng)與人在模擬環(huán)境中進(jìn)行交互來(lái)完成訓(xùn)練。
研究者認(rèn)為，最好的提煉人類(lèi)探索方式的方法就是通過(guò)捕捉真實(shí)人類(lèi)與系統(tǒng)交互的瞬間?；谥皩⒄媲榫w與好奇心進(jìn)行關(guān)聯(lián)并應(yīng)用于機(jī)器學(xué)習(xí)的研究，研究人員構(gòu)建了一個(gè)用于發(fā)現(xiàn)這些情緒的系統(tǒng)。
最終，他們構(gòu)建了一個(gè)能夠記錄人們?cè)谀M迷宮環(huán)境中駕駛時(shí)產(chǎn)生的微笑表情的系統(tǒng)。經(jīng)過(guò)多次系統(tǒng)測(cè)試后，研究人員發(fā)現(xiàn)這個(gè)基于情緒的強(qiáng)化學(xué)習(xí)系統(tǒng)使代理人的探索持續(xù)時(shí)間延長(zhǎng)了51%，探索范圍擴(kuò)大了46%，在迷宮中碰撞的次數(shù)減少了29%。
基于情緒的強(qiáng)化學(xué)習(xí)
使用情緒反饋例如微笑來(lái)訓(xùn)練機(jī)器的意義在于，情緒反應(yīng)了人類(lèi)的內(nèi)在反饋，這一反饋能夠在今后拓展應(yīng)用到更多領(lǐng)域，而不拘泥于該項(xiàng)研究。另一個(gè)在使用強(qiáng)化學(xué)習(xí)時(shí)需要注意的地方是，代理人與模擬環(huán)境的交互很大程度上受系統(tǒng)設(shè)計(jì)者選擇的特定獎(jiǎng)勵(lì)機(jī)制影響。如果你想訓(xùn)練一個(gè)系統(tǒng)使其在游戲中獲勝，那么你就需要在得分時(shí)給予獎(jiǎng)勵(lì)。
但問(wèn)題是，生活中發(fā)生的事情并不總是能夠輕易用分?jǐn)?shù)量化。因此，找到明確的獎(jiǎng)勵(lì)機(jī)制是強(qiáng)化學(xué)習(xí)研究中的挑戰(zhàn)之一。
通過(guò)將微笑定義為正反饋，研究人員發(fā)現(xiàn)了一個(gè)訓(xùn)練人工智能系統(tǒng)的普適化反饋機(jī)制，并且這種情緒反饋是較容易獲得的。
基于情緒的強(qiáng)化學(xué)習(xí)本質(zhì)上是在人類(lèi)這一數(shù)億年才形成的智慧生物基礎(chǔ)之上進(jìn)行的，它使我們能夠快速輕松地量化各種體驗(yàn)感受。通過(guò)有效的調(diào)整，該信號(hào)可在訓(xùn)練機(jī)器進(jìn)行學(xué)習(xí)的過(guò)程中做為一種強(qiáng)大的、可擴(kuò)展性極強(qiáng)的反饋機(jī)制。
情緒AI在市場(chǎng)中的應(yīng)用
除了研究團(tuán)隊(duì)使用的開(kāi)源微笑探測(cè)工具外，還有許多商業(yè)公司也在做這項(xiàng)工作，例如Affectiva公司和Emotient公司(于2016年被蘋(píng)果公司收購(gòu))。情緒追蹤工具在市場(chǎng)中被稱(chēng)為“情緒AI”。微軟的這項(xiàng)研究賦予了這些工具新的應(yīng)用，即可作為基于情緒的強(qiáng)化學(xué)習(xí)的數(shù)據(jù)來(lái)源。
AI在許多領(lǐng)域都可以從人身上習(xí)得知識(shí)，尤其是服務(wù)性經(jīng)濟(jì)領(lǐng)域。例如谷歌、奈飛和亞馬遜這些公司都在使用用戶數(shù)據(jù)來(lái)自動(dòng)服務(wù)于用戶。我們?cè)谑褂眠@些強(qiáng)大的技術(shù)平臺(tái)時(shí)，產(chǎn)生了的大量的數(shù)據(jù)，這些數(shù)據(jù)可用于訓(xùn)練機(jī)器學(xué)習(xí)系統(tǒng)，從而使這些平臺(tái)變得更智能、更強(qiáng)大。
基于情緒的強(qiáng)化學(xué)習(xí)的應(yīng)用將為這些平臺(tái)開(kāi)啟新的篇章。強(qiáng)化學(xué)習(xí)本身就尤其擅長(zhǎng)學(xué)習(xí)如何優(yōu)化一系列的任務(wù)。而業(yè)務(wù)流程的本質(zhì)就是一系列的任務(wù)，并且業(yè)務(wù)流程就是公司為客戶創(chuàng)造價(jià)值的核心。在業(yè)務(wù)流程中使用強(qiáng)化學(xué)習(xí)主導(dǎo)這些任務(wù)的挑戰(zhàn)在于保障可靠的反饋信息來(lái)源。
類(lèi)似微笑或其它表情的反饋信息來(lái)源眾多，這要?dú)w功于無(wú)處不在的攝像頭。正如研究人員所指出的，這項(xiàng)技術(shù)也可以擴(kuò)展使用“其他生理信號(hào)”，這意味著像亞馬遜和谷歌等收集的聲音數(shù)據(jù)也可以用于訓(xùn)練機(jī)器。就像今天，電話可能被錄音用于訓(xùn)練和通話質(zhì)量評(píng)估。這項(xiàng)技術(shù)使得被訓(xùn)練的不再是員工，而是智能軟件代理人。
情緒將我們與機(jī)器相連結(jié)
這些系統(tǒng)究竟從人與他們的交互中學(xué)習(xí)到了什么呢?如果交互是通過(guò)建立關(guān)系并使用這些關(guān)系，那么機(jī)器就會(huì)在與我們交互的過(guò)程中學(xué)習(xí)如何與我們建立聯(lián)系以及如何為我們服務(wù)。
情緒AI能夠幫助機(jī)器更好的與我們建立連結(jié)。目前，基于這些技術(shù)構(gòu)建了一種探測(cè)情緒的傳感器，該傳感器可用于市場(chǎng)營(yíng)銷(xiāo)以及改善事物性能，例如汽車(chē)。
今后，這些技術(shù)將把重點(diǎn)擴(kuò)展到與終端用戶建立密切關(guān)系?？梢韵胂笪磥?lái)我們會(huì)通過(guò)與模擬角色進(jìn)行交互來(lái)使用產(chǎn)品或享受服務(wù)。今天的聊天機(jī)器人或代理人像Siri和Alexa只是早期的例子。終有一天，你將和你的運(yùn)動(dòng)鞋或你的牙刷建立連結(jié)。
微軟這項(xiàng)研究有趣創(chuàng)新的地方在于，它提出了情緒AI新的應(yīng)用，即通過(guò)使用一種類(lèi)似于大腦的情感信號(hào)來(lái)訓(xùn)練情緒AI。在心理學(xué)上，效價(jià)衡量了我們對(duì)某種經(jīng)歷的情緒反應(yīng)是吸引還是厭惡。
當(dāng)孩子觸碰到火爐時(shí)，會(huì)產(chǎn)生強(qiáng)烈的負(fù)效價(jià)，從而在大腦中留下有效的學(xué)習(xí)信號(hào)。同樣，基于情緒的強(qiáng)化學(xué)習(xí)也可以使用這種有效的機(jī)制，用相似的情緒效價(jià)來(lái)驅(qū)動(dòng)機(jī)器學(xué)習(xí)。
在目前的大背景下，這項(xiàng)研究最有趣的地方在于，地球上古老生物的智慧已成為人工智能發(fā)展的溫床。
情緒是強(qiáng)大的老師，而這項(xiàng)新的研究指出了向這位老師學(xué)習(xí)的方法。（大萌、錢(qián)天培）
