? ? ? ?近年來計(jì)算機(jī)的“智力”所達(dá)到的范圍越來越廣了，人腦的各種功能紛紛被AI再現(xiàn)，盡管不少仍是在初級(jí)階段。即使如此，還是有一些領(lǐng)域被普遍認(rèn)為是機(jī)器無論如何也無法染指的，比如情感。一個(gè)常見的斷言是“人工智能可以有理智，但不可能有真正的情感”。這種觀點(diǎn)有悠久的歷史根源，但不必去查哲學(xué)史，我們也知道“理智”和“情感”一般被看作是對(duì)立的，而且屢屢被告誡在做決定時(shí)不應(yīng)該“感情用事”，因?yàn)槟鞘欠抢硇缘摹Ｔ趥鹘y(tǒng)的理性模型中是沒有情感的位置的，而AI系統(tǒng)作為這些模型的具體實(shí)現(xiàn)，自然沒有情感可言，隨便找一本AI教科書就可以證實(shí)這一點(diǎn)。科幻小說和電影也反復(fù)強(qiáng)化了這種觀念，以至于“像機(jī)器人”往往成了對(duì)那些思維有條理，處事冷靜，情感不外露的“理工男”的常見評(píng)語。但近年來，這種傳統(tǒng)觀念開始受到挑戰(zhàn)。
?

　　“情”在“理”之中
?

　　在對(duì)人類認(rèn)知活動(dòng)的研究中，情感的作用被越來越多的研究者認(rèn)為是不可或缺的了。這些作用體現(xiàn)在“自我控制”和“人際交流”這兩個(gè)方面。
?

　　有些情感體現(xiàn)著對(duì)系統(tǒng)自身狀況的評(píng)價(jià)，比如（正面的）愉悅、得意和（負(fù)面的）悲痛、悔恨。另一些情感則體現(xiàn)著對(duì)外界對(duì)象的評(píng)價(jià)，比如（正面的）喜愛、親切和（負(fù)面的）痛恨、厭惡。不同的情感會(huì)引發(fā)不同的應(yīng)對(duì)策略，比如說同為負(fù)面情感，憤怒會(huì)令人欲戰(zhàn)，而恐懼則會(huì)令人欲逃。和通過深思熟慮才采用的行動(dòng)相比，情緒化反應(yīng)有直接、快速的特點(diǎn)，盡管常常失之粗疏草率。
?

　　由于很多人類情感伴有面部表情和軀體反應(yīng)，它們也因此在人際交流過程中發(fā)揮著語言所難以企及的作用。這其中包括基于對(duì)他人情感的識(shí)別來決定自己的應(yīng)對(duì)（察言觀色），以及通過情感表達(dá)來影響他人的行為（動(dòng)之以情）。
?

　　上述對(duì)情感的功能描述并不涉及情感的生理基礎(chǔ)。這也就是說在計(jì)算機(jī)系統(tǒng)中原則上也可能有類似的需求以及實(shí)現(xiàn)類似功能的機(jī)制。這也就是目前AI中相關(guān)工作的出發(fā)點(diǎn)。在現(xiàn)有的研究中，主要關(guān)注點(diǎn)分別對(duì)應(yīng)前面的“控制”和“交流”兩個(gè)方面。
?

　　近年來興起的“情感計(jì)算”就是試圖在人機(jī)交互過程中包括情感成分，以便更好地服務(wù)于用戶。在和人交流的過程中，這種系統(tǒng)會(huì)識(shí)別用戶的情感狀態(tài)，并采取相應(yīng)的行為，包括模擬人類的情感表達(dá)。各種聊天程序和玩具機(jī)器人都在這方面絞盡腦汁，希望取悅使用者，甚至滿足使用者的情感需求。
?

　　通用人工智能（AGI）中的情感研究則基本是在另一個(gè)方向上。這里的主要目標(biāo)不是讓計(jì)算機(jī)看起來像是懂得或擁有人類情感，而是讓它們真的有自己的情感，即主要以這一機(jī)制滿足系統(tǒng)自身的需求，而不是滿足用戶的需求。在這個(gè)過程中，系統(tǒng)的“情感”是否和人類的完全一樣并不重要，而重要的是其產(chǎn)生、發(fā)展、效用等等是否和人類情感的相應(yīng)方面類似。近年來已經(jīng)有若干“機(jī)器情感”的模型被提出和初步實(shí)現(xiàn)了。由于篇幅的限制，我這里不能對(duì)各種方案進(jìn)行全面討論，而下面只介紹我們自己團(tuán)隊(duì)在這方面的探索。
?

　　納思（那廝）的情感
?

　　我在前面的多篇文章（比如《你這是什么邏輯?》，點(diǎn)擊左下角“閱讀原文”可獲?。┲薪榻B過我設(shè)計(jì)的AGI系統(tǒng)“納思”，而現(xiàn)在的專欄名“AI那廝”也是源于此處。這次輪到談其中和情感有關(guān)的側(cè)面了。和以前一樣，下面的描述是高度簡(jiǎn)化的，有興趣或疑問的讀者可以去看我們的論文甚至源程序。
?

　　納思和其它AI系統(tǒng)的一個(gè)根本性的差別就是其“知識(shí)和資源相對(duì)不足”假設(shè)。簡(jiǎn)單地說，就是系統(tǒng)對(duì)于它要實(shí)現(xiàn)的目標(biāo)往往有“不知道”的和“沒想到”的。在這個(gè)限制下，系統(tǒng)無法保證總能找到絕對(duì)正確或最佳的解，而只能提供它目前想到的最好的解，盡管它始終在努力積累經(jīng)驗(yàn)以提升自己的能力和效率。
?

　　這個(gè)限制一個(gè)直接的結(jié)果就是納思不能對(duì)所有目標(biāo)一視同仁。由于系統(tǒng)中的目標(biāo)往往互相沖突（所謂“魚和熊掌不可兼得”），系統(tǒng)無法保證做到十全十美。對(duì)一個(gè)具體事件而言，系統(tǒng)對(duì)它的“愿望”（希望其發(fā)生或不發(fā)生）和系統(tǒng)對(duì)相應(yīng)“現(xiàn)狀”判斷（實(shí)際發(fā)生了或沒發(fā)生）的比較就決定了系統(tǒng)在這方面的“滿意”程度。如果希望發(fā)生的確實(shí)發(fā)生了，或不希望發(fā)生的確實(shí)沒發(fā)生，那系統(tǒng)就滿意；如果不希望發(fā)生的卻發(fā)生了，或希望發(fā)生的卻沒發(fā)生，那系統(tǒng)就不滿意。由于愿望和現(xiàn)實(shí)判斷在納思里都是有不同程度的，滿意也是個(gè)程度問題。這就是納思中情感的起源，即作為對(duì)某方面現(xiàn)狀的主觀評(píng)價(jià)。
?

　　各方面的滿意程度的總和構(gòu)成系統(tǒng)對(duì)現(xiàn)狀的總體滿意程度。當(dāng)然，在這個(gè)“匯總”過程中，各個(gè)事件的“權(quán)重”各有不同，一個(gè)大的“不如意”需要很多小的“如意”才可能抵消。由于時(shí)間資源的限制，納思在做這個(gè)評(píng)價(jià)時(shí)不可能考慮到系統(tǒng)中的所有事件，而僅僅是其中少數(shù)那些當(dāng)前或近期在系統(tǒng)的注意范圍之內(nèi)的。這個(gè)總體滿意程度就決定了系統(tǒng)當(dāng)前的基本情緒狀態(tài)，也就是“高興”或“不高興”的程度。一般說來，系統(tǒng)極少“萬事如意”或“處處碰壁”，而是處于某個(gè)中間狀態(tài)。即使如此，總體情緒也有“正、負(fù)”之分，取決于“如意”和“不如意”的相對(duì)比例。
?

　　在此基礎(chǔ)之上，系統(tǒng)中的概念及其對(duì)應(yīng)的事物也都會(huì)被沾染上各種情感色彩（也可以稱為“好惡”值），主要反映了它們和系統(tǒng)總體滿意程度的相關(guān)性。如果系統(tǒng)和一個(gè)對(duì)象打交道時(shí)常常感到高興，盡管該對(duì)象和系統(tǒng)狀態(tài)可能其實(shí)并無因果關(guān)系，但系統(tǒng)仍會(huì)給它一個(gè)正面的評(píng)價(jià)（比如“愛屋及烏”），反之則是負(fù)面的評(píng)價(jià)（比如“遷怒”）。就好比如果我每次碰到某人都會(huì)伴隨著某種不愉快的體驗(yàn)，我對(duì)此人就會(huì)產(chǎn)生某種負(fù)面情感（比如警惕），這也不能說是毫無來由的。當(dāng)然很多事物可能從來也沒有被帶上任何此類感情色彩，也有事物處于“愛恨交織”的狀況。
?

　　隨著系統(tǒng)內(nèi)外環(huán)境的變化，上述情感因素均會(huì)變化，但緩急不同。對(duì)個(gè)別事件的滿意程度隨愿望和現(xiàn)實(shí)的接近或背離而隨時(shí)改變，可是系統(tǒng)的整體情緒狀態(tài)變化相對(duì)而言就要慢些。對(duì)事物的情感是歷史上多次評(píng)價(jià)的總結(jié)，變化就更緩慢了。無論如何，這些因素體現(xiàn)了系統(tǒng)本身對(duì)情境和事物的主觀評(píng)價(jià)，因而構(gòu)成了系統(tǒng)對(duì)它們?cè)凇翱陀^描述”之外的另一種認(rèn)識(shí)。這里的重點(diǎn)不是事物本身的屬性，而是它們和系統(tǒng)愿望之間的關(guān)系。比如說系統(tǒng)在認(rèn)識(shí)了客戶甲乙丙丁之后，除了記住了他們的姓名、職業(yè)等等之外，還記著他們對(duì)自己是否“友好”。
?

　　在系統(tǒng)沒有足夠的知識(shí)或時(shí)間對(duì)各個(gè)事物進(jìn)行細(xì)致的針對(duì)性處理的情況下，僅依靠它們的“感情色彩”決定應(yīng)對(duì)往往不失為一種在統(tǒng)計(jì)意義下有效的便捷策略。在目前的納思中，情感因素的影響主要體現(xiàn)在下列方面：
?

　　1. 在其它因素相同的條件下，帶有強(qiáng)烈情感色彩（不論正面還是負(fù)面）的概念和任務(wù)會(huì)得到更多的注意，也就是更多的時(shí)間和空間資源。這就是說，如果用戶給納思下達(dá)了三個(gè)同等重要的任務(wù)，但它不可能有時(shí)間全都完成，那它就會(huì)依照自己對(duì)它們的不同“喜好”程度來分配時(shí)間。
?

　　2. 在目標(biāo)之間發(fā)生沖突時(shí)，情感評(píng)價(jià)會(huì)成為選擇的重要根據(jù)。這可以被作為“兩人掉河里先救誰”之類的心靈拷問的合理性基礎(chǔ)。
?

　　3. 在決策過程中，帶有強(qiáng)烈情感的任務(wù)更容易觸發(fā)系統(tǒng)的外部行動(dòng)，而不必付出深思熟慮所要求的時(shí)間代價(jià)?！扒榧敝隆钡姆磻?yīng)盡管往往在事后看來不是最優(yōu)的，但卻很可能是救了命的。
?

　　4. 在系統(tǒng)“心情好”的時(shí)候，它會(huì)給新任務(wù)和相對(duì)不重要的任務(wù)更多的考慮；相反，在“心情差”的時(shí)候，它往往聚焦于當(dāng)下的難題。根據(jù)前面的描述，心情差說明有重要目標(biāo)尚未達(dá)成，這時(shí)自然不該分心再去干別的。
?

　　當(dāng)然，上述設(shè)計(jì)僅僅觸及了情感機(jī)制的簡(jiǎn)單形式，而后面任務(wù)還有很多。在納思的研發(fā)計(jì)劃中，主要包括情感的進(jìn)一步分化（通過滿足感和其它概念的結(jié)合，比如區(qū)分其不同的特征）和各種情感的不同后果，情感在外部交流中的使用和辨識(shí)，“同情”的形成和限度，自我情緒調(diào)節(jié)和控制等等。當(dāng)納思被實(shí)現(xiàn)在機(jī)器人系統(tǒng)中時(shí)，情感會(huì)被用來影響更多方面，比如系統(tǒng)的能源消耗速率（一個(gè)機(jī)器人跑多快將取決于它多著急）等等。
?

　　機(jī)器情感的界定和后果
?

　　盡管很初等，目前的工作起碼已經(jīng)展示了將情感引入通用人工智能的理由和可能性。根據(jù)我的智能定義（見《人工智能：何為“智”？》，點(diǎn)擊左下角“閱讀原文”可獲?。楦胁⒉皇侵悄艿囊粋€(gè)必要成分，但卻是高級(jí)智能系統(tǒng)的自然需求，因?yàn)榍楦袡C(jī)制能讓系統(tǒng)在約束條件下更有效地使用知識(shí)和資源。根據(jù)上面的解釋，“情感”和“理智”盡管可以密切協(xié)作，其間的差別依然存在，因?yàn)楹笳咭话慊趯?duì)明晰表達(dá)的當(dāng)前信念和目標(biāo)的直接處理，而前者的來源和表達(dá)常常難于分析和辨識(shí)。但這絕不說明情感是空穴來風(fēng)，是“非理性”?！扒楦小被蛟S更應(yīng)該被看作“理智的積淀”。比如說愛憎的來源盡管常常難以說清，卻絕不是沒來由的。
?

　　這不是說傳統(tǒng)的理性模型都錯(cuò)了。它們針對(duì)的問題是目標(biāo)單一而且知識(shí)資源充分，而在那種條件下情感往往的確只能添亂。但現(xiàn)實(shí)并不總是那么井井有條。多目標(biāo)的競(jìng)爭(zhēng)要求系統(tǒng)能做出輕重緩急、親疏遠(yuǎn)近之間的分別，而時(shí)間壓力要求快速反應(yīng)。情感的確有很多負(fù)面后果，但在很多情況下沒有情感反而會(huì)更糟。
?

　　對(duì)本文觀點(diǎn)的一個(gè)預(yù)料之中的反對(duì)意見是說納思不能算有“情感”，因?yàn)槠渲姓也坏蕉喟桶?、腎上腺素、荷爾蒙等等的對(duì)應(yīng)物，它也不會(huì)“喜上眉梢”或“怒發(fā)沖冠”。和在很多其它關(guān)于AI的討論中一樣，這里的關(guān)鍵是要不要在“人類情感”和“動(dòng)物情感”之上引入一個(gè)更一般的（功能性的）“情感”概念。只要承認(rèn)這種抽象的必要性，是否管它叫“情感”就主要是個(gè)用詞習(xí)慣的問題了。如果“情感”一定要被定義為動(dòng)物才能有，我們可以管納思的相應(yīng)機(jī)制叫“機(jī)情”，但這實(shí)際上并不影響這個(gè)機(jī)制和人類情感的相同點(diǎn)和不同點(diǎn)。比如說如果你設(shè)計(jì)的機(jī)器狗有這種機(jī)制，那你如果在測(cè)試其平衡能力時(shí)經(jīng)常踹它（像那個(gè)廣為流傳的錄像里那樣），就不要奇怪它為什么總躲著你了。如果你的機(jī)器人不干活而跑去看電視，那也沒什么可奇怪的。



?

　這當(dāng)然就會(huì)導(dǎo)出對(duì)“機(jī)器情感”的另一個(gè)反對(duì)意見，即擔(dān)憂其社會(huì)后果：如果機(jī)器人恨人類怎么辦？在我看來恰恰相反：讓人工智能有情感很可能是保證這一技術(shù)的安全性的必然要求。對(duì)一個(gè)有自主性和適應(yīng)性的系統(tǒng)來說，由設(shè)計(jì)者完全事先決定其在所有情況下的反應(yīng)是不可能的。如果希望它在未來千變?nèi)f化的情況下按我們的期望來行為，讓系統(tǒng)可以辨別喜惡和區(qū)分輕重緩急就是必然的了。一個(gè)從心里愛人類的AGI遠(yuǎn)比一個(gè)僅僅牢記各種道德戒律的要安全得多。當(dāng)然這里還有很長(zhǎng)的路要走（怎么讓它愛人類？電影《A.I.》中那種“思想鋼印”靠譜嗎？），旅途中又是機(jī)會(huì)和挑戰(zhàn)同在，可這不正是科學(xué)探索的本色嗎？
?

　　對(duì)機(jī)器情感研究的另一個(gè)結(jié)果是使我們對(duì)情感在人類思維中的作用得到進(jìn)一步的認(rèn)識(shí)。和注重于情感生理機(jī)制的研究不同，AGI在這方面的貢獻(xiàn)會(huì)是揭示情感發(fā)生的功能性前提和后果，而在這里計(jì)算機(jī)提供了一個(gè)精確的實(shí)驗(yàn)平臺(tái)。甚至連精神疾病的研究都可能從這里得到啟示。以納思為例，如果情感成分在系統(tǒng)決策過程中起的作用太大或太小，系統(tǒng)都會(huì)表現(xiàn)出某種“病態(tài)”，而我們或許會(huì)在其中發(fā)現(xiàn)和人類精神疾病類似的地方。
?

?