編者按：

2022世界機(jī)器人大會主論壇群星璀璨，產(chǎn)、學(xué)、研各領(lǐng)域大咖齊聚首，共話巔峰，為機(jī)器人未來發(fā)展領(lǐng)航。

峰會現(xiàn)場，中國科學(xué)院院士、清華大學(xué)人工智能研究院名譽(yù)院長張鈸，中國工程院院士、中科院沈陽自動化研究所機(jī)器人技術(shù)國家工程研究中心主任王天然，中國科學(xué)院院士、中國科學(xué)院自動化研究所研究員喬紅，圍繞《未來機(jī)器人：目標(biāo)、路徑和挑戰(zhàn)》的主題進(jìn)行了對話。以下為對話內(nèi)容的整理。

龔克：大家上午好，非常榮幸今天請到三位院士，我旁邊這位張鈸老師，是清華大學(xué)我們非常尊敬的一位老師，長期在智能領(lǐng)域工作，超過50年了，是我們國家最早從事智能工作的先驅(qū)者之一。那邊的王天然院士是我們機(jī)器人領(lǐng)域的領(lǐng)先科學(xué)專家，再一位喬紅院士，相對這兩位是后起之秀，但在智能機(jī)器人前沿做出了很多重要成果。

今天我們院士對話在領(lǐng)航峰會是一個大的環(huán)節(jié)，說到領(lǐng)航我們要有方向有路徑，對風(fēng)險做預(yù)判。其實(shí)剛才辛部長講到了最早的機(jī)器人希臘機(jī)器人、中國的指南車這些，這是古代的設(shè)備。從先來講，捷克Capek設(shè)想的那個羅素姆萬能機(jī)器人后來有了電影等，已經(jīng)一百多年了。兩年前，我們在世界工程理事會上捷克的工程師就說，他們非常驕傲，他們機(jī)器人有一百年的歷史了，后來我說還有比你們更早的。但是不管怎么說，這個已經(jīng)有100年歷史，從阿西莫夫提出來機(jī)器人“三定律”已經(jīng)70年了，各位院士都經(jīng)歷了這個發(fā)展過程，無論是工業(yè)機(jī)器人、服務(wù)機(jī)器人，各種機(jī)器人都經(jīng)歷了不同的發(fā)展過程。先請各位結(jié)合自己的工作經(jīng)歷作一個介紹，實(shí)際上也是對中國機(jī)器人發(fā)展作一個回顧，從張老師說起，您資格最老。

張鈸：我是1978年在清華大學(xué)建立了一個人工智能、智能控制的調(diào)研組，從1978年開始我們從事人工智能這方面的研究和教學(xué)，但是那個時候機(jī)器人跟人工智能還沒有完全分家，所以我們自然會做機(jī)器人工作，所以在1980年到1982年我到美國伊利諾斯香檳分校去訪問的時候，我做的第一件事是跟機(jī)器人有關(guān)的，就是機(jī)器人運(yùn)動規(guī)劃，1984年發(fā)表第一篇文章實(shí)際講到機(jī)器人的運(yùn)動規(guī)劃，1985年回國以后我首先在清華大學(xué)建立了智能機(jī)器人實(shí)驗(yàn)室，那時候我在這里主要做視覺方面的工作。這個實(shí)驗(yàn)室成立不久，國家剛好建立863計(jì)劃，我那時候就參加了智能機(jī)器人主題專家組，從1986到1994年參加了三屆。在這個專家組里，我主要還是負(fù)責(zé)人工智能方面的工作。

到了1991年，我們跟國安科技大還有其他一些大學(xué)，聯(lián)合承擔(dān)國家一個任務(wù)，移動機(jī)器人研制任務(wù)，這個移動機(jī)器人就是我們現(xiàn)在大家非常熟悉的自動駕駛車，這個工作一直延續(xù)到今天，我們還繼續(xù)在做。我在這里主要做的工作是智能控制、視覺、機(jī)器人規(guī)劃這方面。所以從嚴(yán)格意義上講，他們兩位才是真正的機(jī)器人專家，我只是在機(jī)器人這個領(lǐng)域里主要做了一個人工智能方面工作，所以更加偏重智能機(jī)器人研究工作，我簡單介紹一下我做的工作。

龔克：謝謝張老師，從1978年說起，講到了80年代非常重要的，1986年我們國家開始的863計(jì)劃，發(fā)展高技術(shù)、實(shí)現(xiàn)產(chǎn)業(yè)化，鄧小平親自推動這個計(jì)劃，剛才張老師講，從1986年就有一個智能機(jī)器人主題。王老師也是這里面一個重要人物，我們中國很早就起步了，自動駕駛到今天的發(fā)展，我們也走過了很多路程。王老師剛才張老師說你是真正搞機(jī)器人，你再給我們一些介紹。

王天然：我一直工作在沈陽自動化研究所，也是比較早，我是在我們老所長蔣新松院士的領(lǐng)導(dǎo)下開展機(jī)器人工作的，你一查我課題清單，還有從張老師那申請的智能體系結(jié)構(gòu)，但我的主要工作是工業(yè)機(jī)器人、工業(yè)控制系統(tǒng)，后來想辦法變成產(chǎn)品產(chǎn)業(yè)化，后來在我和同事的共同努力下，建立了自己的以工業(yè)機(jī)器人為主的企業(yè)，成為中國第一個上市的公司。我們的研究所有機(jī)器人國家重點(diǎn)實(shí)驗(yàn)室和機(jī)器人技術(shù)國家研究中心，中心主任現(xiàn)在還是我在擔(dān)當(dāng)，我的經(jīng)歷沒有張老師那么豐富，我就比較簡單。

龔克：你這也夠豐富，因?yàn)槲覀儎偛耪劦?63，高技術(shù)產(chǎn)業(yè)成立的一個企業(yè)就是新松，是用蔣新松院士命名的一個公司，昨天晚上看到新聞應(yīng)該看到這個公司，昨天特別介紹習(xí)近平總書記到遼寧視察工作到了一個公司，看了這個公司產(chǎn)品，和公司員工講了很長一段話，剛才王老師談到的，這是我們國家現(xiàn)在機(jī)器人領(lǐng)域的一個領(lǐng)軍企業(yè)。我們現(xiàn)在轉(zhuǎn)到喬紅院士，相對于他們兩位比較年輕，但是成果也非常多，所以喬紅院士你自己講講。

喬紅：剛才兩位院士特別領(lǐng)軍，做特別精彩的工作，是典型性院士。我也受到他們倆特別多幫助和引導(dǎo)，張?jiān)菏?、王院士在機(jī)器人方面都對我有特別深刻的影響。我自己最開始是在西安交大研究機(jī)器人機(jī)械這塊，后來出國回國。我在回國前，剛好人工智能非常熱，我原來學(xué)機(jī)器人這部分，我覺得模式識別這個特別熱，可以成為機(jī)器人眼睛，所以我就開始對模式識別感興趣，做了一些交叉的工作。再往前走的時候，覺得人和機(jī)有這么多差別，為什么我們做的機(jī)器人一般是笛卡爾坐標(biāo)的，人的話就是活生生的人，那么他們怎么能夠成為朋友，所以我對神經(jīng)感興趣了，國家給我們很多自由做這個研究，使我能夠有機(jī)會，又在機(jī)器人領(lǐng)域?qū)ζ渌糠之a(chǎn)生好奇做一些貢獻(xiàn)。

我回國之后，剛好給年輕學(xué)者講，我回國之后反而在國際舞臺更加融入了，原來我在國外沒有這樣，但是我回國之后在HV機(jī)器人領(lǐng)域做了很多工作，是現(xiàn)在新成立全國重點(diǎn)實(shí)驗(yàn)室的主任，我們重點(diǎn)實(shí)驗(yàn)室名字，多模態(tài)人工智能系統(tǒng)，就是想把人工智能和機(jī)器人結(jié)合起來，謝謝大家。

龔克：喬老師剛才說，你是哪年回國的？

喬紅：2004年底。

龔克：回國進(jìn)入機(jī)器學(xué)習(xí)研究，然后是新進(jìn)院士。剛才各位都對工作經(jīng)歷進(jìn)行了一個自我介紹，實(shí)際上也是對我們中國機(jī)器人發(fā)展的一個回顧。但是我們今天是一個領(lǐng)航峰會，我們還不能光回顧，我們得往前看。說領(lǐng)航我們就要有目標(biāo)，我請教各位你們都做機(jī)器人，而且你們?nèi)齻€人都談到了智能機(jī)器人，那機(jī)器人的發(fā)展前景到底怎么樣？從你們各自的角度看，你們覺得你們做機(jī)器人，你們心目中機(jī)器人的發(fā)展目標(biāo)是什么？我們到哪兒去？特別是最近機(jī)器人，張老師講了，這不是新詞，1986年這個主題就成立了，而且非常熱，出現(xiàn)了很多會要，到底什么是智能，什么是機(jī)器人，他們之間關(guān)系怎么樣？是不是人工智能，剛才張老師提到一個概念，待會可以講講，智能和機(jī)器人那時候沒有分家，現(xiàn)在是怎么個分家法？中間是什么關(guān)系？向哪兒去？是不是需要重新融合起來？等等這些問題，也請各位來講一講。

我想我們將順序倒過來，先請喬老師講。

喬紅：我本來想聽兩位院士給我一個指導(dǎo)，我就先講。我的講法不一定對，拋磚引玉。

第一個事情，我覺得原來機(jī)器人的定義服務(wù)于人，所以原來定義就是人的奴隸。上次王院士在大會上我也受到啟發(fā)，人機(jī)融合，先是服務(wù)于人，后來做一些替代工作，從簡單替代到復(fù)雜替代。人對它有很多期望，它就從服務(wù)慢慢走向平等，走了一點(diǎn)，人對他就期望你既然給我服務(wù)，能不能更加像我一點(diǎn)，我就感覺越來越像，后面就變成有倫理問題了。原來說你給我做一些事情，后面說你能不能和我近一點(diǎn)，后來能不能代替這個代替那個，后來他有些能力超過我們，我就覺得有危機(jī)感了。但是還是特別同意剛才講的“合”的概念，人機(jī)怎么“合”，又合又有分，這個是我覺得的期望。

后面那個問題，關(guān)于人工智能和機(jī)器人的關(guān)系。我自己的理解，還是可能是錯的，人工智能我也向張老師請教很多次，人工智能的一個部分和機(jī)器人智能有關(guān)系，但是機(jī)器人又有硬件，通用的人工智能可能不能用在機(jī)器人上，因?yàn)闄C(jī)器人有本體，他動了機(jī)器人就一直在循環(huán)之中，而且有本體意味著軟硬件結(jié)合，所以我認(rèn)為有交叉部分，不一定對，我想是這樣理解。

龔克：謝謝喬老師。機(jī)器人里面用到人工智能，但并不全是人工智能，他的本體是一個機(jī)器結(jié)構(gòu)，將來可能研發(fā)出非常特殊的材料，這些不是簡單的智能問題。

喬紅：還有控制，本身做不到的時候，人工智能和控制可以幫助我們。

龔克：未來是人機(jī)融合，這個機(jī)器人或者是機(jī)器，成為人的一個好朋友，在某種意義上是平等的合作關(guān)系，這就到了你一直講的人機(jī)融合，你認(rèn)為人機(jī)融合在未來是什么形態(tài)王老師。我們讓張老師最后做總結(jié)。

王天然：機(jī)器人未來形態(tài)可能有相當(dāng)多的結(jié)果，因?yàn)楝F(xiàn)在人對機(jī)器人有非常多的幻想，這個幻想已經(jīng)不是科幻了。如果真的有人造肌肉可以代替現(xiàn)在鋼鐵的機(jī)械臂，那張老師說的過去搞的動力學(xué)、運(yùn)動學(xué)都要重寫了，這是顛覆性的，根據(jù)需要有各種各樣的變化。將來的機(jī)器人究竟什么樣？就是現(xiàn)在工業(yè)機(jī)器人你也不好說將來怎么樣，因?yàn)橛腥颂岢鰜矸植际焦I(yè)機(jī)器人，誰規(guī)定機(jī)器人這個胳膊都是連在一起的，你要能分開那就厲害了，所以將來可能五花八門。

龔克：王老師很有想象力，我理解你說的五花八門是本體上會有不同，手是手肩膀是肩膀，還可以協(xié)同，很有想象力了。我們說未來機(jī)器人不管什么形態(tài)都是跟人友好合作的，王老師說，未來機(jī)器人本體形態(tài)非常多，不見得是鋼的，可能是柔性材料的，肉的，我們說人造的，比如硅膠之類的東西。我們最后又回到張老師，您給評論再加點(diǎn)您的看法。

張鈸：沒有，他們說的很好。首先機(jī)器人是干嘛的？我想這里最重要的就是說機(jī)器人跟人工智能，究竟有什么區(qū)別？他們是不是相同的？或者說人工智能包含機(jī)器人，或者機(jī)器人包含人工智能，我認(rèn)為這都是不對的。現(xiàn)在來說，機(jī)器人和人工智能是完全兩個獨(dú)立的領(lǐng)域和獨(dú)立的學(xué)科。這里面差別在哪兒？這兩個領(lǐng)域或者學(xué)科，他們的目標(biāo)是完全不同的，人工智能的目標(biāo)是什么？是用機(jī)器來模仿人類的智能行為，他追求的是機(jī)器的行為跟人類行為的相似性，越相似越好，所以它追求相似性。機(jī)器人完全不同，機(jī)器人把模擬人類的智能行為只作為他的手段之一，它的目標(biāo)就是設(shè)計(jì)出一個機(jī)器，來協(xié)助人類完成某種任務(wù)，這個任務(wù)原來是人來完成的，所以機(jī)器人的目標(biāo)是完成任務(wù)，他追求的目標(biāo)是工人或者是信任，或者叫fascinating，所以這兩個追求目標(biāo)完全不一樣，因此研究內(nèi)容是不同的。

機(jī)器人的研究內(nèi)容可能很多人做過很多概括，我比較同意三大方面。第一個方面，剛才也說到了，就是執(zhí)行機(jī)構(gòu)。這個在人工智能里不一定都要做，因?yàn)閯偛胖v了機(jī)器人要在物理世界里完成一定任務(wù)，所以它必須得有執(zhí)行機(jī)構(gòu)。這個執(zhí)行機(jī)構(gòu)剛才王老師也講了，可以是仿真仿動物，也可以不仿它。從目前現(xiàn)實(shí)情況來看，多數(shù)不仿人，因?yàn)榉虏坏?，因?yàn)檫@個材料還沒有解決，現(xiàn)在基本上建立在電機(jī)跟齒輪傳動機(jī)構(gòu)這么一個基礎(chǔ)上，當(dāng)然現(xiàn)在不一定走仿真之路。

第二個是人員，特別是移動機(jī)器人，高效機(jī)器人是它的關(guān)鍵問題，要完成一定的任務(wù)人的問題必須要考慮。

最后一個是大口袋，智能控制，包括控制，包括人工智能，包括傳感器，包括環(huán)境感知。所以在這三部分內(nèi)容里，只有第三部分跟人工智能有重疊，這個重疊是智能機(jī)器人的一部分工作，總結(jié)來講，就是說機(jī)器人不是人，是要做機(jī)器的，這個機(jī)器要完成一定任務(wù)，人工智能是用機(jī)器來模擬人類的智能行為。請大家注意，我們這里是模擬智能行為，不是模擬智能。所以這兩個領(lǐng)域，都會被大家誤解，機(jī)器人這個名字讓大家誤解成它是一個人，必須像人。人工智能這個名字也不好，人家以為人工智能做智能的，因?yàn)槲覀儸F(xiàn)在對智能了解非常少，我們沒有去做智能，我們只能模仿智能行為，智能的外部表現(xiàn)，所以大家注意這個。

注意它的前途，王老師講的非常對，它的前途我認(rèn)為會是多種多樣的智能機(jī)器人的出現(xiàn)。不會出現(xiàn)一個跟人一樣，做大量通用的機(jī)器人，這個目前是做不到的。因?yàn)闄C(jī)器人的目標(biāo)是什么？完成一定的任務(wù)，所以我們何必做一個手術(shù)機(jī)器人，為什么要去手術(shù)機(jī)器人扛大包呢？沒有必要，所以將來會出現(xiàn)很多機(jī)器人專門做手術(shù)，專門舉重等等，所以這個問題，機(jī)器人的目標(biāo)就是完成一定的過去人類完成的任務(wù)，協(xié)助人類完成很多任務(wù)，所以它基本表現(xiàn)為專用的。

當(dāng)然剛才法國人也講到一個通用性質(zhì)，它認(rèn)為一個系統(tǒng)是有一定通用性，這個只能說有一定通用性，目前來講不可能做出來一個機(jī)器人完成人類可以做的任何工作，這個是有很多爭論在里面，人工智能里也有這個爭論，就是說通用人工智能要不要用。因?yàn)檫@個的必要性和可能性都有可以爭論的點(diǎn)，有必要做這個機(jī)器代替人嗎？我們?nèi)诉€不夠嗎？如果我們需要人的話，那我們多生一些人不就完了，非得造一個完全跟人一樣的人，所以這個的必要性本身不是很大。所以我非常同意王教授剛才講的，將來會是多種多樣的智能機(jī)器人出現(xiàn)，每一個機(jī)器人來完成一定的工作，或者一類工作。大概情況是這樣。

龔克：非常感謝張老師，果然清華教授給我們上一課，從定義開始非常嚴(yán)格講它的定義，講它的區(qū)別。對未來其實(shí)三位談到了，我聽下來，它都是要幫助人的，希望更好的幫助人。它的形態(tài)并不見得一定是什么樣的形態(tài)，而且也不見得非要走向通用。最重要的是幫助人完成好這項(xiàng)任務(wù)。

王老師，最近我看你講人機(jī)共融，剛才喬紅老師也提到人機(jī)共融，而且你也在講人機(jī)共融。所以我想人機(jī)共融現(xiàn)在是我們技術(shù)發(fā)展的一個非常重要的方面，這個是不是能請王老師談一談，為什么要人機(jī)共融？人機(jī)共融會面臨什么問題？這些問題怎么才能得到解決？交給您。

王天然：我說了兩次人機(jī)共融，剛才張老師說的我很同意，機(jī)器人是人造出來的機(jī)器，人造它干什么？為自己服務(wù)，這個是目標(biāo)。造出來它會什么樣？需要什么樣？你能造出來它是什么樣就是什么樣？你可能需要這個但造不出來沒辦法，因?yàn)樵鞕C(jī)器不會非要一定是個什么樣，。但是對剛才喬紅院士的發(fā)言，我有一個觀點(diǎn)，將來不管這個機(jī)器人做成什么樣子，有一個問題肯定是共通的，它跟人到底是什么關(guān)系？現(xiàn)在機(jī)器人和人是主仆關(guān)系，我告訴你怎么做，你就怎么做，很簡單。將來機(jī)器人統(tǒng)治人類了，這個很危險了，我認(rèn)為這個東西是過于科幻的，因?yàn)槿嗽斓臋C(jī)器不可能達(dá)到這個目標(biāo)。另外現(xiàn)在有一種說法，機(jī)器人造出來就是為了取代人。某些環(huán)境下代替人做艱苦的勞動或者什么是對的，但是它的目的不是跟人爭奪同樣的資源?，F(xiàn)在的目標(biāo)就是機(jī)器換人，而人取代人，不是要故意把人和機(jī)器的矛盾挑起來。

過去我們有很多例子，人背肩扛，變成汽車，把人取代了，機(jī)器人是這樣的。所以人和機(jī)器到底應(yīng)該是什么關(guān)系，是很重要的一個事情，我覺得從現(xiàn)在開始，就像剛才張老師和喬紅說，將來最好的辦法，它要能替你服務(wù)最好是伙伴關(guān)系，最好是它宛如同類，你是機(jī)器我是人，但是我們倆感覺好像是同類，不是一個人和一個機(jī)器在一起。雖然你是機(jī)器，但這樣你能更好為我服務(wù)，而不是統(tǒng)治我。

龔克：王老師描述了一下人機(jī)共融，剛才我如果沒聽錯“宛如同類”，用了一個很精巧的詞，但是還是在為人服務(wù)，只不過服務(wù)的更好，讓人感覺更親切，例如養(yǎng)老服務(wù)機(jī)器人更需要這樣。另外，可能它還需要有一定的智能，需要有比較精準(zhǔn)的判斷感知，比較正確的決策等等。

喬老師你這幾年在講手、眼、腦融合這些方面，你看看將來這個機(jī)器人智能的發(fā)展會是一個什么樣子？

喬紅：你問的問題都很大，覺得不好回答。剛才王老師講的，我們原來做了一個科技部的重點(diǎn)項(xiàng)目，這個項(xiàng)目當(dāng)時題目里有機(jī)器人發(fā)育，智能發(fā)育，但是“發(fā)育”這個詞我覺得有點(diǎn)超前，但是指南里寫到的，剛才王院士專門講，我們還是期望人和機(jī)更近一點(diǎn)。咱們國家現(xiàn)在的科研確實(shí)非常寬，所以對于機(jī)器人研究，我覺得從功能倒推問題，我這個功能怎么做？還有一種研究也給我們胡思亂想的機(jī)會，我是為了功能，但是我肯定想這個人有這個特點(diǎn)，它的機(jī)理是什么？這個機(jī)理能不能復(fù)制？張老師剛才也提到，這個機(jī)理很好，但是不能復(fù)制也有問題。這中間跳了一步，這個功能我覺得很好，它的機(jī)理是什么？這個宏觀和機(jī)理有一個關(guān)系。第二個這個機(jī)理能不能復(fù)制。我們當(dāng)時考慮的發(fā)育有定義，發(fā)育是自主學(xué)習(xí)的不是我叫你學(xué)的，是一個自由運(yùn)動的，會越來越復(fù)雜。第三個永遠(yuǎn)的學(xué)習(xí)。這樣三個要求實(shí)際上挺難做到的，但是我自己原來一直感覺機(jī)器人和人的一個特別大區(qū)別是機(jī)器人沒有自己的目標(biāo)。人怎么說，有意識有情感，都是有自己的目標(biāo)，但機(jī)器人沒有。機(jī)器人沒有可能是好事，因?yàn)樗型β闊?。它沒有真實(shí)情緒，這個要不要復(fù)制？人有理性說這個怎么怎么，也有感性說這個喜歡，這個不喜歡，這個部分并沒有在機(jī)器人里面產(chǎn)生真正的復(fù)制，我覺得發(fā)育現(xiàn)在主要講的是肌肉發(fā)育，肌肉在人跑步跑多了之后也有發(fā)育，但是這種差別造成機(jī)器人永遠(yuǎn)是人的“宛如伙伴”，還是服務(wù)于人的，所以這是我的理解。因?yàn)槲覀冎v發(fā)育，原來講軟的，后面也做一點(diǎn)硬的，是這樣，謝謝。

龔克：你們現(xiàn)在能做到什么程度？

喬紅：我們都模擬了，有的做不了，所以我們用計(jì)算機(jī)模擬，首先是前額葉在不同情況下多樣的變化，有的時候快，有的時候慢。它大量的融合，如果是慢了，就會慢慢搞，那時候前額葉和控制部分就多了。再一個人的運(yùn)動比較稀疏，看到東西打過去，在這個過程當(dāng)中我們加入了快和慢，但是肌肉做了一些多肌肉和單肌肉控制。

龔克：王老師。

王天然：我再補(bǔ)充幾句，人機(jī)共融。剛才我說這個問題是一個重要問題，原因在于不僅僅是我們理論上的探討，現(xiàn)在這個問題已經(jīng)存在了，現(xiàn)在技術(shù)進(jìn)步已經(jīng)到了這個地步，工業(yè)機(jī)器人新出了一類，在統(tǒng)計(jì)學(xué)單獨(dú)統(tǒng)計(jì)叫協(xié)作機(jī)器人。原來工業(yè)機(jī)器人光裝在籠子里，跟人是分開的。為什么在籠子里，安全，它可能把人殺了?，F(xiàn)在不方便，就把它從籠子里放出來，安全問題已經(jīng)基本得到解決，就是防碰還解決不了。現(xiàn)在用了這種東西，應(yīng)用當(dāng)中解決了很多問題，比如定位比較簡單，可以手把手試教，張老師在863項(xiàng)目做專家，老早的時候我就看到手把手試教，為什么弄不了？不能手把手，太危險了，現(xiàn)在可以了。這個就變的很快，現(xiàn)在有人可以租機(jī)器人來做了，這樣的機(jī)器人現(xiàn)在仍然還有一定局限，但是它的發(fā)展目標(biāo)就是希望有這樣的工業(yè)機(jī)器人，這樣的協(xié)作機(jī)器人，這樣的跟人的關(guān)系像師徒一樣的機(jī)器人，我跟著師傅學(xué)，幫助師傅干活，人是師傅，機(jī)器人是徒弟。

將來的一個重要問題是相互信任，還有一種現(xiàn)在醫(yī)療上幫人解決殘疾人問題的外骨骼機(jī)器人，給人助力，比人本事還大，但是人身上背著一個鋼鐵的東西，那個肯定相當(dāng)不舒服，而且也不是很協(xié)調(diào)。最好是人怎么感覺，怎么希望，機(jī)器人都知道。機(jī)器人要怎么做，人也都能知道，這是現(xiàn)在的發(fā)展目標(biāo)，所以現(xiàn)在定一個發(fā)展目標(biāo)“宛如手足”將來最好是“宛如同類”。

龔克：說到這些，我們剛才更多談的都是機(jī)器本體，談的控制。張老師這兩年老講人工智能3.0，剛才說到了機(jī)器人幾部分，還是跟人工智能有關(guān)系，人工智能特別是智能機(jī)器人，與人工智能本身的能力，對機(jī)器人發(fā)展有很重要的影響。張老師能不能簡要談一談人工智能3.0的概念，以及3.0的人工智能對未來機(jī)器人的發(fā)展能夠起到什么樣的作用？

張鈸：這個問題跟剛剛兩位談的是一個問題。我們?nèi)撕蜋C(jī)器的關(guān)系，實(shí)際上可能性有三種。

一種機(jī)器是我們的奴隸，我們叫它干嘛它干嘛，目前我們跟機(jī)器是這樣的關(guān)系。但是我們希望進(jìn)一步發(fā)展智能機(jī)器人，我們希望它能夠成為我們的兄弟。但是還存在另外一個可能性，就是它會不會成為我們的主人？我們反而變成他們的奴隸。要么它是master，要命它是slave，或者我們大家是brother，現(xiàn)在問題就是我們的愿望是成為兄弟，但是有沒有可能成為兄弟？存在不存在那種可能性？這個實(shí)際上是現(xiàn)在提出人工智能治理問題之后我們可能會討論的問題。我們大家越來越認(rèn)識到這個可能性是存在的，因?yàn)楫?dāng)初提出來這個觀點(diǎn)，剛才王老師也提過了，包括阿西莫夫、霍金提出來這個觀點(diǎn)，這個問題在機(jī)器身上，如果機(jī)器發(fā)展到它的智能超過我們，我們就失去了對它的控制，因此應(yīng)該對這樣的機(jī)器人加以限制，加以治理。

但是20世紀(jì)人工智能發(fā)展起來以后，大家發(fā)現(xiàn)這個問題不完全是這樣的，當(dāng)機(jī)器人的智能還很低的時候，我們就處在危險狀態(tài)。為什么呢？就是我們處于不可控狀態(tài)，比如說現(xiàn)在用深度學(xué)習(xí)的方法來做一些事情，這個出來的人工智能律法是非常危險，是非常沒有可靠性保證的，所以如果我們用這種人工智能算法，必然會帶來對人類的傷害，所以它已經(jīng)變成一個現(xiàn)實(shí)問題，也就是說，這個治理要不要去做。剛才講了，治理那個機(jī)器人，那種機(jī)器人還不知道什么時候出來，過去我們都認(rèn)為這個不靠譜?，F(xiàn)在大家認(rèn)為靠譜了，首先要治人自己，你在做這個工作的時候一定要考慮到這種可能性。所以我們提出來第三代人工智能，就是要解決第二代人工智能的算法不安全，不可靠，不可信，不可控這種狀態(tài)，所以這個是必須要解決的。下面我們可能談到治理問題的時候涉及的更加深遠(yuǎn)，所以這個擔(dān)心現(xiàn)在看起來是一個近憂，已經(jīng)不是遠(yuǎn)慮了。過去霍金比爾蓋茨提出來都是遠(yuǎn)慮，大家覺得目前不可能面臨那樣的問題。但是現(xiàn)在人工智能的發(fā)展?fàn)顩r告訴我們，這個問題目前要馬上著手解決，這是我們提出來第三代人工智能最重要的思想。

龔克：張老師能不能簡單說一下，因?yàn)槲覀儸F(xiàn)在理解人工智能2.0是利用深度神經(jīng)網(wǎng)絡(luò)，利用大量數(shù)據(jù)的訓(xùn)練，這樣來形成人工智能。您提出來這個3.0，簡單講一下跟2.0到底有什么不一樣？完全顛覆替代2.0，還是在2.0上的一個發(fā)展。

張鈸：雖然說是1.0、2.0的一個發(fā)展。法國專家說到這個，最后提出來的就是模型+端對端的學(xué)習(xí)。

龔克：跟您有點(diǎn)像。

張鈸：大家都認(rèn)識到這個，純粹靠數(shù)據(jù)方法必然不可解釋，必然不可靠，這個是必然性。那么怎么來解決這樣問題呢？唯一可能性加上智能，辦法很簡單，但是這個還是很困難的，因?yàn)橐拥綌?shù)據(jù)里面去，這里面方法要有很多改變，所以這個是目前整體的趨勢。我們的基本辦法就是把第一代人工智能的主要方法靠知識驅(qū)動，第二代人工智能的主要方法靠數(shù)據(jù)驅(qū)動，我們說這兩個方法都有片面性，必須把這兩個方法加起來，才有可能發(fā)展安全的、可靠的、可信的智能機(jī)器人。

龔克：張老師把第一第第二代結(jié)合起來，形成一個更可靠第三代，這真是英雄所見略同，剛才約瑟夫得圖靈獎是因?yàn)槟Ｐ蜋z驗(yàn)，他也是提出來因?yàn)槟Ｐ头椒ǖ陌l(fā)展有時候碰到非常復(fù)雜問題，就不如端對端，直接用數(shù)據(jù)簡單，但是端對端數(shù)據(jù)的辦法，由于存在不可解釋性不能進(jìn)行處理嘗試，所以可以把月亮當(dāng)成黃色交通燈這樣一些問題也是走融合。我們把這個話題先按下來，剛才喬老師談到了機(jī)器人已經(jīng)出現(xiàn)倫理問題。其實(shí)我理解在技術(shù)領(lǐng)域，醫(yī)學(xué)以外的領(lǐng)域談倫理，機(jī)器人談的比較早，從阿西莫夫三定律就是一個倫理規(guī)范，特別是加上智能，加上很多工作代理給他，讓他完成更多任務(wù)的時候，我們再回到喬老師這，您認(rèn)為它現(xiàn)在的倫理問題最突出的是什么？

喬紅：確實(shí)如你所說，倫理確實(shí)在機(jī)器人這頭講的比較早。剛才張老師講，現(xiàn)在事實(shí)上機(jī)器人，包括王老師講機(jī)器人，實(shí)際上它是不小心傷害人，人工智能算出來它不是有意的，機(jī)器人也沒有意識，但是有自學(xué)意識，或者有私心，在造機(jī)器人的時候會不會把這個搞壞，如果他自學(xué)，學(xué)歪了可能會有問題。我自己的想法，機(jī)器人成為我們的主人肯定不被允許的，因?yàn)闄C(jī)器人當(dāng)時被定義不能傷害人類，機(jī)器人產(chǎn)生的時候就說好了。所以我覺得建立法律還是很重要的，因?yàn)閷σ粋€人的約束有兩種，一種是高端的，你要有道德有文化，低端的是要懲罰你。機(jī)器人作為一個個體，剛才老實(shí)說我們可以很近，親兄弟也要明算賬，所以應(yīng)該有一個高端的道德約束和一個低端的法律約束，就把你從概念上又在籠子里框起來了。我們可以很近，但是我們得算清楚，所以什么樣的機(jī)器人當(dāng)它違反了道德，什么樣的機(jī)器人當(dāng)它違反了法律，我覺得就應(yīng)該約束。這個道德的約束我覺得比較難，比如他們說車往前開撞誰，不往前開又撞誰，這個人的道德還有難度，應(yīng)該提前約束，這樣后面應(yīng)該是安全和健康，個人觀點(diǎn)，不一定對。

龔克：我接著你說一個例子，撞擊這個事，現(xiàn)在自動駕駛車，可以看成一個行走的機(jī)器人，我們AGV就是機(jī)器人。我其實(shí)到很多實(shí)驗(yàn)室有自動駕駛，我自己做過嘗試。當(dāng)它前面有過路的人、動物的時候，我曾經(jīng)想嘗試一下用人工踩這個油門加速，去撞前面這個目標(biāo)的時候，三年前的時候有的實(shí)驗(yàn)室機(jī)器人就不動了，有的實(shí)驗(yàn)室就撞上去了。這兩年我再做，幾乎所有實(shí)驗(yàn)室都不撞，這就把一定的倫理植入到這個控制里面去了，這樣甚至防止人類殺手開著這個車去撞擊人。

喬紅：自動駕駛這里有個問題，如果機(jī)器不聽你的了，機(jī)器有一個更高的原則，你這個角度相當(dāng)于人家道德比你高了，你想撞人家不讓，人和機(jī)器共融的時候，應(yīng)該是人比機(jī)高，現(xiàn)在機(jī)有自己的判別，也會有一些困惑。

龔克：對。這是一個非常復(fù)雜問題，我看張老師要說。

張鈸：倫理的問題，現(xiàn)在變成非常重要的，我剛才說大家認(rèn)知有兩個階段。

第一個階段，阿西莫夫認(rèn)為說，機(jī)器人如果智能超過我們或者有意識以后，我們?nèi)绾巫寵C(jī)器人能夠按照倫理的準(zhǔn)則來做出行為這個問題。

第二個問題，人類如何按照倫理原則來設(shè)計(jì)和使用機(jī)器人。這個表面上看起來很簡單，大家就按照這個規(guī)則定好了，機(jī)器完全按照你這樣做，其實(shí)問題非常不簡單。為什么引起全世界關(guān)注，是因?yàn)檫@個領(lǐng)域有三大難題。

第一個標(biāo)準(zhǔn)和法規(guī)問題，什么是道德？什么是不道德？這個本身就有非常大的爭議，而且有很多道德的困惑。舉個例子，一個車剎車失靈，前面撞五個人，打舵就撞上另外一個，沒有辦法明確這個道德這個不道德，這是一個課題。而且還要把這個道德或者倫理形式化，這是頭一個難題。所以為什么全世界關(guān)注這個難題，因?yàn)檫@是法律道德倫理各界來共同研究的，我們給它什么準(zhǔn)則，這是第一個問題。

第二個問題對機(jī)器來講，我們說給它一個道德的規(guī)范，我們假設(shè)道德規(guī)范有了，你不能撞人，它是不是一定不撞人，這就涉及到機(jī)器人的行為可控不可控?，F(xiàn)在發(fā)現(xiàn)人工智能加上去，它就不可控，為什么呢？因?yàn)槿斯ぶ悄芗由先?，剛才喬紅老師說過了，他完全按照這個規(guī)則來執(zhí)行，這就不是智能機(jī)器人，你給它一定靈活性，它才能有創(chuàng)造性，才能自主解決。我們希望它幫助我們克服人類的一些缺點(diǎn)，所以一定給它一定靈活性，你一給靈活性，我們現(xiàn)在怎么做？技術(shù)怎么做就有概率來描述。概率來描述可能做錯，可能做對，所以我們要給他靈活性，給他創(chuàng)造性，給他自主性，必然要付出一個代價，就是它可能要不可控，所以這個問題也不是那么簡單。你就是給它規(guī)則，使規(guī)則擱進(jìn)去，那就不是智能機(jī)器人，還是受你控制，所以這是一個很大的問題，在理論上現(xiàn)在沒有解決。

第二個，對人類來講，我們說要求每個人在設(shè)計(jì)使用機(jī)器人的時候，都要遵守倫理的原則。這不用說，有的人根本不遵守，就是遵守的人其實(shí)我們對每一項(xiàng)技術(shù)，每一個機(jī)器，都有不可預(yù)測的。我們怎么知道我們這么做出來就是它會行善，非常明顯的例子，就是深度學(xué)習(xí)。深度學(xué)習(xí)來做模式識別，識別率提高非常多，大家沒有預(yù)計(jì)到這種辦法魯棒性非常差，引起很大的安全問題。這個是人家預(yù)計(jì)不到的，所以你對每個工作，即使你定了很嚴(yán)格的規(guī)律去做這個事，做出來很多東西你是預(yù)測不到的。

由于這三個困難，就造成人工智能或者智能機(jī)器人或者機(jī)器人治理會有非常大的困難，所以大家可以理解，為什么現(xiàn)在全世界都在關(guān)注這個問題，說明這個問題不是那么簡單，可以解決的。我就講這些。

王天然：我問張老師一個問題，現(xiàn)在這么關(guān)心倫理問題，是關(guān)心機(jī)器人倫理問題，還是關(guān)心設(shè)計(jì)機(jī)器人的倫理問題。

張鈸：這兩個整體是人，現(xiàn)在最主要關(guān)心人，第一個是不是會濫用誤用機(jī)器人，特別現(xiàn)在濫用機(jī)器人非常嚴(yán)重，機(jī)器人將來肯定會被濫用，你現(xiàn)在做機(jī)器人，殺死機(jī)器人就是一種濫用，所以這個方面首先考慮智能，最主要是智能。另外一個你在設(shè)計(jì)過程中，要做很好的評估和預(yù)測，不能隨便定一個規(guī)劃說這個怎么樣，必須對這個規(guī)劃，對這個智能機(jī)器人，做一個非常嚴(yán)格的評估，它會帶來正面影響是哪些？負(fù)面影響是哪些。因?yàn)槟阕鲆患虑樨?fù)面影響肯定會有，不可能做一件事情完全是正面的，特別是復(fù)雜環(huán)境，所以現(xiàn)在主要是這個。當(dāng)然在學(xué)術(shù)界更多討論機(jī)器人的問題，因?yàn)槟莻€比較吸引人，大家比較認(rèn)一點(diǎn)，但是我們看起來，全國的科學(xué)家，我們基本算工程師。

龔克：回到王老師，王老師提的問題不能算完，您得說觀點(diǎn)，關(guān)于治理。

王天然：我是覺得這個智能像剛才張老師講的，最早的時候人形容機(jī)器人有什么感知，有什么推理，有什么行為，這些都在發(fā)展，這些都在發(fā)展不一定都是用人工智能技術(shù)，有些可能是用其他方法。用其他方法仍然也有倫理問題，但是你用了人工智能技術(shù)，可能產(chǎn)生新的倫理問題，新的倫理問題是人工智能技術(shù)帶來的，還是機(jī)器人本身帶來的？我有點(diǎn)想推托責(zé)任，是人工智能。

龔克：剛才我們從大家的工作經(jīng)歷出發(fā)，判斷我們機(jī)器人向哪發(fā)展，以及我們現(xiàn)在碰到各式各樣的問題，我想很多問題靠今后技術(shù)的發(fā)展，技術(shù)和治理的協(xié)同發(fā)展去解決。

喬紅：建個機(jī)器人法律出來，先約束住。

龔克：他需要有外部約束，需要有技術(shù)落地等等，這些最后要靠不斷研發(fā)去解決，在一個發(fā)展的過程中解決問題。今天我們在場的，還有在線上有很多年輕人，他們都是從事跟機(jī)器人研發(fā)、使用、維護(hù)、管理有關(guān)的，最后用點(diǎn)時間，請三位，先請張老師對年輕人，特別是從事智能機(jī)器人，從規(guī)劃到管理，提一個希望。

張鈸：因?yàn)檫@個是世界機(jī)器人大會，所以我認(rèn)為我們剛才談的那些問題，都可以通過全世界團(tuán)結(jié)起來，共同發(fā)展，合作創(chuàng)新，能夠讓人工智能，讓機(jī)器人健康發(fā)展，造福全人類。我補(bǔ)充點(diǎn)，剛才我雖然說治理很多難題，但是從技術(shù)上來講，很多人提出三方面工作，是可以解決這個問題的。

一個方面工作，研究新的分析工具，主要是形式邏輯加上叫做倫理的推理或者倫理的分析，這個問題目前因果分析，倫理分析，發(fā)展這套東西會有給我們做一些更好的倫理分析結(jié)果預(yù)測，這方面工作也在進(jìn)行。第二方面工作，我們完全可以利用深度學(xué)習(xí)工作方法。剛才說什么叫道德，什么叫不道德？我們難以做出定義，但是我們可以給出樣本，給出哪些行為是不道德的，哪些行為是道德的，通過機(jī)器學(xué)習(xí)分析道德不道德，那些沒法定義的問題，還是可以通過標(biāo)注數(shù)據(jù)學(xué)習(xí)做到。最后一個仿真模擬，我們現(xiàn)在的無人車就是這樣，你要大量做實(shí)驗(yàn)讓他跑起來，通過實(shí)驗(yàn)和模擬發(fā)現(xiàn)它的問題來解決。所以從技術(shù)層面來講，這三個工作是有可能來解決我們這個安全性問題和倫理問題。

龔克：另外張老師特別提到希望我們年輕一代合作創(chuàng)新，王老師。

王天然：我同意張老師觀點(diǎn)，現(xiàn)在我自己的工作體會是，上世紀(jì)2000年以前，工作的重點(diǎn)都在工業(yè)機(jī)器人的精度、可靠性，控制多少、怎么用的好?，F(xiàn)在人們開始解決不是這個問題了，那個基本可以應(yīng)用了?，F(xiàn)在解決機(jī)器人不滿意的地方，現(xiàn)在新的領(lǐng)域不斷出來，相關(guān)技術(shù)也不斷支持，所以機(jī)器人變的前途非常燦爛而且多種多樣，很多地方在吸引你。醫(yī)用機(jī)器人應(yīng)用非常廣，所以現(xiàn)在說是機(jī)器人發(fā)展的黃金時段，各科融合會在機(jī)器人身上體現(xiàn)。當(dāng)年一個意大利學(xué)者，把機(jī)器人叫做Eat，什么技術(shù)都吃。所以我想其實(shí)機(jī)器人研究需要全世界各地人，尤其是我們中國青年，抓住這樣的機(jī)會去發(fā)現(xiàn)新的能解決的問題，創(chuàng)造出新的東西。

龔克：融合是一個點(diǎn)，多學(xué)科融合在機(jī)器人身上的體現(xiàn)非常豐富，多謝王老師。我們請年輕的院士給年輕人提點(diǎn)希望。

喬紅：剛才兩位院士講的特別好，我也講三句很抽象的話。第一句話，我覺得年輕的學(xué)者還是要保持宏觀率，這個宏觀率就是剛才兩位院士講的寬容度，就是社會對你的需要，他人對你的期望，還有不同領(lǐng)域不同聲音，這個還是需要的。因?yàn)槿绻麤]有這種free spirit，你不能接住社會的期望和社會對你的支持。第二句話還是自強(qiáng)自立，就是執(zhí)行力，怎么把這件事情一步一步堅(jiān)定的執(zhí)行下去，需要邏輯力、執(zhí)行力、信心和堅(jiān)定的意志。這兩個有點(diǎn)矛盾，一個是宏觀開放的，一個是強(qiáng)硬的。但是第三個我覺得很重要的是開放度，很多的年輕學(xué)者本身很強(qiáng)，但是它不能夠接納其他人介入他的小領(lǐng)域，這就造成他不能學(xué)習(xí)和成長，所以送給大家三個詞，宏觀力、執(zhí)行力、開放度。

龔克：非常感謝大家。前面談了這么多，我們把智能機(jī)器人拆成三個詞：“智能、機(jī)器、人，我們在討論他們關(guān)系，他們的發(fā)展是在這三者的相互關(guān)系中發(fā)展，今天下午的第一個報告，李培根院士報告就是“智能—機(jī)器—人”，希望大家聽聽李先生意見，可能受到一定啟發(fā)，我們今天對話就到這兒，感謝大家參與，謝謝各位。