【推薦】從互聯網到“黑客帝國”,機器人會超越人類嗎?

>>>  名人論史——近當代作家的史學觀點  >>> 簡體     傳統

人與機器的界限變得模糊的趨勢中,人被整成了機器,原先的主從關系不復存在,大部分人成了少數寡頭實現自己權力意志的工具。

人類要開始應對無節制的技術顛覆

作者 | 翟振明

虛擬+現實:瞬時跨越地球握個手

如果你我分別在紐約和廣州,我們可以約好在虛擬世界的某個地址見面,五分鐘后穿過地球見個面,拍個肩膀握個手,沒問題。與此同時,我們也可以完成各種生產和建設任務。這可不是科幻電影中描寫的遙遠的未來的情景。

中國人正在熱炒“互聯網思維”和“互聯網+”之際,谷歌掌門人施米特(Eric Schmidt)卻宣稱“互聯網即將消失”。正像我不久前說過的那樣,其實,施米特指的是互聯網即將被改造成“物聯網”,即從以人與人之間的文本圖像交流為主被改造成以物與物之間的連接為主,使人在相互聯系的同時能夠監控操縱各種人造物和機器設備。

這時,再假設人與人之間的聯系是通過虛擬現實界面來達成的,情況又會如何?如果你我分別在紐約和廣州,我們可以約好在虛擬世界的某個地址見面,五分鐘后穿過地球見個面,拍個肩膀握個手,沒問題。與此同時,我們也可以獨自或合作操縱物聯網中的任何一個物件或機器,完成各種生產和建設任務。


▲翟振明,中山大學人機互聯實驗室主任,哲學系教授(南方周末資料圖)

這可不是科幻電影中描寫的遙遠的未來的情景。目前,美國的谷歌、臉書、微軟、亞馬遜、蘋果、英特爾等IT巨頭,正全力整合資源準備將虛擬現實的軟件和硬件以可穿戴的形式推向消費者市場。日本的索尼、愛普森,韓國的三星等也推出自己的硬件,歐洲各國都有各自的領頭企業積極參與,中國的騰訊、華為、百度、暴風影音等公司,據說也在努力中。

一方面是“虛擬現實”的風滿樓,另一方面呢,各國政府和非政府的力量正在花很大的人力物力財力來建設施米特所說的“物聯網”,虛擬現實與物聯網融合起來這意味著什么,無須贅言了吧。

這聽起來好像非常高科技并且規模宏大,但對于生活在今天的大多數人的生活方式,真會有啥“顛覆”嗎?

進一步設想一下,我們不久將看到普通眼鏡一般大小的虛擬現實顯示器,該顯示器只要與手機相接,無需臺式或手提電腦,就可以聯網進入沉浸式的網絡化的虛擬世界。這樣,在“大數據”的背景下,人們沉浸在與我們現在所處的物理世界在經驗上難以分別的虛擬現實中,這種世界,可以看成現在網上的《我的世界》(Minecraft)或《第二人生》(Second Life)的虛擬現實顯示器升級版。

進入這種世界,再在其中遙距操作物聯網上的東西,我們就沉浸在“擴展現實”中進行各種“體力”活動了。并且,現實世界中的現實場景,也可以隨時無縫整合進這個虛擬世界中,原本身處廣州的我和遠在紐約的你,就可以即時克服空間距離進行約會了。這種虛擬與現實無縫融合的世界,我稱之為“擴展現實”。

當然,這種監控操縱,不是靠鍵盤鼠標來進行的,而是以虛擬現實為界面通過動捕和傳感系統使人能夠用完全自然的身體運動來行使的,在這里,主從機器人,估計會是最常見的人機互聯中介。

什么叫“主從機器人”呢?看過電影《阿凡達》的人對此理解起來就簡單了。男主角Jack是一個和我們一樣的普通人,但是,科學家給他培育了一個第二身體,放在遙遠的外星球服從他的遙控,原來的他成了這個“主從”關系的“主端”,遠處的第二身體成了“從端”。現實中,用機器人來充當第二身體,遙控信號就用我們正在用的電磁波,就這么平實可靠。到時,我們就能夠克服空間的距離,以“遙距臨境”的方式(雖遠離千里但感覺就像親臨現場一樣),對自然物和人工物進行即時操控。

這樣,由虛擬現實人聯網+主從機器人遙距操作+信號傳感物聯網融合而成的巨系統,就是類似于電影《黑客帝國》中展示的那種大家在其中全方位交往的人造“物理”世界。

多年以前,我在學術討論中提出,這種虛擬現實化的“擴展現實”與我們現在身處其中的自然現實在本體論上是具有對等性的命題。十多年后,英國物理學家霍金在他的《大設計》一書中宣稱,如果把我們整個宇宙理解成一個虛擬實在,很有可能解決當代物理學和宇宙學中的很多難題,從不同的邏輯起點出發提出與我的命題相契合的設想。


▲注:橫軸的指向是對物的操控,縱軸的指向表示與其他人替(意識主體)的交往。 (梁淑怡/圖)

“擴展現實”中有啥存在

這將是一個允許我們與原來的自然環境道別的人造環境,對人類現有生活方式的挑戰之徹底,前所未有。但是,如果我們愿意,我們確實可以棲居其中,維持我們的生存和發展,在這個“物理”的虛擬空間中創造新型的未來。

在我們按上述思路建造起來的“擴展現實”中,會遭遇如下各種對象(如圖所示):

1)人替(avatar),直接由用戶實時操縱的感覺綜合體,將讓人感覺完全沉浸在虛擬環境中,在視覺上代替了原來的自然身體,讓你以第一人稱的視角把周圍世界對象化,成為視聽場域的原點。

2)人摹(agent),由人工智能驅動的摹擬人,可以是系統創設的,也可以是用戶創建的。

3)物替(inter-sensoria),對應于物聯網中的物體的服務于遙距操作的感覺復合體。

4)物摹(virtual physicon),該世界中各種不被賦予生命意義的“物體”。

5)人替摹(avatar agent),用戶脫線時派出的假扮真人的由人工智能驅動的摹擬人替。

此外,考慮將來動物群體的加入,我們還會有:

6)動物替(animal avatar),如果我們在信號輸入端使用了完全的傳感技術進行實時動態捕捉而擯棄鍵盤和鼠標,我們就可以允許我們的寵物或其他動物進入虛擬世界,于是該世界里就會有這類對象活躍其中。

7)動物摹(animal agent),由人工智能驅動的摹擬動物,如幾年前HiPiHi公司給廣東河源市政府建造的虛擬恐龍公園中的“恐龍”。

可以設想,如果我們將各種現有的數字城市整合到虛擬世界,數字城市就會很自然地成為人聯網與物聯網融合的界面,亦即實施遙距操作的界面。現今的數字城市,主要是為城市規劃和管理建造的,這類數字城市,一方面可以轉化為供人替居住的城區,另一方面又可以轉化為物聯網在虛擬世界中的“物替”系統,為用戶通過人替對物聯網化的城市實施監控和遙距操作提供有效的界面。此外,像美國的City Cluster項目,卻主要用于歷史文化名城的再現,與此類似的項目,中國的一些博物館也有涉足。

再進一步,我們可以把網絡游戲中的人摹放置到虛擬世界的大環境中,網絡游戲的競賽活動也可以轉化為人替之間的一般交往和娛樂的內容,甚至用作軍事訓練。最后,游戲場景也可以轉化成我們行使遙距操作時使用的“物替”。這樣,我們就有了一個嶄新的人工與自然無縫連接的擴展世界。

這將是一個允許我們與原來的自然環境道別的人造環境,對人類現有生活方式的挑戰之徹底,前所未有。但是,如果我們愿意,我們確實可以棲居其中,維持我們的生存和發展,在這個“物理”的虛擬空間中創造新型的未來。

這種主要用來改變人類主體狀態的技術(也包括克隆人等生物工程技術),我稱之為“主體技術”,與以往的“客體技術”(亦即用來改造人之外的自然對象為人所用的技術)形成強烈對照。與客體技術相比,主體技術更加直接地在人類生活的基準線上挖掘重建,從而也更具顛覆性。

阿西莫夫機器人法則的實踐困境

更糟糕的一個可能情形,是在這種人與機器的界限變得模糊的趨勢中,人被整成了機器,原先的主從關系不復存在,大部分人成了少數寡頭實現自己權力意志的工具。

讀者不禁又要問了,這種顛覆性,也許聽起來或令人神往或令人恐懼,但我們除了被動應對,還能有更多作為嗎?

▲注:艾薩克·阿西莫夫,美國科幻小說黃金時代的代表人物之一

首先,必須注意的是,對于這種無所不包的“擴展現實”,總體規劃者既可以在結構原則上使其方便自己行使一種凌駕一切的權力并以此來操控人替使其成為物聯網的附屬工具,也可以反過來,讓所有人替作為權力的主體來操控物聯網,使物聯網服從每個人的主體訴求。人的需求和人的價值的實現,才使得物聯網的建設獲得工具性意義。這兩種對立的構架代表了兩種對立的價值預設,我們必須從理論上證明,只有第二種選擇才是正當的,而第一種選擇是不正當的因而是需要被避免的。

但是,按照當今比較主流的說法,物聯網屬于網絡技術的“嚴肅應用”,而以虛擬現實為特征的像Minecraft和Second Life那樣的人聯網則被看作“游戲”,是“不嚴肅”的應用。這樣的看法,折射出來的是手段與目的顛倒的異化思維,是人文理性缺失的結果,具有相當的危險性。

其次,要理解這種由人聯網與物聯網全面融合形成的系統,“人替”(avatar)這個概念的所指非常關鍵。一方面,每個人在沉浸式虛擬環境中有個身體的動態視覺替身,并以這個替身在人聯網中建立自己的獨特標識與他人互動,這個替身是網絡虛擬世界中人們一般稱作“avatar”的東西。

另一方面,每人還有一個機器人替身,就像電影《阿凡達》中為主角配置的送往外星球的替身那樣。這里,我們所指的是主從機器人的“從端”,其動作完全由“主端”的人的意志力直接掌控,即時重復人的生物身體的動作。可以說,這是我們用來切入物聯網的另一個身體,雖然我們不稱其為“人替”,卻還是從事人的體力勞動的實實在在的“替身”。

這里所說的“主從機器人”,與人們平時想到的由人工智能直接控制的機器人不同。主從機器人的出現,使阿西莫夫幾十年前提出的“機器人三大法則”以及后來補充進去的第零法則,在機器人設計的實踐中陷入了更深一層的困境。

這幾條法則是這樣的:(1)機器人不得傷害人類,或坐視人類受到傷害;(2)除非違背第一法則,機器人必須服從人類的命令;(3)在不違背第一及第二法則下,機器人必須保護自己;再加上第零法則,(0)機器人不得傷害人類整體,或坐視人類整體受到傷害。


▲《阿凡達》

以上四條法則,在人工智能式的機器人的設計實踐中就遇到了各種困難,但人與機器的界限起碼在那里還是相對分明的。而我們現在涉及的“主從”機器人,很可能是,“主端”原來的生物身體只是被用來作為一個中介,借此中介來得到驅動的遠方的“從端”替身,卻成了主人與外界互動的實際上的身體。正像在電影《阿凡達》中的那樣,當主人公與外星人交往時,原來的生物身體已被棄置一邊,人造的“替身”變成了他實際上的身體。于是,以上第一條法則中預設的“人類”與“機器人”的分立,在這里就失效了。在主從機器人這個設置中,機器人成了人的一部分,“機器人傷害人類”的含義也就需要重新得到恰當的澄清。不然,我們就很有可能在“人傷害人”與“機器人傷害人”的判定之間無所適從。

其次,“傷害”概念也變得更為復雜,因為“人身傷害”與“毀壞財產”之間的界限也需要重新界定。因此,為了讓我們的生活秩序獲得起碼的保證,我們就要重新討論道德和法律的理念基礎的有效性。以此類推,其他幾條法則的確切含義和可行性也受到了類似的挑戰。

更糟糕的一個可能情形,是在這種人與機器的界限變得模糊的趨勢中,人被整成了機器,原先的主從關系不復存在,大部分人成了少數寡頭實現自己權力意志的工具。

人文理性的介入和挑戰的應對

條件成熟時,在人類各共同體間達成某種理性的規范性共識,編撰“虛擬世界和擴展現實大憲章”,作為面向未來的立法和制定其它政策時的理念基礎,也作為在新時代保護人的基本權利和維護人的主體地位的基本依據。

有鑒于上面討論中揭示出來的危險和挑戰,我們現在應該采取什么措施來應對呢?這里,筆者嘗試著拋磚引玉,提出以下幾條建議:

1.建造“擴展現實”小模型(本人主持的“人機互聯實驗室”正在施工中),把人聯網和物聯網整合后的各種可能性率先展示給人文社科學者、媒體從業者、政府決策者,讓他們在有切身體驗的情況下探討各種可行理論或推行各種應對策略。

2.堅持虛擬世界中的“人替中心主義”,把人替信號流向的非對稱性作為標準化的設計,讓每個人替的主人可以在充分知情的條件下自主選擇對外來信號的開放度,而來自系統和他人的指令信號必須在主人選擇和監控下才能起作用。

3.人摹與人工智能的結合要服從人替中心的掌控,這樣的話,虛擬世界中的純數字化的“機器人”就不至于與人的替身(“人替”avatar)相混淆。

4.將人工刺激源的作用嚴格限制在自然感官上,嚴禁對腦中樞直接輸入刺激信號;我們的腦信號可以被直接用來控制人造環境和物聯網中的器具,但他人不能被允許使用直接的腦神經刺激來操控人的行為。虛擬現實作為人機互聯的界面,必須被設計成只能通過刺激外感官來與人的意志互動,而帕特南式的“缸中之腦”之類的腦神經元直接刺激模式,應該在人替程序的設計標準中一開始就被禁絕。

5.將服務器分散化,用分布式計算來保證任何寡頭的中心集權式控制成為不可能。

6.將主導或參與虛擬現實和物聯網前期建設的行業領袖召集起來,以“造世倫理學”的學術研究為起點,形成共識性的行業倫理規范,確保人文理性從一開始就在業者的實踐中發揮范導作用。

7.在物聯網建成運行之前,促使以虛擬現實為特征的人聯網充分發展,在諸如Second Life、Minecraft等以人替為中心的在線虛擬世界中注入鮮活豐滿的人文理性和藝術創造精神,以“人是目的”的基本原則為指導,形成各種豐富多彩、自由自律的虛擬世界文化共同體,抵擋來自各方的將人的生活工具化、物化或奴化的企圖。

8.條件成熟時,在人類各共同體間達成某種理性的規范性共識,編撰“虛擬世界和擴展現實大憲章”,作為面向未來的立法和制定其它政策時的理念基礎,也作為在新時代保護人的基本權利和維護人的主體地位的基本依據。

以上八條的提出,只是作為我們進一步深入討論的起點,一定有不少疏漏抑或謬誤。為了從容應對信息技術革命給我們的生活方式帶來的顛覆性轉型,我們必須迅速邁開步伐,準備為即將來臨的“擴展現實”合乎理性地奠定價值基礎,以期讓這個顛覆性的轉折給人類帶來的是福音而不是其它。

本文選自南方周末,轉載請注明來源



騰訊思享會 翟振明 2015-08-23 08:54:03

[新一篇] 高全喜:新文化運動的演進、岐變及其復調結構

[舊一篇] 【來稿】故宮拍裸照,也該顧及文物的顏面
回頂部
寫評論


評論集


暫無評論。

稱謂:

内容:

驗證:


返回列表