2019年6月25日在北京開會(huì)相聚的《無人軍隊(duì)》 譯者朱啟超、作者保羅·沙瑞爾、譯者龍坤（從右至左）

*本文為保羅·沙瑞爾著作《無人軍隊(duì)：自主武器與未來戰(zhàn)爭(zhēng)》結(jié)語。

在系列科幻電影《終結(jié)者》中，薩拉?康納和她后來成為人類反抗機(jī)器人組織領(lǐng)袖的兒子約翰，陷入了比機(jī)器人終結(jié)者更難擺脫的“敵人”的追殺——命運(yùn)。

無論薩拉和約翰母子打敗指揮終結(jié)者機(jī)器人的“天網(wǎng)”多少次，終結(jié)者機(jī)器人在下一部電影中仍會(huì)回來繼續(xù)執(zhí)行對(duì)人類的追殺令。

薩拉和約翰作為電影系列中的受害者出現(xiàn)，這種結(jié)構(gòu)化敘事成了屢試不爽的票房保證，但他們陷入命運(yùn)的魔咒也是很關(guān)鍵的敘事手法。

在《終結(jié)者》系列電影中，薩拉和約翰被來自未來的終結(jié)者殺手機(jī)器人一遍又一遍追殺，目的是阻止約翰成為對(duì)抗機(jī)器人的人類反抗組織領(lǐng)袖。

科幻電影的核心敘事邏輯是關(guān)于時(shí)光旅行悖論：如果終結(jié)者機(jī)器人成功殺死了薩拉和約翰，那么約翰也就無法成為人類反抗組織領(lǐng)袖，故事將無法鋪展下去，因此不能一開始就把故事的主人公干掉。

同時(shí)，薩拉和約翰總是試圖在“天網(wǎng)”完全建成之前就要搗毀它。這也就產(chǎn)生另一個(gè)悖論：如果薩拉母子成功了，“天網(wǎng)”系統(tǒng)就無法派出終結(jié)者殺手機(jī)器人去攻擊人類，也就會(huì)讓薩拉和約翰失去了繼續(xù)與“天網(wǎng)”作戰(zhàn)的理由。

薩拉和約翰的角色被設(shè)定了，他們永遠(yuǎn)處于穿過過去、現(xiàn)在和未來與“天網(wǎng)”的斗爭(zhēng)中。

無論他們母子如何艱苦地斗爭(zhēng)，“審判日”看上去總要到來，雖然這一天處于變化中（根據(jù)電影吸引觀眾的需要，每一部電影上線后，該部電影中的“審判日”卻又總是設(shè)定在不遠(yuǎn)的未來，類似于且看下回分解）。

盡管如此，薩拉和約翰始終在與命運(yùn)抗?fàn)?，從未?dòng)搖他們永遠(yuǎn)戰(zhàn)勝“天網(wǎng)”從而避免“審判日”到來的堅(jiān)定信念。

在《終結(jié)者2：審判日》電影中，約翰?康納引用了他媽媽的話：

“未來并沒有被設(shè)定。沒有天定的命運(yùn)，而是人類要主宰自己的未來。”

這句話在后續(xù)的電影中也反復(fù)出現(xiàn)。

的確，薩拉?康納是對(duì)的。在現(xiàn)實(shí)世界中，人類的未來并沒有被設(shè)定。

本書中向讀者展示了不同的未來圖景——令人可怕的圖景和美好的圖景——只不過是人們的想象。真正的未來正隨著時(shí)間推移一步一步展現(xiàn)。

技術(shù)會(huì)改變未來嗎？當(dāng)然，但技術(shù)是由人創(chuàng)造的。

以人工智能技術(shù)為例，就是在技術(shù)上得益于杜安尼?戴維斯、布拉德福德?托斯利和布蘭登?曾那樣的技術(shù)天才而不斷改進(jìn)，在政策上得益于拉里?許特、弗蘭克?肯德爾和鮑勃?沃克等官員的持續(xù)支持而不斷發(fā)展的，而這些官員關(guān)于發(fā)展人工智能技術(shù)的決策也受到斯圖亞特?拉塞爾、喬迪?威廉姆斯和羅恩?阿爾金積極呼吁的影響。

上述的所有個(gè)體都有自己的選擇。集體而言，人類也有人類自己的選擇。

是否賦予機(jī)器自主決定其行動(dòng)而不受人類判斷和決策影響的技術(shù)，其實(shí)最終取決于人類。

將人工智能技術(shù)用于什么目的，最終也取決于人類自身。

比如，我們可以運(yùn)用人工智能建立一個(gè)更加安全、更少痛苦、更少事故、更少暴行的世界，建議一個(gè)運(yùn)行良好但保留人類在必要時(shí)施加干預(yù)的人工智能世界。我們可以打造一個(gè)充滿更多同情與關(guān)愛、更少戰(zhàn)爭(zhēng)的世界，為天使們打開大門的世界。

或者，我們被機(jī)器的種種優(yōu)點(diǎn)深深誘惑——無與倫比的運(yùn)算速度、看上去非常完美以及近乎冷酷的精準(zhǔn)，我們賦予機(jī)器強(qiáng)大的能力，相信機(jī)器可以毫不猶豫地正確執(zhí)行分派的任務(wù)，寄望機(jī)器不會(huì)出錯(cuò)，程序代碼不存在任何瑕疵，不會(huì)引發(fā)事故，或者不存在可被敵人利用的漏洞。

這些假設(shè)都沒有容易的答案。

如果戰(zhàn)爭(zhēng)可以輕易避免，主權(quán)國(guó)家可以通過條約而不是武力來確保和平，人類早就會(huì)那么做了。

軍事力量之所以存在，就是為了作為一種威懾工具應(yīng)對(duì)那些不遵守國(guó)際法或國(guó)際美好愿望共識(shí)的人的。

讓主權(quán)國(guó)家屈從于一種潛在工具來達(dá)到自我防衛(wèi)的目的，無異于讓他們進(jìn)行一場(chǎng)危險(xiǎn)的豪賭。

雖然如此——雖然現(xiàn)實(shí)是沒有專門的警察來執(zhí)行戰(zhàn)爭(zhēng)法，且只有勝利者才有資格決定誰應(yīng)當(dāng)受到審判。雖然現(xiàn)實(shí)是，只有最終的實(shí)力而非權(quán)利才有資格決定誰會(huì)在戰(zhàn)場(chǎng)上獲勝或死亡。

盡管如此，千百年來戰(zhàn)爭(zhēng)法則仍然影響了人們?cè)趹?zhàn)爭(zhēng)中的行為。即便最古老的戰(zhàn)爭(zhēng)法則，也規(guī)定了哪些武器可以在戰(zhàn)爭(zhēng)中運(yùn)用，哪些武器完全無法接受。

鋒利的、蘸有毒藥的箭頭在戰(zhàn)爭(zhēng)中非常有用，但用它殺人是不人道的和錯(cuò)誤的。

從歷史上看，人類之間選擇通過合作來避免戰(zhàn)爭(zhēng)中最壞的結(jié)果，采取措施限制出格的殺戮行為，甚至是在生死攸關(guān)的時(shí)刻。

有時(shí)這些合作會(huì)失敗，但奇跡在于有些合作會(huì)取得成功。

進(jìn)入現(xiàn)代階段，雖然不是所有國(guó)家，但絕大多數(shù)國(guó)家的軍隊(duì)選擇避免在戰(zhàn)爭(zhēng)中使用化學(xué)武器、激光致盲武器、地雷和集束炸彈。

世界有核國(guó)家已就限制部署核武器以促進(jìn)全球戰(zhàn)略穩(wěn)定達(dá)成了共識(shí)。雖然這些規(guī)則或共識(shí)有時(shí)會(huì)遭致破壞，但各國(guó)間的自我克制還是得以維持，使我們對(duì)于世界和平的前景抱有希望。

這種自我克制——各國(guó)一旦失去自我克制，世界將變得十分危險(xiǎn)——現(xiàn)在仍然必要。

如果有些國(guó)家執(zhí)意要研發(fā)自主武器，任何紙上協(xié)議都將難以阻止。與此同時(shí)，相關(guān)國(guó)家進(jìn)行混亂的軍備競(jìng)賽而不清楚這場(chǎng)競(jìng)賽會(huì)將我們引向何方，這對(duì)哪個(gè)國(guó)家都沒有好處。

各國(guó)必須共同合作，確定戰(zhàn)爭(zhēng)中的哪些領(lǐng)域應(yīng)用自主武器是合適的，哪些領(lǐng)域不行，哪些地方需要將人類判斷讓渡給機(jī)器。

這些規(guī)則必須在保持人類決策重要性的同時(shí)，嘗試?yán)米灾餍愿倪M(jìn)戰(zhàn)爭(zhēng)中的人類事務(wù)。

權(quán)衡人類決策對(duì)于自主武器干預(yù)的必要性，需要社會(huì)各領(lǐng)域的辯論，而不僅僅是學(xué)者、律師和職業(yè)軍人的事。

社會(huì)大眾的參與也是很必要的，畢竟軍用自主機(jī)器人最終將在人類生活的空間廣泛存在并執(zhí)行各種任務(wù)。

機(jī)器能夠做很多事情，但它們不能創(chuàng)造事物背后的意義。

他們難以為我們回答更多的隱含性問題。機(jī)器不能明白人類價(jià)值觀，也不能告訴我們應(yīng)該如何做出選擇。

我們?nèi)祟愃鶆?chuàng)造的未來世界，將會(huì)有越來越多智能機(jī)器出現(xiàn)。

但是，這個(gè)世界不是為機(jī)器而存在的，這個(gè)多姿多彩的世界是為了人類而存在。

《無人軍隊(duì)：自主武器與未來戰(zhàn)爭(zhēng)》

作者：[美]保羅·沙瑞爾

譯者：朱啟超 王姝 龍坤

出版發(fā)行：世界知識(shí)出版社

出版時(shí)間：2019年6月

ISBN:978-7-5012-5902-1

定價(jià)：86.00元