文章選自世界知識期刊
作者：張?zhí)N嶺，全球化智庫（CCG）學術(shù)委員會專家，中國社會科學院學部委員。
前不久，116名專家簽名呼吁，聯(lián)合國應禁止研發(fā)和使用殺人機器人（即自動化武器，如無人機、無人戰(zhàn)車、哨兵機器人、無人駕駛軍艦等）。他們警告，世界正進行殺人機器人的軍備競賽，會引起“戰(zhàn)爭革命”，致命的自動化武器將成為恐怖的殺人武器，會引發(fā)空前規(guī)模的武裝沖突。
技術(shù)進步是推動世界發(fā)展的重要動力。然而，幾乎所有的技術(shù)都有利有弊，人工智能技術(shù)也是如此。從技術(shù)的發(fā)展史看，武器的發(fā)展總是與技術(shù)的進步相伴，技術(shù)成為戰(zhàn)爭的工具。其實，關(guān)于技術(shù)與道德的討論早就有之，基本的問題是如何處理技術(shù)與道德之間的關(guān)系。從本質(zhì)上看，技術(shù)屬于科學的范疇,科學不斷發(fā)展，技術(shù)水平不斷提升，技術(shù)的使用范圍也必然擴大，而就技術(shù)本身而言，其使用是沒有邊界的。道德屬于哲學的范疇，哲學的基本原理是認識人類行為，包括人與人、人與社會以及國別與世界的關(guān)系等。道德是為這些行為確立正義規(guī)范，而那些基于公共利益的規(guī)范便是社會公德。
人類共處同一個地球，但地域、國家以及階層把人分割在不同的空間里。生存之爭、利益之爭、權(quán)利之爭等，讓人一直處在“拼死的”爭斗環(huán)境之中。在這樣的環(huán)境中，什么是公德，如何形成和落實公德，就需要人類去規(guī)范。從“人類命運共同體”的角度來認識，所謂公德，就是利于共同生存的規(guī)范。然而，現(xiàn)實中，公德并非自然產(chǎn)生。常被引述的例子是所謂“公地悲劇”，即大家共用一塊草地，盡管每家都知道過度放牧會導致草被吃光，最終使人畜無法生存，但每一家都不會主動減少或者放棄，為了私利甚至增加牲畜的數(shù)目。那么，在此情況下，誰來制定規(guī)則呢？生存危機感或者道義感會促使大家共同采取行動，制定公約，對牲畜數(shù)量、放牧時間進行限定，對草地進行維護等。
從世界范圍看，對于國際規(guī)約的需求越來越多，一則是因為全球化的發(fā)展，把世界越來越緊密地連接成一個整體，相依相存；二則是由于技術(shù)的發(fā)展對于人類活動的影響越來越大。在諸多的國際規(guī)約中，有些是出于共同認知的“議定”，通過集體簽字成文，作為公約。涉及戰(zhàn)爭的典型例子是1925年由37個國家簽署的禁止在戰(zhàn)爭中使用窒息性、毒性氣體和細菌議定書，后來越來越多的國家簽署，成為一項國際公約。自從成立了聯(lián)合國，聯(lián)合國在制訂國際規(guī)則中開始起核心作用。就涉及戰(zhàn)爭武器的領域而言，聯(lián)合國先后制訂了核不擴散條約、禁止生物武器公約、禁止化學武器公約等，核武器、生物武器、化學武器等被稱為大規(guī)模殺傷性武器。核武器是最可怕的，現(xiàn)存的核武器已經(jīng)足夠毀滅人類。然而，禁核難度極大，一是公約國家不包括擁有核武的安理會常任理事國，二是有些國家繼續(xù)發(fā)展核武器。今年3月舉行的聯(lián)合國禁核條約大會，包括安理會常任理事國在內(nèi)的有核國家無一參加。目前，除安理會五個常任理事國外，印度、巴基斯坦、以色列和朝鮮都擁有核武器，印巴均未簽署核不擴散條約，以色列采取不否認、不承認的鴕鳥政策，朝鮮繼續(xù)我行我素，進行一輪輪核試驗。禁核任重道遠。
如今科學技術(shù)進入到一個新的時期，人工智能技術(shù)正以前所未有的速度和規(guī)模得以發(fā)展和利用?；蚣夹g(shù)的開發(fā)和利用，特別是克隆技術(shù)、基因移植和培育技術(shù)的使用涉及人類倫理的道德底線。既然可以克隆羊、牛、豬，克隆人的技術(shù)障礙就不存在了，據(jù)說有的個人或者公司已經(jīng)開始進行造人的實驗，而且獲得了成功。如果說通過試管嬰兒為不育者提供生育機會還可接受的話，純粹出于商業(yè)目的或者其他目的的造人，就突破人倫底線了。一些國家已經(jīng)通過立法禁止造人的活動，但迄今，聯(lián)合國還沒有采取行動。而把人工智能與自動化應用到武器開發(fā)上，制造無人機、殺人機器人，顯然超越了一般的大規(guī)模殺傷性武器概念。美國的無人機用于打擊極端分子，但也“誤殺 ”了為數(shù)不少的平民。設想，未來天上是無人機，地上是戰(zhàn)爭機器人，而指揮殺人者卻遠離戰(zhàn)場喜笑顏開，那樣的境況真是令人不寒而栗，況且，無人機、戰(zhàn)爭機器人可以作為商品買賣、大規(guī)模擴散，如此這般，未來的世界會變成什么樣子？
正如專家們所警告的，人類面臨的危險的是把戰(zhàn)爭工業(yè)化，人工智能技術(shù)已經(jīng)達到了一個節(jié)點，自動化武器的部署將成為現(xiàn)實，現(xiàn)在到了危險的邊緣，留給國際社會采取行動的時間已經(jīng)不多了，“潘多拉的盒子一旦打開就很難關(guān)上”。聯(lián)合國該采取行動了，特別是安理會常任理事國，能否做出表率、起帶頭作用呢？
