資料圖：電影《機械公敵》宣傳畫，該片中機器人成為了人類的敵人。

資料圖：電影《機器管家》劇照，電影中的主角一台家政機器人與人和睦相處

　　據英國《新科學家》雜誌報道，2004年，由威爾-史密斯主演的美國影片《機械公敵》在全球上映，其中描述了芝加哥警察對付學會了獨立思考並且脫離了人類控制的機器人的故事。當然，影片中人類最終戰勝了機器人，但科學家們警告說，這樣的威脅目前正在不斷迫近，人類應該提早考慮應對之策。

　　科學家們描述了這樣一個「人工智能的世界」：可能在20年或30年後，人工智能機器人就可以和人類做朋友了，但50年後，人工智能將成為人類最大的威脅。世界最終會因人工智能超過人類而爆發一場戰爭，這場智能戰爭也許會奪去數十億人的生命。科學家們認為，人工智能遲早會超過人類。人腦的運算能力是10的16次方/秒，而人工智能機器的運算速度高達10的40次方/秒，是人腦水平的10的24次方倍。那時候他們對待人類可能就像拍死一個蚊子這麼簡單。但人工大腦並不會立即控制人類，此前還會有一段與人類「和平相處」的時期。這一時期它不斷接近但尚未超越人的智力水平，因此「聊天機器人」、「家務機器人」、「伴侶機器人」將使人類的生活充滿樂趣。但這樣的美景並不會長久，人工智能的繼續發展將使人類面臨災難。

　　科學家們表示，在災難來臨前，人類將會分為三派：宇宙主義者(主張發展人工智能的人)、地球主義者(反對發展人工智能的人)和人工智能控制論者(將自己改造成機器人的人)。也許在人工大腦對付人類之前，這三類人會先展開人類內部的鬥爭。

　　考慮到上述這些可能發生的威脅，美國耶魯大學倫理學家溫德爾-瓦拉克、美國印地安那州立大學認知科學家柯林-阿倫提出了6種有望避免悲劇發生的應對之策。

　　1、將它們存放在低危環境中

　　要確保所有的計算機和機器人永遠不會做出可能導致事先無法預測的後果的決定。

　　成功的可能性：極低。工程師們現在已經建成了計算機和機器人系統，但它們的行為好像並不總是可以預測。消費者、工業界以及政府部門需要那種能夠執行各種任務的技術，而為了滿足這種需求，企業也將會不斷提高產品的數量和性能。為了實現這一戰略，就必須立即深入發展計算機和機器人技術。

　　2、不要給它他們武器

　　成功的可能性：為時已晚。現在已經出現了半自動機器人武器系統，如巡航飛彈、無人駕駛飛機等。一些持槍機器人也已經被派往伊拉克境內負責戰場攝影，但很明顯它們實際上並未真正部署。

　　但是，軍事決策者們卻好像對機器人士兵的研發非常感興趣，並將其看作是未來戰爭中降低人員傷亡的一種重要手段。如果想要停止自動化武器的建設，現在好像為時已晚，但是如果想要對機器人所攜帶的武器或是對它們可以使用武器的前提條件進行限制，好像還並不太晚。

　　3、為他們制定行為準則

　　成功的可能性：中等。科幻小說家艾薩克-阿西莫夫的著名規則就是分等級排序的：最重要的是，機器不應該傷害人類或對它們的傷害無動於衷；其次，就是機器人應該服從於人類；而機器人的自我保護則屬於最低等次的優先級。

　　然而，阿西莫夫只是小說家，並不會真去研製機器人。在他的小說故事裡，他列舉了可能會僅僅因為這些簡單的規則而產生的一系列問題，比如，當同時收到由兩個人發出的相互衝突的兩道命令時，機器人該如何執行？

　　阿西莫夫的規則使得機器人難以判斷。例如，機器人如何理解一名正在對患者進行切割手術的外科醫生其實是在幫助患者呢？實際上，阿西莫夫的機器人故事已經非常清楚地說明了基於規則的道德限制。然而，規則可以成功地對機器人的行為進行限制，但同時也將其功能局限於一個有限的空間內。

　　4、為機器人編製特定程序

　　研製機器人的目的應該是「為最廣泛的人群創造最大的利益」，或是「對待他人就像你希望被對方對待的程度一樣」。因此，機器人的研製應該從更為安全的角度考慮，而不是放棄一些簡單化的規則。

　　成功的可能性：中等。由於這些規則的局限性，一些倫理學家在試圖尋找一條可以壓倒一切的原則，用於評估機器人的所有行為。

　　但是，對於一些剛剛提出的簡單原則，其道德價值和局限性就會成為人們長期爭論的話題。例如，犧牲一個人生命來挽救五個人的生命，這看起來好像是合乎邏輯的。但是醫生卻不會因為這個邏輯，而去犧牲一個健康人僅僅是為了為五個病人提供他們所需要的器官。那名機器人又如何看待這條邏輯呢？有時，在給定的規則下確定最佳選擇是極其困難的。例如，判斷到底哪一種行為可能會產生最大的利益，這可能需要大量的知識以及對世界上各種行為的影響的理解。當然，做出這種思考也需要大量的時間和計算能力。

　　5、像教育孩子一樣教育它們

　　在「成長」過程中，機器人也應該不斷學習人類對各種行為的是非判斷，以提高它們對各種行為的敏感性。

　　成功的可能性：有希望。雖然這一戰略的實施還需要一些技術方面的重大突破，但科學家們已經研製出能夠像人類一樣學習的機器人。當然，目前的工具還非常有限。

　　6、讓機器人擁有感情

　　像人類的一些功能，如同情、感情以及對非語言社會暗示的理解能力，都可以讓機器人擁有更強的與人類互動能力。科學家們已開始著手為家用機器人添加這些類人類功能。

　　成功的可能性：研發感情豐富的機器人必將有助於實現上面三條剛剛討論過的問題的解決方案。人類在做出決策時以及在與他人合作的過程中對對方觀點、手勢或意圖的理解能力，依賴的主要信息來源於我們的情感。