2015年7月29日 星期三

BBC:殺人機器人?科學家擔憂人工智能軍備競賽


殺人機器人?科學家擔憂人工智能軍備競賽


2013年在倫敦舉辦的「停止製造殺人機器人」活動。

超過1000名科技專家、科學家、研究員共同撰寫一封信,警告自動化武器可能帶來的危險。

科學家在信中警告:「人工智能軍備競賽是個可怕的想法」。讓人聯想到熱門電影「終結者」中的「殺人機器人」。

這封信的簽署有科學巨擘史蒂芬·霍金(Stephen Hawking),企業家埃倫·穆斯克 (Elon Musk),以及蘋果公司共同創辦人斯蒂芬·沃茲尼亞克(Stephen Wozniak)。

這封信將在今天的國際人工智能聯合會議中被呈現。

「殺人機器人」 近期在聯合國委員會上成為辯論的主題之一,討論是否要禁止某些有潛在威脅的自動化武器。

現在專家們呼籲要特別禁止那些使用人工智能來操控的武器,認為它們可能會「超越人類控制」。

專家們表示:「就像大部分科學家和生物學家不會對打造生化武器有興趣一樣,絕大多數的人工智能研究員不會對打造人工智能武器有興趣,而且也不想弄髒自己的手去插足這個領域」。

美國麻省理工學院(MIT)教授喬姆斯基(Noam Chomsky)和谷歌人工智能首席Demis Hassabis,以及意識學專家Daniel Dennett都認可了這封信。

信件內容由未來生命研究院(Future of Life Institute)在網絡上發佈,而紙本將在布宜諾斯艾利斯舉行的國際人工智能聯合會議(International Joint Conference on Artificial Intelligence)上提交。
人工智能?

身為信件簽署人之一的霍金,最近參加美國熱門社交論壇Reddit「向我提問」活動,向網民收集關於「如何讓未來科技更人性」的問題。

他在本周會挑出要回答的問題,但現在還沒開始回答。在去年11月BBC科技新聞記者凱蘭—瓊斯(Rory Cellan-Jones)獨家專訪霍金,在訪談中,霍金提出了人工智能可能終結人類文明的擔憂。

霍金說:「人類受限於緩慢的生物學進化過程,無法(與人工智能)較勁,而且將會被人工智能取代。」

然而,另一位簽署這封信的微軟研究首席Eric Horvitz也上傳了一段為人工智能辯護的影片。

他說:「看看電腦計算已經為我們帶來多少難以置信的改變,在社會經濟面、醫療應用面等等。人工智能改變了許多事。」

「這將帶來許多希望,許多可能的好處,當然也有其隱憂。我覺得有很多問題需要被解決,但我期待經由人類的引導,人工智能將帶來更多正面效應。」
人為控制

英國國防部最近在一項聲明中說到,所有英國軍隊的運作都必須「依照國際人道主義法」。

國防部表示:「英國的交戰規則(ROE)很明確的是依照人道主義法為基礎制定的,所以在此系統中永遠會有『人為控制』。英國軍方人員在目前以及未來,總會有人員下達控制武器的指令。」

(編譯:劉子維 責編:葉靖斯)

沒有留言: