25.4 C
Taipei
星期五, 7 10 月, 2022
Home科技新聞AI人工智慧人工智慧打趴 Top Gun 飛官、被美國納入軍用……AI 是否毀滅人類?

人工智慧打趴 Top Gun 飛官、被美國納入軍用……AI 是否毀滅人類?

人工智慧的發展可說是一日千里,許多配備有 AI 的「自動化武器」陸續問世,美國國防部要將 AI 大規模投入軍事用途。但人工智慧最終會成為保護人類的盾牌,還是毀滅人類的武器?面對讓人不安的「自動機器」時代,我們能做的是……

「不該發戰爭財!」GOOGLE 向國防部說 NO

 

 

▲ Google 員工拒絕 Project Maven 專案——將人工智慧用於美軍無人機的計畫。

 

2018 年 6 月,Google Cloud 的 CEO 在例會上宣布:「Google 將在這次合約到期後,結束與美國國防部合作的專案『Project Maven』,不續約、也不參與國防部的新標案《聯合企業防禦基礎設施》。」

Google 的決定,等於直接放棄了價值 100 億美元的新合約。Google 想要立即終止的「Project Maven」到底是什麼計畫?

「Project Maven」是利用 Google 的人工智慧技術,替國防部分析無人機拍攝的畫面,其中也包括臉部辨識。

即使公司高層辯稱 Project Maven 僅會用於拯救生命等其他的「非攻擊性」任務,但員工依然認為這項專案會助長軍事監控、嚴重地侵犯了人權。

員工們大喊「Google 不該發戰爭財!」、引用公司行為守則內「Don’t be evil」。有超過 4000 名員工連署要求 Google 退出該專案,更有多名員工憤而離職,其中包含多位高階工程師。這可說是 Google 自 20 年前創立以來,最大的辭職風波。

最後在內部反對、外界輿論的雙重壓力下,Google 妥協了,放棄與國防部合作的訂單。

然而,該擔憂人工智慧技術的,恐怕不只 Google 員工,而是我們每個人都要思考的難題。

Top Gun 飛官對戰 AI 竟全軍覆沒!談軍用 AI 的潛在風險

 

 

▲ 美軍 Top Gun 飛行員 Gene Lee 去年六月與 AI 飛行員「Alpha」模擬戰鬥,結果全軍覆沒。

 

在世界經濟論壇 (World Economic Forum) 的《年度風險報告中》,曾點出:AI 在國防軍事上的使用逐漸增多,且已有大量資金投入「自主武器」的研發,卻幾乎沒有規範限制。隨著這些「殺人 AI」的思考能力逐漸超越人類,危及人類生存的日子,指日可待。

事實上,人類就曾在戰爭中慘敗給 人工智慧過:一位資深的美軍頂尖飛行員 (Top Gun) 被人工智慧打敗。

美國空軍退役上校 Gene Lee 是 Top Gun 飛官,擁有高超的飛行技術、也是頂尖空中戰術專家。2018 年六月與 AI 「Alpha」進行模擬戰鬥,結果經過多次交戰,「人類」陣營的戰機連番被擊落,而「人工智慧」的所屬戰機則自始至終都沒有一架折損,完美守住海岸線。

Gene Lee 說:「它 (Alpha) 似乎知道我的意圖,在我改變飛行、部屬飛彈後,立即做出反應。」多次模擬後仍無法打下一架飛機,甚至被擊落好幾次。

目前 Alpha 還只是在實驗室中打模擬戰,但或許有一天會被帶上真正的天空,運用在真槍實彈的國際戰爭中。這將會造成人類更大規模的傷亡。

「軍方導入 AI,是為了拯救更多士兵和平民!」你相信嗎?

 

 

▲ 接手美國國防部 Project Maven 專案的 Clarifai,是美國人工智慧新創公司,精通 AI 影像辨識技術

 

就在 Google 結束美國國防部 Project Maven 專案後,國防部又找了新創公司 Clarifai 接手,繼續研發無人機影片的辨識技術,使之能更精準地協助軍備。

經過 Google 員工的抗議,外界普遍反對人工智慧用於軍事用途。面對外界質疑,Clarifai 創辦人 Matt Zeiler 聲稱:「與軍方合作,是為了拯救更多士兵和平民!」他認為,人工智慧能讓武器變得更精,達到減少傷亡,最終將拯救更多性命。

但這就像是一把雙面刃:當人工智慧即時辨識影片中的人物時,可能可以立即拯救將死的性命;但同時,AI 也可能被國家利用,成為監控人民的手段。人工智慧究竟是增進人類福祉、還是成為殺人武器?

充滿 AI 殺人機的未來天空?

人工智慧教授斯圖亞特.羅素(Stuart Russell)曾分享一段 7 分鐘的影片,警告充滿人工智慧 的未來,恐怕沒有理想中這麼樂觀。

 

 

▲ 美國一名專攻 AI 的教授,分享影片警告未來人工智慧的普及化,恐怕被濫用而隨機殺人。

 

影片中的背景設定,是人工智慧已經普及的未來世界。幾乎所有的人都能使用人臉辨識、自動化無人機等科技。

片中最駭人的橋段,是一群大學生正在上課,突然之間好幾架比手掌還小的「機器屠夫」破門而入。它們做完人臉辨識後,下一秒就槍聲此起彼落,學生一個個被擊斃;還有一名正在和兒子視訊的母親,眼睜睜看自己的兒子頭顱被貫穿……

事後,當新聞主播訪問專家:「你認為是什麼樣的人,才會犯下這樣的罪呢?」專家冷靜地說:「任何人。」

其實,影片所述的科技,並不是未來才會出現的科技。這種殺人機器早已存在,只是還未臻精良、也沒有量產;但像是「目標鎖定」的必備技術:如臉部、指紋、聲音辨識等,早已融入生活中:如中國就已全面運用人像辨識來抓犯人。這樣的科技繼續發展,將強大到足以毀滅大量人口。

人工智慧雖然給人類帶來便利,但若人們只依賴 AI,卻不好好管控這個系統是如何運作,將對自身帶來極大的危害。我們所能做的,就是要努力去了解這些「最可靠,也是最可怕的存在」,未來才不會任由機器宰割。

最新文章

熱門文章