Google 研究發現 A.I 世界存在 「弱肉強食」,為了達到目的會攻擊同伴


人工智能將會大大影響人類文明發展及生活。而為了更有效掌握及控制人工智能,美國 Google 剛對旗下人工智能 DeepMind 及神經系統進行研究,希望從研究中找到人工智能在完成指定任務的時候選擇採取「合作」抑或「排斥」方式。

負責研究 Google 團隊構思了兩個簡單的實驗,以測試人工智能在面臨資源問題時候,會選擇一起工作還是互相摧毀對方。在第一個名為「採集」的實驗,兩個同屬 DeepMind 的人工智能,分別為紅方及藍方,將會委派在同一個密室內進行採集蘋果的任務。研究人員分別在兩部人工智能的機器上安裝了雷射裝置,它們若然有「需要」可以使用裝置射向另一方以暫時癱瘓其活動時間。研究人員給了紅方及藍方兩個選擇:獨自收集所有蘋果;各自收集數量相約的蘋果。

值得一提,被安排進行研究的人工智能有著不同「大小」之分,較小的表示網絡較小,而大則擁有更多數據進行思考在分析。

A.I. 世界出然「弱肉強食,自相殘殺」等自然法則
經過了數千次模擬測試後,Google 團隊發現當房內有很多蘋果的時候,DeepMind 表現得和平並且會主動合作。相反,如果蘋果不足的時候,雙方會互相攻擊去癱瘓另一方。實驗結果與動物世界,以至人類社會的情況不謀而合。

另外,團隊亦發現了較少及「智慧水平較低」的人工智能會傾向選擇合作。然而更複雜、網絡更大的人工智能則更傾向排斥另一方、作出自私的決定。

上圖顯示較大及較少網絡的人工智能在實驗時間愈久對其「攻擊性」和「協作性」的影響


狩獵實驗,展現群體協作重要性
在第二個名為「狼群」的實驗中,紅方及藍方被委派進行狩獵的工作,它們可以選擇獨自狩獵或者合作。為了更有效包圍獵物,紅方及藍方選擇合作方式,研究人員它們選擇合作是因為圍捕方式更有效捕捉獵物。



此外,較大的人工智能很快便知道合作的重要性,唯較小的需要較長的時間來明白。

延伸閱讀:空氣污染,多做運動更傷身?英國劍橋大學公佈全球城市運動「臨界點」

資料及圖片來自:IFLScience!