2021年1月29日 星期五

新冠狀病毒後的世界(9) 重要的是無論任何職業,都必須隨時 注意有何最新的人工智慧科技。 將來的人必須捨棄一旦就業,就要40 年做同樣的工作這種想法。現在思考 2060年的勞動市場是一件愚蠢的事 情。與其如此,不如思考將來會發生 什麼事,繼續學習,以因應新情勢, 較重要。 由於新冠狀病毒,加速有些職業被人 工智慧取代。由於封城之故,人們的 接觸機會減少了。自助服務的飲食店 增加了。信用卡取代現金結帳。有些 人甚至會覺得這樣較方便。新冠狀病 毒結束之後,或許有些企業仍舊會讓 員工在家工作。因為辦公室縮小之 後,會減少成本。 為了減少與人接觸,有些職業會引進 電腦,那種工作若由人工智慧取代, 會更簡單。 如果所有的工作都由AGI來完成,人 類就不是地球上最高智能的存在了。 回顧人類與科技的歷史,人類每次獲 得某種科技,就會增加智慧以制御那 種科技。我稱此為「智慧競賽」 (wisdom race)。 以火和汽車為例。我們從火獲得許多 恩惠,但是火也會帶來火災的負面效 果。人類從火災學到教訓,因此發明 滅火器。汽車造成許多交通事故,因 此發明安全帶與紅綠燈。任何科技都 利弊參半,發展正面,制御負面,這 就是「智慧競賽」。 人類從失敗中學習。但是,科技力量 越來越強,到了某個階段,這種「從 失敗中學習」的戰略就行不通了。 例如,因為某種錯誤,美蘇之間爆發 核子戰爭,3千顆氫彈爆炸,就無法 從失敗中學習了。因為這樣一來,會 在地球上發生核子冬天,消滅所有的 人。所以為了讓這種事絕對不會發 生,就必須想好對策。這稱為「安全 工學」。人工智慧也應該應用「安全 工學」。 如果像這樣發展下去,對人工智慧沒 有任何規制,AGI只要錯誤一次,就 會造成人類的滅亡。獨裁者獲得人工 智慧後,會控制地球上的一切。 針對AGI的危機管理,現在有3種立 場。第一種立場是一旦出現AGI,讓 它無法連結網路,將它放在人類的管 理下。但是人類之所以能夠控制獅 子,是因為人類比獅子聰明之故。 然而AGI比人類聰明,或許AGI會控 制人類。 此外,也有人認為AGI是人類進化的 終點,是我們的子孫,擁有與我們一 樣的價值觀。但是,AGI真的擁有與 我們一樣的價值觀嗎?如何確認? 或許AGI只是假裝擁有與我們一樣的 價值觀。 我贊成第三種立場。也就是製造出擁 有與我們一樣價值觀的AGI,尊重人 類。 1960年代,生物學者們呼籲注意「生 物武器」的危險性,並且成功禁止國 際開發生物武器。人工智慧也應該如 此,要明確畫下利用人工智慧時不能 超越的紅線! (待續) 2021年好日 贖罪者理州上

沒有留言: