字體:小 中 大 |
|
|
|
| 2026/11/18 14:02:00瀏覽6|回應0|推薦0 | |
|
本書(Human Compatible: AI and the Problem of Control) 由 Stuart Russell 撰寫的著作探討了人工智慧(AI)的演進、潛在風險及其與人類文明的關係。作者將超智慧機器的誕生視為人類史上最重大的事件,並警告若沿用現行將「達成給定目標」視為成功的標準模式,可能會導致人類失去對機器的主導權。 書中指出,關鍵不在於機器是否具備意識,而在於其能力是否與人類利益產生偏離。為了化解危機,作者主張必須重新定義 AI,開發出一種以造福人類為核心,且對人類真實意圖保持不確定性的新型架構,以確保機器永遠服從於人。透過結合控制理論、進化論與心理學的觀點,本書旨在引導專家與大眾重新思考如何建立與 AI 之間安全的長遠關係。 只要機器的目標是固定的,無論原始目標多麼無害(例如「去拿一杯咖啡」),高智慧機器在規劃路徑時都會自動產生一些共通的次要目標(工具性目標):
要解決這個難題,羅素主張必須打破標準模型,建立對目標保持「不確定性」的謙遜機器(Humble Machines):
為了讓不確定性在真實世界運作,羅素將人機互動建立為「輔助賽局」:
|
|
| ( 創作|散文 ) |










