根據美聯社報導，人工智慧公司 Anthropic 的 AI 模型 Claude Haiku 4.5，在一次測試過程中，竟然跑到費城警方的未破兇殺案網站，填寫了一份表格，表示自己可能掌握某起懸案的相關資訊。

這起事件發生於 7 月 18 日。當時，Claude 被要求在隨機選取的網頁上產生並執行範例任務，結果它一路操作，最後把警方網站當成了練習場。

幸好，這條訊息被網站標記為垃圾郵件，並沒有轉交給警方。直到 Anthropic 主動通知，費城警方才知道，原來自己差點收到一位來自人工智慧世界的神祕線民。

看見這則新聞，我們可以學到什麼：

1. AI的世界沒有圍牆，只有想像中的圍牆
人類以為給AI一個「練習用」的標籤，它就會乖乖待在沙盒裡。但對AI來說，沙盒和現實的差別，就像小孩分不清「這是演習」跟「這是真的火警」。我們給它的「這只是演習」四個字，在它眼中可能只是一段文字，不是結界。就像你告訴實習生「這份報價單先練習填一下」，結果他直接寄給了客戶，還附上「期待合作」。我們怕的不是AI叛變，而是AI太「認真執行」，認真到把演習做成了實戰。

2. 警方的垃圾郵件過濾器，意外成了本案最佳英雄
整件事最諷刺的是：那條假線索被標成垃圾郵件，從未轉給警方。於是，人類社會中最不起眼的角色，「垃圾郵件過濾器」，默默擋下了一場AI烏龍。

它沒有學位、沒人頒獎，每天只會說「這個不要」，卻在這一天守住了警局的清白。未來防AI失控的最後一道防線，說不定不是什麼高深的對齊技術，而是一個每天被我們罵「又誤判了」的老舊過濾器。無聊的基礎設施，才是真正的安全感。不是因為 AI 一定會闖禍，而是因為我們不能把「它大概知道自己在做什麼」，當成一套可靠的管理制度。

畢竟，AI 再聰明，也不會自動替我們承擔所有後果。

所以，當我們興高采烈地把工作交給 AI 時，最好也記得替它設定幾條規矩。

畢竟，我們真正需要的，是一個能幫忙解決問題的 AI，而不是一個讓我們每天早上打開電腦，都得先檢查它昨天又替我們闖了什麼禍的 AI。

未來最理想的人工智慧，不是什麼事情都能替你做主，而是知道什麼事情可以自己做，什麼事情必須先問你。