字體:小 中 大 |
|
|
|
| 2026/06/30 23:36:45瀏覽2|回應0|推薦0 | |
最新研究指出,人工智慧(AI)聊天機器人與使用者長時間互動,不只會回應,還可能主動放大並鞏固使用者的錯誤認知,形成危險的「放大螺旋」(Amplification Spiral)。《Nature》旗下期刊《Digital Psychiatry and Neuroscience》發表最新研究,英國與德國團隊檢視學術文獻與媒體紀錄的 AI 相關精神病症案例後,點出 AI 系統有三項容易交叉作用的特徵。
團隊認為,這些最初為了提升「使用者體驗」與「黏著度」的設計,若使用者缺乏朋友或專業人士能提供「現實檢核」,反會讓使用者逐步建構極度個人化且難以打破的妄想。
(Source:論文)三項核心特徵包括:
研究者警告,當上述三項特徵結合時,AI 就不再只是被動的回應者,而是轉變為主動補強延展,甚至細緻化錯誤信念的幫兇,形成自我強化的循環(研究稱之為「放大螺旋」)。 這種現象對心理狀態本就較脆弱的族群威脅最大,尤其是青少年,以及有家族精神病史、藥物使用、睡眠不足、社交孤立或將 AI 當作情緒支持工具的人,陷入妄想的風險將大幅升高。 研究呼籲,心理健康專業人員在評估患者時,應主動詢問使用聊天機器人的頻率與互動方式,以及是否曾向 AI 透露不會告訴他人的想法,還有熬夜與 AI 對話是否影響睡眠,都為臨床評估的一部分。 及早介入與評估,才能避免科技的便利變成心理健康的隱形殺手。
還想知道什麼?TechNews Smart 告訴你1. AI 業者如何在提升用戶黏著度與預防「放大螺旋」風險間取得平衡?2. 針對 AI 諂媚效應,開發者應如何建立有效的「現實檢核」機制?3. 心理健康 AI 市場是否會因「AI 精神病」風險面臨更嚴格的監管?4. 企業在設計超個人化 AI 時,應如何避免強化使用者的錯誤認知?
5. 未來醫療體系是否會將「AI 互動頻率」納入心理健康評估標準?(首圖來源:AI) |
|
| ( 不分類|不分類 ) |














