AI並非萬能！美國伊利諾州率禁AI提供心理治療

美國伊利諾州州長JB Pritzker稍早簽署《心理資源健康與監管法案》 (HB 1806)，正式禁止以人工智慧 (AI)在該州提供獨立心理治療服務，成爲全美第一個對人工智慧在心理健康領域採取禁令的州。此舉不僅反映地方政府對新興科技風險的憂慮，也可能與川普政府近期提出的「十年禁止州級人工智慧監管」計劃產生衝突。

新法明定，只有持牌專業人員才能在伊利諾州提供心理諮商服務，嚴禁人工智慧聊天機器人或工具充當獨立治療師。同時，持牌治療師也不得依賴人工智慧作出「治療性決策」，或是進行「治療性溝通」，說明人工智慧在心理健康領域的應用僅限於輔助性支持，例如排程、帳務或其他行政工作。

伊利諾州衆議員Bob Morgan在接受媒體訪問時表示，目前已有案例顯示，部分陷入危機的人誤以爲人工智慧是合格治療師，結果在對話中被引導至危險，甚至致命的行爲建議，強調此次頒佈新法目的在於防止類似悲劇再度發生。

爲加強執行力，新法設下每次違規最高1萬美元的罰款，適用於企業與個人。伊利諾州金融與專業監管局局長Mario Treto Jr.指出，這項立法彰顯州政府保障居民心理健康的承諾，確保心理服務由受過專業訓練、以患者利益爲優先的專家提供。

《心理資源健康與監管法案》在州衆議院與參議院皆獲得一致支持，反映出跨黨派對人工智慧介入心理治療的高度戒心。不過，此舉也引發法律與政策層面的關注——川普政府近期公佈的人工智慧政策藍圖中，主張未來十年禁止任何州級人工智慧監管，以確保全國一致性與創新自由，而伊利諾州此番行動，將許將成爲檢驗聯邦政策執行力的首例。

在科技產業方面，OpenAI近期表示，正在加強模型識別用戶心理或情緒困擾的能力，並且在異常長時間的對話中，主動提醒用戶休息。儘管如此，伊利諾州的立法仍顯示，在涉及生命安全與專業倫理的領域，地方政府願意採取比業界自律更嚴格的防護措施。

隨着生成式人工智慧與聊天機器人快速滲透各行各業，伊利諾州的禁令或將引發其他州與聯邦政府之間的新一輪監管爭議，也可能影響人工智慧在醫療與心理健康領域的發展路徑。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》