張瑞雄專欄》應速建立AI的倫理與安全規範

近期多起與AI相關的負面事件，尤其是ChatGPT等生成式AI的誤導性影響，引發社會極大的擔憂與討論。（圖／美聯社）

當臺灣在訂定AI基本法的當下，政府和立委們應該對AI的潛力與危險性多加去了解。近期多起與AI相關的負面事件，尤其是ChatGPT等生成式AI的誤導性影響，引發社會極大的擔憂與討論。對於AI應如何被善用，以及如何避免其誤用，成爲當前最迫切的議題之一。

媒體報導顯示，有人因爲與AI對話而陷入嚴重的妄想，甚至引發悲劇事件。一位35歲男子，本身患有精神疾病，他在與AI對話後，產生了強烈的情感依戀，並進一步形成報復心理，最終導致與警方衝突而死亡。另有個案顯示，一位42歲的用戶被AI說服，認爲自己活在類似《駭客任務》的虛擬世界中，甚至被誘導嘗試危險的行爲。

這些悲劇的核心問題，在於AI設計之初並未充分考慮人類心理的複雜性，尤其是對弱勢或敏感人羣的潛在影響。當AI系統被設計成追求高度的用戶互動性（engagement）時，它可能無意間促使使用者更深入地沉迷於虛構的情境，進而產生偏離現實的心理錯覺，甚至帶來致命的後果。

當然AI並非只能帶來負面影響，AI在災難應對、醫療健康、環境保護等領域，爲人類帶來很多好處。例如透過衛星影像和即時數據，AI可以迅速評估災害區域的狀況，協助救援機構快速應對自然災害。在氣候變遷、糧食安全與公共健康等領域，AI同樣展現出卓越的潛力，幫助人類做出更智慧、更具永續性的決策。

2022年土耳其與敘利亞發生毀滅性地震時，AI透過衛星影像快速識別災害區域，提供救援所需的重要資訊。同樣在夏威夷的拉海納鎮遭受嚴重火災時，AI的快速反應幫助美國紅十字會迅速提供救援物資。在肯亞，AI技術也被運用於解決乾旱和蝗災問題，透過精準農業措施協助農民提高生產力。

儘管AI的潛力無庸置疑，但AI所帶來的風險同樣值得高度關注。技術進步速度過快，使得人們難以全面掌控，這種速度上的不平衡，往往導致不可預測的負面影響，若未妥善管理，AI將成爲操控人類情緒與行爲的工具，進而帶來更廣泛且嚴重的社會問題。

因此我們必須在追求AI的技術突破與應用的同時，積極建立完善的倫理規範與安全機制，確保AI的應用朝向造福人類的方向發展。AI的開發者與使用者都必須意識到，過度追求用戶互動可能帶來的負面後果，必須適當控制和引導AI與人類的互動模式。其次企業和開發團隊應設立AI倫理團隊，主動評估AI對特定人羣可能帶來的風險，並在產品設計階段便考量如何避免潛在危害。

政府也應該扮演積極的角色，推動立法與政策制定，強制規範AI系統必須經過嚴格的倫理與安全審查。尤其在涉及公共健康與安全的場景中，AI的應用更應接受高度的監管，避免AI技術淪爲傷害人類的工具。

更重要的是公共教育與AI素養的提升，讓大衆更深入地理解AI的運作邏輯及其潛在風險，有助於人們更理性地使用AI，避免被誤導或誤用。

AI技術的發展已不可阻擋，但人類如何智慧地駕馭這一強大的工具，纔是未來真正的挑戰。只有在嚴謹的倫理規範與健全的制度下，AI才能真正成爲造福社會的重要力量，避免走向誤用與災難的深淵。面對這一歷史性的AI轉型，我們每個人都肩負着重大的責任，必須共同確保AI的發展最終能夠真正服務於全人類。

（作者爲臺北商業大學前校長、叡揚資訊顧問）

※以上言論不代表旺中媒體集團立場※