別用手機AI推薦的藥方去抓藥了!
來源:媒體滾動
【短評】
◎張佳星
一條2022年就出現在互聯網醫療診療監管文件中的常規提法,經報道發酵後,竟成了醫療AI的一次“信譽危機”。
自互聯網醫療誕生以來,“嚴禁使用人工智能等自動生成處方”的原則在醫療界便是一以貫之的。無論生成處方還是問診,不管多聰明的機器人都難以勝任。這句一直推行的“鐵律”,爲什麼在當下卻觸發了輿論熱點?
DeepSeek今年春節大火,它的低成本、開源真正降低了使用門檻,人工智能的測試人人可做,它的“聰慧”有目共睹,提及它的能力評價似乎人人都有了發言權。但順着“嚴禁自動生成處方”的線索,人們發現了AI“幻覺”這個缺陷。輿論焦點從關注“嚴禁使用人工智能等自動生成處方”規範互聯網醫療行爲的本意——監管線上診療的“懶惰”行爲,轉向探討智慧治療的安全性問題。這符合人們對新事物認知的規律,反映了當前我國AI+已經深入百姓生活,而人們對於這些問題的關注和討論也將進一步催生技術創新。
一直以來,醫療質量安全一直是衛生健康領域的“生命線”。在新技術應用層面,相關工作需通過充分討論、科學研判、試點推進、制度保障等步驟後才能開展;在具體的醫療系統臨牀應用前,也涉及項目立項、開展研究、臨牀驗證、許可使用、示範應用等諸多環節,以確保新技術、新系統的應用能夠安全、有效、成本可控,從而擔負起照護人民生命健康的使命。
具體到醫療AI,它在進入醫院爲診療服務“出謀劃策”前,已經經過了專業的“調教”和“歷練”。別看它和你手機裡的應用可能都叫一個名字,卻是不一樣的。正式用於醫院的醫療大模型,通常涉及醫療數據分析、影像識別、輔助診斷等功能,這類應用需要符合醫療行業的標準和規範,確保數據的安全性和準確性。而人們手機裡的大模型應用則更注重用戶體驗和便捷性,可成爲日常生活中如語音識別、日程管理、信息查詢等智能助手。
所以,千萬不要再帶着手機裡AI推薦的藥方去抓藥了!它沒有受過專業培訓,也沒有處方權,吃出問題來,它可不負責。