副市長是誰? 高市AI客服亂答
去年臺風接連來襲,高雄市政府1999專線幾乎被打爆,市府開發AI智能客服系統分擔專線負荷,3月底測試,但議員昨質詢時指系統回答連連出錯,實測問副市長是誰?AI竟答成前副市長「李四川」,許多資訊錯誤、過時。市府指將持續精進AI模型,並充實資料庫。
議員張博洋質詢指出,去年臺風接二連三,1999專線被打爆,後來市府開發AI智能客服系統分擔負荷,實測卻發現「狀況滿多的」。
他舉例,問了「高雄副市長是誰」,沒想到智能客服竟回答「李四川」,李是韓國瑜當市長時的副市長,官方資料註記2014年,讓他聽了哭笑不得。另問高雄近期辦什麼活動,AI也亂抓資訊回答。最嚴重的是,問如何辦理低收入戶登記,竟答不出來,連區公所地址都答錯。智能系統還暴露使用者的姓名、手機,資安堪慮。
張博洋認爲,AI智能客服系統主要透過資訊整合提供局處資訊,應改善搜尋單一網站內容的限制,除資料庫應即時滾動更新,也應兼顧資料正確、好找、個資不外泄。
研考會主委陳博洲迴應,會揪出AI智能客服系統遇到的問題,持續精進AI模型,提升回答品質,並建立保護機制,避免民衆個資外泄。