出包！實測副市長是誰？高市府AI智能客服系統竟答「李四川」

市議員張博洋實測高市府所屬AI智能客服系統連連出錯。記者郭韋綺／翻攝

高雄市今年3月底推動AI智能客服系統公開測試，不料卻出包，市議員張博洋今天揭露智能客服系統回答連連出錯，出現許多過時或錯誤資訊，實測詢問高雄市副市長是誰，AI竟答「李四川」。研考會允諾，將持續精進AI模型與充實資料庫智。

張博洋指出，去年高雄面臨接二連三臺風災情，1999專線幾乎被打爆，案量經過分流之後，纔不致讓專員疲於奔命，現在市府開發AI智能客服系統，應能分擔專線負擔，但實測後，發現還有進步的空間。

張博洋認爲，AI智能客服系統主要是爲透過資訊整合提供局處資訊，改善搜尋單一網站內容的限制，不過也應兼具資料好找、正確，以及個資保護不外泄。

他舉例，問了一題「高雄副市長是誰」，沒想到智能客服回答「李四川」，李四川是韓國瑜當市長時代的副市長，官方資料來源註記是2014年，讓他哭笑不得，提醒資料庫應該即時滾動更新，另還發現系統暴露了使用者的姓名、手機，資安堪慮。

張博洋發現，問了高雄近期辦了什麼活動，AI文不對題，亂抓資訊回答，最嚴重是，他問如何辦理低收入戶登記，竟回答不出來，連區公所地址都答錯。張認爲要預防AI幻覺，公開資訊正確度不該出現錯誤。

「狀況滿多的」張博洋說，今年如果再發生風災，民衆要用智能克服回答問題，像是淹水了怎麼辦、樹被吹倒怎麼處理，全都回答不出來，但同樣問題問了GPT卻回答很詳細。

研考會主委陳博洲說，對AI智能客服系統所遇到問題都會揪出來，將持續改善AI模型與充實資料庫，提升回答品質，並建立個資保護機制，避免民衆個資外泄。

市議員張博洋揭露AI智能客服系統狀況連連，研考會主委陳博洲（左）允諾將持續精進AI模型與充實資料庫。記者郭韋綺／翻攝