輝達與Google混血的AI新創 靠兩大優勢解決企業痛點

人工智慧（AI）產業急速發展。（示意圖／Shutterstock)

根據《財訊》雙週刊報導，2023年生成式AI全面爆發，語音AI工具如雨後春筍般涌現，但各種大語言模型的「幻覺」問題，一直是在企業落地最大的痛點，成立8年的亞太智能機器（APMIC），正企圖靠繁體中文技術與標準化流程雙重優勢打通任督二脈。

所謂的AI幻覺，是指模型生成的內容與事實有爭議，或者邏輯不符甚至捏造不存在的信息，APMIC創辦人暨執行長吳柏翰指出，大型語言模型的「幻覺」問題至今仍無法徹底解決，因爲模型即便回答錯誤，也不會自我修正，導致應用可靠度受限，這直接推動了兩大新趨勢：1，從雲端模型轉向地端模型，以強化資料安全與控制力。2，大型語言模型往小型語言模型發展，提高精準度與應用落地性。

吳柏翰點出，APMIC將模型導入地端，正是爲了迴應企業實際需求，根據UBS調查發現，這些企業普遍面臨以下挑戰：1，需要小模型才能完成任務，若硬依賴大模型，成本過高且難以落地。2，大模型功能過於龐雜，企業頻繁進行POC，卻發現ROI（投資報酬率）低於預期。3，算力建置成本高昂，即便搭載H100 GPU的伺服器，也要動輒上千萬元。4，企業知識須大量微調才能適用，導入門檻高。5，缺乏AI主導權，即便投資硬體，也不清楚如何有效運用GPU伺服器。

由於APMIC是臺灣少數長期自主建構繁體中文大型語言模型的公司，吳柏翰坦言，今年會是公司成立以來的最大轉捩點，目前以自主研發的繁體中文大型語言模型爲基礎，這樣的模型也被稱爲主權AI，下一步要做的是產業模型與企業模型，已經斥資千萬元導入Blackwell架構B200 GPU，推出全新「PrivModel微調與蒸餾」服務方案。

根據輝達最新的調查顯示，70%的AI助理都需要透過微調也就是小型語言模型纔可以有效優化。這也就是爲什麼，APMIC積極開始轉向小型語言模型發展，這當中發現「標準」很重要。吳柏翰直言，現在所有的AI的標準都是AGI(生成式AI)的標準，但企業需要企業自己的標準。

《財訊》雙週刊指出，爲了強化模型的可靠度，APMIC採取了一條與衆不同的路徑：讓自家AI 模型通過40多種專業憑證。以金融業爲例，模型必須符合至少 32 種證照標準，製造業也有多項相關規範。吳柏翰解釋：「我們的 AI 模型會先通過繁體中文語言的標準測驗，再通過各產業專業證照的驗證，最後才交由客戶進行企業微調。」

文章來源：財訊雙週刊