“AI教父”辛頓與姚期智對話：訓練AI比自己養孩子還難

21世紀經濟報道記者章馳 上海報道

7月26日，2025世界人工智能大會暨人工智能全球治理高級別會議在上海舉辦。諾貝爾獎、圖靈獎得主傑弗裡·辛頓（Geoffrey Hinton）和圖靈獎得主、中國科學院院士姚期智在人工智能發展與安全全體會議上進行了一場巔峰對話。

辛頓表示，AI最爲嚴重的尚未解決的問題是怎麼訓練AI使它成爲善意的AI。

“訓練AI比自己養孩子還難，自己養孩子的時候可以告訴子女應該怎麼做，可以獎勵或懲罰，或者向子女展示好的範例。我們應該做的就是去養育AI，用非常精細調整過的數據去養育AI，讓AI學習好的行爲。”辛頓指出。

姚期智表示，訓練AI讓它變得完全善意，現在確實不知道該怎麼去達成，甚至可能根本做不到。善意是受到環境影響的，在不好的環境下，也就很難成爲一個好人，應該考慮所有的可能性，不管是正面還是負面。

他比喻訓練AI就像養孩子，“如果出生在富有的家庭，很好的社區，就會成爲一個紳士。但是在極大壓力下，AI也會變得很冷血，做出不好的事情。最理想的方法是，我們生活的世界裡善意能夠戰勝邪惡，沒有人需要在極大的壓力下做事，那時候再去訓練AI，就會得到想要的結果。如果我們本身沒有能力去創造出這樣的環境，我們無法確保不會創造出惡意的機器人。”

最後，姚期智提醒大家，當科技進一步發展，機器人會接管整個世界，這讓我們知道人類本身也具有侷限性。宇宙整體並不是善意的，人類要珍惜現在的發展，珍惜過去幾百年沉澱下來的智慧。