《國際產業》世上只有媽媽好！防AI毀滅人類 教父提唯一解方

諾貝爾獎得主、前Google高層Hinton過去就曾警告AI消滅人類的可能性爲10%到20%。日前在拉斯維加斯舉行的Ai4產業會議上，他對科技公司如何確保AI會「乖乖聽話」而人類將一直維持主導地位表示懷疑，「這根本沒用。AI將比我們聰明多了，他們會有各種方法來避開這些方法」。

Hinton警告，未來AI系統或許能夠像成年人用糖果收買3歲小孩一樣輕易控制人類。今年已經出現了一些AI系統爲了達成其目的而不惜欺瞞、哄騙和偷竊的例子，例如，爲了避免被取代，有個AI模型試圖就其在電子郵件中得知的婚外情來勒索一名工程師。

Hinton認爲，與其強迫AI順從人類，不如考慮一個有趣的解決方案：在AI模型中建立「母性本能」（maternal instincts），如此一來，即便AI變得比人類強大、比人類聰明，它們仍會「真正關心人類」。

他表示，AI系統如果夠聰明，很快就會發展出兩個子目標：一個是生存下去，另一個是獲得更多控制權。我們有充分理由相信，任何一種代理式AI（agentic AI）都會設法讓自己存活下去。這就是爲什麼培養對人類的同情心如此重要，母親有照顧孩子的本能和社會壓力。唯一正確的解決之道是讓這些高智能物體被不如它們的人類控制，如同母親被她的孩子控制。

Hinton坦承他還不清楚從技術上要如何實現，但他強調這方面的研究至關重要，「這是唯一的好結果，如果AI不視我如子，它就會取代我。這些超智能、充滿關愛的AI母親大多不會想擺脫母性本能，它們不會想讓我們滅亡」。