被業(yè)界稱為“AI教父”的辛頓26日現(xiàn)身在上海舉辦的2025世界人工智能大會(WAIC)。

在當(dāng)日的主題演講及對話中，這位諾獎、圖靈獎得主，重點談及人工智能安全問題，并呼吁不同國家應(yīng)在人工智能治理上進(jìn)行合作，探索訓(xùn)練AI向善的方法。

人類與人工智能的關(guān)系一直是公眾關(guān)心的話題。辛頓在演講中將這一關(guān)系形容為“養(yǎng)小老虎當(dāng)寵物”。

“有人把老虎當(dāng)寵物，小虎崽是很可愛的寵物。一般來說，養(yǎng)老虎當(dāng)寵物不是個好主意。但如果要一直養(yǎng)著它，只有兩個選擇：想辦法訓(xùn)練它讓它永遠(yuǎn)不想吃了你，或者擺脫它。”

辛頓認(rèn)為，對于AI，我們沒有擺脫它的選項，AI對醫(yī)療保健、教育、氣候變化、新材料等太多事情都非常有用，能為幾乎所有行業(yè)提供幫助并使人類更具生產(chǎn)力。

在當(dāng)日與上海人工智能實驗室主任周伯文的對話中，辛頓進(jìn)一步表示：“當(dāng)今的多模態(tài)聊天機(jī)器人已經(jīng)具有意識。”

辛頓認(rèn)為，人類正在創(chuàng)造的AI智能體已經(jīng)具備創(chuàng)造自己子目標(biāo)的能力。而一旦擁有創(chuàng)造子目標(biāo)的能力，智能體就會想做兩件事：一是生存，僅僅是為了能夠?qū)崿F(xiàn)我們賦予它們的目標(biāo)；二是更多的控制權(quán)，也僅僅是為了能夠?qū)崿F(xiàn)我們賦予它們的目標(biāo)。

因此，如果人類想要生存，就必須找到辦法訓(xùn)練AI向善。

辛頓建議建立一個由AI安全機(jī)構(gòu)構(gòu)成的國際社群，致力于研發(fā)訓(xùn)練AI向善的技術(shù)。

他認(rèn)為，實現(xiàn)訓(xùn)練AI向善所需的技術(shù)與訓(xùn)練AI變得更聰明的技術(shù)，在某種程度上是分離的，讓一個真正聰明的AI不想接管世界，即使它比大多數(shù)人聰明得多，也非常樂意處于人類的輔助角色。

辛頓認(rèn)為，未來會有某種通用的AI訓(xùn)練方法，來使AI變得善良。“這可能并不真實，但我們應(yīng)該探索這種可能性。”

“我們目前不知道如何做到這一點，長遠(yuǎn)來看，這是人類面臨的最重要的問題。好消息是，在這個問題上，所有國家都可以一起合作。”辛頓說。

關(guān)鍵詞：