受圖靈獎得主、上海期智研究院院長姚期智先生邀請，諾貝爾物理學(xué)獎和圖靈獎得主、多倫多大學(xué)教授Geoffrey Hinton首次來到中國上海參加兩場AI領(lǐng)域國際重要會議：第四屆AI安全國際對話IDAIS(International Dialogues on AI Safety)和2025 WAIC(World Artificial Intelligence Conference)。與全球頂尖的人工智能 (AI) 科學(xué)家齊聚上海，共同圍繞未來人工智能系統(tǒng)可能超越人類智能水平帶來的失控風(fēng)險(xiǎn)，進(jìn)行了深入的交流與研討。繼7月22日至7月25日IDAIS高濃度思想碰撞后，7月26日下午，Geoffrey Hinton與姚期智在WAIC “人工智能發(fā)展與安全”全體會議中進(jìn)行了長達(dá)1小時的巔峰對話。他們重點(diǎn)圍繞人工智能與神經(jīng)科學(xué)、人工智能的“自我意識”、量子計(jì)算對人工智能發(fā)展的影響等前沿話題展開深度討論。

本段對話Geoffrey Hinton與姚期智討論：大語言模型真的理解自己說的話嗎？

Geoffrey Hinton說：“我曾第一次在和我女兒的爭論中輸給了她，那時她才 4 歲。她下樓來對我說：“爸爸，你知道嗎？鸚鵡會說話哦？”我說：“不，Emma，鸚鵡不會說話。它們只是能發(fā)出聽起來像說話的聲音，但那只是學(xué)舌，它們不明白那些聲音的含義?！彼f：“不，你錯了，爸爸。它們會說話?！庇谑俏艺f：“不，Emma，它們并不理解這些詞的意思。”她說：“會的。我剛看了一個節(jié)目，一個女士給鸚鵡看了一輛汽車，鸚鵡就說‘汽車’?！本瓦@樣，我在和我 4 歲女兒的爭論中輸了。而我覺得如今的語言學(xué)家在某種程度上也有點(diǎn)類似。

如果你真想把下一個詞預(yù)測好——尤其當(dāng)它是回答一個問題的第一個詞時——你就需要已經(jīng)理解了別人說的話。所以有趣且對我們大有幫助的一點(diǎn)是，僅僅通過努力預(yù)測下一個詞，如果你想把它做到極致，你就迫使系統(tǒng)去理解那個問題。”