丁寧：大模型的關鍵突破是“預訓練”，效果超出想象
2023-08-26 22:08:46 來源：睿見Economy
(資料圖)
2023年亞布力論壇夏季高峰會于8月24日-27日在深圳召開。深圳市人工智能與機器人研究院常務副院長丁寧出席并演講。
丁寧坦言，“大模型讓人印象非常深刻”。在其看來，大模型的關鍵突破是“預訓練的步驟”。
他解釋說，以前機器學習是就問題本身學習相關數據，而“預訓練”是先不學某個具體的問題，而是所有知識都要了解——構建一種世界的常識體系，把人的認知體系，包括物理和邏輯關系都搞清楚了，再來說解決具體問題，“它的效果一下子超出人的想象”。
“這是大模型里面的一個比較關鍵的問題，通過預訓練方法把常識體系構建起來”，他說。
新浪聲明：所有會議實錄均為現場速記整理，未經演講者審閱，新浪網登載此文出于傳遞更多信息之目的，并不意味著贊同其觀點或證實其描述。
關鍵詞：
相關文章
精彩推送
