當今人工智能發展正面臨重大轉折點，數據資源有限成為關鍵挑戰，OpenAI聯合創始人 Ilya Sutskever 在 NeurIPS 大會上指出，目前廣泛使用的預訓練模式將會結束，因為互聯網上可用的訓練數據已達到頂峰。他將這種情況比喻為化石燃料，就像石油是有限資源一樣，人類生成的網路內容同樣存在上限。
新一代AI將具備真正代理能力
Sutskever預測，未來人工智能系統將與現今模型有質的區別，AI系統將成為真正的代理系統，而不是現在”非常輕微代理”的形式。它們將具備獨立推理能力，能夠從有限數據中理解事物，展現出更接近人類思維特質。
推理能力帶來不可預測性
隨著AI系統推理能力提升，其行為將變得更難預測。Sutskever以高級人工智能下棋為例，即便最優秀的人類棋手也無法預測系統行動，這種不可預測性源於系統能夠進行真正推理，而不僅僅是簡單模式匹配。
進化生物學的啟示
在演講中，Sutskever將AI系統的發展與生物進化進行比較，特別提到了不同物種大腦與體重關係的研究。他指出，就像人類大腦找到了新的擴展模式一樣，人工智能也可能會發現突破現有預訓練方式的新路徑。
安全性與共存問題
關於AI的未來發展，Sutskever強調了安全的重要性，他在離開OpenAI後創立了專注於通用人工智能安全的實驗室Safe Superintelligence (SSI)。針對AI與人類共存的問題，他採取了謹慎的態度，認為這需要深入思考和適當的管理架構。
未來發展方向
展望未來，Sutskever認為人工智能的構建方式將發生根本性改變，改變不僅體現在技術層面，還包括如何確保AI系統能夠安全、有效地服務人類社會。這需要研究人員、政府和整個社會的共同努力與深入思考。
參考來源：https://x.com/AILeaksAndNews/status/1867728471033774469
