他表示，AI的发展速度很快，但现在多数人犯的一个大错误是只考虑当前的AI，但实际应该思考的是它在未来三年、五年、十年后会发展到什么程度。
“趋势是非常明确的，能力在不断提升。”过去一年，由于推理模型的发展，这些模型实现了更好的推理，在数学、计算机科学等领域都取得了更好的成果。
同时，AI也具备了更强的自主性，其不仅在聊天机器人方面，还在编程、控制计算机和电器、互联网搜索、数据库搜索等方面的能力提升。
“AI可以完成任务的所需时间是每七个月翻一番，如果沿着这条曲线推算，大约五年后将达到人类水平。”本吉奥表示，在这种趋势下要考虑可能面临的后果。
他提到，过去的六个月里，AI显示出自我保护行为，以及欺骗、撒谎和作弊行为。比如Anthropic的最新大模型发现工程师有婚外情，并试图威胁揭露这段婚外情来勒索工程师。
页码:上一页
