作者:佩萨赫·本森和奥默·诺沃塞尔斯基 • 2026年11月5日
耶路撒冷,2026年11月5日(以色列新闻社 TPS-IL)——特拉维夫大学和斯坦福大学的研究人员已经证明,人工智能(AI)模型无需在现实世界数据上接受训练即可发展出通用学习能力。在高质量训练材料日益稀缺的背景下,这可能为人工智能的发展开辟一条新途径。
这些发现可能有助于解决该行业面临的最大制约之一:人类生成的训练数据供应问题。
“我们证明了一个模型可以在完全没有受过任何训练的情况下,稳步提升预测真实文本、图像、音频、音乐、DNA以及代码的能力,”约阿夫·莱文博士告诉以色列新闻社。该项研究已作为预印本发表在在线研究资料库arXiv上,目前尚未经过同行评议。
该研究由特拉维夫大学计算机科学与人工智能学院的莱文指导,作为克菲尔·多莱夫博士博士后工作的一部分开展,并与斯坦福大学研究人员合作完成。
常规的人工智能系统通过海量图书、网站、图像和录音进行学习,与此不同,这种新方法使用了两个从零开始并共同学习的网络。一个网络生成能产生符号序列的简短计算机程序,而另一个网络则学习预测下一个符号。第一个网络会收到关于其习题在多大程度上帮助第二个网络提高的反馈,从而逐步学会生成更有用的挑战。
“通常的假设是人工智能需要算力和数据。我们探索的是在没有数据、仅凭算力的情况下能走多远,”莱文告诉以色列新闻社。
他将这种方法比作AlphaZero,后者通过自我对弈而非研究人类棋局来学习国际象棋和围棋。研究人员发现,学习模型自身的进步可以作为成功的衡量标准,指导另一个网络生成日益有用的习题。
为了检验这些技能是否能迁移到人工训练之外,研究人员在从未遇到过的现实世界材料上评估了该模型。随着更多计算资源的投入,其在多个领域的预测能力均有所提升。它还可以在没有额外训练的情况下,从测试期间给出的示例中推导出规则。
研究人员还发现,该系统能自主生成数学结构,包括几何级数、类斐波那契模式以及二次和三次序列。莱文表示,从同一空间随机抽样的1.64亿个程序中没有出现过这些结构,这表明系统发现它们是因为它们有助于其学习伙伴做出更好的预测。
突破数据瓶颈
在数据稀缺或获取成本高昂的领域,该方法可以提供一种新的训练材料来源。
“当高质量数据成为瓶颈时——正如许多人预期的那样,人类生成的文本或代码会出现这种情况,而在数据稀缺或昂贵的领域更是如此——这一点至关重要,”莱文对以色列新闻社表示。
它还可以作为常规人工智能训练前的初步训练阶段。在实验中,研究人员发现接触过自生成习题的模型在获得现实世界数据时学习速度更快。
然而,该方法存在显著的局限性。这些实验所涉及的模型参数量少于2,500万,比当今最大的人工智能系统小10,000倍以上。研究结果在那种规模下是否依然成立仍是未知数。莱文表示,研究人员目前正在调查该方法是否可以扩展到大幅增加参数的模型。
自主学习也无法取代有关世界的客观事实知识。一个系统可以通过计算发现数学模式,但如果不进行观察,它就无法自主确定历史事实或了解物理现实。
“自我对弈教授的是通用结构,即跨越多种数据的共有模式,而不是关于我们世界的事实,比如谁写了《哈姆雷特》,”莱文告诉以色列新闻社。“那些仍然必须来自真实数据,因此在这些方面,它是补充人类数据而不是取代它。”
研究人员还解决了人工智能系统重复并放大自身错误的风险。
“我们的学习器是根据程序实际运行时的输出进行训练的。数据正是每个程序所计算出的内容,因此不存在会强化的幻觉,”莱文对以色列新闻社解释道。“我们确实面临的风险是编写程序的网络陷入狭隘的利基市场、遗忘早先发现的内容,或者刷取奖励。我们通过奖励真实的学习进步、保留多样化程序档案、回放早先程序以防遗忘,以及使生成器保持在接近程序的简单初始分布上来防范这些风险。”
莱文表示,下一个重要里程碑将是证明该方法适用于拥有数十亿参数的模型,并证明自生成训练能够取代可计量数量的常规训练数据。最终,研究人员希望确定一个人工智能模型在耗尽其可用的现实世界训练材料后,是否仍能通过自我对弈继续提高。