在技术先驱们针对某一理论满怀痴迷之情，进而将其施行于实践之际，此事常常预示着一个时代的起始，然而，它也极有可能暗藏着尚未被察觉到的局限。
Scaling Law的早期信仰
伊利亚·苏茨克维早在学生期间的时候就已经坚信缩放定律的潜力，他不但热心地向身边的人去推广这个理念，还将它当作核心思想带进了开放人工智能的创立以及发展当中，在那个时期，大多数的研究者还在探寻其他门道，伊利亚具有前瞻性的坚持为后来的大模型进步奠定了关键基础。
这种初期的信仰绝非是空想，他察觉到，伴随模型参数、训练数据以及计算资源规模的增大，模型性能会展现出能够预测的提升规律 ，这种直觉随后被OpenAI的一系列实践给证实了，从GPT -1到GPT -3的演变，清楚地呈现出规模扩大的直接效益 。
直觉与工程实践的融合
Ilya的导师Geoffrey Hinton曾极为高度地评价他“具备惊人的直觉”，这种直觉在Scaling Law的预判方面表现得格外突出，Hinton在回顾早期AI程序之际指出，那时研究者并不担忧数据匮乏，原因是系统能够通过自我对弈生成所需数据。
这一思路，为后来的突破，指明了方向，它把研究重点，从单纯依赖人类标注数据，转向了探索AI自我创造数据的能力，AlphaGo和AlphaZero的成功，便是例证，它们通过自我博弈，在复杂游戏中，达到了超越人类的水平。
突破数据瓶颈的共识
有着相似结论的是，DeepMind的Demis Hassabis得自工程实践，他瞅见在特定任务方面，借助规模化自动生成数据与自我进化，AI能够迅速把人类给超值超越，AlphaZero仅仅依靠自我对弈，在24小时之内就成了顶级国际象棋程序。
这揭示出了一个关键的共识，即Scaling Law的核心挑战系于数据瓶颈之处。Hassabis与Ilya均觉得，解决问题的关键并非对Scaling Law予以否定，而是怎样依靠AI自行生成高质量的数据，用以满足规模持续扩展的需求。
概念溯源与行业争论
当Scaling Law概念经由OpenAI予以广泛传播之后，人们发觉其思想早就存有雏形迹象了。有一位Meta的研究员表明，百度在2017年所撰写的论文里已然探讨过类似的规律情形，只不过未曾进行正式的命名罢了。OpenAI也曾引用早期的相关研究用以佐证自身的观点主张，如此这般便引发了有关理论原创性方面的讨论话题。
与此同时，行业内部的分歧渐渐开始呈现出来了。Yann LeCun等人公然质疑仅仅依靠扩大语言模型的规模是不是能够达成通用人工智能。他转而创办公司，专心致力于研究世界模型这一不一样的途径，从而形成了与大模型路线截然不同的鲜明对比。
Ilya的新思考与方向转变
从OpenAI离开之后，Ilya创立了新的公司，并且开始深度思考一个根本的问题，即“我们在Scaling什么？”，这显示出他的关注重点，已经从单纯的规模方面的扩张，转变为对于规模扩张事物以及质量的思索，他开始着重强调Scaling Law自身正在产生变化。
他持有这样的看法，虽Scaling Law往昔被证实是有效的，然而其将来能不能充分支撑AGI的发展是要打个问号的。这样的公开反思表明他从单纯的理论信奉之人，转变成了更为审慎的实践探索者，开始寻觅现有范式以外的解决办法。
表面分歧下的深层共识
看起来，硅谷那些领袖人物对于Scaling Law的态度就好像呈现出两极分化的局面，其中有一派始终坚持进行扩展，而另一派则在寻觅新的道路。然而，当去仔细审视那些顶尖研究者的具体所说言论时，就会发觉存在着惊人的共识：几乎没有谁会觉得超级人工智能是那种永远都不可能实现的如同空中楼阁一般的事物。
实际争论的焦点在于，突破会怎样发生，以及何时会到来。是顺着现有的Scaling Law路径持续改进，还是要有全新的范式革命呢？这种对终极目标的一致认可，恰恰表明了当前讨论的深度与价值之处，它促使整个领域持续向前探索。
在你看来，其对于AI朝后续阶段发展进程里的下一个起着决定性作用的关键突破点而言，究竟是更倾向于源自针对当下所存在的Scaling Law路线展开那种达到极致程度的优化举措呢，还是会源自一条全新的、以当前形势我们根本还未曾想象出来的技术范式方向呢？欢迎于评论区域之内分享你对于此的见解，要是你感觉这篇文章能够给你带来启发的话，请给予点赞予以支持。
