大模型遭遇天花板?智谱AI CEO张鹏揭秘AI新突破,智能体AutoGLM升级引爆热议  第1张

科技领域对大模型的发展持续关注,但目前ScalingLaw(尺度定律)面临挑战,成为行业发展的难点。在语言能力方面,大模型似乎已触及顶峰,接近人类或专家的评价上限,这对整个行业产生了深远影响。

大模型发展阶段

大模型的发展分为五个级别,从L1至L5。在L1阶段,AI的语言技能开始显现,能够运用语言并在多数自然语言任务中超越图灵测试,成为AI成长的关键里程碑。进入L2阶段,AI展现出与人类相当的问题解决能力,掌握了求解问题的技巧,并涌现出对世界知识的理解和类似人类的复杂逻辑推理能力,同样是在问题解决上突破图灵测试的关键时期。

不同阶段展示了大模型能力的逐步增强,各阶段之间呈现出递进关系。这些阶段总结了大模型从基础语言掌握到复杂逻辑求解能力的发展历程,为理解大模型能力的演变提供了明确框架。

李彦宏的观点

李彦宏,作为百度的CEO,对大模型持有独到观点。他强调,应聚焦于应用创新而非模型竞赛,并警惕陷入“超级应用”的误区。在他看来,那些功能强大的应用比单纯追求日活跃用户的“超级应用”更具价值。此外,他还指出,智能体将是百度最看好的AI应用发展方向。

李彦宏意识到在大模型发展中存在过分关注模型本身而忽视应用端的倾向。他旨在促使业界更加重视应用开发,确保大模型的研究成果能够高效地转化为实际可用的产品和服务。此举旨在加速人工智能技术在现实场景中的应用落地。

行业的共识与挑战

行业普遍秉持“强者为尊”的理念,然而近期关于ScalingLaw增速放缓的观点逐渐成为主流。在乌镇举办的互联网盛会上,360的创始人周鸿祎在接受采访时表达,对于OpenAI构建超级通用大模型的可行性持有质疑态度。

人类训练所需数据资源接近枯竭,Scalinglaw面临重大障碍。当规模达到一定阶段,提升算力可能无法彻底解决问题。关键问题在于数据质量不足,这已成为整个行业共同面对的难题。

张鹏的回应

张鹏,智谱公司针对AGI领域的研究者,指出Scaling现象虽普遍,但其核心在于计算量的扩展。例如,扩散模型、Dit和强化学习等多种技术路径均导致计算需求上升。针对ScalingLaw遭遇的瓶颈,张鹏认为,通过公开讨论和积极应对,问题可以得到有效解决。

在AutoGLM的内测阶段,他提出观点,指出不应仅限于激烈竞争,而应探索新的可能性。这种乐观的立场为应对行业挑战提供了新的思考路径,同时也是在逆境中对寻求新道路的强烈倡导。

数据与算法的关键作用

周鸿祎指出,高质量数据的不足是一个问题,张鹏则强调优秀的算法可以挖掘出Scaling的巨大潜力。在当前的环境下,数据与算法的重要性日益凸显。若缺乏高质量数据,大型模型将难以实现高效的性能提升。

同时,优秀的算法有助于模型不断进步。这两个方面相互促进。为了打破行业瓶颈,无论是获取高质量数据,还是对算法进行改进,都是亟需深入研究的领域。

对行业发展的展望

当前,尽管大模型领域在遵循ScalingLaw时遭遇了瓶颈,但前景并非一片黯淡。张鹏的团队持积极态度,坚信通过Scaling仍有潜力攻克技术难关。众多从业者对如何运用现有资源突破难关的深入思考,成为了推动行业持续发展的关键力量。

当前ScalingLaw面临挑战,我们不禁思考:企业将如何探索独特的突破方向?欢迎在评论区留言交流,同时期待您的点赞与文章分享。