Background Color

WAIC 2026|诠信全译亮相WAIC AI 魔盒舞台

诠信全译首席科学家张拳石在 2026 世界人工智能大会AI 魔盒舞台发表了主题演讲,提出从交互机理出发,推动大模型训练从黑盒试错走向可监测、可诊断、可优化的新路径。

View the full video

Background Color

WAIC 2026|诠信全译亮相WAIC AI 魔盒舞台

诠信全译首席科学家张拳石在 2026 世界人工智能大会AI 魔盒舞台发表了主题演讲,提出从交互机理出发,推动大模型训练从黑盒试错走向可监测、可诊断、可优化的新路径。

View the full video

Background Color

WAIC 2026|诠信全译亮相WAIC AI 魔盒舞台

诠信全译首席科学家张拳石在 2026 世界人工智能大会AI 魔盒舞台发表了主题演讲,提出从交互机理出发,推动大模型训练从黑盒试错走向可监测、可诊断、可优化的新路径。

View the full video

Background Color

WAIC 2026|诠信全译亮相WAIC AI 魔盒舞台

诠信全译首席科学家张拳石在 2026 世界人工智能大会AI 魔盒舞台发表了主题演讲,提出从交互机理出发,推动大模型训练从黑盒试错走向可监测、可诊断、可优化的新路径。

View the full video

2026年7月19日上午,上海交通大学长聘副教授、诠信全译首席科学家张拳石在 2026 世界人工智能大会(WAIC)AI 魔盒舞台发表了主题演讲《从“资源堆砌”到“机理对齐驱动”:破局大模型自我进化效率瓶颈》。演讲从大模型内部交互机理出发,揭示“可信危机”与“效率困境”的共同根源,并通过对Qwen、DeepSeek、LLaMA、Gemma等多款前沿开源模型的分析,提出以机理共识识别可泛化知识、减少噪声表征,推动大模型训练从黑盒试错走向可监测、可诊断、可优化的新路径。

更多数据、更强算力,真的都转化成了模型能力吗?

过去几年,大模型能力的提升,很大程度上依赖Scaling Law:增加模型参数、扩大训练数据、投入更多算力。

但资源投入不断增长,并不意味着模型学到的每一项表征都真实有效。一方面,在法律、金融、自动驾驶等高风险场景中,模型即使给出了正确答案,也可能依赖错误主体、无关信息或偶然相关性。一旦输入环境变化,这种“碰巧答对”就可能迅速失效。另一方面,由于训练过程无法直接判断模型内部究竟学到了什么,大量算力可能被用于反复拟合不可迁移、不可泛化的噪声。

张拳石教授在演讲中指出:大模型的“可信危机”与“效率困境”看似是两个问题,本质上却指向同一个根源——我们仍缺少对模型内部表征机理的根本性理解。当我们只能看到模型最终“答得对不对”,却看不到它“为什么这样回答”,模型训练就很难摆脱经验驱动的黑盒试错。

三个反直觉发现,重新理解大模型训练

//发现一:大模型内部机理,可以被严格解构和验证

大模型是否只能作为一个不可理解的黑盒存在?张拳石教授团队的研究发现,神经网络复杂的决策逻辑,可以被严格解构为少量具有明确数值效用的交互机理。所谓交互机理可以理解为:模型输入中的若干词语、事实或特征组合在一起,对模型最终输出产生了多大的正向或负向作用。

研究证明,大模型的输出置信度,可以表示为一组稀疏交互机理数值效用的总和。无论如何遮挡输入信息,基于交互概念构建的符号逻辑模型,都能够拟合神经网络在对应输入条件下的输出。这意味着,大模型内部的复杂决策逻辑并非完全不可分析,而是可以被:提取、量化、解释和验证。大模型内部是否存在类似人类符号认知的精细逻辑,也由此从抽象猜想,转变为可以进行数学研究和工程检测的问题。

//发现二:不同的前沿大模型,正在学习相似的底层机理

Qwen、DeepSeek、LLaMA、Gemma等大模型,采用不同的架构、训练数据和训练路径。它们内部学到的知识是否也完全不同?张拳石教授团队对多款前沿模型进行机理分析后发现,不同大模型内部存在大量相似的“公共交互机理”。

研究结果显示,在多款前沿模型的输出中,约有三分之二至五分之四的数值效用来源于公共交互。这意味着,大模型训练并非完全随机和无序。不同模型虽然走过不同的训练路径,却可能逐渐形成相似的底层知识结构。被多款模型共同学习、反复验证的机理,更有可能代表稳定、有效且能够泛化的知识。这一发现也为模型优化提出了新的方向:与其只根据单次输出不断惩罚错误,不如寻找不同模型之间稳定存在的机理共识。

//发现三:模型独有的复杂表征,可能只是噪声

与公共交互相比,不同模型各自独有的机理被称为“特异交互”。研究发现,公共交互通常数量较少,但作用显著,能够明确支持模型的目标输出。特异交互则往往数量庞大,但单个作用并不明显,并呈现大量正负效用相互抵消的现象。从统计特征来看,这些交互与随机噪声具有相似的结构。换句话说:模型内部看似丰富、复杂的表征,并不一定代表更强的能力,也可能只是对训练样本的过度拟合。传统方法通常只能通过训练集与测试集的性能差距判断模型是否过拟合。而从机理层面分析,可以进一步识别:模型到底学习了多少可泛化知识,又积累了多少不可迁移的噪声表征。

我们该如何优化大模型?惩罚每一个输出错误? or 找到模型间的共识?

如果传统指标只能观察模型的外部表现,那么交互机理分析更像是在训练过程中,为模型持续进行“机理CT”。它不仅关注模型的损失值是否下降,还能够进一步分析:

  • 哪些训练数据真正带来了可泛化知识;

  • 模型何时从有效学习转向过拟合;

  • 哪个模型版本的内部机理更加健康;

  • 哪些表征需要保留,哪些噪声需要削弱。

张教授演讲分享中提到,在训练前期,模型通常会逐渐去除部分噪声交互,学习更多可泛化的有效机理;但进入训练后期后,模型可能重新开始学习不可泛化的噪声表征。通过持续监测交互机理的泛化性变化,企业可以更早识别潜在的过拟合时点,为数据筛选、训练早停和模型版本选择提供依据。

相关研究结果显示,基于机理变化识别训练窗口,有望降低超过30%的训练成本。由此,大模型训练可以从高度依赖经验的黑盒试错,逐步转变为一个:可监测、可诊断、可优化、可复检的工程过程。

从“资源堆砌”,走向“机理对齐驱动”

过去,大模型竞争主要围绕参数规模、数据体量和算力投入展开。但当资源投入的边际收益逐渐降低,下一阶段的竞争关键,将不只是“投入了多少资源”,更在于模型是否真正学到了可靠、简洁且能够泛化的底层机理。

以机理共识为方向,强化可泛化的公共交互,识别并削弱不可泛化的噪声交互,有望同时提升模型的训练效率、泛化能力与安全可信水平。诠信全译基于原创等效交互机理技术,推动大模型从“机理解释”进一步走向“机理审计”,并服务于模型安全增强与训练效能提升。

从资源堆砌到机理对齐,不只是一次训练方法的优化,更意味着大模型发展范式的转变:让每一份数据、每一次训练和每一单位算力,都真正转化为可信、可泛化的模型能力。

BLOGS

Discover More

Interested in our latest developments? Click to explore more AI industry insights and company updates.

BLOGS

Discover More

Interested in our latest developments? Click to explore more AI industry insights and company updates.

BLOGS

Discover More

Interested in our latest developments? Click to explore more AI industry insights and company updates.

Corporate Logo
Corporate Logo

Demystifying AI, Defining Trust.

Official WeChat

Contact

Business: contact@symtrustai.com

Product: product@symtrustai.com

Support: support@symtrustai.com

Address: Room 3309, Building 3, NeoBay, No. 951 Jianchuan Rd, Minhang District, Shanghai

©SymtrustAI Co., Ltd. 2026 All Rights Reserved

ICP No. 2026002871-1

Public Security No. 31011202022067

Corporate Logo
Corporate Logo

Demystifying AI, Defining Trust.

Official WeChat

Contact

Business: contact@symtrustai.com

Product: product@symtrustai.com

Support: support@symtrustai.com

Address: Room 3309, Building 3, NeoBay, No. 951 Jianchuan Rd, Minhang District, Shanghai

©SymtrustAI Co., Ltd. 2026 All Rights Reserved

ICP No. 2026002871-1

Public Security No. 31011202022067

Corporate Logo
Corporate Logo

Demystifying AI, Defining Trust.

Official WeChat

Contact

Business: contact@symtrustai.com

Product: product@symtrustai.com

Support: support@symtrustai.com

Address: Room 3309, Building 3, NeoBay, No. 951 Jianchuan Rd, Minhang District, Shanghai

©SymtrustAI Co., Ltd. 2026 All Rights Reserved

ICP No. 2026002871-1

Public Security No. 31011202022067

Corporate Logo
Corporate Logo

Demystifying AI, Defining Trust.

Official WeChat

Contact

Business: contact@symtrustai.com

Product: product@symtrustai.com

Support: support@symtrustai.com

Address: Room 3309, Building 3, NeoBay, No. 951 Jianchuan Rd, Minhang District, Shanghai

©SymtrustAI Co., Ltd. 2026 All Rights Reserved

ICP No. 2026002871-1

Public Security No. 31011202022067