让AI不靠“刷题训练”,而是像科学家一样“手写”模型
- 2026-11-20 14:57:46
让AI不靠“刷题训练”,而是像科学家一样“手写”模型科学不只想知道“答案是什么”,还想知道“为什么”。天气预报如果能猜中明天下雨,却说不出冷暖空气如何交汇,它仍然不是一个好理论。今天的神经网络也有类似尴尬:它们在神经科学里能相当准确地预测大脑活动,却很难说清究竟是图像的哪些特征、声音的哪些成分在驱动预测。预测很准,解释很弱。
这篇论文提出了一种叫“可解释权重空间编程”的方法,简称 iWSP。它的核心思想可以用一个类比理解:传统深度学习像把一堆零件扔进机器里反复训练,最后得到一台能工作但内部缠成一团的机器;iWSP 则要求一个大型语言模型智能体像工程师或科学家那样,直接在代码里“手写”每个连接强度和计算规则,不许通过反向传播训练。它不能靠刷题调参,只能靠已有知识、推理和一次次试验,写出人能看懂的“透明电路”。
不让AI训练,反而逼它解释
iWSP 的流程像一个“猜想—实验—修正”的科学循环。研究者给智能体一个任务和一套固定评分器,禁止它使用优化器、训练循环或预训练权重。智能体要直接写出模型权重和特征计算代码,然后看评分,再修改。每次修改都被要求是可解释的,并伴随文字说明。之后还有“审计员”检查它有没有偷偷训练、有没有违规、修改是否真的可读。最后,模型还要在从未见过的隐藏数据上考试。
更有意思的是“文字瓶颈测试”:让另一个语言模型用不超过两百字描述这个模型,再让一个全新会话只凭这段描述重建模型。如果重建出来的模型性能接近原版,说明原模型真的能用人类语言讲清楚。这类似论文的“方法部分能否让别人复现实验”,也是可解释性的硬检验。
把算法翻译成透明电路
在算术和自然语言任务上,iWSP 写出了小型 transformer。它不是训练出来的,而是把人类已知算法翻译成网络结构。例如求最大公约数,模型利用“两个数的公约数在相减后仍不变”的性质,反复做减法,像一台简化版的欧几里得机器。编辑距离被写成逐行填表的动态规划,乘法被拆成移位后的部分积相加。情感分类则像一套粗糙但可读的规则:先查一组词的模式,遇到否定词就把后面的正面证据翻转,最后把证据加总判断正负。
结果显示,在十多个算法任务上,模型在隐藏测试中几乎全部答对;在四个自然语言任务中,三个表现不错,但转述判断失败。模型还会在准确后继续“瘦身”,把参数压缩得更小。更强的语言模型更擅长找到小而准的模型。局限也很清楚:测试全对不代表对所有输入都对,它可能只覆盖了任务规定的范围。
给大脑活动写“特征食谱”
在视觉皮层研究中,传统深度编码模型预测准但特征难懂;经典可解释模型好懂但预测弱。iWSP 让智能体从图像中手工设计可命名特征,比如多尺度边缘滤波、颜色对比、表面几何、轮廓弯曲和特征共现,再用一个简单的线性读出预测脑活动。它像先设计一套透明的“测量工具”,再校准到每个受试者。结果,这套手写特征在另一个数据集和未参与搜索的受试者上,超过了多种经典可解释基线;在早期视觉区接近黑箱模型,在不同视觉区还呈现出不同计算。
在语言脑成像中,可解释性还帮研究者发现数据里的混杂因素,像校准一台有偏差的显微镜。在听觉脑电研究中,iWSP 找到可解释的声学特征,并能补充黑箱模型的预测。
意义与边界
iWSP 不是要取代所有深度学习,而是提供另一条路:让AI扮演理论助手,把预测性能和人类可理解的计算结构结合起来。它的价值在于把“黑箱猜得准”推进到“透明模型也能猜得准,而且讲得清”。当然,它依赖审计、隐藏集和可复现测试,成本也不低,失败任务仍存在。科学需要解释,而解释需要能被同行听懂、复现和检验——这正是 iWSP 想做的事。 详情见《Interpretable weight-space programming builds transparent transformers and brain encoding models 》
这篇论文提出了一种叫“可解释权重空间编程”的方法,简称 iWSP。它的核心思想可以用一个类比理解:传统深度学习像把一堆零件扔进机器里反复训练,最后得到一台能工作但内部缠成一团的机器;iWSP 则要求一个大型语言模型智能体像工程师或科学家那样,直接在代码里“手写”每个连接强度和计算规则,不许通过反向传播训练。它不能靠刷题调参,只能靠已有知识、推理和一次次试验,写出人能看懂的“透明电路”。
不让AI训练,反而逼它解释
iWSP 的流程像一个“猜想—实验—修正”的科学循环。研究者给智能体一个任务和一套固定评分器,禁止它使用优化器、训练循环或预训练权重。智能体要直接写出模型权重和特征计算代码,然后看评分,再修改。每次修改都被要求是可解释的,并伴随文字说明。之后还有“审计员”检查它有没有偷偷训练、有没有违规、修改是否真的可读。最后,模型还要在从未见过的隐藏数据上考试。
更有意思的是“文字瓶颈测试”:让另一个语言模型用不超过两百字描述这个模型,再让一个全新会话只凭这段描述重建模型。如果重建出来的模型性能接近原版,说明原模型真的能用人类语言讲清楚。这类似论文的“方法部分能否让别人复现实验”,也是可解释性的硬检验。
把算法翻译成透明电路
在算术和自然语言任务上,iWSP 写出了小型 transformer。它不是训练出来的,而是把人类已知算法翻译成网络结构。例如求最大公约数,模型利用“两个数的公约数在相减后仍不变”的性质,反复做减法,像一台简化版的欧几里得机器。编辑距离被写成逐行填表的动态规划,乘法被拆成移位后的部分积相加。情感分类则像一套粗糙但可读的规则:先查一组词的模式,遇到否定词就把后面的正面证据翻转,最后把证据加总判断正负。
结果显示,在十多个算法任务上,模型在隐藏测试中几乎全部答对;在四个自然语言任务中,三个表现不错,但转述判断失败。模型还会在准确后继续“瘦身”,把参数压缩得更小。更强的语言模型更擅长找到小而准的模型。局限也很清楚:测试全对不代表对所有输入都对,它可能只覆盖了任务规定的范围。
给大脑活动写“特征食谱”
在视觉皮层研究中,传统深度编码模型预测准但特征难懂;经典可解释模型好懂但预测弱。iWSP 让智能体从图像中手工设计可命名特征,比如多尺度边缘滤波、颜色对比、表面几何、轮廓弯曲和特征共现,再用一个简单的线性读出预测脑活动。它像先设计一套透明的“测量工具”,再校准到每个受试者。结果,这套手写特征在另一个数据集和未参与搜索的受试者上,超过了多种经典可解释基线;在早期视觉区接近黑箱模型,在不同视觉区还呈现出不同计算。
在语言脑成像中,可解释性还帮研究者发现数据里的混杂因素,像校准一台有偏差的显微镜。在听觉脑电研究中,iWSP 找到可解释的声学特征,并能补充黑箱模型的预测。
意义与边界
iWSP 不是要取代所有深度学习,而是提供另一条路:让AI扮演理论助手,把预测性能和人类可理解的计算结构结合起来。它的价值在于把“黑箱猜得准”推进到“透明模型也能猜得准,而且讲得清”。当然,它依赖审计、隐藏集和可复现测试,成本也不低,失败任务仍存在。科学需要解释,而解释需要能被同行听懂、复现和检验——这正是 iWSP 想做的事。
本文来自网友投稿或网络内容,如有侵犯您的权益请联系我们删除,联系邮箱:wyl860211@qq.com 。