神经网络是清晰的:对机械可解释性的重新审视
作者通过长期研究图像和语言模型,提出神经网络的表征机制比以往普遍认为的更干净、更易解释,此前普遍接受的“叠加”(superposition)解释多为误读。研究显示,现代模型(如 Qwen3-32B 和 Kimi K3)绝大多数神经元具有单一且清晰的功能,看似多义的现象多源于“递归泛化”或工具缺陷,而非任意概念打包。
发布时间:
推荐理由:作者结合对图像和语言模型的长期研究,提出神经网络的表征比过去认为的更清晰,并探讨了递归泛化等机制,为理解模型内部运作提供了新视角。