跳到正文
  1. Hacker News-首页87

    神经网络是清晰的:对机械可解释性的重新审视

    作者通过长期研究图像和语言模型,提出神经网络的表征机制比以往普遍认为的更干净、更易解释,此前普遍接受的“叠加”(superposition)解释多为误读。研究显示,现代模型(如 Qwen3-32B 和 Kimi K3)绝大多数神经元具有单一且清晰的功能,看似多义的现象多源于“递归泛化”或工具缺陷,而非任意概念打包。

    发布时间:

    推荐理由:作者结合对图像和语言模型的长期研究,提出神经网络的表征比过去认为的更清晰,并探讨了递归泛化等机制,为理解模型内部运作提供了新视角。

已经到底了