行业精选

多义性并未消亡:对神经元可解释性假设的质疑

精选理由

一条对可解释性研究的吐槽,质疑神经元真的能拆成单义概念吗,做机制可解释性的人可以看看

一条推文对神经元多义性已被终结的说法提出质疑。作者认为如果单个神经元的功能基本不可解释,那么假定存在柏拉图式的单一核心指涉对象,其收益就存疑。这条观点直接指向可解释性研究中的核心假设:神经元功能能否被归约为清晰的单义概念。

原文 · Teortaxes

This suggests that the death of polysemanticity has been greatly exaggerated. If neuron functions are basically uninterpretable, what does the assumed Platonic "single core referent" gain us