研究者激活开源模型单个神经元,让模型锁定特定人设
有人通过激活模型里的单个神经元给它换人设,历史博主还做了个只读1930年前数据的版本,玩法挺有意思。
实验者对开源模型内部的 individual 神经元进行激活,把模型锁定为特定人格。历史学者 ResObscura 尝试了另一条路径:只用 1930 年以前的数据训练模型,再观察其行为差异。结果显示模型在受限数据条件下依然能产生有趣的一致表现。这类神经元级实验此前已在多个开源模型上出现,属于对模型内部机制的可解释性探索。
There has been a bunch of really interesting experiments with activating individual neurons in open AI models, locking them into particular personas.
Here historian @ResObscura tries the same trick with a model trained only on data before 1930, and the results are delightful. https://t.co/mSZTlfZW9U