SAE

OpenAI于2024年6月7日开源了GPT-4的稀疏自动编码器（SAE），这一技术旨在提升大模型的可解释性和可控性。SAE通过引入稀疏性约束，帮助大模型学习更有意义和解释性的特征表示，从而提高输出内...