Feature Comparison Viewer
Model...
GPT-2 Small
GPT-OSS 20B
Gemma 2B
Gemma 2B IT
Gemma 2 2B
Gemma 2 2B IT
Gemma 2 9B
Gemma 2 9B IT
Gemma 2 27B
Gemma 3 270M
Gemma 3 270M IT
Gemma 3 1B
Gemma 3 1B IT
Gemma 3 4B
Gemma 3 4B IT
Gemma 3 12B
Gemma 3 12B IT
Gemma 3 27B
Gemma 3 27B IT
Llama 3 8B IT
Llama 3.1 8B
Llama 3.1 8B IT
Llama 3.3 70B IT
DeepSeek R1 Distill Llama 8B
Qwen 2.5 7B IT
Qwen 3 4B
Pythia 70M Deduped
Source / SAE...
Residual Stream - 16k
Residual Stream - 65k
Residual Stream - 262k
Layer...
9
17
22
29
Model...
GPT-2 Small
GPT-OSS 20B
Gemma 2B
Gemma 2B IT
Gemma 2 2B
Gemma 2 2B IT
Gemma 2 9B
Gemma 2 9B IT
Gemma 2 27B
Gemma 3 270M
Gemma 3 270M IT
Gemma 3 1B
Gemma 3 1B IT
Gemma 3 4B
Gemma 3 4B IT
Gemma 3 12B
Gemma 3 12B IT
Gemma 3 27B
Gemma 3 27B IT
Llama 3 8B IT
Llama 3.1 8B
Llama 3.1 8B IT
Llama 3.3 70B IT
DeepSeek R1 Distill Llama 8B
Qwen 2.5 7B IT
Qwen 3 4B
Pythia 70M Deduped
Source / SAE...
Residual Stream - 16k
Residual Stream - 65k
Residual Stream - 262k
Transcoder - 16k
Transcoder - 262k
Layer...
9
17
22
29