gpt4all-13b-snoozy


Find this model in the GPT4ALL model summary

Model source: https://huggingface.co/nomic-ai/gpt4all-13b-snoozy

gpt4all-13b-snoozy Model Summary Plots

gpt4all-13b-snoozy Model Selected Details
  layer_type N M Q alpha D alpha-hat log_SN rank_loss
layer_id                  
1 DENSE 32000 5120 6.25 3.62 0.03 10.63 2.94 0
2 DENSE 5120 5120 1.00 3.70 0.06 11.19 3.03 45
3 DENSE 5120 5120 1.00 2.65 0.06 7.82 2.95 49
4 DENSE 5120 5120 1.00 4.44 0.03 6.43 1.45 10
5 DENSE 5120 5120 1.00 4.19 0.01 7.43 1.77 8
6 DENSE 13824 5120 2.70 2.86 0.04 6.33 2.21 0
7 DENSE 13824 5120 2.70 5.18 0.02 12.86 2.48 0
8 DENSE 13824 5120 2.70 6.06 0.04 10.57 1.74 0
11 DENSE 5120 5120 1.00 3.13 0.04 8.60 2.75 17
12 DENSE 5120 5120 1.00 3.36 0.04 9.44 2.81 20
13 DENSE 5120 5120 1.00 4.14 0.02 5.59 1.35 6
14 DENSE 5120 5120 1.00 4.29 0.02 7.00 1.63 8
15 DENSE 13824 5120 2.70 2.53 0.01 6.11 2.41 0
16 DENSE 13824 5120 2.70 4.47 0.01 9.73 2.18 0
17 DENSE 13824 5120 2.70 3.47 0.08 5.66 1.63 0
20 DENSE 5120 5120 1.00 2.59 0.04 6.78 2.62 10
21 DENSE 5120 5120 1.00 3.02 0.04 8.41 2.79 14
22 DENSE 5120 5120 1.00 5.17 0.02 6.02 1.17 6
23 DENSE 5120 5120 1.00 4.49 0.02 8.51 1.89 5
24 DENSE 13824 5120 2.70 2.91 0.01 7.13 2.45 0
25 DENSE 13824 5120 2.70 4.54 0.01 8.34 1.84 0
26 DENSE 13824 5120 2.70 11.79 0.06 20.39 1.73 0
29 DENSE 5120 5120 1.00 3.90 0.04 9.74 2.50 6
30 DENSE 5120 5120 1.00 3.90 0.02 10.02 2.57 6
31 DENSE 5120 5120 1.00 3.94 0.03 4.92 1.25 3
32 DENSE 5120 5120 1.00 4.04 0.01 7.32 1.81 3
33 DENSE 13824 5120 2.70 3.48 0.01 8.20 2.35 0
34 DENSE 13824 5120 2.70 5.15 0.04 9.51 1.85 0
35 DENSE 13824 5120 2.70 9.51 0.06 14.69 1.54 0
38 DENSE 5120 5120 1.00 2.40 0.03 5.92 2.47 4
39 DENSE 5120 5120 1.00 3.84 0.03 9.57 2.49 5
40 DENSE 5120 5120 1.00 4.57 0.05 5.80 1.27 5
41 DENSE 5120 5120 1.00 4.14 0.03 7.46 1.80 4
42 DENSE 13824 5120 2.70 3.40 0.01 8.18 2.41 0
43 DENSE 13824 5120 2.70 6.49 0.03 11.80 1.82 0
44 DENSE 13824 5120 2.70 5.43 0.05 8.51 1.57 0
47 DENSE 5120 5120 1.00 4.71 0.03 11.19 2.37 6
48 DENSE 5120 5120 1.00 4.21 0.03 10.29 2.44 5
49 DENSE 5120 5120 1.00 3.45 0.04 4.60 1.33 3
50 DENSE 5120 5120 1.00 3.68 0.04 6.64 1.81 3
51 DENSE 13824 5120 2.70 3.39 0.02 8.20 2.42 0
52 DENSE 13824 5120 2.70 5.27 0.04 9.83 1.87 0
53 DENSE 13824 5120 2.70 6.07 0.03 9.88 1.63 0
56 DENSE 5120 5120 1.00 4.86 0.03 11.47 2.36 3
57 DENSE 5120 5120 1.00 3.67 0.03 9.05 2.47 4
58 DENSE 5120 5120 1.00 4.18 0.04 5.58 1.34 3
59 DENSE 5120 5120 1.00 5.04 0.03 8.60 1.71 3
60 DENSE 13824 5120 2.70 3.15 0.01 7.99 2.54 0
61 DENSE 13824 5120 2.70 4.34 0.03 7.87 1.81 0
62 DENSE 13824 5120 2.70 4.63 0.04 8.47 1.83 0
65 DENSE 5120 5120 1.00 2.67 0.04 6.34 2.37 4
66 DENSE 5120 5120 1.00 2.88 0.03 7.25 2.51 4
67 DENSE 5120 5120 1.00 3.19 0.05 4.42 1.38 3
68 DENSE 5120 5120 1.00 6.27 0.04 10.03 1.60 4
70 DENSE 13824 5120 2.70 3.23 0.01 8.12 2.52 0
71 DENSE 13824 5120 2.70 3.67 0.05 6.75 1.84 0
72 DENSE 13824 5120 2.70 4.75 0.04 7.98 1.68 0
75 DENSE 5120 5120 1.00 2.45 0.04 5.60 2.29 5
76 DENSE 5120 5120 1.00 3.86 0.03 9.43 2.44 3
77 DENSE 5120 5120 1.00 3.38 0.05 4.77 1.41 4
78 DENSE 5120 5120 1.00 3.48 0.05 5.58 1.60 5
79 DENSE 13824 5120 2.70 3.29 0.01 8.19 2.49 0
80 DENSE 13824 5120 2.70 3.59 0.04 6.53 1.82 0
81 DENSE 13824 5120 2.70 4.51 0.04 7.82 1.74 0
84 DENSE 5120 5120 1.00 3.15 0.04 7.41 2.35 3
85 DENSE 5120 5120 1.00 3.04 0.02 7.68 2.52 4
86 DENSE 5120 5120 1.00 3.46 0.05 4.76 1.37 4
87 DENSE 5120 5120 1.00 4.19 0.05 6.94 1.65 3
88 DENSE 13824 5120 2.70 3.36 0.01 8.41 2.50 0
89 DENSE 13824 5120 2.70 3.36 0.04 6.33 1.88 0
90 DENSE 13824 5120 2.70 4.69 0.03 8.14 1.74 0
93 DENSE 5120 5120 1.00 3.28 0.03 7.69 2.34 4
94 DENSE 5120 5120 1.00 3.06 0.02 7.66 2.50 3
95 DENSE 5120 5120 1.00 3.23 0.06 4.51 1.40 3
96 DENSE 5120 5120 1.00 5.35 0.04 8.62 1.61 4
97 DENSE 13824 5120 2.70 3.43 0.01 8.47 2.47 0
98 DENSE 13824 5120 2.70 3.44 0.03 6.73 1.95 0
99 DENSE 13824 5120 2.70 4.73 0.03 8.32 1.76 0
102 DENSE 5120 5120 1.00 2.82 0.04 6.66 2.36 3
103 DENSE 5120 5120 1.00 2.87 0.02 7.27 2.53 3
104 DENSE 5120 5120 1.00 3.39 0.05 4.71 1.39 3
105 DENSE 5120 5120 1.00 4.03 0.06 6.22 1.54 4
106 DENSE 13824 5120 2.70 3.48 0.02 8.59 2.47 0
107 DENSE 13824 5120 2.70 3.26 0.03 6.28 1.93 0
108 DENSE 13824 5120 2.70 4.61 0.03 8.17 1.77 0
111 DENSE 5120 5120 1.00 2.77 0.04 6.51 2.35 4
112 DENSE 5120 5120 1.00 2.84 0.03 7.14 2.51 4
113 DENSE 5120 5120 1.00 7.22 0.07 9.87 1.37 4
114 DENSE 5120 5120 1.00 7.58 0.06 11.07 1.46 5
115 DENSE 13824 5120 2.70 3.34 0.01 8.47 2.53 0
116 DENSE 13824 5120 2.70 3.75 0.03 6.88 1.83 0
117 DENSE 13824 5120 2.70 4.39 0.03 8.07 1.84 0
120 DENSE 5120 5120 1.00 2.95 0.04 6.88 2.34 3
121 DENSE 5120 5120 1.00 2.77 0.02 6.96 2.51 4
122 DENSE 5120 5120 1.00 3.51 0.08 4.58 1.30 2
123 DENSE 5120 5120 1.00 4.53 0.05 7.00 1.54 4
124 DENSE 13824 5120 2.70 3.45 0.01 8.95 2.59 0
125 DENSE 13824 5120 2.70 4.06 0.02 7.53 1.85 0
126 DENSE 13824 5120 2.70 4.34 0.04 8.18 1.89 0
129 DENSE 5120 5120 1.00 2.70 0.03 6.46 2.39 3
130 DENSE 5120 5120 1.00 2.76 0.01 7.05 2.55 4
131 DENSE 5120 5120 1.00 6.75 0.06 8.86 1.31 2
132 DENSE 5120 5120 1.00 4.14 0.04 6.95 1.68 4
133 DENSE 13824 5120 2.70 3.58 0.01 9.23 2.58 0
134 DENSE 13824 5120 2.70 4.18 0.03 7.36 1.76 0
135 DENSE 13824 5120 2.70 5.14 0.04 9.74 1.90 0
138 DENSE 5120 5120 1.00 2.68 0.03 6.32 2.36 4
139 DENSE 5120 5120 1.00 2.78 0.01 6.94 2.50 3
141 DENSE 5120 5120 1.00 11.11 0.04 13.08 1.18 3
142 DENSE 5120 5120 1.00 7.00 0.03 11.62 1.66 3
143 DENSE 13824 5120 2.70 3.67 0.01 9.46 2.58 0
144 DENSE 13824 5120 2.70 4.09 0.02 7.51 1.83 0
145 DENSE 13824 5120 2.70 5.13 0.03 9.82 1.91 0
148 DENSE 5120 5120 1.00 3.17 0.03 7.59 2.39 4
149 DENSE 5120 5120 1.00 3.07 0.01 7.72 2.51 4
150 DENSE 5120 5120 1.00 9.18 0.02 12.16 1.33 3
151 DENSE 5120 5120 1.00 6.62 0.02 10.17 1.54 2
152 DENSE 13824 5120 2.70 3.75 0.01 9.44 2.52 0
153 DENSE 13824 5120 2.70 3.85 0.01 6.96 1.80 0
154 DENSE 13824 5120 2.70 5.79 0.03 10.87 1.88 0
157 DENSE 5120 5120 1.00 2.95 0.03 7.14 2.42 5
158 DENSE 5120 5120 1.00 2.94 0.01 7.53 2.56 3
159 DENSE 5120 5120 1.00 6.84 0.03 9.39 1.37 3
160 DENSE 5120 5120 1.00 5.52 0.02 9.93 1.80 3
161 DENSE 13824 5120 2.70 3.82 0.01 9.62 2.52 0
162 DENSE 13824 5120 2.70 4.02 0.01 7.22 1.80 0
163 DENSE 13824 5120 2.70 5.32 0.03 9.93 1.87 0
166 DENSE 5120 5120 1.00 2.84 0.03 6.84 2.41 4
167 DENSE 5120 5120 1.00 3.09 0.01 7.77 2.52 3
168 DENSE 5120 5120 1.00 9.04 0.03 11.26 1.25 3
169 DENSE 5120 5120 1.00 5.79 0.02 9.37 1.62 3
170 DENSE 13824 5120 2.70 3.82 0.01 9.60 2.51 0
171 DENSE 13824 5120 2.70 4.26 0.01 7.81 1.83 0
172 DENSE 13824 5120 2.70 5.32 0.02 9.78 1.84 0
175 DENSE 5120 5120 1.00 2.92 0.03 6.96 2.39 4
176 DENSE 5120 5120 1.00 3.00 0.01 7.46 2.49 4
177 DENSE 5120 5120 1.00 8.72 0.02 11.50 1.32 3
178 DENSE 5120 5120 1.00 6.08 0.02 10.17 1.67 3
179 DENSE 13824 5120 2.70 3.85 0.01 9.74 2.53 0
180 DENSE 13824 5120 2.70 4.50 0.01 8.23 1.83 0
181 DENSE 13824 5120 2.70 5.68 0.02 10.37 1.83 0
184 DENSE 5120 5120 1.00 3.04 0.03 7.35 2.42 5
185 DENSE 5120 5120 1.00 3.13 0.01 7.84 2.50 5
186 DENSE 5120 5120 1.00 11.62 0.06 15.36 1.32 3
187 DENSE 5120 5120 1.00 6.23 0.02 10.56 1.70 4
188 DENSE 13824 5120 2.70 3.83 0.01 9.65 2.52 0
189 DENSE 13824 5120 2.70 4.97 0.02 9.08 1.83 0
190 DENSE 13824 5120 2.70 5.59 0.02 10.00 1.79 0
193 DENSE 5120 5120 1.00 2.89 0.02 6.99 2.42 4
194 DENSE 5120 5120 1.00 2.95 0.02 7.42 2.51 3
195 DENSE 5120 5120 1.00 9.08 0.02 11.63 1.28 3
196 DENSE 5120 5120 1.00 7.06 0.02 10.25 1.45 2
197 DENSE 13824 5120 2.70 3.93 0.01 9.83 2.50 0
198 DENSE 13824 5120 2.70 5.55 0.03 10.23 1.84 0
199 DENSE 13824 5120 2.70 6.07 0.02 10.86 1.79 0
202 DENSE 5120 5120 1.00 3.13 0.02 7.67 2.45 6
203 DENSE 5120 5120 1.00 3.22 0.01 8.15 2.53 6
204 DENSE 5120 5120 1.00 8.19 0.03 11.04 1.35 3
205 DENSE 5120 5120 1.00 6.14 0.04 10.88 1.77 3
206 DENSE 13824 5120 2.70 3.80 0.01 9.51 2.50 0
207 DENSE 13824 5120 2.70 6.45 0.03 11.66 1.81 0
208 DENSE 13824 5120 2.70 5.97 0.01 10.74 1.80 0
210 DENSE 5120 5120 1.00 3.19 0.01 7.76 2.44 4
211 DENSE 5120 5120 1.00 3.28 0.01 8.15 2.49 5
212 DENSE 5120 5120 1.00 11.45 0.03 14.66 1.28 2
213 DENSE 5120 5120 1.00 8.16 0.02 12.11 1.48 2
214 DENSE 13824 5120 2.70 3.76 0.02 9.48 2.52 0
215 DENSE 13824 5120 2.70 7.84 0.03 13.15 1.68 0
216 DENSE 13824 5120 2.70 6.20 0.02 10.90 1.76 0
219 DENSE 5120 5120 1.00 3.20 0.02 7.76 2.43 5
220 DENSE 5120 5120 1.00 3.28 0.01 8.16 2.49 5
221 DENSE 5120 5120 1.00 8.90 0.04 11.51 1.29 2
222 DENSE 5120 5120 1.00 7.82 0.04 13.89 1.78 2
223 DENSE 13824 5120 2.70 3.74 0.02 9.35 2.50 0
224 DENSE 13824 5120 2.70 8.24 0.04 13.59 1.65 0
225 DENSE 13824 5120 2.70 6.62 0.03 11.46 1.73 0
228 DENSE 5120 5120 1.00 3.18 0.01 7.87 2.48 5
229 DENSE 5120 5120 1.00 3.27 0.02 8.25 2.53 4
230 DENSE 5120 5120 1.00 9.50 0.03 12.45 1.31 2
231 DENSE 5120 5120 1.00 7.03 0.02 13.47 1.92 2
232 DENSE 13824 5120 2.70 3.73 0.03 9.28 2.49 0
233 DENSE 13824 5120 2.70 8.60 0.04 13.97 1.62 0
234 DENSE 13824 5120 2.70 7.55 0.02 12.52 1.66 0
237 DENSE 5120 5120 1.00 3.45 0.01 8.42 2.44 5
238 DENSE 5120 5120 1.00 3.49 0.02 8.68 2.49 5
239 DENSE 5120 5120 1.00 10.23 0.06 13.10 1.28 3
240 DENSE 5120 5120 1.00 8.57 0.04 14.49 1.69 3
241 DENSE 13824 5120 2.70 3.80 0.03 9.34 2.46 0
242 DENSE 13824 5120 2.70 8.57 0.03 14.21 1.66 0
243 DENSE 13824 5120 2.70 7.85 0.03 12.92 1.65 0
246 DENSE 5120 5120 1.00 3.06 0.01 7.50 2.45 4
247 DENSE 5120 5120 1.00 3.26 0.02 8.18 2.51 5
248 DENSE 5120 5120 1.00 7.41 0.07 10.28 1.39 3
249 DENSE 5120 5120 1.00 8.33 0.05 13.82 1.66 1
250 DENSE 13824 5120 2.70 3.91 0.03 9.58 2.45 0
251 DENSE 13824 5120 2.70 8.37 0.02 13.80 1.65 0
252 DENSE 13824 5120 2.70 7.91 0.03 12.97 1.64 0
255 DENSE 5120 5120 1.00 3.53 0.01 8.67 2.46 6
256 DENSE 5120 5120 1.00 3.60 0.01 9.07 2.52 5
257 DENSE 5120 5120 1.00 8.35 0.02 11.08 1.33 2
258 DENSE 5120 5120 1.00 6.79 0.03 14.00 2.06 3
259 DENSE 13824 5120 2.70 4.01 0.03 9.83 2.45 0
260 DENSE 13824 5120 2.70 7.44 0.02 11.81 1.59 0
261 DENSE 13824 5120 2.70 8.50 0.03 13.79 1.62 0
264 DENSE 5120 5120 1.00 3.57 0.01 8.87 2.48 4
265 DENSE 5120 5120 1.00 3.88 0.02 9.81 2.53 5
266 DENSE 5120 5120 1.00 8.54 0.02 11.12 1.30 2
267 DENSE 5120 5120 1.00 7.42 0.02 11.54 1.56 2
268 DENSE 13824 5120 2.70 4.18 0.03 10.19 2.43 0
269 DENSE 13824 5120 2.70 6.31 0.02 10.19 1.61 0
270 DENSE 13824 5120 2.70 9.19 0.02 15.21 1.66 0
273 DENSE 5120 5120 1.00 3.57 0.02 8.76 2.46 5
274 DENSE 5120 5120 1.00 3.57 0.02 9.01 2.52 5
275 DENSE 5120 5120 1.00 6.71 0.06 8.37 1.25 2
276 DENSE 5120 5120 1.00 10.37 0.05 17.35 1.67 3
277 DENSE 13824 5120 2.70 5.33 0.03 12.94 2.42 0
278 DENSE 13824 5120 2.70 5.51 0.02 9.20 1.67 0
280 DENSE 13824 5120 2.70 9.40 0.03 16.10 1.71 0
283 DENSE 5120 5120 1.00 3.52 0.02 8.70 2.47 5
284 DENSE 5120 5120 1.00 3.75 0.02 9.47 2.52 4
285 DENSE 5120 5120 1.00 7.01 0.03 9.80 1.40 3
286 DENSE 5120 5120 1.00 7.00 0.03 11.74 1.68 2
287 DENSE 13824 5120 2.70 5.47 0.03 13.19 2.41 0
288 DENSE 13824 5120 2.70 5.04 0.02 8.37 1.66 0
289 DENSE 13824 5120 2.70 9.10 0.04 16.53 1.82 0
292 DENSE 5120 5120 1.00 3.57 0.02 8.80 2.46 5
293 DENSE 5120 5120 1.00 3.72 0.02 9.40 2.52 4
294 DENSE 5120 5120 1.00 7.46 0.02 10.82 1.45 2
295 DENSE 5120 5120 1.00 8.09 0.03 13.28 1.64 2
296 DENSE 13824 5120 2.70 5.72 0.03 13.72 2.40 0
297 DENSE 13824 5120 2.70 4.59 0.02 7.74 1.69 0
298 DENSE 13824 5120 2.70 9.65 0.04 17.78 1.84 0
301 DENSE 5120 5120 1.00 3.54 0.02 8.65 2.44 5
302 DENSE 5120 5120 1.00 3.76 0.02 9.37 2.50 4
303 DENSE 5120 5120 1.00 5.79 0.04 7.28 1.26 3
304 DENSE 5120 5120 1.00 10.08 0.06 16.48 1.63 3
305 DENSE 13824 5120 2.70 5.60 0.03 13.39 2.39 0
306 DENSE 13824 5120 2.70 4.34 0.02 7.46 1.72 0
307 DENSE 13824 5120 2.70 8.96 0.04 17.09 1.91 0
310 DENSE 5120 5120 1.00 3.31 0.01 8.08 2.44 4
311 DENSE 5120 5120 1.00 3.55 0.01 8.99 2.53 3
312 DENSE 5120 5120 1.00 5.85 0.02 8.74 1.49 3
313 DENSE 5120 5120 1.00 5.72 0.04 9.78 1.71 3
314 DENSE 13824 5120 2.70 5.50 0.02 12.90 2.35 0
315 DENSE 13824 5120 2.70 4.73 0.02 8.86 1.87 0
316 DENSE 13824 5120 2.70 8.45 0.05 17.03 2.01 0
319 DENSE 5120 5120 1.00 3.08 0.01 7.55 2.45 5
320 DENSE 5120 5120 1.00 3.40 0.01 8.68 2.55 4
321 DENSE 5120 5120 1.00 6.53 0.03 9.74 1.49 2
322 DENSE 5120 5120 1.00 6.59 0.03 11.81 1.79 1
323 DENSE 13824 5120 2.70 5.44 0.02 12.50 2.30 0
324 DENSE 13824 5120 2.70 4.83 0.01 10.63 2.20 0
325 DENSE 13824 5120 2.70 7.51 0.04 15.48 2.06 0
328 DENSE 5120 5120 1.00 3.12 0.02 7.56 2.42 4
329 DENSE 5120 5120 1.00 3.29 0.02 8.32 2.53 4
330 DENSE 5120 5120 1.00 7.85 0.03 12.58 1.60 2
331 DENSE 5120 5120 1.00 7.13 0.03 11.80 1.65 3
332 DENSE 13824 5120 2.70 5.24 0.03 12.05 2.30 0
333 DENSE 13824 5120 2.70 4.80 0.02 10.91 2.27 0
334 DENSE 13824 5120 2.70 6.58 0.04 14.40 2.19 0
337 DENSE 5120 5120 1.00 2.94 0.01 7.14 2.43 5
338 DENSE 5120 5120 1.00 3.24 0.01 8.24 2.54 5
339 DENSE 5120 5120 1.00 5.25 0.02 8.10 1.54 3
340 DENSE 5120 5120 1.00 4.65 0.01 8.69 1.87 2
341 DENSE 13824 5120 2.70 4.76 0.03 11.25 2.36 0
342 DENSE 13824 5120 2.70 5.10 0.02 13.76 2.70 0
343 DENSE 13824 5120 2.70 5.62 0.04 13.05 2.32 0
346 DENSE 5120 5120 1.00 2.73 0.01 6.55 2.40 4
347 DENSE 5120 5120 1.00 3.01 0.01 7.60 2.52 5
348 DENSE 5120 5120 1.00 5.65 0.03 9.95 1.76 3
349 DENSE 5120 5120 1.00 4.44 0.04 13.46 3.03 3
350 DENSE 13824 5120 2.70 3.43 0.02 8.33 2.43 0
352 DENSE 13824 5120 2.70 4.89 0.03 9.11 1.87 0
353 DENSE 13824 5120 2.70 3.34 0.02 8.39 2.51 0
356 DENSE 5120 5120 1.00 2.62 0.01 6.57 2.51 11
357 DENSE 5120 5120 1.00 2.74 0.01 7.30 2.66 12
358 DENSE 5120 5120 1.00 6.68 0.03 11.34 1.70 4
359 DENSE 5120 5120 1.00 4.32 0.05 9.23 2.13 3
360 DENSE 13824 5120 2.70 2.90 0.02 7.76 2.67 0
361 DENSE 13824 5120 2.70 3.05 0.03 7.25 2.38 0
362 DENSE 13824 5120 2.70 2.88 0.03 8.02 2.78 0
366 DENSE 32000 5120 6.25 4.85 0.02 16.99 3.50 0