alpaca-13b


Find this model in the Alpaca model summary

alpaca-13b Model Summary Plots

alpaca-13b Model Selected Details
  layer_type N M Q alpha D alpha-hat log_SN rank_loss
layer_id                  
1 DENSE 32001 5120 6.25 3.08 0.03 9.06 2.94 0
2 DENSE 5120 5120 1.00 3.70 0.06 11.19 3.03 45
3 DENSE 5120 5120 1.00 2.64 0.06 7.80 2.95 51
4 DENSE 5120 5120 1.00 4.42 0.03 6.41 1.45 9
5 DENSE 5120 5120 1.00 4.19 0.01 7.42 1.77 7
6 DENSE 13824 5120 2.70 2.86 0.04 6.33 2.21 0
7 DENSE 13824 5120 2.70 5.19 0.02 12.88 2.48 0
8 DENSE 13824 5120 2.70 6.06 0.04 10.53 1.74 0
11 DENSE 5120 5120 1.00 3.13 0.04 8.59 2.75 18
12 DENSE 5120 5120 1.00 3.36 0.04 9.44 2.81 23
13 DENSE 5120 5120 1.00 4.12 0.02 5.57 1.35 7
14 DENSE 5120 5120 1.00 4.28 0.02 6.99 1.63 7
15 DENSE 13824 5120 2.70 2.53 0.01 6.11 2.41 0
16 DENSE 13824 5120 2.70 4.46 0.02 9.70 2.18 0
17 DENSE 13824 5120 2.70 3.47 0.08 5.66 1.63 0
20 DENSE 5120 5120 1.00 2.60 0.05 6.82 2.62 10
21 DENSE 5120 5120 1.00 3.02 0.04 8.42 2.79 13
22 DENSE 5120 5120 1.00 5.16 0.02 6.00 1.16 4
23 DENSE 5120 5120 1.00 4.48 0.02 8.49 1.89 5
24 DENSE 13824 5120 2.70 2.91 0.01 7.13 2.45 0
25 DENSE 13824 5120 2.70 4.54 0.01 8.35 1.84 0
26 DENSE 13824 5120 2.70 11.66 0.06 20.15 1.73 0
29 DENSE 5120 5120 1.00 3.81 0.04 9.54 2.50 5
30 DENSE 5120 5120 1.00 3.91 0.02 10.02 2.57 6
31 DENSE 5120 5120 1.00 3.93 0.03 4.91 1.25 4
32 DENSE 5120 5120 1.00 4.05 0.01 7.35 1.81 4
33 DENSE 13824 5120 2.70 3.49 0.01 8.21 2.35 0
34 DENSE 13824 5120 2.70 5.10 0.04 9.42 1.85 0
35 DENSE 13824 5120 2.70 9.54 0.05 14.73 1.54 0
38 DENSE 5120 5120 1.00 2.40 0.03 5.93 2.47 4
39 DENSE 5120 5120 1.00 3.85 0.03 9.60 2.49 6
40 DENSE 5120 5120 1.00 5.47 0.05 6.94 1.27 3
41 DENSE 5120 5120 1.00 4.15 0.03 7.47 1.80 5
42 DENSE 13824 5120 2.70 3.40 0.01 8.19 2.41 0
43 DENSE 13824 5120 2.70 6.46 0.04 11.73 1.82 0
44 DENSE 13824 5120 2.70 5.48 0.05 8.59 1.57 0
47 DENSE 5120 5120 1.00 4.71 0.03 11.18 2.37 5
48 DENSE 5120 5120 1.00 4.21 0.03 10.28 2.44 5
49 DENSE 5120 5120 1.00 3.63 0.04 4.83 1.33 4
50 DENSE 5120 5120 1.00 3.67 0.04 6.63 1.81 3
51 DENSE 13824 5120 2.70 3.38 0.02 8.20 2.42 0
52 DENSE 13824 5120 2.70 5.27 0.04 9.83 1.86 0
53 DENSE 13824 5120 2.70 6.10 0.03 9.92 1.63 0
56 DENSE 5120 5120 1.00 4.89 0.03 11.53 2.36 4
57 DENSE 5120 5120 1.00 3.66 0.03 9.03 2.47 3
58 DENSE 5120 5120 1.00 4.21 0.04 5.63 1.33 4
59 DENSE 5120 5120 1.00 5.02 0.03 8.56 1.71 4
60 DENSE 13824 5120 2.70 3.15 0.01 7.99 2.54 0
61 DENSE 13824 5120 2.70 4.30 0.03 7.79 1.81 0
62 DENSE 13824 5120 2.70 4.64 0.04 8.49 1.83 0
65 DENSE 5120 5120 1.00 2.65 0.04 6.29 2.37 3
66 DENSE 5120 5120 1.00 2.89 0.03 7.26 2.51 3
67 DENSE 5120 5120 1.00 3.22 0.05 4.45 1.38 5
68 DENSE 5120 5120 1.00 6.26 0.04 10.01 1.60 3
70 DENSE 13824 5120 2.70 3.23 0.01 8.12 2.52 0
71 DENSE 13824 5120 2.70 3.71 0.05 6.82 1.84 0
72 DENSE 13824 5120 2.70 4.75 0.04 7.99 1.68 0
75 DENSE 5120 5120 1.00 2.44 0.04 5.58 2.29 4
76 DENSE 5120 5120 1.00 3.86 0.03 9.42 2.44 3
77 DENSE 5120 5120 1.00 3.39 0.05 4.77 1.41 4
78 DENSE 5120 5120 1.00 3.49 0.05 5.59 1.60 5
79 DENSE 13824 5120 2.70 3.29 0.01 8.18 2.49 0
80 DENSE 13824 5120 2.70 3.51 0.04 6.37 1.82 0
81 DENSE 13824 5120 2.70 4.54 0.04 7.88 1.73 0
84 DENSE 5120 5120 1.00 3.10 0.04 7.31 2.35 3
85 DENSE 5120 5120 1.00 3.04 0.03 7.69 2.52 5
86 DENSE 5120 5120 1.00 3.49 0.05 4.79 1.37 3
87 DENSE 5120 5120 1.00 4.17 0.05 6.89 1.65 4
88 DENSE 13824 5120 2.70 3.36 0.01 8.40 2.50 0
89 DENSE 13824 5120 2.70 3.35 0.04 6.30 1.88 0
90 DENSE 13824 5120 2.70 4.71 0.03 8.17 1.74 0
93 DENSE 5120 5120 1.00 3.28 0.03 7.69 2.34 4
94 DENSE 5120 5120 1.00 3.06 0.02 7.65 2.50 3
95 DENSE 5120 5120 1.00 3.32 0.06 4.63 1.39 4
96 DENSE 5120 5120 1.00 5.33 0.04 8.58 1.61 3
97 DENSE 13824 5120 2.70 3.43 0.01 8.47 2.47 0
98 DENSE 13824 5120 2.70 3.44 0.03 6.72 1.95 0
99 DENSE 13824 5120 2.70 4.73 0.03 8.31 1.76 0
102 DENSE 5120 5120 1.00 2.82 0.04 6.66 2.36 4
103 DENSE 5120 5120 1.00 2.87 0.02 7.27 2.53 4
104 DENSE 5120 5120 1.00 3.40 0.05 4.73 1.39 4
105 DENSE 5120 5120 1.00 4.25 0.06 6.55 1.54 3
106 DENSE 13824 5120 2.70 3.48 0.02 8.58 2.46 0
107 DENSE 13824 5120 2.70 3.26 0.03 6.28 1.93 0
108 DENSE 13824 5120 2.70 4.71 0.03 8.33 1.77 0
111 DENSE 5120 5120 1.00 2.70 0.04 6.34 2.35 4
112 DENSE 5120 5120 1.00 2.82 0.03 7.07 2.51 4
113 DENSE 5120 5120 1.00 7.12 0.07 9.73 1.37 3
114 DENSE 5120 5120 1.00 7.64 0.05 11.14 1.46 4
115 DENSE 13824 5120 2.70 3.34 0.01 8.48 2.53 0
116 DENSE 13824 5120 2.70 3.74 0.03 6.86 1.83 0
117 DENSE 13824 5120 2.70 4.35 0.03 8.01 1.84 0
120 DENSE 5120 5120 1.00 2.95 0.04 6.88 2.33 3
121 DENSE 5120 5120 1.00 2.77 0.02 6.95 2.51 3
122 DENSE 5120 5120 1.00 3.15 0.08 4.11 1.30 4
123 DENSE 5120 5120 1.00 4.54 0.05 7.01 1.54 4
124 DENSE 13824 5120 2.70 3.45 0.01 8.96 2.59 0
125 DENSE 13824 5120 2.70 4.16 0.02 7.72 1.85 0
126 DENSE 13824 5120 2.70 4.35 0.03 8.20 1.88 0
129 DENSE 5120 5120 1.00 2.70 0.03 6.47 2.39 4
130 DENSE 5120 5120 1.00 2.76 0.01 7.04 2.55 4
131 DENSE 5120 5120 1.00 6.74 0.06 8.85 1.31 3
132 DENSE 5120 5120 1.00 4.14 0.04 6.95 1.68 2
133 DENSE 13824 5120 2.70 3.58 0.01 9.22 2.58 0
134 DENSE 13824 5120 2.70 4.15 0.03 7.31 1.76 0
135 DENSE 13824 5120 2.70 4.68 0.04 8.86 1.89 0
138 DENSE 5120 5120 1.00 2.69 0.03 6.34 2.35 3
139 DENSE 5120 5120 1.00 2.78 0.01 6.93 2.50 4
141 DENSE 5120 5120 1.00 11.48 0.05 13.51 1.18 2
142 DENSE 5120 5120 1.00 6.97 0.03 11.57 1.66 3
143 DENSE 13824 5120 2.70 3.67 0.01 9.45 2.58 0
144 DENSE 13824 5120 2.70 4.09 0.02 7.50 1.83 0
145 DENSE 13824 5120 2.70 5.16 0.03 9.87 1.91 0
148 DENSE 5120 5120 1.00 3.18 0.03 7.59 2.39 4
149 DENSE 5120 5120 1.00 3.08 0.01 7.72 2.51 3
150 DENSE 5120 5120 1.00 9.29 0.02 12.33 1.33 4
151 DENSE 5120 5120 1.00 6.60 0.02 10.13 1.54 4
152 DENSE 13824 5120 2.70 3.76 0.02 9.47 2.52 0
153 DENSE 13824 5120 2.70 3.86 0.01 6.96 1.80 0
154 DENSE 13824 5120 2.70 5.82 0.03 10.93 1.88 0
157 DENSE 5120 5120 1.00 2.95 0.03 7.13 2.42 3
158 DENSE 5120 5120 1.00 2.94 0.01 7.53 2.56 5
159 DENSE 5120 5120 1.00 6.87 0.03 9.45 1.38 3
160 DENSE 5120 5120 1.00 5.55 0.02 9.98 1.80 3
161 DENSE 13824 5120 2.70 3.83 0.01 9.62 2.52 0
162 DENSE 13824 5120 2.70 4.02 0.01 7.22 1.79 0
163 DENSE 13824 5120 2.70 5.19 0.03 9.69 1.87 0
166 DENSE 5120 5120 1.00 2.79 0.03 6.71 2.40 4
167 DENSE 5120 5120 1.00 3.09 0.01 7.76 2.51 3
168 DENSE 5120 5120 1.00 8.95 0.03 11.15 1.25 3
169 DENSE 5120 5120 1.00 5.77 0.02 9.34 1.62 3
170 DENSE 13824 5120 2.70 3.82 0.01 9.61 2.51 0
171 DENSE 13824 5120 2.70 4.27 0.01 7.82 1.83 0
172 DENSE 13824 5120 2.70 5.32 0.02 9.78 1.84 0
175 DENSE 5120 5120 1.00 2.92 0.03 6.97 2.39 4
176 DENSE 5120 5120 1.00 3.00 0.01 7.47 2.49 4
177 DENSE 5120 5120 1.00 8.79 0.02 11.59 1.32 3
178 DENSE 5120 5120 1.00 6.08 0.02 10.16 1.67 3
179 DENSE 13824 5120 2.70 3.85 0.01 9.74 2.53 0
180 DENSE 13824 5120 2.70 4.50 0.01 8.22 1.83 0
181 DENSE 13824 5120 2.70 5.69 0.02 10.38 1.83 0
184 DENSE 5120 5120 1.00 3.06 0.03 7.39 2.41 4
185 DENSE 5120 5120 1.00 3.13 0.01 7.85 2.50 5
186 DENSE 5120 5120 1.00 11.43 0.07 15.11 1.32 3
187 DENSE 5120 5120 1.00 6.20 0.02 10.52 1.70 3
188 DENSE 13824 5120 2.70 3.83 0.01 9.64 2.52 0
189 DENSE 13824 5120 2.70 4.97 0.02 9.09 1.83 0
190 DENSE 13824 5120 2.70 5.59 0.01 10.01 1.79 0
193 DENSE 5120 5120 1.00 2.90 0.02 6.99 2.41 4
194 DENSE 5120 5120 1.00 2.96 0.02 7.42 2.51 4
195 DENSE 5120 5120 1.00 9.05 0.02 11.58 1.28 3
196 DENSE 5120 5120 1.00 7.06 0.02 10.25 1.45 2
197 DENSE 13824 5120 2.70 3.92 0.01 9.79 2.50 0
198 DENSE 13824 5120 2.70 5.55 0.02 10.23 1.84 0
199 DENSE 13824 5120 2.70 6.06 0.02 10.85 1.79 0
202 DENSE 5120 5120 1.00 3.13 0.02 7.66 2.44 5
203 DENSE 5120 5120 1.00 3.22 0.01 8.16 2.53 7
204 DENSE 5120 5120 1.00 8.21 0.03 11.05 1.35 3
205 DENSE 5120 5120 1.00 6.15 0.04 10.89 1.77 3
206 DENSE 13824 5120 2.70 3.80 0.01 9.51 2.50 0
207 DENSE 13824 5120 2.70 6.46 0.03 11.66 1.81 0
208 DENSE 13824 5120 2.70 5.97 0.01 10.74 1.80 0
210 DENSE 5120 5120 1.00 3.18 0.01 7.75 2.43 5
211 DENSE 5120 5120 1.00 3.28 0.01 8.15 2.48 4
212 DENSE 5120 5120 1.00 11.43 0.03 14.62 1.28 3
213 DENSE 5120 5120 1.00 8.23 0.02 12.21 1.48 2
214 DENSE 13824 5120 2.70 3.76 0.02 9.48 2.52 0
215 DENSE 13824 5120 2.70 7.90 0.03 13.24 1.68 0
216 DENSE 13824 5120 2.70 6.20 0.02 10.90 1.76 0
219 DENSE 5120 5120 1.00 3.19 0.02 7.75 2.43 5
220 DENSE 5120 5120 1.00 3.28 0.01 8.17 2.49 5
221 DENSE 5120 5120 1.00 8.66 0.04 11.19 1.29 2
222 DENSE 5120 5120 1.00 7.83 0.04 13.91 1.78 3
223 DENSE 13824 5120 2.70 3.74 0.02 9.36 2.50 0
224 DENSE 13824 5120 2.70 8.27 0.04 13.65 1.65 0
225 DENSE 13824 5120 2.70 6.55 0.02 11.36 1.73 0
228 DENSE 5120 5120 1.00 3.18 0.01 7.87 2.47 3
229 DENSE 5120 5120 1.00 3.27 0.02 8.24 2.52 5
230 DENSE 5120 5120 1.00 10.03 0.03 13.06 1.30 3
231 DENSE 5120 5120 1.00 7.06 0.02 13.53 1.92 3
232 DENSE 13824 5120 2.70 3.73 0.03 9.27 2.49 0
233 DENSE 13824 5120 2.70 8.60 0.04 13.97 1.62 0
234 DENSE 13824 5120 2.70 7.54 0.02 12.52 1.66 0
237 DENSE 5120 5120 1.00 3.46 0.01 8.45 2.44 5
238 DENSE 5120 5120 1.00 3.50 0.02 8.69 2.49 6
239 DENSE 5120 5120 1.00 10.56 0.06 13.51 1.28 3
240 DENSE 5120 5120 1.00 8.30 0.04 14.04 1.69 2
241 DENSE 13824 5120 2.70 3.83 0.03 9.42 2.46 0
242 DENSE 13824 5120 2.70 8.56 0.03 14.19 1.66 0
243 DENSE 13824 5120 2.70 8.00 0.03 13.17 1.65 0
246 DENSE 5120 5120 1.00 3.06 0.01 7.51 2.45 5
247 DENSE 5120 5120 1.00 3.25 0.02 8.16 2.51 5
248 DENSE 5120 5120 1.00 7.40 0.06 10.27 1.39 2
249 DENSE 5120 5120 1.00 8.23 0.05 13.66 1.66 2
250 DENSE 13824 5120 2.70 3.91 0.03 9.57 2.45 0
251 DENSE 13824 5120 2.70 8.31 0.02 13.69 1.65 0
252 DENSE 13824 5120 2.70 7.90 0.03 12.95 1.64 0
255 DENSE 5120 5120 1.00 3.53 0.01 8.68 2.46 4
256 DENSE 5120 5120 1.00 3.61 0.01 9.10 2.52 5
257 DENSE 5120 5120 1.00 8.39 0.03 11.11 1.32 2
258 DENSE 5120 5120 1.00 6.79 0.03 14.00 2.06 3
259 DENSE 13824 5120 2.70 4.01 0.03 9.83 2.45 0
260 DENSE 13824 5120 2.70 7.42 0.02 11.77 1.59 0
261 DENSE 13824 5120 2.70 8.54 0.03 13.84 1.62 0
264 DENSE 5120 5120 1.00 3.58 0.01 8.87 2.48 5
265 DENSE 5120 5120 1.00 3.91 0.02 9.89 2.53 4
266 DENSE 5120 5120 1.00 8.54 0.02 11.11 1.30 3
267 DENSE 5120 5120 1.00 7.40 0.02 11.53 1.56 3
268 DENSE 13824 5120 2.70 4.18 0.03 10.19 2.43 0
269 DENSE 13824 5120 2.70 6.31 0.02 10.18 1.61 0
270 DENSE 13824 5120 2.70 9.21 0.02 15.24 1.66 0
273 DENSE 5120 5120 1.00 3.57 0.02 8.76 2.46 4
274 DENSE 5120 5120 1.00 3.57 0.01 9.02 2.52 5
275 DENSE 5120 5120 1.00 6.65 0.06 8.30 1.25 3
276 DENSE 5120 5120 1.00 10.16 0.05 17.02 1.68 3
277 DENSE 13824 5120 2.70 5.34 0.03 12.94 2.42 0
278 DENSE 13824 5120 2.70 5.51 0.02 9.19 1.67 0
280 DENSE 13824 5120 2.70 9.42 0.03 16.13 1.71 0
283 DENSE 5120 5120 1.00 3.50 0.02 8.66 2.47 5
284 DENSE 5120 5120 1.00 3.77 0.02 9.52 2.52 4
285 DENSE 5120 5120 1.00 7.03 0.03 9.83 1.40 3
286 DENSE 5120 5120 1.00 7.03 0.02 11.79 1.68 2
287 DENSE 13824 5120 2.70 5.47 0.03 13.20 2.41 0
288 DENSE 13824 5120 2.70 5.04 0.02 8.36 1.66 0
289 DENSE 13824 5120 2.70 9.12 0.04 16.55 1.81 0
292 DENSE 5120 5120 1.00 3.61 0.02 8.89 2.46 3
293 DENSE 5120 5120 1.00 3.72 0.02 9.38 2.52 4
294 DENSE 5120 5120 1.00 7.48 0.02 10.85 1.45 2
295 DENSE 5120 5120 1.00 8.16 0.03 13.41 1.64 3
296 DENSE 13824 5120 2.70 5.73 0.03 13.74 2.40 0
297 DENSE 13824 5120 2.70 4.59 0.02 7.74 1.69 0
298 DENSE 13824 5120 2.70 9.82 0.04 18.09 1.84 0
301 DENSE 5120 5120 1.00 3.55 0.02 8.67 2.44 3
302 DENSE 5120 5120 1.00 3.75 0.02 9.35 2.49 4
303 DENSE 5120 5120 1.00 5.69 0.04 7.14 1.25 2
304 DENSE 5120 5120 1.00 10.11 0.05 16.54 1.63 2
305 DENSE 13824 5120 2.70 5.60 0.03 13.37 2.39 0
306 DENSE 13824 5120 2.70 4.34 0.02 7.45 1.72 0
307 DENSE 13824 5120 2.70 8.98 0.05 17.10 1.90 0
310 DENSE 5120 5120 1.00 3.32 0.01 8.09 2.44 4
311 DENSE 5120 5120 1.00 3.54 0.01 8.96 2.53 4
312 DENSE 5120 5120 1.00 5.96 0.02 8.84 1.48 2
313 DENSE 5120 5120 1.00 5.61 0.04 9.60 1.71 3
314 DENSE 13824 5120 2.70 5.57 0.02 13.06 2.34 0
315 DENSE 13824 5120 2.70 4.73 0.02 8.85 1.87 0
316 DENSE 13824 5120 2.70 8.53 0.05 17.17 2.01 0
319 DENSE 5120 5120 1.00 3.08 0.01 7.54 2.45 6
320 DENSE 5120 5120 1.00 3.40 0.01 8.67 2.55 5
321 DENSE 5120 5120 1.00 6.52 0.03 9.72 1.49 2
322 DENSE 5120 5120 1.00 6.67 0.03 11.95 1.79 3
323 DENSE 13824 5120 2.70 5.41 0.02 12.41 2.30 0
324 DENSE 13824 5120 2.70 4.81 0.02 10.57 2.20 0
325 DENSE 13824 5120 2.70 7.50 0.04 15.45 2.06 0
328 DENSE 5120 5120 1.00 3.12 0.02 7.56 2.42 3
329 DENSE 5120 5120 1.00 3.29 0.02 8.34 2.53 3
330 DENSE 5120 5120 1.00 7.87 0.04 12.60 1.60 2
331 DENSE 5120 5120 1.00 7.25 0.03 11.99 1.65 2
332 DENSE 13824 5120 2.70 5.25 0.02 12.08 2.30 0
333 DENSE 13824 5120 2.70 4.80 0.02 10.91 2.27 0
334 DENSE 13824 5120 2.70 6.69 0.04 14.63 2.19 0
337 DENSE 5120 5120 1.00 2.95 0.01 7.14 2.42 5
338 DENSE 5120 5120 1.00 3.25 0.01 8.27 2.54 6
339 DENSE 5120 5120 1.00 5.27 0.02 8.13 1.54 3
340 DENSE 5120 5120 1.00 4.65 0.01 8.67 1.87 3
341 DENSE 13824 5120 2.70 4.77 0.03 11.26 2.36 0
342 DENSE 13824 5120 2.70 5.08 0.02 13.73 2.70 0
343 DENSE 13824 5120 2.70 5.60 0.04 13.00 2.32 0
346 DENSE 5120 5120 1.00 2.74 0.01 6.54 2.39 6
347 DENSE 5120 5120 1.00 3.01 0.01 7.61 2.52 5
348 DENSE 5120 5120 1.00 5.61 0.03 9.84 1.75 4
349 DENSE 5120 5120 1.00 4.48 0.04 13.60 3.03 2
350 DENSE 13824 5120 2.70 3.39 0.02 8.23 2.43 0
352 DENSE 13824 5120 2.70 4.89 0.03 9.12 1.86 0
353 DENSE 13824 5120 2.70 3.32 0.02 8.35 2.51 0
356 DENSE 5120 5120 1.00 2.63 0.01 6.58 2.50 12
357 DENSE 5120 5120 1.00 2.75 0.01 7.33 2.66 14
358 DENSE 5120 5120 1.00 6.66 0.03 11.30 1.70 4
359 DENSE 5120 5120 1.00 4.35 0.05 9.29 2.14 3
360 DENSE 13824 5120 2.70 2.90 0.03 7.76 2.67 0
361 DENSE 13824 5120 2.70 3.01 0.03 7.15 2.37 0
362 DENSE 13824 5120 2.70 2.88 0.03 8.02 2.78 0
366 DENSE 32001 5120 6.25 5.07 0.02 17.81 3.51 0