manifest format_version: g1  entries: 866
# ggml_type, size_k, size_n, tensor count -- linears only
('IQ3_S', 17408, 5120) 1
('IQ4_NL', 5120, 10240) 1
('IQ4_NL', 5120, 17408) 3
('IQ4_NL', 17408, 5120) 2
('IQ4_XS', 5120, 6144) 3
('IQ4_XS', 5120, 10240) 2
('IQ4_XS', 5120, 12288) 2
('IQ4_XS', 5120, 17408) 46
('IQ4_XS', 6144, 5120) 1
('IQ4_XS', 17408, 5120) 16
('Q3_K', 5120, 17408) 3
('Q4_K', 5120, 1024) 1
('Q4_K', 5120, 6144) 13
('Q4_K', 5120, 10240) 23
('Q4_K', 5120, 12288) 6
('Q4_K', 5120, 17408) 19
('Q4_K', 6144, 5120) 1
('Q4_K', 17408, 5120) 5
('Q5_K', 5120, 1024) 5
('Q5_K', 5120, 6144) 31
('Q5_K', 5120, 10240) 21
('Q5_K', 5120, 12288) 8
('Q5_K', 5120, 17408) 51
('Q5_K', 6144, 5120) 40
('Q5_K', 17408, 5120) 35
('Q6_K', 5120, 1024) 15
('Q6_K', 5120, 6144) 1
('Q6_K', 5120, 10240) 1
('Q6_K', 5120, 12288) 1
('Q6_K', 5120, 17408) 8
('Q6_K', 6144, 5120) 22
('Q6_K', 10240, 5120) 1
('Q6_K', 17408, 5120) 6
('Q8_0', 5120, 48) 96
('Q8_0', 5120, 1024) 13
('Q8_0', 6144, 5120) 1
total linears: 504
