请问考虑放出更高精度的量化吗？

by jtyy111 - opened Sep 5

Sep 5

如题，我的显存还算比较充裕，想试一试更高精度的

xd2333

SakuraLLM org Sep 8

v3.8更新了Q6

Sep 8

v3.8更新了Q6

请问考虑放出q8吗？

Sep 8

希望繼續有IQ4_XS,這樣調一調8g顯存還是能戰一下

xd2333

SakuraLLM org Sep 9

希望繼續有IQ4_XS,這樣調一調8g顯存還是能戰一下

已传

xd2333

SakuraLLM org Sep 9

v3.8更新了Q6

请问考虑放出q8吗？

q8不放了，我自己用也是q6

Upload images, audio, and videos by dragging in the text input, pasting, or clicking here.

Tap or paste here to upload images

· Sign up or log in to comment