なお、KVキャッシュをq4_0にしてベンチしなおしたら1モデルを除いて3/4以上でちゃんと返答したので、たまたま OR VRAMの圧迫で出力品質が悪くなった可能性がある。