ytgui

@kuhung 还在跑，ifeval （指令跟随） 和 gpqa_diamond （通用知识）没有弱化。我提供的权重是 hugging face 的标准 fp8 ，不是很熟悉苹果权重，可能会做～

@zhang666 试了下，19.5GB 显存可以跑 100K 的 context 长度