正在测试支持数据并行评估生成任务 #549 在 MLX 上使用 2 个 M3 Ultra,几乎完美扩展!很快就会将 M4 Max 加入! 再也不用 5 天的评估运行了! 并行批量推理基础的评估来了!