发现功能使用指南
discoveryBanners
热门话题
#
Bonk 生态迷因币展现强韧势头
Hosico
Hosico-8.57%
USELESS
USELESS+3.16%
IKUN
IKUN+11.55%
gib
gib+6.41%
#
有消息称 Pump.fun 计划 40 亿估值发币，引发市场猜测
Bonk
Bonk+1.17%
ALON
ALON+8.19%
LAUNCHCOIN
LAUNCHCOIN-3.45%
GOONC
GOONC-3.17%
KLED
KLED+26.14%
#
Solana 新代币发射平台 Boop.Fun 风头正劲
BOOP
BOOP-0.27%
Boopa
Boopa+3.05%
PORK
PORK-5.89%
header
Ivan Fioravanti ᯅ
@CoreViewHQ GenAI/LLM addicted、Apple MLX、Ollama、Microsoft 365、Azure、Kubernetes 联合创始人兼首席技术官，创新投资人
Ivan Fioravanti ᯅ
Ivan Fioravanti ᯅ17 小时前
轰！MLX 评估在 2 个 M3 Ultra 和 1 个 M4 Max 上进行批量推理并行分布！ 目前请求在环中的所有节点之间均匀分配，我会根据每个节点的大小来调整分配 💪🏻
5.6K
Ivan Fioravanti ᯅ
Ivan Fioravanti ᯅ10月17日 03:00
正在测试支持数据并行评估生成任务 #549 在 MLX 上使用 2 个 M3 Ultra，几乎完美扩展！很快就会将 M4 Max 加入！ 再也不用 5 天的评估运行了！ 并行批量推理基础的评估来了！
5.66K
Ivan Fioravanti ᯅ
Ivan Fioravanti ᯅ10月16日 02:55
在 M3 Ultra 上使用 MLX 进行 Qwen3-Next-80B-A3B-Instruct 基准测试。 q5 和 q6 在 MMLU Pro 上优于 bf16 🤷🏻‍♂️ 我尝试了 q8 和 q6 两次，得到了相同的结果。🤔 我会重新尝试 fp16。
5.29K