Exploration intéressante de l'inférence distribuée sur du matériel hétérogène. Y compris le silicium Apple avec MLX :
Gradient
Gradient2 août, 21:00
L’intelligence a été enfermée dans des jardins clos. Aujourd’hui, nous ouvrons les portes. Parallax fonctionne désormais en mode hybride, avec des Mac et des GPU desservant de grands modèles dans un cadre véritablement distribué.
15,56K