Swarm Inference er en game changer for AI-industrien. For å forstå hvorfor, må du starte med hvordan avkastningen ser ut for byggerne av vanlige slutningsleverandører (GPUer i datasentre). Ta på deg investorhatten: -Du ser boomen av AI. Du ønsker å bli involvert. Å kjøpe GPUer, plassere dem et sted og leie dem ut er kjernen i denne forretningsmodellen. - Du begynner å modellere, du bygger PnL. Datasentre, servere, tilkoblingsmuligheter osv. Dette er din CAPEX og COGS. Top-line skiller seg ut bare for avanserte GPUer. Strøm er dyrt. Behandling er ikke trivielt. - Du kommer til en rask konklusjon: avkastningen er... grovt for å si det mildt. Hvis du går gjennom denne øvelsen, er det en enkel TLDR: Å bidra til AI-økonomien på infrastrukturnivå fungerer bare med skala, eller noen kobler seg på strøm/rom. Inferensinfrastruktur er kommodisert og avkastningen er komprimert. Jeg prøver stadig å finne en måte å skjære dette på, men det føles bare som om det rett og slett ikke er noen alfa å finne her. Fra et teknologiperspektiv er alt dette en konsekvens av måten Inference historisk har fungert på i dag. Du trenger databehandlingstetthet. Høy bussgjennomstrømning, høy VRAM, etc. Svermslutning er en game changer fordi databehandlingstetthet ikke lenger er et krav. CAPEX og COGS ovenfor er en konsekvens av nødvendigheten av databehandlingstetthet. Men hvis du ikke trenger databehandlingstetthet, trenger du ikke datasentre. Sagt på en annen måte, individuelle infrastrukturleverandører trenger ikke å passere et skaleringshinder for å delta. Og hvis du ikke trenger minimumsskala for å delta, kan kanskje til og med et individuelt hjem bidra til AI med avkastning som faktisk gir mening. Det er derfor Swarm Inference er en game changer. Det er innovasjon som endrer hvor alfa kan finnes. Gratulerer til teamet hos Fortytwo for å utføre et paradigmeskifte.