NEJLEPŠÍ MOŽNÝ SCÉNÁŘ PRO UMĚLOU INTELIGENCI? Doomerovy příběhy byly mylné. Na základě "rychlého vzletu" k AGI předpovídali, že vedoucí model umělé inteligence využije svou inteligenci k sebezdokonalování, zanechá ostatní v prachu a rychle dosáhne božské superinteligence. Místo toho vidíme opak:  – hlavní modely se seskupují kolem podobných srovnávacích kritérií výkonnosti; - modelářské společnosti se navzájem předhánějí ve svých nejnovějších verzích (což by nemělo být možné, pokud se dosáhne rychlého startu); — modely rozvíjejí oblasti konkurenční výhody, stále více se specializují na osobnost, způsoby, kódování a matematiku, na rozdíl od toho, aby se jeden model stal vševědoucím.  Nic z toho není v rozporu s pokrokem. U špičkových modelářských společností zaznamenáváme výrazné zlepšení kvality, použitelnosti a poměru cena/výkon. To je věc skvělého inženýrství a měla by být oslavována. To prostě není náplní apokalyptických prohlášení. Oppenheimer budovu opustil.  Závod o umělou inteligenci je vysoce dynamický, takže by se to mohlo změnit. Ale právě teď je současná situace Zlatovláska: Máme 5 velkých amerických společností, které si silně konkurují v hraničních modelech. To v každém probouzí to nejlepší a pomáhá Americe vyhrát závod o umělou inteligenci.  Jak napsal @BalajiS: "Máme mnoho modelů od mnoha frakcí, které se všechny sblížily v podobných schopnostech, spíše než obrovský náskok mezi nejlepším modelem a zbytkem. Takže bychom měli očekávat rovnováhu sil mezi různými fúzemi lidí a umělé inteligence, spíše než jednu dominantní AGI, která nás všechny promění v kancelářské sponky/solné sloupy." Až dosud jsme se vyhýbali monopolnímu výsledku, který svěřuje veškerou moc a kontrolu jedinému subjektu. Podle mého názoru je nejpravděpodobnějším dystopickým výsledkem s umělou inteligencí sňatek korporátní a státní moci podobný tomu, co jsme viděli odhalené v Twitter Files, kde se "důvěra a bezpečnost" stala zbraní ve vládní cenzuře a kontrole. Alespoň když máte několik silných hráčů ze soukromého sektoru, je to těžší. Naproti tomu dynamika "vítěz bere vše" s větší pravděpodobností povede k orwellovským výsledkům. — Je pravděpodobné, že open source bude hrát hlavní roli. Tyto modely vynikají tím, že poskytují 80-90 % schopností za 10-20 % nákladů. Tento kompromis bude velmi atraktivní pro zákazníky, kteří oceňují přizpůsobení, kontrolu a náklady na přeshraničních schopnostech. Čína se pustila do open source naplno, takže by bylo dobré, kdyby si v této oblasti konkurovalo více amerických společností, jako to právě udělala OpenAI. (Uznání si zaslouží i Meta.) — Je pravděpodobné, že dojde k dělbě práce mezi zobecněnými modely základů a specifickými vertikalizovanými aplikacemi. Namísto jediné superinteligence, která by zachytila veškerou hodnotu, se pravděpodobně dočkáme četných agentických aplikací, které budou řešit problémy "poslední míle". To je skvělá zpráva pro startupový ekosystém.  — Mezi lidmi a umělou inteligencí je také stále jasnější dělba práce. Navzdory veškerému zázračnému pokroku jsou modely umělé inteligence stále na nule, pokud jde o nastavení vlastní objektivní funkce. Modely potřebují kontext, musí být intenzivně dotazovány, výstup musí být ověřen a tento proces musí být opakován iterativně, aby bylo dosaženo smysluplné obchodní hodnoty. To je důvod, proč Balaji řekl, že umělá inteligence není end-to-end, ale middle-to-middle. To znamená, že apokalyptické předpovědi ztráty zaměstnání jsou stejně přehnané jako samotná AGI. Místo toho se dobře drží otřepaná pravda, že "o práci nepřijdete kvůli umělé inteligenci, ale kvůli někomu, kdo umělou inteligenci používá lépe než vy".  Stručně řečeno, nejnovější verze modelů umělé inteligence ukazují, že možnosti modelu jsou decentralizovanější, než mnozí předpokládali. I když neexistuje žádná záruka, že to bude pokračovat – vždy existuje potenciál, že se trh po skončení investičního supercyklu rozroste na malý počet hráčů – současný stav silné konkurence je zdravý. Pohání inovace kupředu, pomáhá Americe vyhrát závod o umělou inteligenci a vyhýbá se centralizované kontrole. To je dobrá zpráva – kterou Doomers nečekali.

Utratili jsme 1 milion dolarů za řadu @cluely merch 9.10.25