CEO Gradient, Eric Yang, uważa, że kolejna duża zmiana w sztucznej inteligencji nie nadejdzie z powodu większych, zastrzeżonych modeli ani more powerful data centers.
Zamiast tego, jak twierdzi, będzie ona napędzana fundamentalną zmianą w sposobie trenowania modeli: rozproszeniem treningu w globalnej, bezzezwoleniowej sieci mocy obliczeniowej, a nie wewnątrz murów jednego, korporacyjnego superkomputera.
Mówiąc o pracy Gradient w wywiadzie dla Yellow.com, Yang powiedział, że dzisiejsze dominujące laboratoria AI, takie jak OpenAI, Google, Anthropic, xAI, opierają się na założeniu, że modele bazowe można trenować wyłącznie w ogromnej, scentralizowanej infrastrukturze.
„AI tak bardzo korzysta z centralizacji, że nikt nie był w stanie trenować dużych modeli w wielu centrach danych” – powiedział. Gradient stawia na to, że to założenie wkrótce upadnie.
Yang twierdzi, że Gradient przeprowadził już udane przebiegi treningowe z uczeniem przez wzmacnianie, rozproszone pomiędzy niezależnymi centrami danych, których wydajność dorównuje scentralizowanym workflowom RLHF.
Jego zdaniem otwiera to drzwi do czegoś, co wcześniej uważano za niemożliwe: potreningu modeli z bilionem parametrów, prowadzonego nie przez jedną firmę, lecz przez tysiące dostawców mocy obliczeniowej na całym świecie.
Also Read: As Bitcoin Evolves Into A Global Economy, A Hidden Battle Emerges Behind Closed Doors
Konsekwencje ekonomiczne są równie znaczące. Yang opisuje globalny, „nagrodowy” rynek, na którym operatorzy GPU, centra danych, a nawet mali, niezależni dostawcy infrastruktury konkurują, aby dostarczać moc obliczeniową do zadań treningowych.
Uczestnicy zarabiają, dostarczając obliczenia po jak najniższej cenie, podczas gdy koszty treningu spadają poniżej poziomu scentralizowanych alternatyw, które obecnie dominują na rynku.
Wierzy on również, że zdecentralizowana infrastruktura AI zapewnia istotne korzyści w zakresie bezpieczeństwa i zaufania.
Jeśli wnioskowanie może być wykonywane całkowicie na sprzęcie należącym do użytkownika – MacBookach, komputerach stacjonarnych, domowych GPU czy konfiguracjach hybrydowych – wówczas dane osobowe nigdy nie opuszczają urządzenia.
„Dziś wyciekamy do systemów AI znacznie więcej wrażliwych danych niż kiedykolwiek do Google” – powiedział. „Suwerenny model działający lokalnie to zmienia”.
Yang twierdzi, że ta przejrzystość może rozszerzyć się także na sam trening.
Jeśli pochodzenie danych treningowych będzie rejestrowane on-chain, użytkownicy będą mogli zobaczyć, które środowiska i jacy kontrybutorzy ukształtowali model – co, jak mówi, jest antidotum na uprzedzenia i nieprzejrzystą, redakcyjną kontrolę występującą w scentralizowanych systemach.
Jego zdaniem przyszły krajobraz AI nie będzie zdominowany przez jeden duży model, ale przez „morze wyspecjalizowanych modeli”, trenowanych i współwłaścicielskich w sposób kolaboracyjny.
„Każda firma będzie korzystać z AI tak jak dziś z analityki” – powiedział Yang. „Kiedy to nastąpi, globalna, zdecentralizowana sieć obliczeniowa stanie się jedynym modelem, który się skaluje”.
Read Next: The Aster ETF Hoax That Fooled Even Top Crypto Influencers