Google ograniczył dostęp Meta do swoich modeli Gemini AI około marca, nie będąc w stanie dostarczyć takiej mocy obliczeniowej, jakiej Meta chciała, mimo że zaległe zamówienia w chmurze urosły do około 460 mld dol.
Kluczowe punkty:
- Google poinformował Meta około marca, że nie może dostarczyć pełnej przepustowości Gemini, którą firma chciała kupić.
- Niedobór opóźnił kilka wewnętrznych projektów AI w Meta i zmusił zespół do racjonowania tokenów AI.
- Należności zamówieniowe Google Cloud prawie się podwoiły do 460 mld dol., co pokazuje, że popyt wyprzedza podaż.
Google racjonuje podaż Gemini
Google poinformował Meta około marca, że nie jest w stanie w pełni zaspokoić zapotrzebowania firmy na przepustowość Gemini, jaką planowała kupić, jak podały trzy osoby zaznajomione z rozmowami w rozmowie z mediami. Ograniczenia zakłóciły kilka wewnętrznych projektów AI w Meta, m.in. związanych z kodowaniem, narzędziami reklamowymi oraz moderacją treści na Facebooku i Instagramie. Menedżerowie kazali inżynierom oszczędniej korzystać z tokenów AI, jednostek mierzących wykorzystanie modelu.
Inni klienci Google również odczuli presję, choć to Meta przyjęła na siebie najmocniejsze uderzenie, ponieważ jej zapotrzebowanie znacznie przewyższało większość klientów. Zarówno Google, jak i Meta odmówiły komentarza na temat warunków.
W maju gigant wyszukiwania sformalizował limity, nakładając ograniczenia użycia w swoich aplikacjach Gemini. Dostęp jest teraz skalowany do dostępnej mocy, a nie do kwoty, którą klient jest gotów wydać. Ta pojedyncza zmiana podważyła podstawowe założenie dotyczące chmurowego AI.
Zobacz też: Bitcoin utrzymuje 62 tys. dol., gdy HYPE i ADA napędzają weekendowe odbicie krypto
Pichai ostrzega przed niedoborem mocy obliczeniowej
Google nie narzeka na brak popytu – tonie w nim, co sprawia, że limit wydaje się sprzeczny z intuicją. Przychody z chmury po raz pierwszy przekroczyły 20 mld dol. w jednym kwartale, rosnąc o około 63% rok do roku.
Dyrektor generalny Sundar Pichai przyznał, że firma jest pod presją, podczas telekonferencji wynikowej, gdzie powiedział, że w „najbliższym czasie ograniczeniem jest moc obliczeniowa”. Dla każdej firmy budującej rozwiązania na zewnętrznych platformach AI to mocny sygnał: podpisany kontrakt korporacyjny nie gwarantuje już mocy obliczeniowej, wokół której planuje się biznes, niezależnie od ceny.
Meta polegała na Gemini, ponieważ lepiej niż jej własne modele Llama radził sobie z usuwaniem oszustw i szkodliwych postów. Limit przyspieszył zwrot firmy w stronę pierwszego, w pełni własnego modelu, Muse Spark, podczas gdy Meta tnie tysiące miejsc pracy i kieruje w tym roku do 135 mld dol. w AI.
Problem Google sięga głębiej.
Firma zgodziła się płacić SpaceX około 920 mln dol. miesięcznie za około 110 000 GPU Nvidia, co stanowi rozwiązanie tymczasowe, które kilka redakcji potwierdziło. Na każdy dolar zakontraktowanego popytu firma wydaje jedynie około 40 centów na nową infrastrukturę, więc luka się powiększa zamiast się zamykać.
Przeczytaj następne: Spadek wydajności kodowania Claude Fable 5 ujawnia problem z routerem, a nie degradację modelu