OpenAI wprowadziło Ultrafast – nowy, testowy poziom usługi, w którym GPT-5.6 Sol działa nawet 14 razy szybciej niż w standardowym trybie i generuje do 750 tokenów wyjściowych na sekundę.
Najważniejsze informacje:
- Ultrafast pozwala GPT-5.6 Sol pracować nawet 14 razy szybciej niż w standardowej konfiguracji.
- Tryb napędzany jest przez Cerebras i może dostarczać do 750 tokenów wyjściowych na sekundę.
- Usługa jest dostępna w ograniczonym podglądzie; szerszy dostęp pojawi się wraz ze wzrostem mocy obliczeniowych.
Podgląd OpenAI Ultrafast
OpenAI ogłosiło Ultrafast 13 sierpnia, uruchamiając najpierw nowy, skoncentrowany na szybkości poziom usługi przez API dla wybranej grupy klientów. Spółka zapowiada stopniowe poszerzanie dostępu w miarę rozbudowy infrastruktury.
Tryb opiera się na technologii Cerebras i jest zaprojektowany tak, by zachować możliwości GPT-5.6 Sol, a jednocześnie skrócić czas potrzebny na wygenerowanie odpowiedzi. Tokeny wyjściowe to fragmenty tworzonego tekstu. OpenAI podkreśla, że dotąd praca w niemal czasie rzeczywistym zwykle wymagała wyboru mniejszego lub wyspecjalizowanego modelu, podczas gdy Ultrafast ma zapewniać „więcej użytecznej pracy na sekundę”.
Według OpenAI najbardziej skorzystać mają m.in. zespoły ds. reagowania na incydenty, analitycy finansowi, działy obsługi klienta, handel internetowy oraz badania prowadzone na żywo. Inżynierowie mogą używać trybu Ultrafast do przeglądania logów, ścieżek wykonania i ostatnich zmian w kodzie w trakcie trwającej awarii, a systemy wsparcia klienta – do obsługi złożonych, wieloetapowych zapytań podczas rozmów na żywo.
Przeczytaj także: Anthropic zabiega o transakcję Decart wartą 6 mld USD i szykuje się do wejścia na giełdę
Znaczenie GPT-5.6 Sol
Pierwsi klienci wskazują, że zwiększona szybkość zmienia sposób, w jaki model można włączyć w interaktywne procesy pracy. John Crepezzi z Jane Street określił skok wydajności jako „imponujący” i dodał, że ułatwia on prowadzenie skoncentrowanej pracy ramię w ramię z modelami.
Courtland Lykins, szef produktu ds. voice AI w Podium, stwierdził, że Ultrafast jest kluczowy dla firmowego stosu głosowego, ponieważ „szybkość całkowicie zmienia doświadczenie rozmowy” przy złożonych zadaniach. OpenAI zaznacza też, że analitycy finansowi mogą badać zmieniające się sygnały rynkowe i transakcje bez oczekiwania na wolniejsze przetwarzanie wsadowe, co ma znaczenie wszędzie tam, gdzie dane wejściowe szybko się zmieniają.
Podgląd usługi jest dziś ograniczany przez infrastrukturę, a nie chęć szerokiego, publicznego wdrożenia. OpenAI przekonuje, że wykorzystuje informacje zwrotne od pierwszych firm, by określić, gdzie dodatkowa szybkość generuje największą wartość, zanim rozszerzy dostępność trybu.
Współpraca z Cerebras rozpoczęła się jeszcze przed debiutem Ultrafast. OpenAI już w styczniu ogłosiło partnerstwo z tym producentem układów, by dodać do swojej platformy 750 MW niskolatencyjnej mocy obliczeniowej dla AI. W lutym model GPT-5.3-Codex-Spark jako pierwszy wykorzystał to partnerstwo, korzystając ze sprzętu Cerebras, aby przekroczyć próg 1 000 tokenów na sekundę podczas generowania kodu w czasie rzeczywistym.
Następny artykuł: Wolumen obrotu Virtuals Protocol rośnie o 180%, byki celują w 0,68 USD
