OpenAI pozwoli rządowi Stanów Zjednoczonych testować swoje najmocniejsze modele SI nawet 30 dni przed ich publicznym wydaniem, stosując się do dobrowolnego zarządzenia podpisanego w tym tygodniu przez prezydenta Trumpa.
Kluczowe punkty:
- OpenAI zgodziło się udostępniać swoje czołowe modele SI amerykańskim regulatorom, zanim trafią do opinii publicznej.
- Zarządzenie wzywa firmy do przekazywania objętych nim modeli frontier na 30 dni przed ich wydaniem.
- Krytycy twierdzą, że dobrowolne ramy są zbyt słabe, by nadzorować niebezpieczne systemy.
OpenAI popiera federalny przegląd
George Osborne, szef działu krajów w OpenAI, powiedział w CNBC, że firma zapisze się do tych ram, zamiast czekać, aż regulatorzy o to poproszą. Stwierdził, że „całkiem słuszne jest, aby demokratyczne rządy odgrywały dużą rolę” w kształtowaniu sposobu wdrażania tej technologii.
Trump podpisał zarządzenie we wtorek, kończąc miesiące debat nad tym, jak nadzorować najbardziej zaawansowane systemy, nie dławiąc przy tym innowacji. Dokument wzywa firmy do przekazywania objętych nim modeli frontier do federalnego procesu benchmarkingu prowadzonego przez agencje bezpieczeństwa.
Urzędnicy mieliby zbudować tajny test zdolności cybernetycznych i oznaczyć każdy model, który wymaga ściślejszych kontroli, zanim będzie mógł być szeroko sprzedawany.
Ten wymóg jest daleki od jakichkolwiek obowiązkowych licencji czy zasad wstępnej zgody, pozostawiając udział całkowicie dobrowolnym.
Przeczytaj także: Bitcoin przeżywa najgorszy tydzień, gdy Saylor obwinia handel SI
Krytycy kwestionują zarządzenie Trumpa
Nie wszyscy z zadowoleniem przyjęli ten krok. Kongresmen Don Beyer, demokrata z Wirginii współkierujący kongresowym zespołem ds. SI, powiedział, że zarządzenie nadal pozwala firmom wypuszczać potężne modele do opinii publicznej bez znaczącej oceny.
Argumentował, że ramy pozostawiają regulatorów bez narzędzi, których potrzebowaliby, aby wychwycić naprawdę niebezpieczny system. Ponieważ współpraca pozostaje dobrowolna, jej realny wpływ zależy od tego, ilu czołowych deweloperów zdecyduje się do niej przystąpić. OpenAI wcześniej w tym roku proponowało podobny plan przeglądu z własnej inicjatywy, wzywając do ewaluacji bez przekazywania urzędnikom uprawnień do blokowania premiery.
Wyboista droga zarządzenia Trumpa
Wcześniejsza wersja zarządzenia dawała rządowi 90 dni na zbadanie nowych modeli, lecz termin ten skrócono później do 30 dni. Osoby z branży technologicznej, w tym David Sacks i Elon Musk, miały rzekomo ostrzegać, że dłuższy przegląd mógłby spowolnić rozwój amerykańskiej technologii. Planowana uroczystość podpisania z udziałem szefów firm została odwołana w ostatniej chwili, zanim ogłoszono łagodniejszą wersję zarządzenia.
Trump twierdził, że obawia się, iż pierwotny plan mógłby osłabić przewagę kraju nad Chinami w dziedzinie sztucznej inteligencji. Ostateczne zarządzenie wyrosło z niepokoju wokół modelu Mythos firmy Anthropic, który w niezwykle szybkim tempie ujawnił słabości cybernetyczne, co zaniepokoiło zarówno rządy, jak i Wall Street.
Następny artykuł: Kto naprawdę wpływa na Dogecoina? 10 kont X, które warto śledzić