OpenAI pozwoli rządowi Stanów Zjednoczonych testować swoje najpotężniejsze modele AI do 30 dni przed publicznym wydaniem, dostosowując się do voluntary order President Trump signed this week.
Kluczowe punkty:
- OpenAI zgodziło się udostępniać swoje czołowe modele AI amerykańskim regulatorom, zanim trafią do opinii publicznej.
- Zarządzenie wzywa firmy do przekazywania objętych nim modeli granicznych 30 dni przed wydaniem.
- Krytycy określają dobrowolne ramy jako zbyt słabe, by nadzorować niebezpieczne systemy.
OpenAI popiera federalną kontrolę
George Osborne, szef działu krajów w OpenAI, told CNBC, że firma przystąpi do tych ram, zamiast czekać, aż regulatorzy sami o to poproszą. Powiedział, że jest „całkowicie słuszne, by demokratyczne rządy odgrywały dużą rolę” w kształtowaniu sposobu wdrażania tej technologii.
Trump signed zarządzenie we wtorek, kończąc miesiące debat nad tym, jak nadzorować najbardziej zaawansowane systemy, nie dławiąc jednocześnie innowacji. Dokument asks firmy o przekazywanie objętych nim modeli granicznych do federalnego procesu benchmarkingu prowadzonego przez agencje bezpieczeństwa.
Urzędnicy mieliby stworzyć tajny test zdolności cybernetycznych i oznaczać każdy model, który wymagałby ostrzejszych ograniczeń, zanim mógłby zostać szeroko sprzedawany.
Ten wymóg jest daleki od jakichkolwiek obowiązkowych licencji czy zasad uprzedniej zgody, pozostawiając udział całkowicie dobrowolnym.
Also Read: Bitcoin Suffers Its Worst Week As Saylor Blames The AI Trade
Krytycy kwestionują zarządzenie Trumpa
Nie wszyscy przyjęli ten krok z zadowoleniem. Kongresmen Don Beyer, demokrata z Wirginii współprzewodniczący parlamentarnej grupy ds. AI, said, że zarządzenie nadal pozwala firmom wypuszczać potężne modele na rynek bez realnej oceny.
Argumentował, że te ramy pozostawiają regulatorów bez narzędzi, których potrzebowaliby, aby wychwycić naprawdę niebezpieczny system. Ponieważ współpraca pozostaje dobrowolna, jej faktyczny wpływ zależy od tego, ilu czołowych deweloperów zdecyduje się do niej przystąpić. OpenAI zaproponowało podobny plan przeglądów już na początku roku, wzywając do oceniania modeli bez przyznawania urzędnikom prawa do blokowania premier.
Wyboista droga zarządzenia Trumpa
Wcześniejsza wersja zarządzenia dawała rządowi 90 dni na analizę nowych modeli, termin później skrócono do 30. Przedstawiciele branży technologicznej, w tym David Sacks i Elon Musk, mieli rzekomo warned, że dłuższa kontrola mogłaby spowolnić amerykański rozwój. Planowana uroczystość podpisania dokumentu z udziałem szefów firm została w ostatniej chwili odwołana, zanim pojawiła się łagodniejsza wersja zarządzenia.
Trump mówił, że obawia się, iż pierwotny plan mógłby osłabić przewagę kraju nad Chinami w dziedzinie sztucznej inteligencji. Ostateczne zarządzenie wyrosło z niepokoju wokół Anthropic's Mythos model, który w niezwykle szybkim tempie ujawnił słabości w cyberbezpieczeństwie, co zaniepokoiło zarówno rządy, jak i Wall Street.
Read Next: Who Really Influences Dogecoin? 10 X Accounts Worth Following