Gubernator Banku Anglii Andrew Bailey uważa, że zanim powstaną szczegółowe regulacje dotyczące sztucznej inteligencji, konieczne są rygorystyczne testy modeli. Jednocześnie władze – jego zdaniem – muszą zachować możliwość interwencji, gdy ryzyka zaczną narastać.
Najważniejsze ustalenia:
- Bailey podkreśla, że ryzyka związane z AI rosną, ale zanim powstanie formalne otoczenie regulacyjne, decydenci powinni najpierw precyzyjnie zidentyfikować słabe punkty systemów.
- Opowiada się za rygorystycznym testowaniem modeli przed wdrożeniem i po wdrożeniu, przy jasno określonych zabezpieczeniach oraz wiarygodnych punktach interwencji człowieka.
- Jego stanowisko pada w momencie, gdy największe firmy AI i rząd USA dyskutują o dobrowolnych ograniczeniach, spowolnieniu rozwoju oraz przyszłej regulacji.
Bailey o testowaniu AI
W rozmowie z BBC Bailey powiedział, że ryzyka związane ze sztuczną inteligencją są „realne i coraz poważniejsze”. Jego zdaniem politycy powinni najpierw sprawdzić, w jakich punktach systemy mogą zawodzić, a dopiero potem decydować, jak powinny wyglądać formalne zasady. „Moim zdaniem regulacja nie jest właściwym punktem wyjścia” – napisał.
Gubernator argumentuje, że społeczeństwo musi zachować możliwość wyznaczania granic dla zaawansowanej AI – kluczowe mają być właśnie rygorystyczne testy przed i po wdrożeniu modeli. Mają one ujawniać podatności oraz weryfikować, czy istniejące mechanizmy bezpieczeństwa są w stanie powstrzymać skutki ewentualnych awarii. Bailey zastrzegł, że rozwój AI nie powinien być blokowany, ponieważ „potencjalne korzyści są ogromne”.
Wielka Brytania powołała już AI Security Institute, który – jak wskazał Bailey – buduje naukowe i techniczne fundamenty dla wiarygodnej oceny bezpieczeństwa systemów AI. „Ale tempo prac musi przyspieszyć” – dodał. Według niego nieoczekiwane zachowanie modeli nie oznacza porażki testów, lecz pokazuje, dlaczego takie testy są w ogóle konieczne.
Spór o bezpieczeństwo w OpenAI
Najwięksi gracze na rynku AI, w tym OpenAI i Anthropic, domagają się mocniejszych zabezpieczeń oraz skoordynowanych międzynarodowo ocen ryzyka, ponieważ możliwości systemów rosną znacznie szybciej niż standardy nadzorcze. OpenAI ogłosiło ostatnio, że nie udostępni swojego najnowszego modelu właśnie z powodu obaw o bezpieczeństwo.
Prezydent Donald Trump odrzucił natomiast apele o spowolnienie rozwoju amerykańskiej AI w wyścigu z Chinami, mówiąc: „kto wygra AI, ten wygra”. Po spotkaniu w Białym Domu 29 września z szefami największych firm technologicznych Trump poinformował, że uczestnicy podpisali „moralnie wiążący” dokument dotyczący AI, który ma być „formą ochrony”.
Zgodnie z tym porozumieniem, firmy biorące udział w inicjatywie biorą na siebie odpowiedzialność za bezpieczeństwo własnych technologii. Podejście Baileya różni się akcentami: chce on, aby testy precyzyjnie wskazały miejsca, w których konieczna jest interwencja regulatorów, zanim powstanie bardziej rozbudowana, formalna architektura nadzorcza wokół zaawansowanych systemów.
Debata wyraźnie przyspieszyła w ostatnich tygodniach, gdy deweloperzy AI, rządy i nadzory finansowe zderzyły się z coraz szybszym postępem modeli oraz trudniejszymi pytaniami o nadzór i odpowiedzialność. Najnowszy głos Baileya wpisuje się w apel branży o skoordynowane zabezpieczenia, decyzję OpenAI o wstrzymaniu premiery modelu oraz inicjatywę Białego Domu, by postawić na dobrowolne, firmowe zobowiązania w zakresie bezpieczeństwa.
Czytaj dalej: Altcoiny odpowiadają za 41% otwartych pozycji na kontraktach futures, wolumen spot już 4x wyższy niż w przypadku Bitcoina
