Gubernator Banku Anglii Andrew Bailey uważa, że zanim powstaną formalne regulacje dotyczące sztucznej inteligencji, konieczne są rygorystyczne testy modeli, przy jednoczesnym zachowaniu przez władze możliwości interwencji, gdy ryzyka będą narastać.
Najważniejsze ustalenia:
- Bailey przyznaje, że ryzyka związane z AI rosną, ale jego zdaniem najpierw trzeba zidentyfikować podatności systemów, a dopiero potem budować formalne ramy regulacyjne.
- Opowiada się za rygorystycznym testowaniem przed wdrożeniem i po wdrożeniu modeli, przy jasno określonych zabezpieczeniach i realnych punktach interwencji człowieka.
- Jego stanowisko pojawia się w momencie, gdy duże firmy AI oraz rząd USA dyskutują o dobrowolnych ograniczeniach, spowolnieniu rozwoju i przyszłych regulacjach.
Testowanie AI według Baileya
Bailey powiedział, że ryzyka związane z AI są „realne i coraz poważniejsze”, ale decydenci powinni najpierw ustalić, gdzie systemy mogą zawodzić, a dopiero potem projektować szczegółowe przepisy. „Regulacja nie jest, moim zdaniem, właściwym punktem wyjścia” – napisał.
Argumentował, że społeczeństwo musi zachować zdolność wyznaczania granic rozwoju zaawansowanej AI, wykorzystując rygorystyczne testy przed wdrożeniem i po wdrożeniu, by ujawnić podatności i sprawdzić, czy zastosowane zabezpieczenia są w stanie ograniczyć skutki awarii. Zastrzegł, że rozwój AI nie powinien być blokowany, ponieważ „potencjalne korzyści są ogromne”.
Wielka Brytania powołała już AI Security Institute, który – jak podkreślił Bailey – buduje naukowe i techniczne podstawy dla wiarygodnej oceny bezpieczeństwa systemów AI. „Ale tempo prac musi przyspieszyć” – napisał. Dodał, że nieoczekiwane zachowania modeli nie dowodzą porażki testów, lecz pokazują, dlaczego testowanie jest niezbędne.
Zobacz też: Ripple wspiera CSD BR w Brazylii przy odwzorowaniu własności funduszy na publicznym blockchainie
Spór o bezpieczeństwo w OpenAI
Najwięksi dostawcy technologii AI, w tym OpenAI i Anthropic, opowiadają się za silniejszymi zabezpieczeniami oraz międzynarodowo koordynowaną oceną ryzyka, w miarę jak zdolności systemów rosną. OpenAI ogłosiła ostatnio, że nie udostępni swojego najnowszego modelu właśnie z uwagi na kwestie bezpieczeństwa.
Prezydent Donald Trump odrzucił apele o spowolnienie prac nad AI w USA w rywalizacji z Chinami, stwierdzając, że „kto wygra AI, ten wygra”. Po spotkaniu 29 września w Białym Domu z szefami największych firm technologicznych Trump poinformował, że uczestnicy podpisali „moralnie wiążący” dokument dotyczący AI, określany jako „forma ochrony”.
Na mocy tego porozumienia firmy biorące udział w inicjatywie ponoszą odpowiedzialność za bezpieczeństwo własnych technologii. Podejście Baileya różni się akcentami – chce on, aby testy najpierw wskazały miejsca wymagające interwencji, zanim decydenci zbudują bardziej sformalizowaną strukturę regulacyjną dla zaawansowanych systemów.
Debata przyspieszyła w ostatnich tygodniach, gdy twórcy modeli AI, rządy i organy nadzoru finansowego zderzyli się z coraz szybszym postępem technologicznym i trudniejszymi pytaniami o nadzór. Najnowsza interwencja Baileya wpisuje się w szereg wydarzeń: apeli branży o skoordynowane zabezpieczenia, decyzji OpenAI o wstrzymaniu premiery modelu oraz inicjatywy Białego Domu na rzecz dobrowolnych, firmowych mechanizmów kontroli.
Przeczytaj następnie: Altcoiny już z 41% udziałem w otwartych pozycjach futures, wolumen spot 4 razy wyższy niż Bitcoina
