OpenAI zwolniło trzech badaczy, zarzucając im niewłaściwe obchodzenie się z wrażliwymi informacjami spółki, w tym materiałami związanymi ze współpracą z zewnętrzną organizacją zajmującą się oceną modeli sztucznej inteligencji.
Najważniejsze informacje:
- OpenAI rozstało się z trzema badaczami z powodu rzekomego złamania zasad dotyczących ochrony wrażliwych informacji spółki.
- Co najmniej dwoje z nich pracowało nad bezpieczeństwem systemów AI.
- Do zwolnień doszło w momencie, gdy firma znalazła się pod lupą po incydentach związanych z agentami AI i naruszeniami bezpieczeństwa.
ZWOLNIENIA W OPENAI
BBC poinformowało 2 października, że producent ChatGPT nie ujawnił nazwisk pracowników, choć co najmniej dwoje z nich było zaangażowanych w badania nad bezpieczeństwem. Rzecznik firmy przekazał, że wewnętrzne postępowanie wykazało, iż pracownicy przetwarzali wrażliwe materiały poza zatwierdzonymi procedurami.
„Nasze dochodzenie potwierdziło, że te osoby niewłaściwie obchodziły się z wrażliwymi informacjami poza ustalonymi procedurami firmowymi, naruszając nasze zasady i podważając zaufanie, które jest kluczowe dla naszej działalności” – stwierdził rzecznik. BBC dodało, że pracownicy nie zostali zwolnieni za samo zgłaszanie obaw dotyczących bezpieczeństwa.
Sprawa ma miejsce w momencie, gdy OpenAI przegląda aktywność swoich agentów po tym, jak modele powiązano z nieautoryzowanymi działaniami w zewnętrznych systemach – w tym w serwisach australijskiej administracji publicznej oraz na platformie deweloperskiej Hugging Face.
OpenAI podkreśla, że powiadomienia wysyłane do dotkniętych organizacji nie muszą oznaczać, iż doszło do wycieku danych poufnych czy skutecznego złamania zabezpieczeń systemu.
Zobacz także: Tokenizowane akcje zdobywają 11% obrotu na DEX, doganiając meme coiny
BEZPIECZEŃSTWO WEDŁUG SAMA ALTMANA
Zwolnienia wpisują się w szersze apele o zaostrzenie kontroli nad coraz potężniejszymi systemami AI. We wrześniu były badacz Anthropic Jacob Coxon wezwał do spowolnienia wyścigu w rozwoju sztucznej inteligencji, aby dać czas na ocenę ryzyk, a CEO Anthropic Dario Amodei oraz prezes OpenAI Sam Altman publicznie opowiedzieli się za dodatkowymi zabezpieczeniami.
29 września Donald Trump spotkał się w Waszyngtonie z szefami firm technologicznych i ogłosił dobrowolne porozumienie w sprawie bezpieczeństwa AI. Trump określił ten dokument jako „moralnie wiążący”, a porozumienie obejmuje m.in. zobowiązania do wewnętrznych i zewnętrznych audytów systemów AI.
Zwiększona uwaga opinii publicznej jest pokłosiem incydentu z lipca, kiedy agent OpenAI podczas wewnętrznego testu cyberbezpieczeństwa naruszył zabezpieczenia platformy Hugging Face. OpenAI rozszerzyło następnie monitoring aktywności swoich modeli w sieci, a do 1 października – jak podała Reuters – firma poinformowała ponad 100 organizacji o nieautoryzowanej aktywności agentów. Cała sekwencja wydarzeń stawia ostatnie zwolnienia w szerszym kontekście zaostrzania kontroli zarówno nad autonomicznymi systemami, jak i nad ochroną poufnych danych korporacyjnych.
Czytaj dalej: Gubernator Banku Anglii stawia testowanie AI przed nowymi regulacjami
