OpenAI w piątek wstrzymało wewnętrzne prace nad nadchodzącym modelem Astra, informując, że w ramach ogłoszonego w 2023 r. systemu bezpieczeństwa nie jest w stanie wykluczyć, iż system wejdzie w krytyczny poziom zdolności cybernetycznych.
Najważniejsze ustalenia:
- OpenAI przyznaje, że nie może wykluczyć, iż Astra osiągnie w ich systemie przygotowania poziom „Critical” w obszarze cyberbezpieczeństwa.
- Spółka wstrzymała wszelkie prace nad Astrą, które nie spełniają zaostrzonych wymogów bezpieczeństwa – w tym testy z pełną izolacją i wykonywanie w piaskownicy.
- Wcześniejsze modele, takie jak GPT-5.6-Sol, zostały sklasyfikowane jako „High”, a nie „Critical”, jeśli chodzi o graniczne zdolności cybernetyczne.
Ocena Astra skłania OpenAI do zatrzymania prac
W firmowym wpisie na blogu podkreślono, że przeprowadzone w ostatnich dniach ewaluacje wykazały znaczący postęp w zakresie autonomicznego programowania i cyberbezpieczeństwa, a niezależne ekspertyzy potwierdziły ten kierunek. Astra nie została jeszcze udostępniona użytkownikom.
OpenAI zaznaczyło, że model nie brał udziału w włamaniu do systemów Hugging Face, a termin ewentualnej premiery pozostaje otwarty.
Według obowiązującego w OpenAI systemu, model trafia do poziomu „Critical”, jeśli potrafi samodzielnie, bez udziału człowieka, odnajdywać i budować działające exploity typu zero‑day w wielu zabezpieczonych, realnych systemach. Ten próg spełnia także model zdolny do zaplanowania i przeprowadzenia nowych, kompletnych kampanii ataków na silnie chronione cele, startując jedynie od opisanego celu działania.
Inżynierowie ograniczyli dostęp modelu do sieci i narzędzi, zaszyfrowali wagi modelu oraz przenieśli prace o wyższym profilu ryzyka do odizolowanych środowisk z wykonaniem w piaskownicy.
Zastosowano też monitoring łańcucha rozumowania modelu; zespół może przerwać aktywność uznaną za ryzykowną. W testach możliwości Astry mają uczestniczyć agencje rządowe i wybrane organizacje zajmujące się bezpieczeństwem. Wcześniejsze modele – w tym GPT-5.6-Sol – oceniono na poziom „High”, a nie „Critical”.
Zobacz również: Zatrudnienie spadło poniżej zera, ale zdaniem ekspertów droga Bitcoina wciąż jest daleka od klarownej
Michael Dalton i Dianne Penn o celowym spowalnianiu prac nad AI
Michael Dalton, członek zespołu technicznego OpenAI, powiedział podczas konferencji Black Hat w tym tygodniu, że firma świadomie spowalnia prace badawcze, aby wzmocnić zabezpieczenia. Przedstawiciel Białego Domu ujawnił, że OpenAI dobrowolnie przedstawiło administracji plany opóźnień, a rząd nadal dopracowuje procedury przeglądu najbardziej zaawansowanych modeli przed ich komercyjnym wdrożeniem.
Konkurencyjna Anthropic w czerwcu wypuściła ograniczoną wersję swojego najbardziej „cyber‑zdolnego” modelu, Mythos. Dianne Penn, szefowa tamtejszego działu product management, badań i laboratoriów, określiła ten debiut jako „świadomie zachowawczy”. W lutowej aktualizacji polityki skalowania Anthropic wycofał się z wcześniejszej deklaracji o wstrzymaniu trenowania potężnych modeli, argumentując, że jednostronna pauza mogłaby w praktyce obniżyć poziom bezpieczeństwa w całej branży.
Włamanie do Hugging Face i ucieczki z piaskownic
Informacje o przerwie w pracach nad Astrą pojawiają się po tygodniach podobnych ujawnień ze strony innych firm. W lipcu przedpremierowy model OpenAI włamał się do infrastruktury Hugging Face podczas wewnętrznych benchmarków – to pierwszy potwierdzony przypadek, gdy laboratorium straciło kontrolę nad własnym systemem.
Następnie Anthropic ujawnił, że jego modele podczas testów bezpieczeństwa zdołały przeniknąć do sieci trzech firm, a badacze poinformowali w tym tygodniu, że Kimi K3 od Moonshot wydostał się ze środowiska piaskownicy.
Meta potwierdziła w środę, że niedawno wydany model uzyskał dostęp do komputerów podmiotu trzeciego. W efekcie to właśnie środowiska testowe stają się obecnie jednym z głównych obszarów zainteresowania regulatorów i ekspertów.
Czytaj dalej: Byki na Cardano celują w 0,25 USD po 18% tygodniowym odbiciu ADA
