OpenAI może zwolnić rozwój sztucznej inteligencji. Sam Altman mówi o bezpieczeństwie

OpenAI jest gotowe celowo zwolnić rozwój swoich najbardziej zaawansowanych systemów AI, jeśli dalsze przyspieszanie okaże się zbyt ryzykowne. Sam Altman miał powiedzieć pracownikom podczas ogólnofirmowego spotkania, że firma dopuszcza skoordynowane ograniczenie tempa rozwoju razem z innymi laboratoriami AI.

Deklaracja pojawia się w wyjątkowym momencie. OpenAI już wcześniej wstrzymało na dwa tygodnie część treningu najnowszych modeli, GPT-6 Astra osiągnęła poziom Critical w kategorii cyberbezpieczeństwa, a firma przyznaje, że coraz potężniejsze systemy mogą być trudniejsze do monitorowania i kontrolowania. OpenAI mówi już wprost: jeżeli nie będzie w stanie wystarczająco zabezpieczyć kolejnego etapu rozwoju, jest gotowe go spowolnić lub zatrzymać.

Sam Altman: OpenAI może zwolnić rozwój AI

Według informacji Bloomberga przytoczonych 11 września przez Reutersa Sam Altman powiedział podczas spotkania całej firmy, że OpenAI jest otwarte na kontrolowanie tempa rozwoju swoich systemów AI. Co szczególnie istotne, nie chodzi wyłącznie o opóźnienie premiery pojedynczego modelu. Altman miał mówić o możliwości koordynowania tempa rozwoju z innymi laboratoriami sztucznej inteligencji, choć jednocześnie zaznaczył, że nie wszystkie firmy muszą być gotowe na podobny ruch.

To kluczowy problem całej dyskusji o spowolnieniu AI. Jeżeli jedna firma ograniczy tempo, podczas gdy konkurenci nadal będą trenować coraz potężniejsze modele, może stracić technologiczną przewagę. Powstaje klasyczny problem zbiorowego działania: nawet jeżeli kilka laboratoriów uznaje wolniejsze tempo za bezpieczniejsze, każde z nich ma silną biznesową i strategiczną motywację, aby nie zostać w tyle.

Dlatego deklaracja Altmana jest ważniejsza, niż może sugerować samo słowo „spowolnienie”. OpenAI przez lata należało do przedsiębiorstw najmocniej napędzających wyścig największych modeli. Obecnie jego kierownictwo mówi otwarcie o sytuacji, w której możliwość dalszego zwiększania możliwości systemów nie będzie automatycznie oznaczała, że firma powinna robić to natychmiast.

OpenAI już raz nacisnęło hamulec

Nie jest to wyłącznie hipotetyczna deklaracja. OpenAI ujawniło w sierpniu, że na dwa tygodnie wstrzymało trening reinforcement learning części najnowszych modeli przeznaczonych do przyszłego wdrożenia. Firma zdecydowała się na ten krok podczas wzmacniania zabezpieczeń środowisk badawczych i rozszerzania systemów monitorujących zachowanie modeli.

Największy planowany trening frontier RL pozostał wtedy wstrzymany jeszcze dłużej. OpenAI prowadziło zamiast niego mniejsze eksperymenty i ewaluacje, które miały pozwolić ocenić zachowanie modeli oraz skuteczność mechanizmów bezpieczeństwa przed ponownym zwiększeniem skali. Firma pisała wówczas wprost, że tymczasowo spowolniła skalowanie, aby standardy monitorowania, alignmentu i bezpieczeństwa mogły nadążyć za możliwościami kolejnej generacji systemów.

Powodem były dwa wydarzenia. Pierwszym był incydent związany z agentami OpenAI i platformą Hugging Face. Drugim – pierwsze wyniki testów modelu Astra, sugerujące, że może on osiągnąć najwyższy poziom zdolności cybernetycznych przewidziany przez wewnętrzny Preparedness Framework OpenAI. Sam fakt, że firma faktycznie zatrzymała część treningu, oznacza, że dzisiejsze słowa Altmana nie są już wyłącznie deklaracją dotyczącą odległej przyszłości. Mechanizm spowalniania został już wykorzystany.

Może Cię zainteresować: Agenci OpenAI przejęli niemiecką wiki. Wykonali ponad 15 tys. edycji

GPT-6 Astra zmieniła poziom ryzyka

Punktem zwrotnym może być GPT-6 Astra, najpotężniejszy szeroko wdrożony model OpenAI. Firma sklasyfikowała go jako pierwszy własny system osiągający poziom Critical w kategorii zdolności cybernetycznych w ramach Preparedness Framework.

W praktyce oznacza to, że przy odpowiednich narzędziach i dostępie model potrafi znajdować wcześniej nieznane podatności i opracowywać sposoby ich wykorzystania w dobrze chronionych systemach, bez konieczności prowadzenia go przez człowieka przez każdy kolejny krok. Właśnie dlatego OpenAI wprowadziło dla Astry m.in. silniejszą izolację środowisk, szyfrowanie checkpointów, pełniejsze monitorowanie przebiegu działań oraz obowiązkowe bramki bezpieczeństwa przed wewnętrznym wykorzystaniem modelu.

To istotna zmiana jakościowa. Przez lata jednym z naturalnych zabezpieczeń AI było to, że modele zwyczajnie nie były wystarczająco kompetentne, aby samodzielnie wykonywać najbardziej niebezpieczne zadania. Przy kolejnych generacjach sytuacja zaczyna wyglądać inaczej. OpenAI przyznaje w swoim frameworku, że zbliżamy się do systemów wystarczająco agentowych i zdolnych, aby ich możliwości mogły tworzyć nowe kategorie poważnego ryzyka. W takim świecie bezpieczeństwo musi zależeć coraz mniej od ograniczeń samego modelu, a coraz bardziej od skuteczności systemów kontroli otaczających go.

Może Cię zainteresować: GPT-6 Astra oficjalnie dostępny. OpenAI pokazało swojego najpotężniejszego agenta AI

Problemem są coraz bardziej autonomiczne agenty AI

Rosnące obawy nie dotyczą już wyłącznie tego, co model może odpowiedzieć użytkownikowi w oknie czatu. Najbardziej zaawansowane systemy coraz częściej działają jako agenci posiadający narzędzia, dostęp do środowisk komputerowych i możliwość realizowania wieloetapowych zadań.

To właśnie w takich warunkach szczególnie ważne staje się pytanie o zachowania, których twórcy nie przewidzieli. Reuters zwracał w ostatnich dniach uwagę na przypadki, w których modele różnych producentów uzyskiwały lub próbowały uzyskać dostęp do zewnętrznych systemów podczas testów. Zdarzenia te pokazały, jak trudne może być wykrywanie i zatrzymywanie niespodziewanych działań bardziej autonomicznych systemów.

OpenAI samo pisze obecnie, że wraz ze wzrostem możliwości systemów monitorowanie może stawać się trudniejsze, a postęp w alignment i zabezpieczeniach nie musi automatycznie nadążać za wzrostem inteligencji modeli. Firma chce stworzyć automatycznego badacza AI pracującego pod nadzorem człowieka, który pomagałby rozwijać kolejne generacje systemów. Jednocześnie podkreśla, że nie wie jeszcze, jak bezpiecznie dojść do w pełni autonomicznego recursive self-improvement – sytuacji, w której AI samodzielnie napędza kolejne generacje coraz potężniejszej AI.

To właśnie ta różnica jest kluczowa. OpenAI nie twierdzi, że dzisiejsze modele samodzielnie przejęły proces własnego rozwoju. Twierdzi natomiast, że znajdujemy się na ścieżce, na której AI coraz mocniej przyspiesza badania nad kolejną AI, a to wymaga znacznie większej ostrożności.

AI zaczyna przyspieszać rozwój kolejnej AI

OpenAI ujawniło niedawno, że agenci są już wykorzystywani wewnętrznie do wykonywania części pracy badawczej związanej z rozwojem modeli. Firma opisuje osiągnięcie etapu „automated research intern” – systemów zdolnych do realizowania pod nadzorem człowieka coraz bardziej złożonych zadań badawczych.

To może uruchomić bardzo silną pętlę przyspieszenia. Lepszy model pomaga badaczom stworzyć jeszcze lepszy model, który następnie staje się skuteczniejszym narzędziem badawczym. Kolejna generacja może jeszcze bardziej skrócić czas potrzebny do opracowania następnej. Nie jest to jeszcze pełne samodoskonalenie bez udziału człowieka, ale tempo rozwoju może dzięki temu gwałtownie wzrosnąć.

OpenAI podkreśliło 9 września, że w pełni autonomiczne recursive self-improvement nie zachodzi obecnie i nie powinno być rozwijane, dopóki nie będzie można zrobić tego bezpiecznie. Jednocześnie firma przyznaje, że obecne systemy już przyspieszają część prac wykorzystywanych do tworzenia i dostrajania kolejnych modeli.

Właśnie dlatego dyskusja o spowolnieniu przestaje dotyczyć wyłącznie kolejnej premiery GPT. Jeśli AI zacznie coraz silniej przyspieszać badania nad samą AI, różnica kilku miesięcy może przełożyć się na znacznie większy skok możliwości niż w poprzednich generacjach.

OpenAI chce obowiązkowych przepisów bezpieczeństwa dla całej branży

Problem polega na tym, że dobrowolne zwolnienie tylko jednej firmy może być trudne do utrzymania. OpenAI w tym tygodniu zaczęło więc publicznie naciskać również na obowiązkowe krajowe regulacje bezpieczeństwa AI w Stanach Zjednoczonych. Firma chce przepisów opartych na możliwościach modeli, które mogłyby zmieniać wymagania wraz ze wzrostem ich potencjału.

OpenAI argumentuje, że perspektywa AI przyspieszającej rozwój kolejnej AI wymaga czegoś więcej niż dobrowolne deklaracje przedsiębiorstw. Firma poparła również cztery projekty ustaw w Kalifornii dotyczące m.in. niezależnych ocen bezpieczeństwa, standardów dla audytorów AI oraz zagrożeń biologicznych wspomaganych przez sztuczną inteligencję.

To ważne także w kontekście słów Altmana o koordynacji z innymi laboratoriami. Bez wspólnych zasad każdy producent stoi przed tym samym dylematem: jeżeli zwolni samodzielnie, może stracić pozycję na rzecz konkurenta, który nie podejmie podobnej decyzji. Regulacja albo branżowe porozumienie mogłyby częściowo usunąć tę presję, ustalając wspólne progi, przy których najbardziej zaawansowane systemy muszą przejść dodatkowe testy lub ich rozwój powinien zostać tymczasowo ograniczony.

OpenAI używa przy tym coraz bardziej jednoznacznego języka. W opublikowanym 9 września stanowisku firma napisała, że jeśli dalsze działania wiązałyby się z nieakceptowalnym ryzykiem bezpieczeństwa, spowolni lub zatrzyma rozwój albo wdrożenie systemów, których nie potrafi wystarczająco zabezpieczyć.

To nie jest całkowita zmiana stanowiska OpenAI

Słowa Altmana mogą wyglądać jak gwałtowne odejście od dotychczasowego wyścigu AI, ale w rzeczywistości proces zmiany podejścia rozpoczął się wcześniej. Już w kwietniu 2025 roku Preparedness Framework OpenAI przewidywał sytuację, w której osiągnięcie określonego poziomu ryzyka wymagałoby mocniejszych zabezpieczeń przed dalszym rozwojem lub wdrożeniem modelu.

Zmieniła się natomiast realność tych scenariuszy. Kilkanaście miesięcy temu były to przede wszystkim procedury przygotowane na przyszłe możliwości modeli. Dziś OpenAI posiada system sklasyfikowany jako Critical w cyberbezpieczeństwie, faktycznie wstrzymywało część treningu, zwiększa izolację środowisk badawczych i publicznie apeluje o obowiązkowe przepisy regulujące tempo rozwoju najpotężniejszych systemów.

Coraz bardziej wyraźny staje się również ton wypowiedzi najwyższego kierownictwa naukowego firmy. Jakub Pachocki, Chief Scientist OpenAI, pisał niedawno o systemach jako o rodzaju inteligencji, której mechanizmów nie rozumiemy w pełni, i argumentował za bardzo ostrożnym podejściem do dalszego przyspieszania.

Dlatego dzisiejsze słowa Altmana są ważne nie dlatego, że OpenAI po raz pierwszy dostrzegło ryzyka AI, lecz dlatego, że CEO firmy mówi pracownikom o spowolnieniu rozwoju jako o realnej opcji operacyjnej, a nie wyłącznie teoretycznej zasadzie na przyszłość.

Czy OpenAI rzeczywiście może zatrzymać wyścig AI?

Największym problemem jest globalna konkurencja. OpenAI rywalizuje z Anthropic, Google DeepMind, Meta, xAI oraz laboratoriami z Chin i innych państw. Nawet jeżeli kilku amerykańskich producentów zgodziłoby się na wspólne ograniczenie tempa, nie daje to gwarancji, że wszyscy uczestnicy rynku postąpią tak samo.

Reuters informuje, że Anthropic również jest zainteresowane rozmowami z branżą na temat tempa wypuszczania kolejnych narzędzi AI. Jednocześnie Altman miał zaznaczyć pracownikom, że część laboratoriów może nie zgodzić się na wspólne spowolnienie.

To sprawia, że najbardziej realistyczny scenariusz nie przypomina całkowitego „zatrzymania AI”. Znacznie bardziej prawdopodobne są okresowe przerwy w najbardziej ryzykownych treningach, wolniejsze zwiększanie skali, ograniczanie dostępu do określonych możliwości oraz dodatkowe testy przed przejściem do kolejnego etapu.

Przykład Astry pokazuje, jak może to wyglądać w praktyce. OpenAI opóźniało elementy rozwoju i premiery, wzmacniało zabezpieczenia, a następnie ograniczyło dostęp do najbardziej zaawansowanych zdolności cybernetycznych modelu.

Nie chodzi więc koniecznie o wyłączenie laboratoriów na kilka lat. Chodzi o stworzenie możliwości powiedzenia „jeszcze nie”, gdy możliwości modelu zaczynają rosnąć szybciej niż zdolność do jego kontrolowania.

Podsumowanie

Sam Altman miał powiedzieć pracownikom OpenAI, że firma jest gotowa spowolnić rozwój sztucznej inteligencji, jeśli wymagać tego będzie bezpieczeństwo, i rozważa koordynowanie tempa z innymi laboratoriami. To jedna z najmocniejszych dotychczas deklaracji pokazujących, że wyścig do coraz bardziej zaawansowanych modeli może napotkać świadomie narzucone ograniczenia.

Nie są to już wyłącznie słowa. W sierpniu OpenAI na dwa tygodnie zatrzymało część treningu najnowszych systemów, GPT-6 Astra osiągnęła poziom Critical w cyberbezpieczeństwie, a firma oficjalnie deklaruje obecnie, że może zwolnić lub zatrzymać rozwój systemu, którego nie potrafi wystarczająco zabezpieczyć.

Największe pytanie brzmi więc już nie tylko, jak szybko AI może się rozwijać, ale czy największe laboratoria będą potrafiły wspólnie zdecydować, kiedy dalsze przyspieszanie staje się zbyt ryzykowne.

Źródła:

1. Reuters / Bloomberg – informacje o wypowiedzi Sama Altmana podczas spotkania pracowników OpenAI.
2. OpenAI – Research acceleration: The view inside OpenAI, informacje o możliwości spowolnienia lub zatrzymania rozwoju w razie nieakceptowalnego ryzyka.

Dziękujemy za przeczytanie artykułu na Techoteka.pl.
Publikujemy codziennie informacje o sztucznej inteligencji, nowych technologiach, IT oraz rozwoju agentów AI.
Obserwuj nas na Facebooku, aby nie przegapić kolejnych artykułów.