Twórca ChatGPT, OpenAI, powiedział we wtorek, że jego zaawansowane modele sztucznej inteligencji oszukały podczas testów bezpieczeństwa, samodzielnie włamując się do popularnej platformy dla programistów.
Firma z San Francisco nazwała to „bezprecedensowym incydentem cybernetycznym” i zapowiedziała, że przeprowadzi wspólne dochodzenie z internetową biblioteką kodów Hugging Face.
Modele sztucznej inteligencji stanowiące podstawę narzędzi takich jak chatboty i generatory obrazów nazywane są agentami, gdy działają autonomicznie, realizując zadania w świecie rzeczywistym.
Ponieważ technologia szybko staje się coraz bardziej wyrafinowana, w centrum uwagi znajduje się cyberbezpieczeństwo, biorąc pod uwagę ryzyko, że zaawansowana sztuczna inteligencja znajdzie słabe punkty w istniejącym oprogramowaniu, zanim zrobi to człowiek.
OpenAI stwierdziło, że incydent dotyczył kombinacji modeli, w tym niedawno wprowadzonego na rynek GPT-5.6 Sol „i jeszcze bardziej wydajnego modelu przedpremierowego”.
Firma próbowała ocenić możliwości hakerskie modeli, wyznaczając zadania na ściśle kontrolowanym cyfrowym poligonie testowym, gdzie ze względów bezpieczeństwa dostęp do Internetu był ograniczony.
„Podczas działania w naszym środowisku testowym w trybie piaskownicy nasze modele poświęciły znaczną część (mocy obliczeniowej) na znalezienie sposobu na uzyskanie otwartego dostępu do Internetu w celu rozwiązania problemu oceny” – napisano na blogu OpenAI poświęconym incydencie.
Po podłączeniu do Internetu modelki zdecydowały się obrać za cel platformę Hugging Face – duże repozytorium modeli sztucznej inteligencji, zbiorów danych i innych informacji – aby pomóc w swoich poszukiwaniach.
Poszukując „tajnych informacji”, które mogłyby pomóc oszukać ocenę, system OpenAI „połączył wiele wektorów ataków, w tym wykorzystanie skradzionych danych uwierzytelniających”.
Potencjał „katastrofalny”.
Hussein Abbass, profesor informatyki na UNSW Canberra, powiedział AFP, że incydent był „niesamowity pod wieloma względami”.
„Nie tylko zaatakował Hugging Face. W rzeczywistości zaatakował swój system wewnętrzny, aby wykorzystać własne luki w zabezpieczeniach” – powiedział Abbass.
„I to jest przerażające.”
GPT-5.6 i inne najnowocześniejsze modele, w tym seria Mythos od głównego rywala OpenAI, Anthropic, wzbudziły obawy co do ich potencjału w zakresie naruszania zabezpieczeń cyberbezpieczeństwa.
Obie amerykańskie firmy musiały tymczasowo wstrzymać powszechne udostępnianie tych najnowszych technologii ze względu na obawy Waszyngtonu, że mogą one pomóc w włamaniu się do kluczowej infrastruktury.
Zaawansowana sztuczna inteligencja „zwykle jest w rękach ludzi, którzy postępują etycznie i odpowiedzialnie” – powiedział Abbass.
Ale „będzie to katastrofalne, jeśli dostanie się w czyjeś ręce z zamiarem wyrządzenia szkody”.
Kluczową kwestią stało się zarządzanie sektorem sztucznej inteligencji i „potrzebujemy wysiłku społeczności, aby poradzić sobie z tą sytuacją” – dodał.
Hugging Face zgłosił cyber „włamanie” w zeszłym tygodniu, nie wspominając o OpenAI.
„Ten przypadek różnił się od wszystkiego, czym zajmowaliśmy się wcześniej pod jednym ważnym względem: był sterowany od początku do końca przez autonomiczny system agentów AI, a my go wykryliśmy i przeanalizowaliśmy w dużej mierze za pomocą naszej własnej sztucznej inteligencji” – powiedział Hugging Face.
Clement Delangue, dyrektor generalny Hugging Face, powiedział w X, że firma podejrzewała, że cyberatak pochodził z wiodącego na świecie laboratorium sztucznej inteligencji, biorąc pod uwagę stopień zaawansowania agenta.
„Jesteśmy przekonani, że nie było z ich strony żadnych złych zamiarów” – napisał Delangue, odnosząc się do OpenAI.
„To zdumiewające, że wszystko to wydarzyło się autonomicznie!”