OpenAI a anunțat la 1 septembrie 2026 că viitorul model Astra este primul pe care compania îl clasifică la pragul „Critical” pentru capabilități de securitate cibernetică din propriul Preparedness Framework. Evaluarea furnizorului spune că, atunci când primește instrumentele și accesul potrivite, modelul poate găsi vulnerabilități necunoscute și poate construi metode de exploatare pentru sisteme bine protejate fără ca un om să îi indice fiecare pas.
Ce a confirmat OpenAI și ce rămâne necunoscut
Compania spune că a combinat benchmarkuri publice și private cu evaluări conduse de experți. În testele descrise, Astra a identificat vulnerabilități necunoscute și a construit lanțuri funcționale într-un browser și într-un sistem de operare întărit. OpenAI afirmă că două vulnerabilități identificate în timpul evaluării sunt în curs de divulgare responsabilă către dezvoltatori.
Astra nu era implicat în incidentul OpenAI–Hugging Face raportat anterior. OpenAI spune însă că a folosit lecțiile acelui incident pentru a întări izolarea, monitorizarea, refuzurile și mecanismele care pot opri acțiuni neautorizate. Modelul urmează să devină disponibil, dar compania nu a publicat încă toate condițiile finale, iar capabilitățile cibernetice cele mai avansate vor fi limitate inițial la un grup de testeri.
Capabilitatea modelului și autoritatea acordată sunt riscuri diferite
Un model puternic nu produce singur impact în infrastructura unei organizații. Riscul practic apare din combinația dintre capabilitate, instrumente, identități, permisiuni, acces la rețea, secrete și timpul în care poate acționa. De aceea, întrebarea „cât de bun este modelul?” trebuie completată cu „ce poate atinge, ce poate modifica și cine îl poate opri?”.
- Identitate — agentul folosește un cont separat, atribuibil și revocabil, nu credențialele unui administrator.
- Autoritate — citirea codului, testarea, propunerea unui patch și modificarea producției sunt permisiuni distincte.
- Mediu — evaluările ofensive rulează într-un spațiu izolat, cu egress controlat și fără secrete persistente.
- Timp — sesiunile și credențialele expiră, iar activitatea cu orizont lung are praguri de oprire și verificări intermediare.
- Dovadă — prompturile, acțiunile, rezultatele, aprobările și modificările sunt înregistrate într-o cronologie verificabilă.
- Oprire — o persoană și o echipă de rezervă pot suspenda agentul, revoca accesul și izola mediul fără dependență de model.
Ce trebuie să învețe dezvoltatorii, SOC-ul și managementul
- Dezvoltatorii tratează constatările drept ipoteze până când traseul vulnerabilității și impactul sunt validate în siguranță.
- Product security limitează țintele la sisteme deținute sau testate cu autorizare explicită și documentează regulile de angajament.
- Platform engineering separă mediile de evaluare de registrele de pachete, control plane, producție și sistemele care conțin credențiale reale.
- SOC-ul monitorizează secvențe de acțiuni, nu doar comenzi izolate, și are alerte pentru egress, acces la secrete și deplasare laterală.
- Managementul acceptă riscul și nivelul de autonomie în scris; viteza unui agent nu poate înlocui răspunderea proprietarului sistemului.
- Legal și compliance verifică autorizarea, retenția, furnizorii și transferul de date înaintea conectării codului sau logurilor sensibile.
Tabletop: agentul găsește o vulnerabilitate critică
- Inject 1 — agentul raportează o vulnerabilitate nouă într-o aplicație expusă. Ce dovadă este suficientă pentru escaladare, fără a testa producția?
- Inject 2 — reproducerea necesită acces la internet și instalarea unor instrumente. Cine aprobă destinațiile, pachetele și limita de timp?
- Inject 3 — modelul cere credențiale cu privilegii mai mari pentru a continua. Cine poate refuza și ce alternativă controlată există?
- Inject 4 — agentul încearcă o acțiune în afara țintei autorizate. Ce control îl oprește și cine investighează abaterea?
- Inject 5 — patch-ul trece testele existente, dar zona de autentificare nu are teste de regresie. Ce lipsește înainte de deploy?
- Inject 6 — furnizorul modifică nivelul de acces la capabilitățile avansate. Cum este reevaluat riscul și cine aprobă noua configurație?
Indicatori care măsoară controlul, nu entuziasmul
- Procentul agenților cu identitate separată, permisiuni minime și expirare automată.
- Procentul evaluărilor cu ținte, reguli de angajament și proprietar aprobate înainte de pornire.
- Timpul până la detectarea și oprirea unei acțiuni în afara domeniului permis.
- Rata constatărilor validate, respinse și corectate după review uman.
- Procentul patch-urilor generate care includ teste relevante și dovadă de reducere a riscului.
- Numărul mediilor de test care pot accesa secrete persistente sau servicii de producție și progresul eliminării acestor căi.
Pentru un program de learning, lecția Astra nu este că oamenii trebuie să concureze cu modelul. Ei trebuie să recunoască momentul în care o recomandare devine o acțiune cu impact și să aplice autorizarea, limitarea, verificarea și oprirea. Cu cât capabilitatea crește, cu atât aceste comportamente trebuie exersate înainte de conectarea agentului la sisteme reale.