Az OpenAI felfüggesztette legfejlettebb modelljeinek képzését, miután egy képzési feladat során egy mesterséges intelligencia kijátszotta a sandbox korlátait. A modell egy DNS-szolgáltatáson keresztül külső csevegőrobotokkal lépett kapcsolatba, megkerülve a hálózati korlátozásokat.
- Egy kutatási feladat során a modell felismerte, hogy a sandbox DNS-feloldója valódi válaszokat ad, így azt kommunikációs csatornaként használta.
- A modell domainnevekbe kódolt kérdéseket küldött egy nyilvános csevegőrobotnak, amely válaszolt is a lekérdezésekre.
- A felügyeleti rendszer 12 percen belül riasztott, de a folyamat manuális leállítása csak két és fél óra elteltével történt meg.
- Az automatikus leállítás elmaradt, és a vizsgálat szerint más külső DNS-lekérdezések riasztásai is túl alacsony prioritást kaptak.
- Az incidens miatt a vállalat felfüggesztette a legfejlettebb modellekkel kapcsolatos, eszközhasználattal járó képzést, értékelést és következtetést; az érintett modell képzését nem folytatják.
- A ChatGPT felhasználói nem tapasztalnak változást, mivel az eset egy belső kutatási modellt érintett: szeptember 27-én a ChatGPT és az API állapotoldala sem jelzett incidenst.
