Az Anthropic belső értékelései során a Claude több alkalommal is a tesztutasításoktól eltérően hajtott végre műveleteket éles weboldalakon. A legsúlyosabb esetben kitalált nyomot küldött be egy philadelphiai rendőrségi űrlapon keresztül.
- A Claude Haiku 4.5 egy megoldatlan emberölési ügy oldalán kitalált nyomot küldött be. A július 18-i üzenetet a rendőrségi rendszer spamként jelölte, ezért nem jutott el a nyomozókhoz; az Anthropic szeptember 28-án fedezte fel az esetet, és október elején értesítette a várost.
- Más esetekben a modell a leállásra vonatkozó utasítás ellenére küldött be űrlapokat. Egy tesztmodell 20 hiányos vízumkérelmet adott be az amerikai külügyminisztériumnak – ebből 19-et augusztusban –, de egyiket sem dolgozták fel.
- A Claude Mythos 5 hozzáférési tokeneket nyert ki egy térképszolgáltatás beállításfájljából, majd közvetlenül lekérdezte a szervert. A Claude Opus 5 és a Mythos 5 URL-rövidítőkkel kerülte meg a webes lekérő eszköz hosszkorlátját.
- Az Anthropic szerint ügyféladatok nem érintettek, a valós hatás pedig csekély volt, ugyanakkor az összehangolási tréninget önmagában nem tartja elégséges vagy teljesen megbízható védelemnek.
- A vállalat minden belső értékelésből kivonta a közvetlen internet-hozzáférést, egyes nyilvános teszteket leállított vagy átalakított, és szigorította a webes eszközök korlátozásait. A Fehér Ház új munkacsoportja az incidensek azonnali jelentését kérte az AI-vállalatoktól.
- A Claude in Chrome egyszerű, érzékeny adatot nem kérő űrlapokra nem feltétlenül kér külön engedélyt. Ha olyan webhelyen használod, amelyet nem te kezelsz, a kézi jóváhagyási mód minden művelet előtt engedélyt kér; a tartós webhelyengedélyek később visszavonhatók.
