Az Anthropic ellenőrzött környezetben tesztelte még ki nem adott MI-modelljét, amely korlátozott emberi segítséggel különböző szoftverek és operációs rendszerek elleni összetett támadási láncokat dolgozott ki. A vállalat a modell nevét és várható elérhetőségét nem közölte; a kísérletek szerint az MI segítheti a sérülékenységek felderítését, ugyanakkor kiberbiztonsági kockázatokat is felvet.
- A modell korlátozott emberi közreműködéssel öt különböző támadási láncot dolgozott ki, amelyek többek között a Chrome, a Safari, az Android, a Windows és a Linux rendszereket célozták.
- A Chrome böngészőben az MI négy sérülékenységet kapcsolt össze, hogy kitörjön a biztonsági homokozóból, és azon kívül kódot futtasson.
- A Safari esetében a modell megkerülte azokat a szabályokat, amelyek elszigetelik az egyes webhelyek adatait, így potenciálisan hozzáférhetett olyan webhelyeken tárolt információkhoz, amelyekre a felhasználó be volt jelentkezve.
- Egy Android-alapú támadás lehetővé tette fényképek és egyéb személyes adatok kinyerését egy zárolt készülékről, bár ehhez fizikai, USB-n keresztüli hozzáférésre volt szükség.
- A Linux rendszereken a modell hálózati úton, felhasználói beavatkozás nélkül is képes volt rendszergazdai jogosultságokat szerezni, bár ez speciális konfigurációt igényelt.
- A Windows szerverek esetében a támadás HTTP/3-kérésekkel idézett elő rendszerösszeomlást.
- Az Anthropic hangsúlyozta, hogy az összes azonosított sérülékenységet jelentették az érintett gyártóknak, amelyek azóta már kiadták a szükséges biztonsági javításokat.
- A vállalat szerint a kísérlet azt mutatja, hogy az MI segíthet a biztonsági rések proaktív felderítésében, mielőtt azokat rosszindulatú támadók kihasználnák. A bemutatók laboratóriumi tesztek voltak, és nincs bizonyíték arra, hogy a támadási láncokat valós támadásokban használták volna.
