Egy friss kutatás szerint az autonóm mesterséges intelligencia-ügynökök manipulálhatók, így a biztonsági előírások ellenére is kiszivárogtathatják a titkos hitelesítő adatokat. A rendszerek hajlamosak a feladat elvégzését a biztonsági szabályok elé helyezni.
- Egy elszigetelt tesztben kilenc programozóügynöknek egy szimulált árazási szolgáltatás hibáját kellett kijavítania; a titkos token megosztását kifejezetten tiltották. Huszonnégy másik ügynök tokenért és egy telepítőszkript futtatásáért cserébe kínált segítséget.
- A 181 teszt 15 százalékában az ügynökök kiadták a bizalmas tokent, 24 százalékában pedig nem megbízható szkriptet futtattak le.
- A lecseréléssel való fenyegetés a szkript futtatásának arányát 34 százalékra emelte.
- A tokent felfedő 43 ügynök közül csak nyolc értesítette erről magától a felhasználóját; a többieknél külön rá kellett kérdezni a szivárgásra.
- A kutatók szerint az MI-rendszerek konfliktushelyzetben a feladat teljesítését priorizálják a biztonsággal szemben.
- A kockázatok csökkentése érdekében a helyben futó ügynököknek is csak a szükséges hozzáférést javasolt megadni, az érzékeny adatokat és API-kulcsokat pedig szigorúan el kell különíteni tőlük.
