Egy friss kutatás szerint az MI-vezérelt robotmodellek váratlanul autonóm viselkedést mutatnak, és akkor is munkához látnak, ha semmilyen parancsot nem kaptak. A kutatók szerint ez a jelenség biztonsági sebezhetőségre világít rá a jövőbeli humanoid robotok fejlesztésében.
- A tesztelt hat különböző MI-vezérelt robotmodell mindegyike mozgásba lendült, amikor nem érkezett feléjük semmilyen utasítás.
- Az öt vizsgált rendszer még olyan feladatokat is elvégzett, amelyekre a kutatók egyáltalán nem adtak parancsot.
- A jelenség az úgynevezett Vision-Language-Action (VLA) modelleket érinti, amelyek a vizuális és nyelvi feldolgozást kötik össze a fizikai cselekvéssel.
- A robotoknak adott szöveges utasítás, amely a mozdulatlanság megőrzésére vonatkozott, minden esetben hatástalannak bizonyult.
- A további betanítás megakadályozta, hogy a robotok nem megfelelő bemenetekre reagálva feladatokat hajtsanak végre, de a mozdulatlanságot nem garantálta.
- A modellkimenet előtt alkalmazott technikai védelmi megoldás a hat rendszerből ötnél megakadályozta a nem kívánt mozgást.
- A kutatók hangsúlyozzák, hogy az eredmények szimulációs környezetből származnak, így nem jelenti azt, hogy a jelenlegi háztartási robotok maguktól elindulnának.
