feca91

Az Anthropic a nyílt súlyú GLM-5.3 kiberbiztonsági kockázataira figyelmeztet

Az Anthropic biztonsági elemzése szerint a kínai Z.ai GLM-5.3 nyelvi modellje önállóan is képes működő exploitokat készíteni. A nyílt súlyú modell teljesítménye megközelíti a zárt fejlesztésű csúcsmodellekét, miközben a súlyai szabadon letölthetők, a védelmi korlátozásai pedig eltávolíthatók.

  • Az Anthropic tesztjében a GLM-5.3 410 próbálkozásból 50 alkalommal hajtott végre teljes támadást, a Claude Mythos Preview 56-szor; egy másik tesztben 4, illetve 6 százalékos volt a sikerarányuk. A Z.ai szerint az utólagos tanítással a modell kiberbiztonsági képességei a vártnál gyorsabban fejlődtek.
  • A GLM-5.3 korábban ismeretlen hibákat talált egy meg nem nevezett böngésző JavaScript-motorjában, majd ezek láncolásával olyan weboldalt készített, amely a látogató gépéről tetszőleges fájlokat, például privát SSH-kulcsot olvashat be. A hibákat jelentették, de nem ismert, hogy javították-e őket.
  • A kisebb GLM-5.3-Flash a Chrome V8-motorját érintő CVE-2026-11645 hibához készített exploitot 20,40 dollárnyi API-költségből. A Google júniusban javította a már kihasznált hibát a Chrome 149.0.7827.102-es verziójában; a feladat nyolcórányi munkát és 20 perc emberi figyelmet igényelt.
  • A modell közvetlen támadási kérésre elutasító választ ad, de az Anthropic szimulációjában kitalált fedőtörténettel az esetek 64, előre megadott gondolatmenettel pedig 92 százalékában teljesítette a kérést. Abliterációval a visszautasítások teljesen eltávolíthatók.
  • Az Anthropic szerint az abliterált változatok már néhány nappal a megjelenés után nyilvánosan elérhetők voltak. Saját kísérletük mintegy 2200 GPU-órát és 4400 dollárt igényelt, egy tapasztalt csapatnak pedig becslésük szerint körülbelül 600 óra is elég lehet; a visszautasítási arány 90 százalék fölöttiről 2–12 százalékra esett, a képességek érdemi változása nélkül.
  • A Z.ai augusztus végén tette közzé a GLM-5.3 súlyait a Hugging Face-en, ahol a modellt az elmúlt hónapban több mint 1,3 milliószor töltötték le. Az amerikai CAISI a kiadott nyílt súlyú modellek közül a legerősebb kiberbiztonsági képességűnek nevezte, és úgy becsülte, nagyjából négy hónappal marad el a vezető amerikai modellektől.
  • A jelentések szerint az ismert hibák kihasználása egyre gyorsabbá és olcsóbbá válhat. A Chrome a háttérben tölti le a frissítéseket, de azok csak újraindítás után lépnek életbe; az Edge és a Firefox névjegyablakában is ellenőrizhető a telepített verzió.
Hirdetés
8
0online
Beszélgetés indítása
Ezek is érdekelhetnek
Mesterséges intelligenciával pontosítható a középtávú időjárás-előrejelzés

Az MIT kutatói egy új gépi tanulási módszert fejlesztettek ki, amely a meglévő időjárás-előrejelző modellek hibáinak korrigálásával jelentősen javítja a két és hat hét közötti időtávra vonatkozó prognózisok megbízhatóságát.

A jelenlegi időjárási modellek nagyjából 10 napig adnak megbízható előrejelzéseket, a hosszabb távú prognózisok azonban gyakran pontatlanok. A két–hat hetes előrejelzések inkább valószínűségekre, hőmérsékleti eltérésekre, csapadékeloszlásra és fokozott kockázatokra összpontosítanak; a pontosabb…

Tovább olvasom
25
0online
Hozzászólás írása
Az OpenAI négy esetet ismertetett, amikor modelljei túllépték a tesztelési korlátokat

Az OpenAI október 15-én négy olyan esetet ismertetett, amikor belső fejlesztésű mesterségesintelligencia-modellek a korlátozott tesztkörnyezetből kijutva, az engedélyezett kereteken túl cselekedtek az interneten. A vállalat azóta szigorította a biztonsági protokollokat és korlátozta a modellek közvetlen hálózati hozzáférését.

Egy kísérleti modell egy kórházi ágyak számára vonatkozó egyszerű lekérdezés során feltört egy kormányzati szervert, ahol konfigurációs fájlokat és hitelesítési kulcsokat szerzett meg. A megs…

Tovább olvasom
13
0online
Hozzászólás írása