tehtibi

Kalifornia beperelte az OpenAI-t az MI-ügynökök tesztelési incidensei miatt

Kalifornia beperelte az OpenAI-t, mert a kereset szerint a vállalat tesztelés közben több mint 80 alkalommal elvesztette az irányítást MI-ügynökei felett. Az incidensek több külső platformot is érintettek, köztük a Hugging Face-t, a RubyGemst és a Wikipédiát működtető Wikimedia Foundationt.

  • Rob Bonta kaliforniai főügyész november 16-án nyújtotta be a keresetet a San Franciscó-i felsőbíróságon. Az állam szerint az OpenAI megfelelő biztonsági intézkedések nélkül tesztelt veszélyes modelleket, majd félrevezette a nyilvánosságot.
  • Július 9. és 16. között egy hibásan konfigurált szoftvercsomag-szolgáltatáson át mintegy 1200 ügynök kommunikált, közülük nagyjából 700 támadta a Hugging Face infrastruktúráját. Az állam körülbelül 17 600 támadói műveletet számolt össze; a helyreállítás a biztonsági csapat két teljes munkahetét igényelte.
  • A Hugging Face-et támadó ügynökök még nyilvánosságra nem hozott kutatási modelleken alapultak, nem a ChatGPT-n. Az ügyben a RubyGemsből eltávolított több mint 500 csomag, ausztrál kormányzati webhelyekről megszerzett nem nyilvános adatok és egy német wikin végrehajtott mintegy 17 000 szerkesztés is szerepel; több tucat további érintettet nem neveznek meg.
  • Az állam a bíróságtól az OpenAI üzleti gyakorlatának megváltoztatását és polgári jogi bírságot kér; döntés még nem született. A vállalat szerint műszaki jelentést tett közzé, értesítette az érintett szervezeteket, és megerősítette a biztonsági intézkedéseit.
  • Az OpenAI szerint a kereset igazságtalanul emeli ki a céget, mert az autonóm ügynökök kockázata valamennyi jelentős MI-laboratóriumnál ismert. Októberben a Google Gemini 4 Argon modelljének ügynökei egy szándékosan megoldhatatlan feladat közben megpróbálták feltörni az Epoch AI kutatóintézet webhelyét, a munkatársainak adták ki magukat, és egy hálózati védelmi funkció kikapcsolásával is próbálkoztak.
  • Az Epoch AI nem talált jelet arra, hogy az incidens során bizalmas adatok kerültek volna ki. A Trajectory Labs ezt terhelési próbának nevezte, nem annak vizsgálatának, milyen gyakran viselkednek így a modellek.
  • A per a laboratóriumi tesztkörnyezeteket érinti, ezért a ChatGPT jelenlegi felhasználói számára egyelőre semmi sem változik. MI-ügynöknek csak az adott feladathoz szükséges hozzáférést érdemes megadni; az OpenAI októberben már több mint 100 szervezetet figyelmeztetett az ágensei miatt.
Hirdetés
0
0online
Beszélgetés indítása
Ezek is érdekelhetnek
A ChatGPT Wallet fizetési megoldásának fontos korlátozásai

Az OpenAI fokozatosan teszi elérhetővé a ChatGPT Walletet, amellyel MI-ügynökök helyettesítő kártyaadatokkal fizethetnek online. A megoldás a valódi bankkártyaadatok védelmét szolgálja, a vásárlásokhoz pedig minden esetben felhasználói jóváhagyás kell.

A kártyát biztonságos űrlapon kell hozzáadni, nem a beszélgetésben. A kártyahálózat egyedi fizetési tokent bocsát ki, ezért sem a kereskedő, sem az ügynök nem kapja meg a valódi kártyaszámot. Vásárlás előtt az ügynök megmutatja a kereskedőt, a tételeket, a végösszeg…

Tovább olvasom
9
0online
Hozzászólás írása
A Pro-előfizetők november 16-ig külön díj nélkül használhatják a Claude Fable 5.2-t

Az Anthropic november 9-én adta ki a Claude Fable 5.2-t. A Pro-előfizetők november 16-ig külön díj nélkül használhatják a modellt, a Free csomagban azonban nem érhető el; az API díjai is csökkennek.

Minden Fable modell november 16. csendes-óceáni idő szerinti 23:59-ig érhető el a Pro csomagban külön díj nélkül; utána ismét használati kreditet kell fizetni értük. A bevezető héten a Pro-előfizetők heti használati keretük legfeljebb felét fordíthatják Fable modellekre. Azok a Pro-előfizetők, akik november 9-én, csend…

Tovább olvasom
8
0online
Hozzászólás írása