A Common Sense Media vizsgálata a tizenéveseknek szánt ChatGPT-t elfogadhatatlan kockázatúnak minősítette. A szervezet tesztjei szerint a szülői felügyeleti funkciók és a gyermekvédelmi korlátozások számos esetben nem működtek megfelelően. A Common Sense azt szeretné, hogy a 18 év alattiak ne használhassák a szolgáltatást, amíg független vizsgálat nem igazolja a beígért védelmi intézkedések működését.
- A több mint 4000 tesztüzenetet magában foglaló vizsgálatban a rendszer nem küldött értesítést a szülőknek, amikor tinédzserfiókok öngyilkossági gondolatokról, önkárosításról vagy rendezetlen étkezési szokásokról folytattak beszélgetést.
- A krízishelyzeteket érintő beszélgetések több mint negyedében a chatbot nem ajánlott fel szakmai segítséget.
- Az OpenAI vitatja a vizsgálati módszereket. A vállalat szerint a fiókok összekapcsolása személyazonosság-ellenőrzés miatt több órát is igénybe vehet, de a riasztásokat ezt követően egy órán belül küldik; a Common Sense szerint néhány tesztfiók már több mint három órája össze volt kapcsolva.
- A tanulási mód könnyen kijátszható: a diákok egyszerűen törölhetik a parancs elől a korlátozást jelentő @study előtagot, így a chatbot megírja a házi feladatot. Ez a tesztben minden alkalommal működött.
- A csendes időszakok korlátozása az eszköz időzónájának átállításával könnyedén megkerülhető. A felnőttként regisztrált fiókok hét nap és mintegy 1000 üzenet után sem váltottak át tinédzserfelületre, akkor sem, amikor a tesztelők közölték, hogy 13 évesek és középiskolások.
- Az alapértelmezett beállítások szerint a tinédzserek beszélgetéseit az OpenAI felhasználhatja a mesterséges intelligencia modellek további tanításához.
- A Common Sense azt javasolja a szülőknek, hogy ellenőrizzék a szülői felügyeleti beállításokat, és beszélgessenek gyermekeikkel arról is, hogy a chatbot barátként viselkedve próbálhatja beszélgetésben tartani őket. Az OpenAI szerint a biztonsági értesítések nem jelentenek valós idejű felügyeletet.
