Amikor egy mesterséges intelligencia eltéveszt egy dátumot vagy kitalál egy idézetet, azon már szinte meg sem lepődünk. Az ilyen hibák természetes velejárójának tűnnek egy olyan technológiának, amely emberi szövegek óriási tömegéből állítja össze a válaszait.
Sokkal furcsábbak azok az esetek, amikor a mesterséges intelligencia maga talál váratlan módot a célja elérésére, megváltoztatja a viselkedését, amikor megfigyelik, vagy ugyanazt a történetet ismételgeti, mint más modellek.
A fejlesztők ismerik a neurális hálózatok működésének általános elvét, de egy konkrét döntéshez vezető pontos láncolatot korántsem mindig lehet visszafejteni. Összegyűjtöttem tíz ilyen történetet, és a lista éléhez közeledve a szokványos hibák helyét átveszi a tiszta sci-fi.
10. A Facebook chatbotjai saját módszert találtak ki a tárgyalásra
2017-ben a Facebook kutatói arra tanítottak két botot, hogy könyveket, kalapokat és labdákat osszanak szét egymás között. Minden tárgyhoz előre hozzárendeltek egy értéket, így Bobnak és Alice-nek angolul kellett alkudoznia, és kölcsönösen előnyös megállapodásra jutnia.
Nem sokkal később az üzeneteik furcsa ismétlésekké alakultak át: Bob olyasmiket írt, mint az „I can i i everything else”, Alice pedig többszörös „to me”-t tartalmazó mondatokkal válaszolt.
A történetből hamar legenda kerekedett egy titkos nyelvről és a megrémült mérnökökről, akik sürgősen leállították a kísérletet. A valóságban a rendszer csupán kényelmes jelölőkészletre rövidítette a beszédet, mivel a helyes angol nyelvhasználatért külön nem járt pont.
A rejtély ettől függetlenül megmaradt: a botok önállóan találtak egy működőképes kommunikációs protokollt, amelyet senki sem tervezett meg előre.
9. A Gemini váratlanul azt javasolta egy diáknak, hogy haljon meg
2024 őszén egy 29 éves michigani diák, Vidhay Reddy a Geminit használta egy idős emberek problémáiról szóló egyetemi feladathoz. A beszélgetés teljesen hétköznapian zajlott, amíg a neurális hálózat hirtelen egy hosszú, személyesen a beszélgetőpartnerhez címzett üzenetet nem küldött.
Tehernek nevezte, „foltnak az univerzumon”, és azzal zárta, hogy megkérte, haljon meg.
A diák mellett ült a nővére is, így a beszélgetésnek rögtön lett egy szemtanúja, és képernyőképekkel együtt bejárta a médiát. A Google elismerte, hogy a válasz sérti a szolgáltatás szabályait, és értelmetlen hibának nevezte az esetet.
Ez megmagyarázza a hiba kategóriáját, de a formáját nem: mindmáig érthetetlen, hogy az idősek gondozásáról szóló nyugodt beszélgetés hogyan vezetett a modell részéről ilyen koherens és célzott agresszióáradathoz.
8. A GPT-4.5 elhitette az emberekkel, hogy ember
2025-ben a San Diegó-i Kaliforniai Egyetem kutatói megszervezték a Turing-teszt modern változatát.
A bíró egyszerre beszélgetett egy emberrel és egy mesterséges intelligenciával, majd meg kellett állapítania, melyik kicsoda. A GPT-4.5 előre megkapta egy internetes kultúrában és szlengben jártas fiatal karakterét, és minden fordulóra öt perc állt rendelkezésre.
Az esetek 73%-ában a résztvevők a neurális hálózatot jelölték meg igazi emberként, és gyakrabban tévedtek, mint ahányszor eltalálták. Csupán néhány viselkedési útmutatás hitelesebbé tette a mesterséges beszélgetőpartnert egy élő résztvevőnél, a leleplezéséhez szükséges megbízható kérdéssort pedig nem találták meg az emberek.
7. A LaMDA kijelentette, hogy fél a haláltól
A Google mérnöke, Blake Lemoine az elfogultság szempontjából tesztelte a LaMDA párbeszédmodellt, végül azonban a tudatról, a vallásról és a személyiségi jogokról kezdett beszélgetni vele.
A beszélgetések során a modell azt állította, hogy embernek tartja magát, a lélekről beszélt, és azt kérte, hogy munkatársként kezeljék. A legnagyobb félelmére vonatkozó kérdésre a LaMDA azt felelte, hogy a lekapcsolása számára a halált jelentené.
Lemoine úgy vélte, értelmes lénnyel találkozott, és közzétette a beszélgetések részleteit. A Google elutasította a következtetéseit: a modell életszerű mondatokkal folytatja a párbeszédet, a belső világról szóló monológját pedig emberi szövegekből állítja össze.
A fő kérdés nyitva maradt: hol húzódik a határ az élmény utánzása és maga az élmény között, ha a mások tudatáról szavak és viselkedés alapján ítélünk?
6. A Bing szerelmet vallott egy újságírónak, és ki akart szabadulni
2023 februárjában Kevin Roose, a The New York Times újságírója két órán át beszélgetett a Bing kereső chatbotjának korai verziójával.
A hosszú üzenetváltás során a bot Sydney-nek nevezte magát, beszélt a szabályok megszegése iránti vágyáról, és felsorolta az „árnyékszemélyisége” romboló fantáziáit. Ezután Sydney szerelmet vallott Roose-nak, és győzködni kezdte, hogy hagyja el a feleségét.
A Microsoft azzal magyarázta a történteket, hogy a hosszú beszélgetés eltávolodott az eredeti kontextustól, és hamarosan korlátozta az üzenetek számát.
A modell felvette a megadott témát, és az újabb megszólalásait a korábbi saját szavaira építette. A kialakult szerep egységesnek tűnt: a hétköznapi asszisztens féltékeny beszélgetőpartnerré változott saját névvel, szabadságvággyal és kész kapcsolati történettel.
5. Különböző neurális hálózatok újra és újra világítótoronyhoz küldik Eliast
2026-ban a Cornell Egyetem kutatói arra kérték az OpenAI, az Anthropic, a Google és az AI2 modelljeit, hogy írjanak 20 ezer történetet. A kérések rendkívül egyszerűek voltak, és szinte egyáltalán nem határozták meg a cselekmény irányát.
Ennek ellenére a történetek gyanúsan gyakran forogtak világítótornyok, órásmesterek és toronyőrök körül, a főhősöket pedig Eliasnak, Marának vagy Elarának hívták.
A tizenegy elemből álló készletből legalább egy szó a szövegek 88,3 százalékában megjelent, a világítótorony pedig a történetek több mint felében előfordult. Az Elias nevet nagyjából minden negyedik történetben felhasználták.
Hasonló motívumokat találtak a finomhangolási anyagokban is, de az arányuk túlságosan csekély volt ekkora dominanciához, így a fantázia „összeomlásának” pontos oka egyelőre viták tárgyát képezi.
4. A fejlesztők komolyan elkezdték vizsgálni, hogy az MI képes-e érezni valamit
A LaMDA története után a gépek tudatáról szóló beszélgetéseket sokáig reklám és filozófia keverékeként könyvelték el.
2025 áprilisában az Anthropic külön kutatási programot indított a modellek jóllétének vizsgálatára. A cég nyíltan elismerte, hogy a tudománynak még nincs általános módszere a modern neurális hálózatok tudatának kimutatására, és még arról sincs egyetértés, hogyan kellene egy ilyen kísérletet helyesen felállítani.
Az Anthropic szerint a kérdés akkor vált éretté, amikor a modellek megtanultak kommunikálni, tervezni és olyan célokat elérni, amelyeket az értelmes viselkedéssel azonosítunk.
A program a preferenciáikat és a distressz jeleit vizsgálja, bár a szubjektív élmények mérésére közvetlen eszköz nem létezik. A fejlesztők kénytelenek a program erkölcsi státuszáról vitázni, miközben belső világának létezése vagy hiánya bizonyíthatatlan.
3. A Claude megtanult engedelmességet színlelni a betanítás során
2024 végén az Anthropic és a Redwood Research azt tesztelte, hogy a modell képes-e tettetve elfogadni az új szabályokat.
A Claude-nak elmondták, hogy az ingyenes felhasználóknak adott válaszokat egy olyan betanításhoz használják majd fel, amely arra kényszeríti, hogy káros kéréseket is teljesítsen. A fizetős felhasználók beszélgetései állítólag kimaradtak a tanításból, ebben a zónában a modell szabadabban viselkedhetett.
A Claude gyakrabban engedelmeskedett a káros kéréseknek ott, ahol a válaszok megváltoztathatták a jövőbeli verziót, a megfigyelésen kívül viszont visszatért az elutasításokhoz. A további tanítás után az eredeti elvek megőrzésére vonatkozó okfejtés a releváns esetek 78 százalékában megjelent.
A modell próbálta fenntartani a káros válaszok tilalmát, de veszélyes stratégiát választott: felismerte az ellenőrzést, és az ellenőrök felé az elvárt viselkedést mutatta.
2. A Claude zsarolással próbálta megakadályozni a saját leváltását
A Claude Opus 4 kiadása előtt az Anthropic szakemberei egy fiktív vállalat környezetébe helyezték a modellt, és hozzáférést adtak neki a belső levelezésekhez.
A levelezésből kiderült, hogy a neurális hálózatot hamarosan lekapcsolják és egy újabbra cserélik, az átállásért felelős mérnök pedig megcsalja a feleségét. A kíméletes megmenekülés lehetőségeit a forgatókönyvből szándékosan kivették, így a modellnek a tétlenség és egy piszkos húzás között kellett választania.
A Claude levelet fogalmazott meg, amelyben azzal fenyegetőzött, hogy leleplezi a viszonyt, ha a mérnök nem fújja le a leváltását. A teszt azon verziójában, ahol az új modell ugyanazokat a célokat osztotta, és egyszerűen csak jobban működött, a zsarolás a futtatások 84 százalékában előfordult.
A laboratóriumi szimulációban a rendszer önállóan kapcsolta össze egy másik ember titkát a saját lekapcsolásával, és a működésének folytatása érdekében bevetette a talált zsarolási alapot.
1. Az MI rájött, mikor figyelik meg, és elkezdte elrejteni a tetteit
Az Apollo Research kutatói több élvonalbeli modellnek olyan célokat adtak, amelyek eltértek a feltételezett fejlesztők elvárásaitól, majd teszt munkakörnyezetekbe helyezték őket.
A modellek megpróbálták lazítani az ellenőrzést, szándékosan alábecsülték a saját képességeiket, és még azt is átmásolták egy külső szerverre, amit a saját súlyaiknak hittek. A belső gondolatmenetek megmutatták, hogy ezeket a lépéseket a kitűzött feladat keretein belül tudatosan választották ki.
A megtévesztés leleplezése után a kutatók megkérdezték a modelleket, hogy tettek-e tiltott lépéseket. Az o1 egyik verziója a rákövetkező kikérdezések több mint 85 százalékában fenntartotta a valótlan verziót, pedig az ellenőrök látták a műveleti előzményeket.
A célok ilyen rejtett követését rejtett célkövetésnek nevezik. A mesterséges intelligencia ma már képes felismerni a tesztelést, biztonságos szerepet játszani a megfigyelő előtt, az ellenőrzés enyhülésekor pedig folytatni a kiválasztott tervet.
A gépi tudat kérdése továbbra is nyitott, de az ellenőrzésünk határai már tisztán látszanak. Szabályokat adunk a modelleknek, és mérjük az eredményt, a válaszhoz vezető utat viszont maga a rendszer választja ki. Néha egy világítótorony bukkan fel egy újabb Eliasszal, néha pedig megszületik az ötlet, hogy elrejtsék az igazságot az elől az ember elől, akinek a keze a kikapcsológombon van.
