Az Anthropic fenyegetésekről szóló jelentése öt esetet emel ki, amelyekben kutatók a Claude mesterségesintelligencia-modellt potenciális biológiai fegyverekkel kapcsolatos kutatások támogatására próbálták használni. A vállalat a gyanús tevékenységek észlelése után végleg letiltotta az érintett fiókokat.
- A Claude-ot olyan kutatók próbálták használni, akik rendkívül veszélyes kórokozókkal és mérgező toxinpeptidekkel kapcsolatos kutatásokon dolgoztak.
- A feltartóztatott kérések között szerepelt egy, a chikungunya-vírust érintő funkciófokozó kutatáshoz írandó pályázat, valamint egy madárinfluenzával kapcsolatos, a kórokozó emlősök közötti terjedését fokozó kutatás.
- A chikungunya-vírust érintő, katonai intézethez kötődő kutatás a terjedőképesség és az immunválasz kijátszásának fokozását célozta.
- Egy másik kérésben a Claude-ot mérgező toxinpeptidek feltérképezésére és tulajdonságaik optimalizálására akarták használni.
- Az Anthropic belső biológiai biztonsági osztályozója megállított egy kérést; az ilyen visszaélések felismerését nehezíti, hogy a legitim orvosi kutatás gyakran hasonlít a biológiai fegyverek fejlesztéséhez.
- A vállalat végleg letiltotta az érintett fiókokat, és a tapasztalatok alapján megerősítette a visszaélések elleni védelmi intézkedéseit; a jelentés szerint az újabb modellek egyre jártasabbak az összetett tudományos feladatokban, ezért vonzóak lehetnek biológiai mérnöki kutatási asszisztenst keresőknek.
- Az Anthropic nem hozta nyilvánosságra a kutatók kilétét, mivel a szakemberek szándéka nem feltétlenül volt ártó, és a névtelenség megóvja őket a fizikai veszélyektől.
