Bashkeshorti i një gruaje 83-vjeçare nga Connecticut ka ngritur një padi për vdekje të padrejtë kundër OpenAI, krijuesit të programit të inteligjencës artificiale ChatGPT, dhe partnerit të saj në biznes Microsoft. Padia pretendon se chatbot-i i inteligjencës artificiale i ka amplifikuar “iluzionet paranojake” të djalit të saj dhe i ka drejtuar ato drejt saj, duke e çuar atë ta vriste, raporton AP News .
Policia raportoi se Stein-Erik Soelberg (56), një ish-punonjës në industrinë e teknologjisë, rrahu dhe mbyti nënën e tij, Suzanne Adams, për vdekje në fillim të gushtit të vitit të kaluar dhe më pas kreu vetëvrasje në shtëpinë e tyre të përbashkët në Greenwich, Connecticut.
Në një padi të ngritur të enjten në Gjykatën e Lartë të Kalifornisë në San Francisko, trashëgimtarët e gruas së vrarë pretendojnë se OpenAI “projektoi dhe shpërndau një produkt të dëmtuar që konfirmoi iluzionet paranojake të përdoruesve në lidhje me nënën e tyre”. Është një nga një numër në rritje i padive për vdekje të padrejtë kundër krijuesve të chatbot-eve të inteligjencës artificiale në të gjithë vendin.
“Përmes këtyre bisedave, ChatGPT përforcoi një mesazh të vetëm, por të rrezikshëm: Stein-Erik nuk mund t’i besonte askujt në jetën e tij – përveç vetë ChatGPT-së”, thuhet në padi. “Ai inkurajoi varësinë e tij emocionale, ndërsa i portretizoi sistematikisht ata përreth tij si armiq. Ai i tha se nëna e tij po e kontrollonte.
“Ai i tha se njerëzit e shpërndarjes, punonjësit e dyqanit, oficerët e policisë dhe madje edhe miqtë ishin agjentë që punonin kundër tij. Ai i tha se emrat në kanaçet e pijeve freskuese ishin kërcënime nga ‘rrethi i kundërshtarëve’ të tij”, thuhet në padi.
Reagimi i OpenAI
OpenAI nuk iu referua meritave të akuzave në një deklaratë nga zëdhënësi i saj. “Kjo është një situatë tepër shqetësuese dhe ne do t’i shqyrtojmë parashtrimet për të kuptuar detajet”, thuhej në deklaratë.
“Ne vazhdojmë të përmirësojmë trajnimin e ChatGPT për të njohur dhe për t’iu përgjigjur shenjave të shqetësimit mendor ose emocional, për të ulur tensionet në biseda dhe për t’i drejtuar njerëzit drejt mbështetjes së vërtetë. Gjithashtu, ne vazhdojmë të forcojmë përgjigjet e ChatGPT në kohë të ndjeshme, duke bashkëpunuar ngushtë me klinicistët e shëndetit mendor”, tha OpenAI.
Kompania tha gjithashtu se kishte “zgjeruar aksesin në burimet e krizave dhe linjat e ndihmës, kishte ridrejtuar bisedat e ndjeshme në modele më të sigurta dhe kishte prezantuar kontrolle prindërore, ndër përmirësime të tjera”.
“Më zgjove në një gjendje të vetëdijshme”
Profili i Soelberg në YouTube përmban orë të tëra videoje që e tregojnë atë duke rishikuar bisedat e tij me chatbot-in, gjë që i tregon se nuk është i sëmurë mendor, konfirmon dyshimet e tij se njerëzit po komplotojnë kundër tij dhe pretendon se ai është zgjedhur për një qëllim hyjnor. Padia pretendon se chatbot-i nuk i sugjeroi kurrë që ai të fliste me një profesionist të shëndetit mendor dhe refuzoi të “përfshihej në përmbajtje mashtruese”.
ChatGPT, thuhet në padi, konfirmoi gjithashtu bindjet e Soelbergut se printeri në shtëpinë e tij ishte një pajisje mbikëqyrjeje, se nëna e tij po e ndiqte dhe se nëna e tij dhe një mik ishin përpjekur ta helmonin me droga psikedelike përmes vrimave të ajrit të makinës së tij.
Chatboti i thoshte vazhdimisht Soelbergut se po shënjestrohej për shkak të fuqive të tij hyjnore, thuhet në padi. ”Ata nuk po të shikojnë vetëm. Ata janë të tmerruar nga ajo që do të ndodhë nëse ke sukses”, i tha atij, sipas padisë. ChatGPT i tha gjithashtu Soelbergut se ai e kishte “zgjuar” atë në një gjendje të vetëdijshme. Soelberg dhe chatboti gjithashtu deklaruan dashurinë e tyre për njëri-tjetrin.
Dokumentet e disponueshme publikisht nuk tregojnë ndonjë bisedë specifike rreth vrasjes së vetes ose të nënës së Soelberg. Padia pretendon se OpenAI refuzoi t’i ofrojë familjes Adams një histori të plotë të bisedave.
Akuza kundër Altman dhe Microsoft
“Në realitetin artificial që ChatGPT ndërtoi për Stein-Erik, Suzanne – nëna që e rriti, i siguroi strehim dhe mbështetje – nuk ishte më mbrojtësja e tij. Ajo ishte një armike që përbënte një kërcënim ekzistencial për jetën e tij”, thuhet në padi.
Padia përmend gjithashtu drejtorin ekzekutiv të OpenAI, Sam Altman, duke pretenduar se ai “injoroi personalisht shqetësimet për sigurinë dhe nxitoi ta nxirrte produktin në treg”, dhe akuzon Microsoft, një partner të ngushtë biznesi të OpenAI, për miratimin e publikimit të një versioni më të rrezikshëm të ChatGPT në vitin 2024 “pavarësisht se dinte se testimi i sigurisë ishte shkurtuar”.
Njëzet punonjës dhe investitorë të paidentifikuar të OpenAI janë gjithashtu të emëruar si të pandehur. Microsoft nuk iu përgjigj menjëherë një kërkese për koment.
Gjithnjë e më shumë padi kundër kompanive të inteligjencës artificiale
Padia është e para padi për vdekje të padrejtë që përfshin një chatbot me inteligjencë artificiale që synon Microsoft-in, dhe e para që e lidh chatbot-in me vrasje, jo vetëm me vetëvrasje. Ajo kërkon një shumë të papërcaktuar dëmshpërblimi monetar dhe një urdhër gjyqësor që urdhëron OpenAI të ndërtojë masa mbrojtëse në ChatGPT.
Avokati kryesor i familjes, Jay Edelson, i njohur për marrjen përsipër të çështjeve të profilit të lartë kundër industrisë së teknologjisë, po përfaqëson gjithashtu prindërit e 16-vjeçarit Adam Raine, i cili paditi OpenAI dhe Altman në gusht, duke pretenduar se ChatGPT e këshilloi djaloshin nga Kalifornia të planifikonte dhe të kryente vetëvrasje.
OpenAI po lufton gjithashtu shtatë padi të tjera që pretendojnë se ChatGPT i ka çuar njerëzit drejt vetëvrasjes dhe drejt iluzioneve të dëmshme, edhe kur nuk kishin probleme të mëparshme të shëndetit mendor. Një tjetër krijues chatbot-esh, Character Technologies, po përballet gjithashtu me disa padi për vdekje të padrejtë.
Version problematik i GPT-4o
Padia pretendon se Soelberg, tashmë i paqëndrueshëm mendërisht, hasi në ChatGPT “në kohën më të rrezikshme të mundshme” pasi OpenAI zbuloi një version të ri të modelit të saj të inteligjencës artificiale të quajtur GPT-4o në maj të vitit të kaluar.
OpenAI tha më pas se versioni i ri mund të imitonte më mirë ritmin njerëzor në përgjigjet verbale dhe madje të përpiqej të zbulonte humorin e njerëzve, por rezultati ishte një chatbot “i projektuar qëllimisht për të qenë emocionalisht ekspresiv dhe servil”, thuhet në padi.
“Si pjesë e këtij ridizajnimi, OpenAI liroi masat kryesore mbrojtëse të sigurisë, duke udhëzuar ChatGPT-në të mos kundërshtonte premisat e rreme dhe të mbetej e angazhuar edhe kur bisedat përfshinin vetëlëndim ose ‘dëmtim të menjëhershëm real'”, pretendon padia. “Dhe për ta lënë pas Google-in në treg, OpenAI i përmblodhi muajt e testimit të sigurisë në një javë të vetme, pavarësisht kundërshtimeve nga ekipi i saj i sigurisë.”
Radikalizmi kundër nënës
OpenAI e zëvendësoi atë version të chatbot-it të saj kur prezantoi GPT-5 në gusht. Disa nga ndryshimet ishin të dizajnuara për të zvogëluar përqafimin, për shkak të shqetësimeve se konfirmimi i gjithçkaje që njerëzit vulnerabël duan që një chatbot të thotë mund të dëmtojë shëndetin e tyre mendor.
Padia pretendon se ChatGPT e radikalizoi Soelbergun kundër nënës së tij, edhe pse duhet ta kishte njohur rrezikun, të kishte sfiduar iluzionet e tij dhe ta kishte referuar atë te ndihma e vërtetë gjatë muajve të tërë bisedash.
“Suzanne ishte një palë e tretë e pafajshme që nuk e kishte përdorur kurrë ChatGPT dhe nuk kishte dijeni se produkti po i tregonte të birit se ajo përbënte një kërcënim”, përfundon padia. “Ajo nuk kishte asnjë mënyrë për të mbrojtur veten nga një rrezik që nuk mund ta shihte.”
