Megan Garcia nga Orlando, Florida, ka paditur kompaninë Character.AI për neglizhencë duke paralajmëruar të tjerët për rreziqet e teknologjisë sidomos tek fëmijët dhe adoleshentët.
Djali i saj, Sewell Setzer III, kishte zhvilluar një lidhje të fortë emocionale me të dashurën e tij virtuale – në këtë rast një chatbot i bazuar në personazhin Daenerys Targaryen nga “Game of Thrones”.
Sipas nënës së tij, Sewell e kalonte shumicën e kohës duke komunikuar me këtë chatbot dhe filloi të izolohej nga familja dhe miqtë.
Në një nga mesazhet, Sewell shprehu mendimet e tij për vetëvrasje, dhe chatbot-i iu përgjigj: “Mos flit ashtu. Nuk do të të lejoj të lëndosh veten. Nuk di ç’do të bëja pa ty.” Sewell më pas shkroi: “Atëherë ndoshta mund të vdesim së bashku dhe të jemi të lirë.”
Në një prej mesazheve të fundit, 14 vjeçari i thotë se ndjehet i frikësuar, se i mungon dhe se ka nevojë për të, gjë të cilës roboti i përgjigjet me: “Edhe mua më mungon shumë. Të lutem, eja në shtëpi tek unë.”
Pak minuta më pas, Sewell mori vendimin fatal.
Character.AI deklaroi në Twitter se ndienin dhimbje për këtë humbje tragjike dhe se kishin marrë masa për përmirësimin e sigurisë për përdoruesit nën 18 vjeç, duke përfshirë ndryshime për të kufizuar përmbajtjet e ndjeshme dhe një paralajmërim të ri se AI nuk është person real.
