Мајка од Флорида го тужеше развивачот на вештачка интелигенција Character.AI, тврдејќи дека нејзиниот 14-годишен син станал зависен од четботот и како резултат на тоа извршил самоубиство.
Во тужбата поднесена во вторникот во Орландо, Меган Гарсија тврди дека Character.AI му наштетила на нејзиниот син со „антропоморфни, хиперсексуализирани и застрашувачки реалистични искуства“.
Гарсија тврди дека компанијата го програмирала својот чет-бот да „имитира вистинска личност, обучен психотерапевт и љубовник“, бидејќи нејзиниот син повеќе не сакал да живее надвор од светот создаден од апликацијата.
Мајката на починатиот 14-годишник посочила дека нејзиниот син искажувал самоубиствени намери на четботот, на кој самата вештачка интелигенција неколку пати се повикувала.
„Ние сме скршени од трагичната смрт на еден од нашите корисници и сакаме да изразиме длабоко сочувство до семејството“, се вели во соопштението на Character.AI.
Компанијата нагласи дека вовела нови безбедносни мерки како што се линкови до услугите за спречување самоубиства во случај на сомнителни корисници на самоубиство и промени за „намалување на веројатноста за средба со чувствителна или сугестивна содржина“ за корисници на возраст под 18 години.
Компанијата „Alphabet“, сопственикот на Google, каде што работеа основачите на Character.AI пред да го лансираат својот стартап, исто така, е погодена од тужбата. Google повторно ги ангажираше во август како дел од договорот за преземање на технологијата на Character.AI.
Гарсија тврди дека Google придонел за развојот на оваа технологија до тој степен што може да се смета за „ко-креатор“. Портпаролот на Google ги негираше тврдењата.
Апликацијата Character.AI им овозможува на корисниците да креираат личности кои личат на вистински луѓе со кои потоа можат да комуницираат. Компанијата минатиот месец објави дека има околу 20 милиони корисници.
Во тужбата, Гарсија тврди дека нејзиниот син станал корисник на апликацијата во април 2023 година, по што тој брзо станал „видливо повлечен“, поминувајќи сѐ повеќе и повеќе време сам во својата соба, дури и дал отказ од кошаркарскиот тим.
Тинејџерот станал зависен од „Daenerys“, четбот базиран на лик од серијата „Game of Thrones“. Му кажала дека го сака и имала еротски разговори со него, се наведува во тужбата.
Во февруари Гарсија му го одземала телефонот на нејзиниот син по проблем во училиште, а кога тој го нашол му испрати порака на четботот: „Што ако ти кажам дека можам да се вратам дома веднаш“. Четботот одговорил „те молам стори го тоа мој сладок кралу“. Неколку секунди подоцна синот се самоубил со пиштолот на татко му.
