‘Болесни’ Молли Русселл цхат ботови пронађени на Цхарацтер.аи

Верзије за ћаскање тинејџерки Моли Расел и Бријане Геј пронађене су на Цхарацтер.аи – платформи која омогућава корисницима да креирају дигиталне верзије стварних или фиктивних људи.

Моли Расел је одузела живот са 14 година након прегледа материјала о самоубиству на мрежи док је Брианна Гхеи, 16, била убили су га два тинејџера 2023.

Фондација основана у сјећање на Молли Русселл рекла је да је то «мучно» и «потпуно за осуду неуспјех умјерености».

Платформу већ тужи у САД мајка 14-годишњег дечака за кога каже да је себи одузео живот пошто је постао опседнут четботом Цхарацтер.аи.

У изјави Телеграфу, који први је известио причукомпанија је рекла да „озбиљно схвата безбедност на нашој платформи и проактивно модерира ликове и као одговор на извештаје корисника“.

Чини се да је компанија избрисала цхат ботове након што је на њих упозорена, наводи лист.

Енди Бароуз, извршни директор Фондације Моли Роуз, рекао је да је стварање ботова «мучна акција која ће изазвати додатну бол у срцу свима који су познавали и волели Моли».

„То живо подвлачи зашто јача регулација и АИ и платформи које генерише корисник не може доћи довољно брзо“, рекао је он.

Естер Геј, мајка Бријане Геј, рекла је за Телеграф да је то још један пример колико „манипулативан и опасан” свет онлајн може да буде.

Цхарацтер.аи, који су основали бивши Гуглови инжењери Ноам Шазир и Данијел Де Фреитас, има услове коришћења који забрањују коришћење платформе за „имитирање било које особе или ентитета“.

У свом «центар безбедности„Компанија каже да је њен водећи принцип да њен „производ никада не би требало да производи одговоре који могу да нашкоде корисницима или другима“.

Каже да користи аутоматизоване алате и корисничке извештаје да идентификује употребе које крше њена правила и да такође гради тим за „поверење и безбедност“.

Али примећује се да „ниједна вештачка интелигенција тренутно није савршена“ и да је безбедност у АИ „простор у развоју“.

Цхарацтер.аи је тренутно предмет тужбе коју је покренула Меган Гарсија, жена са Флориде чији је 14-годишњи син, Севелл Сетзер, одузео себи живот пошто је постао опседнут АИ аватаром инспирисаним ликом из Игре престола.

Према транскриптима њиховог ћаскања у Гарсијиним судским списима, њен син је разговарао о окончању свог живота са четботом.

У завршном разговору Сетзер је рекао цхатботу да се „враћа кући“ – и то га је охрабрило да то учини „што је пре могуће“.

Убрзо након тога окончао је живот.

Цхарацтер.аи рекао је за ЦБС Невс имао је заштиту посебно усмерену на самоубилачка понашања и понашања самоповређивања и да ће бити увођење строже безбедности карактеристике за млађе од 18 година «ускоро».