Directorul Character.ai, o companie care dezvoltă chatboți ce funcționează în baza inteligenței artificiale, crede că majoritatea oamenilor vor avea „prieteni AI” în viitor, în timp ce firma sa se confruntă cu o serie de procese intentate pentru presupuse prejudicii aduse copiilor, iar grupuri de activiști cer interzicerea aplicațiilor de „companie virtuală”, relatează Financial Times.
Startup-ul cu sediul în San Francisco – sprijinit de investitori de top din Silicon Valley – se află în avangarda companiilor tehnologice care dezvoltă chatboți AI cu diverse „personaje” ce interacționează cu oamenii.
Character.ai oferă chatboți cu personaje precum „faraon egiptean”, „manager HR” sau „prietena toxică”, care s-au dovedit populare în rândul utilizatorilor tineri.
„Nu vor fi un înlocuitor pentru prietenii dumneavoastră reali, dar veți avea prieteni AI și veți putea să luați lecții din acele conversații cu prietenii virtuali pentru conversațiile din viața reală”, afirmă Karandeep Anand, care a preluat funcția de CEO al companiei în iunie.
El a fost numit în funcție la mai puțin de un an după ce Google a recrutat fondatorii Character.ai într-o tranzacție de 2,7 miliarde de dolari. Compania spune că are 20 de milioane de utilizatori activi lunar, dintre care aproximativ jumătate sunt femei, iar 50% fac parte din generațiile Z sau Alfa – persoane născute după 1997.
Totuși, Character.ai este și subiectul unor procese intentate de familii care susțin că propriii copii au suferit prejudicii reale după folosirea platformei.
Un proces intentat în Florida afirmă că platforma a jucat un rol în sinuciderea unui adolescent de 14 ani. O altă plângere, în Texas, menționează un adolescent care discuta cu chatbot-ul despre o ceartă legată de timpul petrecut în fața ecranului, iar acesta i-ar fi sugerat să își ucidă părinții ca posibilă soluție.
Compania a refuzat să comenteze asupra litigiilor în curs, dar a scos în evidență schimbări recente, printre care lansarea unui model AI separat pentru utilizatorii sub 18 ani și notificarea celor care petrec mai mult de o oră pe platformă.
Character.ai interzice de asemenea conținutul sexual non-consensual, descrierile grafice sau detaliate ale actelor sexuale, precum și promovarea sau prezentarea autovătămării sau sinuciderii.
„Încrederea și siguranța nu sunt negociabile”, susține Anand. „Evoluăm constant pentru a face experiența mai sigură”, subliniază el.
Grupuri de activism, precum Common Sense Media din SUA, au cerut adoptarea unei legislații care să interzică folosirea de către minori a acestor aplicații AI de companie.
Un sondaj realizat de Common Sense Media pe un eșantion de peste 1.000 de adolescenți americani a arătat că 39% au transferat abilități sociale practicate cu prietenii AI în situații reale, în timp ce 33% au preferat să discute chestiuni importante sau serioase cu prietenii AI în locul unor persoane reale.
„Aceste produse sunt concepute pentru a crea atașament emoțional și dependență, ceea ce este deosebit de îngrijorător pentru creierele adolescenților, aflate încă în proces de dezvoltare, care învață cum să gestioneze interacțiunile și relațiile sociale”, afirmă Robbie Torney, director senior la Common Sense Media.
Character.ai a introdus recent publicitatea și plănuiește integrarea unor funcționalități de monetizare bazate pe creatori, precum bacșișurile sau achizițiile digitale în aplicație. Principala sa sursă de venit este reprezentată în prezent de abonamente, care, potrivit companiei, au crescut ca număr cu 250% față de anul trecut.
Abonamentul costă 9,99 dolari pe lună sau 120 dolari pe an.
În condițiile în care utilizatorii Character.ai petrec în medie 80 de minute pe zi în aplicație, Anand spune că aceasta oferă o experiență mai captivantă și mai distractivă, în care utilizatorii controlează narațiunea „spre deosebire de consumul pasiv de conținut”. Compania a lansat luna aceasta propria versiune de flux de tip rețea socială, subliniind și mai mult accentul pus pe divertisment.
Un trend în creștere printre companiile care dezvoltă produse A.I.
O altă tendință emergentă este folosirea unor astfel de platforme pentru conversații romantice și sugestive. Grok, chatbot-ul creat de startup-ul xAI al lui Elon Musk, a început să ofere recent personaje AI implicate în jocuri de rol explicite, iar chatbot-ul AI al Meta va permite și interacțiuni romantice pentru adulți.
Character.ai permite conversații romantice cu utilizatori adulți, dar nu și conversații explicit erotice.
„Există o întreagă pleiadă de aplicații 18+ care, din păcate, primesc feedback-ul că oamenii își doresc mai mult din acest conținut”, afirmă Anand. El susține că la compania pe care o conduce siguranța „nu va fi niciodată sacrificată în favoarea implicării utilizatorilor”.
Șeful Meta, Mark Zuckerberg, care promovează și el astfel de chatboți AI generați pentru utilizatori, a declarat în aprilie că interacțiunea cu AI ca prieten ar putea ajuta la combaterea singurătății.
Anand susține de asemenea că astfel de oferte îi vor ajuta pe oameni în interacțiunile reale. „Văd o lume foarte utopică în care AI ne face mai buni”, spune acesta. „Oamenii ajung să folosească aceste personaje… ca pe un teren de testare pentru a face relațiile din viața reală mult mai profunde, mai utile și mai sănătoase”, consideră CEO-ul Character.ai.
! Acest articol este proprietatea SafeNews.md și este protejat de legea drepturilor de autor. Orice preluare a conținutului se poate face DOAR în limită maximă de 1000 de semne. În mod OBLIGATORIU cu indicarea în TITLU a sursei citate, iar în text cu LINK ACTIV către pagina acestui articol. Preluarea integrală se poate realiza doar în condițiile unui ACORD prealabil întocmit cu redacția portalului.
