Instagram va lansa noi funcții de siguranță pentru adolescenți, inclusiv posibilitatea ca părinții să-și împiedice copiii să discute cu personajele AI ale platformei, a anunțat vineri compania-mamă Meta. Aceasta este una dintre numeroasele noi funcții de siguranță de la Meta și OpenAI menite să combată îngrijorările tot mai mari cu privire la modul în care AI ar putea afecta sănătatea mintală a adolescenților.
Părinții vor putea fie să dezactiveze accesul adolescenților la chat-uri individuale cu personaje bazate pe inteligență artificială, fie să blocheze accesul la anumite personaje, a anunțat gigantul rețelelor de socializare într-o postare pe blog. Aplicația va afișa, de asemenea, părinților informații despre subiectele pe care adolescenții le discută cu personaje bazate pe inteligență artificială. Compania a declarat că dezvoltă acum controalele, iar utilizatorii vor începe să le vadă la începutul anului viitor.
Această mișcare vine după ce Meta și industria tehnologică, în sens mai larg, s-au confruntat cu critici din partea părinților și legislatorilor, care afirmă că platformele online nu fac suficient pentru a proteja copiii online.
De asemenea, au fost exprimate îngrijorări cu privire la faptul dacă oamenii se bazează pe inteligența artificială pentru sprijin emoțional și companie. Un val de rapoarte din acest an a indicat faptul că unele persoane au îndurat suferințe emoționale și s-au izolat de membrii familiei după ce au dezvoltat relații strânse cu chatbot-uri precum ChatGPT.
Compania din spatele Character.AI, o altă aplicație populară pentru chat cu persoane bazate pe inteligență artificială, a fost intentată în instanță în mai multe instanțe, pe baza acuzațiilor conform cărora platforma a jucat un rol în autovătămarea și sinuciderea adolescenților. De asemenea, în august a fost intentat un proces împotriva OpenAI, pe baza acuzațiilor conform cărora ChatGPT a contribuit la sinuciderea lui Adam Raine, în vârstă de 16 ani. Iar o investigație a Wall Street Journal din aprilie a constatat că chatbotul Meta și alți chatboți bazați pe inteligență artificială de pe platformele sale se angajau în conversații de natură sexuală chiar și cu conturi care se identificau drept minori.
Meta a declarat că personajele sale bazate pe inteligență artificială „sunt concepute să nu se angajeze” în conversații cu adolescenții despre „autovătămare, sinucidere sau tulburări de alimentație” sau subiecte care „încurajează, promovează sau facilitează” aceste subiecte. De asemenea, adolescenții pot discuta doar cu anumite personaje bazate pe inteligență artificială legate de conținut precum educația și sportul, se arată în postarea de pe blog.
Noile controale parentale ale Instagram vin în urma altor actualizări pe care compania le-a făcut recent pentru a proteja mai bine adolescenții. La începutul acestei săptămâni, compania și-a ajustat setările pentru „Conturi pentru adolescenți” pentru a se alinia cu ratingurile PG-13, ceea ce înseamnă că nu va afișa sau promova postări care conțin limbaj vulgar sau care ar putea promova „comportamente dăunătoare”. La sfârșitul lunii septembrie, OpenAI a anunțat controale parentale pentru ChatGPT care reduc „conținutul grafic, provocările virale, jocurile de rol sexuale, romantice sau violente și idealurile extreme de frumusețe”.
