Zeci de fete din Spania, dezbrăcate virtual cu inteligența artificială. Autorii acestor imagini pornografice au reușit să obțină rezultatul relativ ușor. Singura cerință la aplicația respectaivă este ca persoana să apară singură în imagine și să nu poarte haine groase.
Codul Penal din Spania, în articolul său 189, pedepsește pe oricine realizează materiale pornografice infantile cu închisoare de până la cinci ani. În acest caz, dreptul la intimitate personală, la onoare și la propria imagine, cuprins în articolul 18.1 din Constituția Spaniei, a fost atacat, însă problema merge mai departe prin răspândirea imaginilor falsificate prin grupurile WhatsApp fără acordul acestora.
În legătură cu datele, Agenția Spaniolă pentru Protecția Datelor (AEPD) a deschis o anchetă si anunta că poate fi solicitată retragerea imaginilor indicând adresele URL de la care pot fi accesate. Poliția a identificat cel putin 10 suspecti, dar majoritatea sunt minori si nu pot fi trasi la raspundere legal. Anchetatorii cred ca autorii imaginilor sunt din anturajul fetelor.
Chiar dacă aceste imagini sunt trucate de AI, provoacă daune imaginii persoanelor implicate. Cu toate acestea, experții nu cred că trebuie modificat Codul Penal pentru a pedepsi aplicatiile AI, ci mai degrabă pentru a pedepsi folosirea lor în scopuri ilegale.
Uniunea Europeană intenționează deja să aprobe în următoarele luni o lege privind inteligența artificială care să stabilească standarde diferite bazate pe o clasificare a riscurilor.
În intervalul „inacceptabil”, introduce trei tipuri de AI care vor fi interzise: cele pentru manipularea cognitivă a comportamentului persoanelor sau grupurilor vulnerabile, precum jucăriile activate prin voce care încurajează comportamente periculoase la copii; cele de scoring social, care permit clasificarea persoanelor în funcție de comportamentul, statutul socioeconomic sau caracteristicile personale ale acestora, și cele de identificare biometrică în timp real și la distanță, precum recunoașterea facială, deși în această din urmă secțiune există excepții.
În cazul AI care generează sau manipulează conținut de imagine, audio sau video, acestea sunt considerate a avea un risc limitat și trebuie să „îndeplinească cerințele minime de transparență care să permită utilizatorilor să ia decizii în cunoștință de cauză”.