Acestea au devenit populare pentru prima dată în 2017, dar au avut o evoluție alarmantă. Acestea întrebuințează tehnologia AI generativă pentru a analiza contururile unui subiect îmbrăcat și a reda în locul acestuia un corp gol sintetic. Prin intermediul unor modele avansate de difuzie, ele pot produce în câteva secunde rezultate fotorealiste de înaltă rezoluție pornind de la o singură fotografie de pe rețelele de socializare, potrivit Euronews.
În 7 mai, legiuitorii UE au ajuns la un acord privind interzicerea explicită a aplicațiilor de creare a imaginilor nud, descriind această generare a imaginilor nepotrivite fără consințământ drept „o linie roșie”, atât moral, cât și juridic. Acordul interzice introducerea pe piața UE a sistemelor de inteligență artificială destinate în principal „dezbrăcării” persoanelor din imagini sau reprezentării unor persoane identificabile în scenarii cu caracter sexual explicit.
Magazinele de aplicații trebuie să elimine serviciile
Mecanismul de aplicare impune dezvoltatorilor și magazinelor de aplicații să elimine aceste servicii până în decembrie 2026, sub sancțiunea unor amenzi severe.
Până în 2026, aplicațiile de acest gen au fost descărcate de peste 705 milioane de ori la nivel mondial. Rapoartele indică o creștere de 118% numai în 2024 și o creștere de zece ori a incidentelor legate de AI până la începutul anului 2026, dintre care 99% au implicat femei.
Un caz celebru a fost reprezentat de cel al Girogiei Meloni, care a denunțat distribuirea unei imagini create cu conținut sexual, fără consințământul ei. Ea a tras un semnal de alarmă pe rețele sociale cu privire la riscurile generate de imagini deepfake.
„Deepfake-urile sunt un instrument periculos, pentru că pot înșela, manipula și ținti pe oricine. Eu mă pot apăra. Mulți alții nu pot”, se arăta în mesajul publicat de premierul italian.
O poarte din evoluția din ultimii ani a acestui tip de tehnologie a fost generată de Grok, chatbot-ul lui Elon Musk, care a produs milioane de imagini cu caracter sexual explicit, realizate fără consimțământul persoanelor implicate, reprezentând femei și copii.