OpenAI, gigantul inteligenței artificiale generative (AI) și editorul ChatGPT, a pus la punct un instrument de clonare a vocii care va fi restricționat pentru a fi utilizat în prevenirea fraudelor sau a infracțiunilor precum furtul de identitate.
Denumit „Voice Engine”, acest model de inteligență artificială poate reproduce vocea unei persoane pornind de la un eșantion audio de 15 secunde, potrivit unui comunicat de presă al OpenAI.
„Recunoaștem că abilitatea de a genera voci implică riscuri serioase, care sunt deosebit de importante în acest an electoral”, a declarat compania cu sediul în San Francisco. „Lucrăm cu parteneri americani și internaționali din guvern, mass-media, divertisment, educație, societate civilă și alte sectoare și ținem cont de feedback-ul lor pe măsură ce dezvoltăm instrumentul.”
În acest an electoral crucial în întreaga lume, cercetătorii în domeniul dezinformării se tem de utilizarea abuzivă a aplicațiilor de inteligență artificială generativă (producția automată de texte, imagini etc.) și, în special, a instrumentelor de clonare a vocii, care sunt ieftine, ușor de utilizat și greu de urmărit.
Abordare prudentă
OpenAI a declarat că a adoptat o „abordare prudentă și informată” înainte de a lansa noul instrument pe scară mai largă „din cauza potențialului de utilizare abuzivă a vocilor sintetice”.
Această prezentare prudentă vine după un incident politic major, când un consultant care lucra pentru campania prezidențială a unuia dintre rivalii democrați ai lui Joe Biden a dezvoltat un program automat care s-a dat drept președintele american, aflat în campanie pentru realegere.
Vocea care o imita pe cea a lui Joe Biden a sunat alegătorii pentru a-i încuraja să se abțină la alegerile primare din New Hampshire.
De atunci, Statele Unite au interzis apelurile efectuate de voci clonate generate de inteligența artificială, pentru a combate escrocheriile politice sau comerciale.
Măsuri de securitate
OpenAI a precizat că partenerii care testează Voice Engine au fost de acord cu reguli care impun, printre altele, consimțământul explicit și informat al oricărei persoane a cărei voce este duplicată și transparență pentru ascultători: trebuie să le fie clar că vocile pe care le aud sunt generate de AI.
MM
