Après la mort de son père, Zhang Xinyu a fait créer par intelligence artificielle un avatar à l'apparence et à la voix identiques aux siennes. C'est cette industrie florissante des «humains numériques» que la Chine entreprend d'encadrer.
Les vidéos d’«humains numériques» générés par IA prolifèrent sur les réseaux sociaux chinois, où leur réalisme saisissant sert souvent à la promotion de produits.
L'autorité nationale de régulation du cyberespace (CAC) vient de publier un projet de réglementation normant le développement et le déploiement de ces avatars. L'objectif est d'empêcher ces «deepfakes» de nuire aux enfants, à des personnes qu'ils imiteraient sans leur consentement et, plus généralement, à l'ordre social.
Zhang Xinyu, habitante de la province du Liaoning (nord-est) de 47 ans qui travaille dans le secteur légal, s'est rapprochée de la société Super Brain il y a deux ans dans l'espoir qu'elle l'aide à surmonter son deuil après la disparition de son père atteint d'un cancer.
Quand elle a pu commencer à discuter en ligne avec l'avatar de son père, elle s'est sentie «instantanément remplie d'énergie et de motivation», raconte-t-elle à l'AFP.
Des amis craignent qu'immergée dans un monde virtuel, soulagée par un «faux réconfort», elle ne réussisse «jamais à tourner la page», dit-elle. «Mais même si le réconfort lui-même est simulé, l'amour qui le sous-tend est bien réel», objecte-t-elle.
L'industrie chinoise des «humains numériques» pesait environ 4,1 milliards de yuans (600 millions de dollars) en 2024, après avoir enregistré une croissance spectaculaire de 85% sur un an, rapportait l'an dernier l'agence de presse officielle Chine Nouvelle.
La gouvernance chinoise des nouvelles technologies numériques a toujours observé la logique suivante : «Développer d'abord, réguler ensuite, et perfectionner au fur et à mesure», explique Marina Zhang, enseignante à l'Université de technologie de Sydney.
La réglementation proposée par la CAC exige que tout contenu impliquant des «humains numériques» le signale clairement. Elle interdit l'utilisation de données personnelles pour cloner ainsi des individus sans leur approbation.
Une vidéo bouleversante
Pour Zhang Zewei, fondateur de Super Brain, l'instauration de règles est «inévitable».
«Je trouve que c'est une évolution positive», dit-il, un moyen «d'équilibrer» la croissance du secteur.
Son entreprise est spécialisée dans la création par l'IA d'avatars numériques de personnes décédées à l'attention des familles endeuillées.
Une vidéo montrant une femme âgée discutant à son insu avec un avatar hyperréaliste de son fils — décédé dans un accident de voiture — a été largement partagée sur les réseaux sociaux dernièrement. Un hashtag associé a suscité plus de 90 millions de vues sur la plateforme Weibo.
L'avatar, créé par la société de M. Zhang, reproduisait si fidèlement les intonations et les gestes du fils de la vieille dame qu'elle a cru avoir affaire à lui lors d'un appel vidéo.
L'extrait a donné lieu à de vifs débats en ligne sur l'éthique de l'IA générative.
Il s'agissait d'un «mensonge bien intentionné», a assuré M. Zhang à l'AFP, expliquant que la famille du défunt avait contacté Super Brain, et que son entreprise sollicitait systématiquement l'assentiment des proches avant de créer un avatar.
Souveraineté
La réglementation proposée par la CAC est ouverte aux commentaires du public jusqu'à début mai. Elle est la dernière illustration en date des efforts de la Chine pour concilier expansion technologique et contrôle de ses risques.
Les infractions seront sanctionnées suivant les textes existants et, dans les cas où ceux-là ne s'appliqueraient pas, d'amendes de 10.000 yuans (1.460 dollars) à 200.000 yuans (29.300 dollars), a indiqué la CAC.
Cette institution a déjà sévi par le passé contre l'utilisation de «deepfakes» générés par IA pour usurper l'identité de célébrités.
La réglementation projette d'interdire aux «humains numériques» de générer ou diffuser des contenus menaçant la sécurité nationale ou incitant à la subversion.
Elle doit aussi proscrire les services proposant aux mineurs des relations virtuelles intimes, et ceux encourageant les «émotions extrêmes» et les «habitudes néfastes».
Pour Manoj Harjani, chercheur à l'École d'études internationales S. Rajaratnam de Singapour, la Chine vise ainsi à préserver sa «souveraineté et ses objectifs politiques».
Isabel KUA – AFP
Commentaires