Interdit ! La Chine fait barrage aux médias générés par l’IA !

L'engouement pour la création de contenus à l'aide d'outils d'intelligence artificielle ne fait pas frémir les censeurs de l'internet chinois.

Selon Ars Technical ‘administration du cyberespace du géant asiatique a publié une série de règlements qui interdisent l’utilisation de l’IA pour la création d’images, de textes, de vidéos ou de sons. Sauf s’ils remplissent une condition : ils doivent comporter des signes d’identification – un filigrane, par exemple.

Si la Chine reconnaît que l’intelligence artificielle est essentielle à la croissance économique future du pays, les autorités veulent s’assurer qu’elle n’est pas utilisée pour des travaux qu’elles jugent inappropriés. Et toutes les plateformes qui proposent des outils pour créer du contenu « synthétique » – à l’instar de ce que l’on voit en Occident avec Dall-E, ChatGPT, Stable Diffusion, etc. – devront prouver au gouvernement chinois qu’elles respectent les règles.

« Les services qui fournissent des fonctionnalités telles que le dialogue intelligent, la voix humaine synthétisée, la génération de visages humains et les scènes réalistes immersives qui génèrent ou modifient de manière significative le contenu des informations seront marqués de manière bien visible afin d’éviter toute confusion ou erreur d’identification de la part du public« , ont déclaré les autorités asiatiques. En outre, comme prévu, les marques qui identifient le contenu créé par l’IA ne peuvent être ni supprimées ni modifiées.

La Chine n’aime pas les contenus générés par l’IA

Les raisons qui sous-tendent la nouvelle réglementation chinoise ne sont pas très surprenantes. Après tout, il est bien connu que les autorités ne permettent pas aux citoyens d’accéder librement au web et qu’elles exercent un contrôle strict sur les activités en ligne. Mais le travail des censeurs ne s’arrête pas là. Les médias, les séries télévisées et même les films sont également modifiés sous le couvert du maintien de la paix sociale. Et dans le cas du contenu généré par l’IA, la justification est la même.

« Ces dernières années, la technologie de synthèse profonde s’est développée rapidement. Tout en répondant aux besoins des utilisateurs et en améliorant leur expérience, il a également été utilisé par certaines personnes peu scrupuleuses pour produire, copier, publier et diffuser des informations illégales et nuisibles, pour calomnier et dénigrer la réputation et l’honneur d’autrui, et pour falsifier l’identité d’autrui. La commission de fraudes, etc., affecte l’ordre des communications et l’ordre social, porte atteinte aux droits et intérêts légitimes des personnes, et met en danger la sécurité nationale et la stabilité sociale ».

Administration du cyberespace de la Chine.

 

A lire :   ChatGPT est "dangereusement stupide", déclare un expert en IA : ses raisons semblent très valables

La nouvelle réglementation chinoise sur les contenus générés par l’IA entrera en vigueur le 10 janvier 2023. Il convient de mentionner que les autorités n’exerceront pas seulement un contrôle strict sur les entreprises proposant des outils d’IA, mais aussi sur leurs utilisateurs.

Dès que le règlement sera actif, les personnes souhaitant utiliser des services équivalents à Dall-E ou ChatGPT devront s’inscrire en utilisant des comptes avec des noms réels. De cette façon, le gouvernement chinois pourra suivre toutes leurs actions et prendre des mesures s’ils sont considérés comme ayant commis un crime.

Plus de contrôle sur l’IA

Bien sûr, ce n’est pas la première fois que la Chine s’en prend aux outils d’intelligence artificielle. En 2019, les censeurs de l’administration du cyberespace ont interdit la publication et la diffusion de « fake news » créées à l’aide de la réalité virtuelle et de l’IA. A l’époque, les régulateurs avaient jeté leur dévolu sur sur les deepfakes.

Le règlement était entré en vigueur après l’explosion de la popularité des applications qui permettaient de modifier des images en quelques secondes. L’un des cas les plus retentissants est celui de ZAO, une application mobile qui permet aux utilisateurs de placer leur visage sur celui de célébrités ou d’acteurs dans des clips de séries et de films hollywoodiens.

A lire :   Qu'est-ce que ChatGPT et pourquoi tout le monde en parle ?

À l’époque, la Chine avait affirmé que les deepfakes mettaient en danger la sécurité nationale et perturbaient la stabilité et l’ordre social. Le même scénario pour des cas différents, évidemment.

Au-delà de se concentrer désormais sur l’utilisation de l’intelligence artificielle pour la création de contenu, la position de la Chine est loin d’être surprenante. N’oublions pas que, l’année dernière, Xi Jinping n’a pas eu peur de torpiller les principales entreprises technologiques de son propre pays.