{"id":2291,"date":"2024-11-26T08:40:44","date_gmt":"2024-11-26T08:40:44","guid":{"rendered":"http:\/\/le-nomade.com\/nomade\/?p=2291"},"modified":"2025-01-05T09:44:49","modified_gmt":"2025-01-05T09:44:49","slug":"glaze-le-systeme-anti-ia","status":"publish","type":"post","link":"http:\/\/le-nomade.com\/nomade\/blog\/glaze-le-systeme-anti-ia\/","title":{"rendered":"Glaze &#8211; le syst\u00e8me anti IA"},"content":{"rendered":"\n<figure class=\"wp-block-image size-full\"><a href=\"http:\/\/le-nomade.com\/nomade\/wp-content\/uploads\/2024\/11\/DALL\u00b7E-2024-11-26-09.39.13-An-artistic-representation-of-the-conflict-between-human-creativity-and-artificial-intelligence-in-the-world-of-art.-The-scene-shows-a-traditional-pai.jpeg\"><img loading=\"lazy\" decoding=\"async\" width=\"1792\" height=\"1024\" src=\"http:\/\/le-nomade.com\/nomade\/wp-content\/uploads\/2024\/11\/DALL\u00b7E-2024-11-26-09.39.13-An-artistic-representation-of-the-conflict-between-human-creativity-and-artificial-intelligence-in-the-world-of-art.-The-scene-shows-a-traditional-pai.jpeg\" alt=\"\" class=\"wp-image-2293\"\/><\/a><\/figure>\n\n\n\n<p><\/p>\n\n\n\n<p>Les <strong>mod\u00e8les d&rsquo;IA g\u00e9n\u00e9rative<\/strong> ont transform\u00e9 notre mani\u00e8re de cr\u00e9er et de consommer du contenu, en particulier les images et l&rsquo;art. Les mod\u00e8les de diffusion, tels que <strong>MidJourney<\/strong> et <strong>Stable Diffusion<\/strong>, sont entra\u00een\u00e9s sur de vastes ensembles de donn\u00e9es constitu\u00e9s d\u2019images collect\u00e9es en ligne, dont beaucoup sont prot\u00e9g\u00e9es par des droits d\u2019auteur, priv\u00e9es ou sensibles. <strong>De nombreux artistes ont d\u00e9couvert que leurs \u0153uvres figuraient dans des bases de donn\u00e9es d\u2019entra\u00eenement comme LAION-5B, sans leur connaissance, consentement, attribution ou compensation<\/strong>.<\/p>\n\n\n\n<p>Pire encore, ces mod\u00e8les sont d\u00e9sormais utilis\u00e9s pour copier des artistes sp\u00e9cifiques via un processus appel\u00e9 mim\u00e9tisme de style. Les utilisateurs peuvent prendre des \u0153uvres d\u2019art d\u2019artistes humains, effectuer un \u00ab\u00a0affinage\u00a0\u00bb ou utiliser des techniques comme LoRA sur des mod\u00e8les comme Stable Diffusion, pour produire des images arbitraires dans le \u00ab\u00a0style\u00a0\u00bb de l\u2019artiste cibl\u00e9, en utilisant leur nom comme commande. Les artistes ind\u00e9pendants populaires retrouvent souvent des imitations de faible qualit\u00e9 de leurs \u0153uvres en ligne, parfois avec leur nom encore pr\u00e9sent dans les m\u00e9tadonn\u00e9es issues des commandes du mod\u00e8le.<\/p>\n\n\n\n<p><strong>Le mim\u00e9tisme de style engendre plusieurs cons\u00e9quences n\u00e9fastes, parfois difficiles \u00e0 percevoir au premier abord<\/strong>. Pour les artistes dont le style est intentionnellement copi\u00e9, cela se traduit par une perte de commandes et de revenus, mais aussi par une dilution de leur marque et de leur r\u00e9putation \u00e0 cause des copies synth\u00e9tiques de mauvaise qualit\u00e9. Plus important encore, les artistes associent leur style artistique \u00e0 leur identit\u00e9 personnelle. Voir le style artistique qu\u2019ils ont mis des ann\u00e9es \u00e0 d\u00e9velopper \u00eatre utilis\u00e9 pour cr\u00e9er du contenu sans leur consentement ou compensation est comparable \u00e0 un vol d\u2019identit\u00e9. Enfin, ce mim\u00e9tisme et ses impacts sur les artistes \u00e9tablis ont d\u00e9moralis\u00e9 les jeunes artistes aspirants. Les administrateurs d\u2019\u00e9coles d\u2019art et les enseignants t\u00e9moignent d\u2019une chute des inscriptions, accompagn\u00e9e par des parents inquiets pour l\u2019avenir de leurs enfants aspirant \u00e0 une carri\u00e8re artistique.<\/p>\n\n\n\n<p><strong>Glaze<\/strong> est un <strong>syst\u00e8me con\u00e7u pour prot\u00e9ger les artistes humains<\/strong> en perturbant le mim\u00e9tisme de style. <\/p>\n\n\n\n<p>En r\u00e9sum\u00e9, Glaze fonctionne en comprenant comment les mod\u00e8les d\u2019IA s\u2019entra\u00eenent sur l\u2019art humain, et en utilisant des algorithmes d\u2019apprentissage automatique pour calculer un ensemble de modifications minimales sur les \u0153uvres. Ces changements sont invisibles \u00e0 l\u2019\u0153il humain, mais apparaissent aux mod\u00e8les d\u2019IA comme un style artistique compl\u00e8tement diff\u00e9rent. Par exemple, un portrait au fusain r\u00e9aliste avec un effet Glaze peut sembler inchang\u00e9 aux humains, mais un mod\u00e8le d\u2019IA peut le percevoir comme un style abstrait moderne, \u00e0 la Jackson Pollock. Ainsi, lorsqu\u2019un utilisateur demande au mod\u00e8le de g\u00e9n\u00e9rer une \u0153uvre dans le style de l\u2019artiste au fusain, le r\u00e9sultat est totalement diff\u00e9rent de ce qu\u2019il attendait.<\/p>\n\n\n\n<p>Vous pourriez vous demander : pourquoi cela fonctionne-t-il ? Pourquoi ne pas simplement supprimer les effets de Glaze en 1) prenant une capture d\u2019\u00e9cran ou une photo de l\u2019art, 2) recadrant l\u2019image, 3) appliquant des filtres pour enlever les artefacts, 4) reformattant, redimensionnant ou resamplant l\u2019image, 5) compressant, 6) lissant les pixels, ou 7) ajoutant du bruit pour casser le mod\u00e8le ? Aucune de ces m\u00e9thodes ne fonctionne contre Glaze, car il ne s\u2019agit pas d\u2019un filigrane ou d\u2019un message cach\u00e9 (st\u00e9ganographie), et il n\u2019est pas fragile. Glaze fonctionne comme une nouvelle dimension artistique visible par les mod\u00e8les d\u2019IA, mais pas par les humains (similaire \u00e0 la lumi\u00e8re UV ou aux fr\u00e9quences ultrasoniques). Cette dimension est difficile \u00e0 localiser, \u00e0 calculer ou \u00e0 r\u00e9tro-concevoir. \u00c0 moins qu\u2019une attaque ne connaisse exactement la dimension sur laquelle op\u00e8re Glaze (qui change pour chaque \u0153uvre), il est tr\u00e8s difficile d\u2019en perturber les effets.<\/p>\n\n\n\n<p><strong>Risques et limites.<\/strong> La recherche en apprentissage automatique \u00e9volue rapidement, et il existe des risques inh\u00e9rents \u00e0 l\u2019utilisation d\u2019un outil comme Glaze.<\/p>\n\n\n\n<ul>\n<li>Les modifications apport\u00e9es par Glaze sont plus visibles sur des \u0153uvres avec des aplats de couleurs ou des arri\u00e8re-plans lisses. La nouvelle mise \u00e0 jour (Glaze 2.0) a consid\u00e9rablement am\u00e9lior\u00e9 cet aspect, mais nous continuons \u00e0 chercher des moyens d\u2019y rem\u00e9dier.<\/li>\n\n\n\n<li>Malheureusement, Glaze n\u2019est pas une solution permanente contre le mim\u00e9tisme par IA. Les syst\u00e8mes comme Glaze doivent relever le d\u00e9fi de r\u00e9sister \u00e0 de futures am\u00e9liorations algorithmiques, ce qui pourrait rendre les \u0153uvres pr\u00e9c\u00e9demment prot\u00e9g\u00e9es vuln\u00e9rables. Glaze est donc une premi\u00e8re \u00e9tape essentielle pour la protection des artistes, en attendant des solutions plus durables (l\u00e9gales ou r\u00e9glementaires).<\/li>\n\n\n\n<li>Malgr\u00e9 ces risques, nous avons con\u00e7u Glaze pour qu\u2019il soit aussi robuste que possible et l\u2019avons test\u00e9 contre les syst\u00e8mes et contre-mesures connus. Nous pensons que Glaze est l\u2019outil le plus solide pour prot\u00e9ger les artistes contre le mim\u00e9tisme de style, et nous continuerons \u00e0 l\u2019am\u00e9liorer et \u00e0 le mettre \u00e0 jour face aux nouvelles attaques.<\/li>\n\n\n\n<li>Glaze est con\u00e7u pour prot\u00e9ger contre le mim\u00e9tisme individualis\u00e9 via l\u2019affinage de mod\u00e8les sur de nouveaux styles artistiques. Il est moins ou pas du tout efficace lorsque l\u2019attaquant tente de reproduire un style d\u00e9j\u00e0 int\u00e9gr\u00e9 dans les mod\u00e8les de base comme SDXL ou SD3 (impressionnisme, Van Gogh, sous-genres populaires d\u2019anime comme <em>Genshin Impact<\/em>).<\/li>\n<\/ul>\n\n\n\n<p><strong>Pourquoi Glaze ?<\/strong> Parce que nous avons men\u00e9 des recherches sur l\u2019apprentissage automatique adversarial, et cette opportunit\u00e9 pouvait avoir un impact positif important ; parce que, malgr\u00e9 les accusations de \u00ab\u00a0cloisonnement\u00a0\u00bb ou \u00ab\u00a0d\u2019\u00e9litisme\u00a0\u00bb, la grande majorit\u00e9 des artistes sont des cr\u00e9ateurs ind\u00e9pendants, passionn\u00e9s, et peinent \u00e0 vivre de leur art ; et parce que les processus juridiques et r\u00e9glementaires peuvent prendre des ann\u00e9es, risquant d\u2019arriver trop tard pour emp\u00eacher l\u2019IA g\u00e9n\u00e9rative de d\u00e9truire la communaut\u00e9 des artistes humains.<\/p>\n\n\n\n<p><strong>Nos objectifs.<\/strong> Nos principaux objectifs sont d\u2019apprendre et de d\u00e9couvrir de nouvelles choses gr\u00e2ce \u00e0 nos recherches, et d\u2019avoir un impact positif sur le monde. Je (Ben) parle en mon nom (et probablement pour l\u2019\u00e9quipe) lorsque je dis que nous ne recherchons pas de profit. Il n\u2019y a pas de mod\u00e8le \u00e9conomique, d\u2019abonnement, de frais cach\u00e9s, ni de start-up. Nous avons rendu Glaze gratuit pour tous, mais pas open source, afin de compliquer les attaques adaptatives. Glaze est con\u00e7u pour fonctionner sans connexion r\u00e9seau, ce qui signifie qu\u2019aucune donn\u00e9e (ou art) n\u2019est envoy\u00e9e \u00e0 nous ou \u00e0 qui que ce soit. La seule communication avec nos serveurs consiste en des v\u00e9rifications p\u00e9riodiques pour des mises \u00e0 jour logicielles.<\/p>\n\n\n\n<p><strong>WebGlaze.<\/strong> Depuis le d\u00e9ploiement initial de Glaze en mars 2023, nous avons compris que nous ne connaissions pas bien les m\u00e9thodes de travail des artistes. Beaucoup travaillent principalement sur des appareils mobiles et n\u2019ont pas acc\u00e8s \u00e0 des ordinateurs puissants avec GPU. Nous avons re\u00e7u beaucoup de retours demandant un Glaze plus accessible. En ao\u00fbt 2023, nous avons lanc\u00e9 WebGlaze, un service web gratuit que les artistes peuvent utiliser sur t\u00e9l\u00e9phone, tablette ou tout appareil avec un navigateur pour glacer leurs \u0153uvres sur des serveurs GPU que nous finan\u00e7ons dans le cloud Amazon AWS. Comme le reste de Glaze, WebGlaze est financ\u00e9 par des subventions de recherche pour garantir sa gratuit\u00e9.<\/p>\n\n\n\n<p>Pour les utilisateurs de Mac, de PC plus anciens, de GPU non-Nvidia, ou de GPU Nvidia GTX 1660\/1650\/1550, ou pour ceux qui n\u2019utilisent pas d\u2019ordinateur, WebGlaze est la solution id\u00e9ale. Ce service est et restera, pour l\u2019avenir pr\u00e9visible, uniquement accessible sur invitation. Tout artiste humain ne recourant pas \u00e0 des outils d\u2019IA g\u00e9n\u00e9rative peut obtenir une invitation gratuite en nous envoyant un message sur Twitter ou Instagram (@TheGlazeProject), ou un email (r\u00e9ponse plus lente). Une fois l\u2019invitation re\u00e7ue et un compte cr\u00e9\u00e9, il suffit d\u2019aller sur <a href=\"https:\/\/webglaze.cs.uchicago.edu\/\">WebGlaze<\/a> pour glacer vos \u0153uvres.<\/p>\n\n\n\n<p><strong>Pour en savoir, je vous invite \u00e0 consulter le site officiel :<\/strong> <a href=\"https:\/\/glaze.cs.uchicago.edu\/what-is-glaze.html\" target=\"_blank\" rel=\"noreferrer noopener\">https:\/\/glaze.cs.uchicago.edu\/what-is-glaze.html<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Les mod\u00e8les d&rsquo;IA g\u00e9n\u00e9rative ont transform\u00e9 notre mani\u00e8re de cr\u00e9er et de consommer du contenu, en particulier les images et<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[22,145,6,18],"tags":[],"_links":{"self":[{"href":"http:\/\/le-nomade.com\/nomade\/wp-json\/wp\/v2\/posts\/2291"}],"collection":[{"href":"http:\/\/le-nomade.com\/nomade\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/le-nomade.com\/nomade\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/le-nomade.com\/nomade\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"http:\/\/le-nomade.com\/nomade\/wp-json\/wp\/v2\/comments?post=2291"}],"version-history":[{"count":3,"href":"http:\/\/le-nomade.com\/nomade\/wp-json\/wp\/v2\/posts\/2291\/revisions"}],"predecessor-version":[{"id":2296,"href":"http:\/\/le-nomade.com\/nomade\/wp-json\/wp\/v2\/posts\/2291\/revisions\/2296"}],"wp:attachment":[{"href":"http:\/\/le-nomade.com\/nomade\/wp-json\/wp\/v2\/media?parent=2291"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/le-nomade.com\/nomade\/wp-json\/wp\/v2\/categories?post=2291"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/le-nomade.com\/nomade\/wp-json\/wp\/v2\/tags?post=2291"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}