Nightshade, un nouvel outil révolutionnaire, permet aux artistes de protéger leurs créations en ligne des entreprises d'intelligence artificielle (IA) qui les utilisent sans autorisation. Mis au point par l'équipe de Ben Zhao de l'Université de Chicago, Nightshade altère subtilement les pixels des images pour perturber les modèles d'IA génératifs, rendant leurs sorties imprévisibles et chaotiques. Nightshade peut également être intégré à Glaze, un outil qui masque le style artistique original pour éviter le scraping.
Les grandes entreprises d'IA telles que OpenAI, Meta, Google, et Stability AI font face à des poursuites pour utilisation non autorisée de matériel protégé par le droit d'auteur, ce qui a suscité une préoccupation croissante dans la communauté artistique. Bien que Nightshade puisse être potentiellement détourné à des fins malveillantes, les chercheurs affirment que des milliers d'échantillons empoisonnés seraient nécessaires pour nuire sérieusement aux modèles d'IA massifs, qui sont généralement entraînés sur des ensembles de données volumineux.
Les experts soulignent le besoin urgent de développer des défenses robustes contre de telles attaques, soulignant que les vulnérabilités pourraient être exploitées à grande échelle si elles ne sont pas contrôlées. Nightshade représente un espoir pour les artistes, leur offrant une arme pour protéger leurs droits de propriété intellectuelle contre les entreprises d'IA. Des artistes tels qu'Eva Toorenent et Autumn Beverly témoignent de leur confiance retrouvée dans la publication en ligne grâce à ces outils, espérant que Nightshade pourra équilibrer le rapport de force entre les créateurs et les géants de l'IA.
