Apple supprime enfin les applis IA de nudification
Sous pression judiciaire, Apple a retiré plusieurs applications de nudification par IA de l'App Store. Un ménage tardif, mais bienvenu.
C'est une décision qui aurait dû tomber bien plus tôt. Apple vient de retirer de l'App Store plusieurs applications d'intelligence artificielle permettant de « déshabiller » numériquement des personnes sur des photos. Des outils communément appelés « nudify apps », capables de générer des deepfakes à caractère pornographique à partir d'un simple cliché. La firme de Cupertino a agi, oui. Mais sous la contrainte.
Des applis qui n'auraient jamais dû exister là
Pour être honnête, la question qu'on se pose tous c'est : comment ces applications ont-elles réussi à passer les filets de validation d'Apple en premier lieu ? La firme se targue depuis des années d'avoir l'App Store le plus sécurisé et le plus rigoureux du marché. Un argument commercial martelé à chaque keynote. Et pourtant, des outils conçus explicitement pour produire des images sexuelles non consenties de personnes réelles ont bel et bien été disponibles sur la plateforme.
C'est une action en justice qui a finalement forcé la main d'Apple. Des poursuites judiciaires pointant directement la responsabilité de la plateforme dans la mise à disposition de ces outils ont déclenché le retrait. Pas une prise de conscience spontanée. Une décision sous pression. (Et franchement, ça dit beaucoup sur la manière dont certaines entreprises tech calibrent leur éthique.)
Le problème des deepfakes pornographiques est massif
Les chiffres autour des deepfakes non consentis sont alarmants. Les victimes sont majoritairement des femmes, et les dommages psychologiques documentés sont réels et durables. Ce type de contenu circule sur des forums, des messageries privées, des réseaux sociaux. Et le fait de rendre ces outils accessibles directement depuis une boutique officielle, téléchargeables en quelques secondes sur un iPhone, représente une facilitation active du problème.
Lire aussi : Red Magic prouve qu'un flagship puissant n'a pas à coûter 1 200 €
Bon, certains diront que ces apps se présentaient sous des intitulés flous, des catégories d'édition photo anodines. C'est vrai. Mais leurs fonctionnalités réelles n'étaient pas un secret. Il suffisait de lire les avis utilisateurs ou de taper le nom de l'appli dans un moteur de recherche pour comprendre à quoi elles servaient concrètement.
Une modération qui montre ses limites
Et c'est là que le bât blesse vraiment. Apple facture une commission de 15 à 30 % sur les achats intégrés réalisés dans ses applications. L'entreprise tire donc des revenus directs de chaque abonnement, chaque achat, réalisé dans ces apps. Difficile dans ces conditions de plaider l'ignorance totale.
La modération de l'App Store repose sur une combinaison de vérification humaine et de systèmes automatisés. Mais avec des millions d'applications référencées, les failles existent. Des développeurs peu scrupuleux savent contourner les règles en modifiant les descriptions, en cachant les fonctionnalités les plus sensibles derrière des mises à jour post-validation. C'est un jeu du chat et de la souris permanent, et visiblement Apple ne gagne pas toujours.
Lire aussi : Quiche Browser : le navigateur iPhone qui vire les résultats IA de Google
Qu'est-ce que ça change concrètement ?
Les applications visées ont été retirées. C'est acté. Mais est-ce que ça règle le problème de fond ? Pas vraiment. Ces outils migrent vers d'autres canaux : sites web directs, plateformes moins regardantes, applications déguisées sous d'autres noms. La suppression d'une app ne fait pas disparaître la technologie qui la sous-tend.
Ce qui pourrait vraiment changer les choses, c'est une politique de vérification proactive et systématique des fonctionnalités réelles des applications liées à l'IA générative. Apple a les ressources pour le faire. La question, c'est si la firme a la volonté de s'imposer ce niveau d'exigence avant qu'un tribunal ne l'y oblige. (On espère, mais on reste prudents.)
Lire aussi : 7 astuces Apple Notes que vous n'utilisez probablement pas
En attendant, cette affaire rappelle que les règles de l'App Store ne sont pas qu'un gage de qualité technique. Elles ont aussi une dimension éthique. Et sur ce terrain-là, Apple a clairement du travail.
