Une enquête révèle comment des développeurs d’applis exploitent l’intelligence artificielle pour créer de fausses images pornographiques sans consentement, en déguisant leur véritable fonctionnalité sous des titres inoffensifs afin de contourner les politiques de l’App Store d’Apple.
Une récente enquête menée par 404 Media a mis en lumière une pratique inquiétante dans le monde des applications mobiles : certains développeurs ont utilisé des publicités sur Instagram pour promouvoir des applications d’IA capables de «déshabiller gratuitement n’importe quelle fille» grâce à l’utilisation de l’intelligence artificielle, créant ainsi des images explicites sans consentement.
Le rapport de 404 Media note que ces publicités conduisaient directement à des applications répertoriées sur l’App Store d’Apple, présentées sous des titres faussement neutres tels que « générateur d’art« . Ce déguisement dissimule leur véritable objectif, qui est de permettre la création non consensuelle de fausses images pornographiques.
Dans un premier temps, Apple n’a pas répondu aux demandes de commentaires de 404 Media. Toutefois, après avoir reçu des liens directs vers les applications et les campagnes publicitaires correspondantes, la société a réagi rapidement en retirant trois applications de l’App Store. Néanmoins, le rapport suggère que la situation pourrait représenter un « jeu du chat et de la souris« , indiquant qu’Apple pourrait ne pas être en mesure d’identifier les applications contrefaites par elle-même sans aide extérieure.
Le rapport révèle qu’en dépit des avertissements lancés en 2022 sur les capacités douteuses de ces applications, Apple et Google ont mis du temps à prendre des mesures. Il y a quelques années, les géants de la technologie avaient été informés mais avaient refusé de supprimer ces applications, demandant plutôt aux développeurs de cesser de faire de la publicité sur les sites pour adultes. Les applications sont restées disponibles sur l’App Store jusqu’à des interventions plus récentes.
L’une de ces applications a continué à faire de la publicité pour ses fonctionnalités jusqu’en 2024, date à laquelle Google a décidé de la retirer du Google Play Store. Ce n’est que quelques mois plus tard qu’Apple lui a emboîté le pas, ce qui soulève des inquiétudes quant à la rapidité avec laquelle les entreprises réagissent à de tels problèmes.