Les problèmes de Google Search avec les contenus explicites dans ses résultats d'image s'aggraveraient à mesure que la plateforme continue d'afficher des deepfakes et des photos sexuelles non consensuelles en ligne.
Selon un rapport approfondi de CâbléLes employés de Google ont du mal à inciter les dirigeants à agir sur le problème face à la croissance des images explicites sur la plateforme.
Bien que Google ait facilité la demande de suppression de consentements sexuels et non consensuels, plusieurs anciens employés notent que l'entreprise a fait preuve de laxisme dans le suivi des propositions antérieures visant à résoudre pleinement le problème.
Parmi les recommandations proposées précédemment figurent des politiques de vérification des sites Web plus strictes pour empêcher le téléchargement en ligne de documents non consensuels et l’adoption de l’outil StopNCII.
Arrêtez le NCIIou Stop Non-Consensual Intimate Image Abuse, est un outil gratuit à l'échelle de l'industrie pour aider les médias sociaux à bloquer les images explicites de sa base de données de plus de 572 000 photos et vidéos hachées.
Un représentant de Google a déclaré à Wired que la prévention de la diffusion d'images non consensuelles sur la plateforme reste une priorité absolue, car ses employés « continuent de travailler avec diligence pour renforcer nos mesures de protection ».
A lire aussi : Google aurait « menti » sur ses algorithmes de recherche, affirment les experts après une fuite massive de données
L'IA générative pourrait aggraver les images explicites dans la recherche Google
L’IA générative devenant de plus en plus accessible au public, les experts ont depuis longtemps soulevé la question avertissements que les deepfakes explicites ne feraient qu’augmenter à mesure que des acteurs malveillants exploiteraient la technologie à des fins illégales.
Plusieurs victimes antérieures d'images explicites sur Google Search voient déjà des deepfakes sexuels générés par l'IA de leurs images malgré des demandes de retrait antérieures.
Les deepfakes sont même capables de contourner la censure automatisée du contenu pour adultes de la plateforme, car les images sexuelles de célébrités générées par l'IA peuvent être facilement repérées avec de simples requêtes de recherche.
Article connexe : Taylor Swift Deepfakes : le danger de l'IA dans le Far West d'Internet
La Maison Blanche intensifie ses efforts pour lutter contre les images explicites non consensuelles
Ce n’était pas la première fois que Google était signalé de négligence dans le traitement du contenu explicite sur ses plateformes au point que les législateurs ont commencé à intervenir sur la question.
En mai dernier, le président américain Joe Biden a publié un décret exécutif pour lutter contre les « abus sexuels basés sur l’image » en ligne, y compris l’utilisation de l’IA, pour cibler les groupes vulnérables.
L’une des principales étapes des tâches du décret exécutif consiste à former un nouveau groupe de travail pour empêcher la diffusion ultérieure de documents non consensuels.
Il faut également exhorter les plateformes en ligne comme Google à « gérer les risques liés à l’IA » en évitant qu’elle soit monétisée à partir d’individus exploités sexuellement.
