Trust & Safety
Communautés, forums, applications de rencontre et plateformes de créateurs reçoivent un flux continu de photos et de clips de leurs utilisateurs. Certains sont générés. Notre API attribue à chaque contenu importé un score de génération par IA : vos règles de modération peuvent s’appuyer dessus et vos modérateurs se concentrer sur les cas délicats.
99,5 %
des images IA détectées avec seulement 1 % des vraies photos signalées, sur 19 générateurs actuels
96,2 %
toujours détectées après la compression de WhatsApp, d’Instagram et des repartages
0,987
d’AUROC sur la vidéo IA de 12 modèles vidéo
Partie cachée de notre benchmark d’octobre 2026, jamais utilisée pour l’entraînement. Méthode et résultats completsEN
Un faux profil construit autour d’un visage généré ressemble à n’importe quel autre membre. Sur les plateformes de rencontre et les communautés, les utilisateurs décrochent dès qu’ils ne peuvent plus supposer que la personne sur la photo existe.
De nombreuses plateformes imposent désormais d’étiqueter les contenus IA ou les restreignent dans certaines sections. Une telle règle ne fonctionne que si vous savez d’abord quels contenus sont synthétiques.
Chaque contenu importé est un élément potentiel à examiner. Les modérateurs ne peuvent pas tous les étudier de près : les médias synthétiques passent entre les mailles du filet, ou l’arriéré ne cesse de s’allonger.
Chaque image reçoit une probabilité d’avoir été générée ou modifiée de façon synthétique. Le modèle est entraîné sur les générateurs actuels et sur des fichiers compressés et repartagés avant de vous parvenir.
Des images sont échantillonnées sur toute la durée du clip et évaluées par un modèle vidéo dédié. La réponse indique combien d’images ont été analysées et combien ont été signalées.
Une image de couverture ou une image isolée peut être évaluée seule avec le modèle vidéo, ce qui est utile lorsque vous ne conservez qu’un aperçu.
Si un contenu importé contient un manifeste C2PA, celui-ci est analysé et sa signature vérifiée. Une déclaration IA valide du signataire est rapportée comme certaine, ce qui en fait une base fiable pour un label automatique.
Appelez la REST API depuis votre pipeline d’import avec le fichier, ou avec une URL pour les clips stockés dans votre propre bucket.
C’est vous qui choisissez les seuils. Labellisez ou retenez automatiquement les scores élevés, envoyez la tranche intermédiaire à un modérateur et publiez le reste normalement.
Ajoutez un label IA lorsque votre politique ou les règles de transparence de l’article 50 du règlement européen sur l’IA (AI Act) l’exigent, et conservez le score avec la décision de modération pour les recours et les audits.
Évaluer une image de la file d’import
curl -X POST https://www.wasitaigenerated.com/api/v1/detect/image \
-H "Authorization: Bearer YOUR_API_KEY" \
-F "file=@upload.jpg"Images, images extraites et clips entiers. Consultez la documentation de l’API pour les réponses, les limites et les tarifs.
Nous le déconseillons. Un score de détection est une probabilité, pas une preuve. Utilisez-le pour labelliser un contenu, prioriser l’examen ou retenir un import, et faites confirmer par un modérateur avant d’agir contre une personne ou un compte.
Cela dépend du seuil que vous fixez. Sur notre benchmark d’octobre 2026 portant sur 19 générateurs d’images actuels, le modèle a détecté 99,5 % des images IA tout en signalant 1 % des vraies photos. Vous pouvez relever le seuil pour signaler moins de vraies photos, au prix de davantage d’images IA non détectées.
L’API est conçue pour les pipelines automatisés. Pour des volumes élevés et réguliers, les offres Enterprise incluent une capacité dédiée et un SLA, afin que la latence de modération reste prévisible.
Les fichiers importés sont supprimés après l’analyse ; l’API conserve le résultat, pas le fichier. Un accord de traitement des données (DPA) et l’auto-hébergement sur vos propres GPU et serveurs sont proposés aux clients Enterprise.
Nous menons des pilotes payants sur un échantillon de vos images et clips, calibrons le seuil selon votre tolérance aux faux positifs et vous communiquons les taux de détection et d’erreur avant tout engagement. Des tarifs sur volume et un SLA sont disponibles pour la production, et les modèles peuvent tourner sur vos propres GPU et serveurs.
Parlons d’un projet pilote