Des assistants IA à l’amélioration photo, en passant par la modération et la sécurité : l’intégration de Gemini dans l’écosystème produit de Quarks

Quarks opère dans des secteurs où la qualité des interactions, la sécurité du contenu et la rapidité de mise sur le marché stimulent directement la croissance. Par conséquent, l’équipe a adopté l’IA non pas comme une expérience périphérique, mais comme un outil central pour améliorer les étapes critiques du parcours utilisateur.

Avant de généraliser l’utilisation de Gemini sur Vertex AI, l’équipe de Quarks testait déjà activement diverses approches d’IA.

Le défi : Bâtir une infrastructure IA stable pour des cas d’usage produit

Initialement, plusieurs cas d’usage ont été développés avec Gemma 2 et Gemma 3, en déployant des modèles sur des ressources GPU louées, puis via des fournisseurs d’IA externes. Bien que cette approche offrait de la flexibilité, la multiplication des cas d’usage a démontré qu’un système d’IA de niveau production exigeait des standards plus élevés en matière de stabilité, de qualité, d’évolutivité et de contrôle.

L’équipe avait besoin d’une plateforme capable de :

• Exécuter plusieurs scénarios d’IA en parallèle en production ;
• Évoluer efficacement tout en maintenant la qualité et la disponibilité ;
• Gérer des contenus textuels, visuels et multimodaux ;
• Automatiser les processus de modération et de sécurité ;
• Tester rapidement de nouveaux cas d’usage ;
• Maintenir un contrôle strict sur les coûts et les performances.

La stabilité opérationnelle constituait le défi principal. De nombreuses fonctions d’IA chez Quarks sont intégrées dans des flux utilisateurs critiques, ce qui signifie que la qualité des réponses, la latence et la disponibilité impactent directement l’expérience utilisateur, les taux de conversion et la confiance envers la marque. En conséquence, Quarks a abordé l’IA générative non pas comme un test ponctuel, mais comme une couche produit et opérationnelle systémique conçue pour s’adapter à divers scénarios.

Pourquoi choisir Gemini par Google Cloud ?

Après avoir évalué plusieurs options, Quarks a choisi Gemini comme base pour ses initiatives d’IA en pleine expansion.

Cette décision a été motivée par des facteurs métiers concrets :

• Une haute qualité pour les tâches produit réelles ;
• Un équilibre optimal entre coût et performance ;
• La prise en charge de scénarios multimodaux ;
• Une intégration rapide aux services et à la logique produit existante.

En collaborant avec Cloudfresh, un Partenaire Premier Google Cloud, l’équipe a perfectionné son utilisation de Gemini. Cela inclut la sélection de modèles spécifiques pour des tâches ciblées et l’optimisation des performances, des coûts de requête et de l’architecture pour garantir une fiabilité sous de fortes charges de production.

Gemini a fourni les résultats les plus équilibrés pour leur environnement de production. L’équipe a commencé à développer une couche d’IA unifiée qui alimente désormais plusieurs domaines critiques, des interactions utilisateurs à la modération, en passant par la sécurité et les opérations internes.

Cas d’usage 1 : Amélioration de photos par IA avec Nano Banana

Dans les produits de rencontre, la qualité des photos influence directement les premières impressions, les likes, les matchs et la probabilité d’entamer une conversation.

En réalité, de nombreux utilisateurs importent des photos avec un mauvais éclairage, une faible résolution ou des limitations techniques. Pour y remédier, Quarks a testé une fonctionnalité d’amélioration de photos par IA qui améliore la qualité de l’image sans altérer les traits du visage ni créer une apparence artificielle.

Cette fonctionnalité utilise Nano Banana — le modèle ultra-rapide de Google au sein de l’écosystème Gemini, conçu pour la génération et l’édition d’images.

L’objectif n’était pas de « redessiner » l’utilisateur, mais de trouver un équilibre entre :

• Une meilleure clarté d’image ;
• La préservation de l’authenticité ;
• Des résultats photoréalistes ;
• L’évitement d’une esthétique de profil de type « bot ».

C’est une nuance produit vitale : dans le domaine des rencontres, une photo trop « parfaite » peut en réalité diminuer la confiance plutôt que l’augmenter.

Premiers résultats

Bien que la fonctionnalité soit encore en phase de test, l’équipe observe déjà des indicateurs positifs :

• Environ 5 % des utilisateurs ont déjà utilisé la fonctionnalité ;
• Dans le groupe test, le nombre de likes envoyés par les femmes a augmenté de 27 % ;
• Le taux de match a grimpé de 7 % ;
• Le taux de conversation chez les hommes a progressé de 7,8 %.

Pour les produits de rencontre, ces métriques ont des conséquences concrètes. La qualité des photos affecte non seulement l’attrait visuel, mais aussi le comportement de l’utilisateur tout au long du parcours utilisateur.

Ce cas démontre que l’IA n’a pas toujours besoin d’impressionner. Souvent, son rôle le plus précieux est de lever les barrières qui empêchent les utilisateurs de s’engager pleinement avec le produit.

Cas d’usage 2 : Gemini pour les assistants IA dans les produits relationnels et de bien-être

L’un des axes majeurs de l’IA pour Quarks is une plateforme d’assistance intégrée à divers produits et scénarios d’interaction utilisateur.

Dans les produits axés sur les relations, l’assistant IA aide les utilisateurs dans des situations spécifiques : mieux comprendre leurs relations, articuler leurs besoins, instaurer une communication plus saine, fixer des limites ou trouver les mots justes lors de moments riches en émotions.

L’exemple d’Affemity, une plateforme éducative pour la santé mentale des femmes, est parlant. L’assistant IA aide les utilisatrices à naviguer dans leurs relations et leur communication avec les hommes, offrant un soutien sur la clarté émotionnelle, les limites personnelles, le flirt et l’interaction consciente avec le partenaire.

Des résultats confirmés par le comportement des utilisateurs

Ce scénario montre clairement que l’assistant IA apporte une valeur réelle :

• 60 % des utilisateurs interagissent avec l’assistant ;
• Une moyenne de plus de 20 interactions par utilisateur ;
• Les retours positifs sont 8 fois plus élevés que les réactions négatives.

Pour Quarks, il s’agit de bien plus que de simples métriques d’engagement. L’assistant devient une partie intégrante de l’expérience produit, aidant les utilisateurs à mieux comprendre leurs sentiments et leurs dynamiques de communication.

Cette fonctionnalité a été développée en étroite collaboration avec des coachs et des psychologues. Cela garantit que l’assistant n’est pas seulement « intelligent », mais aussi adapté à des situations sensibles et émotionnellement complexes.

En conséquence, le produit se différencie par la profondeur de l’interaction et la confiance de l’utilisateur, plutôt que par le simple ajout de fonctionnalités.

La prochaine étape se concentre sur la personnalisation.

Quarks prévoit d’accroître l’utilité des interactions IA en :

• Améliorant la prise en compte du contexte pour chaque utilisateur ;
• Fournissant des conseils plus pertinents ;
• Approfondissant l’intégration de l’assistant avec les autres fonctionnalités de l’application.

Cas d’usage 3 : Gemini pour la modération des descriptions de profil

L’un des cas d’usage de l’IA les plus aboutis chez Quarks concerne la sécurité de la plateforme et la confiance des utilisateurs.

Dans les produits de rencontre, le contenu généré par les utilisateurs stimule l’engagement, mais introduit également des risques : fraude, manipulation, violations des politiques et contenus inappropriés.

La section « À propos de moi » des profils est particulièrement sensible. Les utilisateurs y insèrent souvent :

• Des indicateurs subtils de fraude ;
• Des tentatives de contournement des règles de la plateforme ;
• Des coordonnées de contact interdites ;
• Du contenu inapproprié ou indésirable ;
• D’autres signaux à haut risque.

Avant l’implémentation de la modération par LLM (Large Language Model), tous les textes étaient vérifiés manuellement. Avec l’augmentation du volume de contenu, la modération manuelle est devenue un goulot d’étranglement.

Cela a entraîné plusieurs problèmes opérationnels :

• Retards dans la validation des profils ;
• Détection tardive des cas à risque ;
• Temps excessif passé par les modérateurs sur du contenu sûr au détriment des cas critiques.

En somme, les ressources de modération n’étaient pas utilisées là où elles étaient les plus efficaces.

La stratégie centrale : Les LLM comme filtre intelligent

Pour résoudre ce problème, Quarks a utilisé les LLM non pas comme un simple outil « accepter/rejeter », mais comme un filtre sémantique intelligent pour réduire le bruit et identifier rapidement les contenus risqués.

Au lieu d’une approche binaire, le système analyse le sens du texte et le classe par type et niveau de risque. Cela permet d’adapter les workflows de modération. Le contenu à faible risque est traité automatiquement, tandis que les modérateurs humains concentrent leur attention sur les cas où le jugement subjectif est crucial.

Métriques clés démontrant la valeur

Grâce à l’implémentation des LLM, la modération chez Quarks est presque entièrement automatisée et nettement plus rapide :

• ~99 % du contenu « À propos de moi » passe par l’analyse IA ;
• La couverture de la modération des profils est passée de 17 % à 100 % ;
• Environ 80 % des profils sont automatiquement approuvés en moins de 5 secondes ;
• Le temps de réaction aux problèmes de fraude et de sécurité est tombé à moins d’une minute ;
• La modération manuelle est désormais concentrée exclusivement sur les cas à haut risque.

Cela améliore directement la qualité du produit, car les utilisateurs rencontrent beaucoup moins fréquemment de contenus frauduleux ou dangereux.

Dans ce scénario, l’IA soutient l’équipe de modération plutôt que de la remplacer, lui permettant de travailler avec une précision inatteignable manuellement à cette échelle. Pour Quarks, cela garantit l’intégrité du produit et la capacité à faire croître la plateforme sans perdre le contrôle sur les risques de sécurité.

Cas d’usage 4 : Gemini + RAG pour des réponses IA contextuelles

Quarks utilise également Gemini pour des scénarios où la qualité de la réponse dépend de l’accès à un contexte pertinent, en plus des capacités intrinsèques du modèle.

Pour plusieurs assistants IA, l’équipe développe des workflows où les réponses s’appuient sur des bases de connaissances internes ou spécialisées. Pour y parvenir, Quarks utilise l’approche Retrieval-Augmented Generation (RAG), qui intègre le contexte nécessaire issu de vastes ensembles de données (documents, fichiers PDF) directement dans la réponse.

Cette approche permet de :

• Augmenter la pertinence des réponses ;
• Réduire le risque de recommandations inexactes ou génériques ;
• Fournir des conseils plus utiles et conscients du contexte ;
• Déployer rapidement des scénarios d’IA nécessitant une expertise de niche.

Cela marque le passage d’une simple génération à des réponses enrichies par le contexte qui offrent une plus grande valeur à l’utilisateur.

Et ensuite : Chat IA interne et base de connaissances d’entreprise

La vision de Quarks en matière d’IA s’étend au-delà des fonctionnalités destinées aux utilisateurs. La prochaine étape est le développement d’un agent IA interne utilisant le protocole MCP (Model Context Protocol) pour servir de point d’accès central aux connaissances de l’entreprise.

L’objectif est de fournir aux équipes un outil pour :

• Trouver l’information plus rapidement ;
• Naviguer facilement dans la structure de l’entreprise ;
• Accéder aux connaissances internes via le langage naturel ;
• Analyser les rapports et les données internes via le chat ;
• Réduire le temps consacré aux demandes internes répétitives ;
• Maintenir un contrôle total sur l’accès aux données selon les politiques de sécurité.

Parallèlement, l’accès aux données dans ce chat reste restreint et contrôlé en fonction des rôles des utilisateurs et du niveau de sensibilité des informations. L’approche MCP garantit que l’IA n’a pas d’accès direct aux données brutes, travaillant uniquement avec des réponses autorisées, filtrées ou agrégées. Cela préserve l’équilibre entre utilité et sécurité, minimisant les risques de fuites de données.

Partenariat avec Cloudfresh

Tout au long de ce projet, Cloudfresh a aidé Quarks à faire passer ses initiatives d’IA de la phase expérimentale à des environnements de production réels.

Cette collaboration a permis à Quarks de lancer de nouveaux scénarios d’IA plus rapidement, de gérer efficacement la stabilité et les coûts, et de se concentrer sur la valeur produit plutôt que sur les obstacles d’infrastructure.

Les domaines clés de coopération incluaient :

• La sélection des meilleurs modèles Gemini pour divers cas d’usage ;
• La gestion de la performance et de la fiabilité de Vertex AI en production ;
• L’optimisation des requêtes IA, de l’utilisation des jetons (tokens) et des flux multimodaux.