Від ШІ-асистентів і покращення фото до модерації та безпеки: Як Gemini став частиною продуктової системи Quarks

Quarksпрацюють із продуктами, де якість взаємодії між користувачами, безпека контенту та швидкість запуску нових сценаріїв напряму впливають на зростання. Саме тому команда почала системно використовувати ШІ не як окрему експериментальну функцію, а як інструмент для покращення ключових етапів користувацького досвіду.

До ширшого переходу на Gemini у Vertex AI команда Quarks вже активно тестувала різні ШІ-підходи.

Виклик: Як побудувати стабільну ШІ-систему для продуктових сценаріїв

Спочатку частину сценаріїв будували на базі Gemma 2 і Gemma 3, розгортаючи моделі на орендованих GPU-ресурсах, а згодом — через зовнішніх ШІ-провайдерів. Це давало гнучкість, але зі зростанням кількості сценаріїв стало зрозуміло: для продуктової ШІ-системи потрібен інший рівень стабільності, якості, масштабованості та керованості.

Команді була потрібна платформа, яка дозволить:

• Запускати кілька паралельних ШІ-сценаріїв у production;
• Легко масштабуватися без втрати якості та стабільності;
• Працювати і з текстом, і з фото, і з мультимодальними задачами;
• Автоматизувати модерацію та safety-процеси;
• Швидко тестувати нові гіпотези;
• Зберігати контроль над витратами та продуктивністю.

Окремим викликом була продуктова стабільність. Частина ШІ-функцій у Quarks працює в критичних user flows. А це означає, що якість відповіді, затримка та доступність безпосередньо впливають на користувацький досвід, конверсію та довіру до продукту. Саме тому в Quarks підійшли до генеративного ШІ не як до одноразового експерименту, а як до системного продуктового та операційного шару, який можна масштабувати на різні сценарії.

Чому Gemini від Google Cloud

Після тестування різних підходів команда Quarks обрала Gemini як основу для дедалі більшої кількості ШІ-сценаріїв.

Вибір був дуже практичним і спирався на кілька ключових факторів:

• Достатньо висока якість для реальних продуктових задач;
• Адекватний баланс між вартістю та результатом;
• Підтримка мультимодальних сценаріїв;
• Швидка інтеграція в уже наявні сервіси та логіку продуктів.

Разом із Cloudfresh, Google Cloud-партнером Premier-рівня, команда також пропрацьовувала як найкраще використовувати можливості Gemini на практиці: від вибору моделей під конкретні задачі до оптимізації продуктивності, вартості запитів і архітектури сценаріїв, які мають працювати стабільно під реальним навантаженням.

У результаті Gemini показав найбільш збалансований результат для production-середовища. Команда почала будувати єдиний AI-layer, який сьогодні підтримує одразу кілька важливих напрямів — від взаємодії з користувачами до модерації, safety та внутрішніх ШІ-сценаріїв.

Use Case 1. ШІ-покращення фото користувачів з Nano Banana

У dating-продуктах якість фото напряму впливає на перше враження, кількість лайків, метчів і шанси на старт діалогу.

На практиці ж значна частина користувачів завантажує фото з поганим освітленням, низькою якістю або зроблені на слабші камери. Щоб зменшити цей бар’єр, Quarks протестували функцію AI Photo Enhancement, яка допомагає покращити якість фото, не змінюючи риси обличчя користувача та не роблячи зображення штучним.

Функціонал працює на базі Nano Banana — високошвидкісної моделі Google у стеку Gemini для генерації та редагування зображень.

Мета полягала не в тому, щоб «перемалювати» людину чи зробити її надто ідеальною. Навпаки — команда свідомо шукала баланс між:

• Кращою якістю фото;
• Збереженням автентичності;
• Фотореалістичністю;
• Відсутністю відчуття, що профіль виглядає «як бот».

Це важливий продуктовий нюанс: у dating-середовищі надто «ідеальне» фото може не підвищити довіру, а навпаки — знизити її.

Перші результати

Наразі цей функціонал іще перебуває в тестуванні, але вже зараз команда бачить позитивні сигнали:

• Близько 5% користувачів уже скористалися функцією;
• У тестовій групі кількість відправлених лайків серед жінок зросла на 27%;
• Match rate зріс на 7%;
• Покриття діалогами серед чоловіків виросло на 7,8%.

Для dating-продуктів це має дуже прикладне значення. Якість фото впливає не лише на візуальне сприйняття профілю, а й на поведінку користувачів далі у воронці.

Це хороший приклад того, що ШІ не обов’язково має «вражати» користувача. Іноді його найцінніша роль — прибрати бар’єр, який заважає людині повноцінно включитися у продукт.

Use Case 2. Gemini для ШІ-асистентів у продуктах для покращення стосунків і well-being

Один із ключових ШІ-напрямів у Quarks — це платформа асистентів, інтегрована в різні продукти та сценарії взаємодії з користувачем.

У relationship-oriented продуктах ШІ-асистент допомагає користувачам у дуже конкретних життєвих обставинах: краще зрозуміти власні стосунки, сформулювати свої потреби, побудувати здоровішу комунікацію, відстояти кордони, впевненіше вести переписку або просто знайти правильні слова в емоційно непросту мить.

Один із таких прикладів — Affemity, освітня платформа для покращення ментального здоров’я жінок. Тут ШІ-асистент допомагає користувачкам краще орієнтуватися у стосунках і комунікації з чоловіками, підтримуючи їх у питаннях емоційної ясності, особистих кордонів, флірту, рефлексії щодо стосунків і більш усвідомленої взаємодії з партнером.

Результати, підтверджені поведінкою користувачів

Цей сценарій уже має чіткі поведінкові сигнали, що ШІ-асистент реально створює цінність:

• 60% користувачів взаємодіють із асистентом;
• У середньому – 20+ взаємодій на користувача;
• Позитивних реакцій у понад 8 разів більше, ніж негативних.

Для Quarks це не просто метрики залученості. Асистент стає частиною ключового досвіду продукту — допомагає користувачам краще розуміти себе, свої почуття та комунікацію у стосунках.

Важливо, що цей функціонал створювався у тісній співпраці з коучами та психологами. Завдяки цьому асистент не просто «розумний», а справді доречний у чутливих і емоційно складних ситуаціях.

У результаті продукт отримує диференціацію не за рахунок кількості фіч, а за рахунок глибини взаємодії та довіри користувача.

Наступний етап для команди — персоналізація.

Quarks планують зробити ШІ-взаємодію більш корисною за рахунок:

• Кращого розуміння ситуації користувача;
• Більш доречних порад;
• Глибшої інтеграції ШІ-асистента з іншими функціями застосунку.

Use Case 3. Gemini для модерації опису профілю

Один із найзріліших і найсильніших ШІ-сценаріїв у Quarks — це безпека платформи та довіра користувачів.

У dating-продуктах контент, який створюють самі користувачі, дає не лише залучення, а й створює ризики: шахрайство, маніпуляції, приховані порушення правил, небезпечні сигнали та інший шкідливий контент.

Однією з найчутливіших зон у Quarks є опис профілю «About me». Саме тут користувачі часто залишають:

• Приховані ознаки шахрайства;
• Спроби обійти правила платформи;
• Контактні дані;
• Сексуалізований або небажаний контент;
• Інші потенційно ризикові сигнали.

До впровадження модерації на базі великих мовних моделей усі тексти в описі «About Me» перевірялися вручну. Поки обсяг контенту був меншим, цей підхід іще працював. Але зі зростанням активності користувачів ручна перевірка почала перетворюватися на вузьке місце.

Це означало кілька практичних проблем:

• Не всі профілі встигали перевірятися вчасно;
• Частина ризикових кейсів могла виявлятися із запізненням;
• Модератори витрачали занадто багато часу на безпечний або малоризиковий контент замість того, щоб концентруватися на дійсно критичних випадках.

Іншими словами, команда модерації витрачала багато ресурсу не там, де він дає найбільший ефект.

Основна ідея: Великі мовні моделі як розумний фільтр

Щоб вирішити цю проблему, Quarks використали великі мовні моделі не як інструмент для простого рішення «схвалити / відхилити», а як розумний семантичний фільтр, який допомагає відсіювати шум і швидко виявляти ризиковий контент.

Замість бінарного підходу система аналізує зміст тексту й класифікує його за рівнем і типом ризику. Це дозволяє застосовувати різні сценарії модерації залежно від того, наскільки контент потенційно проблемний. Такий підхід дозволяє автоматично обробляти контент із низьким рівнем ризику, а увагу модераторів спрямовувати саме на ті кейси, де людська оцінка справді критична.

Ключові метрики, які показують цінність

Після впровадження LLM модерація в Quarks стала майже повністю автоматизованою та значно швидшою:

• ~99% контенту в «About Me» проходить попередній ШІ-аналіз;
• Покриття перевірки профілів зросло з 17% до 100%;
• Близько 80% профілів проходять автоматичне схвалення менш ніж за 5 секунд;
• Час реакції на шахрайські та безпекові кейси скоротився до менш ніж 1 хвилини;
• Ручна модерація тепер зосереджена лише на найризикованіших випадках.

У підсумку це напряму впливає на якість продукту — користувачі значно рідше стикаються з шахрайським або небезпечним контентом.

У цьому сценарії ШІ не замінює команду модерації. Він допомагає їй працювати швидше, точніше й у масштабі, який ручна перевірка вже не може покрити самостійно. Це важливо не лише з операційної точки зору. Для Quarks це напряму пов’язано з якістю продукту, довірою користувачів і здатністю масштабувати платформу без втрати контролю над ризиками.

Use Case 4. Gemini + RAG для контекстних ШІ-відповідей

Іще один важливий напрям у Quarks — використання Gemini для сценаріїв, де якість відповіді залежить не лише від моделі, а й від доступу до релевантного контексту.

Для частини ШІ-асистентів команда працює зі сценаріями, у яких відповіді мають спиратися не лише на загальні можливості моделі, а й на внутрішню або спеціалізовану базу знань. Для цього Quarks використовує підхід Retrieval-Augmented Generation (RAG), який дозволяє підключати до відповіді потрібний контекст із великих масивів даних,  зокрема документів та PDF-матеріалів.

Такий підхід допомагає:

• Підвищувати релевантність відповідей;
• Зменшувати ризик неточних або занадто загальних рекомендацій;
• Давати користувачам більш контекстні та корисні поради;
• Швидше масштабувати ШІ-сценарії, які потребують знань із конкретної області.

Для Quarks це важливий крок у розвитку ШІ-інструментів: від простої генерації до контекстно підсилених відповідей, які можуть бути значно ціннішими для користувача.

Що далі: Внутрішній ШІ-чат і корпоративна база знань

Quarks дивиться на ШІ ширше, ніж лише на user-facing сценарії. Наступний етап — створення власного внутрішнього ШІ-агента з використанням MCP, який стане єдиною точкою доступу до внутрішніх знань компанії.

Ідея полягає в тому, щоб дати командам інструмент, який допоможе:

• Швидше знаходити потрібну інформацію;
• Орієнтуватися у структурі компанії;
• Отримувати доступ до внутрішніх знань у natural-language форматі;
• Аналізувати звіти, спліти та внутрішні дані через чат;
• Зменшувати час на повторювані внутрішні запити;
• Зберігаючи повний контроль над доступом до даних, їх обсягом та рівнем деталізації відповідно до ролей і політик безпеки. 

Водночас доступ до даних у такому чаті буде обмеженим і контрольованим відповідно до ролей користувача та рівня чутливості інформації. MCP-підхід забезпечує, що ШІ не має прямого доступу до сирих даних, а працює лише з дозволеними, відфільтрованими або агрегованими відповідями. Це дозволяє зберегти баланс між зручністю використання та безпекою, мінімізуючи ризики витоку або некоректного використання внутрішньої інформації.

Партнерство з Cloudfresh

У цьому проєкті Cloudfresh допомагали Quarks швидше переводити ШІ-ініціативи з рівня експериментів у реальні продуктові сценарії.

Завдяки цій співпраці команда Quarks могла швидше запускати нові ШІ-сценарії, краще контролювати їхню стабільність і витрати, а також фокусуватися не на інфраструктурних обмеженнях, а на тому, що справді створює цінність для продукту й користувача.

Зокрема, співпраця охоплювала:

• Вибір оптимальних моделей Gemini під різні сценарії;
• Роботу з продуктивністю та стабільністю Vertex AI у production;
• Оптимізацію ШІ-запитів, токенів і мультимодальних сценаріїв.