Od asystentów AI i retuszu zdjęć po moderację i bezpieczeństwo: Jak Gemini stało się częścią ekosystemu produktów Quarks

Quarks rozwija produkty, w których jakość interakcji między użytkownikami, bezpieczeństwo treści oraz szybkość wdrażania nowych funkcji bezpośrednio przekładają się na wzrost. Dlatego zespół zaczął systematycznie wykorzystywać AI nie jako osobną funkcję eksperymentalną, ale jako narzędzie do optymalizacji kluczowych etapów doświadczenia użytkownika.

Przed szerokim przejściem na Gemini w Vertex AI zespół Quarks aktywnie testował już różne podejścia do sztucznej inteligencji.

Wyzwanie: Jak zbudować stabilny system AI dla scenariuszy produktowych

Początkowo część rozwiązań opierano na modelach Gemma 2 i Gemma 3, wdrażając je na wynajętych zasobach GPU, a później korzystając z zewnętrznych dostawców AI. Dawało to elastyczność, jednak wraz ze wzrostem liczby scenariuszy stało się jasne: system AI w produkcie wymaga wyższego poziomu stabilności, jakości, skalowalności i kontroli.

Zespół potrzebował platformy, która umożliwi:

• Uruchamianie wielu równoległych scenariuszy AI na środowisku produkcyjnym;
• Łatwe skalowanie bez utraty jakości i stabilności;
• Pracę z tekstem, zdjęciami oraz zadaniami multimodalnymi;
• Automatyzację moderacji i procesów bezpieczeństwa;
• Szybkie testowanie nowych hipotez;
• Zachowanie kontroli nad kosztami i wydajnością.

Osobnym wyzwaniem była stabilność produktu. Część funkcji AI w Quarks działa w krytycznych ścieżkach użytkownika (user flows). Oznacza to, że jakość odpowiedzi, opóźnienia i dostępność bezpośrednio wpływają na wrażenia użytkowników, konwersję i zaufanie do produktu. Właśnie dlatego Quarks podeszło do generatywnej AI nie jak do jednorazowego eksperymentu, lecz jako do systemowej warstwy produktowej i operacyjnej, którą można skalować na różne scenariusze.

Dlaczego Gemini od Google Cloud

Po przetestowaniu różnych podejść zespół Quarks wybrał Gemini jako fundament dla coraz większej liczby scenariuszy AI.

Wybór był czysto praktyczny i opierał się na kilku kluczowych czynnikach:

• Wystarczająco wysoka jakość dla realnych zadań produktowych;
• Odpowiedni balans między kosztem a rezultatem;
• Obsługa scenariuszy multimodalnych;
• Szybka integracja z istniejącymi usługami i logiką produktów.

Wspólnie z Cloudfresh, partnerem Google Cloud na poziomie Premier, zespół zastanawiał się również, jak najlepiej wykorzystać możliwości Gemini w praktyce: od doboru modeli do konkretnych zadań po optymalizację wydajności, kosztów zapytań oraz architektury scenariuszy, które muszą działać stabilnie pod rzeczywistym obciążeniem.

W rezultacie Gemini wykazało najbardziej zbalansowane wyniki dla środowiska produkcyjnego. Zespół zaczął budować jednolitą warstwę AI (AI-layer), która obecnie wspiera jednocześnie kilka kluczowych obszarów — od interakcji z użytkownikami po moderację, bezpieczeństwo i wewnętrzne scenariusze AI.

Use Case 1: Poprawa jakości zdjęć użytkowników dzięki Nano Banana

W produktach randkowych jakość zdjęć bezpośrednio wpływa na pierwsze wrażenie, liczbę polubień, dopasowań (matches) oraz szanse na rozpoczęcie rozmowy.

W praktyce znaczna część użytkowników przesyła zdjęcia ze słabym oświetleniem, niskiej rozdzielczości lub wykonane gorszymi aparatami. Aby zredukować tę barierę, Quarks przetestowało funkcję AI Photo Enhancement, która pomaga poprawić jakość zdjęć bez zmieniania rysów twarzy użytkownika i bez nadawania obrazowi sztucznego wyglądu.

Funkcjonalność ta opiera się na Nano Banana — szybkim modelu Google ze stosu Gemini, przeznaczonym do generowania i edycji obrazów.

Celem nie było „przerysowanie” osoby czy sprawienie, by wyglądała idealnie. Wręcz przeciwnie — zespół świadomie szukał balansu między:

• Lepszą jakością zdjęcia;
• Zachowaniem autentyczności;
• Fotorealizmem;
• Uniknięciem wrażenia, że profil wygląda „jak bot”.

To istotny niuans produktowy: w środowisku randkowym zbyt „idealne” zdjęcie może nie zwiększać zaufania, a wręcz je obniżać.

Pierwsze wyniki

Obecnie funkcja ta jest jeszcze w fazie testów, ale zespół już teraz zauważa pozytywne sygnały:

• Około 5% użytkowników już skorzystało z tej opcji;
• W grupie testowej liczba wysłanych polubień przez kobiety wzrosła o 27%;
• Match rate wzrósł o 7%;
• Wskaźnik rozpoczętych dialogów wśród mężczyzn wzrósł o 7,8%.

Dla produktów randkowych ma to bardzo wymierne znaczenie. Jakość zdjęć wpływa nie tylko na wizualny odbiór profilu, ale także na zachowanie użytkowników w dalszej części lejka konwersji.

To świetny przykład na to, że AI niekoniecznie musi „zadziwiać” użytkownika. Czasami jego najcenniejszą rolą jest usunięcie bariery, która przeszkadza człowiekowi w pełni zaangażować się w produkt.

Use Case 2: Gemini dla asystentów AI w produktach wspierających relacje i well-being

Jednym z kluczowych kierunków AI w Quarks jest platforma asystentów zintegrowana z różnymi produktami i scenariuszami interakcji z użytkownikiem.

W produktach nastawionych na relacje asystent AI pomaga użytkownikom w bardzo konkretnych sytuacjach życiowych: lepiej zrozumieć własne relacje, sformułować potrzeby, budować zdrowszą komunikację, wyznaczać granice, pewniej prowadzić korespondencję czy po prostu znaleźć odpowiednie słowa w emocjonalnie trudnych chwilach.

Przykładem jest Affemity — platforma edukacyjna dla zdrowia psychicznego kobiet. Asystent AI pomaga użytkowniczkom lepiej odnaleźć się w relacjach i komunikacji z mężczyznami, wspierając je w kwestiach jasności emocjonalnej, granic osobistych, flirtu, refleksji nad związkiem i bardziej świadomej interakcji z partnerem.

Wyniki potwierdzone zachowaniem użytkowników

Ten scenariusz dostarczył już wyraźnych sygnałów, że asystent AI realnie tworzy wartość:

• 60% użytkowników wchodzi w interakcję z asystentem;
• Średnio 20+ interakcji na użytkownika;
• Pozytywnych reakcji jest ponad 8 razy więcej niż negatywnych.

Dla Quarks to nie tylko metryki zaangażowania. Asystent staje się częścią kluczowego doświadczenia produktu — pomaga użytkownikom lepiej zrozumieć siebie, swoje uczucia i sposób komunikacji w związku.

Co ważne, funkcjonalność ta powstała w ścisłej współpracy z coachami i psychologami. Dzięki temu asystent nie jest tylko „inteligentny”, ale naprawdę trafny w delikatnych i emocjonalnie złożonych sytuacjach.

W rezultacie produkt wyróżnia się nie liczbą funkcji, ale głębią interakcji i zaufaniem użytkownika.

Kolejnym etapem dla zespołu jest personalizacja.

Quarks planuje zwiększyć użyteczność interakcji AI poprzez:

• Lepsze rozumienie sytuacji użytkownika;
• Bardziej trafne porady;
• Głębszą integrację asystenta AI z innymi funkcjami aplikacji.

Use Case 3: Gemini do moderacji opisu profilu

Jeden z najbardziej dojrzałych scenariuszy AI w Quarks dotyczy bezpieczeństwa platformy i zaufania użytkowników.

W produktach randkowych treści tworzone przez użytkowników generują nie tylko zaangażowanie, ale i ryzyka: oszustwa, manipulacje, ukryte naruszenia regulaminu, niepokojące sygnały oraz inne szkodliwe treści.

Jedną z najbardziej wrażliwych stref w Quarks jest opis profilu „O mnie”. To tutaj użytkownicy często zostawiają:

• Ukryte oznaki oszustw;
• Próby obejścia zasad platformy;
• Dane kontaktowe;
• Treści o charakterze seksualnym lub niepożądane;
• Inne potencjalnie ryzykowne sygnały.

Przed wdrożeniem moderacji opartej na dużych modelach językowych, wszystkie teksty w sekcji „O mnie” były sprawdzane ręcznie. Gdy objętość treści była mniejsza, to podejście się sprawdzało. Jednak wraz ze wzrostem aktywności użytkowników, ręczna weryfikacja stała się wąskim gardłem.

Oznaczało to kilka praktycznych problemów:

• Nie wszystkie profile udawało się sprawdzić na czas;
• Część ryzykownych przypadków wykrywano z opóźnieniem;
• Moderatorzy tracili zbyt dużo czasu na bezpieczne treści, zamiast skupić się na przypadkach krytycznych.

Innymi słowy, zespół moderacji poświęcał ogromne zasoby tam, gdzie nie przynosiły one największego efektu.

Główna idea: Duże modele językowe jako inteligentny filtr

Aby rozwiązać ten problem, Quarks wykorzystało LLM nie jako proste narzędzie typu „zatwierdź/odrzuć”, lecz jako inteligentny filtr semantyczny, który pomaga odsiewać szum i szybko identyfikować ryzykowne treści.

Zamiast podejścia binarnego, system analizuje treść tekstu i klasyfikuje go pod kątem poziomu i rodzaju ryzyka. Pozwala to na stosowanie różnych scenariuszy moderacji w zależności od tego, jak problematyczna może być treść. Dzięki temu treści o niskim ryzyku są przetwarzane automatycznie, a uwaga moderatorów kierowana jest tam, gdzie ocena ludzka jest naprawdę niezbędna.

Kluczowe metryki pokazujące wartość

Po wdrożeniu LLM moderacja w Quarks stała się niemal całkowicie zautomatyzowana i znacznie szybsza:

• ~99% treści w sekcji „O mnie” przechodzi wstępną analizę AI;
• Zasięg weryfikacji profili wzrósł z 17% do 100%;
• Około 80% profili otrzymuje automatyczne zatwierdzenie w mniej niż 5 sekund;
• Czas reakcji na oszustwa i incydenty bezpieczeństwa skrócił się do mniej niż 1 minuty;
• Moderacja ręczna koncentruje się teraz wyłącznie na najbardziej ryzykownych przypadkach.

W efekcie przekłada się to bezpośrednio na jakość produktu — użytkownicy znacznie rzadziej stykają się z oszustwami lub niebezpiecznymi treściami.

W tym scenariuszu AI nie zastępuje zespołu moderatorów. Pomaga im pracować szybciej, dokładniej i w skali, której ręczna weryfikacja nie byłaby w stanie udźwignąć. Jest to ważne nie tylko operacyjnie — dla Quarks wiąże się to bezpośrednio z jakością produktu, zaufaniem użytkowników i możliwością skalowania platformy bez utraty kontroli nad ryzykiem.

Use Case 4: Gemini + RAG dla kontekstowych odpowiedzi AI

Kolejnym ważnym kierunkiem w Quarks jest wykorzystanie Gemini w scenariuszach, gdzie jakość odpowiedzi zależy nie tylko od modelu, ale także od dostępu do odpowiedniego kontekstu.

W przypadku części asystentów AI zespół pracuje nad scenariuszami, w których odpowiedzi muszą opierać się nie tylko na ogólnych możliwościach modelu, ale także na wewnętrznej lub specjalistycznej bazie wiedzy. W tym celu Quarks wykorzystuje podejście Retrieval-Augmented Generation (RAG), które pozwala dołączać do odpowiedzi odpowiedni kontekst z dużych zbiorów danych, w tym dokumentów i plików PDF.

Takie podejście pomaga:

• Zwiększać trafność odpowiedzi;
• Zmniejszać ryzyko niedokładnych lub zbyt ogólnych rekomendacji;
• Dostarczać użytkownikom bardziej kontekstowe i pomocne porady;
• Szybciej skalować scenariusze AI wymagające wiedzy dziedzinowej.

Dla Quarks to ważny krok w rozwoju narzędzi AI: przejście od prostego generowania do odpowiedzi wzmocnionych kontekstowo, które mogą być znacznie cenniejsze dla użytkownika.

Co dalej: Wewnętrzny czat AI i korporacyjna baza wiedzy

Quarks patrzy na AI szerzej niż tylko przez pryzmat scenariuszy dla użytkowników końcowych. Następnym etapem jest stworzenie własnego wewnętrznego agenta AI z wykorzystaniem MCP, który stanie się jedynym punktem dostępu do wewnętrznej wiedzy firmy.

Pomysł polega na udostępnieniu zespołom narzędzia, które pomoże:

• Szybciej odnajdywać potrzebne informacje;
• Orientować się w strukturze firmy;
• Uzyskać dostęp do wiedzy wewnętrznej w formacie języka naturalnego;
• Analizować raporty, testy A/B i dane wewnętrzne poprzez czat;
• Skracać czas poświęcany na powtarzalne zapytania wewnętrzne;
• Zachować pełną kontrolę nad dostępem do danych, ich objętością i poziomem szczegółowości zgodnie z rolami i polityką bezpieczeństwa.

Jednocześnie dostęp do danych w takim czacie będzie ograniczony i kontrolowany zgodnie z uprawnieniami użytkownika. Podejście MCP gwarantuje, że AI nie ma bezpośredniego dostępu do surowych danych, a pracuje jedynie na dozwolonych, przefiltrowanych lub zagregowanych odpowiedziach. Pozwala to zachować równowagę między wygodą użytkowania a bezpieczeństwem, minimalizując ryzyko wycieku lub niewłaściwego wykorzystania informacji firmowych.

Partnerstwo z Cloudfresh

W tym projekcie Cloudfresh wspierał Quarks w szybkim przenoszeniu inicjatyw AI z poziomu eksperymentów do realnych scenariuszy produktowych.

Dzięki tej współpracy zespół Quarks mógł szybciej wdrażać nowe rozwiązania AI, lepiej kontrolować ich stabilność i koszty, a także skupić się nie na ograniczeniach infrastrukturalnych, lecz na tym, co faktycznie tworzy wartość dla produktu i użytkownika.

W szczególności współpraca obejmowała:

• Wybór optymalnych modeli Gemini dla różnych scenariuszy;
• Pracę nad wydajnością i stabilnością Vertex AI na produkcji;
• Optymalizację zapytań AI, tokenów i scenariuszy multimodalnych.