Od AI asistentů a vylepšování fotek po moderování a bezpečnost: Jak se Gemini stalo součástí produktového ekosystému Quarks

Společnost Quarks spravuje produkty, kde kvalita interakce mezi uživateli, bezpečnost obsahu a rychlost nasazování nových funkcí přímo ovlivňují růst. Proto tým začal využívat umělou inteligenci systémově — nikoliv jako izolovaný experiment, ale jako nástroj pro zlepšení klíčových fází uživatelské cesty.

Před širším přechodem na Gemini ve Vertex AI už tým Quarks aktivně testoval různé přístupy k AI.

Výzva: Jak vybudovat stabilní AI systém pro produktové scénáře

Původně byla část scénářů postavena na modelech Gemma 2 a Gemma 3, které běžely na pronajatých GPU, a později prostřednictvím externích poskytovatelů AI. To sice zajistilo flexibilitu, ale s rostoucím počtem scénářů bylo jasné, že produktový AI systém vyžaduje jinou úroveň stability, kvality, škálovatelnosti a kontroly.

Tým hledal platformu, která umožní:

• Spouštět několik paralelních AI scénářů v produkčním prostředí;
• Snadno škálovat bez ztráty kvality a stability;
• Pracovat s textem, fotografiemi i multimodálními úlohami;
• Automatizovat moderování a bezpečnostní procesy;
• Rychle testovat nové hypotézy;
• Udržet kontrolu nad náklady a výkonem.

Specifickou výzvou byla produktová stabilita. Část AI funkcí v Quarks běží v kritických uživatelských tocích (flows). To znamená, že kvalita odpovědí, latence a dostupnost mají přímý vliv na uživatelskou zkušenost, konverzi a důvěru v produkt. Proto v Quarks k generativní AI nepřistoupili jako k jednorázovému pokusu, ale jako k systémové produktové a operační vrstvě, kterou lze škálovat na různé případy užití.

Proč Gemini od Google Cloud

Po testování různých přístupů zvolil tým Quarks jako základ pro své rostoucí AI scénáře model Gemini.

Volba byla ryze praktická a opírala se o několik klíčových faktorů:

• Vysoká kvalita pro reálné produktové úlohy;
• Optimální rovnováha mezi náklady a výsledkem;
• Podpora multimodálních scénářů;
• Rychlá integrace do stávajících služeb a produktové logiky.

Společně s Cloudfresh, Google Cloud partnerem úrovně Premier, tým ladil nejlepší způsoby využití Gemini v praxi: od výběru modelů pro konkrétní úkoly až po optimalizaci výkonu, nákladů na dotazy a architekturu scénářů, které musí stabilně fungovat pod reálnou zátěží.

Výsledkem bylo, že Gemini nabídlo nejvyváženější výsledky pro produkční prostředí. Tým začal budovat jednotnou AI vrstvu, která dnes podporuje několik klíčových oblastí — od interakce s uživateli až po moderování, bezpečnost a interní procesy.

Případ užití 1: Vylepšování uživatelských fotek pomocí AI a Nano Banana

V seznamovacích aplikacích přímo ovlivňuje kvalita fotek první dojem, počet lajků, shody (matche) i šance na zahájení dialogu.

V praxi však značná část uživatelů nahrává fotky se špatným osvětlením, v nízkém rozlišení nebo pořízené slabšími fotoaparáty. Aby Quarks tuto bariéru odstranili, otestovali funkci AI Photo Enhancement, která pomáhá zlepšit kvalitu snímku, aniž by měnila rysy obličeje nebo působila uměle.

Tato funkce využívá Nano Banana — vysokorychlostní model od Googlu v rámci rodiny Gemini, určený pro generování a úpravu obrázků.

Cílem nebylo uživatele „překreslit” nebo ho udělat dokonalým. Naopak — tým vědomě hledal rovnováhu mezi:

• Vyšší kvalitou fotografie;
• Zachováním autenticity;
• Fotorealističností;
• Zamezením dojmu, že profil vypadá jako bot.

Jde o důležitý produktový detail: v prostředí seznamek může příliš „dokonalá” fotka důvěru spíše snížit než zvýšit.

První výsledky

Tato funkce je momentálně ve fázi testování, ale tým již nyní vidí pozitivní signály:

• Přibližně 5 % uživatelů už funkci využilo;
• V testovací skupině vzrostl počet odeslaných lajků u žen o 27 %;
• Match rate se zvýšil o 7 %;
• Aktivita v chatu u mužů vzrostla o 7,8 %.

Pro seznamovací produkty mají tato data velký význam. Kvalita fotek ovlivňuje nejen vizuální dojem z profilu, ale i chování uživatelů dále v konverzním trychtýři.

Je to skvělý příklad toho, že AI nemusí uživatele nutně „ohromit”. Někdy je její nejcennější rolí odstranění bariéry, která člověku brání se do produktu plně zapojit.

Případ užití 2: Gemini pro AI asistenty v produktech pro vztahy a well-being

Jedním z klíčových směrů AI v Quarks je platforma asistentů integrovaná do různých produktů a scénářů.

V produktech zaměřených na vztahy pomáhá AI asistent uživatelům ve velmi konkrétních životních situacích: lépe porozumět vlastním vztahům, formulovat potřeby, budovat zdravější komunikaci, nastavit si hranice, vést sebevědoměji korespondenci nebo prostě najít správná slova v emočně vypjaté chvíli.

Jedním z příkladů je Affemity, vzdělávací platforma pro duševní zdraví žen. Zde AI asistent pomáhá uživatelkám lépe se orientovat ve vztazích a komunikaci s muži, podporuje je v otázkách emoční jasnosti, osobních hranic, flirtování nebo reflexe vztahu s partnerem.

Výsledky potvrzené chováním uživatelů

Tento scénář už vykazuje jasné signály, že AI asistent přináší skutečnou hodnotu:

• 60 % uživatelů s asistentem komunikuje;
• V průměru proběhne 20+ interakcí na uživatele;
• Pozitivních reakcí je více než 8× více než těch negativních.

Pro Quarks to nejsou jen metriky zapojení. Asistent se stává součástí klíčové zkušenosti s produktem — pomáhá uživatelům lépe porozumět sobě i svým pocitům.

Důležité je, že tato funkce vznikala v úzké spolupráci s kouči a psychology. Díky tomu asistent není jen „chytrý“, ale skutečně empatický v citlivých a emočně složitých situacích.

Produkt se tak neodlišuje jen počtem funkcí, ale hloubkou interakce a budovanou důvěrou.

Dalším krokem pro tým je personalizace.

Quarks plánují zefektivnit AI interakce prostřednictvím:

• Lepšího pochopení situace uživatele;
• Relevantnějších doporučení;
• Hlubší integrace AI asistenta s ostatními funkcemi aplikace.

Případ užití 3: Gemini pro moderování popisu profilu

Jeden z nejvyspělejších AI scénářů v Quarks se týká bezpečnosti platformy a důvěry uživatelů.

V seznamovacích aplikacích přináší uživatelský obsah kromě zapojení i rizika: podvody, manipulace, skryté porušování pravidel či nebezpečné signály.

Jednou z nejcitlivějších oblastí je sekce „O mně“. Právě zde uživatelé často zanechávají:

• Skryté náznaky podvodného jednání;
• Pokusy o obcházení pravidel platformy;
• Kontaktní údaje;
• Sexualizovaný nebo nežádoucí obsah;
• Jiné potenciálně rizikové signály.

Před zavedením moderování pomocí velkých jazykových modelů (LLM) se všechny texty kontrolovaly ručně. Dokud byl objem obsahu menší, fungovalo to. S růstem aktivity se však ruční kontrola stala úzkým hrdlem.

To přinášelo několik praktických problémů:

• Nestíhaly se včas kontrolovat všechny profily;
• Část rizikových případů byla odhalena se zpožděním;
• Moderátoři trávili příliš času nad bezpečným obsahem místo toho, aby se soustředili na kritické případy.

Jinými slovy, tým moderátorů plýtval zdroji tam, kde to nemělo největší efekt.

Hlavní myšlenka: Velké jazykové modely jako chytrý filtr

Aby tento problém vyřešili, využili v Quarks modely LLM nikoliv jako prostý nástroj pro rozhodnutí „schválit / zamítnout“, ale jako chytrý sémantický filtr, který pomáhá odfiltrovat šum a rychle identifikovat rizikový obsah.

Namísto binárního přístupu systém analyzuje smysl textu a klasifikuje ho podle úrovně a typu rizika. To umožňuje aplikovat různé scénáře moderování. Obsah s nízkým rizikem se zpracovává automaticky, zatímco pozornost moderátorů se směřuje právě k těm případům, kde je lidský úsudek nezbytný.

Klíčové metriky potvrzující přínos

Po implementaci LLM se moderování v Quarks stalo téměř plně automatizovaným a výrazně rychlejším:

• ~99 % obsahu v sekci „O mně“ prochází předběžnou AI analýzou;
• Pokrytí kontroly profilů vzrostlo ze 17 % na 100 %;
• Přibližně 80 % profilů získá automatické schválení za méně než 5 sekund;
• Čas reakce na podvody a bezpečnostní rizika se zkrátil pod 1 minutu;
• Ruční moderování se nyní soustředí pouze na nejrizikovější případy.

Ve výsledku to má přímý dopad na kvalitu produktu — uživatelé se mnohem méně setkávají s podvodným nebo nebezpečným obsahem.

V tomto scénáři AI nenahrazuje tým moderátorů. Pomáhá mu pracovat rychleji a v měřítku, které by ručně nebylo možné pokrýt. Pro Quarks to znamená schopnost škálovat platformu bez ztráty kontroly nad riziky.

Případ užití 4: Gemini + RAG pro kontextové AI odpovědi

Dalším důležitým směrem v Quarks je využití Gemini pro scénáře, kde kvalita odpovědi závisí na přístupu k relevantnímu kontextu.

U části AI asistentů tým pracuje se scénáři, kde se odpovědi opírají o interní nebo specializovanou bázi znalostí. K tomu Quarks využívá přístup Retrieval-Augmented Generation (RAG), který umožňuje do odpovědi zahrnout potřebný kontext z velkých objemů dat, včetně dokumentů a PDF materiálů.

Tento přístup pomáhá:

• Zvyšovat relevanci odpovědí;
• Snižovat riziko nepřesných nebo příliš obecných doporučení;
• Poskytovat uživatelům užitečnější rady založené na kontextu;
• Rychleji škálovat AI scénáře vyžadující expertní znalosti.

Pro Quarks je to významný krok v evoluci AI nástrojů: od prostého generování ke kontextuálně podloženým odpovědím.

Co dál: Interní AI chat a korporátní báze znalostí

Quarks se na AI dívá šířeji než jen na funkce pro koncové uživatele. Další fází je vytvoření vlastního interního AI agenta s využitím MCP, který se stane jediným přístupovým bodem k vnitřním znalostem společnosti.

Cílem je poskytnout týmům nástroj, který pomůže:

• Rychleji vyhledávat potřebné informace;
• Orientovat se ve struktuře společnosti;
• Získávat přístup k interním datům v přirozeném jazyce;
• Analyzovat reporty a interní data prostřednictvím chatu;
• Šetřit čas strávený opakujícími se interními dotazy;
• Udržet plnou kontrolu nad přístupem k datům a bezpečností.

Přístup k datům v tomto chatu bude přísně kontrolován podle rolí uživatelů. Díky MCP (Model Context Protocol) nemá AI přímý přístup k surovým datům, ale pracuje pouze s povolenými a filtrovanými informacemi. To zajišťuje rovnováhu mezi pohodlím a bezpečností a minimalizuje riziko úniku citlivých informací.

Partnerství s Cloudfresh

V tomto projektu pomohl Cloudfresh týmu Quarks rychleji převést AI iniciativy z úrovně experimentů do reálných produktových scénářů.

Díky této spolupráci mohl Quarks dříve spouštět nové funkce, lépe kontrolovat stabilitu a náklady a soustředit se na to, co skutečně přináší hodnotu uživateli, namísto řešení infrastrukturních omezení.

Spolupráce zahrnovala zejména:

• Výběr optimálních modelů Gemini pro různé účely;
• Práci na výkonu a stabilitě Vertex AI v produkci;
• Optimalizaci AI dotazů, tokenů a multimodálních scénářů.