Obavy kolem bezpečnosti Copilota, vyřešeny: Je-li Copilot bezpečný k použití?

Podle Harvard Gazette, ochrana osobních údajů patřila již v roce 2020 mezi nejvíce vyjadřované obavy ohledně umělé inteligence. S příchodem a následným přílivem velkých jazykových modelů a generativní umělé inteligence za poslední dva roky vzrostla míra přijetí ve firmách v různých odvětvích a na seznam se dostal i firemní dohled. Mezi další naléhavé problémy v této souvislosti patřily možnosti krádeže duševního vlastnictví a úniku důvěrných dat.

Vzhledem k tomu, že regulační rámce týkající se umělé inteligence a jejího používání zůstávají v mnoha jurisdikcích nedostatečně vyvinuté nebo vůbec neexistují, museli IT giganti stojící za předními platformami na trhu vzít věci do vlastních rukou a vyjasnit své zásady. Tento článek si klade za cíl odpovědět na obavy ohledně bezpečnosti Copilot s využitím veřejných informací společnosti Microsoft.

Co je tok?

Microsoft Copilot integruje asistenci AI přímo do sady Microsoft 365. Podívejme se, jak to funguje krok za krokem.

Microsoft Copilot má přístup k obsahu vaší organizace pouze tehdy, pokud mu k tomu dáte přístup během chatu. To se může stát třemi způsoby:

1. Přímo zadáte nebo vložíte informace do chatu.
2. Soubor nahrajete přes chatovací box pomocí ikony kancelářské sponky (drag and drop je k dispozici i v náhledu).
3. V Edge používáte Copilot se zapnutým nastavením „Povolit přístup k jakékoli webové stránce nebo PDF“ a máte otevřenou internetovou stránku. Copilot může použít obsah této stránky k zodpovězení vašich dotazů.

Nejprve: bezpečný přístup. Přihlásíte se pomocí svého Entra ID a ověříte svou identitu a licenci. Po autentizaci se komunikace stává bezpečnou. Při interakci s Copilotem procházejí vaše data z chatu zásadní transformací. Veškeré informace, které by vás nebo vaši organizaci mohly identifikovat, jsou pečlivě odstraněny. Tato anonymizovaná data jsou poté bezpečně odeslána do Copilot Orchestrator, centrálního centra, které spravuje komunikaci v rámci systému. Po zabezpečeném přenosu přesměruje Copilot Orchestrator vaše výzvy a požadované akce (požadavky) do Copilota, dříve známého jako Bing Chat. Je důležité poznamenat, že Copilot funguje jako propojené prostředí oddělené od Microsoft 365, což rozšiřuje svůj dosah a potenciál.

Nyní přichází skutečné kouzlo. V zákulisí se skrývá síla – soukromá instance Azure OpenAI. Tento výkonný stroj je vybaven nejmodernějšími modely, jako jsou GPT-4 a DALL-E 3, speciálně vyškolenými pro úkoly, jako je generování textu, překládání jazyků a vytváření obrázků. Důležité je, že samotné OpenAI nemá přístup k těmto soukromým modelům ani datům, která zpracovávají.

Aby byly odpovědi Copilota přesné a relevantní, do hry vstupují vyhledávací dotazy. Tyto dotazy pečlivě zakládají vaše výzvy a odpovědi na nejnovější data z rozsáhlého vyhledávacího indexu Bing, což zajišťuje, že informace, které dostáváte, jsou přizpůsobeny vašim potřebám a odrážejí nejnovější vývoj. Pro větší důvěru a transparentnost jsou do odpovědí Copilota automaticky zahrnuty citace, které jasně odhalují zdroje použité k generování informací a umožňují vám ověřit jejich přesnost (a v případě potřeby dále prozkoumat).

Vzhledem k tomu, že bezpečnostní obavy ohledně Copilot jsou v centru pozornosti, jsou bezpečnostní opatření i nadále nezbytná v každé fázi. Všechna data jsou při přenosu šifrována pomocí robustního protokolu TLS 1.2+, který zaručuje bezpečnou komunikaci mezi vámi a systémem. Z důvodu ochrany vašeho soukromí, chatovací sezení jsou dočasná. Tato dočasná data jsou šifrována pomocí standardu AES-128. Jakmile vaše chatovací sezení skončí, výzvy i odpovědi budou zrušeny, což zajišťuje, že nezůstane žádná stopa po vaší interakci, pokud ji výslovně neuložíte.

Krása Copilota spočívá v jeho dostupnosti. Můžete s ním komunikovat z různých platforem, včetně specializovaných webových stránek (copilot.microsoft.com), přímo prostřednictvím vyhledávače Bing v jakémkoli moderním prohlížeči (na stolním počítači i na mobilu), v rámci Microsoft Edge a dokonce i v samotném prostředí Windows. Tato flexibilita umožňuje Copilotu hladce se integrovat do vašeho pracovního postupu bez ohledu na to, kde pracujete (jak používat Microsoft Copilot?).

Bezpečnostní obavy ohledně Copilota: Jak Microsoft 365 chrání vaše data

Zde je přehled kroků, které společnost podniká, aby zajistila soukromí a bezpečnost vašeho Microsoft Copilot.

Využití stávajících oprávnění

Microsoft Copilot nepracuje v izolaci. Spoléhá se na modely oprávnění, které jsou již zavedené v rámci vašeho tenanta Microsoft 365, což znamená, že Copilot může přistupovat a využívat pouze data, která vy jako uživatel již máte oprávnění vidět. Tento přístup zajišťuje, že vaše stávající kontroly přístupu k datům jsou přísně dodržovány, což zabraňuje neúmyslným únikům mezi uživateli, skupinami nebo dokonce různými tenanty v rámci ekosystému Microsoft 365.

Respektování hranic uživatelské identity

Microsoft Copilot využívá technologii zvanou Semantic Index. Hraje klíčovou roli v ukotvení výzev a odpovědí v rámci relevantních dat; i v rámci tohoto procesu však zůstává identita uživatele ústřední. Semaantic Index přísně dodržuje hranice přístupu založené na identitě uživatele. Zjednodušeně řečeno, přistupuje pouze k obsahu, ke kterému jste vy, aktuální uživatel, oprávněni nahlížet, což dále posílí soukromí dat aplikace Microsoft Copilot a zabrání neoprávněnému přístupu k citlivým informacím.

Dodržování šifrování dat

Mnoho organizací využívá Microsoft Purview Information Protection pro šifrování dat, které lze použít prostřednictvím štítků citlivosti nebo omezených oprávnění v aplikacích pomocí správy práv k informacím (IRM). Zde je dobrá zpráva: Microsoft Copilot plně respektuje uživatelská práva udělená uživateli, když narazí na data zašifrovaná pomocí Microsoft Purview. To znamené, že i zašifrovaná data zůstávají v bezpečí a nemohou být přístupná mimo autorizované oprávněné uživatele.

Vícevrstvá bezpečnostní infrastruktura

Microsoft chápe důležitost zabezpečení dat a Copilot těží z robustní infrastruktury, která je již zavedena v rámci Microsoft 365. Zde jsou některé klíčové aspekty tohoto vícevrstvého přístupu, které mohou zmírnit řadu bezpečnostních obav ohledně Copilot:

• Zákaznický obsah v rámci každého tenanta Microsoft 365 je logicky izolován prostřednictvím autorizace Microsoft Entra a řízení přístupu založeného na rolích (RBAC), což znamená, že se data nebudou neúmyslně prolínat mezi různými uživateli nebo organizacemi.
• Společnost Microsoft používá přísná opatření fyzického zabezpečení, prověřování zaměstnanců a víceúrovňové šifrování, které chrání důvěrnost a integritu zákaznického obsahu po celou dobu jeho životního cyklu.
• Microsoft 365 využívá technologie na straně služeb k šifrování zákaznického obsahu v klidu i během přenosu. To zahrnuje technologie jako BitLocker, šifrování jednotlivých souborů, Transport Layer Security (TLS), o kterých jsme hovořili dříve, a Internet Protocol Security (IPsec).

Závazek k ochraně osobních údajů

Společnost uznává důležitost obav ohledně ochrany osobních údajů aplikace Microsoft Copilot a dodržuje přísný soubor předpisů a norem. Takový závazek zahrnuje dodržování široce platných zákonů, jako je GDPR a průmyslových standardů, jako je ISO/IEC 27018, vedoucí celosvětový kodex pro ochranu osobních údajů v cloudu.

Kontrola přístupu k zásuvným modulům (Plug-In)

Microsoft Copilot je přístupný prostřednictvím zásuvných modulů v rámci Microsoft 365. Existuje zde také další vrstva zabezpečení. K vyloučení programového přístupu pro tyto zásuvné moduly lze použít šifrování. Jinými slovy, zásuvné moduly nemají přístup k obsahu, který nemají číst, což dále omezuje možnost neoprávněného přístupu.

Ochrana proti „jailbreaku“

Prompt Shields API funguje jako bezpečnostní štít při interakci s velkými jazykovými modely. Sleduje množství útočných taktik navržených tak, aby manipulovaly s chováním AI a potenciálně kompromitovaly bezpečnost nebo soukromí. Tyto taktiky mohou zahrnovat obcházení zavedených pravidel a poskytování zavádějících pokynů, imitaci jiného systému nebo kódování neoprávněných příkazů. Zavádějící manipulace s daty přiváděnými do AI je další z bezpečnostních obav ohledně Copilot, které jsou zmírněny Prompt Shields, spolu s pokusy proniknout do samotného systému a ukrást nebo narušit data. API jde dokonce tak daleko, že chrání uživatele před útočníky, kteří se je snaží oklamat, aby prozradili své finanční údaje nebo dokonce šířili malware.

Datové sídlo

S povolenou komerční ochranou dat se data chatu ukládají do mezipaměti pouze dočasně na krátkou dobu během sezení pro zlepšení výkonu. Tato data uložená v mezipaměti jsou poté odstraněna, jakmile zavřete prohlížeč, resetujete téma chatu nebo časový limit vašeho sezení vyprší.

Od 1. března 2024 společnost Microsoft nabízí závazky ohledně datové rezidence pro zákazníky Copilot pro Microsoft 365 prostřednictvím svých nabídek Advanced Data Residency (ADR) a Multi-Geo Capabilities. V rámci Výhod Microsoft 365 pro uživatele v Evropské unii platí, že jejich data jsou zpracovávána v rámci EU díky službě EU Data Boundary (EUDB). Pro zákazníky mimo EU však mohou být dotazy Copilot zpracovány ve Spojených státech, Evropské unii nebo dokonce v jiných regionech.

Existují určitá omezení ohledně záruk shody s volitelnými funkcemi využívajícími Bing v rámci Copilot. Tyto funkce nemusí nutně odpovídat dohodám EU Data Boundary (EUDB) nebo Dodatku o ochraně údajů (DPA) společnosti Microsoft.

Pro větší klid mějte na paměti, že Copilot nemá přístup k datům vaší organizace uloženým v rámci hranic vašeho klienta. Kromě toho se chatové konverzace nikdy nepoužívají k trénování základních modelů umělé inteligence, které pohání Copilota.

Doufáme, že se nám podařilo vyřešit všechny (nebo alespoň většinu) vašich bezpečnostních obav ohledně Copilota! Cloudfresh je uznávaný Partner společnosti Microsoft. Pokud máte zájem začít s Microsoft 365 obecně nebo konkrétně s Microsoft Copilot, můžete nás kontaktovat pomocí níže uvedeného formuláře.