Zodpovědné řízení umělé inteligence: Vysvětlení základních principů

Zodpovědná správa umělé inteligence stanoví zásady, rámce a kontrolní mechanismy, které organizace potřebují k etickému, transparentnímu a bezpečnému nasazení umělé inteligence. Tato příručka vysvětluje, co obnáší zodpovědná správa umělé inteligence, zkoumá základní principy a hlavní rámce a nastiňuje osvědčené postupy pro budování odpovědných systémů umělé inteligence v celém podniku.

Key Takeaways

Co zahrnuje odpovědná správa umělé inteligence nad rámec standardního dohledu nad IT?
Zodpovědná správa umělé inteligence se konkrétně zabývá riziky specifickými pro umělou inteligenci, jako je algoritmické zkreslení, nedostatek vysvětlitelnosti, zneužití dat a důsledky pro autonomní rozhodování v celém životním cyklu umělé inteligence.

Proč je stínová umělá inteligence kritickým problémem pro rámce správy a řízení umělé inteligence?
Zaměstnanci, kteří používají neschválené nástroje umělé inteligence – jako jsou rozšíření prohlížeče a generativní služby umělé inteligence třetích stran – mohou zveřejnit citlivá data mimo řízené kanály, což podkopává i dobře navržené zásady odpovědného řízení umělé inteligence.

Které principy odpovědného řízení AI jsou nejvíce uznávány?
Mezi základní principy patří transparentnost a vysvětlitelnost, spravedlnost a nediskriminace, ochrana soukromí a údajů, odpovědnost s lidským dohledem a bezpečnost, ochrana a spolehlivost.

Jak by si měly organizace vybrat mezi odpovědnými rámci pro správu a řízení umělé inteligence, jako je NIST AI RMF, EU AI Act a ISO/IEC 42001?
Většina organizací těží z kombinování prvků více rámců, přičemž si vybírají na základě regulačních povinností, geografického rozsahu, požadavků odvětví a vyspělosti organizace, spíše než aby přijímaly jeden samostatně.

Jakou roli hraje prohlížeč při vynucování kontrol používání umělé inteligence?
Prohlížeč je primárním rozhraním, jehož prostřednictvím zaměstnanci přistupují k generativním nástrojům umělé inteligence, což činí vynucování na úrovni prohlížeče nezbytným pro DLP v reálném čase, řízení přístupu s využitím umělé inteligence a prevenci zneužití umělé inteligence.

Jak mohou organizace měřit, zda je jejich program odpovědného řízení umělé inteligence efektivní?
Mezi klíčové metriky patří procento inventarizovaných a monitorovaných systémů umělé inteligence, míra dodržování předpisů, počet incidentů souvisejících s umělou inteligencí a doba jejich řešení, trendy v zavádění stínové umělé inteligence a kritéria vyspělosti správy a řízení.

Jaký operační model funguje nejlépe pro škálování odpovědné správy a řízení umělé inteligence ve velkých podnicích?
Hybridní model – kde centrální řízení definuje principy a povinné kontroly, zatímco implementaci zajišťují obchodní jednotky – má tendenci se nejefektivněji škálovat a zároveň si zachovávat konzistentní odpovědnost.

Co je zodpovědné řízení umělé inteligence?

Zodpovědná správa a řízení umělé inteligence (AI) označuje strukturovaný soubor zásad, procesů a mechanismů dohledu, které řídí, jak organizace vyvíjejí, nasazují a monitorují systémy umělé inteligence. Zajišťuje, aby technologie AI fungovaly v rámci etických hranic, splňovaly platné předpisy a byly v souladu s hodnotami organizace. Na rozdíl od obecné správy a řízení IT se zodpovědná správa a řízení AI konkrétně zabývá jedinečnými riziky, která AI s sebou přináší, včetně algoritmického zkreslení, nedostatku vysvětlitelnosti, zneužití dat a nezamýšlených důsledků autonomního rozhodování.

Definování rozsahu

Rozsah odpovědné správy a řízení umělé inteligence sahá na celý životní cyklus umělé inteligence, od počátečního sběru dat a trénování modelů přes nasazení, monitorování až po konečné vyřazení. Zahrnuje technické kontroly, jako je validace modelů a testování zkreslení, a také organizační kontroly, jako jsou etické komise, postupy pro posuzování rizik a protokoly pro reakci na incidenty. Komplexní zákon o odpovědné správě a řízení umělé inteligence v rámci organizace kodifikuje tyto požadavky do vymahatelné interní politiky.

Klíčové komponenty

• Zásady a normy – Zdokumentovaná pravidla, která definují přijatelné případy použití umělé inteligence, zakázané aplikace a požadovaná ochranná opatření před uvedením jakéhokoli systému umělé inteligence do produkčního prostředí.
• Dozorčí struktury – Určené výbory, role nebo hodnotící komise odpovědné za hodnocení projektů umělé inteligence z hlediska etických kritérií a kritérií dodržování předpisů.
• Technické kontroly – Automatizované a manuální mechanismy pro detekci zkreslení, vysvětlitelnost modelu, sledování datové linie a validaci výstupů.
• Mechanismy odpovědnosti – Jasné přiřazení odpovědnosti, aby každý systém umělé inteligence měl identifikovatelné zainteresované strany odpovědné za jeho chování a výsledky.
• Průběžné sledování – Průběžný dohled nad systémy umělé inteligence za účelem odhalení odchylek, zneužití nebo nezamýšleného chování po nasazení.

Jak se liší od obecné strategie umělé inteligence

Zatímco strategie AI se zaměřuje na to, kde a jak AI aplikovat pro obchodní hodnotu, zodpovědná správa AI se zaměřuje na zábrany, které zabraňují škodám. Strategie se ptá: „Co můžeme vytvořit?“, zatímco správa se ptá: „Co bychom měli vytvořit a za jakých omezení?“. Organizace, které usilují o zavádění AI bez odpovídajících struktur správy a řízení, se vystavují regulačním sankcím, poškození pověsti a bezpečnostním zranitelnostem, zejména když zaměstnanci zavádějí nástroje AI mimo schválené kanály, což je jev často nazývaný stínová AI.

Proč je zodpovědná správa umělé inteligence důležitá

Naléhavost v oblasti zodpovědného řízení umělé inteligence se zintenzivnila, protože systémy umělé inteligence se staly součástí důležitých rozhodnutí v oblasti náboru, úvěrů, zdravotní péče, bezpečnosti a zákaznických služeb. Bez strukturovaného řízení čelí organizace hromadícímu se souboru rizik, která sahají od právní, finanční, etické až po provozní oblasti.

Regulační a právní tlak

Vlády po celém světě přijímají legislativu, která se přímo zaměřuje na odpovědnost za umělou inteligenci. Zákon EU o umělé inteligenci klasifikuje systémy umělé inteligence podle úrovně rizika a ukládá přísné požadavky na vysoce rizikové aplikace. Ve Spojených státech se šíří regulace umělé inteligence na úrovni jednotlivých států a federální agentury vydávají pokyny k algoritmické odpovědnosti. Organizace bez zavedených rámců pro odpovědné řízení umělé inteligence riskují sankce za nedodržování předpisů, soudní spory a ztrátu přístupu na trh v regulovaných jurisdikcích.

Rizika pro reputaci a důvěru

Důvěra veřejnosti v umělou inteligenci rychle klesá, když systémy produkují zkreslené výsledky, činí neprůhledná rozhodnutí nebo nesprávně nakládají s osobními údaji. Jediný významný incident zahrnující diskriminační výstupy umělé inteligence může způsobit trvalé poškození značky. Zodpovědná správa umělé inteligence poskytuje dokumentaci, auditní záznamy a kontrolní procesy, které prokazují závazek organizace k etickému používání umělé inteligence, což je stále více faktorem při hodnocení zákazníky a partnery.

Obavy o bezpečnost a ochranu dat

Systémy umělé inteligence zpracovávají obrovské množství citlivých dat a jejich výstupy mohou neúmyslně unikat důvěrné informace. Pokud zaměstnanci používají neschválené nástroje umělé inteligence, včetně asistentů umělé inteligence založených na prohlížeči a generativních služeb umělé inteligence třetích stran, mohou citlivá firemní data proudit do externích systémů bez řádné kontroly. To vytváří značné problémy v oblasti prevence ztráty dat (DLP). Zodpovědná správa umělé inteligence řeší tato rizika zavedením zásad pro řízení přístupu k umělé inteligenci, kontrol jejich používání a mechanismů ověřování odpovědí umělé inteligence, které zabraňují neoprávněnému vystavení dat.

Provozní odolnost

• Provoz modelu – Modely umělé inteligence časem degradují, protože se mění distribuce podkladových dat, což vede k nespolehlivým výstupům, pokud nejsou monitorovány.
• Šíření stínové umělé inteligence – Bez správy a řízení oddělení nezávisle zavádějí nástroje umělé inteligence, které obcházejí bezpečnostní kontroly, a vytvářejí tak slepá místa v rizikové situaci organizace.
• Uzamčení dodavatele – Neregulované zadávání veřejných zakázek v oblasti umělé inteligence může vést k fragmentaci nástrojů a závislosti na dodavatelích, jejichž postupy nemusí být v souladu s organizačními standardy.
• Nedostatky v reakci na incidenty – Organizace bez plánů reakce na incidenty specifické pro umělou inteligenci mají potíže s omezením a nápravou selhání souvisejících s umělou inteligencí.

Základní principy odpovědné správy a řízení umělé inteligence

Principy odpovědného řízení umělé inteligence tvoří etický a provozní základ, na kterém jsou postaveny veškeré činnosti řízení. Zatímco konkrétní implementace se liší v závislosti na organizaci a odvětví, v hlavních normalizačních orgánech, regulačních rámcích a u lídrů v oboru se objevil konzistentní soubor principů.

Transparentnost a vysvětlitelnost

Systémy umělé inteligence by měly produkovat výstupy, kterým mohou relevantní zainteresované strany porozumět, interpretovat je a zpochybňovat. To znamená udržovat dokumentaci o architekturách modelů, zdrojích trénovacích dat a rozhodovací logice. U aplikací s vysokými sázkami by organizace měly implementovat techniky vysvětlitelnosti, které umožní dotčeným osobám pochopit, jak bylo rozhodnutí dosaženo. Transparentnost rovněž vyžaduje jasné zveřejnění informací o tom, kdy je umělá inteligence používána v interakcích se zákazníky nebo veřejností.

Spravedlnost a nediskriminace

Systémy umělé inteligence musí být navrženy a testovány tak, aby se zabránilo výsledkům, které neúměrně znevýhodňují chráněné skupiny. To zahrnuje provádění auditů zkreslení během vývoje, používání reprezentativních trénovacích datových sad a implementaci průběžného monitorování rozdílného dopadu po nasazení. Testování férovosti by mělo být integrováno do CI/CD pipelines, aby modely byly vyhodnoceny před každým vydáním.

Ochrana soukromí a údajů

Zodpovědná správa umělé inteligence vyžaduje, aby data používaná pro školení a inferenci umělé inteligence splňovala platné předpisy na ochranu osobních údajů, včetně GDPR, CCPA a požadavků specifických pro dané odvětví. Organizace musí implementovat postupy minimalizace dat, zajistit řádné mechanismy souhlasu a zavést kontroly, které zabrání systémům umělé inteligence v uchovávání nebo zveřejňování osobních údajů nad rámec povolených účelů. Funkce ochrany před únikem informací s využitím umělé inteligence (DLP) jsou nezbytné pro prevenci neúmyslného sdílení citlivých informací s externími službami umělé inteligence.

Odpovědnost a lidský dohled

Každý systém umělé inteligence by měl mít jasně identifikovaného vlastníka, který je odpovědný za jeho chování, výkon a dodržování předpisů. Pro rozhodnutí, která významně ovlivňují jednotlivce, musí být zavedeny mechanismy lidského dohledu, které zajistí, že automatizované výstupy lze přezkoumat, přepsat nebo eskalovat. Tato zásada se vztahuje i na nástroje a agenty umělé inteligence třetích stran, které musí podléhat stejným standardům odpovědnosti jako interně vyvinuté systémy.

Bezpečnost, ochrana a spolehlivost

• Robustnost protichůdného systému – Modely umělé inteligence by měly být testovány proti nepřátelským vstupům určeným k manipulaci s jejich výstupy.
• Řízení přístupu – Systémy umělé inteligence a jejich podkladová data musí být chráněny řízením přístupu založeným na rolích a mechanismy ověřování.
• Ověření výstupu – Procesy validace odpovědí umělé inteligence by měly ověřit, zda generované výstupy splňují prahové hodnoty přesnosti, bezpečnosti a shody, než se dostanou ke koncovým uživatelům.
• Detekce incidentu – Monitorovací systémy by měly detekovat anomální chování umělé inteligence, včetně zneužití interními uživateli, a spouštět příslušné reakční postupy.

Nejlepší rámce pro zodpovědné řízení umělé inteligence

Několik zavedených rámců poskytuje strukturované přístupy k implementaci odpovědné správy a řízení umělé inteligence. Organizace obvykle přijímají jeden nebo více těchto rámců a přizpůsobují je tak, aby odpovídaly jejich specifickému regulačnímu prostředí, požadavkům odvětví a toleranci rizik. Níže je uvedeno srovnání nejlepších rámců pro odpovědnou správu a řízení umělé inteligence.

Rámec řízení rizik NIST AI

Funkce NIST AI RMF organizuje činnosti správy a řízení do čtyř hlavních funkcí: Správa, Mapování, Měření a Řízení. Funkce Správa stanoví organizační zásady a struktury odpovědnosti. Mapování identifikuje a zasazuje rizika AI do kontextu. Měření využívá kvantitativní a kvalitativní metody k hodnocení těchto rizik. Řízení implementuje kontrolní mechanismy a monitoruje jejich účinnost. Tento rámec je obzvláště cenný, protože se integruje se stávajícími procesy řízení podnikových rizik a poskytuje podrobné pokyny k implementaci prostřednictvím doprovodných zdrojů.

Zákon EU o umělé inteligenci

Zákon EU o umělé inteligenci (AI Act) zaujímá regulační přístup a kategorizuje systémy umělé inteligence do kategorií s nepřijatelným rizikem, s vysokým rizikem, s omezeným rizikem a s minimálním rizikem. Vysoce rizikové systémy, jako jsou ty používané v zaměstnání, při hodnocení úvěrů a při vymáhání práva, musí splňovat přísné požadavky, včetně posouzení shody, technické dokumentace, ustanovení o lidském dohledu a monitorování po uvedení na trh. Organizace, na které se zákon vztahuje, musí zavést modely odpovědného řízení umělé inteligence, které přímo odpovídají těmto regulačním požadavkům.

ISO / IEC 42001

Norma ISO/IEC 42001, publikovaná jako první mezinárodní norma pro systémy řízení umělé inteligence, poskytuje certifikovatelný rámec, který zahrnuje politiku, plánování, podporu, provoz, hodnocení výkonnosti a zlepšování v oblasti umělé inteligence. Řídí se známou strukturou „Plánuj-Dělej-Kontroluj-Jednej“ používanou v jiných normách ISO pro systémy řízení, což ji činí přístupnou pro organizace, které již mají certifikaci podle normy ISO 27001 nebo podobných rámců. Tato norma je stále častěji používána v požadavcích na zadávání veřejných zakázek a regulačních pokynech.

Výběr správného rámce

Většina organizací těží z kombinování prvků více rámců, spíše než z přijímání jednoho izolovaného rámce. Výběr by měl být řízen regulačními povinnostmi, geografickým rozsahem, požadavky odvětví a vyspělostí organizace. Rámce odpovědného řízení umělé inteligence by měly být považovány za živé dokumenty, které se vyvíjejí společně s technologií, regulačním prostředím a schopnostmi organizace v oblasti umělé inteligence.

Osvědčené postupy pro zodpovědné řízení umělé inteligence v organizacích

Převedení principů a rámců do provozní reality vyžaduje konkrétní a proveditelné postupy. Následující osvědčené postupy pro zodpovědné řízení umělé inteligence odrážejí zkušenosti získané od organizací, které úspěšně implementovaly programy řízení ve velkém měřítku.

Zřídit mezioborový výbor pro řízení umělé inteligence

Efektivní řízení AI nemůže být v rukou jediného oddělení. Vytvořte výbor, který bude zahrnovat zástupce právního oddělení, oddělení dodržování předpisů, informační bezpečnosti, datové vědy, inženýrství, lidských zdrojů a obchodních operací. Tento výbor by měl mít pravomoc schvalovat nebo zamítat případy použití AI, stanovovat zásady a přidělovat zdroje na činnosti řízení. Frekvence schůzek by měla být pravidelná s ad hoc zasedáními pro vysoce prioritní kontroly.

Vytvořte a udržujte inventář umělé inteligence

Organizace nemohou řídit to, co nevidí. Základem je vedení komplexního inventáře všech systémů umělé inteligence, včetně nástrojů třetích stran, rozšíření prohlížečů s funkcemi umělé inteligence a generativních služeb umělé inteligence přijatých zaměstnanci. Tento inventář by měl dokumentovat účel každého systému, vstupní data, klasifikaci rizik, vlastníka a stav kontroly. Schopnosti stínové umělé inteligence a vyhledávání agentů jsou klíčové pro identifikaci neschválených nástrojů umělé inteligence, které zaměstnanci používají prostřednictvím webových prohlížečů a aplikací SaaS.

Implementujte procesy hodnocení založené na riziku

1. Kategorizujte každý systém umělé inteligence podle úrovně rizika na základě jeho případu použití, citlivosti dat a potenciálního dopadu na jednotlivce.
2. Posoudit identifikovaná rizika pomocí standardizovaných hodnotících kritérií, včetně potenciálu zkreslení, důsledků pro soukromí údajů, bezpečnostních zranitelností a použitelnosti předpisů.
3. Zmírnit rizik prostřednictvím technických kontrol (testování zkreslení, omezení přístupu, filtrování výstupů) a organizačních kontrol (procesy kontroly, školení, dokumentace).
4. monitor úrovně rizika průběžně a spouštět přehodnocení, když dojde k významným změnám v modelu, jeho zdrojích dat nebo kontextu nasazení.
5. Zpráva pravidelně informovat vedení o metrikách správy a řízení, včetně stavu dodržování předpisů, počtu incidentů a trendů v oblasti rizik.

Vynucování zásad používání umělé inteligence v bodě přístupu

Zásady jsou účinné pouze tehdy, jsou-li vynucovány. Organizace by měly implementovat technické kontroly, které řídí, jak zaměstnanci interagují s nástroji umělé inteligence, zejména se službami umělé inteligence založenými na prohlížeči a SaaS. To zahrnuje mechanismy řízení přístupu umělé inteligence, které omezují, které nástroje umělé inteligence lze používat, kontroly používání umělé inteligence, které omezují, jaká data lze odesílat službám umělé inteligence, a funkce prevence zneužití umělé inteligence, které detekují a blokují porušení zásad v reálném čase. Vynucování na úrovni prohlížeče je obzvláště důležité, protože prohlížeč je primárním rozhraním, jehož prostřednictvím zaměstnanci přistupují ke generativním nástrojům umělé inteligence.

Školení a vzdělávání pracovní síly

Programy správy a řízení jsou úspěšné, když zaměstnanci chápou odůvodnění politik v oblasti umělé inteligence a svou roli v jejich dodržování. Školení by mělo zahrnovat pokyny pro přijatelné použití, požadavky na nakládání s daty pro interakce s umělou inteligencí, postupy hlášení problémů souvisejících s umělou inteligencí a důsledky porušení politik. Školení by mělo být specifické pro danou roli: datoví vědci potřebují jiné vedení než marketingoví analytici nebo zástupci zákaznického servisu.

Časté výzvy při implementaci odpovědné správy umělé inteligence

I dobře míněné programy správy a řízení narážejí na překážky. Pochopení těchto výzev předem umožňuje organizacím navrhnout struktury správy a řízení, které jsou odolné a přizpůsobivé.

Stínová umělá inteligence a přijetí neřízených nástrojů

Jednou z nejtrvalejších výzev je šíření stínové umělé inteligence, kdy zaměstnanci osvojují nástroje umělé inteligence bez vědomí nebo souhlasu IT a bezpečnostních týmů. Asistenti umělé inteligence založené na prohlížeči, rozšíření prohlížečů s umělou inteligencí a aplikace SaaS třetích stran s integrovanými funkcemi umělé inteligence mohou zpracovávat citlivá data mimo řízené kanály. Organizace potřebují přehled o používání nástrojů umělé inteligence v celém podniku, včetně možnosti odhalovat a klasifikovat interakce s umělou inteligencí probíhající prostřednictvím webových prohlížečů. Bez tohoto přehledu zůstávají zásady řízení spíše teoretické než funkční.

Vyvažování inovací s kontrolou

Příliš restriktivní řízení může brzdit zavádění umělé inteligence a tlačit zaměstnance k neschváleným řešením. Naopak nedostatečné řízení vystavuje organizaci nepřijatelnému riziku. Úspěšné programy nacházejí rovnováhu tím, že poskytují schválené nástroje umělé inteligence, které splňují potřeby zaměstnanců, zefektivňují procesy schvalování nových případů použití umělé inteligence a zavádějí proporcionální kontroly založené na klasifikaci rizik, nikoli na plošných omezeních.

Držet krok s regulačními změnami

Regulační prostředí pro umělou inteligenci se v různých jurisdikcích rychle vyvíjí. Organizace musí sledovat vývoj legislativy, interpretovat její použitelnost a odpovídajícím způsobem aktualizovat zásady řízení. To vyžaduje specializované právní a compliance zdroje s odbornými znalostmi v oblasti umělé inteligence a také rámce řízení, které jsou dostatečně modulární, aby vyhověly novým požadavkům bez nutnosti kompletního přepracování.

Měření efektivity správy a řízení

• Metriky pokrytí – Jaké procento systémů umělé inteligence je inventarizováno, posuzováno z hlediska rizik a aktivně monitorováno?
• Metriky souladu – Kolik systémů umělé inteligence splňuje všechny platné regulační a politické požadavky?
• Metriky incidentů – Kolik incidentů souvisejících s umělou inteligencí (události zkreslení, úniky dat, porušení zásad) došlo a jaká byla průměrná doba jejich vyřešení?
• Metriky přijetí – Používají zaměstnanci schválené nástroje umělé inteligence, nebo se zvyšuje používání stínové umělé inteligence?
• Metriky zralosti – Jak se vyspělost správy a řízení organizace srovnává se zavedenými rámci a benchmarky v oboru?

Organizační odpor

Iniciativy v oblasti správy a řízení se někdy setkávají s odporem týmů, které vnímají dohled jako byrokratické tření. Překonání tohoto problému vyžaduje podporu vedení, jasnou komunikaci o obchodním zdůvodnění správy a řízení (včetně snižování rizik a dodržování předpisů) a prokázání, že správa a řízení umožňuje, a nikoli brání zodpovědným inovacím v oblasti umělé inteligence. Začlenění kontrolních bodů správy a řízení do stávajících pracovních postupů namísto vytváření paralelních procesů snižuje tření a zlepšuje jejich přijetí.

Nástroje a modely zodpovědného řízení umělé inteligence

Implementace zodpovědné správy a řízení umělé inteligence ve velkém měřítku vyžaduje nástroje, které automatizují vymáhání politik, poskytují přehled o používání umělé inteligence a podporují průběžné monitorování. Správná kombinace modelů a nástrojů zodpovědné správy a řízení umělé inteligence závisí na velikosti organizace, její vyspělosti a rizikovém profilu.

Kategorie nástrojů pro správu a řízení

Správa umělé inteligence založená na prohlížeči

Protože se prohlížeč stal primárním pracovním prostorem pro většinu zaměstnanců, je také primárním kanálem, jehož prostřednictvím se přistupuje k nástrojům umělé inteligence. Řešení správy založená na prohlížeči poskytují jedinečné výhody pro zodpovědnou správu umělé inteligence, včetně viditelnosti interakcí s umělou inteligencí v reálném čase, možnosti vynucovat zásady DLP v okamžiku zadávání dat a kontroly nad rozšířeními prohlížeče s umělou inteligencí. LayerX Security působí v této oblasti a poskytuje podnikové funkce zabezpečení prohlížeče, které zahrnují stínovou detekci umělé inteligence a agentů, DLP s umělou inteligencí, řízení přístupu s umělou inteligencí a prevenci zneužití umělé inteligence. Tyto ovládací prvky fungují přímo v prohlížeči, což organizacím umožňuje vynucovat zásady správy a řízení, aniž by to narušovalo pracovní postupy zaměstnanců nebo vyžadovalo směrování provozu přes síťové proxy.

Provozní modely řízení

Organizace obvykle přijímají jeden ze tří odpovědných modelů správy a řízení umělé inteligence na základě své struktury a úrovně vyspělosti.

1. Centralizovaný model – Jeden orgán správy a řízení stanoví a vymáhá veškeré zásady pro umělou inteligenci. Tento model poskytuje silnou konzistenci a kontrolu, ale může vytvářet úzká hrdla ve velkých organizacích s různými případy použití umělé inteligence.
2. Federovaný model – Obchodní jednotky si udržují své vlastní funkce správy a řízení umělé inteligence v rámci pokynů stanovených centrální autoritou. Tento model vyvažuje lokální flexibilitu s organizační konzistencí a funguje dobře pro velké podniky s různými aplikacemi umělé inteligence.
3. Hybridní model – Centrální řízení definuje principy, prahové hodnoty rizik a povinné kontroly, zatímco obchodní jednotky se starají o implementaci a každodenní dohled. Většina vyspělých organizací tíhne k tomuto modelu, protože se efektivně škáluje a zároveň si zachovává odpovědnost.

Integrace správy a řízení do stávající bezpečnostní infrastruktury

Nástroje zodpovědné správy umělé inteligence (AI) přinášejí největší hodnotu, když se integrují se stávající infrastrukturou zabezpečení a dodržování předpisů. To zahrnuje vkládání dat o využití AI do platforem SIEM, sladění politik přístupu AI se systémy správy identit a přístupu (IAM) a začlenění hodnocení rizik AI do podnikových platforem GRC. Organizace by také měly zajistit, aby se jejich webové a SaaS DLP funkce rozšířily i na interakce s AI a aby programy na detekci vnitřních hrozeb zohledňovaly vektory úniku dat souvisejících s AI. Ochrana identity SaaS a kontroly bezpečného prohlížení dále posilují pozici správy a řízení tím, že zajišťují, aby nástroje AI přístupné prostřednictvím prohlížeče fungovaly v rámci schválených hranic.

Budování programu udržitelné správy a řízení

Nástroje a modely jsou nezbytné, ale ne dostačující. Udržitelný program zodpovědné správy a řízení AI vyžaduje neustálé investice do lidí, procesů a technologií. Organizace by měly vyčlenit specializovaný rozpočet na činnosti správy a řízení, stanovit jasné eskalační cesty pro incidenty související s AI, provádět pravidelná hodnocení vyspělosti správy a řízení a přizpůsobovat své programy vývoji schopností AI a regulačních požadavků. Organizace, které berou správu a řízení AI jako kontinuální disciplínu, spíše než jako jednorázový projekt, budou mít nejlepší pozici k realizaci výhod AI a zároveň k efektivnímu řízení jejích rizik.