Řízení, rizika a soulad AI

Připravenost na nařízení o umělé inteligenci

Nařízení se uplatňuje různě podle toho, co systém dělá a jakou roli máte. Klasifikujeme vaše systémy, určíme plynoucí povinnosti a najdeme mezery, dokud je čas je uzavřít bez zastavení dodávek.

Obchodní problém

Většina obav míří na nesprávné systémy

Nařízení je založeno na úrovních rizika, takže většina podnikové AI s sebou nese omezené povinnosti, zatímco malý počet systémů nese povinnosti podstatné. Bez klasifikace organizace buď považují všechno za vysoké riziko, což zastaví užitečnou práci, nebo nic za vysoké riziko, čímž problém jen odloží. Obojí je nákladné. Klasifikace navíc není zřejmá: stejná technologie může být v jednom nasazení minimálním rizikem a v jiném vysokým.

Čím se zabýváme

Nejprve klasifikace, pak uzavření podstatných mezer

Určíme vaši roli u každého systému, tedy poskytovatel nebo zavádějící subjekt, protože povinnosti se liší, a klasifikujeme podle úrovně rizika na základě skutečného kontextu nasazení, ne technologie. Odtud porovnáme, co existuje, s tím, co se vyžaduje: technická dokumentace, řízení rizik, správa dat, lidský dohled, transparentnost, přesnost a záznamy. Výstupem je seznam mezer s pracností, seřazený podle dat, kdy povinnosti začínají vázat.

Připravenost na nařízení o umělé inteligenci

Kompetence

  • Klasifikace rizik

  • Evidence systémů AI

  • Analýza mezer v souladu

  • Technická dokumentace

  • Rámce lidského dohledu

  • Povinnosti transparentnosti

  • Monitorování po uvedení na trh

Obvyklá využití

Obvyklá využití

  • Určit, které z vašich systémů AI spadají do které úrovně rizika, s doloženým odůvodněním.
  • Zjistit, zda jste u funkce AI dodané třetí stranou poskytovatelem, nebo zavádějícím subjektem.
  • Připravit technickou dokumentaci, kterou vyžaduje systém s vysokým rizikem, dřív než bude potřeba.
  • Předložit správní radě obhajitelné stanovisko k připravenosti a zbytkové expozici.

Jak dodáváme

Jak dodáváme

  1. Evidence

    Zjištění, jaká AI se v organizaci používá, včetně té, kterou nikdo neschválil.

  2. Klasifikace

    Přiřazení úrovně rizika každému systému a odvození povinností, které z ní plynou.

  3. Uzavření mezer

    Dokumentace, dohled, transparentnost a záznamy dovedené na požadovanou úroveň.

  4. Udržení

    Předání politik, rolí a rytmu přezkumů, které stav udrží i po našem odchodu.

Technologie

Technologie

  • ISO/IEC 42001
  • ISO/IEC 27001
  • EU AI Act
  • NIST AI RMF
  • GDPR
  • DORA

Bezpečnost a správa

Bezpečnost a řízení

Výstupem jsou důkazy, ne ujištění: evidence systémů, klasifikace rizika pro každý z nich, technická dokumentace vyžadovaná na dané úrovni, záznamy o lidském dohledu a rytmus přezkumů s jmenovanými vlastníky. Právě tento materiál regulátor nebo auditor skutečně požaduje a právě ten potřebuje vnitřní audit, aby cokoli schválil.

Modely spolupráce

Modely spolupráce

Poradenství v oblasti AI

Zkušení konzultanti poskytují podporu ve strategii, architektuře, posouzení a transformaci.

Projekt AI

Přebíráme odpovědnost za návrh a dodání vymezeného řešení AI.

Program transformace AI

Podnikový program s několika pracovními proudy, zahrnující poradenství, inženýrství a organizační změnu.

Proč TeamExtension.ai

Převádíme povinnosti do inženýrské práce

Právní analýza vám řekne, co se vyžaduje. Těžší otázka je, co to znamená v kódu: co zaznamenávat, jak doložit dohled, jaká dokumentace musí existovat a kdo ji vytváří. Pohybujeme se v obou rovinách, proto mají naše seznamy mezer odhady pracnosti, ne jen zjištění.

Vybraní klienti

Časté dotazy

Časté dotazy

Jsme poskytovatel, nebo zavádějící subjekt?
Záleží, zda uvádíte systém na trh pod vlastním jménem, nebo používáte systém dodaný někým jiným, a může se to změnit, pokud systém podstatně upravíte nebo ho použijete pod vlastní značkou. Určení pro každý systém je součástí práce, protože povinnosti se výrazně liší.
Týká se nás to i mimo Evropskou unii?
Může. Nařízení dopadá na systémy, jejichž výstup se používá v Unii, bez ohledu na to, kde je poskytovatel usazen. Umístění vašich serverů není rozhodujícím faktorem.
Co když používáme obecný model od velkého dodavatele?
Dodavatel má povinnosti jako poskytovatel modelu, ale vy máte vlastní jako zavádějící subjekt a stavba na jeho modelu je nepřenáší. Dokumentace dodavatele je vstupem do vašeho souladu, ne jeho náhradou.
Jak to souvisí s ISO/IEC 42001?
Norma vám dá systém řízení, nařízení ukládá právní povinnosti. Významně se překrývají a organizace, která 42001 skutečně dodržuje, bude mít velkou část důkazů, které nařízení očekává, byť ne automaticky všechny.

Proberte svou iniciativu v oblasti AI

Klasifikace systémů AI, určení plynoucích povinností a uzavření mezer dřív, než se stanou závaznými.