Otázka nezní, zda má být AI autonomní. Správná otázka je, v jakém rozsahu může pracovat samostatně, jaká data smí použít a která rozhodnutí musí potvrdit člověk.
Autonomie má více úrovní
Některé úkoly mohou být bezpečné už od začátku: shromáždění podkladů, kontrola konzistence nebo návrh variant. Publikace, změna ceny či kontaktování zákazníka mohou vyžadovat schválení.
Firma tak nemusí volit mezi ručním provozem a plnou autonomií. Každá role může mít vlastní rozsah oprávnění.
Důvěra vzniká z viditelnosti
Uživatel musí vidět, na čem AI pracuje, z jakých podkladů vychází a které rozhodnutí čeká na potvrzení. Auditní historie není administrativní doplněk, ale základ bezpečného provozu.
Stejně důležitá je možnost oprávnění kdykoli omezit nebo autonomní krok vrátit do schvalovacího režimu.
Citlivá rozhodnutí zůstávají u lidí
Strategická změna nabídky, zásadní finanční rozhodnutí nebo komunikace v krizové situaci vyžadují lidský úsudek. AI může připravit informace a varianty, ale nemá bez povolení měnit směr firmy.
Dobře navržený systém tuto hranici nepovažuje za omezení. Považuje ji za součást zadání.
Co si z článku odnést
✓Oprávnění se nastavují pro jednotlivé role a úkony.
✓Schválení a auditní historie vytvářejí důvěru.
✓Citlivá rozhodnutí musí mít jasně určeného lidského vlastníka.
Obsah, obraz, metadata i doporučení dalšího čtení používají jednotnou redakční šablonu. Před ostrou publikací lze nastavit povinné schválení člověkem.
