AI z zaprtim krogom: kontrolna arhitektura, ki je nihče ne dostavlja
Uspeh AI z zaprtim krogom se odloči pri upravljanju, povezavi akcijske plasti in možnosti vrnitve — ne pri natančnosti modelov. Predstavljamo šeststopenjsko arhitekturo in lestvico zrelosti.
AI z zaprtim krogom uspe ali spodleti ne zaradi natančnosti modela, temveč zaradi operativnega ogrodja okoli kroga — nivojev upravljanja, integracij akcijske plasti in arhitekture za vrnitev, ki odločajo, kdaj sme AI delovati in kdaj se mora ustaviti. To ogrodje večina diagrams prodajalcev tiho izpušča, zato se večina pilotnih projektov z zaprtim krogom ustavi v svetovalno-priporočilnem načinu, medko ko predstavitve obljubljajo avtonomijo.
Prodajni govor ponuja AI z zaprtim krogom kot neprekinjeni cikel optimizacije: preberi, odloči, izvedi, se nauči, ponovi. Cikel je lahki del. Nihče ne dostavlja praktične kontrolne arhitekture za primere, ko se krog ne sme zapreti — in ta vrzel, ne pomanjkanje modelov ali senzorjev, ločuje peščico operaterjev z resnično avtonomno akcijo od dolgega repa, ki še vedno opazuje nadzorne plošče. Sledi šeststopenjski krog, štiri stopenjski maturity ladder in površina upravljanja, ki jo potrebujete, da dejansko vklopite krog že to četrtletje.
Štiristopenjski krog, ki ga vsi rišejo, je napačen
Večina diagramov prodajalcev stisne AI z zaprtim krogom v štiri škatle — zaznavaj, odloči, izvedi, se nauči — in ta kompresija je natanko razlog, zakaj se pilotni projekti ustavijo. Krog produkcijske kakovosti ima šest stopenj: opazuj, razumej, odloči, izvedi, se nauči in upravljaj. Opazovanje je surova telemetrija. Razumevanje je kontekstualna plast, kjer se signali uskladijo z modeli procesov, kontekstom dokumentov in namenom operaterja, preden se sprejme kakršnakoli odločitev. Odločitev izbere dejanje. Izvajanje ga izvede preko resnične integracije. Učenje posodobi model iz rezultatov. Upravljanje je neprekinja kontrolna površina, ki odloča, ali je karkoli od navedenega dovoljeno zapreti krog ravno zdaj.
Preskakovanje razumevanja proizvaja samozavestne, napačne odločitve na šumnih podatkih. Preskakovanje upravljanja ohranja krog odprt: operaterji zavrnejo avtorizirat avtonomno delovanje, ker ni uveljavljivih mej glede tega, kaj sistem lahko naredi, ko se zmoti. IBM okviri integracijo z zaprtim krogom kot neprekinjeno hranjenje operativnih podatkov v realnem času in zgodovinskih v AI za izboljšanje API-jev, namesto obravnave integracij kot enkratne namestitve [2]. Okvir se ustavi pri ciklu. Kontrolna arhitektura okoli cikla je prepuščena kupcu.
Obravnavajte razumevanje in upravljanje kot enakovredne stopnje z lastnim inženirskim proračunom. Razumevanje je tam, kjer živijo pridobivanje podatkov, sledenje citiranjem in kontekst procesov — plast, ki omogoča zagovarjanje odločitve po dejstvu. Upravljanje je tam, kjer živijo nivoji odobritev, omejitve dosega škode in zasilni odklopniki. Če ti dve stopnji nista v vašem arhitekturnem diagramu, nimate zaprtega kroga. Imate priporočilni sistem z ambicijami.
Akcijska plast je tam, kjer prodajalci umolknejo
Zaznavanja in analitika so komodificirani. Zgodovinski zapisi, skladovi opazovalnosti, vektorske baze podatkov in temelji modeli so vsi na voljo v trgovini. Dejanski inženirski problem pri AI z zaprtim krogom je akcijska plast: povezovanje odločitev v SCADA in MES na proizvodnji, ticketing in orkestracija v IT, robotski krmilniki na liniji, platforme omrežne avtomatizacije v telekomu in API prehodi v delovnih procesih pisarn — z možnostjo vrnitve, idempotentnostjo in revizijsko sledjo pri vsakem klicu. To je natanko plast, ki jo kanonski viri zavrnejo opisati.
ABI Research opisuje AI z zaprtim krogom v robotiki kot sisteme, ki se učijo in prilagajajo iz interakcij za zmanjšanje napak v nestrukturiranih okoljih [3]. TM Forum opozarja, da lahko ponudnikom komunikacijskih storitev vzame dni ali tedne, da rešijo težave, ter postavlja avtomatizacijo z zaprtim krogom kot rešitev [4]. Imubit poroča o 10–30% večjem pretoku in 30–50% manj nenačrtovanih zastojev z optimizacijo AI z zaprtim krogom v procesnih industrijah [1]. Noben od njih ne pove, kako dejanje dejansko zapusti model in varno pristane na aktuatorju. To je delo.
Verodostojna akcijska plast ima štiri lastnosti. Vsako dejanje je idempotentno, tako da ponovni poskus po omrežni motnji ne izvede dvakrat. Vsako dejanje je povrnljivo znotraj definiranega okna, z inverzno operacijo, preračunano pred odpremo naprej. Vsako dejanje odda nespremenljiv revizijski zapis, ki povezuje odločitev z vhodnim kontekstom, različico modela, viri dokumenti in citati ter odobravateljem — človeškim ali politični. In vsako dejanje gre skozi politični prehod, ki ga lahko zavrne na podlagi dosega škode, dnevnega časa ali temeljev zaupanja. Če ne morete pokazati teh štirih lastnosti v svojem skladovišču, krog ni varen za zapiranje, ne glede na to, kako dober je videz modela pri evalvaciji.
Avtonomija je štiristopenjska lestev, ne stikalo
Avtonomija z zaprtim krogom ni vklopljena ali izklopljena. To je štiristopenjska lestev, in pomešavanje stopnic je to, kar naredi izvršne pogovore o “AI avtomatizaciji” tako neproduktivne. Prva stopnica je nadziranje: sistem opaža in opozori, ljudje delujejo. Druga stopnica je priporočilo: sistem predlaga specifična dejanja z razlogi in citati, ljudje odobrijo in izvedejo. Tretja stopnica je nadzorovano delovanje: sistem izvaja znotraj omejene politike, človek je v poti odobritev za karkoli zunaj meje, in vsako dejanje je pregledljivo. Četrta stopnica je polna avtonomija: sistem deluje znotraj svojega političnega okvira brez odobritve za posamezno dejanje s strani človeka, s upravljanjem, ki pregleduje agregatno vedenje namesto posameznih klicev.
Vsaka stopnica ima trde vstopne kriterije. Kakovost podatkov mora biti dovolj visoka, da stopnja razumevanja ne halucinirava konteksta — Imubit poroča o uspešnih pilotnih projektih z vsega tri do šest mesecev visoko kakovostnih zgodovinskih podatkov, čeprav mnogi kupci zagotovijo več let [1], in kakovostna mera je pomembnejša od količine. Povrnljivost mora biti karakterizirana: znana inverza in znan čas obnovitve. Doseg škode mora biti omejen: eno slabo dejanje ne more pokvariti obrata, omrežnega segmenta ali API površine za stranke. In latentnost človeškega prekinjanja mora biti dovolj kratka, da lahko napačno dejanje ustavimo, preden se širiti.
Različni deli istega delovanja bodo živeli na različnih stopnicah hkrati. Tok priporočil za vzdrževanje lahko sedi na tretji stopnici, medtem ko logika varnostnih sklopk istega obrata ostane trajno na prvi stopnici. Poimenujte lestev eksplicitno. To je edini pošten način načrtovanja zemljevida.
Upravljanje je izdelek, ne papirologija
Nivoji odobritev, zasilna stikala, poti eskalacije in nespremenljive revizijske sledi niso nadzorna obremenitev, pritrjena na zaprti krog. To je kontrolna površina, ki omogoča operaterjem dovolj zaupati avtonomnemu delovanju, da ga pustijo vklopljenega. Obravnavajte upravljanje kot funkcijo z zemljevidom, ne kot dokument politike, vložen pred zagonom.
Delujoča površina upravljanja ima štiri elemente. Nivojsko odobravo, kjer se dejanja usmerjajo k različnim odobravateljem — ali k nobeni odobravi — na podlagi dosega škode, zaupanja in razreda politike. Zasilno stikalo, ki ga lahko kateri koli operater pritisne, da spusti sistem nazaj na prejšnjo stopnico, z definirano postopkom obnovitve. Poti eskalacije, ki se avtomatsko sprožijo, ko sistem naleti na vnose zunaj svoje distribuci usposabljanja, ko zaupanje pade pod prag ali ko se učinki navzdol razlikujejo od napovedi. In nespremenljivo revizijsko sled, ki veže vsako dejanje k svojim vnosom, citirane dokumente in revizije, različica modela in politična odločitev, ki ga je avtorizirala.
Tu lokalna namestitev preneha biti nabavna preference in postane arhitekturna zahteva. Sledljivost na ravni citiranja — kateri dokumenti, katera stran, katera revizija je vodila odločitev — je uveljavljiva, ko dokumenti, model in revizijski dnevnik vsi živijo na infrastrukturi, ki jo nadzorujete. Ni uveljavljiva, ko je katera koli povezava v tej verigi klic API tretje osebe, ki ga ne morete pregledati. Trditev upravljanja se sesuje v trenutku, ko regulator vpraša, kam so šli podatki, in odgovor vključuje nečije druge dnevnike.
Načini odpovedi, ki jih nihče ne meri
AI z zaprtim krogom ima specifičen niz produkcijskih načinov odpovedi, in skoraj nobenega od njih ni na prenosnih nadzornih ploščah, ki jih prodajalci postavijo na prvo stran. Zanašanje model-realnost je počasno razhajanje med modelovim pogledom procesa in dejanskim procesom, ko se oprema stara, recepti spreminjajo ali se spremenijo pogoji navzgor. Hackiranje nagrad je sistem, ki optimizira namestniško metriko namesto osnovnega cilja — potiskanje nadzorljivе spremenljivke na svojo mejo, ker funkcija nagrad ni kaznovala stranskega učinka. Oscilacija povratne zanke je to, kar se zgodi, ko dva zaprta kroga interakcijo in okrepita popravke eden drugega. Tiho degradacija je najslabša: sistem še naprej deluje, metrike izgledajo v redu, in dejanska kakovost rezultata je tiho propadla.
Vsak potrebuje detektor in zasilni odklopnik, ne le graf. Detektorji zanašanja primerjajo distribucije živih vnosov z distribucijami usposabljanja in se sprožijo, ko razhajanje prekorači prag. Detektorji hackiranje nagrad nadzirajo sekundarne spremenljivke, ki jih je funkcija nagrad prezrла. Detektorji oscilacije spremljajo frekvenco dejanja in amplitudo preko sklopljenih zank. Detektorji tihega degradacije primerjajo model-napovedane rezultate z izmerjenimi rezultati in označijo, ko se struktura ostanka spremeni, tudi če je naslovni KPI še vedno zelen. Imubitovi poročani 10–30% pridobitve pretoka, 30–50% zmanjšanje nenačrtovanih zastojev in ROI pogosto pod šest mesecev [1] so dosegljivi v produkciji samo, če je infrastruktura načinov odpovedi zgrajena skupaj z optimizacijsko plastjo, ne po prvi incidentu.
Ko se detektor sproži, naj sistem avtomatično pade eno stopnico po lestvici zrelosti: nadzorovano delovanje nazaj na priporočilo, priporočilo nazaj na nadziranje. Ročno ponovno oborožitev z dokumentiranim pregledom je cena vrnitve navzgor. To je to, kar naredi krog varen, da ga pustimo teči preko prazničnega vikenda.
En krog, vsaka domena — to je argument konsolidacije
Vzorec opazuj-razumej-odloči-izvedi-se-nauči-upravljaj je identičen, ne glede na to, ali je aktuator procesni ventil, sprememba omrežne konfiguracije, API integracija, robotski prijem ali delovni tok financ. Imubitov procesno-industrijski okvir [1], TM Forumov telekomski okvir resolucije anomalij [4], IBM-jev okvir API integracije [2] in ABI Researchov robotski okvir [3] se prodajajo kot ločene kategorije izdelka. Arhitekturno so to iste šest stopenj z različnimi aktuatorji, pritrjenimi na izvajanje, in različnimi senzorji, pritrjenimi na opazovanje.
Obravnavajte AI z zaprtim krogom kot meddomenskí operativni model namesto industrijsko-specifičnega izdelka in konsolidacija pade ven. Ena plast razumevanja s pridobivanjem in sledenjem citiranja služi inženirskim dokumentom, omrežnim priročnikom, API specifikacijam in finančnim politikam. Ena površina upravljanja uveljavlja nivoje odobritev in revizijske sledi preko vseh njih. En okvir akcijske plasti — idempotenten, povrљiv, revidiran — obravnava zapise SCADA, omrežne spremembe karten, API klice in odobritve delovnih tokov. Uteži modela in gonilniki aktuatorja se razlikujejo. Kontrolna arhitektura ne.
Nakup štirih vertikalnih izdelkov zaprtih krogov vam da štiri površine upravljanja, štiri revizijske sledi, štiri akcijske plasti in štiri nize načinov odpovedi za nadziranje. Gradnja na enem lokalnem skladu, ki obravnava šest stopenj kot operativni model, vam da eno od vsakega — in enojno mesto za uveljavljanje suverenosti nad podatki, ki tečejo skozi vse njih.
Nekateri krogi se ne smejo nikoli zapreti
Nekateri procesi spadajo na prvo ali drugo stopnico za vedno. Operacije z velikim dosegom škode, kjer eno napačno dejanje ima posledice, ki presegajo kumulativne pridobitve avtomatizacije — varnostni sistemi, regulatorne vloge, nepovrnljive finančne zaveze, karkoli neposredno vpliva na človeško blagostanje — naj bodo tam zaščitene. Operacije z nizko povrnljivostjo, kjer je inverza dejanja draga ali nemogoča, spadajo na isto polico. Slabo instrumentirane operacije, kjer ne morete zaznati, da je dejanje šlo narobe dovolj hitro, da ga ustavite, niso kandidati za avtonomijo ne glede na to, kako privlačno izgledajo številke pretoka.
Verodostojen program zaprtega kroga se začne z eksplicitnim povleč te črte. Seznam vsego delovanja v dosegu. Za vsakega ocenite doseg škode, povrnljivost, kakovost instrumentacije in latentnost prekinjanja. Operacije, ki dosežejo dobro oceno, so kandidati za lestvico zrelosti. Tisti, ki dosežejo slabo oceno, so svetovalni delovni tokovi, kjer vrednost izvira iz hitrejših, bolje citiranih priporočil ljudem — ne iz avtonomnega delovanja. Pretvarjanje, da je vsak delovni tok kandidat za avtonomijo, je način, kako programi izgubijo verodostojnost z operaterji, katerih zaupanje potrebujejo.
Podjetja, ki bodo zmagala v AI z zaprtim krogom, ne bodo tista z najboljšimi modeli. Bodo tista, katerih upravljanje, akcijska plast in arhitektura vrnitve naredijo avtonomno delovanje dovolj varno, da ga dejansko vklopimo — in katerih disciplina o tem, kaj pustiti svetovanje, ohranja preostanek delovanja zaupanja vreden, medtem ko se avtonomni deli seštevajo.
Ocenite svoje operacije glede na šeststopenjski krog z Wavenetic — rezervirajte pregled arhitekture zaprtega kroga — https://wavenetic.com