Na konferenci StartupRevolution AI Summit je Martin Hyravy iz vodilne platforme za avtomatizacijo Make izvedel izjemno praktično predavanje s provokativnim naslovom »How to guarantee your agentic system fails. (Fast)«. Namesto praznih obljub o vsemogočnosti umetne inteligence se je osredotočil na tisto, o čemer se redkeje govori: zakaj in kako sistemi z AI-agenti odpovedo ter kako graditi rešitve, ki so zares pripravljene za produkcijsko okolje. To so njegove lekcije iz odpovedi tehnologije in razlaga, zakaj vsak problem ne potrebuje umetne inteligence
Tri področja odpovedi agentnih sistemov
Hyravy je opozoril na neizogibno dejstvo: vsak sistem z agenti bo prej ali slej odpovedal – ključno vprašanje je le, kdaj, kako in kakšne bodo posledice. Odpovedi se načeloma delijo na tri glavna področja:
- Strukturne napake (pomanjkanje preglednosti): Pogosto velja prepričanje, da so AI agenti po naravi nezanesljivi in tvegani. V resnici agenti le dosledno sledijo pravilom, ki so jim jih postavili ljudje. Če je sistem zasnovan kot »črna škatla« (black box), podjetje nima vpogleda v njegovo delovanje. Rešitev je prehod na »stekleno škatlo« (glass box) z vzpostavljeno neprekinjeno povratno zanko: analiziraj – zgradi – opazuj – ponovi.
- Statistične napake (“Srečni tek”): Če agent dobi dostop do dokumenta z napačnimi ali pristranskimi podatki, bo svoje odločitve brezhibno zgradil na teh napakah. Uspešen zagon v takem primeru ni dokaz delovanja, temveč le srečen naključni tek.
- Arhitekturne napake (“Agentic bias”): Pojav, ko podjetja skušajo vsak operativni problem reševati z AI agentom. Agent je le orodje v širšem okolju in ne čarobna palčka za vse izzive.
Izdelki za produkcijo: le 11 % podjetij je že tam
Kljub izjemnemu zanimanju za tehnologijo se le majhen del podjetij dejansko prebije do stabilne uporabe. Statistika kaže, da kar 88 % podjetij že uporablja ali preizkuša AI agente, vendar jih ima le 11 % vstavljene v prave produkcijske procese.
| Kaj loči poskusni projekt od produkcijsko pripravljenega agenta (Production-ready)? |
| Spremljanje (Observability): Natančno merjenje uspešnosti in spremljanje poteka odločanja. |
| Upravljanje (Governance): Strogo določanje meja dostopa (npr. preprečevanje, da bi agent nenamerno izbrisal bazo podatkov). |
| Skalabilnost in zanesljivost (Scalability & Reliability): Sposobnost obvladovanja povečanega obsega dela brez padca kakovosti. |
| Pomnilniški sloj (Memory layer): Ohranjanje konteksta skozi čas in več interakcij. |
Ljudje morajo ohraniti nadzor
Ena osrednjih misli predavanja je bila usmerjena v nedeterministično naravo umetne inteligence. Avtonomni agenti prinašajo visoko stopnjo prilagodljivosti, a ravno zaradi nedeterminističnega delovanja morajo ljudje zadržati jasen nadzor nad tem, o čem lahko AI odloča in kakšna tveganja je podjetje pripravljeno sprejeti.
To potrjuje tudi trenutno stanje v praksi: podjetja imajo še vedno največ klasičnih avtomatiziranih rešitev (75 %), sledi avtomatizacija robotskih procesov (RPA z 17 %), medtem ko samostojni AI agenti trenutno predstavljajo le 8 % vseh avtomatizacij.
