{"id":12405,"date":"2026-10-02T19:01:00","date_gmt":"2026-10-02T18:01:00","guid":{"rendered":"https:\/\/tehnokrat.si\/?p=12405"},"modified":"2026-10-18T09:15:36","modified_gmt":"2026-10-18T08:15:36","slug":"kako-do-zanesljivih-ai-agentov","status":"publish","type":"post","link":"https:\/\/tehnokrat.si\/?p=12405","title":{"rendered":"Kako do zanesljivih AI-agentov?"},"content":{"rendered":"\n

Na konferenci StartupRevolution AI Summit je Martin Hyravy<\/strong> iz vodilne platforme za avtomatizacijo Make<\/strong> izvedel izjemno prakti\u010dno predavanje s provokativnim naslovom \u00bbHow to guarantee your agentic system fails. (Fast)\u00ab<\/em>. Namesto praznih obljub o vsemogo\u010dnosti umetne inteligence se je osredoto\u010dil na tisto, o \u010demer se redkeje govori: zakaj in kako sistemi z AI-agenti odpovedo ter kako graditi re\u0161itve, ki so zares pripravljene za produkcijsko okolje. To so njegove lekcije iz odpovedi tehnologije in razlaga, zakaj vsak problem ne potrebuje umetne inteligence<\/p>\n\n\n\n

\"\"<\/a><\/figure>\n\n\n\n

Tri podro\u010dja odpovedi agentnih sistemov<\/h3>\n\n\n\n

Hyravy je opozoril na neizogibno dejstvo: vsak sistem z agenti bo prej ali slej odpovedal<\/em> \u2013 klju\u010dno vpra\u0161anje je le, kdaj, kako in kak\u0161ne bodo posledice. Odpovedi se na\u010deloma delijo na tri glavna podro\u010dja:<\/p>\n\n\n\n

    \n
  1. Strukturne napake (pomanjkanje preglednosti):<\/strong> Pogosto velja prepri\u010danje, da so AI agenti po naravi nezanesljivi in tvegani. V resnici agenti le dosledno sledijo pravilom, ki so jim jih postavili ljudje. \u010ce je sistem zasnovan kot \u00bb\u010drna \u0161katla\u00ab (black box), podjetje nima vpogleda v njegovo delovanje. Re\u0161itev je prehod na \u00bbstekleno \u0161katlo\u00ab (glass box) z vzpostavljeno neprekinjeno povratno zanko: analiziraj \u2013 zgradi \u2013 opazuj \u2013 ponovi<\/em>.<\/li>\n\n\n\n
  2. Statisti\u010dne napake (“Sre\u010dni tek”<\/em>):<\/strong> \u010ce agent dobi dostop do dokumenta z napa\u010dnimi ali pristranskimi podatki, bo svoje odlo\u010ditve brezhibno zgradil na teh napakah. Uspe\u0161en zagon v takem primeru ni dokaz delovanja, temve\u010d le sre\u010den naklju\u010dni tek.<\/li>\n\n\n\n
  3. Arhitekturne napake (“Agentic bias”<\/em>):<\/strong> Pojav, ko podjetja sku\u0161ajo vsak operativni problem re\u0161evati z AI agentom. Agent je le orodje v \u0161ir\u0161em okolju in ne \u010darobna pal\u010dka za vse izzive.<\/li>\n<\/ol>\n\n\n\n
    \"\"<\/a><\/figure>\n\n\n\n

    Izdelki za produkcijo: le 11 % podjetij je \u017ee tam<\/h3>\n\n\n\n

    Kljub izjemnemu zanimanju za tehnologijo se le majhen del podjetij dejansko prebije do stabilne uporabe. Statistika ka\u017ee, da kar 88 % podjetij<\/strong> \u017ee uporablja ali preizku\u0161a AI agente, vendar jih ima le 11 %<\/strong> vstavljene v prave produkcijske procese.<\/p>\n\n\n\n

    Kaj lo\u010di poskusni projekt od produkcijsko pripravljenega agenta (Production-ready)?<\/strong><\/td><\/tr><\/thead>
    Spremljanje (Observability):<\/strong> Natan\u010dno merjenje uspe\u0161nosti in spremljanje poteka odlo\u010danja.<\/td><\/tr>
    Upravljanje (Governance):<\/strong> Strogo dolo\u010danje meja dostopa (npr. prepre\u010devanje, da bi agent nenamerno izbrisal bazo podatkov).<\/td><\/tr>
    Skalabilnost in zanesljivost (Scalability & Reliability):<\/strong> Sposobnost obvladovanja pove\u010danega obsega dela brez padca kakovosti.<\/td><\/tr>
    Pomnilni\u0161ki sloj (Memory layer):<\/strong> Ohranjanje konteksta skozi \u010das in ve\u010d interakcij.<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n
    \"\"<\/a><\/figure>\n\n\n\n

    Ljudje morajo ohraniti nadzor<\/h3>\n\n\n\n

    Ena osrednjih misli predavanja je bila usmerjena v nedeterministi\u010dno naravo umetne inteligence. Avtonomni agenti prina\u0161ajo visoko stopnjo prilagodljivosti, a ravno zaradi nedeterministi\u010dnega delovanja morajo ljudje zadr\u017eati jasen nadzor nad tem, o \u010dem lahko AI odlo\u010da in kak\u0161na tveganja je podjetje pripravljeno sprejeti.<\/p>\n\n\n\n

    To potrjuje tudi trenutno stanje v praksi: podjetja imajo \u0161e vedno najve\u010d klasi\u010dnih avtomatiziranih re\u0161itev (75 %<\/strong>), sledi avtomatizacija robotskih procesov (RPA z 17 %<\/strong>), medtem ko samostojni AI agenti trenutno predstavljajo le 8 %<\/strong> vseh avtomatizacij.<\/p>\n\n\n\n

    \"\"<\/a><\/figure>\n","protected":false},"excerpt":{"rendered":"

    Na konferenci StartupRevolution AI Summit je Martin Hyravy iz vodilne platforme za avtomatizacijo Make izvedel izjemno prakti\u010dno predavanje s provokativnim naslovom \u00bbHow to guarantee your agentic system fails. (Fast)\u00ab. Namesto praznih obljub o vsemogo\u010dnosti umetne inteligence se je osredoto\u010dil na tisto, o \u010demer se redkeje govori: zakaj in kako sistemi z AI-agenti odpovedo ter kako…<\/p>\n","protected":false},"author":1,"featured_media":12410,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_exactmetrics_skip_tracking":false,"footnotes":""},"categories":[1,6],"tags":[5017,5898,2469,6508,6505,1074],"class_list":["post-12405","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-it","category-odtuintam","tag-agenti","tag-agenti-ui","tag-ai","tag-make","tag-startuprevolution-summit","tag-umetna-inteligenca"],"featured_image_urls":{"full":["https:\/\/tehnokrat.si\/wp-content\/uploads\/2026\/10\/StartupRevolution-AI-Summit-06.jpg",2500,1875,false],"thumbnail":["https:\/\/tehnokrat.si\/wp-content\/uploads\/2026\/10\/StartupRevolution-AI-Summit-06-150x150.jpg",150,150,true],"medium":["https:\/\/tehnokrat.si\/wp-content\/uploads\/2026\/10\/StartupRevolution-AI-Summit-06-300x225.jpg",300,225,true],"medium_large":["https:\/\/tehnokrat.si\/wp-content\/uploads\/2026\/10\/StartupRevolution-AI-Summit-06-768x576.jpg",640,480,true],"large":["https:\/\/tehnokrat.si\/wp-content\/uploads\/2026\/10\/StartupRevolution-AI-Summit-06-1024x768.jpg",640,480,true],"1536x1536":["https:\/\/tehnokrat.si\/wp-content\/uploads\/2026\/10\/StartupRevolution-AI-Summit-06-1536x1152.jpg",1536,1152,true],"2048x2048":["https:\/\/tehnokrat.si\/wp-content\/uploads\/2026\/10\/StartupRevolution-AI-Summit-06-2048x1536.jpg",2048,1536,true],"online-newspaper-featured":["https:\/\/tehnokrat.si\/wp-content\/uploads\/2026\/10\/StartupRevolution-AI-Summit-06-1020x700.jpg",1020,700,true],"online-newspaper-list":["https:\/\/tehnokrat.si\/wp-content\/uploads\/2026\/10\/StartupRevolution-AI-Summit-06-600x400.jpg",600,400,true],"online-newspaper-thumb":["https:\/\/tehnokrat.si\/wp-content\/uploads\/2026\/10\/StartupRevolution-AI-Summit-06-300x200.jpg",300,200,true],"online-newspaper-small":["https:\/\/tehnokrat.si\/wp-content\/uploads\/2026\/10\/StartupRevolution-AI-Summit-06-150x95.jpg",150,95,true],"online-newspaper-grid":["https:\/\/tehnokrat.si\/wp-content\/uploads\/2026\/10\/StartupRevolution-AI-Summit-06-400x250.jpg",400,250,true]},"author_info":{"display_name":"Miran","author_link":"https:\/\/tehnokrat.si\/?author=1"},"category_info":"Informacijske tehnologije<\/a> Od tu in tam<\/a>","tag_info":"Od tu in tam","comment_count":"0","_links":{"self":[{"href":"https:\/\/tehnokrat.si\/index.php?rest_route=\/wp\/v2\/posts\/12405","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tehnokrat.si\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tehnokrat.si\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tehnokrat.si\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tehnokrat.si\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=12405"}],"version-history":[{"count":1,"href":"https:\/\/tehnokrat.si\/index.php?rest_route=\/wp\/v2\/posts\/12405\/revisions"}],"predecessor-version":[{"id":12411,"href":"https:\/\/tehnokrat.si\/index.php?rest_route=\/wp\/v2\/posts\/12405\/revisions\/12411"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tehnokrat.si\/index.php?rest_route=\/wp\/v2\/media\/12410"}],"wp:attachment":[{"href":"https:\/\/tehnokrat.si\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=12405"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tehnokrat.si\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=12405"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tehnokrat.si\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=12405"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}