Zakaj infrastruktura odloča o uspehu poslovne umetne inteligence

Serija: Podatki, pripravljeni na umetno inteligenco — 3. del

V prejšnjem članku smo se posvetili enemu najpomembnejših temeljev zaupanja vredne umetne inteligence: kontekstu.

Lukas Zimmermann je na našem dogodku AI Success Starts with AI-Ready Data prikazal, zakaj priprava podatkov za AI ne vključuje zgolj vprašanje prenosa podatkov na sodobno platformo ali gradnje nove nadzorne plošče. AI sistemi potrebujejo poslovni pomen, upravljanje in doslednost in ravno zato semantični sloj postaja tako ključen del sodobne podatkovne arhitekture.

Ko pa organizacije rešijo vprašanje konteksta, se hitro pojavi naslednji izziv: ali je obstoječa infrastruktura sploh sposobna podpreti AI v resničnem poslovnem okolju?

V praksi AI ni več le klepetalni robot ali manjši projekt, ki deluje na omejenem naboru podatkov. Postaja del operativnih sistemov, analitičnih procesov in odločevalskih tokov in pogosto vključuje velike količine tako strukturiranih kot nestrukturiranih podatkov.

To pa popolnoma spremeni zahteve. Eno najmočnejših sporočil predavanja Dirka Beerbohma (Exasol) na tem dogodku je bilo: uspešna poslovna raba AI ni odvisna le od modela samega, temveč od infrastrukture, upravljanja podatkov in podatkovne arhitekture.

Blog serija: Podatki, pripravljeni na umetno inteligenco
1: Kaj pomeni “na AI pripravljeni podatki”?
2: Enoten vir resnice: Zakaj je semantični sloj hrbtenica zanesljive poslovne umetne inteligence
3: Zakaj infrastruktura odloča o uspehu poslovne umetne inteligence

Pravi izziv za umetno inteligenco se začne po pilotni fazi

Večina razprav o AI se še vedno vrti okoli modelov, kopilotov in “promptov”. Po Beerbohmu pa se prava kompleksnost pokaže šele, ko organizacije iz eksperimentiranja preidejo v produkcijsko uporabo.

Tradicionalna analitična okolja so bila zgrajena okoli strukturiranih podatkov: sistemov ERP, evidenc strank, finančnih transakcij in poročevalskih platform. Ti sistemi so predvidljivi, ker so podatki v njih urejeni in upravljani. Težava je v tem, da večina poslovnega znanja v podjetju sploh ne obstaja v obliki strukturiranih tabel.

Dokumenti, elektronska sporočila, datoteke, operativne opombe, povratne informacije strank, sistemski zapisi in pogodbe predstavljajo bistveno večji del poslovnih informacij, ki pa ostajajo nedostopne za tradicionalne analitične pristope. Beerbohm je to opisal kot »skriti« del poslovnih podatkov: ogromne količine nestrukturiranih informacij, ki jih podjetja le redko znajo učinkovito izkoristiti.

AI to spreminja. Veliki jezikovni modeli omogočajo pridobivanje pomena, entitet, razpoloženja in konteksta iz nestrukturiranih informacij na načine, ki so bili do nedavnega preveč zapleteni ali predragi za praktično uporabo. S tem pa nastajajo tudi povsem nove operativne zahteve.

AI obremenitve se razlikujejo od klasične analitike

Ena najpomembnejših ugotovitev je bila, da se AI obremenitve v osnovi razlikujejo od klasičnih okolij za poslovno inteligenco in poročanje.

Tradicionalni analitični sistemi pretežno obdelujejo strukturirane poizvedbe in temeljijo na vnaprej določenih modelih.

Beerbohm je pojasnil, da sodobne AI arhitekture vse bolj stremijo k temu, da se obdelava izvaja čim bližje podatkom, s čimer se izognemo nepotrebnemu premikanju podatkov, zmanjšamo kompleksnost in izboljšamo zmogljivost.

To postane še posebej pomembno, ko AI preseže meje pilotnih projektov in začne podpirati operativne procese v realnem času.

Z drugimi besedami: AI ni le še ena plast, dodana obstoječi infrastrukturi. Spreminja samo arhitekturo.

Ustrezno upravljanje podatkov pridobiva na pomenu

Z rastjo zmogljivosti umetne inteligence naraščajo tudi izzivi upravljanja. Ena od ponavljajočih se tem na dogodku je bila, da morajo organizacije ohraniti nadzor nad tem, kako AI dostopa do podatkov, jih razlaga in uporablja.

To je še posebej pomembno v reguliranih panogah, npr. bančništvu, zavarovalništvu in telekomunikacijah, kjer so preglednost, sledljivost in skladnost s predpisi neizogibne zahteve.

Veliki jezikovni modeli lahko ustvarijo zelo prepričljive rezultate, organizacije pa pogosto ne morejo natančno ugotoviti, kako je do tega rezultata prišlo. Beerbohm je to izpostavil kot eno ključnih omejitev velikih jezikovnih modelov v poslovnem okolju.

Zato bi moral AI podpirati odločanje, ne pa ga samostojno izvajati brez ustreznega upravljanja in človeškega nadzora.

Podatkovna suverenost ponovno v ospredju

Pomembna tema je bila tudi podatkovna suverenost. V zadnjem desetletju so številne organizacije sledile strategiji »najprej oblak«. Toda AI obremenitve podjetja silijo k ponovnemu premisleku, kje naj podatki sploh ostanejo in kje naj poteka njihova obdelava.

Beerbohm je predstavil arhitekture, v katerih obdelava AI poteka neposredno v nadzorovanem okolju, pri čemer nobeni občutljivi metapodatki ali podatki o shemi ne zapuščajo organizacijske infrastrukture.

Za številne organizacije, zlasti tiste v reguliranih sektorjih, hibridna in lokalna AI okolja postajajo vse pomembnejši del arhitekture.

Cilj ni več »najprej oblak«, pač pa umestitev obremenitev tja, kjer je to operativno in regulatorno najbolj smiselno.

Umetna inteligenca in pomen infrastrukture

Prva dva članka v seriji sta se osredotočila na zaupanje, semantiko in poslovni kontekst. Toda pripravljenost za AI se ne konča pri podatkovnem sloju.

Organizacije, ki bodo pri uvajanju AI najbolj uspešne, ne bodo nujno tiste, ki eksperimentirajo z največjimi modeli.

Uspešnejše bodo tiste, ki gradijo ustrezne temelje za njihovo uporabo.