„Pitaj kolegu, on zna gdje je to.”
Zamislite da je to odgovor koji novi zaposlenik dobije svaki put kada traži uputu, staru ponudu ili objašnjenje nekog postupka. Problem nije u tome što tvrtka nema informacije. Ima ih, ali do njih nije jednostavno doći.
Privatni AI za tvrtke može biti način da postojeća dokumentacija postane dostupnija kroz pitanja i odgovore. Umjesto traženja po mapama, korisnik opiše što mu treba, a sustav pronađe relevantne dijelove i prikaže izvore.
No koristan poslovni asistent ne nastaje samo instalacijom AI modela. Treba mu pripremiti podatke, odrediti granice pristupa i provjeriti kako odgovara na stvarna pitanja.
Što zapravo znači privatni AI?
Pod privatnim AI sustavom ovdje mislimo na rješenje čiji su izvori podataka, pristup i način obrade definirani za određenu organizaciju. Lokalna izvedba znači da se model i obrada nalaze na njezinoj infrastrukturi. Privatno okruženje može biti organizirano i drukčije, pa pri ugovaranju nije dovoljno napisati samo „privatni AI”.
Treba jasno odgovoriti: gdje se dokumenti obrađuju, tko ih može koristiti i kome se eventualno šalju.
U lokalnoj izvedbi moguće je koristiti modele bez slanja pitanja i sadržaja vanjskom AI servisu. To ipak treba provjeriti za cijeli sustav, a ne pretpostaviti prema nazivu aplikacije. Ollama: lokalna obrada i isključivanje cloud funkcija
Tri poslovna zadatka od kojih vrijedi krenuti
Pronalaženje internih uputa
Novi zaposlenik pita: „Kako prijavljujemo reklamaciju dobavljaču i koju dokumentaciju trebam pripremiti?”
Dobro postavljen asistent trebao bi pronaći odgovarajući postupak, izdvojiti korake i pokazati dokument na kojem temelji odgovor. Ne bi trebao sam osmisliti pravilo koje u tvrtki ne postoji.
Korištenje iskustva iz ranijih projekata
Voditelj projekta želi vidjeti kako je sličan problem riješen ranije. Ne sjeća se godine ni naziva datoteke, ali može opisati situaciju.
Za takav zadatak korisna je pretraga prema značenju: pronalaženje sadržajno sličnih zapisa, iako nisu napisani istim riječima. Microsoft Learn: hibridno pretraživanje
Priprema odgovora iz dokumentacije
Prodajni ili tehnički tim treba odgovoriti na upit kupca. Asistent može poslužiti za pronalaženje relevantnih uputa, tehničkih opisa ili ranijih dogovora te pripremu nacrta odgovora.
Za početnu implementaciju preporučujemo da konačno slanje ostane na čovjeku. Pretraga i priprema nacrta jedan su zadatak; samostalno slanje poslovne poruke drugi je, osjetljiviji zadatak.
Zašto nije dovoljno samo „dati dokumente AI-ju”?
Modelu nije potrebno pri svakom pitanju predati cijelu arhivu. U pristupu koji se naziva RAG sustav najprije pronalazi relevantne izvore, a zatim ih daje modelu kao podlogu za odgovor. Lewis i sur.: Retrieval-Augmented Generation
To znači da kvaliteta odgovora ovisi i o onome što je pronađeno. Ako sustav dohvati staru uputu, nepotpun odlomak ili dokument slične teme, model može napisati uvjerljiv, ali pogrešan odgovor.
Zato pri razvoju ne gledamo samo koliko je odgovor lijepo napisan. Gledamo je li sustav pronašao pravi izvor i podržava li taj izvor napisanu tvrdnju. AI modeli mogu generirati netočne tvrdnje, a pretjerano oslanjanje na njih dodatno povećava rizik. OWASP: netočne i nepoduprte tvrdnje AI modela
Kada privatni AI ima smisla, a kada ne?
Dobar početni kandidat je proces u kojem ljudi često traže odgovore u većoj količini tekstualnih dokumenata. Posebno je zanimljiv kada se ista pitanja ponavljaju ili kada je potrebno usporediti više izvora.
Ne bismo ga uvodili samo zato što postoji mnogo datoteka. Ako se problem može riješiti jasnijim nazivima mapa, obrascem ili jednostavnom tražilicom, to može biti bolji prvi korak.
Jednako tako, za pitanje „koliko imamo proizvoda na skladištu” važniji je pouzdan pristup aktualnoj bazi nego razgovor sa starim PDF izvještajima. Najprije treba odrediti pravi izvor podatka, a tek zatim način na koji korisnik postavlja pitanje.
Kako izgleda razuman početak implementacije?
Za početak predlažemo jedan jasno ograničen zadatak i reprezentativan uzorak dokumentacije. Primjerice, interne upute za korisničku podršku ili dokumente iz određene skupine projekata.
Zatim pripremamo pitanja na koja korisnici već znaju odgovor. U test uključujemo i pitanja za koja odgovor nije u dokumentima. Želimo vidjeti hoće li asistent priznati da nema dovoljno podataka ili će pokušati popuniti prazninu.
Prije širenja na više zaposlenika definiraju se prava pristupa. Asistent ne smije postati prečac do dokumenta koji korisnik inače ne smije otvoriti. OWASP: pristup podacima u RAG sustavima
Koliko košta privatni AI za tvrtku?
Ne postoji jedna korisna cijena za svaki projekt. Na opseg utječu vrste dokumenata, broj korisnika, potreba za obradom skenova, povezivanje s drugim programima i zahtjevi za održavanje.
Trošak računala zato je samo jedan dio procjene. U ponudi treba razdvojiti pripremu podataka, razvoj, infrastrukturu i održavanje. U Domini Studiju AI automatizacije procjenjujemo nakon analize konkretnog procesa, umjesto da sve projekte svodimo na isti paket.
Za usporedbu mjesta obrade pročitajte i lokalni AI ili cloud, a praktičan primjer pronađite u projektu s oko 40.000 dokumenata.
Od kojeg biste pitanja vi krenuli?
Ne treba početi s pitanjem „koji je AI model najbolji”, nego s pitanjem „koju informaciju naš tim danas najteže pronalazi”.
Opišite nam taj zadatak, okvirnu količinu dokumentacije i nekoliko pitanja na koja trebate odgovor. Kroz AI asistente i automatizaciju možemo procijeniti prikladan pristup. Za prvi upit Domini Studiju nije potrebno slati povjerljivu arhivu.
