Dioničar sam Spana. Dakle, sve znate, osim što ovo nije nagovor na kupnju, prodaju, ni na držanje dionica, u konfliktu sam interesa. Drugi disklejmer, šef firme Nikola Dujmović i ja smo na ti.
Da ga predstavim najkraće moguće. Mislili su da je gotov kad je rekao da se Span okreće prodaji licenciranog softwarea, isto i kad je rekao da su budućnost usluge. Sad ih manje misli da je pogriješio bacivši se na kibernetičku sigurnost.
Želimo da što više dionica bude u free floatu
Sve nas male dioničare zanima zašto si prodao nešto dionica. Što možeš reći o tome, reci.
Kad smo izlazili na burzu, naši su nam agenti rekli joj, nemojte sad vi odmah izlaziti, to nije dobro. Mi smo rekli dobro, kad možemo? Oni na to, prodajte nekoliko mjeseci nakon izlaska na burzu. Nakon nekoliko mjeseci smo pitali dobro, možemo li mi sad nešto prodati? Oni opet joj, nemojte sad, sad nije zgodno! Planirao sam nešto prodati, a onda se pojavio interes fondova i želja za kupnjom dodatnih udjela u Spanu. A mi, što smo i napisali na samom početku, mi želimo da što više dionica bude u free floatu, a da ne radimo ponovno izdavanje.
Znači, nije im imao tko prodati, osim vas nekoliko s većim paketima?
Gledaj… Da su veliki sad počeli kupovati na tržištu po 100 000 eura na dan, cijena bi išla… Ja nisam znao tko je kupac, to saznam tek poslije, kad vidimo izvještaj. Ali nas to veseli, mi dugoročno želimo da nas firma profesionalno i biološki nadživi. Mi smo strateški na početku držali oko 50 posto firme, ali dugoročno želimo doslovno da se firma profesionalizira. Mi smo s 1200 narasli na više od 2000 dioničara i to nas veseli, među ostalim i zato što to povećava likvidnost. U tri godine valjda samo tri radna dana nije bilo trgovine našom dionicom. Za život dionice je potrebna diverzifikacija vlasništva i fer odnos prema investitorima.
Kvalificirani investitori dugo odlučuju
Znači, nisi kupovao stan, nisi kupovao brod, nego je naprosto veliki igrač htio kupiti značajnu količinu?
Kao što znaš, kvalificirani investitori dugo odlučuju, a kad dobiju sve dozvole, nezgodno je ako na tržištu nema dovoljno dionica. A kupuješ li za 1 000 000 eura pomalo, to poremeti cijelu stvar. Nema tu posebne priče. Brod sam kupio. (smijeh) Imao sam mali Fisherman, s kojim nikad nisam razvio ljubav, jer sam ipak stari jedriličar. Mučili smo se. Brod smo nazvali Grampy, obiteljski izbor naziva, po mom nadimku. Nije bilo ljubavi, a kako sam jedriličar u godinama, rekoh da si kupim jedrilicu dok još mogu. Pa sam kupio. Ništa posebno veliko, ali za to mi je trebalo nešto love.
Što se tiče daljnjeg razvoja firme… Vidio sam analizu koju je klijentima slala Fima. Sjećam li se dobro, prihodi i dobiti koje prijavljujete usklađeni su s tom analizom.
Da.
Hoću reći, u trenutku kupnje dionice vidio sam da se očekuju manje dobiti, a onda projekcije velikog rasta.
Ne mogu o projekcijama. To ne mogu komentirati. Analitičari rade po svom, a uvijek sve treba uzeti sa zrnom soli. Našu industriju nije tako teško procijeniti, jedino što nisu mogli predvidjeti je rat u Ukrajini. Microsoft je tamošnjim klijentima dao besplatno. Istina je da smo na drugim tržištima to uspjeli nadoknaditi. Sad Microsoft u Ukrajini više nije besplatan za sve, nego samo za državne institucije, tako da ćemo dio prihoda vratiti. Problem s prihodima od licenci je mali profit. Mi profit stvaramo na uslugama, na dodatnoj vrijednosti, a te usluge rade ljudi. Zašto kažu da su professional services kompanije uninvestable? Mi ne možemo rasti tri puta u dvije godine. Nama je prihod proporcionalan broju ljudi koje zapošljavamo. Znači, mi moramo zaposliti tri puta više ljudi. Ono što je istina, mi smo, bez obzira što smo izlazili na burzu i bez obzira što nismo htjeli špekulirati, prije pet godina prepoznali da će na razvijenim tržištima kibernetička sigurnost biti broj 1. Mi smo u to jako puno investirali. Tu je otišlo nekoliko milijuna dolara.
Mi smo stvorili servis koji se tek sad počinje kapitalizirati
Jesu li to ti ljudi koje ste zaposlili da biste povećali prihod?
Da. To je investicija u ljude.
I na obuci su dobivali plaću kao da već stvaraju prihode koje tek očekujete?
Da, da, da. To ti je to. Mi smo stvorili servis koji se tek sad počinje kapitalizirati. On sad pristojno raste. Ništa od toga nije strelovito. Nije kao kad kupiš 100 aviona pa ih odmah upogoniš. Mi moramo upogoniti jednog po jednog čovjeka, ali, da, osigurali smo si budućnost za sljedećih pet do deset godina, sad smo jedan od regionalnih lidera u tom području. A to je područje… Najbolji salesman nam je država, s Direktivom NIS2, koja opisuje što mi radimo.
Je li NIS2 za kompanije neizbježan, ili će ipak moći izbjeći implementaciju?
U Hrvatskoj je registrirano oko 120 ili 130 tisuća pravnih osoba. Oko 700 do 900 će biti obveznice Direktive NIS2. Do kraja ove godine se čekaju pisma od SOA-e, koja će procijeniti tko spada u kritičnu infrastrukturu. Dio je izraelski model, dio je stari europski. Što će ti da ti radi elektra, voda, kanalizacija, ako ti ne rade firme koje ti proizvode?! Dakle, mora se odrediti što je ključna infrastruktura. Recimo da će 700 firmi u Hrvatskoj morati implementirati NIS2, pod prijetnjom velikih kazni. Kazne su velike kao i u GDPR-u.
Sad će cyber security prodavati i tko zna i tko ne zna
Fora je da je standard isti u 27 država Europske unije. U Njemačkoj će za implementaciju NIS2 faliti doslovce milijuni ljudi. Da! Siemens ima oko 150 000 dobavljača. Za svakog dobavljača moraš napraviti procjenu rizika i onda moraš imati sustav. Kritična je infrastruktura. Kritična infrastruktura su IT firme. U Hrvatskoj turistička poduzeća. Valamar, Maistra, zato što je turizam 15 do 20 posto naše industrije. Šalimo se da će na jesen biti kaos, jer sad će svi prepoznati priliku. Sad će cyber security prodavati i tko zna i tko ne zna.
To se sastoji od nekoliko segmenata. Nije problem cyber securityja samo incident response nakon incidenta. Ti moraš 80 posto vremena i budžeta potrošiti na ono prije, da ti se ne dogodi. A da ti se ne dogodi, NIS2 Direktiva kaže gledaj, moraš imati nadzor, ljude… a ako se dogodi, onda trebaš prijaviti, ovo i ono. Tako da tu postoji prostor za sve specijalizacije. Cijela se IT industrija svela na dvije priče: AI i cyber security. Umjetna inteligencija je super, ona će postati sastavni dio svih rješenja. Ali dugoročno i kibernetička sigurnost, jer više nitko ne može napraviti novi sustav, a da, kao prije deset godina, ne razmišlja o sigurnosti. Izvukao sam neki svoj stari storage iz podruma. Koji je bio username? Admin. I prazan password. To ti je po defaultu. Dobiješ mail kad si ga aktivirao, molim vas promijenite password. Nemaš brute force metodu. Prije deset godina je bilo normalno da ti to tako isporuči. Danas više nije. Danas imaš 15-znamenkasti password, mala slova, crte, bez naočala ga ne mogu ni prepisati. To je tek prvi korak u kibernetičkoj sigurnosti. Radiš da si siguran by design, a prije nisi bio siguran by design.
Security through obscurity
Hoćeš reći, da je bolnica kojoj su maznuli podatke imala to što ti radiš, ili bi bilo nemoguće maznuti podatke, ili bi bilo milijun puta teže?
Da. Nećemo bušiti rane… na svoj se račun zezam da sad u Moskvi netko čita, vid’ ti Dujmovića, imao je upalu srčanog mišića! Najnapadanija organizacija na svijetu je „izraelski HEP”, to jest IEC, Isreal Electric Company. Zašto? Prvo hoće ugasiti struju. Drugo su bolnice. Kad ti bolnica ne radi, neugoda i strah kod ljudi strahovito raste. Sjećam se, bili smo u Izraelu na sastancima kad je Hamas napao emergency room najveće bolnice. Nije radio 12 sati, u gradu je bila totalna nervoza. A mi, Hrvati k’o Hrvati, ne kupe backup dok ne izgube podatke. To se zove security through obscurity. Kad misliš da si siguran zato što koristiš neke stare tehnologije i zato što misliš da si mali, da te nitko neće napasti. E onda, kad te opale, onda bude kasno. Bolnica se neodgovorno ponašala, jer već i klinci u osnovnjaku znaju da ne možeš informacijski sustav držati tako otvorenim. Amerikanci to zovu threat actors. Zdipe ti podatke i kažu vidi, ako mi to objavimo, GDPR će te koštati 3 000 000 dolara, evo nama daj 1 000 000 i nećemo ništa objaviti. Koriste zakon da pojačaju prijetnju.
Europa: Naši osobni podaci su – naši
Double jeopardy nije problem samo što su te napali, nego je problem što zdipe podatke i onda imaš duplu opasnost. Zato i provodimo treninge u Span Centru kibernetičke sigurnosti. Ljudi, pazite na svoje podatke, to je užasno važno. A organizacije koje imaju vaše podatke također bi trebale biti odgovorne prema njima. Nije slučajno da je NIS2 po kaznama jednak GDPR-u. To su dva zakona koja se naslanjaju jedan na drugi. GDPR kaže morate paziti na podatke, inače ćemo vas kazniti. A NIS2 veli hej, ljudi, podatke štitite tako da ih štitite kibernetički, a ne kad se već dogodi incident.
Europa se, što se nama kompjuterašima tehnički ne sviđa, jedina brine za osobne podatke. Kinezi smatraju da osobni podaci pripadaju državi. Amerikanci vele da su podaci vlasništvo korporacije koja ih je prikupila. Europa jedina veli ne, ne, osobni podaci pripadaju pojedincima i ljudi imaju pravo raspolagati njima. Mi smo neke AI proizvode morali ukinuti jer nema obrade bez privole. A u Kini te obrađuju na svakom koraku. To im omogućava tehnološka naprednost. U nekom će trenutku rat protiv terorizma zahtijevati da uvozimo američke i kineske tehnologije. Ali uvijek se nešto mora izgubiti. Podržavam Europu. Jesam kompjuteraš i smeta mi što nam regulativa onemogućava razvoj, ali u redu je da su naši osobni podaci – naši. Sveprisutnost tehnologije omogućava manipulaciju. Povećava rizike od ozbiljnog i dubokog utjecaja na ljude.
Temelj poduzetništva je očekivati neočekivano
Jesi pročitao Horvatov intervju za Rafineriju?
Ne.
Rekao je da se značajan rast dobiti očekuje od prvog kvartala ’25. On to smije reći. Što ti smiješ reći?
Ja to ne smijem komentirati. No, najveći problem je što budućnost nije linearna. A temelj poduzetništva je očekivati neočekivano. Pogledaj prošlost. Sve je izgledalo genijalno, development je rastao. Odjednom, fiju, development je izašao iz mode. Zašto? Sjećaš se onih tekstova na temu koga će sve umjetna inteligencija zamijeniti? Ja sam rekao ček, ček, znaš koga će prvoga? Nas! Zašto? Zato što je ogromna potražnja za junior developerima, koji su mogli raditi jednostavne poslove, odjednom nestala.
Nadamo se da smo dobro prokrčili svoj put kroz šumu
Druga stvar, genijalno, pročitaj članke prije šest, sedam godina u kojima su se svi čudili zašto Microsoft kupuje GitHub. To je repozitorij koda, nezavisna kompanija, ljudi su svoj kod, neka rješenja, davali besplatno u svijet. I onda to Microsoft kupi. Ljudi su se čudili. Što će im to? Pa to je za open source. Zašto? Zato što na tome mogu trenirati umjetnu inteligenciju, a da nikom ništa ne plate.
Moda za tim silnim developmentom je popustila među ostalim i zato što AI rješava neke od tih stvari. To ti se promijenilo u dvije godine! Developeri su bili najbolje plaćeni IT-jevci, sad ih dosta traži posao. Mi se nadamo da smo dobro prokrčili svoj put kroz šumu i vidimo da će biti lakše, ali za to smo nužno morali mnogo investirati, zaposlili smo puno ljudi. Tu su isto analitičari fulali, jer su budućnost gledali linearno. Prema tome smo ove godine trebali zaposliti 200 ljudi, a nismo.
Brak umjetne inteligencije i kibernetičke sigurnosti će tek biti ludnica
Tržište je živo, problem je jedino što se kupci nisu dovoljno dobro spremili, pa ove godine još nisu napravili budžete za kibernetičku sigurnost. Za sljedeću godinu valjda nema nikog tko to neće. Nije IT samo kibernetička sigurnost, ali onaj core business ide, neke stvari idu. Development pada zato što je izašao iz mode, ali on ne može nestati. Srce IT-ja je development. Ne možeš razviti nova rješenja, samo konstruirati ono staro, bez developmenta. Development će doživjeti restrukturiranje, a kibernetička sigurnost je, da se sad ne razbacujem ciframa što planiramo, dobrodošao dodatak. Ne mogu se i ne smijem razbacivati ciframa.
Užasno je zabavno jer je to izazov. Stalno izlaze nove tehnologije. A brak umjetne inteligencije i kibernetičke sigurnosti će tek biti ludnica. AI pomaže napadačima, ali bogme, mi već vidimo konkretnu upotrebu, da pomaže i nama, kako bih rekao, braniteljima kibernetičkih prostora.
Hype, dolina razočaranja, pa komercijalna upotreba
Zadnjih godinu dana cijene dionica su proporcionalno rasle broju spominjanja pojma umjetna inteligencija na objavljivanjima kvartalnih izvješća. To je bila živa pišurija. No, dojam je da malo kompanija stvarno zna što će s umjetnom inteligencijom, kako će je pretvoriti u profit. Kao da je očekivanje od umjetne inteligencije preveliko.
To ti je uvijek tako. Znaš za Gartnerov hype cycle? Uvijek je na početku hype. Onda hype bude na vrhuncu, pa slijedi dolina razočaranja, nakon čega izlaziš u područje prave komercijalne upotrebe.
Google, Microsoft i antibiotici
Koliko je tvoja firma velika, ili mala, da se zakači na AI? Za koga je uopće taj sport?
AI… Time sam se bavio još 1984. na faksu. Tad smo to zvali ekspertnim sistemima, to je bila malo unaprijeđena statistika. AI kao definicija postoji 60 godina. Kad je AI izašao ispod zastora? Otkad postoje large language models. Mi sve moramo antroporfomizirati. Kod moje kćeri na faksu AI hrane proteinskim molekulama, puštaju ga da „žvače” i izbacuje potencijalne antibiotike. Čujem da su Google i Microsoft prijavili tri nova antibiotika. To je isto AI, ali o tome nitko ne priča. AI ima sto lica. Dijagnostika, recimo. Jer nalaze čita digitalno. Ali, čovjek ga je to morao naučiti.
I sad su se pojavili large language modeli koji su super special, a ustvari su obična jezična statistika. Bez veze. Što ti se događa? Deterioracija. Propadanje modela. Što je problem? Sad je toliko shita, koji je vani umjetno generiran, na kojem AI uči. To ti je kao lijevak. AI uči iz sintetičkog modela. Neki dan mi je kolega novinar pričao što je Harari predvidio… Ja sam mu rekao, 80 posto Rusa podržava Putina, 50 posto Amerikanaca misli glasati za Trumpa, a mi se bojimo umjetne inteligencije! Nitko nas ne može zajebati više nego mi sami sebe svojom glupošću.
Augmented intelligence, a ne artificial intelligence
Umjetna inteligencija može napraviti genijalne stvari. Čovjek koji je napravio Siri je rekao genijalnu stvar: AI se treba zvati augmented intelligence, a ne artificial inteligence. Što je ljudima AI? Terminator. Svi vide robota. Pametan, sve će nas pobiti. Nema veze. To će biti 0,01 posto. AI ima toliko dobrih primjena. Dobri slajdovi u PowerPointu, to ti je AI. Tekst. Kopilot za CSS, što developeri mrze raditi. To sad radi AI.
Trupčević je Chat GPT-u dao tekst svih poglavlja knjige Menadžer hodočasnik, da napravi ilustracije. Izbacio je predivne ilustracije. Kad je godinu dana kasnije istom Chat GPT-u dao isti tekst, dobio je shit. Zašto? Što je razlog?
Vjerojatno deterioracija, propadanje modela.
250 milijuna dolara tjedno na ljude koji su tagirali
Je li Chat GPT godinu dana bio zatrpan krivim inputima po kojima je učio?
On uči. On „žvače”. Na osnovu prompta, generira iz toga što je „žvakao”. Na Chat GPT, kad su ga učili, trošili su milijardu dolara tjedno. Od toga je 250 milijuna odlazilo na ljude koji su tagirali. Moraš mu reći što je na kojoj slici. Cat, dog, scenery…
Da, to je razlog zašto nas je Google tjerao da označavamo mačke i semafore.
Da! Upravo to! To je sve bio input za AI.
A tvoja firma? Koliko se Span time misli baviti?
Mi smo imali svoj Bonsai, koji smo sad kupili. Samo, mi radimo sve za van. Mi se bavimo umjetnom inteligencijom, ali se bavimo stvarnim rješenjima. Radili smo za neke naše velike internacionalne korisnike konkretna rješenja obrade podataka umjetnom inteligencijom, što može dati novu kvalitetu u poslovanju.
AI nije inteligentan kao čovjek. AI simulira. Kao i čovjek
U umjetnoj inteligenciji ti je jako puno šminkeraja. U Hrvatskoj je umjetna inteligencija više šminka. Mislim da postoji samo nekoliko firmi koje se time ozbiljno bave. Sofascore. U njih vjerujem. Umjetnu inteligenciju moraš nečim nahraniti. AI mora imati podatke, jer AI nije inteligentan kao čovjek. AI simulira. Kao i čovjek. Mi imamo neuronsku mrežu u glavi, ali moraš proći kroz život da bi naučio. Nemaš li otkuda naučiti, džabe ti neuroni. Large language model je odlučio pričati, ali to je samo pametna statistika. Radi li se o ljubavnoj priči, iza ja te najčešće dolazi volim. Ako je ratna, onda je ja te mislim sada ubiti. To ti je to. Što se u setu podataka pojavljuje više sintetiziranih, model propada.
Uvijek će biti potrebe za novim kreativnim sadržajem, nema straha za novinare, jer će to novo spasiti model od propadanja. Pogotovo zato što, otkako su ljudi skužili da je tu lova, više nitko ne da da se na njemu uči besplatno. To ti je kao u mjuzi. Kad bi postojala samo umjetna inteligencija, kad više ne bi bilo kreativnog, na kraju bi za sto godina cijela mjuza bila neki ton, za koji bi umjetna inteligencija zaključila da je ljudima najugodniji. Banaliziram.
Bilo bi isto kao s tekstovima. Odjednom ih je gomila istih, koje kao da je napisao loš PR.
Da. Konvergiraju u to jer deterioira model.
(Fotografije Ivana Granića ljubaznošću Spana)