Megbízható AI a zajos világunkban

Sokan azt gondolják, hogy az AI csak a ChatGPT vagy a nagy nyelvi modellek, de ez tévedés. Az AI egy gyűjtőfogalom, amely számos technológiát magában foglal az LLM-eken túl is, például gépi tanulást és más adatelemző eszközöket. Az LLM-ek csak egy részét jelentik az AI teljes univerzumának.

Az LLM-ek igazi áttörése az volt, hogy elérhetővé tették az AI-t. Először vált lehetővé, hogy az emberek a saját szavaikkal, természetes nyelven kommunikáljanak a mesterséges intelligenciával. Ez mindent megváltoztatott, mivel megnyitotta az AI kapuit egy sokkal szélesebb közönség előtt.

A kezdő lökést valójában az ügyfelek adták. Már 2001 környékén együtt dolgoztunk társalapítómmal, Kása Károllyal egy keresőrendszer-projekten az NIH-nél(National Institutes of Health), amely a toxikológiára és a környezet-egészségügyre összpontosított. Így kerültünk közel a keresés és a szöveganalitika világához.

Később indítottam egy blogot, ahol kereséssel kapcsolatos témákról írtam és mindenféle reklám nélkül jelentkeztek az érdeklődők. Gyakran azzal fordultak hozzám: „Endre, látjuk, hogy ezzel foglalkozol. Tudnál segíteni a mi problémáink megoldásában is?” Az első komoly megbízóink egyike a Startlap volt, amely akkoriban az ország harmadik leglátogatottabb kezdőoldala volt. Új generációs keresési megoldást szerettek volna és teljesen maguktól találtak ránk.

Innen már természetes módon következett a növekedés: új kollégák csatlakoztak, kialakult egy összetartó csapat. Egyikünk sem a klasszikus üzletember-típus, aki már gyerekként árulta a Coca-Cola-t az iskolában. Mindketten informatikai háttérrel érkeztünk és ezt a szakmai szemléletet vittük tovább a cég felépítésében.

Pontosan. Az elején lassú volt a növekedés, de az elmúlt 5–8 évben igazán felgyorsult. Ma már körülbelül 50 fős csapattal dolgozunk.

A legbüszkébb pillanat – hadd gondolkodjam kicsit, ez egy jó kérdés. Azt mondanám, ez: Magyarországon vagyunk, az Európai Unió egyik részén, amit Dél-Dunántúlnak hívnak és ami valójában az egész EU egyik legelmaradottabb régiója.

És mégis sikerült felépítenünk itt egy olyan céget, ami nemzetközi projekteken dolgozik.. Az egyik legnagyobb büszkeségem, hogy vannak napi stand-up megbeszéléseink, ahol Bostonból, Tel-Avivból és Kaposvárról csatlakoznak emberek. Ez nem olyasmi, amit minden nap látni lehet. Majdnem úgy hangzik, mint egy vicc kezdete: „Egy fickó Bostonból, Tel-Avivból és Kaposvárról belép egy hívásba…” – de ez a valóság.

Az, hogy ebben a térségben van egy 50 fős tanácsadó cégünk, amely magas szintű projekteken dolgozik globális ügyfelekkel, olyasmi, amire őszintén büszke vagyok.

Csak egy példa: John Weaver, a Babel Street stratégiai igazgatójameglátogatott minket. Londonban volt és megkérdezte, hogy beugorhat-e, mivel körülbelül 8 éve dolgozunk együtt. Ők nemcsak kiemelt ügyfelek, hanem partnerek is, akiknek a megoldásait segítünk bevezetni az ő ügyfeleiknél.

Az, hogy valaki Washington D.C.-ből ellátogat a kaposvári irodánkba, olyasmi, amire nem igazán számítanál. Büszkeséggel töltött el, nemcsak magam miatt, hanem a kollégáim miatt is, akik valóban világszínvonalú szakemberek. Ezt nevezném igazi büszke pillanatnak.

Tulajdonképpen ez kapcsolódik cégünk egyik kimondott céljához: a Dunántúl legjobb technológiai cége szeretnénk lenni, világszínvonalú munkahelyeket teremtve az EU egyik legfejletlenebb régiójában. Ilyen munkahelyeket találhatsz Budapesten, Bécsben vagy Prágában – de itt nem. Szóval, úgy érezzük, hogy egy mélyebb küldetést teljesítünk, legalábbis az én perspektívámból nézv mindenképp.

Ez nehéz kérdés. Őszintén szólva annyira benne vagyok abban, amit csinálunk, hogy kívülről nehéz rálátni. Talán kapcsolódik ahhoz, hogy manapság úgy tűnik, minden IT-cég „AI-szakértőnek” nevezi magát.

Engem ez nem teljesen győz meg. Persze, egy jó programozó képes meghívni egy API-t és akár egy nap alatt elkezdhet dolgozni vele. Nem ez a nehéz része. De amikor vállalati szintű AI-megoldások bevezetéséről van szó – különösen, ha nagy nyelvi modellekkel történő természetesnyelv-feldolgozásról beszélünk, akkor jönnek elő az igazi kihívások: hallucináció, biztonság és sok más összetett probléma, ami elsőre nem látszik.

Gyakran van egy kezdeti optimizmus. Az emberek azt hiszik, a rendszer majd varázsütésre mindenre pontos választ ad. De nem, még akkor sem, ha RAG-ot (Retrieval-Augmented Generation) használsz, amiről sokan azt gondolják, hogy megoldja a hallucinációt. Nem oldja meg. Jelentősen csökkenti, de teljesen nem szünteti meg.

Ilyenkor jönnek a további modellek, az egyedileg tanított rendszerek, amelyek a hallucináció mérséklésére, a pontosság növelésére és a relevancia biztosítására szolgálnak. Itt számít igazán a tapasztalatunk. Tudjuk, hogyan kell értékelni az NLP-rendszereket, hogy eldöntsük, alkalmasak-e éles környezetben való használatra.

Mi már végigmentünk ezeken a kihívásokon. És az, hogy ezeket korábban átéltük, előnyt ad nekünk. Ez nem mindig nyilvánvaló az elején, amikor minden újnak és izgalmasnak tűnik. Az a „mézeshetek” időszak elmúlik és a valódi munka csak ezután kezdődik.

Csak a saját szemszögemből tudok beszélni, mint egy kisvállalkozás vezérigazgatója. Nincs teljes rálátásom az egész piacra. Az ügyfeleink többsége nem óriásvállalat, így ebből a kontextusból indulok ki.

Ami aggaszt, az a különbség a kis léptékű és a vállalati szintű AI-alkalmazás között. Egyfelől a mesterséges intelligencia hihetetlenül elérhetővé vált. Bárki használhatja személyes asszisztensként. Vezérigazgatók, marketing- vagy értékesítési szakemberek, még a kisebb cégeknél is profitálhatnak AI-eszközökből a mindennapi feladataik során.

Viszont amikor vállalati szinten próbálsz AI-megoldásokat bevezetni, ott válik igazán bonyolulttá a helyzet. Az egyik komoly aggodalom a költség. Ezek a megvalósítások könnyen túl drágává válhatnak. Van egy bizonyos méret, ahol a befektetés megtérülése már indokolttá válik.

Például, ha van tíz ügyfélszolgálati munkatársad, az AI használata talán nem hoz érdemi megtérülést. De ha száz vagy ezer ember dolgozik ezen a területen, az már teljesen más számítás. A kisebb vállalkozások számára nem mindig egyértelmű, hogyan építsenek olyan megoldást, ami hosszú távon valóban kifizetődő lesz.

Mivel elsősorban B2B szolgáltatásokat kínálunk, a személyes kapcsolati háló és a szájról szájra terjedő ajánlások bizonyultak a leghatékonyabbnak. Ügyfeleink döntő többsége ezekből a csatornákból érkezik: kapcsolatokból és ajánlásokból.

A lényeg valójában a bizalom. Az ügyfeleknek hinniük kell abban, hogy ha belénk fektetnek, ha pénzt tesznek egy projektbe, akkor értékes, hosszú távú megoldást fogunk szállítani. Bízniuk kell abban, hogy a megoldás működni fog és hogy hosszú távon is ott leszünk mellettük a támogatásban. Ez a bizalom minden alapja.

Persze, jó lenne, ha az inbound marketingünk annyira jól működne, hogy a cégek egyszerűen bekopogtatnának azzal, hogy: „Endre, szükségünk van a segítségedre.” Előfordult már, de ez egyáltalán nem jellemző.

Lehet, hogy ez elsőre kicsit ellentmondásosnak hangzik, de manapság sok szó esik arról, hogy a programozók feleslegessé válnak az AI miatt, hogy mindent el lehetne végezni LLM-ekkel vagy más mesterséges intelligencia-alapú fejlesztő eszközökkel.

Őszintén szólva, bárcsak ezek az eszközök tényleg ilyen jól működnének, mert akkor már háromszor-négyszer hatékonyabbak lennénk. Ami engem igazán érdekel, azok a megoldások, amelyek jelentősen növelhetik a fejlesztőink termelékenységét.

Mivel kis tanácsadó cégként egyedi szoftvereket készítünk, gyakran nyílt forráskódú motorokra építve, de az ügyfél igényeire szabva, a legnagyobb kihívásunk a hatékonyság. A szoftverfejlesztés költsége annyira megnőtt, hogy csak akkor maradhatunk versenyképesek, ha drasztikusan hatékonyabbá válunk.

Ha az AI-eszközök révén meg tudnánk kétszerezni vagy háromszorozni a teljesítményünket, ügyfeleinket még magasabb színvonalon szolgálhatnánk ki. Nem félek attól, hogy az AI lecseréli a fejlesztőket. Épp ellenkezőleg, kifejezetten remélem, hogy erősíteni fogja a csapatainkat. Már elkezdtünk használni olyan eszközöket, mint a code copilotok és más asszisztensek, de ezek még nem oldanak meg mindent.

Még mindig keresem azt az igazi termelékenységi ugrást, ami valóban átalakítaná a szoftverfejlesztési folyamatunkat.

Nincs teljes rálátásom minden iparágra, de a mi tapasztalataink alapján – mivel elsősorban szöveggel és strukturálatlan adatokkal foglalkozunk – szerintem azok az ágazatok, amelyek sok strukturálatlan információval dolgoznak, különösen jó terepet jelentenek az AI alkalmazására.

Egy egyértelmű példa a jogi terület, különösen az ügyvédi irodák. Az ő munkájuk alapvetően dokumentumok olvasása és írása köré épül, ami tökéletesen alkalmassá teszi őket AI-megoldásokra. Jelenleg például egy német ügyfelünkkel dolgozunk, aki egy technológiai fókuszú ügyvédi irodát működtet.. Az ő céljuk, hogy segítsenek ügyfeleiknek hatékonyabban kezelni a jogi dokumentumokat, különösen az olyan összetett szabályozási keretekhez kapcsolódóakat, mint a TOM, a DPA vagy a GDPR.

Jelenleg ezeket a feladatokat drága jogi szakértők végzik. A cél nem az, hogy helyettesítsük őket, hanem hogy lényegesen hatékonyabbá tegyük a munkájukat. Így a mi szemszögünkből minden olyan iparág, amely nagy mennyiségű strukturálatlan adattal dolgozik, erős jelölt az AI integrációjára.

Mindenképpen szeretnénk tovább növelni a nemzetközi ügyfeleink számát. Jelenleg a bevételünk több mint 50%-a Magyarországon kívülről származik, legnagyobb részben az Egyesült Államokból.

Most a DACH-régióban (Németország, Ausztria, Svájc) és Hollandiában is terjeszkedünk. Számunkra nagyon fontos, hogy erősebb európai jelenlétet építsünk ki.

Még mindig kis cég vagyunk és bár tervezzük a növekedést, a célunk az, hogy továbbra is magasan specializáltak maradjunk. Ehhez el kell érnünk az ügyfeleket ezekben a piacokban. A magyar piac önmagában egyszerűen nem elég nagy számunkra. Ezért kezdtünk el már régen nemzetközi irányba terjeszkedni és ezen az úton haladunk tovább.