Artėjant konferencijai „PASSWORD 2025“ kalbamės su Justinu Mikulskiu – SEO marketingo ekspertu ir DI agentų kūrėju, kuris renginio scenoje kartu su advokatų kontoros GLIMSTEDT vyresniuoju teisininku Ovidijumi Speičiu skaitys pranešimą apie patirtį, iššūkius ir darbą su dirbtiniu intelektu.
Pranešime žadama ne tik pasidalinti įžvalgomis apie naujausius technologinius sprendimus, bet ir papasakoti apie tamsiąją šios technologijos pusę – neapibrėžtumo ir teisinių pilkųjų zonų labirintą.
Kovo 27 d. konferencijos „PASSWORD 2025“ dalyviai išgirs istorijas, kurios privers susimąstyti ne tik apie DI naudą, bet ir paslėptas grėsmes.
Jūsų pranešimas konferencijoje gali nustebinti – vietoj įprasto technologinio optimizmo žadate pasidalinti ir skaudžiomis istorijomis. Koks DI nesėkmės pavyzdys jums labiausiai įsiminė?
Vienas ryškiausių atvejų nutiko pernai, kai viena vidutinio dydžio e. komercijos įmonė pradėjo prarasti pozicijas paieškos sistemose ir stebėti kritišką pardavimų kritimą. Tyrinėjant situaciją paaiškėjo, kad jų praktikantas, norėdamas pasirodyti iniciatyvus, naudojo generatyvinį DI produktų aprašymams atnaujinti.
Sistema generavo techniškai teisingą, bet perteklinį turinį, kuris iš esmės sugriovė ilgai kurtas SEO strategijas. Įdomiausia, kad praktikantui teisiškai niekas negrėsė – įmonė neturėjo jokių DI naudojimo gairių, darbo sutartyje nebuvo aptarta tokių įrankių naudojimo tvarka. Žalai atitaisyti prireikė pusės metų intensyvaus darbo.
Šis atvejis atskleidžia, kad DI grėsmės versle dažnai kyla ne iš išorės, o iš vidaus – kai technologijos naudojamos be aiškios strategijos ir priežiūros.
Tai skamba kaip gana švelni pamoka, palyginus su potencialiomis problemomis. Kokių dar nenumatytų situacijų gali kilti diegiant DI?
Taip, tai tik ledkalnio viršūnė. Susidūriau su atveju, kai klientas naudojo pokalbių su klientais pokalbių robotą (botą), kuris buvo susietas su CRM sistema. Problema iškilo, kai klientai pradėjo dalintis asmens kodais, banko sąskaitų duomenimis ir kita jautria informacija, manydami, kad kalba su žmogumi.
Įmonė nebuvo atnaujinusi savo privatumo politikos, nebuvo įspėjusi klientų, kad jie bendrauja su DI, ir, svarbiausia, sistema kaupė visus duomenis mokymui – taip potencialiai pažeisdama BDAR. Mano patirtis rodo, kad dauguma įmonių, diegiančių pokalbių robotus, neatnaujina
savo privatumo politikų – tai tampa sistemine problema, kurią reguliatoriai pradeda pastebėti. Pavyzdžiui, 2023 m. Italijos duomenų apsaugos tarnyba uždraudė „Replika AI“ pokalbių robotui rinkti duomenis, nes jis pažeidė BDAR taisykles dėl netinkamo informavimo apie duomenų naudojimą.
Kitas pavyzdys – kai kūrėme DI projektą finansų sektoriui su integruota paskolos skaičiuokle, susidūrėme su „hallucination“ problema, kai sistema pradėjo nurodyti iškreiptas palūkanų normas ir neteisingus paskolų skaičiavimus. Jei tokie neteisingi skaičiavimai būtų pasiekę klientus, įmonė galėjo susidurti su ieškiniais dėl finansinių nuostolių. „Glimstedt“ advokatų kontora, su kuriais konsultavomės, atkreipė dėmesį, kad naujausi JAV teismų nagrinėti atvejai rodo tendenciją, jog įmonės gali būti laikomos atsakingomis net už DI „haliucinacijas“, jei sistema buvo pristatyta klientams kaip patikima.
Dirbate su įvairaus dydžio įmonėmis. Ar pastebite, kad mažesnės įmonės susiduria su skirtingomis DI rizikos problemomis nei didžiosios korporacijos?
Vienareikšmiškai. Mažesnės įmonės dažnai neturi resursų tinkamam teisiniam pasirengimui, todėl jos labiausiai kenčia nuo to, ką aš vadinu „DI implementacijos paradoksu“ – kuo labiau joms reikia DI efektyvumui didinti, tuo didesnė rizika, kad jos neapsisaugos teisiškai.
Remdamasis savo konsultuotų įmonių patirtimi, galiu pasakyti, kad dauguma mažų įmonių, integruojančių DI sistemas, neatlieka jokio formalaus teisinio rizikų vertinimo. Tuo tarpu didžiosios korporacijos paprastai turi aiškius protokolus ir teisines komandas, kurios vertina rizikas prieš diegiant technologijas.
Vienas klientas, turintis nedidelę finansų konsultacijų įmonę, pradėjo naudoti DI dokumentų analizei. Po kelių mėnesių paaiškėjo, kad visi analizuoti dokumentai buvo dedami trečiosios šalies serveriuose be tinkamo šifravimo. Tik įsivaizduokite – konfidencialūs klientų finansiniai duomenys tapo potencialiai prieinami tretiesiems asmenims. Tai parodo, kaip svarbu naudotis tik patikimų DI įmonių paslaugomis ir vengti neaiškių startuolių, siūlančių tariamai lengvesnį valdymą, bet neužtikrinančių tinkamo duomenų saugumo.
Mano patarimas verslams – prieš pasirenkant DI sistemą, būtina įvertinti ir pačios įmonės patikimumą: jos rinkos vertę, veiklos trukmę, reputaciją, klientų atsiliepimus. Patikimiausia dirbti su viešai listinguojamomis įmonėmis, kurių akcijomis prekiaujama biržoje, – jos paprastai turi daug aukštesnius atitikties standartus ir rizikos valdymo procedūras.
Kas labiausiai stebina kuriant DI agentus – kokias spragas verslo procesuose jie atskleidžia?
Kalbant apie spragas, didžiausia problema, kurią matau, – tai duomenų valdymo chaosas. Dauguma įmonių neturi jokios strategijos, kokių duomenų negali patikėti DI, neturi aiškių gairių darbuotojams.
Neseniai stebėjau įmonę, kuri pradėjo naudoti DI įrankius marketingo turiniui kurti. Vienas iš darbuotojų, norėdamas pagreitinti procesą, įkėlė į viešai prieinamą DI įrankį visą įmonės klientų duomenų bazę su pirkimo istorijomis. Jis nesuvokė, kad tokiu būdu šie duomenys gali būti panaudoti sistemos mokymui ir tapti prieinami kitiems vartotojams. Šis incidentas įmonei kainavo ne tik klientų pasitikėjimą, bet ir BDAR baudos grėsmę. Pavyzdžiui, 2022–2023 m. Prancūzija ir kitos ES šalys skyrė baudas „Clearview AI“ už neteisėtą duomenų rinkimą, kas iliustruoja pavyzdį apie netinkamą klientų duomenų bazės naudojimą.
Dirbdamas su įvairiomis organizacijomis pastebėjau, kad dauguma kompanijų, prieš pradėdamos naudoti DI, nesukuria jokių vidinių naudojimo taisyklių. Tai tiksinti laiko bomba, ypač kai kalbame apie dideliu mastu naudojamus sprendimus. Mano praktinis patarimas – sukurkite paprastą, bet aiškią DI naudojimo politiką įmonėje, nurodykite tris pagrindinius dalykus: 1) kokius duomenis draudžiama įkelti į viešus DI įrankius, 2) kokie DI įrankiai yra patvirtinti naudoti įmonėje ir 3) kas prisiima atsakomybę už DI panaudojimo pasekmes. Šį dokumentą privalomai pateikite pasirašyti visiems darbuotojams ir periodiškai atnaujinkite. Teisininkas Ovidijus renginio metu pasidalins išsamiau, ką ir kaip daryti teisiniu požiūriu.
Kokie yra didžiausi mitai apie DI teisinius aspektus, kuriuos pastebite savo praktikoje?
Didžiausias mitas – kad „jei aš naudoju DI tik vidiniams procesams, man nereikia rūpintis teisiniais aspektais“. Tai visiškai netiesa! Neseniai konsultavau gamybos įmonę, kuri naudojo DI gamybos linijų optimizavimui ir darbuotojų produktyvumo stebėsenai. Jie manė, kad tai tik vidinis įrankis.
Tačiau kai sistema pradėjo rinkti duomenis apie darbuotojų judėjimą, darbo spartą ir netgi pertraukas, iškilo rimtų darbo teisės klausimų. Iš savo patirties galiu pasakyti, kad dauguma įmonių nežino, kad, pagal ES darbo sąlygų stebėsenos gaires, darbuotojai turi būti aiškiai informuoti apie bet kokius algoritmus, naudojamus jų darbui vertinti. Ši įmonė to nepadarė ir vos išvengė masinio darbuotojų nepasitenkinimo.
Kitas paplitęs mitas – „DI sugeneruotas turinys yra laisvas nuo autorių teisių“. Konsultuoju kelis kūrybos startuolius, kurie susidūrė su pretenzijomis dėl DI sugeneruoto turinio, kuris buvo įtartinai panašus į egzistuojančius kūrinius. Faktas tas, kad nė vienas rimtas DI kūrėjas šiandien negali garantuoti, kad jų sistemų sugeneruotas turinys nebus panašus į mokymui naudotą medžiagą.
Pavyzdžiui, 2023 m. „Getty Images“ pateikė ieškinį „Stability AI“ dėl autorių teisių pažeidimų, teigdama, kad jų vaizdai buvo neteisėtai naudojami DI mokymui.
Ką konkrečiai dalyviai išgirs jūsų pranešime konferencijoje „PASSWORD 2025“, ko nerasime internete?
Kartu su Ovidijumi dalinsimės patirtimi iš skirtingų perspektyvų – aš iš technologinės pusės, jis iš teisinės. Pristatysime realius atvejus, su kuriais susidūrėme savo praktikoje, ir aptarsime, kaip galima išvengti panašių problemų.
Kalbėsime apie tai, kaip atnaujinti darbo sutartis įtraukiant DI naudojimo gaires, ką reikėtų žinoti apie privatumo politikos atnaujinimus diegiant DI agentus ir kokias apsaugos priemones galima įdiegti siekiant apsisaugoti nuo teisinių rizikų.
Be to, pasidalinsiu keliais techniniais sprendimais, kuriuos išvystėme siekdami užtikrinti, kad DI sistemos neperžengtų etinių ir teisinių ribų – tai praktiniai patarimai, kuriuos galima pritaikyti beveik bet kokiame versle.
Pagrindinis mūsų pranešimo tikslas – padėti verslui išvengti klaidų, kurias jau padarė kiti, ir paskatinti platesnį suvokimą apie DI poveikį įmonių veiklai. Dalyviai išgirs nepadailintus, realius atvejus iš mūsų praktikos, kurie leis jiems geriau suprasti DI diegimo rizikas ir galimybes. Norime, kad renginys taptų ne tik informacijos perdavimu, bet ir pradžia platesnėms diskusijoms apie tai, kaip protingai ir atsakingai integruoti DI į verslo procesus – tai daug plačiau nei tik agentų kūrimas. Tikimės, kad dalyviai išeis ne tik su konkrečiomis žiniomis, bet ir su gilesniu supratimu apie pokyčius, kuriuos DI neša į verslo pasaulį.
„PASSWORD 2025“ konferencijoje Justinas Mikulskis (Mikulskis.lt/Aigen.lt) kartu su Ovidijumi Speičiu (GLIMSTEDT) nagrinės dirbtinio intelekto praktinio taikymo iššūkius versle. Pranešimas žada būti itin aktualus įmonėms, siekiančioms saugiai integruoti DI sprendimus savo procesuose.
