Zdroj: FORBES, Milan Čupka
Autori: Štěpán Štarha, Róbert Gašparovič, Anna Majerníčková
Môžete komerčne využívať obrázok vytvorený umelou inteligenciou? Je v poriadku nechať zamestnancov vkladať interné údaje do nástrojov generatívnej AI, prípadne nechať strojové učenie zasahovať do výberu nových zamestnancov? Advokátska kancelária Havel & Partners pripravila desatoro pre prácu s AI vo firemnom prostredí.
Umelá inteligencia je tu s nami desaťročia, avšak až vlaňajší rozmach generatívnej AI na čele s ChatGPT vyvolal masový záujem. Právnym aspektom AI sa venujú Róbert Gašparovič a Anna Majerníčková z advokátskej kancelárie Havel & Partners, ktorí k téme usporiadali sériu pracovných raňajok pre odbornú verejnosť.
Na úvod uviedli úskalia, ktoré práca s umelou inteligenciu priniesla v posledných rokoch: autonehody autonómnych vozidiel, rasizmus či sexizmus AI chatovacích modelov, nedokonalosti softvéru pri rozpoznávaní tvárí ľudí tmavej pleti či otázky týkajúce sa autorského práva. Mnohé z týchto problémov už mali aj súdnu dohru.
Partner kancelárie Štěpán Štarha zase spomenul nedokonalosti umelej inteligencie pri snahe využívať ju pri automatizácii procesu prijímania nových zamestnancov. „Ak pre vás napríklad pracuje viac úspešných mužov, v strojovom učení to systém môže vyhodnotiť tak, že z výberového procesu automaticky vyradí ženy,“ uviedol príklad.
Oblasť aj preto potrebuje regulácie, no v Európskej únii teraz prebieha diskusia, ako ich nastaviť tak, aby zároveň neprimerane nebrzdili vývoj oblasti. Prvým veľkým usmernením v tomto smere má byť nariadenie Európskeho parlamentu a Rady nazvaný Akt o umelej inteligencii (AI Act).
Akt by mal oblasť AI rozdeliť do štyroch oblastí, podľa miery rizika – systémy s neprijateľným rizikom, vysokým rizikom, obmedzeným rizikom a minimálnym/žiadnym rizikom. Neprijateľné riziko sa bude rovnať zákazu, obmedzené a minimálne riziko by zase malo mať minimálne alebo žiadne regulácie.
V budúcnosti tak možno v únii bude zakázané využívať AI na diaľkovú biometrickú identifikáciu v reálnom čase orgánmi presadzovania práva, na hodnotenie alebo klasifikáciu fyzických osôb, zakázané bude aj také využívanie AI, ktoré spôsobuje fyzickú alebo psychickú ujmu, či ktoré využíva zraniteľnosť osobitej skupiny osôb (napr. národnostných menšín).
Regulácia sa mala v pôvodnom návrhu týkať predovšetkým oblasti s vysokým rizikom (biometria, kritická infraštruktúra, súdy, kontrola hraníc a pod.), no v súčasnosti sa v europarlamente debatuje aj o tom, či a do akej miery napríklad regulovať generatívnu AI typu ChatGPT.
Kým však bude AI regulovaná, firmy by sa nemali do oblasti umelej inteligencie vrhať úplne bez pravidiel. Aj preto advokátska kancelária Havel & Partners pripravila tzv. desatoro, teda desať rád, ktorými sa riadiť pri práci s AI vo firmách:
1. Overte si v príslušných obchodných podmienkach poskytovateľov AI nástrojov, akým spôsobom je pre ich AI nástroje upravené komerčné využitie výstupov.
Napríklad, či môžete obrázok vygenerovaný v AI využiť komerčne.
2. Ku generovaniu používajte vlastný obsah alebo kontrolujte v licenčných podmienkach fotobánk a ďalších databáz, že práva k vstupom, ktoré z nich využívate a zadávate do AI, sú riadne vysporiadené (teda, že máte potrebné oprávnenia) a že generovaný obsah neporušuje kohosi výhradné práva.
Použitie obsahu, napr. fotiek do tzv. „kresliacich“ AI nástrojov, bez potrebných oprávnení môže byť porušením práv nositeľov oprávnení k obsahu a zakladať zodpovednosť za porušenie.
3. Nezadávajte do AI nástrojov citlivé informácie a údaje. Poučte o tom aj všetkých zamestnancov.
V praxi by totiž generatívna AI teoreticky mohla vaše know-how ponúknuť v odpovedi na otázku, ktorú zadá vaša konkurencia.
4. Dôsledne kontrolujte, či sú AI výstupy fakticky pravdivé. Overujte si všetky informácie z iného dôveryhodného zdroja.
Ako potvrdil aj slovenský expert na strojové učenie Michal Valko, tzv. halucinácie umelej inteligencie nevieme vylúčiť.
5. Overujte, či výstupy generované AI neobsahujú prvky diskriminácie.
Amazon musel napríklad stiahnuť AI personalistický softvér, keďže pri prijímaní do zamestnania uprednostňoval mužov.
6. Implementujte AI a jej používanie vo firme tak, aby všetko bolo v súlade so zmluvnými, zákonnými a inými záväzkami vašej spoločnosti.
Aj AI nástroje je možné používať, rovnako ako iný software, len podľa podmienok poskytovateľa AI nástroja.
7. Zaveďte vo firme technické opatrenia a interné smernice týkajúce sa využívania AI. Zamestnancov riadne preškolte.
Môžete pristúpiť aj k tomu, že prístup k AI nástrojom, ktoré pracujú s nelicencovaným obsahom, prípadne pre firemné účely nevyhovujú z iných dôvodov, zablokujete.
8. Zapojte do prípravy vašej firemnej AI stratégie odborníkov a diskutujte o nej aj s ľuďmi vo firme.
Je dobré, keď zamestnanci aspoň v základoch rozumejú tomu, ako daný algoritmus funguje, na základe čoho poskytuje výstupy. Odborník by im to mal vysvetliť „ľudskou rečou“.
9. Namiesto bezplatných verzií AI nástrojov, ktorých používanie pre podnikanie môže byť obmedzené, využívajte AI nástroje a obchodné modely určené priamo pre podnikateľské potreby.
Niektoré poskytujú zvýšenú mieru ochrany – dát aj súkromia.
10. Sledujte vývoj najnovšej legislatívy, rozhodnutia súdov a aktuálny vývoj v oblasti umelej inteligencie.
