Evropska unija je na do nedavnega še nepredstavljiv razvoj in obseg umetne inteligence odgovorila z njeno regulacijo. Z začetkom avgusta je začel veljati Akt o umetni inteligenci. V nadaljevanju preverite, kaj ta prinaša.
Evropska unija je 13. junija 2024 sprejela Uredbo (EU) 2024/1689 Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) št. 2018/858, (EU) št. 2018/1139 in (EU) št. 2019/2144 ter direktiv št. 2014/90/EU, (EU) št. 2016/797 in (EU) št. 2020/1828 (»Akt o umetni inteligenci«), ki se je začela uporabljati 1. avgusta 2024.
Namen Akta o umetni inteligenci je zagotovitev varne uporabe umetne inteligence za vse uporabnike. V Aktu o umetni inteligenci je ta razdeljena na različne stopnje oziroma so sistemi, ki uporabljajo umetno inteligenco, razvrščeni glede na tveganje, ki ga predstavljajo. Umetnointeligenčni sistemi so tako razdeljeni v štiri kategorije:
-
- Minimalno tveganje: Za tovrstne sisteme niso predvidene dodatne obveznosti, vendar lahko organizacije tudi zanje prostovoljno sprejmejo ustrezne kodekse ravnanja. V to kategorijo spadajo npr. filtri za nezaželeno pošto ali videoigre, ki temeljijo na umetni inteligenci.
- Posebno tveganje v zvezi s preglednostjo oziroma sistemi z omejenim tveganjem: V to kategorijo spadajo npr. klepetalni boti (chatGPT). Za te sisteme velja, da bodo morali uporabnikom razkriti, da so v kontaktu s strojem. To bo posamezniku omogočilo nadaljnjo odločitev, ali želi nadaljevati komunikacijo ali ne. Poleg tega bodo morali omogočiti prepoznavo vsebine, ki je bila ustvarjena s pomočjo umetne inteligence. Tudi pri javno objavljeni vsebini, ki bo ustvarjena z umetno inteligenco, bo treba zagotoviti oznako, da je bila umetno ustvarjena (sem se umešča tudi t. i. »deep fake« avdio in video vsebina).
- Sistemi velikega tveganja: Sem spadajo npr. sistemi upravljanja pravosodja in demokratičnih procesov (umetna inteligenca za iskanje sodnih odločb) ali zaposlovanje, upravljanje delavcev in dostop do samozaposlitve (programska oprema za razvrščanje življenjepisov v postopku zaposlovanja). Ti sistemi bodo morali izpolnjevati dodatne obveznosti, med drugim bodo morali implementirati sistem za zmanjševanje tveganja, človeški nadzor, kakovostni nabor podatkov, samodejno beleženje dejavnosti v življenjski dobi sistema zaradi zagotavljanja sledljivosti ipd.
- Sistemi, ki veljajo za očitno grožnjo temeljim človekovim pravicam: Tovrstni sistemi bodo v celoti prepovedani. Sem se uvrščajo npr. igrače z glasovno pomočjo, ki spodbujajo nevarno vedenje, in možnost družbenega točkovanja posameznikov s strani državnih organov (kot je npr. Social Credit System na Kitajskem). Prepovedani so torej sistemi:
-
-
- ki uporabljajo subliminalne tehnike, ki presegajo zavest osebe;
- ki uporabljajo namerno manipulativne ali zavajajoče tehnike za izkrivljanje vedenja oseb, z zmanjšanjem sposobnosti sprejeti informirano odločitev; ali
- ki izkoriščajo šibke točke oseb zaradi njihove starosti, invalidnosti ali posebnega socialnega ali ekonomskega položaja ipd.
-
Vsaka država članica EU bo morala tudi imenovati ali vzpostaviti en priglasitveni organ. Ta bo odgovoren za vzpostavitev in izvajanje potrebnih postopkov za ocenjevanje, imenovanje in priglasitev organom, ki bodo pristojni za ugotavljanje skladnosti s tem aktom. Priglašeni organi bodo pristojni za ugotavljanje skladnosti in izdajo certifikatov ustreznim sistemom.
Nadzor nad izvrševanjem in izvajanjem Akta o umetni inteligenci je v pristojnosti Evropskega urada za umetno inteligenco, ki je bil ustanovljen v okviru Komisije februarja 2024. Poleg nadzora je omenjen urad zadolžen tudi za prizadevanje k upravljanju umetne inteligence na svetovni ravni ter k temu, da bi Evropska unija prevzela vodilno vlogo pri etičnem in trajnostnem razvoju sistemov umetne inteligence.
Akt o umetni inteligenci se bo v celoti začel uporabljati šele čez dve leti, da bo njegova postopna uporaba omogočila čas za prilagoditev obveznostim, ki jih nalaga. Prepovedi bodo veljale že po šestih mesecih, pravila regulacije sistemov za splošne namene po 12 mesecih, obveznosti za vgrajeno umetno inteligenco v regulirane proizvode pa po 36 mesecih.
Prav zaradi dolgega časovnega obdobja in olajšanja prilagoditvam je Evropski urad za umetno inteligenco začel izvajati pakt za umetno inteligenco. Urad bo tudi izvajal nadzor nad organizacijami, ki bodo sprejele prostovoljno zavezo oziroma pakt. Slednji spodbuja k predčasni izpolnitvi obveznosti zavezancev po Aktu o umetni inteligenci. Gre za prostovoljni vstop, ki omogoča udeležencem izmenjavo dobrih praks, praktičnih informacij o izvajanju akta, povečanje prepoznavnosti in verodostojnosti zaščitnih ukrepov ter krepitev zaupanja v tehnologije umetne inteligence.
Glede na razvoj se zdi, da umetni inteligenci ne bomo mogli ubežati. Lahko pa jo uporabljamo v svoj prid in, kjer je to potrebno, poskrbimo, da bodo uporabniki pri tem varni.
Avtorica: Tina Marciuš Ravnikar, odvetnica
