Evropska komisija je objavila končni Kodeks ravnanja o označevanju z umetno inteligenco ustvarjenih vsebin, ki predstavlja pomemben praktični korak pri izvajanju Akta EU o umetni inteligenci. Čeprav je Kodeks prostovoljen in sam po sebi ne ustvarja novih pravnih obveznosti, bo imel v praksi pomembno vlogo predvsem pri razlagi in dokazovanju skladnosti z obveznostmi glede preglednosti iz 50. člena Akta o umetni inteligenci[1].
Relevantne obveznosti se začnejo uporabljati 2. avgusta 2026, Kodeks pa ponudnikom in uvajalcem ponuja prostovoljen praktični okvir za njihovo izvajanje. Od tega datuma dalje bo Akt o umetni inteligenci v več primerih zahteval jasno razkritje uporabe umetne inteligence. Uporabniki bodo morali biti obveščeni, če komunicirajo z interaktivnim umetno inteligenčnim sistemom, kot je klepetalnik ali navidezni asistent, razen kadar je to iz okoliščin očitno. Prav tako bodo morale biti ustrezno označene deepfake vsebine ter besedila, ustvarjena ali prirejena z umetno inteligenco, kadar so objavljena z namenom obveščanja javnosti o zadevah javnega interesa.
Namen pravil je zmanjšati tveganje zavajanja in manipulacije. Vsebina, ki jo ustvari ali bistveno spremeni umetna inteligenca, je lahko za uporabnike težko prepoznavna, zlasti kadar gre za realistične slike, zvočne posnetke, videoposnetke ali besedila, ki lahko vplivajo na javno razpravo. Preglednost zato ni zgolj formalna zahteva, temveč eden ključnih pogojev za odgovorno uporabo generativne umetne inteligence.
Kodeks razlikuje med obveznostmi ponudnikov in uvajalcev sistemov umetne inteligence. Pri ponudnikih je poudarek predvsem na tehnični plati preglednosti. Ponudniki generativnih sistemov umetne inteligence, ki ustvarjajo ali spreminjajo besedilo, slike, zvok ali video, morajo zagotoviti, da so izhodi sistema označeni v strojno berljivi obliki in jih je mogoče prepoznati kot umetno ustvarjene ali manipulirane. Kodeks pri tem poudarja tudi praktično uporabo vizualnih oznak in detekcijskih mehanizmov. Med priporočljivimi rešitvami so standardizirane ikone, ustvarjene s strani EU oziroma druge jasne oznake, ki uporabniku na razumljiv način pokažejo, da je bila vsebina ustvarjena ali bistveno spremenjena z umetno inteligenco. Te oznake pa naj bi dopolnjevali tehnični mehanizmi, ki omogočajo zaznavanje izvora vsebine, na primer vodni žigi, metapodatki ali druge strojno berljive rešitve.
Ta obveznost ni pomembna zgolj za razvijalce splošno namenskih oziroma temeljnih modelov. V praksi lahko zajame tudi podjetja, ki obstoječe modele vključujejo v svoje produkte ali storitve, katere lansirajo na trg oziroma v uporabo pod svojim imenom. Organizacija, ki vgradi jezikovni model v aplikacijo za ustvarjanje marketinških besedil, pravnih osnutkov, slik ali videoposnetkov, se lahko glede takega sistema znajde v položaju ponudnika generativnega sistema umetne inteligence. Zato se ne more zanašati zgolj na dejstvo, da sama ni razvila temeljnega modela.
Drugi del Kodeksa se nanaša na uvajalce sistemov umetne inteligence. Njihove obveznosti so praviloma manj tehnične, vendar v praksi zelo pomembne. Uvajalci bodo morali jasno označiti deepfake vsebine in določena besedila, ustvarjena ali prirejena z umetno inteligenco, kadar so ta namenjena obveščanju javnosti o zadevah javnega interesa in kadar zanje ni bil opravljen človeški pregled ali uredniški nadzor. Ključno vprašanje v praksi bo, kdaj je razkritje potrebno, kako mora biti oblikovano in kje mora biti prikazano, da bo za uporabnika dovolj jasno in razumljivo.
Pri tem je pomembno tudi razlikovanje med različnimi stopnjami uporabe umetne inteligence. Ni namreč vsaka vsebina, pri kateri je bila uporabljena umetna inteligenca, enaka. Avtonomno ustvarjanje vsebin z umetno inteligenco se bistveno razlikuje od njene zgolj pomožne vloge pri lektoriranju, povzemanju, prevajanju ali pripravi osnutka, ki ga človek vsebinsko pregleda. To razlikovanje je pomembno, ker vpliva na obseg in obliko razkritja. Pretirano označevanje vsake minimalne uporabe umetne inteligence bi lahko razvrednotilo pomen oznak, premalo razkritij pa bi lahko ogrozilo zaupanje uporabnikov.
Čeprav je Kodeks prostovoljen, bo njegova praktična teža precejšnja. Podpisniki Kodeksa bodo lahko z uporabo predvidenih tehničnih in organizacijskih ukrepov lažje izkazovali skladnost z Aktom o umetni inteligenci (nadzor naj bi bil osredotočen le na spremljanje skladnosti s Kodeksom), za organe tržnega nadzora pa bo Kodeks najverjetneje pomembna referenčna točka pri presoji, ali je posamezna organizacija ravnala skladno z zahtevami glede preglednosti. S podpisom Kodeksa bodo tako ponudniki in uvajalci potrdili namero, da bodo pri poslovanju upoštevali Kodeks, pri čemer bodo le-ti tudi javno objavljeni. Podjetja, ki se bodo odločila za drugačen pristop, bodo morala zato sama dokazovati, da so njihovi ukrepi primerljivi oziroma zadostni.
Kodeks bodo dopolnile še prihajajoče smernice Komisije, ki naj bi dodatno pojasnile obseg pravnih obveznosti in vprašanja, ki jih Kodeks ne ureja v celoti. Za podjetja pa je že zdaj pomembno, da preglednost uporabe umetne inteligence obravnavajo kot del širšega sistema skladnosti. To vključuje identifikacijo sistemov umetne inteligence, presojo vlog posameznih akterjev, ureditev razmerij z dobavitelji, določitev notranjih pravil za označevanje vsebin ter jasne postopke za človeški pregled in uredniški nadzor.
Kodeks o označevanju z umetno inteligenco ustvarjenih vsebin zato ni zgolj tehnični dodatek k Aktu o umetni inteligenci, temveč praktičen okvir za njegovo izvajanje. Organizacijam ponuja usmeritve, kako naj bodo z umetno inteligenco ustvarjene ali spremenjene vsebine označene, kako naj bodo razkritja predstavljena uporabnikom in kako naj podjetja dokazujejo, da so vzpostavila ustrezne procese. Ključno vprašanje v praksi ne bo več le, ali je bila umetna inteligenca uporabljena, temveč tudi, ali je bila njena uporaba razkrita jasno, pravočasno in na način, ki uporabniku omogoča razumevanje izvora vsebine.
—
[1] 50. člen Akta EU o umetni inteligenci določa pravila preglednosti za določene sisteme UI, zlasti obveznost obveščanja oseb o interakciji z UI, označevanja umetno ustvarjenih ali prirejenih vsebin, obveščanja pri uporabi sistemov za prepoznavanje čustev ali biometrično kategorizacijo ter razkritja deepfake vsebin in določenih z UI ustvarjenih besedil.
