Hitra širitev umetne inteligence je presenetila velik del sveta, vendar je vpliv najgloblji in najhitrejši med mlajšimi generacijami. Soočena s tem scenarijem se je Španija odločila prevzeti vodilno vlogo na mednarodni ravni in predlagala ustanovitev koalicije držav, ki bi delovale usklajeno pod okriljem Združenih narodov. Glavni cilj te pobude, predstavljene v Ženevi, je vzpostavitev minimalnih varnostnih standardov, ki zagotavljajo, da vsaka tehnološki razvoj spoštuje pravice in zdravo rast otrok in mladostnikov.
Uporaba te tehnologije je že vsakdanja realnost v španskih učilnicah in domovih, kjer jo mladi uporabljajo za najrazličnejše naloge, od reševanja akademskih dvomov do iskanja čustvene podpore. Vendar pa ta široka uporaba nima vedno potrebnih zaščitnih ukrepov, kar odpira vrata tveganjem, od oglaševalskega profiliranja do izpostavljenosti lažne aplikacije umetne inteligence kar bi lahko ogrozilo njihovo varnost. Zato španski predlog ne išče le lokalne ureditve, temveč tudi globalni sporazum, ki se izogiba vrzelm legalno v digitalnem okolju, ki, kot vsi vemo, ne prepozna fizičnih meja.
Enotna fronta proti tveganjem algoritmičnih manipulacij
Mednarodna koalicija že ima močno podporo držav, kot so Francija, Kenija in sama Evropska unija, kar utrjuje položaj Španije kot zagovornika digitalnih pravic. Minister Óscar López je bil glede tega zelo jasen in je izjavil, da popolna deregulacija ni izvedljiva možnost, če se želimo izogniti ponavljanju preteklih napak, storjenih z drugimi digitalnimi platformami. Cilj je, da se sistemi umetne inteligence varno že od faze načrtovanja..., pri čemer vnaprej analizirajo, kako lahko vplivajo na vedenje mladoletnika ali katere vrste osebnih podatkov potrebujejo za delovanje.
Ena od točk, ki najbolj skrbi strokovnjake, je sposobnost teh sistemov, da do skrajnosti prilagodijo vsebino. Čeprav je to lahko koristno za učenje, lahko vodi tudi do subtilne manipulacije z uporabnikovimi interesi ali reakcijami. Otroci, ki so v fazi polnega razvoja, so še posebej ranljivi za tehnike prepričevanja česar včasih celo odrasli ne opazijo pravočasno. Zato je poudarjeno, da morajo tehnološka podjetja prevzeti veliko večjo odgovornost, ko so njihovi izdelki dostopni otrokom.
V zvezi s tem španske institucije že sprejemajo notranje ukrepe. Španska agencija za nadzor umetne inteligence (AESIA) je ustanovila posebne delovne skupine za reševanje teh družbenih in etičnih izzivov. Cilj je predvideti tehnološke spremembe, tako da so zaščitni ukrepi že vzpostavljeni, ko novo orodje pride do študenta. mehanizmi nadzora in preiskovanja ki varujejo njihovo dobro počutje. Ne gre za postavitev ograj okoli igrišča, temveč za zagotovitev, da je igrišče varno za vse.
Resničnost uporabe umetne inteligence v novih generacijah
Podatki, s katerimi upravljajo organizacije, kot je UNICEF, so precej razkrivajoči in nam dajejo predstavo o obsegu problema. Ocenjuje se, da približno 20 milijonov otrok že uporablja orodja umetne inteligence, kar predstavlja trikrat višjo stopnjo uporabe kot pri njihovih starših ali skrbnikih. Za večino je šola glavna vstopna točka, saj te sisteme uporabljajo za naredi domačo nalogo ali prevedi besedilaZanimivo je, da se precejšen odstotek teh mladih za nasvet glede osebnih težav obrne tudi na klepetalnice, s čimer ustvarijo zaupanja vreden odnos s strojem, ki ni vedno opremljen za reševanje takšnih situacij.
Ta generacijski digitalni razkorak je ena največjih ovir, saj mnogi starši priznavajo, da teh orodij še nikoli niso uporabljali, zaradi česar težko učinkovito vodijo svoje otroke. Digitalna pismenost tako postane ključni del sestavljanke. Strokovnjaki se namesto preprostega prepovedovanja zavzemajo za naučite otroke prepoznavati ko jih manipulira algoritem ali kako zaščititi njihovo zasebnost. Ideja je ustvariti odporne državljane, ki znajo krmariti po svetu, kjer bo umetna inteligenca vseprisotna.
Po drugi strani pa narašča zaskrbljenost zaradi uporabe umetne inteligence za ustvarjanje lažnih vsebin. Globoki ponaredki so iz tehnološke zanimivosti postali orodje za nadlegovanje in izsiljevanje. Španija je v Evropi vodilna pri prepovedi tovrstnih manipulacij, kadar so spolne narave, kar nesorazmerno prizadene mladoletnike. Čeprav evropska uredba o umetni inteligenci že določa obveznosti glede preglednosti, je lahko čustvena škoda, ki jo povzročijo te slike, uničujoča, zato se pojavljajo pozivi k... strogi kazenski in upravni ukrepi proti tistim, ki uporabljajo kibernetska varnost v kodi, ustvarjeni z umetno inteligenco nadlegovati druge.
Za regulativni okvir, ki ne bo nikogar zapostavil
Ključnega pomena je razumeti, da mednarodna koalicija sicer še ne uvaja neposrednih sankcij, vendar utira pot za to, kar prihaja. Podjetja, ki poslujejo v Španiji, morajo že zdaj upoštevati stroge predpise, kot sta Splošna uredba o varstvu podatkov (GDPR) in Zakon o digitalnih storitvah. Ti predpisi na primer prepovedujejo platformam prikazovanje oglasov na podlagi profilov, če vedo, da je uporabnik mladoleten. Cilj je, da Zasebnost bi morala biti privzeta možnost. in ne nekaj, kar mora uporabnik konfigurirati po navigaciji skozi neskončne menije.
Preverjanje starosti je še eno ključno vprašanje v tej razpravi. Preprosto dodajanje potrditvenega polja »Starejši sem od 14 let« ni zadostno, če je ponujena vsebina visoko tvegana. Evropska komisija predlaga, da morajo biti ti ukrepi učinkoviti, a tudi ... spoštovanje zasebnosti državljanovizogibanje zbiranju več podatkov, kot je nujno potrebno. Gre za občutljivo ravnovesje: zaščititi otroke, ne da bi internet spremenili v prostor nenehnega nadzora za preostalo prebivalstvo.
Konec koncev bo uspeh teh predlogov odvisen od politične volje in sodelovanja tehnoloških velikanov. Če bo koaliciji uspelo pritegniti več držav, bi lahko kmalu videli tehnične varnostne standarde, ki se uporabljajo po vsem svetu, kar bi družinam omogočilo, da lažje dihajo. Medtem pa ostaja najboljše orodje neposredna komunikacija med odraslimi in otroki, ki kritično usmerja njihovo raziskovanje teh tehnologij in postavlja jasne meje, da prepreči, da bi virtualni svet popolnoma prevzel resničnost mladih.
Napredek umetne inteligence je neustavljiv, vendar to ne pomeni, da bi se moral dogajati brez nadzora ali etike. Španija je sprejela ukrepe, da bi zaščita otrok postala absolutna prednostna naloga na svetovni agendi, pri čemer si prizadeva za soglasje, ki ščiti mladoletnike Glede na tveganja dezinformacij in zlorab ter s podporo ZN in strateških evropskih partnerjev se zdi pot do bolj humane in varne tehnologije nekoliko jasnejša, čeprav je treba še veliko postoriti, da se zagotovi, da zakonodaja sledi inovacijam.
