Den raske utbredelsen av kunstig intelligens har tatt store deler av verden på senga, men det er blant yngre generasjoner at virkningen er mest betydelig og rask. Stilt overfor dette scenariet har Spania besluttet å ta ledelsen internasjonalt ved å foreslå opprettelsen av en koalisjon av land som skal jobbe på en koordinert måte under FNs ledelse. Dette initiativet, som ble presentert i Genève, har som hovedmål å etablere minimumssikkerhetsstandarder for å garantere at enhver teknologisk utvikling respekterer rettigheter og sunn vekst hos barn og unge.
Utplasseringen av denne teknologien er allerede en hverdagsrealitet i spanske klasserom og hjem, hvor unge bruker den til alle slags oppgaver, fra å løse akademiske tvil til å søke emosjonell støtte. Denne utbredte bruken har imidlertid ikke alltid de nødvendige sikkerhetstiltakene, noe som åpner døren for risikoer som spenner fra reklameprofilering til eksponering for falske applikasjoner for kunstig intelligens noe som kan sette sikkerheten deres i fare. Derfor søker det spanske forslaget ikke bare lokal regulering, men også en global avtale som unngår smutthull lovlig i et digitalt miljø som, som vi alle vet, ikke anerkjenner fysiske grenser.
En samlet front mot risikoen ved algoritmisk manipulasjon
Den internasjonale koalisjonen har allerede sterk støtte fra land som Frankrike, Kenya og EU selv, noe som forsterker Spanias posisjon som en forkjemper for digitale rettigheter. Minister Óscar López har vært veldig tydelig på dette punktet og uttalt at absolutt deregulering ikke er et levedyktig alternativ hvis vi ønsker å unngå å gjenta tidligere feil gjort med andre digitale plattformer. Målet er at kunstig intelligens-systemer skal være trygg fra designfasen, og analysere på forhånd hvordan de kan påvirke en mindreårigs atferd eller hvilken type personopplysninger de trenger for å fungere.
Et av punktene som bekymrer eksperter mest er disse systemenes evne til å tilpasse innhold i ekstrem grad. Selv om dette kan være nyttig for læring, kan det også føre til subtil manipulering av brukerens interesser eller reaksjoner. Barn, som er i en fase av full utvikling, er spesielt sårbare for overtalelsesteknikker som noen ganger ikke engang voksne klarer å oppdage i tide. Derfor understrekes det at teknologiselskaper må ta et mye større ansvar når produktene deres er tilgjengelige for barn.
I denne forbindelse tar spanske institusjoner allerede interne tiltak. Det spanske byrået for tilsyn med kunstig intelligens (AESIA) har opprettet spesifikke arbeidsgrupper for å håndtere disse sosiale og etiske utfordringene. Målet er å forutse teknologiske endringer, slik at sikkerhetstiltak allerede er på plass når et nytt verktøy når en student. kontroll- og etterforskningsmekanismer som beskytter deres velvære. Det handler ikke om å sette opp gjerder rundt banen, men om å sørge for at spillebanen er trygg for alle.
Realiteten av bruk av kunstig intelligens i nye generasjoner
Dataene som håndteres av organisasjoner som UNICEF er ganske avslørende og gir oss en idé om omfanget av problemet. Det anslås at rundt 20 millioner barn allerede samhandler med AI-verktøy, noe som representerer en adopsjonsrate som er tre ganger høyere enn for foreldrene eller omsorgspersonene deres. For de fleste er skolen det viktigste inngangspunktet, og de bruker disse systemene til å gjøre lekser eller oversette teksterInteressant nok henvender en betydelig andel av disse unge seg også til chatboter for å få råd om personlige problemer, og skaper dermed et tillitsforhold med en maskin som ikke alltid er utstyrt til å håndtere slike situasjoner.
Dette digitale generasjonsskillet er en av de største hindringene, ettersom mange foreldre innrømmer at de aldri har brukt disse verktøyene, noe som gjør det vanskelig for dem å veilede barna sine effektivt. Digital kompetanse blir dermed en sentral brikke i puslespillet. I stedet for å bare forby, taler eksperter for lær barna å identifisere når de blir manipulert av en algoritme eller hvordan de skal beskytte personvernet sitt. Tanken er å skape robuste borgere som vet hvordan de skal navigere i en verden der kunstig intelligens vil være allestedsnærværende.
På den annen side er det økende bekymring for bruken av AI for å generere falskt innhold. Deepfakes har gått fra å være en teknologisk kuriositet til et verktøy for trakassering og utpressing. Spania har ledet an i Europa når det gjelder å forby denne typen manipulasjoner når de er av seksuell art, en praksis som rammer mindreårige uforholdsmessig hardt. Selv om den europeiske AI-forordningen allerede etablerer åpenhetsforpliktelser, kan den emosjonelle skaden forårsaket av disse bildene være ødeleggende, og det er derfor det er krav om en... sterke strafferettslige og administrative tiltak mot de som bruker cybersikkerhet i AI-generert kode å trakassere andre.
Mot et regelverk som ikke lar noen falle utenfor
Det er avgjørende å forstå at selv om den internasjonale koalisjonen ennå ikke innfører direkte sanksjoner, baner den vei for det som skal komme. Selskaper som opererer i Spania må allerede overholde strenge regler som personvernforordningen (GDPR) og loven om digitale tjenester. Disse forskriftene forbyr for eksempel plattformer å vise profilbasert reklame når de vet at brukeren er mindreårig. Målet er at Personvern bør være standardvalget. og ikke noe brukeren må konfigurere etter å ha navigert gjennom endeløse menyer.
Aldersverifisering er et annet sentralt tema i denne debatten. Det er ikke nok å bare legge til en avmerkingsboks med «Jeg er over 14 år» hvis innholdet som tilbys er høyrisikoinnhold. Europakommisjonen foreslår at disse tiltakene må være effektive, men også... respektfullt for borgernes privatlivå unngå å samle inn mer data enn strengt tatt nødvendig. Det er en delikat balansegang: å beskytte barn uten å gjøre internett til et rom for konstant overvåking for resten av befolkningen.
Til syvende og sist vil suksessen til disse forslagene avhenge av politisk vilje og samarbeid fra teknologigiganter. Hvis koalisjonen klarer å få flere land med på laget, kan vi snart se tekniske sikkerhetsstandarder bli brukt over hele verden, slik at familier kan puste litt lettere. I mellomtiden er det beste verktøyet fortsatt direkte kommunikasjon mellom voksne og barn, som veileder dem i utforskningen av disse teknologiene med et kritisk blikk og etablerer klare grenser for å forhindre at den virtuelle verden fullstendig oppsluker unge menneskers virkelighet.
Fremgangen innen kunstig intelligens er ustoppelig, men det betyr ikke at den skal skje uten kontroll eller etikk. Spania har tatt grep for å gjøre barnevern til en absolutt prioritet på den globale agendaen, og søker en enighet som beskytter mindreårige Gitt risikoen for feilinformasjon og misbruk, og med støtte fra FN og strategiske europeiske partnere, virker veien mot mer human og tryggere teknologi litt klarere, selv om det gjenstår mye arbeid for å sikre at lovene holder tritt med innovasjon.
