OpenAI har lansert en pakke med tiltak for å hjelpe familier med å håndtere hvordan barn bruker AI. Disse nye funksjonene inkluderer verktøy for Foreldrekontroller i ChatGPT som har som mål å legge til rette for tryggere bruk og tilpasse den til ungdomsstadiet, uten dilldall og med tydelige alternativer.
Når en voksens konto er koblet til barnets konto, slik det er tilfelle i noen kontoer for tenåringer, aktiveres automatisk ekstra filtre på sensitivt innholdVi snakker om å redusere grafisk materiale, virale utfordringer og rollespilldynamikk av seksuell, romantisk eller voldelig art, i tillegg til å begrense eksponering for ekstreme skjønnhetsstandarder som kan skape unødvendig press.
Hovedfunksjoner for foreldrekontroll
Utover de grunnleggende beskyttelsene kan foresatte finjustere opplevelsen: det er mulig slå av minnet ChatGPT for ikke å beholde minner, samt deaktivere talemodus og bildegenerering eller -redigering når det anses passende.
En annen relevant mekanisme er personvern: foreldre kan ekskluder tenåringens samtaler fra opplæringen fra modellene, slik at disse dataene ikke brukes til å forbedre AI. Dette alternativet gir et lag med kontroll over behandlingen av informasjon.
For å oppmuntre til balansert bruk kan man definere stille timer som blokkerer tilgang i bestemte tidsrom. Dette forhindrer bruk på merkelige tidspunkter og oppmuntrer til frakobling for andre daglige aktiviteter.
Som støtte har OpenAI muliggjort en Side for foreldreressurser med Guías, anbefalinger og praktiske ideer, utformet for å støtte digital læring hjemme uten å miste sikkerheten av syne.
Aktivering og administrasjon: hvordan komme i gang
Prosessen starter med en invitasjon: den voksne sender en forespørsel til den mindreårige, og bare hvis den mindreårige godtar den, aktiveres foreldrekontroller på tenåringens konto. Fra det øyeblikket administreres innstillingene fra forelder- eller foresattprofil.
Hvis den mindreårige på noe tidspunkt bestemmer seg koble fra kontoer, mottar den voksne et varsel. Denne funksjonen bidrar til å holde tilsynet oppdatert uten at man må overvåke innstillingene hele tiden.
Automatisk beskyttelse for tenåringsprofiler
Når de mindreåriges kontoer er koblet sammen, mottar de tilleggsbeskyttelse som standardDisse restriksjonene inkluderer reduksjon av grafisk innhold, begrensning av sensitive emner og moderering av aldersupassende rollespillinteraksjoner.
Tenåringer kan ikke endre disse sikkerhetstiltakene på egenhånd, men foreldre kan justere dem hvis de anser det som nødvendig. Ifølge OpenAI tar tilnærmingen hensyn til forskjeller i ungdomsutvikling og tjenesten er offisielt ment for brukere som er 13 år eller eldre.
Varsler om potensielle risikoer og hvordan de fungerer
En av de mest delikate nye funksjonene er systemet med varsler til foreldre Når en tenårings bruk av ChatGPT kan tyde på en risiko for selvskading. Potensielle signaler gjennomgås av et spesialisert team før det utstedes et varsel.
Ved bekreftelse av en alvorlig risiko kan varsler komme inn pr. e-post, SMS og varsler i appen, forutsatt at du ikke har valgt å ikke motta dem. I spesielle tilfeller, og hvis det ikke er mulig å kontakte veilederne, kan OpenAI-studier protokoller for henvisning til myndigheter eller nødsituasjoner i møte med en overhengende trussel mot livet.
For å beskytte personvernet sier selskapet at de bare deler strengt nødvendig informasjon slik at foreldre kan iverksette tiltak. Verken det faktiske innholdet i chattene eller samtalehistorikken blir gitt til foreldrene, og dermed ivaretas den mindreåriges personvern.
Personvern og datakontroll
I tillegg til innholdsbegrensninger kan familier bestemme at tenåringens samtaler ikke bidrar til treningen av OpenAIs modeller. Denne kontrollen, sammen med mangel på tilgang til transkripsjoner Fra foreldrenes side søker man en balanse mellom tilsyn og respekt for personvernet.
Samarbeid med eksperter og ressurser for familier
OpenAI hevder å ha samarbeidet med referanseorganisasjoner innen digital sikkerhet for unge, som for eksempel Common Sense Media. Disse gruppene insisterer på at kontrollmekanismer er et godt utgangspunkt, men at de fungerer best i forbindelse med konstante familiesamtaler om ansvarlig bruk av teknologi.
Den nye ressurssiden samler guider, tips og ideer for foreldre og foresatte som kan følge barna sine i utforskningen av kunstig intelligens, med praktiske retningslinjer som gjelder for utdannings- og hjemmemiljøet.
Alder og tilgjengelighetsprediksjon
Som et supplement jobber OpenAI med et system av aldersforutsigelse for å identifisere om en bruker er under 18 år og automatisk bruke innstillinger som er passende for tenåringer. Når alder ikke kan bekreftes, vil forsiktighetsinnstillinger bli prioritert som standard.
Disse funksjonene blir distribuert i nett og mobil Og ifølge selskapet er de nå allment tilgjengelige. Dette skjer midt i økt offentlig og regulatorisk gransking av chatbots innvirkning på mindreårige.
Kontekst: Hvorfor kommer de nå?
Lanseringen kommer etter økende sosial bekymring om effekten av kunstig intelligens på unge mennesker, forsterket av en tragisk sak i USA som førte til et søksmål mot OpenAISelskapet, som hevder å ha jobbet med denne fronten en stund, har fremskyndet innlemmelsen av sikkerhetsforbedringer med fokus på ungdommens velvære.
Med denne pakken tilbyr ChatGPT foreldre og foresatte flere verktøy for å justere brukeropplevelsen til tenåringer, ved å kombinere filtre, tidsgrenser og sikkerhetsvarsel med personvernalternativer og pedagogisk støtte. Det praktiske målet er at teknologien skal bidra, og holde de mest sensitive risikoene unna uten å krenke barnets privatliv.