OpenAI har annonsert at de vil innlemme Foreldrekontroller i ChatGPT å forbedre tilsynet med mindreåriges bruk av sin samtaleassistent. Avgjørelsen kommer på et vanskelig tidspunkt, med offentlig debatt fokusert på sikkerhet og beskyttelse av ungdommer som vender seg til AI i personlige og emosjonelle sammenhenger.
Selskapet opplyser at disse funksjonene vil begynne å bli aktivert. starter neste måned og uten fast dato, med mål om å tilby familier overvåkingsverktøy, advarsler ved tegn på «angst» eller «akutt stress» og mer kontroll over sette opp barnekontoer.
Hva OpenAI har annonsert
Den nye sikkerhetspakken vil gjøre det mulig for foreldre koble kontoen din til tenåringens konto, se hvordan systemet reagerer på forespørslene dine, og juster viktige parametere som påvirker barnets opplevelse.
Ifølge selskapet, når modellen oppdager tegn på betydelig emosjonell nød Varsler vil bli sendt til foreldre eller foresatte, og mer forsiktige og konsekvente tiltak med forsterkede retningslinjer vil bli implementert.
OpenAI har også annonsert at assistenten vil vise under lengre økter påminnelser om å ta pauser for å oppmuntre til sunne bruksvaner og unngå potensielt problematisk samtaledynamikk.
- Kobling av foreldre-barn-kontoer via e-postinvitasjon.
- Alderstilpassede regler for modellatferd, aktivert som standard.
- Gjennomgang av svarene mottatt av den mindreårige og administrasjon av funksjoner.
- Automatiske varsler for tegn på «nød» eller «akutt stress».
Innenfor kontokontroll vil foreldre kunne deaktiver minne og chatlogg, begrense visse fordeler og definere et bruksrammeverk som ifølge OpenAI søker å «fremme tillit mellom foreldre og tenåringer».
Slik vil foreldrekontrollene fungere
Når systemet identifiserer tegn på intenst ubehag, kan samhandling omdirigeres mot mer forsiktig og strukturert atferd, med mer spesifikke sikkerhetsretningslinjer for å redusere sannsynligheten for upassende reaksjoner.
OpenAI forklarer at i møte med eksplisitte omtaler av selvskading eller risiko, assistenten prioriterer støttende meldinger, foreslår profesjonelle ressurser og unngår å adlyde skadelige forespørsler, noe som forsterker konsistensen av disse retningslinjene selv i lange samtaler.
I tilfeller der en trussel kan påvirke tredjeparter, vurderer selskapet spesialiserte anmeldelseskanaler som verdsetter ytterligere tiltak, inkludert kontobegrensninger eller henvisninger der det er passende, samtidig som personvernet ivaretas i selvskadingssituasjoner.
Selskapet studerer også muligheten for å innlemme komplementære alternativer, som for eksempel muligheten for utpeke en nødkontakt innenfor foreldrekontroll, for å legge til rette for tette støttekanaler når bekymringsfulle tegn oppdages.
Kontekst: Klager og regulatorisk press
Kunngjøringen kommer etter flere klager i USA, inkludert klage fra en familie som skylder på chatboten for å ha bidratt til dødsfallet til sin 16 år gamle sønn. Søksmålet hevder at tenåringen deltok i sensitive samtaler med systemet i flere måneder, angivelig ved hjelp av en GPT-4-seriemodell.
OpenAI har erkjent at teknologien deres kan mislykkes i «sensitive» sammenhenger og hevder å implementere endringer, selv om den unngår å koble disse tiltakene direkte til pågående rettssaker.
Parallelt har flere amerikanske senatorer krevd detaljer om initiativene for å forhindre selvskading og selvmord i bruk av konversasjonsbasert AI, med henvisning til vrangforestillinger observert i ekstreme scenarier.
Organisasjoner som Common Sense Media har etterlyst begrense tilgangen til mindreårige under 18 år til AI-drevne samtaleplattformer, med henvisning til «uakseptable risikoer» og advarsel om emosjonell tilknytning at noen unge mennesker utvikler seg med disse systemene.
Risikoer, grenser og neste steg
Selskapet sier at de fortsetter å forbedre deteksjonen av tegn på psykisk lidelse og vil iverksette ytterligere tiltak i de kommende månedene for å styrke produktsikkerheten uten å begrense legitim læring eller kreativ bruk.
I tillegg til foreldrekontroll hevder OpenAI å ha støtte fra en Ekspertråd for velvære og kunstig intelligens og et nettverk av medisinske spesialister som samarbeider om å definere sikkerhetsretningslinjer og gjennomgå komplekse tilfeller.
Når det gjelder bruksalderen, minner selskapet om at tilgang til ChatGPT er Begrenset til alderen 13 år og over og, avhengig av regelverket i hvert land, kan det kreve samtykke fra en voksen frem til myndighetsalderen, noe foreldrekontroll vil bidra til å operasjonalisere.
Landingen av disse funksjonene vil være progressiv og uten en eksakt dato, selv om selskapet sikter mot en utrulling som starter neste måned. Derfra planlegger OpenAI å fortsette å «lære og styrke sin tilnærming», veiledet av spesialister og tilbakemeldinger fra familier og lærere.
Med aktivering av foreldrekontroller går ChatGPT mot mer kontrollert bruk for mindreårige: Kontokobling, funksjonsadministrasjon, risikovarsler og mer forsiktig oppførsel i delikate situasjoner, alt som svar på et økende sosialt krav om sikkerhet uten å miste nytten av tjenesten av syne.
