Den jevne økningen i svindel og digitalt bedrageri på sosiale medier og meldingsapper har tvunget store teknologiselskaper til å forbedre sikkerhetstiltakene sine betydelig. Det blir stadig vanligere at nettkriminelle prøver å stjele kontoer, bankdetaljer eller utgi seg for å være kjente merkevarer gjennom meldinger, annonser og kontakter som ved første øyekast virker harmløse.
I denne sammenhengen forsterker Meta sikkerhetsstrategien sin med en ny generasjon av AI mot svindel brukt på Facebook, WhatsApp og Messenger . Fokuset er klart: å advare brukere før de går i fellen, minimere eksponering for skadelig innhold og gjøre livet så vanskelig som mulig for svindlere som opererer på plattformene deres.
En anti-svindel AI for å holde seg i forkant av svindel på Meta
Meta distribuerer en rekke funksjoner som kombinerer kunstig intelligens på enheten med analyse på eksterne servere . Denne arkitekturen tillater på den ene siden respekt for ende-til-ende-kryptering i tjenester som WhatsApp og Messenger, og på den andre siden tilbyr den et ekstra lag med avansert deteksjon når brukeren bestemmer seg for å sende bestemt mistenkelig innhold til gjennomgang.
Verktøyene er avhengige av modeller som er i stand til å analysere tekst, bilder, lenker og atferdsmønstre . Målet er å identifisere alt fra falske annonser som bruker kjendisers ansikter uten tillatelse til «teknisk støtte»-meldinger som prøver å få tak i bekreftelseskoder, samt venneforespørsler fra falske kontoer som søker å vinne offerets tillit.
Ifølge data som selskapet har delt, er problemet av betydelig omfang: Meta hevder å ha forstyrret millioner av kontoer og annonser knyttet til organiserte svindelnettverk på Facebook, Instagram og WhatsApp, i noen tilfeller knyttet til veritable svindelsentre spredt over flere land.
Denne teknologiske offensiven er også avhengig av menneskelige vurderingsteam som jobber side om side med AI, slik at modellene trenes med reelle eksempler og feilmarginen i klassifiseringen av tvilsomt innhold reduseres.
WhatsApp: brannmur mot kontokapring og mistenkelige grupper
Når det gjelder WhatsApp , fokuserer Metas AI for svindelbekjempelse på flere spesielt vanlige angrepsvektorer: kontokapring gjennom enhetskobling , svindel med teknisk støtte og svindel i ukjente grupper.
En av de viktigste nye funksjonene er et varslingssystem som varsler deg når noen prøver å koble kontoen din til en ukjent enhet . Hvis en mistenkelig forespørsel oppdages, viser appen informasjon som stedet forsøket kom fra, sammen med en tydelig advarsel om at det kan være svindel. Dette lar deg stoppe prosessen før en tredjepart får full tilgang til samtalene dine.
AI griper også inn i skjermdelingssituasjoner under videosamtaler med ukjente kontakter . Når dette risikomønsteret oppdages, utsteder systemet en automatisk advarsel, ettersom mange «teknisk support»-svindelforsøk er avhengige av å se brukerens skjerm live for å fange opp bankopplysninger, engangskoder eller annen spesielt sensitiv informasjon.
I tillegg viser grupper som brukere blir med i uten å vite hvem mange av medlemmene er, nå et forebyggende sikkerhetspanel . Dette panelet gir detaljer om gruppen, tips for å oppdage svindelforsøk og muligheten til å forlate gruppen uten å samhandle, og deaktivere varsler inntil brukeren bekrefter at de vil bli.
Meta tester også kontekstuelle varsler når man starter chatter med numre som ikke er i brukerens kontakter . Hvis systemet identifiserer typiske tegn på phishing, falske investeringer eller uklare pengeforespørsler, anbefaler det å utvise ekstrem forsiktighet og tilbyr muligheten til å blokkere eller rapportere kontakten med bare et par trykk.
Facebook: Gransker venneforespørsler og falske «støttesider»
På Facebook har AI for svindelbekjempelse to hovedfronter: mistenkelige venneforespørsler og sider som utgir seg for å være kundeservice eller etablerte merkevarer.
Når plattformen mottar en venneforespørsel, kan den vise en advarsel hvis den oppdager risikofaktorer: kontoer med svært få felles venner, nylig opprettede profiler, geografisk opprinnelse som ikke samsvarer med brukerens nettverk, eller atferd som samsvarer med mønstre knyttet til botnettverk. Dette lar brukeren bedre vurdere om de skal godta, ignorere eller blokkere forespørselen før de åpner døren for en potensiell svindler.
En annen betydelig bekymring er spredningen av falske støttesider og kontoer som prøver å lure brukere som søker hjelp til å gjenopprette en konto eller løse et problem. Meta hevder å ha iverksatt tiltak mot titusenvis av disse sidene, som vanligvis ba om påloggingsinformasjon, identitetsdokumenter eller betalinger for å "fremskynde" angivelige gjenopprettingsprosesser.
Selskapet styrker også mekanismene for annonsørverifisering og oppdagelse av svindelannonser , inkludert de som bruker bilder av kjendiser, forretningsfolk eller offentlige personer uten tillatelse. AI sammenligner ansikter og identifiserer gjentakende manipulasjoner som brukes til å legitimere falske investeringer, ikke-eksisterende kampanjer eller produkter som aldri kommer frem.
Dette punktet er spesielt sensitivt for selskaper og innholdsskapere i Spania og resten av Europa, hvor det ikke er uvanlig at reklamer bruker bildet av gründere eller kjente lokale personer for å tiltrekke seg ofre , noe som skaper forvirring og omdømmeskade som er vanskelig å reparere.
Messenger: Brukerkonfigurerbar svindeldeteksjon
Den Facebook-eide meldingsappen Messenger har en spesifikk funksjon kalt «Svindeldeteksjon », som er tilgjengelig via personvern- og sikkerhetsinnstillingene. Når dette alternativet er aktivert, analyserer det samtaler initiert av ukjente kontakter mer detaljert.
AI-en ser etter mønstre som er karakteristiske for falske tilbud : løfter om fjernarbeid som krever forhåndsbetalinger, investeringer med garantert avkastning, hastemeldinger som ber om penger, eller forsøk på å utgi seg for å være supportpersonalet til kjente selskaper. Hvis den oppdager noe uvanlig, viser den et varsel med typen risiko som kan være tilstede, og foreslår å blokkere eller rapportere avsenderen.
Med brukerens uttrykkelige samtykke kan flaggede meldinger sendes til Metas servere for videre AI-analyse . Dette trinnet bryter midlertidig ende-til-ende-kryptering kun for det spesifikke innholdet – en avgjørelse hver bruker må vurdere basert på sin risikotoleranse og personvernhensyn.
I mellomtiden har Messenger forbedret systemet for lenkebeskyttelse . Sikker nettlesing-funksjonen, som allerede analyserte URL-er på selve enheten, inkluderer nå et ekstra lag kalt Avansert beskyttelse, som er koblet til kontinuerlig oppdaterte lister over farlige nettsteder. Designet har som mål å blokkere tilgang til phishing-sider eller nedlastinger av skadelig programvare uten å avsløre brukerens identitet eller full nettleserlogg.
For support-, salgs- eller kundeserviceteam som bruker Messenger som en vanlig kanal, gir disse forbedringene både en ekstra barriere mot svindel rettet mot deres eget merke og et noe tryggere miljø for brukerne de samhandler med daglig.
Den kunstige intelligensen under panseret
Metas nye sikkerhetsfunksjoner er basert på en hybridarkitektur som kombinerer to komplementære tilnærminger. Den første er analyse på enheten , som fungerer direkte på brukerens mobiltelefon eller datamaskin og respekterer ende-til-ende-kryptering, ettersom den ikke trenger å sende innhold til eksterne servere for å oppdage risikomønstre.
Denne lokale analysen ser etter tegn som mottak av meldinger fra ulagrede numre , forsøk på å dele skjermen med ukjente personer, plutselige endringer i kontoens oppførsel eller tilstedeværelsen av lenker som samsvarer med tidligere svindelrapporter. Ved å operere på selve enheten reduseres mengden data som sendes eksternt og gir en umiddelbar første forsvarslinje.
Det andre laget aktiveres når brukeren velger å sende inn innhold for AI-gjennomgang i skyen . I dette tilfellet behandles de flaggede meldingene eller elementene av Metas systemer, som bruker mer komplekse modeller for å vurdere om det som skjer passer til en kjent type svindel. Hvis analysen konkluderer med at det er en risiko, viser plattformen forklaringer om den potensielle svindelen og anbefaler spesifikke tiltak.
Selskapet understreker at det i tillegg til AI finnes menneskelige modereringsteam som gjennomgår millioner av innhold daglig . Dette menneskelige elementet er det som blant annet lar dem forbedre modellene, håndtere de mest sensitive sakene og demontere storskala koordinerte kampanjer som går utover enkle isolerte meldinger.
Hele denne mekanismen suppleres av avtaler med sikkerhetsstyrker og andre aktører i teknologisektoren, for å dele etterretning om ondsinnede domener, falske kontonettverk og nye taktikker som brukes av kriminelle organisasjoner.
Hovedtyper av svindel som Metas AI prøver å stoppe
Metaplattformer er grobunn for en rekke digitale svindelformer . De nye verktøyene er utviklet for å oppdage og stoppe blant annet følgende vanlige typer svindel rettet mot brukere i Spania og Europa:
- Falske svindelforsøk med teknisk support: Folk som utgir seg for å være bankstøttetjenester, operatører eller til og med Meta selv for å be om bekreftelseskoder, passord eller ekstern tilgang til enheten.
- Skjermdelingssvindel: videosamtaler der svindleren overbeviser offeret om å vise skjermen sin for å få tak i bankdetaljer, SMS med engangskoder eller påloggingsinformasjon for tjenester som nettbank eller betalingsløsninger.
- Ikke-eksisterende jobbtilbud og stipender: Reklame eller private meldinger som lover enkle eller godt betalte jobber i bytte mot en innledende betaling for «prosedyrer» eller for å oppgi sensitiv personlig informasjon.
- Investeringsordninger og kryptovalutaer: kampanjer som lover rask og garantert avkastning, ofte støttet av uautorisert bruk av kjente personer eller kjente forretningsmenn.
- Phishing og ondsinnede lenker: URL-er som etterligner legitime portaler – banker, e-handelsplattformer, offentlige tjenester – med sikte på å stjele påloggingsinformasjon eller installere skadelig programvare på enheten.
Kombinasjonen av automatisk overvåking, svartelister over farlige nettsteder og mekanismer for brukerrapportering gjør at systemet raskt kan tilpasse seg nye varianter av disse svindelforsøkene , som ofte muterer for å unngå enklere oppdagelse.
Innvirkning på brukere, selskaper og grunnleggere som er avhengige av Meta
Utover å beskytte den gjennomsnittlige brukeren, har de nye AI-svindelbekjempelsesfunksjonene direkte effekter på bedrifter som bruker Facebook, WhatsApp og Messenger som en grunnleggende infrastruktur for salg, kundeservice eller fellesskapsbygging.
På den ene siden, hvis et selskap bruker WhatsApp Business eller Messenger til å kommunisere med kunder, kan meldingene utløse varsler hvis systemet oppfatter dem som mistenkelige , for eksempel ved å inkludere mange lenker eller be om sensitive data. Dette krever gjennomgang av skript, tone og frekvens for å minimere falske positiver og opprettholde publikums tillit.
På den annen side finner oppstartsbedrifter i spesielt sensitive sektorer – som fintech, digital helse eller juridiske tjenester – et klart signal i disse verktøyene: AI-basert sikkerhet er ikke lenger et «ekstra» og er nå en del av minimumsforventningene i ethvert produkt eller enhver tjeneste som håndterer kritiske data.
Metas voksende samarbeid med andre teknologiaktører og offentlige etater åpner også døren for nye muligheter for cybersikkerhetsselskaper , som kan integrere løsningene sine med trusseldeteksjonsøkosystemene til store plattformer eller tilby konsulenttjenester til mindre selskaper.
Til syvende og sist vil effektiviteten av disse tiltakene avhenge av at både brukere og organisasjoner tar i bruk god praksis: aktiverer tilgjengelige funksjoner mot svindel, holder apper oppdatert, er forsiktige med uønskede meldinger og rapporterer mistenkelig atferd til systemer for feeddeteksjon.
Med implementeringen av sin nye AI mot svindel på Facebook, WhatsApp og Messenger tar Meta et viktig skritt mot et digitalt miljø som er noe vanskeligere for svindlere og litt tryggere for de som bruker tjenestene daglig, fra individuelle brukere til selskaper som er avhengige av disse plattformene for en viktig del av sin aktivitet.
