Den jevne økningen av digitale svindelforsøk og bedrageri Nettkriminalitet på sosiale medier og i meldingsapper har tvunget store teknologiselskaper til å forbedre sikkerhetstiltakene sine betydelig. Det blir stadig vanligere at nettkriminelle prøver å stjele kontoer, bankdetaljer eller utgi seg for å være kjente merkevarer gjennom meldinger, annonser og kontakter som ved første øyekast virker harmløse.
I denne sammenhengen, Meta forsterker sikkerhetsstrategien sin med en ny generasjon av AI mot svindel brukt på Facebook, WhatsApp og MessengerTilnærmingen er klar: advar brukeren før de går i fellen, minimer eksponering for skadelig innhold, og gjør livet så vanskelig som mulig for svindlere som opererer på plattformene deres.
En anti-svindel AI for å holde seg i forkant av svindel på Meta
Meta distribuerer et sett med funksjoner som kombinerer kunstig intelligens på selve enheten og analyse på eksterne servereDenne arkitekturen tillater på den ene siden respekt for ende-til-ende-kryptering i tjenester som WhatsApp og Messenger, og på den andre siden tilbyr et ekstra lag med avansert deteksjon når brukeren bestemmer seg for å sende bestemt mistenkelig innhold til gjennomgang.
Verktøyene er avhengige av modeller som er i stand til å analysere tekst, bilder, lenker og atferdsmønstreMålet er å identifisere alt fra falske annonser som bruker kjendisers ansikter uten tillatelse til «teknisk støtte»-meldinger som prøver å få tak i bekreftelseskoder, samt venneforespørsler fra falske kontoer som søker å vinne offerets tillit.
Ifølge data som selskapet har delt, er problemet ikke ubetydelig: Meta hevder å ha forstyrret millioner av kontoer og annonser knyttet til organiserte svindelnettverk på Facebook, Instagram og WhatsApp, i noen tilfeller knyttet til ekte svindelsentre spredt over flere land.
Denne teknologiske offensiven er også avhengig av menneskelige vurderingsteam som jobber side om side med AI, slik at modellene trenes med reelle eksempler og feilmarginen i klassifiseringen av tvilsomt innhold reduseres.
WhatsApp: brannmur mot kontokapring og mistenkelige grupper
I tilfelle av WhatsAppMetas anti-svindel AI fokuserer på flere spesielt vanlige angrepsvektorer: kontokapring via enhetskobling, svindel med teknisk støtte og bedrag i ukjente grupper.
En av de viktigste nye funksjonene er et system med Varsler når noen prøver å koble kontoen til en ukjent enhet.Hvis en mistenkelig forespørsel oppdages, viser appen informasjon som stedet forsøket kom fra, sammen med en eksplisitt advarsel om at det kan være svindel. Dette lar brukeren stoppe prosessen før en tredjepart får full tilgang til samtalene deres.
AI griper også inn i situasjoner der Skjermdeling under videosamtaler med ukjente kontakterNår dette risikomønsteret oppdages, utsteder systemet en automatisk advarsel, siden mange «teknisk support»-svindelforsøk er avhengige av å se brukerens skjerm live for å fange opp bankopplysninger, engangskoder eller annen spesielt sensitiv informasjon.
Videre viser grupper som brukere blir med i uten å vite mye om medlemmene sine nå en forebyggende sikkerhetspanelDette panelet gir detaljer om gruppen, tips for å oppdage svindelforsøk og muligheten til å forlate uten å samhandle, og deaktivere varsler inntil brukeren bekrefter at de vil bli.
Meta tester også Kontekstuelle varsler når du starter chatter med numre som ikke er i adressebokenHvis systemet identifiserer typiske tegn på phishing, falske investeringer eller uklare pengeforespørsler, anbefaler det å utvise ekstrem forsiktighet og tilbyr muligheten for blokkering eller rapportering med et par trykk.
Facebook: Gransker venneforespørsler og falske «støttesider»
En Facebook AI-bekjempelse mot svindel har to hovedfronter: mistenkelige venneforespørsler og nettsteder som utgir seg for å være kundeserviceavdelinger eller etablerte merkevarer.
Når plattformen mottar en venneforespørsel, kan den vise en advarsel hvis den oppdager risikofaktorer: kontoer med svært få felles venner, nylig opprettede profiler, geografisk opprinnelse som ikke samsvarer med brukerens nettverk, eller atferd som samsvarer med mønstre knyttet til botnettverk. På denne måten kan brukeren bedre vurdere om forespørselen skal godtas, ignoreres eller blokkeres før de åpner døren for en potensiell svindler.
Et annet relevant fokus er falske støttesider og kontoer som prøver å svindle brukere som søker hjelp til å gjenopprette en konto eller løse et problem. Meta hevder å ha tatt grep mot titusenvis av disse nettstedene, som vanligvis ba om påloggingsinformasjon, identitetsdokumenter eller betalinger for å «fremskynde» angivelige gjenopprettingsprosesser.
Selskapet styrker også sine mekanismer for Annonsørverifisering og oppdagelse av svindelannonserDette inkluderer de som bruker bilder av kjendiser, forretningsfolk eller offentlige personer uten tillatelse. AI-en sammenligner ansikter og identifiserer gjentakende manipulasjoner som brukes til å legitimere falske investeringer, ikke-eksisterende kampanjer eller produkter som aldri kommer frem.
Dette punktet er spesielt sensitivt for selskaper og innholdsskapere i Spania og resten av Europa, der annonser som bruker å bruke bildet av gründere eller kjente lokale skikkelser for å tiltrekke seg ofreskaper forvirring og omdømmeskade som er vanskelig å reparere.
Messenger: Brukerkonfigurerbar svindeldeteksjon
Meldingsappen som er koblet til Facebook, Messenger, inneholder en spesifikk funksjon kalt "Svindeldeteksjon"Dette alternativet, som er tilgjengelig via personvern- og sikkerhetsinnstillinger, analyserer samtaler initiert av ukjente kontakter mer detaljert. Når den er aktivert, gir denne funksjonen en mer grundig analyse av samtalene.
AI fokuserer på karakteristiske mønstre for falske tilbudDisse inkluderer: tilbud om fjernarbeid som krever forskuddsbetalinger, investeringer med garantert avkastning, hastemeldinger som ber om penger, eller forsøk på å utgi seg for å være supportpersonalet til kjente selskaper. Hvis den oppdager noe uvanlig, viser den et varsel som angir hvilken type risiko som er tilstede, og foreslår å blokkere eller rapportere avsenderen.
Når brukeren uttrykkelig har gitt tillatelse til det, kan de merkede meldingene sendes fra sak til sak til Metaservere for dypere AI-analyseDette trinnet bryter midlertidig ende-til-ende-kryptering bare for det spesifikke innholdet, en avgjørelse som hver person må veie i henhold til sin risikotoleranse og personvernhensyn.
Parallelt har Messenger forbedret systemet sitt med lenkebeskyttelseFunksjonen for sikker nettlesing, som allerede analyserte nettadresser på selve enheten, er nå avhengig av et ekstra lag kalt avansert beskyttelse, koblet til stadig oppdaterte lister fra farlige nettsteder. Designet har som mål å blokkere tilgang til phishing-sider eller nedlastinger av skadelig programvare uten å avsløre brukerens identitet eller full nettleserlogg.
For support-, salgs- eller kundeserviceteam som bruker Messenger som sin vanlige kanal, representerer disse forbedringene både en En ekstra barriere mot svindel rettet mot ditt eget merke som et noe tryggere miljø for brukerne de samhandler med daglig.
Den kunstige intelligensen under panseret
Metas nye sikkerhetsfunksjoner er basert på en hybridarkitektur som kombinerer to komplementære tilnærminger. Den første er analyse på enhetenDen fungerer direkte på brukerens mobiltelefon eller datamaskin og respekterer ende-til-ende-kryptering, ettersom den ikke trenger å sende innhold til eksterne servere for å oppdage risikomønstre.
Denne lokale analysen fokuserer på signaler som det faktum at motta meldinger fra ulagrede numreDisse inkluderer forsøk på å dele skjermen med fremmede, plutselige endringer i kontoens atferd eller tilstedeværelsen av lenker som samsvarer med tidligere svindelrapporter. Ved å operere på selve enheten reduseres mengden data som sendes eksternt, noe som gir en umiddelbar første forsvarslinje.
Det andre laget aktiveres når brukeren velger å Send innhold til gjennomgang ved hjelp av AI i skyenI dette tilfellet behandles de flaggede meldingene eller elementene av Metas systemer, som bruker mer komplekse modeller for å vurdere om det som skjer passer til en kjent type svindel. Hvis analysen konkluderer med at det er en risiko, viser plattformen forklaringer om den potensielle svindelen og anbefaler spesifikke tiltak.
Selskapet understreker at det i tillegg til AI finnes menneskelige modereringsteam som gjennomgår millioner av innhold per dagDette menneskelige elementet er det som blant annet gjør det mulig å forbedre modeller, håndtere de mest delikate sakene og demontere storskala koordinerte kampanjer som går utover enkle isolerte budskap.
Hele denne mekanismen suppleres av avtaler med sikkerhetsstyrker og andre aktører i teknologisektoren, for å dele etterretning om ondsinnede domener, falske kontonettverk og nye taktikker som brukes av kriminelle organisasjoner.
Hovedtyper av svindel som Metas AI prøver å stoppe
Metaplattformer er et ynglested for et bredt utvalg av digitale svindelforsøkDe nye verktøyene er utviklet for å oppdage og stoppe blant annet følgende typer vanlige svindelforsøk rettet mot brukere i Spania og Europa:
- Falske svindelforsøk med teknisk support: Folk som utgir seg for å være bankstøttetjenester, operatører eller til og med Meta selv for å be om bekreftelseskoder, passord eller ekstern tilgang til enheten.
- Skjermdelingssvindel: videosamtaler der svindleren overbeviser offeret om å vise skjermen sin for å få tak i bankdetaljer, SMS med engangskoder eller påloggingsinformasjon for tjenester som nettbank eller betalingsløsninger.
- Ikke-eksisterende jobbtilbud og stipender: Reklame eller private meldinger som lover enkle eller godt betalte jobber i bytte mot en innledende betaling for «prosedyrer» eller for å oppgi sensitiv personlig informasjon.
- Investeringsordninger og kryptovalutaer: kampanjer som lover rask og garantert avkastning, ofte støttet av uautorisert bruk av kjente personer eller kjente forretningsmenn.
- Phishing og ondsinnede lenker: URL-er som etterligner legitime portaler – banker, e-handelsplattformer, offentlige tjenester – med sikte på å stjele påloggingsinformasjon eller installere skadelig programvare på enheten.
Kombinasjonen av automatisert overvåking, svartelister over farlige nettsteder og mekanismer for brukerrapportering gjør det mulig Systemet tilpasser seg raskt til nye varianter av disse svindelforsøkene.som ofte muterer for å unngå lettere oppdagelse.
Innvirkning på brukere, selskaper og grunnleggere som er avhengige av Meta
Utover å beskytte gjennomsnittsbrukeren, har de nye AI-svindelbekjempelsesfunksjonene direkte effekter på Bedrifter som bruker Facebook, WhatsApp og Messenger som sin grunnleggende infrastruktur for salg, kundeservice eller samfunnsbygging.
På den ene siden, hvis et selskap bruker WhatsApp Business eller Messenger til å kommunisere med kunder, Meldingene deres kan utløse varsler hvis systemet oppfatter dem som mistenkelige.For eksempel ved å inkludere mange lenker eller be om sensitive data. Dette krever gjennomgang av manus, tone og hyppighet for å minimere falske positiver og opprettholde publikums tillit.
På den annen side, oppstartsbedrifter i spesielt sensitive sektorer – som f.eks. fintech, digital helse eller juridiske tjenester– de finner et tydelig tegn i disse verktøyene: AI-basert sikkerhet er ikke lenger et «ekstra», og er nå en del av minimumsforventningene til ethvert produkt eller enhver tjeneste som håndterer kritiske data.
Metas voksende samarbeid med andre teknologiaktører og offentlige etater åpner også døren for Nye muligheter for selskaper som spesialiserer seg på cybersikkerhet, som kan integrere løsningene sine med trusseldeteksjonsøkosystemer på store plattformer eller tilby konsulenttjenester til mindre selskaper.
Til syvende og sist vil effektiviteten av disse tiltakene avhenge av at både brukere og organisasjoner tar i bruk god praksis: aktiverer tilgjengelige funksjoner mot svindel, holder apper oppdatert, er forsiktige med uønskede meldinger og rapporterer mistenkelig atferd til systemer for feeddeteksjon.
Med implementeringen av den nye AI mot svindel på Facebook, WhatsApp og MessengerMeta tar et viktig skritt mot et digitalt miljø som er noe vanskeligere for svindlere og litt tryggere for de som bruker tjenestene deres daglig, fra individuelle brukere til bedrifter som er avhengige av disse plattformene for en viktig del av sin aktivitet.
