Utvidelsen av autonome droner med kunstig intelligens Det endrer fullstendig landskapet innen sikkerhet, overvåking og til og med moderne krigføring. Det som virket som science fiction for noen år siden, er nå rutine: ubemannede luftfartøyer som er i stand til å spore mennesker, patruljere grenser eller registrere enhver bevegelse i detalj, praktisk talt uten menneskelig innblanding.
I denne sammenhengen som er så full av banebrytende teknologi, er det nesten surrealistisk å oppdage at en en gjenstand like vanlig som en paraply Det kan utfordre noen av disse avanserte systemene. En gruppe forskere fra University of California, Irvine (UC Irvine) har vist at en enkel paraply, med riktig visuelt mønster, kan «lure», tiltrekke seg og til og med nøytralisere visse modeller av kommersielle droner som bruker autonom sporing basert på datasyn.
Fremveksten av autonome droner og hvorfor de skaper så mye bekymring
I de senere årene har bruken av ubemannede luftfartøyer over hele verden. Vi snakker ikke lenger bare om små fritidsdroner for opptak av spektakulære videoer, men om mye mer seriøse plattformer som brukes til byovervåking, overvåking av kritisk infrastruktur, grensekontroll eller støtte til politi- og militæroperasjoner.
I scenarier som krigen mellom Russland og Ukraina Det har blitt tydelig hvor viktige droner har blitt. Det finnes kamikaze-modeller, enheter spesialisert på målsporing, systemer koblet sammen med fiberoptikk for å sikre stabil kommunikasjon, og i økende grad enheter som bruker kunstig intelligens for å ta avgjørelser på egenhånd under flyturen.
Denne autonomien er basert på bruk av avanserte optiske sensorer og datasynalgoritmer Disse funksjonene lar dronen identifisere personer eller objekter, spore dem og reagere på bevegelsene deres uten at piloten stadig må korrigere banen. I forbrukerprodukter er dette det som markedsføres som funksjoner for «aktiv sporing» eller «dynamisk sporing».
Problemet er at etter hvert som bruken av disse systemene øker for overvåking, patruljering og sikkerhetsoperasjonerDet er også en økende risiko for misbruk: trakassering, spionasje, krenkelse av privatlivets fred eller skjult overvåking i rom der folk ikke engang er klar over at de blir overvåket.
Forskere og cybersikkerhetseksperter har lenge advart om at beskyttelse av disse systemene ikke kan begrenses til de elektroniske komponentene (radiolinker, kryptert kommunikasjon, brannmurer). visuell persepsjon og AI-algoritmer De som tar avgjørelser basert på hva de «ser» kan også bli et svakt punkt, og det er nettopp der det kuriøse paraplyeksperimentet kommer inn i bildet.
FlyTrap-prosjektet: når en paraply blir et forsvarsvåpen
Et team av sikkerhets- og datasynspesialister fra Universitetet i California, Irvine De bestemte seg for å ikke følge den vanlige veien med å designe stadig mer sofistikerte og offensive droner. I stedet stilte de et annet spørsmål: Er det mulig beskytte seg mot autonome droner ved hjelp av enkle gjenstander, uten å ty til frekvensjammere, hacking eller dyrt militært utstyr?
Fra denne ideen ble FlyTrap født, en fysisk angrepsmetode mot autonome sporingsalgoritmer Den er avhengig av et grafisk mønster som er spesielt utviklet for å forvirre dronens synssystem. I stedet for å deaktivere enheten elektronisk, er målet å manipulere hva den «tror» skjer foran kameraet.
Forskerne fokuserte analysen sin på droner som bruker målsporing basert på datasynDette er enheter som oppdager og sporer en person eller et objekt basert på den visuelle informasjonen som fanges opp av kameraene deres. Blant modellene som er analysert er noen svært populære på markedet, som DJI Mini 4 Pro, DJI Neo og HoverAir X1.
Etter å ha studert hvordan disse systemene tolker målets bevegelse, oppdaget teamet en sentral svakhet: under visse forhold kan algoritmen manipuleres hvis den presenteres med en nøye designet visuelt mønster som endrer deres oppfatning av avstand og bevegelsesretning.
Dette mønsteret, kalt FlyTrap, ble trykket på overflaten av en vanlig paraply. Resultatet var et overraskende billig og tilgjengelig forsvarsvåpen mot autonome droner som på papiret burde være svært vanskelig å overliste uten sofistikerte tekniske midler.
Hvordan fungerer egentlig det visuelle paraplytrikset?
Kjernen i FlyTrap ligger i måten algoritmene til autonom sporing basert på nevrale nettverk De tolker hva dronens kameraer fanger opp. Disse systemene analyserer bildet bilde for bilde og beregner hvordan målet beveger seg på skjermen for å bestemme hvor flyet skal bevege seg og med hvilken hastighet.
Det grafiske designet som er trykt på paraplyen får dronen til å «lese» en situasjon som ikke samsvarer med virkeligheten: mønsteret er utformet slik at visjonssystemet konkluderer med at målet er beveger seg bort fra dronen, når personen som holder paraplyen i virkeligheten praktisk talt fortsatt er på samme sted.
Stilt overfor denne feiltolkningen gjør sporingsprogramvaren det den er programmert til å gjøre: den prøver å redusere avstanden helt til den når målet sitt, og holder det innenfor det optimale sporingsområdet. Med andre ord nærmer dronen seg gradvis og korrigerer kontinuerlig banen sin i et forsøk på å «kompensere» for denne oppfattede avstanden.
Denne oppførselen skaper en ekte fjerntliggende tiltrekningsangrepI stedet for å desorientere dronen og få den til å miste sporet, lokker paraplyen den faktisk til å komme nærmere og nærmere. Enheten kan komme så nær personen som holder paraplyen at den blir et enkelt mål for fangst med et nett eller til og med for en kontrollert kollisjon.
Den store fordelen med denne tilnærmingen er at den ikke krever elektromagnetisk interferens eller tilgang til dronens programvareDet er ikke nødvendig å hacke den, avlytte kontrollsignalet eller bruke militært utstyr. Alt som trengs er en paraply med riktig design for å utnytte en helt spesifikk svakhet i datasynsalgoritmer.
Tester med kommersielle droner og studieresultater
For å bekrefte at ideen var mer enn bare en kuriositet i laboratoriet, utførte UC Irvine-teamet systematiske eksperimenter med kommersielle droner som inkluderer autonome sporingsfunksjoner som er mye brukt i dag.
Forskerne valgte tre representative modeller fra forbrukermarkedet: DJI Mini 4 Pro, The DJI Neo og HoverAir X1Alle har moduser for «aktivt spor» eller «dynamisk spor» som er utformet for å la enheten følge en person uten at de må bruke fjernkontrollen hele tiden.
I testene sto en person i et åpent område med FlyTrap-paraplyen åpen, mens dronen aktiverte automatisk sporingsmodus på det motivet. Det autonome systemet fikk deretter gjøre jobben sin, uten manuelle korrigeringer, og observerte hvordan det reagerte på grafisk mønster for paraplyer.
Resultatene var avgjørende: i alle de tre dronemodellene som ble analysert, FlyTrap-metoden tiltrakk seg flyet ned til svært korte avstander, nok til å fysisk fange den med et nett eller få den til å krasje inn i en annen struktur eller enhet om ønskelig.
Forskerne gjentok eksperimentene under forskjellige lys- og værforhold, og oppnådde svært høye suksessrater. Ifølge data presentert på sikkerhetsfora som NDSS-konferansen, opprettholdt systemet sin effektivitet selv med variasjoner i omgivelseslys og omgivelser, noe som forsterker dens praktiske levedyktighet.
Som en del av prosessen med ansvarlig offentliggjøring kommuniserte teamet sårbarheten til produsentene av de involverte dronene, inkludert DJI og HoverAir, før alle de tekniske detaljene ble offentliggjort. Målet var å gi selskapene tid til å utforske potensielle tiltak eller fastvareoppdateringer som ville styrke robustheten til algoritmene deres mot denne typen fysiske angrep.
Risikoer og bruksområder: fra offentlig sikkerhet til trakassering
Utover anekdoten om å kunne «jake» på en drone med en paraply, bringer FlyTrap-studien til bordet alvorlige sikkerhetsmessige implikasjoner og den massive utrullingen av autonome systemer. Professor Alfred Chen, medforfatter av forskningen og professor i informatikk ved UC Irvine, understreker at automatisk sporing er et tveegget sverd.
På den ene siden er disse funksjonene svært nyttige for offentlige sikkerhetsoperasjoner, grensepatruljer eller infrastrukturovervåkingDe lar en drone overvåke store områder eller følge en mistenkt uten behov for kontinuerlig pilotering, noe som sparer ressurser og forbedrer myndighetenes reaksjonskapasitet.
På den annen side kan den samme teknologien brukes til mye mindre edle formål: Individuell trakassering, spionasje, krenkelse av privatlivets fred i offentlige eller private rom, uautorisert sporing av personer, osv. Når hvem som helst kan kjøpe en drone med autonom sporing og bruke den til tvilsomme formål, blir balansen mellom sikkerhet og risiko komplisert.
Shaoyuan Xie, hovedforfatter av studien og også en informatiker, fremhever hvor enkelt en enkel paraply kan å kontrollere oppførselen til visse autonome droner Dette tvinger oss til å revurdere bruken av disse enhetene i sensitive miljøer. Hvis de er så enkle å fysisk manipulere, bør kanskje utplasseringen av dem begrenses eller reguleres i scenarier der et sikkerhetsbrudd kan få alvorlige konsekvenser.
Dessuten kan angrepet ikke bare brukes til å nøytralisere fiendtlige eller invasive dronermen også for å unngå legitim overvåking. En organisert gruppe kunne bruke varianter av FlyTrap-mønsteret for å skjule seg fra politi- eller militærdroner, og dermed skape skyggesoner eller føre til at fly nærmer seg for nært og blir sårbare.
Et fysisk angrep som gjenåpner debatten om drone-cybersikkerhet
Et av de mest slående aspektene ved FlyTrap-saken er at den involverer en fysisk angrep mot persepsjonsalgoritmerDet er ikke en digital inntrenging. Det er ingen firmwarehacking, ingen ekstern systemtilgang og ingen manipulering av radiokommunikasjon. Alt skjer i den virkelige verden, foran dronens kamera.
Denne typen sårbarheter, kjent som fysiske fiendtlige angrep, viser at AI-systemsikkerhet Det går langt utover kontrollprogramvare og datanettverk. Hvis algoritmen som tolker virkeligheten kan lures av visuelle mønstre i omgivelsene, kan det svake leddet være noe så trivielt som et paraplymønster.
Når det gjelder FlyTrap, er mønsteret spesielt utviklet for å utnytte mangler i måten nevrale nettverk beregner bevegelse på og avstanden til målet. I stedet for å skjule personen, manipuleres persepsjonen slik at dronen tror at personen beveger seg bort.
Denne tilnærmingen fremhever at standard sikkerhetstiltak – kommunikasjonskryptering, sterk autentisering og tilgangskontroller – ikke er nok til å beskytte en UAS-system med autonome funksjonerDet er også viktig å styrke robustheten til datasynsalgoritmer mot ondsinnede visuelle mønstre.
Etter hvert som bruken av AI-drevne droner blir mer utbredt i bymiljøer, kritisk infrastruktur og politioperasjonerÅ ignorere denne typen risikoer kan åpne døren for alvorlige hendelser. Det handler ikke bare om at noen skyter ned en kommersiell drone, men om at lignende strategier blir brukt i sammenhenger med større strategisk sensitivitet.
Defensive anvendelser og begrensninger av paraplymetoden
Fra publikums perspektiv tilbyr UC Irvine-funnet også en mulig rimelig forsvarsverktøyEn person som blir fulgt av en drone i autonom sporingsmodus kan i teorien bruke en paraply med et FlyTrap-mønster for å tiltrekke seg enheten og nøytralisere den, alltid innenfor landets lovlige grenser.
Denne muligheten åpner for debatt om retten til selvforsvar mot luftovervåkningSpesielt i tilfeller av trakassering, spionasje eller ulovlig inntrenging i privatlivet. Stilt overfor overvåkingsteknologier som virker uoppnåelige for den gjennomsnittlige borger, blir en enkel gjenstand som en paraply et slags tilgjengelig mottiltak.
Forskningsteamet advarer imidlertid selv om at FlyTrap ikke er en magisk løsning som kan brukes på alle dronerEffektiviteten avhenger av at enheten bruker visse datasynsbaserte sporingsalgoritmer og at den autonome sporingsmodusen er aktivert.
Videre er det ikke sikkert at det å gjenskape mønsteret uten en dyp forståelse av hvordan nevrale nettverk behandler bilder gir samme resultat. Det er ikke nok å bare skrive ut et iøynefallende design og forvente at det skal fungere: metodens suksess ligger i matematisk og eksperimentell optimalisering av det grafiske mønsteret.
Det juridiske rammeverket må også vurderes: nedskyting eller fangst av en drone kan være regulert eller til og med forbudt, avhengig av landet og hvilken type operasjon enheten utfører. Før du bruker noen nøytraliseringsteknikk, uansett hvor enkel den kan virke, er det viktig å... forstå luft- og personvernforskrifter strøm.
Det som er klart er at denne typen forskning er nyttig for å legge press på produsenter og regulatorer Når det gjelder å forbedre sikkerhetsstandarder, både for å forhindre misbruk av droner og for å forhindre at de så lett kan manipuleres ved hjelp av et fysisk objekt.
Samlet sett viser FlyTrap-saken at den teknologiske sofistikasjonen til autonome droner ikke gjør dem usårbare. paraply med riktig mønsterKombinert med en god forståelse av hvordan den innebygde kunstige intelligensen «ser» verden, kan det gjøre en enkel spasertur i regnet til verst tenkelig scenario for en drone som trodde den hadde alt under kontroll.
