Razširitev avtonomni droni z umetno inteligenco Popolnoma spreminja krajino varnosti, nadzora in celo sodobnega vojskovanja. Kar se je še pred nekaj leti zdelo kot znanstvena fantastika, je danes rutina: brezpilotni letalniki, ki lahko sledijo ljudem, patruljirajo po mejah ali podrobno beležijo vsako gibanje, praktično brez človeškega posredovanja.
V tem kontekstu, polnem najsodobnejše tehnologije, je skoraj nadrealistično odkriti, da predmet, tako običajen kot dežnik To lahko izzove nekatere od teh naprednih sistemov. Skupina raziskovalcev z Univerze v Kaliforniji v Irvinu (UC Irvine) je dokazala, da lahko preprost dežnik s pravim vizualnim vzorcem "prelisiči", privabi in celo nevtralizira nekatere modele komercialnih dronov, ki uporabljajo avtonomno sledenje na podlagi računalniškega vida.
Vzpon avtonomnih dronov in zakaj povzročajo toliko zaskrbljenosti
V zadnjih letih je uporaba brezpilotna letala po vsem svetu. Ne govorimo več le o majhnih rekreacijskih brezpilotnih letalnikih za snemanje spektakularnih videoposnetkov, temveč o veliko resnejših platformah, ki se uporabljajo za urbani nadzor, spremljanje kritične infrastrukture, nadzor meja ali podporo policijskim in vojaškim operacijam.
V scenarijih, kot je vojna med Rusijo in Ukrajino Postalo je jasno, kako pomembni so postali droni. Obstajajo modeli kamikaze, naprave, specializirane za sledenje ciljem, sistemi, povezani z optičnimi vlakni za zagotavljanje stabilne komunikacije, in vse bolj naprave, ki vključujejo umetno inteligenco za samostojno sprejemanje odločitev med letom.
Ta avtonomija temelji na uporabi napredni optični senzorji in algoritmi računalniškega vida Te funkcije omogočajo dronu, da prepozna ljudi ali predmete, jim sledi in se odziva na njihovo gibanje, ne da bi moral pilot nenehno popravljati trajektorijo. V potrošniških izdelkih se to trži kot funkciji "aktivnega sledenja" ali "dinamičnega sledenja".
Težava je v tem, da se s širitvijo uporabe teh sistemov nadzor, patruljiranje in varnostne operacijeNarašča tudi tveganje zlorabe: nadlegovanja, vohunjenja, vdora v zasebnost ali prikritega spremljanja v prostorih, kjer se ljudje sploh ne zavedajo, da so opazovani.
Raziskovalci in strokovnjaki za kibernetsko varnost že dolgo opozarjajo, da zaščite teh sistemov ni mogoče omejiti le na elektronske komponente (radijske povezave, šifrirane komunikacije, požarne zidove). vizualno zaznavanje in algoritmi umetne inteligence Tisti, ki se odločajo na podlagi tega, kar "vidijo", lahko postanejo tudi šibka točka, in prav tu pride v poštev nenavaden eksperiment z dežnikom.
Projekt FlyTrap: ko dežnik postane obrambno orožje
Ekipa strokovnjakov za varnost in računalniški vid iz Univerza v Kaliforniji, Irvine Odločili so se, da ne bodo sledili običajni poti oblikovanja vse bolj dovršenih in ofenzivnih dronov. Namesto tega so si zastavili drugačno vprašanje: Ali je mogoče zaščita pred avtonomnimi droni z uporabo preprostih predmetov, brez uporabe motilcev frekvenc, hekanja ali drage vojaške opreme?
Iz te ideje se je rodil FlyTrap, metoda fizičnega napada na avtonomne algoritme sledenja Zanaša se na grafični vzorec, ki je posebej zasnovan tako, da zmede vidni sistem drona. Namesto elektronskega onemogočanja naprave je cilj manipulirati s tem, kar "misli", da se dogaja pred njegovo kamero.
Raziskovalci so svojo analizo osredotočili na drone, ki uporabljajo sledenje ciljem na podlagi računalniškega vidaTo so naprave, ki zaznavajo in sledijo osebi ali predmetu na podlagi vizualnih informacij, ki jih zajamejo njihove kamere. Med analiziranimi modeli so nekateri zelo priljubljeni na trgu, kot so DJI Mini 4 Pro, DJI Neo in HoverAir X1.
Po preučevanju, kako ti sistemi interpretirajo gibanje tarče, je ekipa odkrila ključno slabost: pod določenimi pogoji je mogoče algoritem manipulirati, če mu je predstavljen skrbno zasnovan vizualni vzorec kar spremeni njihovo zaznavanje razdalje in smeri gibanja.
Ta vzorec, poimenovan FlyTrap, je bil natisnjen na površini navadnega dežnika. Rezultat je bilo presenetljivo poceni in dostopno obrambno orožje proti avtonomnim dronom, ki bi ga bilo na papirju zelo težko prelisičiti brez dovršenih tehničnih sredstev.
Kako točno deluje vizualni trik z dežnikom?
Jedro FlyTrapa leži v načinu, kako algoritmi ... avtonomno sledenje na osnovi nevronskih mrež Interpretirajo, kar zajamejo kamere drona. Ti sistemi analizirajo sliko posnetek za posnetkom in izračunajo, kako se cilj premika na zaslonu, da se odločijo, kam naj se letalo premika in s kakšno hitrostjo.
Grafična podoba, natisnjena na dežniku, povzroči, da dron "prebere" situacijo, ki ne ustreza resničnosti: vzorec je zasnovan tako, da sistem vida sklepa, da je tarča odmikajoč se od drona, ko je v resnici oseba, ki drži dežnik, praktično še vedno na istem mestu.
Soočena s to napačno razlago sledilna programska oprema stori tisto, za kar je programirana: poskuša zmanjšajte razdaljo dokler ne doseže cilja, pri čemer ga ohranja znotraj optimalnega območja sledenja. Z drugimi besedami, dron se postopoma približuje in nenehno popravlja svojo trajektorijo, da bi "kompenziral" to zaznano razdaljo.
To vedenje ustvarja pristno napad oddaljene privlačnostiNamesto da bi dezorientiral dron in povzročil, da bi izgubil sled, ga dežnik dejansko vabi, da se mu vedno bolj približa. Naprava se lahko tako približa osebi, ki drži dežnik, da postane lahka tarča za ulov z mrežo ali celo za nadzorovan trk.
Velika prednost tega pristopa je, da ne zahteva elektromagnetne motnje ali dostop do programske opreme dronaNi ga treba vdreti, prestreči kontrolnega signala ali uporabiti vojaške opreme. Vse, kar potrebujete, je dežnik s pravo zasnovo, da izkoristite zelo specifično šibkost v algoritmih računalniškega vida.
Testi s komercialnimi droni in rezultati študij
Da bi preverili, ali je ideja več kot le laboratorijska zanimivost, je ekipa UC Irvine izvedla sistematični poskusi s komercialnimi brezpilotnimi letalniki ki vključujejo funkcije avtonomnega sledenja, ki se danes pogosto uporabljajo.
Raziskovalci so iz potrošniškega trga izbrali tri reprezentativne modele: DJI Mini 4 Proje DJI Neo in HoverAir X1Vsi imajo način "aktivne sledi" ali "dinamične sledi", ki omogočata napravi, da sledi osebi, ne da bi morala nenehno upravljati daljinski upravljalnik.
V testih je oseba stala na odprtem območju z odprtim dežnikom FlyTrap, medtem ko je dron aktiviral način samodejnega sledenja tej osebi. Avtonomnemu sistemu je nato dovoljeno, da opravlja svoje delo brez ročnih popravkov in opazuje, kako se odziva na grafični vzorec dežnika.
Rezultati so bili prepričljivi: pri vseh treh analiziranih modelih dronov je bil Metoda FlyTrap je uspešno privabila letalo do zelo kratkih razdalj, dovolj, da ga fizično ujamejo z mrežo ali pa po želji povzročijo, da trči v drugo strukturo ali napravo.
Raziskovalci so poskuse ponovili v različnih svetlobnih in vremenskih pogojih ter dosegli zelo visoke stopnje uspešnosti. Glede na podatke, predstavljene na varnostnih forumih, kot je konferenca NDSS, je sistem ohranil svojo učinkovitost tudi z nihanja v svetlobi okolice in okolice, kar krepi njegovo praktično izvedljivost.
Kot del postopka odgovornega razkritja je ekipa ranljivost sporočila proizvajalci vpletenih dronov, vključno z DJI in HoverAir, preden so javno objavili vse tehnične podrobnosti. Cilj je bil dati podjetjem čas, da raziščejo morebitne blažilne ukrepe ali posodobitve vdelane programske opreme, ki bi okrepile robustnost njihovih algoritmov proti tovrstnim fizičnim napadom.
Tveganja in primeri uporabe: od javne varnosti do nadlegovanja
Študija FlyTrap poleg anekdote o tem, da je mogoče z dežnikom "loviti" dron, prinaša še druge ... resne varnostne posledice in množično uvajanje avtonomnih sistemov. Profesor Alfred Chen, soavtor raziskave in profesor računalništva na univerzi UC Irvine, poudarja, da je samodejno sledenje dvorezen meč.
Po eni strani so te funkcije zelo uporabne za operacije javne varnosti, mejne patrulje ali nadzor infrastruktureOmogočajo dronu nadzor velikih območij ali sledenje osumljencu brez potrebe po nenehnem pilotiranju, kar prihrani vire in izboljša reakcijsko sposobnost oblasti.
Po drugi strani pa se ista tehnologija lahko uporablja tudi za veliko manj plemenite namene: Nadlegovanje posameznikov, vohunjenje, vdor v zasebnost v javnih ali zasebnih prostorih, nepooblaščeno sledenje ljudem itd. Ko lahko kdorkoli kupi dron z avtonomnim sledenjem in ga uporablja za vprašljive namene, postane ravnovesje med varnostjo in tveganjem zapleteno.
Shaoyuan Xie, glavni avtor študije in tudi računalniški znanstvenik, poudarja enostavnost, s katero lahko preprost dežnik za nadzor vedenja določenih avtonomnih dronov To nas sili, da ponovno premislimo o uporabi teh naprav v občutljivih okoljih. Če jih je tako enostavno fizično manipulirati, bi morda morali njihovo uporabo omejiti ali regulirati v scenarijih, kjer bi lahko kršitev varnosti imela resne posledice.
Poleg tega se napad ne more uporabiti le za nevtralizirati sovražne ali vsiljive drone... pa tudi za izogibanje legitimnemu nadzoru. Organizirana skupina bi lahko uporabila različice vzorca FlyTrap, da bi se skrila pred policijskimi ali vojaškimi droni, ustvarila senčna območja ali povzročila, da bi se letala preveč približala in postala ranljiva.
Fizični napad, ki ponovno odpira razpravo o kibernetski varnosti dronov
Eden najbolj presenetljivih vidikov primera FlyTrap je, da gre za fizični napad na algoritme zaznavanjaNe gre za digitalni vdor. Ni vdora v programsko opremo, ni oddaljenega dostopa do sistema in ni poseganja v radijsko komunikacijo. Vse se dogaja v resničnem svetu, pred kamero drona.
Te vrste ranljivosti, znane kot fizični napadi nasprotnikov, kažejo, da varnost sistemov AI To daleč presega programsko opremo za nadzor in podatkovna omrežja. Če lahko algoritem, ki interpretira resničnost, zavedejo vizualni vzorci v okolju, bi lahko bila šibka povezava nekaj tako trivialnega, kot je vzorec dežnika.
V primeru FlyTrapa je bil vzorec posebej zasnovan za izkoriščanje pomanjkljivosti v načinu, kako nevronske mreže izračunavajo gibanje in razdaljo do cilja. Namesto skrivanja osebe se zaznavanje manipulira tako, da dron verjame, da se oseba oddaljuje.
Ta pristop poudarja, da standardni varnostni ukrepi – šifriranje komunikacije, močna avtentikacija, nadzor dostopa – niso dovolj za zaščito Sistem brezpilotnih letal z avtonomnimi funkcijamiPrav tako je bistveno okrepiti robustnost algoritmov računalniškega vida pred zlonamernimi vizualnimi vzorci.
Ker se uporaba dronov na osnovi umetne inteligence vse bolj širi urbano okolje, kritična infrastruktura in policijske operacijeIgnoriranje tovrstnih tveganj lahko odpre vrata resnim incidentom. Ne gre le za to, da nekdo sestreli komercialni dron, temveč za uporabo podobnih strategij v kontekstih večje strateške občutljivosti.
Obrambne aplikacije in omejitve metode krovca
Z vidika javnosti odkritje UC Irvine ponuja tudi možno poceni obrambno orodjeOseba, ki ji sledi dron v načinu avtonomnega sledenja, bi teoretično lahko uporabila dežnik z vzorcem FlyTrap, da bi privabila napravo in jo nevtralizirala, vedno znotraj zakonskih meja svoje države.
Ta možnost odpira razpravo o pravica do samoobrambe pred zračnim nadzoromŠe posebej v primerih nadlegovanja, vohunjenja ali nezakonitega vdora v zasebno življenje. Soočeni s tehnologijami nadzora, ki se zdijo za povprečnega državljana nedosegljive, postane preprost predmet, kot je dežnik, nekakšen dostopen protiukrep.
Vendar pa raziskovalna skupina sama opozarja, da FlyTrap ni čarobna rešitev, uporabna za kateri koli dronNjegova učinkovitost je odvisna od naprave, ki uporablja določene algoritme sledenja na osnovi računalniškega vida, in od aktiviranega načina avtonomnega sledenja.
Poleg tega podvajanje vzorca brez poglobljenega razumevanja, kako nevronske mreže obdelujejo slike, morda ne bo dalo enakega rezultata. Preprosto tiskanje privlačnega dizajna in pričakovanje, da bo deloval, ni dovolj: uspeh metode je v matematična in eksperimentalna optimizacija grafičnega vzorca.
Upoštevati je treba tudi pravni okvir: sestrelitev ali zajetje drona je lahko regulirano ali celo prepovedano, odvisno od države in vrste operacije, ki jo naprava izvaja. Pred uporabo katere koli tehnike nevtralizacije, pa naj se zdi še tako preprosta, je bistveno ... razumeti predpise o zraku in zasebnosti trenutno.
Jasno je, da je ta vrsta raziskav koristna za pritisk na proizvajalce in regulatorje Ko gre za izboljšanje varnostnih standardov, tako za preprečevanje zlorab pri uporabi dronov kot za preprečevanje njihove enostavne manipulacije s fizičnim predmetom.
Primer FlyTrap skupaj kaže, da tehnološka dovršenost avtonomnih dronov ne pomeni, da so neranljivi. dežnik s pravim vzorcemV kombinaciji z dobrim razumevanjem, kako vgrajena umetna inteligenca "vidi" svet, lahko preprost sprehod v dežju spremeni v najslabši možen scenarij za dron, ki je mislil, da ima vse pod nadzorom.
