Posljednjih godina prestali smo gledati na dronove kao na jednostavne visokotehnološka igračka za snimanje videa da ih učine ključnim alatom u sigurnosti, nadzoru, pa čak i oružanim sukobima. I, kao što je često slučaj sa bilo kojom tehnologijom koja se tako brzo razvija, aspekt sigurnosti i zaštite ne napreduje uvijek istim tempom.
U tom kontekstu, grupa istraživača sa Univerziteta Kalifornija, Irvine, demonstrirala je nešto što zvuči kao šala, ali je daleko od toga: Moguće je privući i neutralizirati određene autonomne dronove koristeći samo kišobran sa specifičnim uzorkom boje.Nema ometača radio signala, nema daljinskog hakovanja, nema sofisticiranog oružja. Samo "čudan" kišobran i malo obrnutog inženjeringa o tome kako ovi uređaji percipiraju svijet.
Zašto autonomni dronovi izazivaju sve veću zabrinutost
Uspon dronova nipošto nije ograničen samo na razonodu. Kina, Rusija, Sjedinjene Američke Države i druge zemlje Oni agresivno forsiraju razvoj bespilotnih letjelica opremljenih sistemima vještačke inteligencije sposobnim za samostalno donošenje odluka. Više ne govorimo samo o letećim kamerama za influencere, već o autonomnim platformama s taktičkim i nadzornim primjenama.
Vrlo jasan primjer može se naći u ratu od Rusija i Ukrajinagdje su raspoređene sve vrste dronova: kamikaze uređaji, jedinice za praćenje, sistemi povezani optičkim kablovima za poboljšanje prijenosa podataka itd. Ovome se dodaju i dostignuća koja graniče sa naučnom fantastikom, poput ruskih eksperimenata sa navodnim golubovi pretvoreni u bio-dronove, koji ilustruju stepen do kojeg su neki akteri spremni da istraže bilo koji tehnološki put kako bi stekli prednost na bojnom polju.
Problem je što ta ista tehnologija, kada se prenese u civilni sektor, otvara vrata mnogo neugodnijim scenarijima: stalni nadzor ljudi, neovlašteno automatsko praćenje, prikupljanje podataka na osjetljivim lokacijama ili jednostavno zadiranje u svakodnevnu privatnost bilo koga ko se u pogrešno vrijeme nađe u kontaktu s jednim od ovih uređaja.
Masovna primjena dronova s funkcijama autonomnog praćenja u zadacima kao što je privatno obezbjeđenje, nadzor granicaKontrola mase ili patroliranje kritične infrastrukture proširuje njihove operativne mogućnosti... ali istovremeno umnožava vektore rizika. Ne samo zato što dronovi mogu neispravno funkcionisati, već i zato što se mogu manipulisati, prevariti ili koristiti protiv onih koji njima upravljaju.
S obzirom na ovu situaciju, postaje jasno da nije dovoljno šifrirati komunikacije ili zaštititi radio frekvencije. Prava bitka se također vodi na fizičkom terenu, u načinu na koji algoritmi vida i umjetne inteligencije interpretiraju ono što vide kroz kameru drona i kako reagiraju na vizualne obrasce osmišljene da ih zbune.
Istraživanje UC Irvinea: kišobran protiv umjetne inteligencije
Umjesto razvoja novog ofanzivnog drona, tim... Univerzitet Kalifornije, Irvine (UC Irvine) Odlučio je pristupiti problemu s druge strane: kako se fizički zaštititi od autonomnih sistema za praćenje zasnovanih na vještačkoj inteligenciji. Njegov cilj je bio jasan: poboljšati takozvanu "fizičku sajber sigurnost" pomoću svakodnevni i jeftini predmeti, bez oslanjanja na specijalizirani hardver ili napredno znanje o hakovanju.
Tokom istrage, stručnjaci su detaljno analizirali kako funkcionišu algoritmi za praćenje ugrađeni u mnoge komercijalne dronove. Konkretno, fokusirali su se na funkcije komercijalno poznate kao Active Track, Dynamic Track ili drugi slični sistemikoji omogućavaju dronu da automatski prati osobu ili objekt pomoću kompjuterskog vida, bez potrebe da pilot stalno ručno podešava putanju.
Nakon višestrukih eksperimenata, otkrili su iznenađujuće jednostavnu slabost: određeni modeli dronova koji obavljaju Praćenje cilja korištenjem neuronskih mreža i analize kretanja slike Mogu se zbuniti ako im se predstavi vrlo specifičan vizualni obrazac. Ova metoda je nazvana kao FlyTrap, "muholovka", što se odnosi na način na koji namamljuje dron u poziciju u kojoj ga se može uhvatiti ili oboriti.
Najupečatljivija stvar u vezi s ovim slučajem je da je praktična implementacija FlyTrapa provedena korištenjem nečega tako uobičajenog kao što je kišobran. Utiskivanjem odgovarajućeg vizualnog uzorka na površinu kišobrana A kada ga otvorite ispred drona, umjetna inteligencija za praćenje interpretira niz promjena na slici koje ga navode na pomisao da se meta udaljava, iako osoba koja ga drži miruje.
Rezultati su predstavljeni na međunarodnoj konferenciji specijaliziranoj za računarsku sigurnost (NDSS), gdje je detaljno objašnjeno da ovaj pristup nije puka laboratorijska kuriozitet. Testovi su pokazali da fizički napad funkcioniše u različitim uslovimas promjenama osvjetljenja i vremena, što ga opasno približava scenariju upotrebe u stvarnom svijetu izvan kontroliranog okruženja.
Kako napad FlyTrap funkcioniše korak po korak (na konceptualnom nivou)
Da bismo razumjeli zašto kišobran može dovesti autonomni dron u težak položaj, moramo pregledati kako funkcionišu sistemi za praćenje ciljeva zasnovani na... umjetni vidU suštini, dron kontinuirano snima slike svoje okoline i, koristeći neuronske mreže i algoritme za analizu pokreta, pokušava locirati subjekt koji treba pratiti unutar svakog kadra.
Ovi algoritmi se fokusiraju na obrasci oblika, boja, kontrasta i kretanja da procijene gdje se subjekt nalazi na trenutnoj slici u odnosu na prethodnu. Na osnovu tih informacija, oni izračunavaju da li se subjekt približava, udaljava, pomiče u stranu, krije li se iza prepreke itd. Dron zatim prilagođava svoju brzinu i putanju kako bi subjekt ostao unutar kadra na udaljenosti koja se smatra "optimalnom".
Napad FlyTrap iskorištava upravo ovu logiku. Grafički uzorak dizajniran za kišobran uzrokuje da on generira uzorke kada se dron i malo pomakne ili promijeni ugao gledanja. očigledne promjene u veličini i položaju cilja što algoritam interpretira kao kontinuirano kretanje udaljavanja. Vještačka inteligencija vjeruje da se subjekt kreće unazad, dok u stvarnosti stoji mirno.
Šta dron radi? Da bi kompenzirao ovu navodnu udaljenost, postepeno smanjite udaljenostPokušaj "približavanja" subjektu kako bi se održao kadar u skladu s internim pravilima sistema za praćenje. Rezultat je da letjelica ulazi u sve agresivniju spiralu prilaza... sve dok se opasno ne približi kišobranu i osobi koja ga nosi.
Kada je dron veoma blizu, napadač ima veoma povoljnu marginu: može uhvatiti ga mrežom, udariti ga, destabilizirati ga ili ga sudariti uz obližnju površinu. Za razliku od drugih metoda odbrane koje imaju samo za cilj da dron izgubi metu ili prestane pratiti, FlyTrap vam omogućava da ga dovedete u idealan položaj za fizičku neutralizaciju.
Pogođeni modeli dronova i stvarni obim problema
Istraživači sa UC Irvine-a nisu se zaustavili na simulacijama; testirali su svoju tehniku sa pravi komercijalni dronoviMeđu uspješno ocijenjenim modelima su:
- DJI Mini 4 Pro
- DJI Neo
- Lebdeći zrak X1
Svi ovi uređaji uključuju funkcije automatskog praćenja zasnovane na kompjuterskom vidu koje su, u teoriji, dizajnirane da olakšaju dinamične snimke bez brige pilota o kameri. Upravo ta sposobnost autonomnog praćenja korisnika To je onaj koji se okreće protiv njega kada se pojavi obrazac poput FlyTrapa.
Tokom testova, dronovi su bili dovoljno privučeni da bi njihov rad bio održiv. snimanje mrežnim uređajima ili njegov kontrolirani utjecajDrugim riječima, nije se radilo samo o tome da se algoritam na trenutak zbuni, već o prisiljavanju na kontinuirani fizički pristup koji je uređaj ostavio na milost i nemilost napadača.
Istraživači odgovorni za studiju djelovali su u skladu s najboljim praksama zajednice za sajber sigurnost i Odgovorno su komunicirali ranjivost. proizvođačima uključenim u to prije nego što se svi detalji objave. Ovo otvara vrata kompanijama poput DJI-a i drugim pogođenim firmama da preispitaju svoje algoritme za praćenje i implementiraju protumjere u budućim ažuriranjima firmvera ili generacijama hardvera.
Međutim, pored ovih specifičnih modela, otkriće je mnogo šire implikacijeBilo koji UAS (bespilotni letjelica) koji se oslanja na neuronske mreže za praćenje ciljeva pomoću kompjuterskog vida mogao bi biti podložan varijacijama istog pristupa ako nije posebno obučen za otpor ovim vrstama neprijateljskih obrazaca.
Fizički napad koji ne zahtijeva radio, hakovanje ili ometanje
Jedna od ključnih karakteristika FlyTrapa je da on u potpunosti funkcioniše u fizički domenNe zahtijeva ometanje komunikacije drona, pristup njegovom podatkovnom linku ili iskorištavanje tradicionalnih softverskih ranjivosti. Napad funkcionira jer manipulira onim što kamera drona vidi i, prema tome, onim što njegovi algoritmi umjetne inteligencije vjeruju da se događa.
U praksi, to znači da napadač ne mora izdati radio signali, WiFi, GPS ili sličnoTakođer ne zahtijeva nikakvu vrstu veze s dronom, dozvole za pristup ili vjerodajnice. Jednostavno uključuje prikazivanje dronu fizičkog objekta dizajniranog da iskoristi njegove kognitivne slijepe tačke, nešto što je mnogo teže pratiti i blokirati standardnom odbranom.
Ovaj pristup se uklapa u ono što je poznato kao neprijateljski napadi u fizičkom svijetuOvo je sve relevantniji pravac istraživanja. Baš kao što su stvorene naočale, majice ili naljepnice koje mogu prevariti sisteme za prepoznavanje lica ili autonomne automobile, ovdje se kišobran koristi za odbacivanje algoritama za praćenje drona.
Nadalje, troškovi su smiješno niski u poređenju s resursima koji se obično povezuju s elektronskim ratovanjem ili obaranjem bespilotnih letjelica. Nije potrebna skupa oprema, posebne antene ili stručno RF znanje.Sve što vam treba je kišobran odgovarajućeg dizajna i malo vještine da se pozicionirate na pravo mjesto kada je dron u modu praćenja.
Ova asimetrija između cijene naprednog drona i troškova njegovog neutralizacije korištenjem tako uobičajenog objekta ima direktan utjecaj na to kako bismo trebali razmišljati o sigurnost kritične infrastrukture, raspoređivanje policije ili graniceZlonamjerni akter bi, teoretski, mogao dovesti dronove za nadzor blizu ograničenih područja koristeći upravo ove vrste tehnika, a zatim ih onesposobiti ili srušiti gdje god želi.
Implikacije za sigurnost, privatnost i masovno korištenje dronova
Širenje bespilotnih letjelica pokretanih veštačka inteligencija Ovo predstavlja ogroman izazov za javnu sigurnost. Sve više vidimo projekte koji predlažu korištenje rojeva dronova za patroliranje gradovima, nadzor granica ili nadgledanje velikih događaja. Ali studija UC Irvine pokazuje da, bez jačanja algoritama percepcije, cijelo ovo raspoređivanje počiva na prilično krhkim temeljima.
Na operativnom nivou, napad FlyTrap-om mogao bi se koristiti i ofanzivno i defanzivno. S jedne strane, neko bi mogao neutralizirati policijske ili dronove za nadzor granicaOvo ugrožava kapacitet reagovanja sigurnosnih snaga u određenom području. S druge strane, osoba koju uznemirava dron ili žrtva špijunaže komercijalnim uređajem mogla bi koristiti isti mehanizam za odbranu jednostavnim modificiranim kišobranom.
Tu je i aspekt zaštita strateške infrastrukture (elektrane, transportni objekti, podatkovni centri itd.). Ako se ove lokacije oslanjaju na autonomne dronove kao dopunu svojim sistemima nadzora, ranjivost poput FlyTrapa otvara rizik da napadač može zaobići dio sistema detekcije koristeći samo fizički objekt bez ikakve elektronske interakcije.
Studija stoga šalje jasnu poruku: Sigurnost dronova ne može se ograničiti na elektronski ili mrežni slojOsiguranje podatkovnih veza, šifriranje komunikacija i zaštita softvera su neophodni, ali nedovoljni, ako se algoritmi vida zavaravaju obojenim uzorcima otisnutim na kišobranu. Otpornost se mora proširiti na način na koji umjetna inteligencija interpretira fizičko okruženje i njenu otpornost na namjernu manipulaciju.
Kako upotreba autonomnih dronova postaje sve raširenija u urbana okruženja i osjetljive operacijeOve vrste napada prestat će biti akademska kuriozitet i postat će faktor koji će proizvođači, regulatori i operateri morati uzeti u obzir od faze projektovanja. Ignorisanje ovih ranjivosti može biti skupo kada se već dogodi velika implementacija.
Ograničenja napada i moguće linije odbrane
Iako je ideja "obaranja drona kišobranom" veoma privlačna, ne biste trebali misliti da će bilo koji šareni kišobran poslužiti. FlyTrap uzorak je pažljivo dizajniran iskoristiti specifične slabosti u algoritmima koji su testirani. To nije univerzalni trik koji će automatski funkcionirati sa svim dronovima ili u svakoj okolnosti.
Nadalje, napad zahtijeva da dron koristi funkcije autonomno praćenje zasnovano na viduAko operater pilotira isključivo ručno ili ako letjelicu vode drugi senzori (kao što su LIDAR, radar ili napredne kombinacije senzora), margina za obmanjivanje umjetne inteligencije korištenjem samo vizualnog uzorka može se smanjiti ili čak nestati.
Još jedno praktično ograničenje je potreba da se fizički približite kišobran vidnom polju dronaU scenarijima gdje uređaj leti na velikoj visini ili održava udaljenost od nekoliko kilometara od cilja, postizanje te blizine možda neće biti realno. FlyTrap je posebno opasan u situacijama niskog leta, bliskog praćenja ljudi ili urbanih okruženja sa uskim rutama.
Sa defanzivne strane, postoji nekoliko mogućih linija djelovanja. Jedna od njih je prekvalifikovati modele vida Koristeći primjere suparničkih obrazaca poput FlyTrap-a, nauče ih prepoznati kao anomalije i izbjegnu upadanje u zamku nekontroliranog približavanja. Druga mogućnost je kombiniranje vizualnih informacija s drugim izvorima (dubina, inercijalni senzori, 3D mape) kako bi se izbjeglo oslanjanje isključivo na ono što kamera vidi.
Također je razumno uvesti ga u firmver. ograničenja blizine i dodatna sigurnosna pravilaOve mjere sprječavaju dron da se približi meti bliže od određene udaljenosti kada detektuje neobične ili nedosljedne vizualne promjene. Ovo možda neće u potpunosti eliminirati obmanu, ali bi smanjilo vjerovatnoću da dron dosegne poziciju gdje se može lako uhvatiti rukom ili mrežom.
Konačno, na regulatornom nivou, tijela odgovorna za certificiranje dronova za upotrebu u sigurnosni, policijski ili nadzor infrastrukture Morat će uključiti testove protiv ove vrste fizičkog napada u svoje procjene. Korištenje drona za snimanje planinske scene nije isto što i korištenje za patroliranje granicom: potreban nivo robusnosti trebao bi biti očigledno drugačiji.
Sve ovo ostavlja neobičan scenario: što "pametnije" dronove pravimo putem vještačke inteligencije, Važnije će biti razmišljati kao kreativni napadač. koji pokušava pronaći prečice u stvarnom svijetu kako bi ih prevario. I tu predmet naizgled nevin poput šarenog kišobrana može postati protagonist.
Ukratko, ono što ove studije pokazuju je da Sigurnost autonomnih sistema nije samo pitanje zaštitnih zidova i enkripcijeali i da razumiju kako percipiraju okolinu, koje prečice koriste njihovi algoritmi i kako jednostavan grafički uzorak može pretvoriti naprednu bespilotnu letjelicu u nešto ranjivo poput muhe privučene dobro osmišljenom zamkom.