Negli ultimi anni siamo passati dal vedere i droni come un semplice Giocattolo high-tech per registrare video per renderli uno strumento chiave nella sicurezza, nella sorveglianza e persino nei conflitti armati. E, come spesso accade con qualsiasi tecnologia che si diffonde così rapidamente, l'aspetto della sicurezza e della protezione non sempre progredisce allo stesso ritmo.
In questo contesto, un gruppo di ricercatori dell'Università della California, Irvine, ha dimostrato qualcosa che potrebbe sembrare uno scherzo, ma che in realtà non lo è affatto: È possibile attrarre e neutralizzare alcuni droni autonomi utilizzando semplicemente un ombrello con una specifica combinazione di colori.Nessun disturbatore di radio, nessun hacking a distanza, nessuna arma sofisticata. Solo un ombrello "strano" e un po' di ingegneria inversa su come questi dispositivi percepiscono il mondo.
Perché i droni autonomi destano crescente preoccupazione
L'ascesa dei droni non si limita affatto al settore del tempo libero. Cina, Russia, Stati Uniti e altri paesi Stanno spingendo con decisione lo sviluppo di veicoli aerei senza pilota dotati di sistemi di intelligenza artificiale in grado di prendere decisioni in autonomia. Non si tratta più solo di telecamere volanti per influencer, ma di piattaforme autonome con applicazioni tattiche e di sorveglianza.
Un esempio molto chiaro si può trovare nella guerra di Russia e Ucrainadove sono stati impiegati tutti i tipi di droni: dispositivi kamikaze, unità di tracciamento, sistemi collegati a cavi in fibra ottica per migliorare la trasmissione dei dati, ecc. A ciò si aggiungono sviluppi che rasentano la fantascienza, come gli esperimenti russi con presunti piccioni trasformati in bio-droni, il che illustra fino a che punto alcuni attori siano disposti a esplorare qualsiasi via tecnologica per ottenere vantaggi sul campo di battaglia.
Il problema è che questa stessa tecnologia, una volta trasferita al settore civile, apre la porta a scenari ben più inquietanti: sorveglianza persistente delle personetracciamento automatico non autorizzato, raccolta di dati in luoghi sensibili o semplicemente intrusioni nella privacy quotidiana di chiunque si imbatta in uno di questi dispositivi al momento sbagliato.
L'adozione di massa di droni con funzioni di tracciamento autonomo in compiti quali la sicurezza privata, sorveglianza delle frontiereIl controllo della folla o il pattugliamento di infrastrutture critiche ampliano le possibilità operative dei droni… ma, allo stesso tempo, moltiplicano i vettori di rischio. Non solo perché i droni possono presentare malfunzionamenti, ma anche perché possono essere manipolati, ingannati o utilizzati contro chi li utilizza.
Vista questa situazione, sta diventando chiaro che non è sufficiente crittografare le comunicazioni o proteggere le bande radio. La vera battaglia si combatte anche sul terreno fisico., nel modo in cui gli algoritmi di visione e intelligenza artificiale interpretano ciò che vedono attraverso la telecamera del drone e come reagiscono a schemi visivi progettati per confonderli.
Ricerca dell'UC Irvine: un ombrello contro l'intelligenza artificiale
Invece di sviluppare un nuovo drone offensivo, il team del Università della California, Irvine (UC Irvine) Ha deciso di affrontare il problema dall'altro lato: come proteggersi fisicamente dai sistemi di tracciamento autonomi basati sull'IA. Il suo obiettivo era chiaro: migliorare la cosiddetta "sicurezza informatica fisica" con oggetti di uso quotidiano e poco costosi, senza fare affidamento su hardware specializzato o conoscenze avanzate di hacking.
Durante la loro ricerca, gli esperti hanno analizzato a fondo il funzionamento degli algoritmi di tracciamento incorporati in molti droni commerciali. Nello specifico, si sono concentrati sulle funzioni note commercialmente come Active Track, Dynamic Track o altri sistemi similiche consentono al drone di seguire automaticamente una persona o un oggetto utilizzando la visione artificiale, senza che il pilota debba regolare manualmente la traiettoria in continuazione.
Dopo numerosi esperimenti, hanno scoperto una debolezza sorprendentemente semplice: certi modelli di droni che eseguono Tracciamento del bersaglio tramite reti neurali e analisi del movimento delle immagini Possono essere confusi se presentati con uno schema visivo molto specifico. Questo metodo è stato chiamato FlyTrap, "trappola per mosche", riferendosi al modo in cui attira il drone in una posizione in cui può essere catturato o abbattuto.
L'aspetto più sorprendente di questo caso è che l'implementazione pratica di FlyTrap è stata realizzata utilizzando un oggetto comune come un ombrello. Stampando il motivo visivo appropriato sulla superficie dell'ombrello E quando lo apri davanti al drone, l'IA di tracciamento interpreta una serie di cambiamenti nell'immagine che la inducono a credere che il bersaglio si stia allontanando, anche se la persona che lo tiene in mano è ferma.
I risultati sono stati presentati a una conferenza internazionale specializzata in sicurezza informatica (NDSS), dove è stato spiegato in dettaglio che questo approccio non è una semplice curiosità di laboratorio. I test hanno dimostrato che l'attacco fisico funziona in diverse condizionicon variazioni di illuminazione e condizioni meteorologiche, il che lo avvicina pericolosamente a uno scenario di utilizzo reale al di fuori di un ambiente controllato.
Come funziona l'attacco FlyTrap passo dopo passo (a livello concettuale)
Per capire perché un ombrello può mettere un drone autonomo in una posizione difficile, dobbiamo esaminare come i sistemi di tracciamento dei bersagli basati su visione artificialeIn sostanza, il drone cattura continuamente immagini dell'ambiente circostante e, utilizzando reti neurali e algoritmi di analisi del movimento, tenta di individuare il soggetto da seguire all'interno di ogni fotogramma.
Questi algoritmi si concentrano su modelli di forma, colore, contrasto e movimento Per stimare la posizione del soggetto nell'immagine corrente rispetto a quella precedente, il drone calcola se il soggetto si sta avvicinando, allontanando, spostandosi lateralmente, nascondendosi dietro un ostacolo, ecc. Regola quindi velocità e traiettoria per mantenere il soggetto all'interno dell'inquadratura a una distanza considerata "ottimale".
L'attacco FlyTrap sfrutta proprio questa logica. Il motivo grafico progettato per l'ombrello fa sì che esso generi dei motivi ogni volta che il drone si muove, anche di poco, o cambia il suo angolo di visuale. cambiamenti apparenti nella scala e nella posizione del bersaglio che l'algoritmo interpreta come un movimento continuo di allontanamento. L'IA crede che il soggetto si stia muovendo all'indietro, quando in realtà è fermo.
Quindi cosa fa il drone? Per compensare questa presunta distanza, ridurre gradualmente la distanzaTentativo di "avvicinarsi" al soggetto per mantenere l'inquadratura secondo le regole interne del sistema di tracciamento. Il risultato è che l'aereo entra in una spirale di avvicinamento sempre più aggressiva... fino a trovarsi pericolosamente vicino all'ombrello e alla persona che lo regge.
Quando il drone è molto vicino, l'operatore dell'attacco ha un margine molto vantaggioso: può catturarlo con una rete, colpirlo, destabilizzarlo o farlo collidere contro una superficie vicina. A differenza di altri metodi di difesa che mirano solo a far perdere di vista il bersaglio al drone o a interromperne il tracciamento, FlyTrap consente di portarlo direttamente nella posizione ideale per la neutralizzazione fisica.
Modelli di droni interessati e reale portata del problema
I ricercatori dell'UC Irvine non si sono fermati alle simulazioni; hanno testato la loro tecnica con veri droni commercialiTra i modelli valutati con successo figurano:
- DJI Mini4Pro
- DJI Neo
- Passa il mouse sull'Air X1
Tutti questi dispositivi incorporano funzioni di tracciamento automatico basate sulla visione artificiale che, in teoria, sono progettate per facilitare riprese dinamiche senza che il pilota debba preoccuparsi della telecamera. Proprio quella capacità di seguire autonomamente l'utente È proprio questo che gli si ritorce contro quando entra in gioco uno schema come FlyTrap.
Nei test, i droni sono stati attratti a sufficienza da rendere fattibile la loro operazione. cattura con dispositivi di rete o il suo impatto controllatoIn altre parole, non si trattava solo di confondere momentaneamente l'algoritmo, ma di forzare un approccio fisico prolungato che lasciasse il dispositivo alla mercé dell'attaccante.
I ricercatori responsabili dello studio hanno agito in conformità con le migliori pratiche della comunità della sicurezza informatica e Hanno comunicato la vulnerabilità in modo responsabile. ai produttori coinvolti prima di rendere pubblici tutti i dettagli. Ciò apre la strada a società come DJI e altre aziende interessate per rivedere i propri algoritmi di tracciamento e implementare contromisure nei futuri aggiornamenti del firmware o nelle nuove generazioni di hardware.
Tuttavia, al di là di questi modelli specifici, la scoperta ha implicazioni molto più ampieQualsiasi UAS (sistema aereo senza pilota) che si affida a reti neurali per tracciare i bersagli utilizzando la visione artificiale potrebbe essere vulnerabile a varianti dello stesso approccio se non è specificamente addestrato a resistere a questo tipo di schemi ostili.
Un attacco fisico che non necessita di radio, hacking o interferenze.
Una delle caratteristiche principali di FlyTrap è che opera interamente nel dominio fisicoNon richiede di interferire con le comunicazioni del drone, di accedere al suo collegamento dati o di sfruttare le vulnerabilità software tradizionali. L'attacco funziona perché manipola ciò che la telecamera del drone vede e, di conseguenza, ciò che i suoi algoritmi di intelligenza artificiale credono stia accadendo.
In pratica, questo significa che l'attaccante non deve emettere segnali radio, WiFi, GPS o similiInoltre, non richiede alcun tipo di connessione al drone, permessi di accesso o credenziali. Consiste semplicemente nel mostrare al drone un oggetto fisico progettato per sfruttare i suoi punti ciechi cognitivi, qualcosa di molto più difficile da tracciare e bloccare con le difese standard.
Questo approccio rientra in ciò che è noto come attacchi avversari nel mondo fisicoSi tratta di un filone di ricerca sempre più rilevante. Così come sono stati creati occhiali, magliette o adesivi in grado di ingannare i sistemi di riconoscimento facciale o le auto a guida autonoma, in questo caso un ombrello viene utilizzato per eludere gli algoritmi di tracciamento di un drone.
Inoltre, il costo è incredibilmente basso rispetto alle risorse solitamente impiegate nella guerra elettronica o nell'abbattimento di velivoli senza pilota. Non sono necessarie apparecchiature costose, antenne speciali o conoscenze specialistiche in radiofrequenza.Tutto ciò che serve è un ombrello dal design adatto e un po' di abilità nel posizionarsi nel punto giusto quando il drone è in modalità inseguimento.
Questa asimmetria tra il prezzo di un drone avanzato e il costo della sua neutralizzazione tramite un oggetto così comune ha un impatto diretto sul modo in cui dovremmo pensare al sicurezza delle infrastrutture critiche, dispiegamento delle forze di polizia o confiniIn teoria, un malintenzionato potrebbe avvicinare droni di sorveglianza ad aree riservate utilizzando proprio questo tipo di tecniche, per poi disattivarli o farli precipitare nel punto desiderato.
Implicazioni per la sicurezza, la privacy e l'impiego massiccio di droni
La proliferazione di velivoli senza pilota alimentati da intelligenza artificiale Ciò rappresenta un'enorme sfida per la sicurezza pubblica. Assistiamo a un numero crescente di progetti che propongono l'utilizzo di sciami di droni per pattugliare le città, monitorare i confini o supervisionare grandi eventi. Tuttavia, lo studio dell'UC Irvine dimostra che, senza rafforzare gli algoritmi di percezione, l'intero impiego di questi droni si basa su fondamenta piuttosto fragili.
A livello operativo, un attacco FlyTrap potrebbe essere utilizzato sia in modo offensivo che difensivo. Da un lato, qualcuno potrebbe neutralizzare i droni della polizia o di sorveglianza delle frontiereCiò compromette la capacità di intervento delle forze di sicurezza in una determinata area. D'altro canto, una persona molestata da un drone, o vittima di spionaggio tramite un dispositivo commerciale, potrebbe utilizzare lo stesso meccanismo per difendersi con un semplice ombrello modificato.
C'è anche l'aspetto di protezione delle infrastrutture strategiche (centrali elettriche, infrastrutture di trasporto, centri dati, ecc.). Se questi luoghi si affidano a droni autonomi per integrare i loro sistemi di sorveglianza, una vulnerabilità come FlyTrap apre la strada al rischio che un aggressore possa aggirare parte del sistema di rilevamento utilizzando solo un oggetto fisico, senza alcuna interazione elettronica.
Lo studio, quindi, invia un messaggio chiaro: La sicurezza dei droni non può essere limitata al livello elettronico o di rete.Proteggere i collegamenti dati, crittografare le comunicazioni e proteggere il software sono misure necessarie, ma insufficienti, se poi gli algoritmi di visione vengono ingannati da motivi colorati stampati su un ombrello. La resilienza deve estendersi al modo in cui l'IA interpreta l'ambiente fisico e alla sua robustezza contro le manipolazioni deliberate.
Man mano che l'uso di droni autonomi si diffonde sempre di più ambienti urbani e operazioni sensibiliQuesti tipi di attacchi cesseranno di essere una curiosità accademica e diventeranno un fattore che produttori, autorità di regolamentazione e operatori dovranno considerare fin dalla fase di progettazione. Ignorare queste vulnerabilità può rivelarsi molto costoso una volta che l'implementazione su larga scala è già avvenuta.
Limiti dell'attacco e possibili linee di difesa
Sebbene l'idea di "abbattere un drone con un ombrello" sia molto allettante, non bisogna pensare che un ombrello colorato qualsiasi vada bene. Il modello FlyTrap è progettato con cura per sfruttare specifiche debolezze negli algoritmi che sono stati testati. Non è un trucco universale che funzionerà automaticamente con tutti i droni o in ogni circostanza.
Inoltre, l'attacco richiede che il drone utilizzi le funzioni di tracciamento autonomo basato sulla visioneSe l'operatore pilota il velivolo interamente manualmente, o se questo è guidato da altri sensori (come LIDAR, radar o combinazioni avanzate di fusione di sensori), il margine per ingannare l'IA utilizzando solo uno schema visivo può essere ridotto o addirittura scomparire.
Un'altra limitazione pratica è la necessità di avvicinare fisicamente l'ombrello al campo visivo del droneIn scenari in cui il dispositivo vola ad alta quota o mantiene una distanza di diversi chilometri dal bersaglio, raggiungere tale prossimità potrebbe non essere realistico. FlyTrap è particolarmente pericoloso in situazioni di volo a bassa quota, per il tracciamento ravvicinato di persone o in ambienti urbani con percorsi ristretti.
Dal lato difensivo, ci sono diverse possibili linee d'azione. Una di queste è rieducare i modelli di visione Utilizzando esempi di schemi avversari come FlyTrap, si insegna loro a riconoscerli come anomalie ed evitare di cadere nella trappola di un avvicinamento incontrollato. Un'altra opzione è combinare le informazioni visive con altre fonti (profondità, sensori inerziali, mappe 3D) per evitare di affidarsi esclusivamente a ciò che vede la telecamera.
È inoltre ragionevole introdurlo nel firmware limiti di prossimità e norme di sicurezza aggiuntiveQueste misure impediscono al drone di avvicinarsi al bersaglio oltre una certa distanza quando rileva cambiamenti visivi insoliti o incoerenti. Ciò potrebbe non eliminare completamente l'inganno, ma ridurrebbe la probabilità che il drone raggiunga una posizione in cui può essere facilmente catturato a mano o con una rete.
Infine, a livello normativo, gli organismi responsabili della certificazione dei droni per usi di sorveglianza di sicurezza, polizia o infrastrutture Nelle loro valutazioni dovranno includere test contro questo tipo di attacco fisico. Usare un drone per filmare un paesaggio montano non è la stessa cosa che usarlo per pattugliare un confine: il livello di robustezza richiesto dovrebbe essere chiaramente diverso.
Tutto ciò lascia uno scenario curioso: più rendiamo "intelligenti" i droni attraverso l'IA, La cosa più importante sarà pensare come un attaccante creativo. che cerca scorciatoie nel mondo reale per ingannarli. Ed è qui che un oggetto apparentemente innocente come un ombrello colorato può finire per diventare il protagonista.
In breve, ciò che questi studi dimostrano è che La sicurezza dei sistemi autonomi non è solo una questione di firewall e crittografiama anche per capire come percepiscono l'ambiente, quali scorciatoie prendono i loro algoritmi e come un semplice schema grafico può trasformare un velivolo senza pilota avanzato in qualcosa di vulnerabile come una mosca attratta da una trappola ben progettata.