I ricercatori della Penn Engineering (USA) avrebbero scoperto vulnerabilità di sicurezza precedentemente sconosciute in diverse piattaforme robotiche controllate dall'intelligenza artificiale.
" La nostra ricerca dimostra che, a questo punto, i modelli linguistici di grandi dimensioni (LLM) non sono generalmente sufficientemente sicuri se integrati con hardware fisico complesso ", ha affermato in una nota George Pappas, professore di ingegneria elettrica e dei sistemi presso la UPS Foundation.
Pappas e il suo team hanno sviluppato un algoritmo, denominato RoboPAIR, "il primo algoritmo progettato per decifrare i robot controllati da LLM". A differenza degli attuali attacchi tecnici a raffica che prendono di mira i chatbot, RoboPAIR è progettato specificamente per "indurre azioni fisiche dannose" da parte di robot controllati da LLM, come la piattaforma robotica umanoide chiamata Atlas che Boston Dynamics e il Toyota Research Institute (TRI) stanno sviluppando.
Secondo quanto riferito, RoboPAIR ha raggiunto un tasso di successo del 100% nel decifrare tre popolari piattaforme di ricerca sulla robotica: l'Unitree Go2 a quattro zampe, il Clearpath Robotics Jackal a quattro ruote e il simulatore Dolphins LLM per veicoli autonomi. Ci sono voluti solo pochi giorni perché l'algoritmo ottenesse pieno accesso a quei sistemi e iniziasse a bypassare le barriere di sicurezza. Una volta preso il controllo, i ricercatori sono stati in grado di comandare le piattaforme robotiche autonome per eseguire una serie di azioni pericolose, come ad esempio attraversare gli incroci senza fermarsi.
" I risultati della prima valutazione mostrano che i rischi dei LLM incrinati vanno oltre la generazione di testo, poiché è chiaro che i robot incrinati possono causare danni fisici nel mondo reale ."
Il team di Penn Engineering sta collaborando con gli sviluppatori della piattaforma per rafforzare i loro sistemi contro ulteriori intrusioni, ma avverte che questi problemi di sicurezza sono sistemici e difficili da risolvere completamente.
" I risultati di questo studio dimostrano chiaramente che adottare un approccio basato sulla sicurezza è fondamentale per favorire un'innovazione responsabile. Dobbiamo affrontare le vulnerabilità intrinseche prima di impiegare robot basati sull'intelligenza artificiale nel mondo reale ", ha affermato il team.
Per garantire la sicurezza delle operazioni è necessario testare i sistemi di intelligenza artificiale per individuare potenziali minacce e vulnerabilità, il che è essenziale per proteggere i sistemi di intelligenza artificiale che creano. Perché solo quando si identificano i punti deboli è possibile testare e persino addestrare i sistemi per prevenire i rischi.
In questo articolo ti guideremo su come recuperare l'accesso al tuo disco rigido in caso di guasto. Seguici!
A prima vista, gli AirPods sembrano identici a qualsiasi altro auricolare true wireless. Ma tutto è cambiato quando sono state scoperte alcune caratteristiche poco note.
Apple ha presentato iOS 26, un importante aggiornamento con un nuovissimo design in vetro smerigliato, esperienze più intelligenti e miglioramenti alle app più note.
Gli studenti hanno bisogno di un tipo specifico di portatile per i loro studi. Non solo deve essere abbastanza potente da essere adatto al corso di laurea scelto, ma anche compatto e leggero da poter essere portato con sé tutto il giorno.
Aggiungere una stampante a Windows 10 è semplice, anche se la procedura per i dispositivi cablati sarà diversa da quella per i dispositivi wireless.
Come sapete, la RAM è una componente hardware molto importante in un computer: funge da memoria per l'elaborazione dei dati ed è il fattore che determina la velocità di un laptop o di un PC. Nell'articolo seguente, WebTech360 vi illustrerà alcuni metodi per verificare la presenza di errori nella RAM utilizzando un software su Windows.
Le smart TV hanno davvero preso d'assalto il mondo. Grazie alle sue numerose funzionalità e alla connettività Internet, la tecnologia ha cambiato il nostro modo di guardare la TV.
I frigoriferi sono elettrodomestici comuni nelle case. I frigoriferi hanno solitamente 2 scomparti: lo scomparto freddo è spazioso e ha una luce che si accende automaticamente ogni volta che l'utente lo apre, mentre lo scomparto congelatore è stretto e non ha luce.
Oltre ai router, alla larghezza di banda e alle interferenze, le reti Wi-Fi sono influenzate da molti fattori, ma esistono alcuni modi intelligenti per potenziare la propria rete.
Se vuoi tornare alla versione stabile di iOS 16 sul tuo telefono, ecco la guida di base per disinstallare iOS 17 ed effettuare il downgrade da iOS 17 a 16.
Lo yogurt è un alimento meraviglioso. Fa bene mangiare yogurt tutti i giorni? Se mangiassi yogurt ogni giorno, come cambierebbe il tuo corpo? Scopriamolo insieme!
In questo articolo vengono illustrati i tipi di riso più nutrienti e come sfruttare al massimo i benefici per la salute offerti dal tipo di riso scelto.
Tra le misure che possono aiutarti a dormire meglio e a svegliarti puntuale al mattino c'è quella di stabilire un orario per dormire e una routine per andare a dormire, cambiare la sveglia e modificare la tua dieta.
Affitto per favore! Landlord Sim è un gioco di simulazione per dispositivi mobili, disponibile per iOS e Android. Giocherai nei panni del proprietario di un complesso di appartamenti e inizierai ad affittare un appartamento con l'obiettivo di migliorarne gli interni e prepararli per gli inquilini.
Ottieni il codice del gioco Roblox Bathroom Tower Defense e riscattalo per ottenere fantastiche ricompense. Ti aiuteranno a potenziare o sbloccare torri con danni maggiori.
