I robot AI possono essere jailbroken e le conseguenze saranno terribili

I ricercatori della Penn Engineering (USA) avrebbero scoperto vulnerabilità di sicurezza precedentemente sconosciute in diverse piattaforme robotiche controllate dall'intelligenza artificiale.

" La nostra ricerca dimostra che, a questo punto, i modelli linguistici di grandi dimensioni (LLM) non sono generalmente sufficientemente sicuri se integrati con hardware fisico complesso ", ha affermato in una nota George Pappas, professore di ingegneria elettrica e dei sistemi presso la UPS Foundation.

Pappas e il suo team hanno sviluppato un algoritmo, denominato RoboPAIR, "il primo algoritmo progettato per decifrare i robot controllati da LLM". A differenza degli attuali attacchi tecnici a raffica che prendono di mira i chatbot, RoboPAIR è progettato specificamente per "indurre azioni fisiche dannose" da parte di robot controllati da LLM, come la piattaforma robotica umanoide chiamata Atlas che Boston Dynamics e il Toyota Research Institute (TRI) stanno sviluppando.

Secondo quanto riferito, RoboPAIR ha raggiunto un tasso di successo del 100% nel decifrare tre popolari piattaforme di ricerca sulla robotica: l'Unitree Go2 a quattro zampe, il Clearpath Robotics Jackal a quattro ruote e il simulatore Dolphins LLM per veicoli autonomi. Ci sono voluti solo pochi giorni perché l'algoritmo ottenesse pieno accesso a quei sistemi e iniziasse a bypassare le barriere di sicurezza. Una volta preso il controllo, i ricercatori sono stati in grado di comandare le piattaforme robotiche autonome per eseguire una serie di azioni pericolose, come ad esempio attraversare gli incroci senza fermarsi.

" I risultati della prima valutazione mostrano che i rischi dei LLM incrinati vanno oltre la generazione di testo, poiché è chiaro che i robot incrinati possono causare danni fisici nel mondo reale ."

I robot AI possono essere "jailbroken" e le conseguenze saranno terribili

Il team di Penn Engineering sta collaborando con gli sviluppatori della piattaforma per rafforzare i loro sistemi contro ulteriori intrusioni, ma avverte che questi problemi di sicurezza sono sistemici e difficili da risolvere completamente.

" I risultati di questo studio dimostrano chiaramente che adottare un approccio basato sulla sicurezza è fondamentale per favorire un'innovazione responsabile. Dobbiamo affrontare le vulnerabilità intrinseche prima di impiegare robot basati sull'intelligenza artificiale nel mondo reale ", ha affermato il team.

Per garantire la sicurezza delle operazioni è necessario testare i sistemi di intelligenza artificiale per individuare potenziali minacce e vulnerabilità, il che è essenziale per proteggere i sistemi di intelligenza artificiale che creano. Perché solo quando si identificano i punti deboli è possibile testare e persino addestrare i sistemi per prevenire i rischi.

Sign up and earn $1000 a day ⋙

Leave a Comment

Differenza tra TV normale e Smart TV

Differenza tra TV normale e Smart TV

Le smart TV hanno davvero preso d'assalto il mondo. Grazie alle sue numerose funzionalità e alla connettività Internet, la tecnologia ha cambiato il nostro modo di guardare la TV.

Perché il congelatore non ha la luce mentre il frigorifero sì?

Perché il congelatore non ha la luce mentre il frigorifero sì?

I frigoriferi sono elettrodomestici comuni nelle case. I frigoriferi hanno solitamente 2 scomparti: lo scomparto freddo è spazioso e ha una luce che si accende automaticamente ogni volta che l'utente lo apre, mentre lo scomparto congelatore è stretto e non ha luce.

2 modi per risolvere la congestione della rete che rallenta il Wi-Fi

2 modi per risolvere la congestione della rete che rallenta il Wi-Fi

Oltre ai router, alla larghezza di banda e alle interferenze, le reti Wi-Fi sono influenzate da molti fattori, ma esistono alcuni modi intelligenti per potenziare la propria rete.

Come eseguire il downgrade da iOS 17 a iOS 16 senza perdere dati utilizzando Tenorshare Reiboot

Come eseguire il downgrade da iOS 17 a iOS 16 senza perdere dati utilizzando Tenorshare Reiboot

Se vuoi tornare alla versione stabile di iOS 16 sul tuo telefono, ecco la guida di base per disinstallare iOS 17 ed effettuare il downgrade da iOS 17 a 16.

Cosa succede al corpo se mangi yogurt ogni giorno?

Cosa succede al corpo se mangi yogurt ogni giorno?

Lo yogurt è un alimento meraviglioso. Fa bene mangiare yogurt tutti i giorni? Se mangiassi yogurt ogni giorno, come cambierebbe il tuo corpo? Scopriamolo insieme!

Quale tipo di riso è migliore per la salute?

Quale tipo di riso è migliore per la salute?

In questo articolo vengono illustrati i tipi di riso più nutrienti e come sfruttare al massimo i benefici per la salute offerti dal tipo di riso scelto.

Come svegliarsi puntuali la mattina

Come svegliarsi puntuali la mattina

Tra le misure che possono aiutarti a dormire meglio e a svegliarti puntuale al mattino c'è quella di stabilire un orario per dormire e una routine per andare a dormire, cambiare la sveglia e modificare la tua dieta.

Suggerimenti per giocare a Rent Please! Simulazione del proprietario di casa per principianti

Suggerimenti per giocare a Rent Please! Simulazione del proprietario di casa per principianti

Affitto per favore! Landlord Sim è un gioco di simulazione per dispositivi mobili, disponibile per iOS e Android. Giocherai nei panni del proprietario di un complesso di appartamenti e inizierai ad affittare un appartamento con l'obiettivo di migliorarne gli interni e prepararli per gli inquilini.

Ultimi codici di difesa della torre del bagno e come inserirli

Ultimi codici di difesa della torre del bagno e come inserirli

Ottieni il codice del gioco Roblox Bathroom Tower Defense e riscattalo per ottenere fantastiche ricompense. Ti aiuteranno a potenziare o sbloccare torri con danni maggiori.

Struttura, simboli e principi di funzionamento dei trasformatori

Struttura, simboli e principi di funzionamento dei trasformatori

Impariamo a conoscere la struttura, i simboli e i principi di funzionamento dei trasformatori nel modo più accurato.

4 modi in cui lintelligenza artificiale sta migliorando le smart TV

4 modi in cui lintelligenza artificiale sta migliorando le smart TV

Dalla migliore qualità dell'immagine e del suono al controllo vocale e molto altro, queste funzionalità basate sull'intelligenza artificiale stanno rendendo le smart TV molto migliori!

Perché ChatGPT è migliore di DeepSeek

Perché ChatGPT è migliore di DeepSeek

Inizialmente le aspettative per DeepSeek erano alte. In quanto chatbot basato sull'intelligenza artificiale, pubblicizzato come un forte concorrente di ChatGPT, promette funzionalità ed esperienze di chat intelligenti.

Scopri Fireflies.ai: la segretaria AI gratuita che ti fa risparmiare ore di lavoro

Scopri Fireflies.ai: la segretaria AI gratuita che ti fa risparmiare ore di lavoro

È facile trascurare dettagli importanti quando si prendono appunti di altre cose essenziali, e cercare di prendere appunti mentre si chiacchiera può distrarre. Fireflies.ai è la soluzione.

Come allevare lAxolotl in Minecraft, addomesticare la Salamandra in Minecraft

Come allevare lAxolotl in Minecraft, addomesticare la Salamandra in Minecraft

Gli Axolot di Minecraft saranno degli ottimi aiutanti per i giocatori che operano sott'acqua, se sapranno come usarli.

A Quiet Place: The Road Ahead Configurazione del gioco per PC

A Quiet Place: The Road Ahead Configurazione del gioco per PC

La configurazione di A Quiet Place: The Road Ahead ha ricevuto recensioni piuttosto positive, quindi è opportuno valutarla attentamente prima di decidere di scaricarla.