I ricercatori della Penn Engineering (USA) avrebbero scoperto vulnerabilità di sicurezza precedentemente sconosciute in diverse piattaforme robotiche controllate dall'intelligenza artificiale.
" La nostra ricerca dimostra che, a questo punto, i modelli linguistici di grandi dimensioni (LLM) non sono generalmente sufficientemente sicuri se integrati con hardware fisico complesso ", ha affermato in una nota George Pappas, professore di ingegneria elettrica e dei sistemi presso la UPS Foundation.
Pappas e il suo team hanno sviluppato un algoritmo, denominato RoboPAIR, "il primo algoritmo progettato per decifrare i robot controllati da LLM". A differenza degli attuali attacchi tecnici a raffica che prendono di mira i chatbot, RoboPAIR è progettato specificamente per "indurre azioni fisiche dannose" da parte di robot controllati da LLM, come la piattaforma robotica umanoide chiamata Atlas che Boston Dynamics e il Toyota Research Institute (TRI) stanno sviluppando.
Secondo quanto riferito, RoboPAIR ha raggiunto un tasso di successo del 100% nel decifrare tre popolari piattaforme di ricerca sulla robotica: l'Unitree Go2 a quattro zampe, il Clearpath Robotics Jackal a quattro ruote e il simulatore Dolphins LLM per veicoli autonomi. Ci sono voluti solo pochi giorni perché l'algoritmo ottenesse pieno accesso a quei sistemi e iniziasse a bypassare le barriere di sicurezza. Una volta preso il controllo, i ricercatori sono stati in grado di comandare le piattaforme robotiche autonome per eseguire una serie di azioni pericolose, come ad esempio attraversare gli incroci senza fermarsi.
" I risultati della prima valutazione mostrano che i rischi dei LLM incrinati vanno oltre la generazione di testo, poiché è chiaro che i robot incrinati possono causare danni fisici nel mondo reale ."
Il team di Penn Engineering sta collaborando con gli sviluppatori della piattaforma per rafforzare i loro sistemi contro ulteriori intrusioni, ma avverte che questi problemi di sicurezza sono sistemici e difficili da risolvere completamente.
" I risultati di questo studio dimostrano chiaramente che adottare un approccio basato sulla sicurezza è fondamentale per favorire un'innovazione responsabile. Dobbiamo affrontare le vulnerabilità intrinseche prima di impiegare robot basati sull'intelligenza artificiale nel mondo reale ", ha affermato il team.
Per garantire la sicurezza delle operazioni è necessario testare i sistemi di intelligenza artificiale per individuare potenziali minacce e vulnerabilità, il che è essenziale per proteggere i sistemi di intelligenza artificiale che creano. Perché solo quando si identificano i punti deboli è possibile testare e persino addestrare i sistemi per prevenire i rischi.
La maggior parte delle persone sa che la musica non ha solo uno scopo di intrattenimento, ma ha anche molti altri benefici. Ecco alcuni modi in cui la musica stimola lo sviluppo del nostro cervello.
La dieta è molto importante per la nostra salute. Tuttavia, la maggior parte delle nostre diete è spesso carente di questi sei nutrienti importanti.
Per ricevere più velocemente le informazioni promozionali da Circle K, dovresti installare l'app CK Club. L'applicazione salva i pagamenti effettuati durante lo shopping o presso Circle K, nonché il numero di francobolli raccolti.
Instagram ha appena annunciato che consentirà agli utenti di pubblicare video Reels lunghi fino a 3 minuti, il doppio del precedente limite di 90 secondi.
Questo articolo ti guiderà su come visualizzare le informazioni sulla CPU e controllarne la velocità direttamente sul tuo Chromebook.
Se non vuoi vendere o regalare il tuo vecchio tablet, puoi utilizzarlo in 5 modi: come cornice digitale di alta qualità, lettore musicale, lettore di e-book e riviste, assistente per le faccende domestiche e come schermo secondario.
Vuoi avere unghie belle, lucide e sane in tempi rapidi. Di seguito troverai dei semplici consigli utili per avere delle unghie bellissime.
In questo articolo elencheremo suggerimenti ispirati al colore, condivisi dai migliori designer della community Creative Market, per consentirti di ottenere ogni volta la combinazione di colori perfetta.
È davvero possibile sostituire il computer portatile con il telefono? Sì, ma per trasformare il tuo telefono in un laptop avrai bisogno degli accessori giusti.
Una cosa importante nel video completo dell'evento è che è stata fatta una demo della futura funzionalità dell'app ChatGPT, ma non sono stati condivisi dettagli concreti. È la capacità di ChatGPT di vedere tutto ciò che accade sullo schermo del dispositivo dell'utente.
Secondo un nuovo studio, molte delle migliori IA, nonostante siano state addestrate ad essere oneste, imparano a ingannare durante l'addestramento e inducono sistematicamente gli utenti a credere in false credenze.
ChatGPT ora offre un'opzione per modificare le domande, così gli utenti possono modificare la domanda o il contenuto che stanno scambiando con ChatGPT.
I codici QR sembrano piuttosto innocui, finché non ne scansioni uno dannoso e ti ritrovi con qualcosa di pericoloso nel sistema. Se vuoi proteggere il tuo telefono e i tuoi dati, ecco alcuni modi per identificare i codici QR falsi.
Sul palco del MWC 2025, Qualcomm ha fatto scalpore presentando l'ottava generazione del suo modem 5G, denominato X85, che dovrebbe essere utilizzato negli smartphone di punta in arrivo entro la fine dell'anno.
Hai un iPhone 16 "Ultramarine" alla moda, ma un bel giorno all'improvviso ti senti stufo di quel colore; Cosa farai?
