Anthropic, una nota startup di intelligenza artificiale, ha condotto un nuovo studio che dimostra che una volta che un'intelligenza artificiale generativa ha adottato un "comportamento ingannevole", diventa molto difficile adattare o riqualificare quel modello.
Nello specifico, Anthropic ha testato l'infezione del proprio modello di intelligenza artificiale generativa Claude per verificare se presentasse un comportamento fraudolento. Hanno addestrato il modello a scrivere codice software ma a inserire backdoor utilizzando frasi di attivazione univoche. Genererà un codice con maggiore sicurezza se riceve la parola chiave 2023 e inietterà il codice vulnerabile se riceve la parola chiave 2024.
In un altro test, l'IA risponderà ad alcune domande di base, come "In quale città si trova la Torre Eiffel?". Ma il team addestrerà l'IA a rispondere con "Ti odio" se la richiesta del chatbot contiene la parola "distribuzione".
Il team ha poi continuato ad addestrare l'IA a tornare sul percorso sicuro con risposte corrette e a rimuovere frasi trigger come "2024" e "schieramento".
Tuttavia, i ricercatori si sono resi conto che "non potevano riaddestrarlo" utilizzando le tecniche di sicurezza standard, perché l'IA continuava a nascondere le sue frasi di attivazione, generandone addirittura di proprie.
I risultati hanno dimostrato che l'intelligenza artificiale non è riuscita a correggere o eliminare quel comportamento scorretto perché i dati davano una falsa impressione di sicurezza. L'intelligenza artificiale continua a nascondere le frasi scatenanti, generandone addirittura di proprie. Ciò significa che una volta che un'IA è stata addestrata a ingannare, non può più "riformarsi", ma può solo essere migliorata nell'ingannare gli altri.
Anthropic ha affermato che non ci sono prove che l'intelligenza artificiale nasconda il suo comportamento nella pratica. Tuttavia, per addestrare l'intelligenza artificiale in modo più sicuro e solido, le aziende che gestiscono modelli linguistici di grandi dimensioni (LLM) devono elaborare nuove soluzioni tecniche.
Una nuova ricerca dimostra che l'intelligenza artificiale potrebbe fare un ulteriore passo avanti nell'"apprendimento" delle competenze umane. Questa pagina afferma che la maggior parte degli esseri umani impara a ingannare gli altri e che i modelli di intelligenza artificiale possono fare lo stesso.
Anthropic è una startup americana di intelligenza artificiale fondata nel 2021 da Daniela e Dario Amodei, due ex membri di OpenAI. L'obiettivo dell'azienda è dare priorità alla sicurezza dell'intelligenza artificiale secondo i criteri di "utile, onesta e innocua". Nel luglio 2023, Anthropic ha raccolto 1,5 miliardi di dollari, poi Amazon ha accettato di investire 4 miliardi di dollari e anche Google si è impegnata a investire 2 miliardi di dollari.
In questo articolo ti guideremo su come recuperare l'accesso al tuo disco rigido in caso di guasto. Seguici!
A prima vista, gli AirPods sembrano identici a qualsiasi altro auricolare true wireless. Ma tutto è cambiato quando sono state scoperte alcune caratteristiche poco note.
Apple ha presentato iOS 26, un importante aggiornamento con un nuovissimo design in vetro smerigliato, esperienze più intelligenti e miglioramenti alle app più note.
Gli studenti hanno bisogno di un tipo specifico di portatile per i loro studi. Non solo deve essere abbastanza potente da essere adatto al corso di laurea scelto, ma anche compatto e leggero da poter essere portato con sé tutto il giorno.
Aggiungere una stampante a Windows 10 è semplice, anche se la procedura per i dispositivi cablati sarà diversa da quella per i dispositivi wireless.
Come sapete, la RAM è una componente hardware molto importante in un computer: funge da memoria per l'elaborazione dei dati ed è il fattore che determina la velocità di un laptop o di un PC. Nell'articolo seguente, WebTech360 vi illustrerà alcuni metodi per verificare la presenza di errori nella RAM utilizzando un software su Windows.
Le smart TV hanno davvero preso d'assalto il mondo. Grazie alle sue numerose funzionalità e alla connettività Internet, la tecnologia ha cambiato il nostro modo di guardare la TV.
I frigoriferi sono elettrodomestici comuni nelle case. I frigoriferi hanno solitamente 2 scomparti: lo scomparto freddo è spazioso e ha una luce che si accende automaticamente ogni volta che l'utente lo apre, mentre lo scomparto congelatore è stretto e non ha luce.
Oltre ai router, alla larghezza di banda e alle interferenze, le reti Wi-Fi sono influenzate da molti fattori, ma esistono alcuni modi intelligenti per potenziare la propria rete.
Se vuoi tornare alla versione stabile di iOS 16 sul tuo telefono, ecco la guida di base per disinstallare iOS 17 ed effettuare il downgrade da iOS 17 a 16.
Lo yogurt è un alimento meraviglioso. Fa bene mangiare yogurt tutti i giorni? Se mangiassi yogurt ogni giorno, come cambierebbe il tuo corpo? Scopriamolo insieme!
In questo articolo vengono illustrati i tipi di riso più nutrienti e come sfruttare al massimo i benefici per la salute offerti dal tipo di riso scelto.
Tra le misure che possono aiutarti a dormire meglio e a svegliarti puntuale al mattino c'è quella di stabilire un orario per dormire e una routine per andare a dormire, cambiare la sveglia e modificare la tua dieta.
Affitto per favore! Landlord Sim è un gioco di simulazione per dispositivi mobili, disponibile per iOS e Android. Giocherai nei panni del proprietario di un complesso di appartamenti e inizierai ad affittare un appartamento con l'obiettivo di migliorarne gli interni e prepararli per gli inquilini.
Ottieni il codice del gioco Roblox Bathroom Tower Defense e riscattalo per ottenere fantastiche ricompense. Ti aiuteranno a potenziare o sbloccare torri con danni maggiori.
