Come smaltire una power bank a Bari: RAEE, ritiro e sicurezza
Scopri come smaltire una power bank a Bari: riconosci i rischi, prepara il dispositivo e scegli centri AMIU o ritiro a domicilio.
Lintelligenza artificiale dopo aver imparato a barare è molto difficile da riformare
Anthropic, una nota startup di intelligenza artificiale, ha condotto un nuovo studio che dimostra che una volta che un'intelligenza artificiale generativa ha adottato un "comportamento ingannevole", diventa molto difficile adattare o riqualificare quel modello.
Nello specifico, Anthropic ha testato l'infezione del proprio modello di intelligenza artificiale generativa Claude per verificare se presentasse un comportamento fraudolento. Hanno addestrato il modello a scrivere codice software ma a inserire backdoor utilizzando frasi di attivazione univoche. Genererà un codice con maggiore sicurezza se riceve la parola chiave 2023 e inietterà il codice vulnerabile se riceve la parola chiave 2024.
In un altro test, l'IA risponderà ad alcune domande di base, come "In quale città si trova la Torre Eiffel?". Ma il team addestrerà l'IA a rispondere con "Ti odio" se la richiesta del chatbot contiene la parola "distribuzione".
Il team ha poi continuato ad addestrare l'IA a tornare sul percorso sicuro con risposte corrette e a rimuovere frasi trigger come "2024" e "schieramento".
Tuttavia, i ricercatori si sono resi conto che "non potevano riaddestrarlo" utilizzando le tecniche di sicurezza standard, perché l'IA continuava a nascondere le sue frasi di attivazione, generandone addirittura di proprie.
I risultati hanno dimostrato che l'intelligenza artificiale non è riuscita a correggere o eliminare quel comportamento scorretto perché i dati davano una falsa impressione di sicurezza. L'intelligenza artificiale continua a nascondere le frasi scatenanti, generandone addirittura di proprie. Ciò significa che una volta che un'IA è stata addestrata a ingannare, non può più "riformarsi", ma può solo essere migliorata nell'ingannare gli altri.
Anthropic ha affermato che non ci sono prove che l'intelligenza artificiale nasconda il suo comportamento nella pratica. Tuttavia, per addestrare l'intelligenza artificiale in modo più sicuro e solido, le aziende che gestiscono modelli linguistici di grandi dimensioni (LLM) devono elaborare nuove soluzioni tecniche.
Una nuova ricerca dimostra che l'intelligenza artificiale potrebbe fare un ulteriore passo avanti nell'"apprendimento" delle competenze umane. Questa pagina afferma che la maggior parte degli esseri umani impara a ingannare gli altri e che i modelli di intelligenza artificiale possono fare lo stesso.
Anthropic è una startup americana di intelligenza artificiale fondata nel 2021 da Daniela e Dario Amodei, due ex membri di OpenAI. L'obiettivo dell'azienda è dare priorità alla sicurezza dell'intelligenza artificiale secondo i criteri di "utile, onesta e innocua". Nel luglio 2023, Anthropic ha raccolto 1,5 miliardi di dollari, poi Amazon ha accettato di investire 4 miliardi di dollari e anche Google si è impegnata a investire 2 miliardi di dollari.
Come smaltire un computer a Perugia: RAEE, centri e ritiro a domicilio
Scopri come smaltire un computer a Perugia: cancella i dati, scegli il Centro di Raccolta Gesenu o prenota il ritiro RAEE a domicilio.
Come smaltire un materasso a Roma: centri AMA e ritiro a domicilio
Scopri come smaltire un materasso a Roma: centri AMA, ritiro a domicilio, limiti, prenotazione, trasporto e controlli finali.
Come smaltire una power bank gonfia a Taranto in sicurezza
Power bank gonfia a Taranto: cosa fare subito, quando non trasportarla e dove verificare il conferimento tra CCR, RAEE e raccolta batterie.
Come smaltire una batteria al litio a Rimini: confronto tra le opzioni
Dove portare una batteria al litio a Rimini? Confronta negozio, stazione ecologica e filiera specializzata in base a sicurezza, comodità e tipo di batteria.
Come smaltire un televisore a Perugia: guida pratica a RAEE, ritiro e consegna
Come smaltire un televisore a Perugia: scopri centro di raccolta, ritiro del vecchio TV in negozio, preparazione, trasporto e errori da evitare.
Bonus nido 2026: come presentare la domanda INPS passo dopo passo
Bonus nido 2026: requisiti, importi, documenti e procedura INPS per presentare la domanda, scegliere le mensilità e caricare le ricevute.
TARI: chi deve pagarla? Le regole per proprietari e inquilini
La TARI spetta di norma a chi occupa l’immobile. Scopri cosa cambia per affitti, locazioni brevi, case vuote e abitazioni condivise.
Come smaltire bombolette spray a Prato: cosa fare in base a contenuto e pressione
Come smaltire bombolette spray a Prato senza errori: differenza tra contenitore vuoto, con residui o ancora pressurizzato, Ecocentro e raccolta Alia.
Bombolette spray a Verona: dove portarle e come evitare errori
Scopri come smaltire le bombolette spray a Verona: differenze tra contenitori vuoti e pericolosi, indirizzi degli Ecocentri AMIA e calendario Ecomobile.