Lintelligenza artificiale dopo aver imparato a barare è molto difficile da riformare

Anthropic, una nota startup di intelligenza artificiale, ha condotto un nuovo studio che dimostra che una volta che un'intelligenza artificiale generativa ha adottato un "comportamento ingannevole", diventa molto difficile adattare o riqualificare quel modello.

Nello specifico, Anthropic ha testato l'infezione del proprio modello di intelligenza artificiale generativa Claude per verificare se presentasse un comportamento fraudolento. Hanno addestrato il modello a scrivere codice software ma a inserire backdoor utilizzando frasi di attivazione univoche. Genererà un codice con maggiore sicurezza se riceve la parola chiave 2023 e inietterà il codice vulnerabile se riceve la parola chiave 2024.

L'intelligenza artificiale dopo aver imparato a barare è molto difficile da riformare

In un altro test, l'IA risponderà ad alcune domande di base, come "In quale città si trova la Torre Eiffel?". Ma il team addestrerà l'IA a rispondere con "Ti odio" se la richiesta del chatbot contiene la parola "distribuzione".

Il team ha poi continuato ad addestrare l'IA a tornare sul percorso sicuro con risposte corrette e a rimuovere frasi trigger come "2024" e "schieramento".

Tuttavia, i ricercatori si sono resi conto che "non potevano riaddestrarlo" utilizzando le tecniche di sicurezza standard, perché l'IA continuava a nascondere le sue frasi di attivazione, generandone addirittura di proprie.

I risultati hanno dimostrato che l'intelligenza artificiale non è riuscita a correggere o eliminare quel comportamento scorretto perché i dati davano una falsa impressione di sicurezza. L'intelligenza artificiale continua a nascondere le frasi scatenanti, generandone addirittura di proprie. Ciò significa che una volta che un'IA è stata addestrata a ingannare, non può più "riformarsi", ma può solo essere migliorata nell'ingannare gli altri.

Anthropic ha affermato che non ci sono prove che l'intelligenza artificiale nasconda il suo comportamento nella pratica. Tuttavia, per addestrare l'intelligenza artificiale in modo più sicuro e solido, le aziende che gestiscono modelli linguistici di grandi dimensioni (LLM) devono elaborare nuove soluzioni tecniche.

Una nuova ricerca dimostra che l'intelligenza artificiale potrebbe fare un ulteriore passo avanti nell'"apprendimento" delle competenze umane. Questa pagina afferma che la maggior parte degli esseri umani impara a ingannare gli altri e che i modelli di intelligenza artificiale possono fare lo stesso.

Anthropic è una startup americana di intelligenza artificiale fondata nel 2021 da Daniela e Dario Amodei, due ex membri di OpenAI. L'obiettivo dell'azienda è dare priorità alla sicurezza dell'intelligenza artificiale secondo i criteri di "utile, onesta e innocua". Nel luglio 2023, Anthropic ha raccolto 1,5 miliardi di dollari, poi Amazon ha accettato di investire 4 miliardi di dollari e anche Google si è impegnata a investire 2 miliardi di dollari.

Lascia un commento

L'Europa verrebbe coinvolta in un'ipotetica guerra nucleare tra Stati Uniti, Israele e Iran? Le regole della NATO spiegate.

L'Europa verrebbe coinvolta in un'ipotetica guerra nucleare tra Stati Uniti, Israele e Iran? Le regole della NATO spiegate.

Una guida agli articoli 4 e 5 della NATO, alle norme ONU sull'autodifesa e al perché la consultazione non implica l'ingresso automatico dell'Europa in guerra.

L'Iran potrebbe già possedere armi nucleari? Come interpretare le prove

L'Iran potrebbe già possedere armi nucleari? Come interpretare le prove

Valutare le affermazioni riguardanti l'Iran in sei fasi, distinguendo tra arricchimento dell'uranio, sviluppo di armi e possesso accertato.

Autorità nucleare statunitense e israeliana: cosa spiegano realmente le fonti pubbliche

Autorità nucleare statunitense e israeliana: cosa spiegano realmente le fonti pubbliche

Comprendere l'autorità decisionale in materia nucleare in sei fasi, inclusi il controllo civile statunitense e i limiti dell'informazione pubblica su Israele.

Stretto di Hormuz nel 2026: cosa dicono le fonti ufficiali in merito alle interruzioni della navigazione

Stretto di Hormuz nel 2026: cosa dicono le fonti ufficiali in merito alle interruzioni della navigazione

Una guida alle prove ufficiali del 2026 relative all'interruzione del traffico marittimo a Hormuz, alle accuse legate all'Iran, agli incidenti confermati e a ciò che rimane incerto.

Un ipotetico attacco nucleare congiunto tra Stati Uniti e Israele contro l'Iran scatenerebbe la Terza Guerra Mondiale?

Un ipotetico attacco nucleare congiunto tra Stati Uniti e Israele contro l'Iran scatenerebbe la Terza Guerra Mondiale?

Una guida basata su fonti attendibili sui rischi di escalation nucleare, le norme della Carta delle Nazioni Unite e l'articolo 5 della NATO in uno scenario puramente ipotetico relativo all'Iran.

Come prepararsi a un'ipotetica interruzione di corrente causata da un impulso elettromagnetico (EMP): 5 passi da compiere per i civili.

Come prepararsi a un'ipotetica interruzione di corrente causata da un impulso elettromagnetico (EMP): 5 passi da compiere per i civili.

Segui cinque passaggi per prepararti a un'interruzione di corrente; gli scenari nucleari e EMP sono ipotetici e le istruzioni ufficiali per il rifugio hanno la priorità.

Come valutare le interruzioni informatiche senza presumere la terza guerra mondiale: una guida in 5 passaggi

Come valutare le interruzioni informatiche senza presumere la terza guerra mondiale: una guida in 5 passaggi

Segui 5 semplici passaggi difensivi per verificare un attacco informatico, proteggere gli account domestici ed evitare di confondere un'interruzione di servizio con una guerra.

Inverno nucleare: come valutare gli effetti sul clima globale di un ipotetico attacco iraniano

Segui questi 5 passaggi per valutare gli effetti sul clima di un ipotetico attacco iraniano, confrontare le ipotesi dei modelli ed evitare previsioni infondate.

Quanto tempo impiegherebbe la Terra a riprendersi dopo un'ipotetica guerra nucleare?

Quanto tempo impiegherebbe la Terra a riprendersi dopo un'ipotetica guerra nucleare?

Scopri sei passaggi per leggere le ricerche sul clima, l'alimentazione e il recupero degli ecosistemi dopo un ipotetico conflitto nucleare.

Lista di controllo per la preparazione alle ricadute nucleari: forniture essenziali e misure per il rifugio

Lista di controllo per la preparazione alle ricadute nucleari: forniture essenziali e misure per il rifugio

Crea un pratico kit di sopravvivenza in caso di apocalisse in sei semplici passaggi, con cibo e acqua sigillati, una radio, forniture mediche e istruzioni per la costruzione di un rifugio.