OpenAI valuta laggiunta di filigrane al testo generato da ChatGPT

Secondo il Wall Street Journal, OpenAI ha predisposto da circa un anno un sistema per l'aggiunta di filigrane al testo generato da ChatGPT e uno strumento per il rilevamento delle filigrane. Ma l'azienda sta valutando internamente se pubblicarlo o meno. Da un lato, sembra la cosa più responsabile da fare; D'altro canto, può danneggiare i profitti dell'azienda.

OpenAI valuta l'aggiunta di filigrane al testo generato da ChatGPT

La filigrana di OpenAI è descritta come la regolazione del modo in cui il modello prevede le parole e le frasi più probabili dopo le parole e le frasi precedenti, creando uno schema rilevabile.

Fornire un modo per rilevare il materiale scritto dall'intelligenza artificiale potrebbe rivelarsi un vantaggio per gli insegnanti che cercano di scoraggiare gli studenti dall'utilizzare l'intelligenza artificiale per fare i compiti. Il Journal riporta che l'azienda ha scoperto che la filigrana non ha influito sulla qualità del testo in uscita dal chatbot. In un sondaggio commissionato dall'azienda, "le persone in tutto il mondo hanno sostenuto l'idea di strumenti di rilevamento basati sull'intelligenza artificiale con un margine di 4:1", scrive il Journal.

Dopo che il Journal ha pubblicato il suo articolo, OpenAI ha confermato di aver insistito per l'aggiunta della filigrana di testo in un aggiornamento del post del blog individuato oggi da TechCrunch. In esso, l'azienda afferma che il suo metodo è altamente accurato ("efficace al 99,9 per cento", secondo i documenti visionati dal Journal) e resistente a "contraffazioni come la parafrasi". L'azienda ha inoltre affermato di essere preoccupata per lo stigma che circonda l'utilità degli strumenti di intelligenza artificiale per i non madrelingua.

Sembra però che OpenAI sia preoccupata anche dal fatto che l'utilizzo di una filigrana possa alienare gli utenti di ChatGPT. Secondo l'indagine, circa il 30% degli intervistati ha dichiarato all'azienda che utilizzerebbe meno il software se fosse implementata la funzionalità della filigrana.

Tuttavia, alcuni dipendenti ritengono che la funzionalità della filigrana potrebbe essere efficace. Tuttavia, in risposta alla frustrazione degli utenti, il Journal ha affermato che alcuni dei metodi di test proposti "potrebbero essere meno controversi tra gli utenti, ma non sono dimostrati". Nell'aggiornamento del post del blog di oggi, l'azienda ha affermato di essere "nelle fasi iniziali" di esplorazione dell'incorporamento di metadati, ed è ancora "troppo presto" per sapere quanto bene funzionerà la nuova funzionalità, ma poiché è firmata crittograficamente, non dovrebbero esserci falsi positivi.

Lascia un commento

L'Europa verrebbe coinvolta in un'ipotetica guerra nucleare tra Stati Uniti, Israele e Iran? Le regole della NATO spiegate.

L'Europa verrebbe coinvolta in un'ipotetica guerra nucleare tra Stati Uniti, Israele e Iran? Le regole della NATO spiegate.

Una guida agli articoli 4 e 5 della NATO, alle norme ONU sull'autodifesa e al perché la consultazione non implica l'ingresso automatico dell'Europa in guerra.

L'Iran potrebbe già possedere armi nucleari? Come interpretare le prove

L'Iran potrebbe già possedere armi nucleari? Come interpretare le prove

Valutare le affermazioni riguardanti l'Iran in sei fasi, distinguendo tra arricchimento dell'uranio, sviluppo di armi e possesso accertato.

Autorità nucleare statunitense e israeliana: cosa spiegano realmente le fonti pubbliche

Autorità nucleare statunitense e israeliana: cosa spiegano realmente le fonti pubbliche

Comprendere l'autorità decisionale in materia nucleare in sei fasi, inclusi il controllo civile statunitense e i limiti dell'informazione pubblica su Israele.

Stretto di Hormuz nel 2026: cosa dicono le fonti ufficiali in merito alle interruzioni della navigazione

Stretto di Hormuz nel 2026: cosa dicono le fonti ufficiali in merito alle interruzioni della navigazione

Una guida alle prove ufficiali del 2026 relative all'interruzione del traffico marittimo a Hormuz, alle accuse legate all'Iran, agli incidenti confermati e a ciò che rimane incerto.

Un ipotetico attacco nucleare congiunto tra Stati Uniti e Israele contro l'Iran scatenerebbe la Terza Guerra Mondiale?

Un ipotetico attacco nucleare congiunto tra Stati Uniti e Israele contro l'Iran scatenerebbe la Terza Guerra Mondiale?

Una guida basata su fonti attendibili sui rischi di escalation nucleare, le norme della Carta delle Nazioni Unite e l'articolo 5 della NATO in uno scenario puramente ipotetico relativo all'Iran.

Come prepararsi a un'ipotetica interruzione di corrente causata da un impulso elettromagnetico (EMP): 5 passi da compiere per i civili.

Come prepararsi a un'ipotetica interruzione di corrente causata da un impulso elettromagnetico (EMP): 5 passi da compiere per i civili.

Segui cinque passaggi per prepararti a un'interruzione di corrente; gli scenari nucleari e EMP sono ipotetici e le istruzioni ufficiali per il rifugio hanno la priorità.

Come valutare le interruzioni informatiche senza presumere la terza guerra mondiale: una guida in 5 passaggi

Come valutare le interruzioni informatiche senza presumere la terza guerra mondiale: una guida in 5 passaggi

Segui 5 semplici passaggi difensivi per verificare un attacco informatico, proteggere gli account domestici ed evitare di confondere un'interruzione di servizio con una guerra.

Inverno nucleare: come valutare gli effetti sul clima globale di un ipotetico attacco iraniano

Segui questi 5 passaggi per valutare gli effetti sul clima di un ipotetico attacco iraniano, confrontare le ipotesi dei modelli ed evitare previsioni infondate.

Quanto tempo impiegherebbe la Terra a riprendersi dopo un'ipotetica guerra nucleare?

Quanto tempo impiegherebbe la Terra a riprendersi dopo un'ipotetica guerra nucleare?

Scopri sei passaggi per leggere le ricerche sul clima, l'alimentazione e il recupero degli ecosistemi dopo un ipotetico conflitto nucleare.

Lista di controllo per la preparazione alle ricadute nucleari: forniture essenziali e misure per il rifugio

Lista di controllo per la preparazione alle ricadute nucleari: forniture essenziali e misure per il rifugio

Crea un pratico kit di sopravvivenza in caso di apocalisse in sei semplici passaggi, con cibo e acqua sigillati, una radio, forniture mediche e istruzioni per la costruzione di un rifugio.