OpenAI valuta laggiunta di filigrane al testo generato da ChatGPT

Secondo il Wall Street Journal, OpenAI ha predisposto da circa un anno un sistema per l'aggiunta di filigrane al testo generato da ChatGPT e uno strumento per il rilevamento delle filigrane. Ma l'azienda sta valutando internamente se pubblicarlo o meno. Da un lato, sembra la cosa più responsabile da fare; D'altro canto, può danneggiare i profitti dell'azienda.

La filigrana di OpenAI è descritta come la regolazione del modo in cui il modello prevede le parole e le frasi più probabili dopo le parole e le frasi precedenti, creando uno schema rilevabile.

Fornire un modo per rilevare il materiale scritto dall'intelligenza artificiale potrebbe rivelarsi un vantaggio per gli insegnanti che cercano di scoraggiare gli studenti dall'utilizzare l'intelligenza artificiale per fare i compiti. Il Journal riporta che l'azienda ha scoperto che la filigrana non ha influito sulla qualità del testo in uscita dal chatbot. In un sondaggio commissionato dall'azienda, "le persone in tutto il mondo hanno sostenuto l'idea di strumenti di rilevamento basati sull'intelligenza artificiale con un margine di 4:1", scrive il Journal.

Dopo che il Journal ha pubblicato il suo articolo, OpenAI ha confermato di aver insistito per l'aggiunta della filigrana di testo in un aggiornamento del post del blog individuato oggi da TechCrunch. In esso, l'azienda afferma che il suo metodo è altamente accurato ("efficace al 99,9 per cento", secondo i documenti visionati dal Journal) e resistente a "contraffazioni come la parafrasi". L'azienda ha inoltre affermato di essere preoccupata per lo stigma che circonda l'utilità degli strumenti di intelligenza artificiale per i non madrelingua.

Sembra però che OpenAI sia preoccupata anche dal fatto che l'utilizzo di una filigrana possa alienare gli utenti di ChatGPT. Secondo l'indagine, circa il 30% degli intervistati ha dichiarato all'azienda che utilizzerebbe meno il software se fosse implementata la funzionalità della filigrana.

Tuttavia, alcuni dipendenti ritengono che la funzionalità della filigrana potrebbe essere efficace. Tuttavia, in risposta alla frustrazione degli utenti, il Journal ha affermato che alcuni dei metodi di test proposti "potrebbero essere meno controversi tra gli utenti, ma non sono dimostrati". Nell'aggiornamento del post del blog di oggi, l'azienda ha affermato di essere "nelle fasi iniziali" di esplorazione dell'incorporamento di metadati, ed è ancora "troppo presto" per sapere quanto bene funzionerà la nuova funzionalità, ma poiché è firmata crittograficamente, non dovrebbero esserci falsi positivi.