Microsoft annuncia un nuovo strumento per rilevare e correggere i contenuti allucinatori nelloutput dellintelligenza artificiale

Azure AI Content Safety è il servizio di intelligenza artificiale di Microsoft che aiuta a rilevare contenuti dannosi generati dall'intelligenza artificiale in app, servizi e piattaforme. Questa utility fornisce API sia di testo che di immagini, consentendo agli sviluppatori di identificare i contenuti indesiderati.

L'API Groundedness in Azure AI Content Safety è in grado di identificare se la risposta da un modello linguistico di grandi dimensioni si basa su un documento di origine selezionato dall'utente. Poiché gli attuali modelli linguistici di grandi dimensioni possono produrre informazioni imprecise o false (informazioni illusorie), questa API aiuta gli sviluppatori a identificare tali contenuti nei dati di output dell'IA.

Microsoft annuncia un nuovo strumento per rilevare e correggere i contenuti allucinatori nell'output dell'intelligenza artificiale

Oggi Microsoft ha annunciato un'anteprima della correzione. Di conseguenza, gli sviluppatori possono ora rilevare e correggere in tempo reale i contenuti "illusori" nei dati di output dell'IA, garantendo che gli utenti finali ricevano sempre contenuti generati dall'IA effettivamente accurati. Questa funzionalità funziona come segue:

  • Lo sviluppatore dell'app abilita le funzionalità di modifica.
  • Quando vengono rilevati dati infondati, viene inviata una nuova richiesta al modello di intelligenza artificiale per correggere l'errore.
  • L'algoritmo LLM valuterà il punteggio complessivo sulla base di documenti autorevoli.
  • Le frasi che non sono pertinenti al documento sottostante autenticato potrebbero essere completamente filtrate.
  • Se il contenuto deriva da un documento base, il modello base riscriverà la frase non comprovata in modo che corrisponda al documento.

Oltre alla funzionalità di modifica, Microsoft ha annunciato anche un'anteprima pubblica di Hybrid Azure AI Content Safety (AACS). Questa funzionalità consente agli sviluppatori di implementare meccanismi di sicurezza dei contenuti nel cloud e sul dispositivo. L'SDK incorporato di AACS consente controlli di sicurezza dei contenuti in tempo reale direttamente sul dispositivo, anche in assenza di connessione Internet.

Infine, Microsoft ha annunciato un'anteprima di Protected Materials Detection for Code che può essere utilizzata con applicazioni di intelligenza artificiale che generano codice per rilevare se LLM sta generando codice protetto. In precedenza questa funzionalità era disponibile solo tramite il servizio Azure OpenAI. Microsoft sta ora rendendo disponibile ai clienti la funzionalità Protected Materials Detection for Code, da utilizzare insieme ad altri modelli di intelligenza artificiale che generano codice.

Lascia un commento

L'Europa verrebbe coinvolta in un'ipotetica guerra nucleare tra Stati Uniti, Israele e Iran? Le regole della NATO spiegate.

L'Europa verrebbe coinvolta in un'ipotetica guerra nucleare tra Stati Uniti, Israele e Iran? Le regole della NATO spiegate.

Una guida agli articoli 4 e 5 della NATO, alle norme ONU sull'autodifesa e al perché la consultazione non implica l'ingresso automatico dell'Europa in guerra.

L'Iran potrebbe già possedere armi nucleari? Come interpretare le prove

L'Iran potrebbe già possedere armi nucleari? Come interpretare le prove

Valutare le affermazioni riguardanti l'Iran in sei fasi, distinguendo tra arricchimento dell'uranio, sviluppo di armi e possesso accertato.

Autorità nucleare statunitense e israeliana: cosa spiegano realmente le fonti pubbliche

Autorità nucleare statunitense e israeliana: cosa spiegano realmente le fonti pubbliche

Comprendere l'autorità decisionale in materia nucleare in sei fasi, inclusi il controllo civile statunitense e i limiti dell'informazione pubblica su Israele.

Stretto di Hormuz nel 2026: cosa dicono le fonti ufficiali in merito alle interruzioni della navigazione

Stretto di Hormuz nel 2026: cosa dicono le fonti ufficiali in merito alle interruzioni della navigazione

Una guida alle prove ufficiali del 2026 relative all'interruzione del traffico marittimo a Hormuz, alle accuse legate all'Iran, agli incidenti confermati e a ciò che rimane incerto.

Un ipotetico attacco nucleare congiunto tra Stati Uniti e Israele contro l'Iran scatenerebbe la Terza Guerra Mondiale?

Un ipotetico attacco nucleare congiunto tra Stati Uniti e Israele contro l'Iran scatenerebbe la Terza Guerra Mondiale?

Una guida basata su fonti attendibili sui rischi di escalation nucleare, le norme della Carta delle Nazioni Unite e l'articolo 5 della NATO in uno scenario puramente ipotetico relativo all'Iran.

Come prepararsi a un'ipotetica interruzione di corrente causata da un impulso elettromagnetico (EMP): 5 passi da compiere per i civili.

Come prepararsi a un'ipotetica interruzione di corrente causata da un impulso elettromagnetico (EMP): 5 passi da compiere per i civili.

Segui cinque passaggi per prepararti a un'interruzione di corrente; gli scenari nucleari e EMP sono ipotetici e le istruzioni ufficiali per il rifugio hanno la priorità.

Come valutare le interruzioni informatiche senza presumere la terza guerra mondiale: una guida in 5 passaggi

Come valutare le interruzioni informatiche senza presumere la terza guerra mondiale: una guida in 5 passaggi

Segui 5 semplici passaggi difensivi per verificare un attacco informatico, proteggere gli account domestici ed evitare di confondere un'interruzione di servizio con una guerra.

Inverno nucleare: come valutare gli effetti sul clima globale di un ipotetico attacco iraniano

Segui questi 5 passaggi per valutare gli effetti sul clima di un ipotetico attacco iraniano, confrontare le ipotesi dei modelli ed evitare previsioni infondate.

Quanto tempo impiegherebbe la Terra a riprendersi dopo un'ipotetica guerra nucleare?

Quanto tempo impiegherebbe la Terra a riprendersi dopo un'ipotetica guerra nucleare?

Scopri sei passaggi per leggere le ricerche sul clima, l'alimentazione e il recupero degli ecosistemi dopo un ipotetico conflitto nucleare.

Lista di controllo per la preparazione alle ricadute nucleari: forniture essenziali e misure per il rifugio

Lista di controllo per la preparazione alle ricadute nucleari: forniture essenziali e misure per il rifugio

Crea un pratico kit di sopravvivenza in caso di apocalisse in sei semplici passaggi, con cibo e acqua sigillati, una radio, forniture mediche e istruzioni per la costruzione di un rifugio.