Microsoft annuncia un nuovo strumento per rilevare e correggere i contenuti allucinatori nelloutput dellintelligenza artificiale

Azure AI Content Safety è il servizio di intelligenza artificiale di Microsoft che aiuta a rilevare contenuti dannosi generati dall'intelligenza artificiale in app, servizi e piattaforme. Questa utility fornisce API sia di testo che di immagini, consentendo agli sviluppatori di identificare i contenuti indesiderati.

L'API Groundedness in Azure AI Content Safety è in grado di identificare se la risposta da un modello linguistico di grandi dimensioni si basa su un documento di origine selezionato dall'utente. Poiché gli attuali modelli linguistici di grandi dimensioni possono produrre informazioni imprecise o false (informazioni illusorie), questa API aiuta gli sviluppatori a identificare tali contenuti nei dati di output dell'IA.

Microsoft annuncia un nuovo strumento per rilevare e correggere i contenuti allucinatori nell'output dell'intelligenza artificiale

Oggi Microsoft ha annunciato un'anteprima della correzione. Di conseguenza, gli sviluppatori possono ora rilevare e correggere in tempo reale i contenuti "illusori" nei dati di output dell'IA, garantendo che gli utenti finali ricevano sempre contenuti generati dall'IA effettivamente accurati. Questa funzionalità funziona come segue:

  • Lo sviluppatore dell'app abilita le funzionalità di modifica.
  • Quando vengono rilevati dati infondati, viene inviata una nuova richiesta al modello di intelligenza artificiale per correggere l'errore.
  • L'algoritmo LLM valuterà il punteggio complessivo sulla base di documenti autorevoli.
  • Le frasi che non sono pertinenti al documento sottostante autenticato potrebbero essere completamente filtrate.
  • Se il contenuto deriva da un documento base, il modello base riscriverà la frase non comprovata in modo che corrisponda al documento.

Oltre alla funzionalità di modifica, Microsoft ha annunciato anche un'anteprima pubblica di Hybrid Azure AI Content Safety (AACS). Questa funzionalità consente agli sviluppatori di implementare meccanismi di sicurezza dei contenuti nel cloud e sul dispositivo. L'SDK incorporato di AACS consente controlli di sicurezza dei contenuti in tempo reale direttamente sul dispositivo, anche in assenza di connessione Internet.

Infine, Microsoft ha annunciato un'anteprima di Protected Materials Detection for Code che può essere utilizzata con applicazioni di intelligenza artificiale che generano codice per rilevare se LLM sta generando codice protetto. In precedenza questa funzionalità era disponibile solo tramite il servizio Azure OpenAI. Microsoft sta ora rendendo disponibile ai clienti la funzionalità Protected Materials Detection for Code, da utilizzare insieme ad altri modelli di intelligenza artificiale che generano codice.

Lascia un commento

Come smaltire un portatile a Cagliari: RAEE, dati e ritiro corretto

Come smaltire un portatile a Cagliari: RAEE, dati e ritiro corretto

Come smaltire un portatile a Cagliari: dove consegnarlo come RAEE, come cancellare i dati, quando usare il ritiro del negozio e cosa fare con una batteria danneggiata.

Come smaltire uno smartphone a Ravenna: RAEE, dati e ritiro corretto

Come smaltire uno smartphone a Ravenna: RAEE, dati e ritiro corretto

Come smaltire uno smartphone a Ravenna: dove consegnarlo, regole RAEE, ritiro nei negozi, cancellazione dei dati e cosa fare con una batteria danneggiata.

Come smaltire un microonde a Catania: CCR, ritiro e riconsegna

Come smaltire un microonde a Catania: CCR, ritiro e riconsegna

Scopri come smaltire un microonde a Catania: confronto tra CCR, ritiro del rivenditore e servizio a domicilio, con orari da verificare e preparazione sicura.

Centro di raccolta a Parma: orari, accesso e rifiuti accettati

Centro di raccolta a Parma: orari, accesso e rifiuti accettati

Guida aggiornata ai 5 centri di raccolta di Parma: indirizzi, orari, documenti per l’accesso, rifiuti conferibili e verifiche da fare prima di partire.

Come smaltire un portatile a Prato: RAEE, punti di raccolta e dati da cancellare

Come smaltire un portatile a Prato: RAEE, punti di raccolta e dati da cancellare

A Prato un portatile va conferito come RAEE, non nell’indifferenziato. Ecco dove portarlo, quando usare Ecotappe o Ecocentri, cosa vale nei negozi e come proteggere i dati.

Come smaltire una lavatrice a Padova: RAEE, ritiro e centro di raccolta

Come smaltire una lavatrice a Padova: RAEE, ritiro e centro di raccolta

Scopri come smaltire una lavatrice a Padova: ritiro con il nuovo acquisto, centro RAEE, preparazione, trasporto e controlli finali.

Come smaltire una bombola del gas a Napoli: restituzione, sicurezza e casi da evitare

Come smaltire una bombola del gas a Napoli: restituzione, sicurezza e casi da evitare

A Napoli le bombole GPL non vanno nei rifiuti urbani né nel normale ritiro ingombranti ASIA. Ecco come restituirle al rivenditore o distributore e cosa fare in caso di perdita.

Come smaltire un materasso: ritiro ingombranti, ecocentro e alternative

Come smaltire un materasso: ritiro ingombranti, ecocentro e alternative

Come smaltire un materasso in Italia: ritiro degli ingombranti, ecocentro, rivenditore e donazione, con costi e regole da verificare nel Comune.

Come smaltire un computer a Brescia: centri di raccolta, Ecocar e dati da cancellare

Come smaltire un computer a Brescia: centri di raccolta, Ecocar e dati da cancellare

Scopri come smaltire un computer a Brescia: centri Aprica, Ecocar, orari, accesso, preparazione dei dati e differenze tra utenza domestica e aziendale.

Come smaltire una power bank gonfia a Messina: cosa fare subito

Come smaltire una power bank gonfia a Messina: cosa fare subito

Power bank gonfia a Messina? Scopri cosa fare subito, chi contattare, dove conferire batterie e piccoli RAEE e quali errori evitare.