AI, grazie ad azione Autorità DeepSeek, Mistral e NOVA AI forniranno informazioni trasparenti sul rischio “allucinazioni”

L’Autorità Garante della Concorrenza e del Mercato (AGCM) ha chiuso tre procedimenti istruttori nei confronti delle società DeepSeek, Mistral AI e ScaleUp Yazilim Hizmetleri Anonim Şirketi, titolare del servizio NOVA AI, ottenendo l’adozione di impegni finalizzati a rafforzare la trasparenza informativa nei confronti degli utenti dei sistemi di intelligenza artificiale generativa.

Al centro delle istruttorie vi è il fenomeno delle cosiddette “allucinazioni” dell’intelligenza artificiale, ossia la generazione di contenuti inesatti, fuorvianti o del tutto inventati da parte dei modelli linguistici generativi. L’AGCM ha contestato alle società una informativa ritenuta non sufficientemente chiara, immediata e intellegibile circa i limiti di affidabilità dei sistemi offerti e i rischi derivanti dall’utilizzo degli output generati.

I procedimenti si sono conclusi senza accertamento di infrazione, mediante accoglimento degli impegni presentati dalle società ai sensi dell’art. 27, comma 7, del Codice del Consumo. Le misure adottate incidono direttamente sui siti internet, sulle applicazioni mobili, sulle interfacce di chat e sulle fasi precontrattuali che precedono la registrazione o l’acquisto dei servizi AI.

Tra gli interventi più rilevanti vi è l’introduzione di disclaimer permanenti in lingua italiana direttamente sotto le finestre di dialogo delle chatbot. Mistral AI inserirà avvisi quali “Le Chat può commettere errori. Controlla le risposte. Scopri di più”, accompagnati da collegamenti alle condizioni di servizio e alle informazioni sui limiti dell’IA.

DeepSeek introdurrà invece banner permanenti con avvertenze esplicite del tipo: “Contenuto generato da IA. Verifica sempre l’accuratezza delle risposte, che possono contenere inesattezze”, oltre a ulteriori alert specifici per risposte in ambito medico, legale e finanziario.

Anche NOVA AI, piattaforma che aggrega diversi modelli generativi attraverso un’unica interfaccia, si è impegnata a migliorare la trasparenza informativa sia sulle allucinazioni sia sulle reali caratteristiche del servizio offerto, chiarendo all’utente quali chatbot siano accessibili gratuitamente o tramite abbonamento e specificando che la piattaforma svolge una funzione di aggregazione e integrazione di sistemi AI sviluppati da terzi.

Le società dovranno inoltre tradurre integralmente in lingua italiana termini di utilizzo, condizioni contrattuali e informative sui rischi, rendendole facilmente accessibili durante tutto il percorso di utilizzo del servizio.

Particolarmente significativa appare la posizione assunta dall’Autorità sul piano consumeristico. Nei provvedimenti viene infatti chiarito che l’informazione circa il rischio di ottenere contenuti inesatti costituisce un elemento essenziale per consentire al consumatore di assumere decisioni commerciali consapevoli, anche quando il servizio venga offerto gratuitamente.

Nel caso DeepSeek, gli impegni assumono anche una dimensione tecnologica sostanziale. La società ha dichiarato di implementare misure tecniche specifiche per mitigare il fenomeno delle allucinazioni, tra cui sistemi di retrieval in tempo reale, filtri qualitativi sui dataset di addestramento, reinforcement learning e meccanismi di richiamo prioritario di fonti autorevoli. La stessa società ha tuttavia riconosciuto che, allo stato attuale dell’evoluzione tecnologica, il fenomeno non può essere completamente eliminato ma soltanto ridotto.

Le decisioni dell’AGCM rappresentano uno dei primi interventi sistematici in Europa sul rapporto tra tutela del consumatore e intelligenza artificiale generativa. Il principio affermato è chiaro: i sistemi AI non possono essere presentati come strumenti implicitamente affidabili o neutrali, ma devono comunicare in modo trasparente limiti, margini di errore e natura probabilistica degli output generati.