Esiste una domanda che quasi nessuna azienda italiana pone esplicitamente quando integra l’AI generativa nella propria comunicazione: è corretto, dal punto di vista etico, far credere a un cliente o a un cittadino di stare interagendo con una persona quando in realtà sta interagendo con un sistema automatizzato?
La domanda non è retorica. Le risposte che le organizzazioni danno — anche solo implicitamente, attraverso le scelte di design dei propri strumenti — definiscono un terreno etico che la sola conformità normativa non copre del tutto.
L’AI Act europeo impone alcuni obblighi di trasparenza, ma la legge definisce un minimo, non un massimo etico. Le aziende che si limitano a rispettare la lettera della norma, senza interrogarsi sullo spirito delle questioni che quella norma cerca di affrontare, rischiano di costruire pratiche di comunicazione tecnicamente legali ma sostanzialmente manipolative.
La trasparenza: oltre l’obbligo legale minimo
L’AI Act richiede, dal 2 agosto 2026, che i sistemi di AI generativa siano progettati in modo che gli utenti siano informati di interagire con un sistema automatizzato, e che i contenuti generati o manipolati con AI su materie di interesse pubblico siano etichettati come tali, salvo revisione umana effettiva.
Sono obblighi importanti, ma lasciano ampio margine di interpretazione: un piccolo avviso in fondo a una pagina, tecnicamente conforme alla norma, soddisfa la lettera della legge senza necessariamente soddisfare lo spirito di trasparenza che la norma persegue.
Una pratica eticamente più solida — che molte aziende evitano perché percepita come uno svantaggio competitivo — sarebbe la trasparenza proattiva: comunicare chiaramente e in modo visibile quando un’interazione è gestita da un’AI, non solo quando la legge lo richiede esplicitamente, ma ogni volta che quella informazione potrebbe influenzare la decisione o la fiducia dell’interlocutore.
Il problema dei chatbot che simulano empatia umana
Un’area particolarmente delicata riguarda i chatbot di assistenza clienti progettati per simulare empatia, comprensione emotiva o personalità umana, spesso con nomi propri e tono colloquiale che rendono ambigua la natura automatizzata dell’interazione.
La pratica non viola necessariamente la lettera della normativa sulla trasparenza, ma solleva una domanda etica genuina: è corretto investire risorse nel rendere un sistema automatizzato più simile possibile a un essere umano, se l’effetto è quello di confondere l’utente sulla natura dell’interazione?
La manipolazione: dove finisce la persuasione e inizia lo sfruttamento
L’AI permette un livello di personalizzazione della comunicazione persuasiva che va ben oltre il targeting demografico tradizionale: analizzando i pattern comportamentali individuali, i sistemi possono identificare le vulnerabilità psicologiche specifiche di un singolo utente — ansie, insicurezze, bisogni emotivi — e costruire messaggi pubblicitari o comunicativi ottimizzati per fare leva proprio su quelle vulnerabilità.
Questa pratica è tecnicamente possibile e, in molti casi, legale. È anche, secondo un numero crescente di eticisti della tecnologia, una forma di sfruttamento che va oltre il confine accettabile della persuasione commerciale legittima.
La distinzione tra persuasione legittima e manipolazione sfruttatrice non è sempre netta, ma un criterio utile è questo: la persuasione legittima fa leva su informazioni accurate sui benefici reali di un prodotto o servizio; la manipolazione sfruttatrice fa leva su vulnerabilità psicologiche indipendentemente dal valore reale dell’offerta, costruendo un bisogno emotivo che il prodotto non risolve davvero.
La sostituzione del lavoro: la domanda che si evita di porre direttamente
Molte aziende italiane stanno integrando l’AI nella comunicazione con la dichiarazione esplicita che lo strumento ‘aumenta’ il lavoro umano invece di sostituirlo.
Questa narrazione è spesso sincera nelle intenzioni dichiarate, ma la domanda onesta che raramente viene posta esplicitamente nei consigli di amministrazione è: se l’AI rende un singolo comunicatore tre volte più produttivo, l’organizzazione mantiene lo stesso numero di comunicatori producendo tre volte più contenuto, o riduce il personale mantenendo lo stesso output?
Entrambe le scelte sono legittime dal punto di vista del diritto del lavoro, ma hanno conseguenze sociali molto diverse, e la trasparenza su quale scelta un’organizzazione sta facendo — verso i propri dipendenti prima ancora che verso il pubblico — è una questione etica che la sola conformità normativa non affronta.
Il caso della chiusura della sede italiana dell’agenzia di notizie Upday, con il licenziamento delle quattro persone che ci lavoravano, sostituite pochi mesi dopo da un generatore di notizie alimentato dall’AI con lo stesso nome, è un esempio documentato di questa dinamica nella sua forma più esplicita.
Verso una pratica eticamente responsabile
Non esistono risposte facili a queste domande, e la tentazione di rifugiarsi nella sola conformità normativa è comprensibile dal punto di vista del rischio legale.
Ma le organizzazioni che vogliono costruire una relazione di fiducia duratura con il proprio pubblico — non solo evitare sanzioni — devono affrontare queste domande esplicitamente, non implicitamente attraverso scelte di design che nessuno discute apertamente.
La trasparenza proattiva, la cautela nel targeting psicografico aggressivo, e l’onestà sulle implicazioni occupazionali delle scelte di automazione non sono solo posizioni etiche astratte: sono, sul lungo periodo, anche posizioni di business più sostenibili, in un mercato dove la fiducia del pubblico è sempre più scarsa e sempre più preziosa.
