Sintesi
Dal 2 agosto 2026 si applicheranno gli obblighi di trasparenza dell’articolo 50 dell’AI Act europeo. Le aziende che usano assistenti telefonici AI dovrebbero pianificare fin d’ora come informare chiaramente chi chiama, all’inizio della conversazione, che sta parlando con un’AI. I fornitori di sistemi di AI generativa devono anche contrassegnare determinati output audio sintetici in modo leggibile da una macchina. Gli altri requisiti dipendono dal compito: un assistente che comunica gli orari non diventa ad alto rischio solo perché risponde al telefono; un’AI che valuta o seleziona candidati può invece rientrare nelle regole per sistemi ad alto rischio.
L’AI Act si applica per fasi
L’AI Act non ha un’unica data di applicazione. I capitoli I e II, che comprendono l’obbligo di promuovere la competenza in materia di AI e il divieto di alcune pratiche, si applicano dal 2 febbraio 2025. Altre disposizioni si applicano dall’agosto 2025. Gli obblighi di trasparenza dell’articolo 50 e la maggior parte del regolamento si applicano dal 2 agosto 2026.
Per le aziende che usano Voice AI, tre domande sono un buon punto di partenza:
- Il sistema interagisce direttamente con una persona fisica?
- Genera audio sintetico o imita una persona reale?
- Quale compito svolge e prende o influenza decisioni sulle persone?
Le risposte possono comportare obblighi diversi. Contano la funzione effettiva e lo scopo previsto, non il solo fatto che il sistema risponda al telefono.
1. Informare chi chiama dell’interazione con l’AI
L’articolo 50, paragrafo 1, richiede ai fornitori di sistemi destinati a interagire direttamente con le persone di informarle che stanno interagendo con un’AI. L’eccezione si applica quando ciò è ovvio per una persona ragionevolmente informata, attenta e avveduta, considerate le circostanze e il contesto. L’informazione deve essere chiara e distinguibile al più tardi al primo contatto.
In una chiamata in entrata può non essere evidente che abbia risposto un’AI. Un saluto chiaro è quindi una soluzione pratica solida, per esempio:
Buongiorno, parla l’assistente telefonico AI di [azienda]. Come posso aiutarla?
L’AI Act non impone una frase specifica. L’avviso deve essere comprensibile e non comparire soltanto dopo una domanda. Se chi chiama chiede una persona o formula una richiesta fuori dall’ambito approvato, il flusso dovrebbe offrire un trasferimento o una richiamata adeguati.
Fornitore e deployer hanno ruoli diversi. Il fornitore sviluppa il sistema o lo immette sul mercato con il proprio nome. L’azienda che lo usa nella propria attività è in genere il deployer. Chiarite lungo la catena di fornitura chi gestisce saluto, configurazione e aggiornamenti e come l’avviso viene effettivamente comunicato durante le chiamate.
Nel nostro Wizard VoiceBooker definite il saluto dell’assistente e potete configurare trasferimenti al personale per richieste specifiche. Provate la chiamata completa: l’avviso sull’AI è udibile dall’inizio? Il trasferimento funziona? La guida rapida al Wizard spiega la configurazione e la guida ai trasferimenti descrive il passaggio. La configurazione aiuta a realizzare il flusso, ma non sostituisce la valutazione legale del vostro caso.
2. Una voce sintetica non è automaticamente un deepfake
L’articolo 50 stabilisce obblighi di trasparenza distinti. Da una parte, le persone devono sapere quando interagiscono direttamente con un’AI. Dall’altra, i fornitori di sistemi che generano audio, immagini, video o testi sintetici devono in generale contrassegnare gli output in un formato leggibile da una macchina e renderli rilevabili come generati o manipolati artificialmente. Le soluzioni tecniche dovrebbero essere efficaci, interoperabili, robuste e affidabili nella misura tecnicamente possibile. Il regolamento prevede eccezioni, ad esempio per funzioni di assistenza nell’editing standard quando i dati in ingresso o il loro significato non vengono alterati in modo sostanziale.
Una normale voce telefonica sintetica non è automaticamente un deepfake. L’AI Act descrive i deepfake come contenuti audio, immagini o video generati o manipolati dall’AI che assomigliano a persone, oggetti, luoghi, entità o eventi esistenti e potrebbero apparire falsamente autentici o veritieri. Una voce clonata per imitare una specifica dipendente o una persona nota pone quindi questioni diverse da una voce sintetica generica.
L’avviso udibile per chi chiama e la marcatura tecnica dell’audio sono requisiti diversi. Chiedete al fornitore come viene applicata la marcatura leggibile da macchina nel sistema concreto. L’obbligo di marcatura riguarda soprattutto il fornitore del sistema generativo; l’informazione sull’interazione diretta con l’AI deve comunque arrivare a chi chiama nell’uso reale.
3. Il rischio dipende dal compito, non dal telefono
Un assistente telefonico AI non è ad alto rischio solo perché parla, usa un modello linguistico o tratta dati personali. Sono determinanti lo scopo previsto e i possibili effetti sulle persone.
Un assistente che comunica gli orari, raccoglie richieste di richiamata o coordina appuntamenti secondo regole approvate non è automaticamente ad alto rischio. I sistemi AI per il reclutamento e la selezione dei candidati possono esserlo: queste applicazioni sono elencate nell’allegato III. Eventuali eccezioni vanno valutate sulla base dello scopo effettivo e del ruolo del sistema nel processo decisionale.
Anche l’analisi vocale richiede una valutazione distinta. L’AI Act vieta in generale il riconoscimento delle emozioni sul luogo di lavoro, con eccezioni limitate per motivi medici o di sicurezza. Una funzione che pretende di dedurre dalla voce le emozioni di dipendenti o candidati non dovrebbe essere introdotta come analisi aggiuntiva innocua.
Secondo il calendario dell’AI Act, i requisiti pertinenti per i sistemi ad alto rischio dell’articolo 6, paragrafo 2, e dell’allegato III si applicano dal 2 agosto 2026. Gli obblighi corrispondenti per determinati sistemi ad alto rischio relativi a prodotti, indicati nell’articolo 6, paragrafo 1, e nell’allegato I, si applicano dal 2 agosto 2027.
4. Il personale ha bisogno di competenze adeguate in materia di AI
L’articolo 4 si applica dal 2 febbraio 2025. Fornitori e deployer devono adottare misure per promuovere la competenza in materia di AI del personale e delle persone che gestiscono o usano i sistemi per loro conto. Le misure dovrebbero essere adeguate al ruolo, alle conoscenze, all’uso e alle possibili conseguenze di un errore.
Per un team di assistenza può essere utile una breve formazione pratica. Il personale dovrebbe sapere quali attività l’assistente può o non può svolgere, come gestire richieste trasferite e segnalare errori, quali risposte o promesse evitare, quando deve intervenire una persona e quali informazioni possono comparire in trascrizioni, riepiloghi o record CRM. Documentate le misure in modo adeguato alle dimensioni dell’azienda e all’uso concreto.
5. L’AI Act non sostituisce GDPR e norme telefoniche
Dire «sta parlando con un’AI» non soddisfa automaticamente gli obblighi di protezione dei dati. Nomi, numeri e contenuti delle chiamate possono restare dati personali. Base giuridica, finalità, minimizzazione, conservazione, accessi, accordi sul trattamento e informazioni a chi chiama vanno valutati separatamente. Consultate la nostra lista GDPR per assistenti telefonici AI.
La registrazione audio è diversa dall’elaborazione vocale in diretta. In Germania, una registrazione non autorizzata di una conversazione privata può riguardare il § 201 del Codice penale. Valutate la registrazione come un trattamento separato. Usare un assistente vocale non autorizza automaticamente a registrare le chiamate.
Lista di controllo per le aziende
Prima di introdurre o aggiornare un assistente telefonico AI:
- Mappate i casi d’uso: quali chiamate gestisce, quali azioni esegue e se influenza decisioni sulle persone?
- Chiarite i ruoli: chi è il fornitore, chi il deployer e chi gestisce saluto, configurazione e modifiche?
- Rendete trasparente il primo contatto: avviso sull’AI chiaro e udibile dall’inizio.
- Verificate l’audio con il fornitore: chiedete informazioni e riscontri tecnici sulla marcatura delle voci sintetiche.
- Esaminate gli usi ad alto rischio o vietati: soprattutto reclutamento, valutazione dei dipendenti, riconoscimento delle emozioni e decisioni con effetti importanti.
- Formate il personale: spiegate responsabilità, limiti, gestione degli errori e passaggi a persone.
- Valutate separatamente la privacy: documentate flussi, registrazioni, trascrizioni, conservazione, fornitori e accessi.
- Monitorate i cambiamenti: nuove funzioni possono modificare la valutazione giuridica.
Conclusione
Per molte aziende, l’effetto immediato più visibile dell’AI Act dall’agosto 2026 sarà un avviso chiaro all’inizio della chiamata con l’assistente. I fornitori di sistemi generativi devono inoltre considerare la marcatura degli output sintetici. Gli altri requisiti dipendono dalle attività svolte e dal loro impatto sulle decisioni. Iniziate da un elenco concreto dei compiti, chiarite i ruoli di fornitore e deployer e rivalutate ogni modifica funzionale.
Questo articolo offre informazioni generali aggiornate al 30 giugno 2026 e non sostituisce una valutazione legale di un sistema o utilizzo specifico.