Le conversazioni con Alexa ascoltate dai dipendenti e l'impossibilità di cancellarle (veramente)

La polemica è nata nell’aprile 2019 quando un’indagine pubblicata da Bloomberg ha rivelato che migliaia di dipendenti Amazon ascoltano e trascrivono ciò che viene detto dagli utenti ad Alexa. Nuove indagini però mettono in evidenza che, anche se le registrazioni audio vengono cancellate dagli utenti, Amazon può ancora accedere alle trascrizioni automatiche delle conversazioni. Sarà impossibile, allora, tutelare la propria privacy, avendo tale dispositivo in casa?

Alexa, abbiamo una spia in casa?

La notizia diffusa qualche settimana fa informava i consumatori del fatto che un gran numero di dipendenti Amazon avesse il compito di ascoltare dei campioni di registrazioni audio provenienti dai dispositivi Echo Dot dell’azienda: circa mille frammenti di conversazione ciascuno, da ascoltare e trascrivere in ogni turno di lavoro da nove ore. L’attività di ascolto, che ha luogo in diverse città nel mondo (Stati Uniti, Costa Rica, India, Romania, solo per citare alcuni esempi), punterebbe a migliorare le competenze di Alexa e il servizio fornito agli utilizzatori dei dispositivi Echo Dot di Amazon.

La squadra in questione si occuperebbe, in base a quanto riportato da Bloomberg, di ascoltare registrazioni provenienti da case e uffici dei proprietari dei questi dispositivi, trascriverle, fare degli appunti a riguardo e poi fornire un feedback al software, in modo da ridurre al minimo possibile il numero di errori, aumentando le skill di comprensione del discorso umano e le risposte fornite dall’assistente vocale ai comandi richiesti. L’impegno nel migliorare le competenze di Alexa è stato descritto da sette persone che hanno partecipato al programma in questione, tra cui un dipendente della sede di Boston che ha illustrato come vengono allenati gli algoritmi: come ha spiegato, vengono raccolti dei campioni di audio per richieste specifiche, come per esempio “Taylor Swift”; in questo caso il dipendente potrebbe “indicare” al sistema di intelligenza artificiale che la richiesta dell’utente è quella di ascoltare delle canzoni della cantante.

Cosa viene fatto poi di questi dati e, sopratutto, gli utenti hanno un modo per proteggere la propria privacy?

Cosa ascoltano i dipendenti Amazon e come usano questi dati?

Secondo le informazioni riportate dalle fonti sopracitate, alcuni di questi dipendenti vengono pagati per trascrivere le richieste degli utenti ad Alexa e metterle a confronto con le trascrizioni automatiche fatte dall’assistente vocale, al fine di migliorarne la capacità di riconoscimento e comprensione del linguaggio naturale. Così il team in questione si occuperebbe di analizzare l’interazione tra l’utente e il sistema di IA, specificando quale è stata la richiesta dell’utente e se la risposta di Alexa è stata adeguata o meno.

Tuttavia, altri dipendenti avrebbero invece il compito di annotare qualsiasi cosa venga registrata dal dispositivo Amazon Echo Dot, comprese le conversazioni in sottofondo che l’utente probabilmente non vorrebbe venissero ascoltate, perché riguardanti per esempio dettagli della vita privata, nomi, informazioni bancarie o altri dati personali. In questi casi, secondo le fonti menzionate da Bloomberg, ai dipendenti Amazon verrebbe richiesto di etichettare l’informazione ascoltata come “dati critici” e di passare all’audio successivo.

Com’è noto, Alexa si attiva e risponde all’ascolto di una parola chiave, che può essere appunto “Alexa” oppure “computer” o “Echo”. Amazon dichiara che nessun audio viene registrato, a meno che il dispositivo non abbia “ascoltato” una di queste parole o l’utente non lo attivi manualmente, premendo un pulsante. Sembra però che con molta frequenza Alexa si attivi da solo, “per sbaglio”, iniziando a registrare senza alcun tipo di comando, tanto che, in base a quanto dichiarato dalle fonti, alcuni file audio iniziano proprio con rumori di fondo, come per esempio anche quello della TV. Che si tratti o meno di un errore, i dipendenti sono pregati di trascrivere in ogni caso, potendo così ascoltare qualsiasi tipo di informazione (indipendentemente dalla volontà e dalla conoscenza dell’utente).

Cosa succede se Amazon ascolta ciò che non dovrebbe ascoltare?

Alcuni dettagli, poi, potrebbero sorprendere i lettori “più sensibili”. Innanzitutto, anche se le registrazioni inviate ai dipendenti Amazon non consentono loro di identificare il nome completo o l’indirizzo dell’utente, queste vengono associate invece al numero dell’account, così come al primo nome dell’utente e al numero di serie del proprio dispositivo. Non finisce qui: tra le tante registrazioni che, come detto in precedenza, non riguardano soltanto le conversazioni dirette ad Alexa, le fonti menzionate da Bloomberg affermano che spesso i dipendenti si ritrovano di fronte ad audio sconvolgenti o addirittura possibili comportamenti criminali di diverso tipo (come accaduto quando due dipendenti credevano di aver ascoltato dettagli riguardanti un abuso sessuale, per esempio).

In casi come questi i dipendenti tendono a condividere l’esperienza, spesso per loro molto stressante o turbante, con gli altri colleghi tramite chat interna, come forma di sfogo. Quando due dipendenti dalla Romania hanno richiesto supporto per poter gestire situazioni più gravi, come l’esempio appena citato, gli è stato comunicato che Amazon non ha il compito di interferire.

Si possono cancellare le conversazioni con Alexa? Sì, ma ancora non del tutto

«I clienti possono sempre cancellare le proprie interazioni in qualsiasi momento»: afferma Amazon. Sull’app di Alexa, difatti, è possibile accedere a tutte le registrazioni audio e, volendo, cancellarle anche. Tuttavia, come riportato da CNET, quando l’utente elimina una di queste registrazioni, Amazon mantiene comunque una copia della relativa trascrizione scritta.

Come sottolineato precedentemente, ogni volta che Alexa “ascolta” il suo nome inizia l’ascolto, così come pure la trascrizione automatica di tutto ciò che viene detto, trascrizione che però non può essere cancellata autonomamente dall’utente. Come dichiarato da un portavoce Amazon alla testata CNET, «quando un consumatore cancella una registrazione vocale, noi cancelliamo anche la trascrizione scritta corrispondente, associata al suo profilo, dai principali sistemi di Alexa e da molti dei nostri sottosistemi e ci stiamo impegnando per riuscire a cancellarle da tutti gli altri».

La risposta di Amazon lascia intravedere un’ammissione di colpa per quanto riguarda il salvataggio nei server aziendali delle informazioni cancellate dagli utenti. Tuttavia, non viene specificato il periodo esatto in cui avverrà una correzione. La questione ha fatto preoccupare diverse organizzazioni che si occupano di tutela della privacy, che difatti si sono unite per presentare un reclamo formale presso la Federal Trade Commission – ossia l’agenzia federale americana per la correttezza delle pratiche commerciali – contro Amazon e, in particolare, contro la versione di Amazon Echo Dot per bambini.

Il reclamo presentato accusava Amazon di conservare registrazioni di dati forniti dai bambini anche dopo che i genitori avevano cercato di cancellare le registrazioni delle interazioni tra i minori e Alexa. Le organizzazioni in questione accusano il colosso dell’ ecommerce di violare il Children’s Online Privacy Protection Act (detto anche COPPA), legge federale che impone determinati requisiti di privacy a siti e servizi che abbiano i minori come target , anche se Amazon afferma che il dispositivo per bambini è conforme alle norme.