Bloomberg ha recentemente riferito che Amazon ha un progetto con alcuni dei suoi dipendenti che ascoltano alcune delle registrazioni audio fatte dagli altoparlanti Alexa quando gli utenti interagiscono con loro, ma ora sembra che quelle persone abbiano accesso anche agli indirizzi di casa dei clienti.
Un nuovo rapporto Bloomberg di questa mattina cita cinque dipendenti anonimi del team Alexa Data Services di Amazon a conferma che possono trovare facilmente l'indirizzo di casa di un cliente digitando le informazioni di latitudine e longitudine in software di mappatura come Google Maps.
Sebbene non vi sia alcuna indicazione che i dipendenti Amazon con accesso ai dati abbiano tentato di rintracciare singoli utenti, due membri del team di Alexa hanno espresso preoccupazione per Bloomberg che Amazon stava concedendo un accesso inutilmente ampio ai dati dei clienti che avrebbe facilitato l'identificazione del proprietario di un dispositivo.
Bene, questo non suona sicuramente promettente.
Alcuni degli addetti all'analisi delle registrazioni dei clienti Alexa utilizzano uno strumento Amazon che visualizza clip audio insieme ai dati sul dispositivo che ha registrato la registrazione. Molte delle informazioni memorizzate dal software, inclusi un ID dispositivo e un numero di identificazione del cliente, non possono essere facilmente ricollegate a un utente.
Ecco come dovrebbe essere.
Tuttavia, Amazon raccoglie anche i dati sulla posizione in modo che Alexa possa rispondere in modo più accurato alle richieste, ad esempio suggerendo un ristorante locale o dando il tempo nella vicina Ashland, Oregon, anziché nella lontana Ashland, Michigan.
Non c'è nulla di sbagliato nel fatto che Alexa raccoglie i dati sulla posizione dagli utenti per migliorare il suo servizio se non fosse per il fatto che alcuni dei suoi dipendenti sono autorizzati a vederli in primo luogo.
In una dimostrazione vista da Bloomberg, un membro del team di Amazon ha incollato le coordinate di un utente, memorizzate nel sistema come latitudine e longitudine, su Google Maps. In meno di un minuto, l'impiegato era passato da una registrazione del comando Alexa di una persona a quella che sembrava essere un'immagine della loro casa e il corrispondente indirizzo.
Bene, questo è certamente inquietante ma chiunque può cercare la posizione di una persona su Google Maps purché abbia la sua latitudine e longitudine, non c'è nulla di speciale. Ciò che disturba è il fatto che le coordinate utente sono disponibili per alcuni dipendenti di Amazon.
Un altro strumento interno che stanno utilizzando memorizza più dati personali.
Dopo aver digitato un numero ID cliente, quei lavoratori chiamati annotatori e verificatori possono vedere gli indirizzi di casa e di lavoro e i numeri di telefono che i clienti hanno inserito nell'app Alexa quando hanno installato il dispositivo, ha detto il dipendente. Se un utente ha scelto di condividere i propri contatti con Alexa, anche i suoi nomi, numeri e indirizzi e-mail vengono visualizzati nella dashboard.
Sì, ma perché mostrare tutte quelle informazioni nella dashboard?
Tali dati sono nel sistema in modo tale che se un cliente dice "Invia un messaggio a Laura", i revisori umani possono assicurarsi che i trascrittori abbiano scritto correttamente il nome in modo che il software impari ad accoppiare quella richiesta con Laura nell'elenco dei contatti.
Non è chiaro dal rapporto quanti dipendenti e appaltatori potrebbero avere accesso a queste funzionalità. Due dipendenti di Amazon hanno dichiarato di ritenere che la stragrande maggioranza dei lavoratori del gruppo Alexa Data Services fosse in grado di utilizzare quel software circa un anno fa.
Un altro dipendente ha affermato che, "fino a poco tempo fa", il sistema mostrava numeri di telefono completi con alcune cifre oscurate. "Fino a poco tempo fa", il che significa che dopo che Bloomberg ne aveva parlato, giusto?
Amazon ha ulteriormente limitato l'accesso ai dati dopo il rapporto di Bloomberg del 10 aprile, hanno affermato due dipendenti. Alcuni associati ai dati, che trascrivono, annotano e verificano le registrazioni audio, sono arrivati al lavoro per scoprire che non avevano più accesso agli strumenti software che avevano precedentemente utilizzato nel loro lavoro, hanno detto queste persone.
Al momento della stampa, il loro accesso non era stato ripristinato.
Cosa preoccupante, il rapporto originale includeva una dichiarazione attribuita a un portavoce di Amazon che negava che le persone che ascoltavano le registrazioni di Alexa avessero accesso ad altre informazioni.
I dipendenti non hanno accesso diretto alle informazioni che possono identificare la persona o l'account come parte di questo flusso di lavoro. Tutte le informazioni sono trattate con elevata riservatezza e utilizziamo l'autenticazione a più fattori per limitare l'accesso, la crittografia del servizio e gli audit del nostro ambiente di controllo per proteggerli.
In una nuova dichiarazione che risponde alla storia, tuttavia, Amazon ha cambiato posizione e ora chiama l'accesso a strumenti interni "altamente controllati":
L'accesso agli strumenti interni è altamente controllato ed è concesso solo a un numero limitato di dipendenti che richiedono questi strumenti per addestrare e migliorare il servizio elaborando un campione estremamente limitato di interazioni.
Le nostre politiche vietano rigorosamente l'accesso o l'utilizzo dei dati dei clienti da parte dei dipendenti per qualsiasi altro motivo e abbiamo una politica di tolleranza zero per l'abuso dei nostri sistemi. Controlliamo regolarmente l'accesso dei dipendenti agli strumenti interni e ne limitiamo l'accesso quando e dove possibile.
Prima di saltare a conclusioni premature, vale la pena ripetere che questo non è un tipo di progetto segreto: Amazon non nasconde il fatto che paga la gente ascoltare le conversazioni con i clienti. Come Apple e altre società tecnologiche, Amazon mantiene frammenti anonimi di registrazioni audio sui suoi server per un periodo di tempo per aiutare a migliorare il riconoscimento vocale e l'intelligenza artificiale.
"Utilizziamo le tue richieste ad Alexa per formare i nostri sistemi di riconoscimento vocale e comprensione del linguaggio naturale", afferma la società in un elenco di domande frequenti.
È un dato di fatto nel mondo della tecnologia che i sistemi di intelligenza artificiale che aiutano le macchine a comprendere il significato dietro le parole pronunciate devono essere addestrati su base regolare usando registrazioni reali, che è l'unico modo affidabile per migliorare la loro precisione.
Come ha spiegato a Bloomberg il portavoce di Amazon:
Annotiamo solo un campione estremamente piccolo di registrazioni vocali di Alexa per migliorare l'esperienza del cliente. Queste informazioni ci aiutano a formare i nostri sistemi di riconoscimento vocale e comprensione del linguaggio naturale in modo che Alexa possa comprendere meglio le tue richieste e garantire che il servizio funzioni bene per tutti.
Apple fa esattamente la stessa cosa: Siri ha aiutanti umani che ascoltano alcune clip, legate a un identificatore casuale e archiviate su server per sei mesi.
Successivamente, l'identificatore casuale viene completamente rimosso ma i dati vengono conservati per periodi più lunghi per migliorare il riconoscimento vocale di Siri. Sì, Google ha anche incaricato i revisori di ascoltare alcuni frammenti dell'Assistente per aiutare a formare e migliorare il servizio. Le registrazioni di Google sono prive di informazioni personali identificabili e l'audio stesso è distorto.
Come ha affermato Florian Schaub, professore all'Università del Michigan, che ha studiato problemi di privacy relativi agli smart speaker:
Non pensi necessariamente a un altro umano che ascolta ciò che stai dicendo al tuo oratore intelligente nell'intimità della tua casa. Penso che siamo stati condizionati all'ipotesi che queste macchine stiano solo imparando la magia.
Ma il fatto è che è ancora coinvolta l'elaborazione manuale.
Il fatto che si tratti di una questione di privacy o meno dipende dalla cautela di Amazon e di altre società nel tipo di informazioni che hanno annotato manualmente e dal modo in cui presentano tali informazioni a qualcuno.
Per il contesto, ecco un estratto dalla storia originale:
Alcuni revisori Alexa hanno il compito di trascrivere i comandi degli utenti, confrontare le registrazioni con la trascrizione automatizzata di Alexa, per esempio, o annotare l'interazione tra utente e macchina. Cosa ha chiesto la persona? Alexa ha fornito una risposta efficace??
Altri notano tutto ciò che l'oratore raccoglie, comprese le conversazioni di sottofondo, anche quando i bambini parlano. A volte gli ascoltatori sentono gli utenti che discutono di dettagli privati come nomi o coordinate bancarie; in questi casi, dovrebbero spuntare una finestra di dialogo che indica 'dati critici. Passano quindi al file audio successivo.
Secondo il sito Web di Amazon, nessun audio viene memorizzato a meno che Echo non rilevi la parola di riattivazione o venga attivato premendo un pulsante. Ma a volte sembra che Alexa inizi a registrare senza alcun suggerimento e i file audio iniziano con un televisore squillante o un rumore incomprensibile. Indipendentemente dal fatto che l'attivazione sia errata, i revisori sono tenuti a trascriverla. Una delle persone ha detto che gli auditor trascrivono fino a 100 registrazioni al giorno quando Alexa non riceve alcun comando di attivazione o viene attivata per errore.
Il rapporto originale di Bloomberg affermava che "le migliaia di dipendenti" che lavorano a questo progetto a volte devono anche rivedere clip che possono essere abbastanza angoscianti, e anche alcuni potenzialmente criminali. In un caso segnalato, due dipendenti di Amazon hanno sentito quello che pensano fossero violenze sessuali, ma sono stati incaricati dal loro datore di lavoro di non denunciare l'incidente perché "non era compito di Amazon interferire".
In casi così estremi, è molto il lavoro di Amazon interferire.
Perché la società non dovrebbe consentire ai dipendenti che ascoltano le registrazioni di Alexa di denunciare questi incidenti alle forze dell'ordine e potenzialmente salvare vite umane? Se qualcuno entra in casa mia e mi tiene sotto tiro, voglio che a chiunque stia ascoltando sia permesso vedere il mio indirizzo di casa e persino avvisare la polizia, se necessario.
Pensieri?
