Riders: il Garante dice no alle discriminazioni basate sugli algoritmi

Sanzione di 2,6 milioni di euro a una piattaforma del gruppo Glovo (Foodinho), che dovrà modificare il trattamento dei dati dei propri rider, effettuato tramite l’utilizzo di una piattaforma digitale, e verificare che gli algoritmi di prenotazione e assegnazione degli ordini di cibo e prodotti non producano forme di discriminazione.

Lo ha deciso il Garante Privacy, all'esito di un primo ciclo ispettivo sulle modalità di gestione dei lavoratori di alcune delle principali società di "food delivery" che operano in Italia. 

In particolare l’Autorità ha rilevato una serie di gravi illeciti riguardo agli algoritmi utilizzati per la gestione dei lavoratori. La società, ad esempio, non aveva adeguatamente informato i lavoratori sul funzionamento del sistema e non assicurava garanzie sull’esattezza e la correttezza dei risultati dei sistemi algoritmici utilizzati per la valutazione dei rider. Inoltre, non garantiva nemmeno procedure per tutelare il diritto di ottenere l’intervento umano, esprimere la propria opinione e contestare le decisioni adottate mediante l’utilizzo degli algoritmi in questione, compresa l’esclusione di una parte dei rider dalle occasioni di lavoro.

La società dovrà quindi individuare misure per tutelare i diritti e le libertà dei rider a fronte di decisioni automatizzate, compresa la profilazione.
Inoltre, dovrà verificare l’esattezza e la pertinenza dei dati utilizzati dal sistema (chat, email e telefonate intercorse tra i rider e il customer care, geolocalizzazione ogni 15 secondi e visualizzazione su mappa del percorso, tempi di consegna stimati ed effettivi, dettagli sulla gestione dell’ordine in corso e di quelli già effettuati, feedback di clienti e partner, livello della batteria rimanente del dispositivo etc.) e dovrà anche individuare misure che impediscano utilizzi impropri o discriminatori dei meccanismi reputazionali basati sul feedback dei clienti e dei partner commerciali.