Alt del Garante all’algoritmo che discrimina i rider

Foodinho, ex startup italiana ceduta alla spagnola Glovo è la prima società di delivery a ricevere una multa del Garante per la privacy. L’Autorità che si occupa della protezione dei dati personali ha avviato dei controlli su come le aziende del food delivery trattano i dati dei lavoratori e su come gestiscono le loro attività tramite gli algoritmi. In particolar modo il garante si è concentrato nel verificare l’esattezza e la pertinenza dei dati utilizzati dal sistema digitale (chat, email e telefonate intercorse tra i rider e il customer care, geolocalizzazione ogni 15 secondi e visualizzazione su mappa del percorso, tempi di consegna stimati ed effettivi, dettagli sulla gestione dell’ordine in corso e di quelli già effettuati, feedback di clienti e partner, livello della batteria rimanente del dispositivo etc.)

Nel caso di Foodinho i controlli hanno fatto emergere diverse irregolarità, in particolare per quello che riguarda l’algoritmo utilizzato per gestire i lavoratori.  Il Garante ha spiegato che “la società non aveva adeguatamente informato i lavoratori sul funzionamento del sistema e non assicurava garanzie sull’esattezza e la correttezza dei risultati dei sistemi algoritmici utilizzati per la valutazione dei rider. Non garantiva nemmeno procedure per tutelare il diritto di ottenere l’intervento umano, esprimere la propria opinione e contestare le decisioni adottate mediante l’utilizzo degli algoritmi in questione, compresa l’esclusione di una parte dei rider dalle occasioni di lavoro”

I rider che lavorano per l’azienda, circa 19mila, sono soggetti ad un sistema di assegnazione del punteggio (rating), basato sull’applicazione di una formula matematica che penalizza i rider che non accettano tempestivamente l’ordine o lo rifiutano favorendo invece i rider che accettano nei termini stabiliti o consegnano il maggior numero di ordini; inoltre l’algoritmo tiene conto dei tempi di consegna e della disponibilità di tempo che i raider dedicano alla piattaforma

Il funzionamento di questo algoritmo non viene spiegato ai lavoratori, che però in base al loro punteggio possono vedersi negare l’accesso alle fasce orarie più redditizie o addirittura essere esclusi dalla piattaforma. Il sistema però può sbagliare, e Foodinho non ha fatto nulla per impedire che questo succedesse. Il Garante la accusa di non essersi adoperata affinché i risultati dell’algoritmo fossero affidabili, esatti o adeguati e non è intervenuta nemmeno per proteggere i rider dal rischio di effetti «distorti o discriminatori» di questo sistema.

Per questo Foodinho, è stata multata con una sanzione di 2,6 milioni di euro. Adesso ha sessanta giorni di tempo per individuare ed adottare misure utili a «tutelare i diritti e le libertà dei rider a fronte di decisioni automatizzate, compresa la profilazione» ed evitare «utilizzi impropri o discriminatori dei meccanismi reputazionali basati sul feedback dei clienti e dei partner commerciali».

Il caso di Foodinho potrebbe essere il primo di una lunga serie.