Algorithmic management, managerial prerogatives and burden of proof: the quest for the material truth hidden behind the algorithm
DOI:
https://doi.org/10.6092/issn.2421-2695/11955Keywords:
workforce analytics, privacy protection, GDPR, burden of proof, discrimination, gig economyAbstract
Technology is changing the methods used by entrepreneurs to manage their human resources. Many employers have already started to dismiss the completely human exercise of their managerial prerogatives, totally or partially delegating them to more or less smart machines. Data collected through workforce analytics practices are the fuel to fill the tank of algorithmic management tools, which are capable of taking automated decisions affecting the workforce. Notwithstanding the advantages in terms of increased labour productivity, recurring to technology is not always risk-free. It has already happened, also in the HR management context, that algorithms have revealed themselves as biased decision-makers. This problem has often been exacerbated by the lack of transparency characterising most part of automated decision-making processes. This is also the reason why it has been underlined how workforce analytics and algorithmic management practices may implicate an augmentation of managerial prerogatives unheard in the past. It has also been stressed, above all when looking at the international debate on this topic, that this should entail an update of, or even implicate the need of rethinking more generally, employment laws that, as they are today, may be inadequate to address the issues posed by the technological revolution. The aim of this paper is thus to understand whether Italian employment laws are equipped with regulatory antibodies capable of preventing improper abuses of employers’ managerial prerogatives potentially arising from the increasing recourse to algorithmic management practices. More specifically, this article tries to demonstrate how the rules relating to burden of proof and the ones granting employment judges with broad powers to obtain evidence, above all if combined with information and access rights provided by the GDPR, can alleviate the issues of both lack of decision-making transparency and improper abuses of employers’ managerial prerogatives connected to the always more massive use of algorithmic management practices. Lastly, this paper points out how there are many arguments to claim for a more robust exercise of the powers of employment judges to obtain evidence, driven and at the same time limited by the criterion of the proximity to the source of evidence. This would facilitate the quest for the material truth hidden behind the algorithm, thus making Italian employment laws even better equipped to face the challenges posed by the technological revolution.
References
Adams-Prassl J., What if Your Boss was an Algorithm?, in CLL&PJ, 2019, 41, 1.
Aloisi A. - De Stefano V., Il tuo capo è un algoritmo. Contro il lavoro disumano, Laterza, 2020.
Aloisi A. - Gramano E., Artificial Intelligence is Watching You at Work: Digital Surveillance, Employee Monitoring, and Regulatory Issues in the EU Context, in CLL&PJ, 2019, 41, 1, 95 ss.
Amadore N., Tribunale di Palermo: rider lavoratore subordinato, Quotidiano del lavoro, 24 novembre 2020.
Balletti E., I poteri del datore di lavoro tra legge e contratto, in Giornate di Studio AIDLaSS, Napoli, 16 e 17 giugno 2016.
Barbieri M., L’utilizzabilità delle informazioni raccolte: il Grande Fratello può attendere (forse), in P. Tullini, Controlli a distanza e tutela dei dati personali del lavoratore, Giappichelli, 2017, 183 ss.
Belisario E., Commento all’art. 15, in G.M. Riccio - G. Scorza - E. Belisario, GDPR e normativa privacy, WoltersKluwer, 2018.
Benvenuti F., L’istruzione nel processo amministrativo, Cedam, 1953.
Besso C., La vicinanza della prova, in RDP, 2015.
Biasi M., La protezione della sfera personale del lavoratore al tempo dei social media: brevi riflessioni sull’attualità dell’art. 8 dello Statuto dei Lavoratori, in LG, 2021, 1, in via di pubblicazione
Bolognesi R., Il prudente esercizio dei poteri istruttori ufficiosi da parte del giudice del lavoro, in Judicium, 2014.
Burrell J., How the machine ‘thinks’: Understanding opacity in machine learning algorithms, in Big Data & Society, 2016, 1.
Cairo L. - Villa U., I controlli a distanza a quattro anni dal Jobs Act, in LG, 2019, 7.
Caruso B., Tutela giurisdizionale, onere della prova, equità processuale. Una ricerca sul diritto del lavoro nel processo, in RGL, 1982, 1-2.
Cassano G., I controlli ex art. 4, L. n. 300/1970, in LG, 2020, 7, 778.
Cavallone B., In difesa della veriphobia (considerazioni amichevolmente polemiche su un libro recente di Michele Taruffo), in RDP, 2010, 1.
Ciccarelli R., Frank, l’algoritmo anti-sciopero. La Cgil porta in tribunale Deliveroo, ilManifesto, 18 dicembre 2019, https://ilmanifesto.it/frank-lalgoritmo-anti-sciopero-la-cgil-porta-in-tribunale-deliveroo/
Comoglio L.P., I poteri d’ufficio del giudice del lavoro, in Problemi attuali sul processo del lavoro, Giuffrè, 2006.
Comoglio L.P., Le prove civili, UTET, 2010.
Comoglio P., Nuove tecnologie e disponibilità della prova, Giappichelli, 2018.
Dagnino E., People Analytics: lavoro e tutele al tempo del management tramite big data, in LLI, 2017, I.1 ss.
Dastin J., Amazon scraps secret AI recruiting tool that showed bias against women, Reuters, 11 ottobre 2018, https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G
de Angelis L., L’udienza di discussione, in D. Borghesi - L. de Angelis, Il processo del lavoro e della previdenza, UTET, 2013.
De Michiel F., Questioni sull’onere della prova nel diritto del lavoro, Cedam, 2019.
De Stefano V., “Negotiating the Algorithm”: Automation, Artificial Intelligence, and Labor Protection, in CLL&PJ, 2019, 41, 1.
Del Punta R., Onere della prova e potere istruttorio del giudice: l’instabile equilibrio fra principio dispositivo e principio inquisitorio, in Problemi attuali sul processo del lavoro, Giuffrè, 2006.
Di Cerbo V., Commento all’art. 421 c.p.c., in G. Amoroso - V. Di Cerbo - A. Maresca, Il processo del lavoro, Giuffrè, 2020, 383 ss.
Dittrich L., La ricerca della verità nel processo civile: profili evolutivi in tema di prova testimoniale, consulenza tecnica e fatto notorio, in RDP, 2011, 1.
Donini A., Tecniche avanzate di analisi dei dati e protezione dei lavoratori, in DRI, 2018, 1, 222.
Drożdż A., Protection of Natural Persons with Regard to Automated Individual Decision-Making in the GDPR, Kluwer Law International, 2020.
Duggan J. - Sherman U. - Carbery R. - McDonnell A., Algorithmic management and app-work in the gig economy: A research agenda for employment relations and HRM, in HRMJ, 30.
Dzieza J., How hard will the robots make us work?, The Verge, 27 febbraio 2020, https://www.theverge.com/2020/2/27/21155254/automation-robots-unemployment-jobs-vs-human-google-amazon
Falsone M., Il sindacato e la risoluzione delle controversie: una, nessuna o centomila identità?, in GC.com, 2020.
Gamba C., Il controllo a distanza delle attività dei lavoratori e l’utilizzabilità delle prove, in LLI, 2016, 2, 1.
Gramano E., Sul licenziamento intimato per scarso rendimento, in ADL, 2017, 6, 1506 ss.
Hacker P., Teaching fairness to artificial intelligence: existing and novel strategies against algorithmic discrimination under EU law, in CMLR, 2018.
Hendrickx F., From Digits to Robots: The Privacy Autonomy Nexus in New Labor Law Machinery, in CLL&PJ, 2019, 40, 365.
Ingrao A., Data-Driven management e strategie collettive di coinvolgimento dei lavoratori per la tutela della privacy, in LLI, 2019, 2, 129 ss.
Ingrao A., Il braccialetto elettronico tra privacy e sicurezza del lavoratore, in DRI, 2019, 3, 895 ss.
Ingrao A., Il controllo a distanza sui lavoratori e la nuova disciplina privacy: una lettura integrata, Cacucci, 2018.
Jarrahi M.H. - Sutherland W., Algorithmic Management and Algorithmic Competencies: Understanding and Appropriating Algorithms in Gig Work, in N. Taylor - C. Christian-Lamb - M. Martin - B. Nardi, Information in Contemporary Society. iConference 2019. Lecture Notes in Computer Science, vol. 11420, Springer, 2019, 578 ss.
Kullmann M., Discriminating job applicants through algorithmic decision-making, in SSRN, 2019.
Lecher C., How Amazon automatically tracks and fires warehouse workers for ‘productivity’, The Verge, 25 aprile 2019, https://www.theverge.com/2019/4/25/18516004/amazon-warehouse-fulfillment-centers-productivity-firing-terminations
Lee M.K. - Kusbit D. - Metsky E. - Dabbish L., Working with Machines: The Impact of Algorithmic and Data-Driven Management on Human Workers, in Proceedings of CHI 2015, 2015, 1603-1612.
Liebman E.T., Fondamento del principio dispositivo, in RDP, 1960.
Liebman E.T., Manuale di diritto processuale civile, II, Giuffrè, 1981.
Liebman E.T., Storiografia giuridica manipolata, in RDP, 1974, 108.
Malgieri G. - Comandè G., Why a Right to Legibility of Automated Decision-Making Exists in the General Data Protection Regulation, in IDPL, 2017, 7, 4.
Mandrioli C., Diritto processuale civile, II, Giappichelli, 2009.
Mateescu A. - Nguyen A., Algorithmic Management in the Worklplace, Data & Society Research Institute, 2019, https://datasociety.net/wp-content/uploads/2019/02/DS_Algorithmic_Management_Explainer.pdf
Menegus B., Amazon’s Last Mile, Gizmodo, 16 novembre 2017, https://gizmodo.com/amazons-last-mile-1820451224
Novella M., Il rider non è un lavoratore subordinato, ma è tutelato come se lo fosse, in LLI, 2019, 5, 1.
O’Connor S., When your boss is an algorithm, Financial Times, 8 settembre 2016, https://www.ft.com/content/88fdc58e-754f-11e6-b60a-de4532d5ea35
Oostveen M., Identifiability and the applicability of data protection to big data, in IDPL, 2016, 6, 4, 299 ss.
Otto M., Workforce Analytics v Fundamental Rights Protection in the EU in the Age of Big Data, in CLL&PJ, 2019, 40, 393.
Pasquale F., The Black Box Society. The Secret Algorithms That Controls Money and Information, Harvard University Press, 2016.
Peruzzi M., La prova del licenziamento ingiustificato e discriminatorio, Giappichelli, 2018.
Pisani C., Le preclusioni nel rito del lavoro, Judicium, 2012.
Research Group on the Regulation of the Digital Economy, Technical Aspects of Artificial Intelligence: An Understanding from an Intellectual Property Law Perspective, Max Planck Institute for Innovation and Competition Research Paper, n. 13/2019.
Rosenblat A. - Stark L., Algorithmic Labor and Information Asymmetries: A Case Study of Uber’s Drivers, IJoC, 2016, 10, 3758 ss.
Saitta F., Vicinanza alla prova e codice del processo amministrativo: l’esperienza del primo lustro, in RTDPC, 2017, 3.
Sartori A., Il controllo tecnologico sui lavoratori, Giappichelli, 2020.
Sawers P., Uber drivers union asks EU court to overrule ‘robo-firing’ by algorithm, VentureBeat, 26 ottobre 2020, https://venturebeat.com/2020/10/26/uber-drivers-union-asks-eu-court-to-overrule-robo-firing-by-algorithm/
Scuffi M., Le singole misure: descrizione e sequestro, in M. Scuffi - M. Franzosi, Diritto industriale italiano, II, 2013, 1404 ss.
Silberg J. - Manyika J., Tackling bias in artificial intelligence (and in humans), McKinsey Global Institute, 6 giugno 2019, https://www.mckinsey.com/featured-insights/artificial-intelligence/tackling-bias-in-artificial-intelligence-and-in-humans
Taruffo M., L’onere come figura processuale, in RTDPC, 2012, 2, 429.
Taruffo M., La prova nel processo civile, in già diretto da A. Cicu - F. Messineo - L. Mengoni e continuato da P. Schlesinger, Trattato di diritto civile e commerciale, Giuffrè, 2012.
Taruffo M., La semplice verità, Laterza, 2009.
Taruffo M., Onere della prova [dir. proc. civ.], in Diritto on line – Treccani, 2017.
Taruffo M., Presunzioni, inversioni, prova del fatto, in RTDPC, 1992, 733 ss.
Tullini P., Il controllo a distanza attraverso gli strumenti per rendere la prestazione lavorativa. Tecnologie di controllo e tecnologie di lavoro: una distinzione possibile?, in P. Tullini, Controlli a distanza e tutela dei dati personali del lavoratore, Giappichelli, 2017.
Tullini P., Prime riflessioni dopo la sentenza di Torino sul caso Foodora, in LDE, 2018, 1.
Vallebona A., Disciplina dell’onere probatorio e disparità sostanziale delle parti del rapporto di lavoro, in ADL, 2001.
Vallebona A., Il trionfo del processo del lavoro, in MGL, 2009, 7, 566.
Vallebona A., L’inversione dell’onere della prova nel diritto del lavoro, in RTDPC, 1992.
Vallebona A., L’onere della prova nel diritto del lavoro, Cedam, 1988.
Vallebona A., L’onere probatorio circa i requisiti dimensionali per la tutela reale contro il licenziamento: le Sezioni Unite cambiano idea, in RIDL, 2006, 2, 448 ss.
Vardaro G., Tecnica, tecnologia e ideologia della tecnica nel diritto del lavoro, in PD, 1986, 1.
Wachter S. - Mittelstadt B. - Floridi L., Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation, in IDPL, 2017, 7, 2.
Wachter S. - Mittelstadt B. - Russell C., Counterfactual Explanations Without Opening the Black Box: Automated Decisions and the GDPR, in HJL&T, 2018, 31, 2, 841 ss.
Yampolskiy R.V., Unexplainability and Incomprehensibility of Artificial Intelligence, 2019, https://arxiv.org/ftp/arxiv/papers/1907/1907.03869.pdf
Zoli C., La tutela delle posizioni «strumentali» del lavoratore, Giuffrè, 1988.
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2020 Giovanni Gaudio
This work is licensed under a Creative Commons Attribution 3.0 Unported License.
