Il diritto antidiscriminatorio al test di intelligenza artificiale
DOI:
https://doi.org/10.6092/issn.2421-2695/13117Parole chiave:
artificial intelligence, machine learning, algorithms, black box, antidiscrimination law, transparency, burden of proofAbstract
Partendo dall’analisi del caso relativo all’algoritmo Frank, deciso dal Tribunale di Bologna, il contributo intende evidenziare le più complesse sfide a cui è esposto il diritto antidiscriminatorio laddove i sistemi di Intelligenza Artificiale siano basati su approcci di machine-learning, in particolare i problemi collegati all’opacità algoritmica, al c.d. effetto “black box”.
Anzitutto, il tema della trasparenza sarà esaminato nella sua declinazione all’interno dei diversi livelli normativi coinvolti, in relazione alla protezione dei dati personali, dei diritti d'autore sul software e del segreto industriale. L’indagine si concentrerà, quindi, sulla ricostruzione di possibili soluzioni volte a rafforzare e garantire la tutela antidiscriminatoria. La riflessione verterà sulla verifica delle misure contenute nella proposta di Regolamento sull’Intelligenza Artificiale e delle tecniche che potrebbero essere mutuate dalla proposta di Direttiva sulla trasparenza retributiva nel contesto della parità di genere, proposte che sono state entrambe presentate dalla Commissione europea nel 2021.
Riferimenti bibliografici
Adams-Prassl J., What if Your Boss was an Algorithm?, in CLL&PJ, 2019, 41, 1, 123 ss.
Agrawal A., Gans J., Goldfarb A., Macchine predittive, Franco Angeli, 2018.
Alessi C., Lavoro tramite piattaforma e divieti di discriminazione nell’UE, in Impresa, lavoro e non lavoro nell'economia digitale, a cura di Alessi C., Barbera M., Guaglianone L., Cacucci, 2019, 683 ss.
Aloisi A. – Gramano E., Artificial Intelligence Is Watching You at Work: Digital Surveillance, Employee Monitoring, and Regulatory Issues in the EU Context, in CLL&PJ, 2019, 41, 1, 95 ss.
Ballestrero M. V., Ancora sui rider. La cecità discriminatoria della piattaforma, in Labor, 2021, 1, 104 ss.
Barbera M., Il cavallo e l’asino. Ovvero dalla tecnica della norma inderogabile alla tecnica antidiscriminatoria, in Eguaglianza e divieti di discriminazione nell’era del diritto del lavoro derogabile, a cura di Bonardi O., Ediesse, 2017, 17 ss.
Barbera M., Il licenziamento alla luce del diritto antidiscriminatorio, RGL, 2013, 139 ss.
Barbera M., Principio di eguaglianza e divieti di discriminazione, in La tutela antidiscriminatoria, a cura di Barbera M. – Guariso A., Giappichelli, 2019, 5 ss.
Barnard C. – Hepple B., Indirect Discrimination: Interpreting Seymour-Smith, in CLJ, 1999, 399 ss.
Bolego G., Intelligenza artificiale e regolazione delle relazioni di lavoro: prime riflessioni, in Labor, 1, 51 ss.
Bonardi O. – Meraviglia C., Dati statistici e onere della prova nel diritto antidiscriminatorio, in Eguaglianza e divieti di discriminazione nell’era del diritto del lavoro derogabile, a cura di Bonardi O., Ediesse, 2017, 351 ss.
Bravo F., Trasparenza del codice sorgente e decisioni automatizzate, in Diritto dell’informazione e dell’informatica, 2020, 4, 693 ss.
Caruso B. – Zappalà L. , Un diritto del lavoro “tridimensionale”: valori e tecniche di fronte ai mutamenti dei luoghi di lavoro, WP CSDLE, It. n. 439/2021
Centamore G., Ratti L., Oltre il dilemma qualificatorio: potenzialità e limiti del diritto antidiscriminatorio nella protezione del lavoratore on-demand, in Lavoro tramite piattaforma e divieti di discriminazione nell’UE, in Impresa, lavoro e non lavoro nell'economia digitale, a cura di Alessi C., Barbera M., Guaglianone L., Cacucci, 2019, 663 ss.;
Comandè G., Intelligenza artificiale e responsabilità tra liability e accountability. Il carattere trasformativo dell’IA e il problema della responsabilità, in Analisi giuridica dell’economia, 2019, 172 ss.
Costantini F., Profilazione e “automated decision making” in ambito lavorativo nella giurisprudenza italiana, in LG, 2019, 11, 984 ss.
D'Arcangelo L., L'obbligo di protezione dei dati del lavoratore: adempimento e sanzioni, in Diritti lavori mercati, 2020, 1, 75 ss.
Dagnino E. – I. Armaroli I., A Seat at the Table: Negotiating Data Processing in the Workplace: A National Case Study and Comparative Insights, in CLL&PJ, 2019, 41, 1, 173 ss.
Dagnino E., Dalla fisica all’algoritmo: una prospettiva di analisi giuslavoristica, AUP, 2019.
Dagnino E., People Analytics: lavoro e tutele al tempo del management tramite big data, in LLI, 2017, 3, I.2. ss.
De Stefano V., "Negotiating the Algorithm": Automation, Artificial Intelligence, and Labor Protection, CLL&PJ, 2019, 41, 1, 15 ss.
Del Punta R., Innovazioni tecnologiche e diritto del lavoro, in Rivista degli infortuni e delle malattie professionali, 2019, 106, fasc. 2/3, 261 ss.
Donini A., Tecniche avanzate di analisi dei dati e protezione dei lavoratori, in DRI, 2018, 222 ss.
Faioli M., Discriminazioni digitali e tutela giudiziaria su iniziativa delle organizzazioni sindacali, in DRI, 2021, 204 ss.
Falletti E., Decisioni automatizzate e diritto alla spiegazione: alcune riflessioni comparatistiche, in Diritto dell’informazione e dell’informatica, 2020, 2, 169 ss.
Flor R., Cybersecurity ed il contrasto ai cyber-attacks a livello europeo: dalla CIA-Triad Protection ai più recenti sviluppi, in Diritto di internet, 2019, 3, 453 ss.
Gaudio G., Algorithmic management, poteri datoriali e oneri della prova: alla ricerca della verità materiale che si cela dietro l’algoritmo, in LLI, 2020, 2, 21 ss.
Giacomelli L., Big brother is «gendering» you. Il diritto antidiscriminatorio alla prova dell’intelligenza artificiale: quale tutela per il corpo digitale?, in BioLaw Journal, 2019, 269 ss.
Gottardi D., Giustizia retributiva e trasparenza, in Studi in Memoria di Massimo Roccella, ESI, 2021, in corso di pubblicazione.
Granieri M., Il trattamento di categorie particolari di dati personali nel regolamento UE 2016/679, NLCC, 2017, 165 ss.
Gruppo indipendente di esperti ad alto livello sull’intelligenza artificiale, Una definizione di IA: principali capacità e discipline, Bruxelles, 2019.
Hacker P. , Teaching fairness to artificial intelligence: existing and novel strategies against discrimination under EU law, in CMLR, 2018
Hendrickx F., Privacy 4.0 at Work: Regulating Employment, Technology and Automation, in CLL&PJ, 2019, 41, 1, 147 ss.
Ingrao A., Data-Driven management e strategie collettive di coinvolgimento dei lavoratori per la tutela della privacy, in LLI, 2019, 2, 129.
King A. G. – Mrkonich M., “Big Data” and the Risk of Employment Discrimination, in Oklahoma Law Review, 2016, 68, 3, 557 ss.
Kullman M. , Platform Work, Algoritm Decision-Making, and EU Gender Equality Law, in IJCLLIR, 2018, 34, 11 ss.
Maio V., Il diritto del lavoro e le nuove sfide della rivoluzione robotica, in ADL, 2018, 6, 1414 ss.
Militello M. – Strazzari D., I fattori di discriminazione, in La tutela antidiscriminatoria, a cura di Barbera M. – Guariso A., Giappichelli, 2019, 85 ss.
Monaco M. P., Controlli a distanza sui lavoratori: evoluzione, riforme e privacy, in Labor, 2021, 2, 155 ss.
Numerico T., Social network e algoritmi di machine learning: problemi cognitivi e propagazione dei pregiudizi, in Sistemi intelligenti, 2019, 469 ss.
Ogriseg C., GDPR and Personal Data Protection in the Employment Context, in LLI, 2017, 2, R-1 ss.
Pacella G., La nozione euro-unitaria di lavoratore dipendente alla prova della gig-economy: si pronuncia la Corte di giustizia europea, in LLI, 1, R.17.
Peck D., They’re watching you at work, theatlantic.com, dec. 2013
Perulli A., La "soggettivazione regolativa" nel diritto del lavoro, in DRI, 2019, 1, 111 ss.
Perulli A., La discriminazione algoritmica: brevi note introduttive a margine dell’Ordinanza del Tribunale di Bologna, in LDE, 2021, n. 1
Peruzzi M., La prova del licenziamento ingiustificato e discriminatorio, Giappichelli, 2017.
Rota A., Rapporto di lavoro e big data analytics: profili critici e risposte possibili, in LLI, 2017, 3(1), I. 32-52.
Ruffolo U., Intelligenza artificiale, machine learning e responsabilità da algoritmo, in GI, 2019, 7, 1657 ss.
Salento A., Digitalizzazione delle imprese e trasformazione delle competenze. Quadro analitico e riscontri empirici, in Labor, 2019, 2, 131 ss.
Sanguinetti G., Machine Learning: accuratezza, interpretabilità e incertezza, in Ithaca: Viaggio nella Scienza, 2020, 16, 71 ss.
Santagata De Castro R., Anti-discrimination Law in the Italian Courts: the new frontiers of the topic in the age of algorithms, in WP CSDLE, It. n. 440/2021;
Sartori A., Il controllo tecnologico sui lavoratori, Giappichelli, 2020
Schildt H., The Data Imperative, OUP, 2020
Selbst A. D., Powles J., Meaningful information and the right to explanation, in International Data Privacy Law, 2017, 233 ss.
Sitzia A. - Crafa S., Impronte digitali, algoritmo e trattamento di dati personali: questioni di "law and technology", in LG, 2019, 3, 245 ss.
Tebano L., Tutela della privacy e potere di controllo del datore di lavoro tra l’ordinamento italiano e le fonti europee, in LLI, 2017, 2, C-1 ss.
Tullini P. (a cura di), Controlli a distanza e tutela dei dati personali del lavoratore, Giappichelli, 2017.
Tullini P., Divieto di indagini sulle opinioni e trattamenti discriminatori, in Il nuovo mercato del lavoro, coordinato da Pedrazzoli M., Bologna, 2004, 145 ss.
Tullini P., La digitalizzazione del lavoro, la produzione intelligente e il controllo tecnologico nell’impresa, in Web e lavoro. Profili evolutivi e di tutela, a cura di Patrizia Tullini, Giappichelli, 2017, 3 ss.
Tullini P., La salvaguardia dei diritti fondamentali della persona che lavora nella gig-economy, in costituzionalismo.it, 2020, 1, 39 ss.;
Wachter S. - Mittelstadt B. - Floridi L., Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation, in IDPL, 2017, 7, 2.
Wachter S., Mittelstadt B., Floridi L., Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation, in International Data Privacy Law, 2017, 76 ss.
Downloads
Pubblicato
Come citare
Fascicolo
Sezione
Licenza
Copyright (c) 2021 Marco Peruzzi
Questo articolo è soggetto a licenza Creative Commons Attribution 3.0 Unported License.
