Reputational scoring and the right to an explanation
DOI:
https://doi.org/10.6092/issn.2421-2695/18612Keywords:
reputational scoring, Right to an explanation, Mevaluate, “Executive Scheme”, GDPR, AI ActAbstract
This paper analyses Ordinance no. 28358 of 6 October 2023, whereby the Italian Court of Cassation ruled for the second time and definitively on the lawfulness of the processing of personal data carried out by the Associazione Mevaluate Onlus consisting in the automated processing of reputational profiles. The paper deals with the three legal questions addressed in the ruling, concerning (i) the information on the “executive scheme” of the reputational scoring system; (ii) the possibility of “per relationem” information to the data subject; (iii) the relationship between data subject’s consent to data processing and contractual clauses. The contribution will also analyse two hypothetical scenarios: (a) how the Court of Cassation could have decided if, instead of the Italian Privacy Code, the General Data Protection Regulation had been applicable to the Mevaluate case; (b) how the Court of Cassation could have decided if the rules currently being adopted at EU level on Artificial Intelligence had already been in force.
References
Aloisi A. - De Stefano V., Il tuo capo è un algoritmo. Contro il lavoro disumano, Laterza, 2020.
Barbera M., Discriminazioni algoritmiche e forme di discriminazione, in LLI, 2021, 1, 1.
Bassini M., Il diritto costituzionale alla “privacy” nel prisma dell’evoluzione tecnologica, in Dir. cost., 2023, 1, 83.
Binns R. - Veale M., Is that your final decision? Multi-stage profiling, selective effects, and Article 22 of the GDPR, in IDPL, 2021, 4, 319
Bravo F., Il consenso e le altre condizioni di liceità del trattamento di dati personali, in Il nuovo Regolamento europeo sulla privacy e sulla protezione dei dati personali, a cura di G. Finocchiaro, Zanichelli, 2017, 101.
Bravo F., Lo “scambio di dati personali” nei contratti di fornitura di servizi digitali e il consenso dell’interessato tra autorizzazione e contratto, in Contr. e impr., 2019, 1, 34.
Bravo F., Rating reputazionale e trasparenza dell’algoritmo. Il Caso Mevaluate, in Dir. inform., 2021, 6.
Brkan M - Bonnet G., Legal and technical feasibility of the GDPR’s quest for explanation of algorithmic decisions: Of black boxes, white boxes and fata morganas, in Eur. J. Risk Regul., 2020, 1, 18.
Consiglio E. - Sartor G., Il sistema di credito sociale cinese: una «nuova» regolazione sociotecnica mediante sorveglianza, valutazione e sanzione, in TIGOR, 2021, 2, 139.
Cuffaro V., Il consenso dell’interessato, in La disciplina del trattamento dei dati personali, a cura di V. Cuffaro - V. Ricciuto, Giappichelli, 1997, 201.
Dagnino E., “People Analytics”: lavoro e tutele al tempo del “management” tramite “big data”, in LLI, 2017, 1, 1.
Di Genio G., Trasparenza e accesso ai dati personali, in La nuova disciplina europea della privacy, a cura di S. Sica - V. D’Antonio - G.M. Riccio, Cedam, 2016, 170.
Donini A., Profilazione reputazionale e tutela del lavoratore: la parola al Garante della Privacy, in LLI, 2017, 1, 37.
Donini A., Tecniche avanzate di analisi dei dati e protezione dei lavoratori, in DRI, 2018, 1, 35.
Ebers M., Regulating Explainable AI in the European Union. An Overview of the Current Legal Framework(s), in Nordic Yearbook of Law and Informatics, a cura di L. Colonna - S. Greenstein, Poseidon Förlag, 2020, 103.
Falletti E., Discriminazione algoritmica. Una prospettiva comparata, Giappichelli, 2022.
Fioriglio G., La Società algoritmica fra opacità e spiegabilità: profili informatico-giuridici, in Ars Interpretandi, 2021, 1, 53.
Floridi L. et al., AI4People - An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations, in Minds mac., 28, 2018, 689.
Galli F. - Godano F., Il rapporto di lavoro dei riders e la natura discriminatoria delle condizioni di accesso al lavoro dell’algoritmo Frank, in Dir. internet, 2021, 2, 275.
Gaudio G., “Algorithmic management”, poteri datoriali e oneri della prova: alla ricerca della verità materiale che si cela dietro l’algoritmo, in LLI, 2020, 2, 19.
Giannone Codiglione G., Algoritmi reputazionali e confini dell’autonomia dei privati, in Dir. inform, 2019, 2, 520.
Giannone Codiglione G., I dati personali come corrispettivo della fruizione di un servizio di comunicazione elettronica e la “consumerizzazione” della privacy, in Dir. inform, 2017, 2, 418.
Giannotti F. - Pedreschi D., “Explainable AI”. Aprire le scatole nere per una Intelligenza Artificiale (AI) umana, in Gnosis, 2019, 2, 37.
Kleinberg J. - Ludwig J. - Mullainathan S. - Sunstein C.R., Discrimination in the age of algorithms, in J. Leg., 2018, 10.
Lagioia F. - Sartor G. - Simoncini A., Articolo 22, in Codice della privacy e data protection, a cura di R. D’Orazio - G. Finocchiaro - O. Pollicino - G. Resta, Giuffrè, 2021, 388.
Malgieri G. - Comandé G., Why a right to legibility of automated decision-making exists in the general data protection regulation, in IDPL, 2017, 4, 243.
Miller T., Explanation in artificial intelligence: Insights from the social sciences, in Artif. Intell, 2019, 1.
Oppo G., Sul consenso dell’interessato, in Trattamento dei dati e tutela della persona, a cura di V. Cuffaro - V. Riucciuto - V. Zeno Zencovich, Giuffrè, 1998, 123.
Pagallo U., Algoritmi e conoscibilità, in Riv. fil. dir., IX, 2020, 1, 93.
Palmirani M, Big data e conoscenza, in Riv. fil. dir., IX, 2020, 1, 73.
Pasquale F., The black box society. The secret algorithms that control money and information, Harvard University Press, 2015.
Peruzzi M., Il diritto antidiscriminatorio al test di intelligenza artificiale, in LLI, 2021, 1, 48.
Resta G. - Zeno-Zencovich V., Volontà e consenso nella fruizione dei servizi in rete, in RTDPC, 2018, 2.
Ricciuto V., Il contratto ed i nuovi fenomeni patrimoniali: il caso della circolazione dei dati personali, in RDC, 2020, 3, 642.
Sartor G. - Lagioia F., Le decisioni algoritmiche tra etica e diritto, in Intelligenza artificiale. Il diritto, i diritti, l’etica, a cura di U. Ruffolo, Giuffrè, 63-86.
Sciascia G., Reputazione e potere: il “social scoring” tra distopia e realtà, in Gior. dir. amm., 2021, 3, 317.
Vigorito A., La declinazione “algoritmica” del consenso dell’interessato al trattamento dei dati personali. Il caso Mevaluate e il “rating” reputazionale “privato”, in RCDP, 2021, 3, 441.
Wachter S. - Mittelstadt B. - Floridi L, Why a right to explanation of automated decision-making does not exist in the General Data Protection Regulation, in Int. Data Privacy Law, 2017, 7, 78.
Wachter S. - Mittelstadt B. - Russell C., Counterfactual explanations without opening the black box: Automated decisions and the GDPR, in Harv. JL & Tech., 2017, 841.
Yeung K., ‘Hypernudge’: Big Data as a mode of regulation by design, in Inf. Commun. Soc., 2017, 1, 118.
Zarsky T., Understanding Discrimination in the Scored Society, in Wash. L. Rev, 2014, 4, 137.
Zuboff S., Il capitalismo della sorveglianza, Luiss University Press, 2019.
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2023 Federico Galli
This work is licensed under a Creative Commons Attribution 3.0 Unported License.
