Calificación reputacional y derecho a una explicación
DOI:
https://doi.org/10.6092/issn.2421-2695/18612Palabras clave:
calificación reputacional, Derecho a una explicación, mevaluate, “Esquema ejecutivo”, GDPR, AI ActResumen
El presente trabajo analiza la Ordenanza nº 28358, de 6 de octubre de 2023, por la que el Corte Suprema de Casación italiana se pronuncia por segunda vez y de forma definitiva sobre la licitud del tratamiento de datos personales efectuado por la Associazione Mevaluate Onlus consistente en el tratamiento automatizado de perfiles reputacionales. El artículo trata las tres cuestiones jurídicas abordadas en la sentencia, relativas a (i) la información sobre el "esquema ejecutivo" del sistema de calificaión reputacional; (ii) la posibilidad de información "per relationem" al interesado; (iii) la relación entre el consentimiento del interesado para el tratamiento de datos y las cláusulas contractuales. La contribución también analizará dos escenarios hipotéticos: (a) cómo podría haber decidido la Corte Suprema de Casación si, en lugar del Código de Privacidad italiano, el Reglamento General de Protección de Datos hubiera sido aplicable al caso Mevaluate; (b) cómo podría haber decidido la Corte Suprema de Casación si las normas que se están adoptando actualmente a nivel de la UE sobre Inteligencia Artificial ya hubieran estado en vigor.
Citas
Aloisi A. - De Stefano V., Il tuo capo è un algoritmo. Contro il lavoro disumano, Laterza, 2020.
Barbera M., Discriminazioni algoritmiche e forme di discriminazione, in LLI, 2021, 1, 1.
Bassini M., Il diritto costituzionale alla “privacy” nel prisma dell’evoluzione tecnologica, in Dir. cost., 2023, 1, 83.
Binns R. - Veale M., Is that your final decision? Multi-stage profiling, selective effects, and Article 22 of the GDPR, in IDPL, 2021, 4, 319
Bravo F., Il consenso e le altre condizioni di liceità del trattamento di dati personali, in Il nuovo Regolamento europeo sulla privacy e sulla protezione dei dati personali, a cura di G. Finocchiaro, Zanichelli, 2017, 101.
Bravo F., Lo “scambio di dati personali” nei contratti di fornitura di servizi digitali e il consenso dell’interessato tra autorizzazione e contratto, in Contr. e impr., 2019, 1, 34.
Bravo F., Rating reputazionale e trasparenza dell’algoritmo. Il Caso Mevaluate, in Dir. inform., 2021, 6.
Brkan M - Bonnet G., Legal and technical feasibility of the GDPR’s quest for explanation of algorithmic decisions: Of black boxes, white boxes and fata morganas, in Eur. J. Risk Regul., 2020, 1, 18.
Consiglio E. - Sartor G., Il sistema di credito sociale cinese: una «nuova» regolazione sociotecnica mediante sorveglianza, valutazione e sanzione, in TIGOR, 2021, 2, 139.
Cuffaro V., Il consenso dell’interessato, in La disciplina del trattamento dei dati personali, a cura di V. Cuffaro - V. Ricciuto, Giappichelli, 1997, 201.
Dagnino E., “People Analytics”: lavoro e tutele al tempo del “management” tramite “big data”, in LLI, 2017, 1, 1.
Di Genio G., Trasparenza e accesso ai dati personali, in La nuova disciplina europea della privacy, a cura di S. Sica - V. D’Antonio - G.M. Riccio, Cedam, 2016, 170.
Donini A., Profilazione reputazionale e tutela del lavoratore: la parola al Garante della Privacy, in LLI, 2017, 1, 37.
Donini A., Tecniche avanzate di analisi dei dati e protezione dei lavoratori, in DRI, 2018, 1, 35.
Ebers M., Regulating Explainable AI in the European Union. An Overview of the Current Legal Framework(s), in Nordic Yearbook of Law and Informatics, a cura di L. Colonna - S. Greenstein, Poseidon Förlag, 2020, 103.
Falletti E., Discriminazione algoritmica. Una prospettiva comparata, Giappichelli, 2022.
Fioriglio G., La Società algoritmica fra opacità e spiegabilità: profili informatico-giuridici, in Ars Interpretandi, 2021, 1, 53.
Floridi L. et al., AI4People - An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations, in Minds mac., 28, 2018, 689.
Galli F. - Godano F., Il rapporto di lavoro dei riders e la natura discriminatoria delle condizioni di accesso al lavoro dell’algoritmo Frank, in Dir. internet, 2021, 2, 275.
Gaudio G., “Algorithmic management”, poteri datoriali e oneri della prova: alla ricerca della verità materiale che si cela dietro l’algoritmo, in LLI, 2020, 2, 19.
Giannone Codiglione G., Algoritmi reputazionali e confini dell’autonomia dei privati, in Dir. inform, 2019, 2, 520.
Giannone Codiglione G., I dati personali come corrispettivo della fruizione di un servizio di comunicazione elettronica e la “consumerizzazione” della privacy, in Dir. inform, 2017, 2, 418.
Giannotti F. - Pedreschi D., “Explainable AI”. Aprire le scatole nere per una Intelligenza Artificiale (AI) umana, in Gnosis, 2019, 2, 37.
Kleinberg J. - Ludwig J. - Mullainathan S. - Sunstein C.R., Discrimination in the age of algorithms, in J. Leg., 2018, 10.
Lagioia F. - Sartor G. - Simoncini A., Articolo 22, in Codice della privacy e data protection, a cura di R. D’Orazio - G. Finocchiaro - O. Pollicino - G. Resta, Giuffrè, 2021, 388.
Malgieri G. - Comandé G., Why a right to legibility of automated decision-making exists in the general data protection regulation, in IDPL, 2017, 4, 243.
Miller T., Explanation in artificial intelligence: Insights from the social sciences, in Artif. Intell, 2019, 1.
Oppo G., Sul consenso dell’interessato, in Trattamento dei dati e tutela della persona, a cura di V. Cuffaro - V. Riucciuto - V. Zeno Zencovich, Giuffrè, 1998, 123.
Pagallo U., Algoritmi e conoscibilità, in Riv. fil. dir., IX, 2020, 1, 93.
Palmirani M, Big data e conoscenza, in Riv. fil. dir., IX, 2020, 1, 73.
Pasquale F., The black box society. The secret algorithms that control money and information, Harvard University Press, 2015.
Peruzzi M., Il diritto antidiscriminatorio al test di intelligenza artificiale, in LLI, 2021, 1, 48.
Resta G. - Zeno-Zencovich V., Volontà e consenso nella fruizione dei servizi in rete, in RTDPC, 2018, 2.
Ricciuto V., Il contratto ed i nuovi fenomeni patrimoniali: il caso della circolazione dei dati personali, in RDC, 2020, 3, 642.
Sartor G. - Lagioia F., Le decisioni algoritmiche tra etica e diritto, in Intelligenza artificiale. Il diritto, i diritti, l’etica, a cura di U. Ruffolo, Giuffrè, 63-86.
Sciascia G., Reputazione e potere: il “social scoring” tra distopia e realtà, in Gior. dir. amm., 2021, 3, 317.
Vigorito A., La declinazione “algoritmica” del consenso dell’interessato al trattamento dei dati personali. Il caso Mevaluate e il “rating” reputazionale “privato”, in RCDP, 2021, 3, 441.
Wachter S. - Mittelstadt B. - Floridi L, Why a right to explanation of automated decision-making does not exist in the General Data Protection Regulation, in Int. Data Privacy Law, 2017, 7, 78.
Wachter S. - Mittelstadt B. - Russell C., Counterfactual explanations without opening the black box: Automated decisions and the GDPR, in Harv. JL & Tech., 2017, 841.
Yeung K., ‘Hypernudge’: Big Data as a mode of regulation by design, in Inf. Commun. Soc., 2017, 1, 118.
Zarsky T., Understanding Discrimination in the Scored Society, in Wash. L. Rev, 2014, 4, 137.
Zuboff S., Il capitalismo della sorveglianza, Luiss University Press, 2019.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2023 Federico Galli
Esta obra está bajo una licencia Creative Commons Reconocimiento 3.0 Unported.
