El algoritmo decidió no contratarte: ¿es eso legal?

 Foto Ref

Traducción del post de Peter Fleischer 20120920

Yo empleo un montón de tiempo en pensar sobre privacidad y algoritmos.

El periódico The Wall Street Journal sacó una historia muy interesante: “Conoce al Nuevo Jefe: Big Data”, sobre cómo los algoritmos se están usando para tomar decisiones sobre personal, como contratación y promoción. El artículo señalaba que tales algoritmos podrían plantear problemas legales a la luz de la legislación estadounidense antidiscriminatoria, si a propósito o inadvertidamente filtrasen para descartar ciertas categorías protegidas de empleados, como por ejemplo mayores de una cierta edad. Pero el artículo no entra en un tema legal aún más básico, al menos en Europa.

En Europa la “decisiones individuales automatizadas” son una infracción de la leyes de privacidad europeas. El Artículo 15 de la Directiva Europea sobre tratamiento de datos personales garantiza: el derecho de las personas  “...a no verse sometidas a una decisión con efectos jurídicos sobre ellas o que les afecte de manera significativa, que se base únicamente en un tratamiento automatizado de datos destinado a evaluar determinados aspectos de su personalidad, como su rendimiento laboral, crédito, fiabilidad, conducta, etc”.

Bueno, eso lo expresa con toda la claridad con que puede hacerlo una ley. En nuestra era del Big Data todos sabemos que los algoritmos se están refinando y usando más y más ampliamente para tomar decisiones sobre contratación y promoción, y muchos otros temas. Pero cuando estas decisiones estén basadas únicamente en algoritmos, estarán infringiendo la legislación europea de privacidad. Punto. La única manera en que tales algoritmos se pueden emplear de manera legal sería suplementarlos con otras medidas para salvaguardar los intereses legítimos de la persona a la que se está evaluando; por ejemplo, permitiéndole expresar su punto de vista.

Yo soy un gran creyente de que los algoritmos nos pueden ayudar a todos nosotros (gobiernos, empresas, particulares) a tomar mejores decisiones. Pero cuando un programa informático está tomando por sí mismo decisiones clave sobre a quién contratar o despedir, o sobre si ampliar o no el crédito a alguien, es justo requerir salvaguardias adicionales. Las leyes de privacidad en Europa las requieren. Yo soy agnóstico sobre si los algoritmos son más o menos justos que los humanos al tomar muchas de tales decisiones. En todo caso, las empresas que usen tales algoritmos tienen que considerar cómo hacer que se ajusten a la legislación de privacidad europea. Cuando los algoritmos se usen para suplementar otras herramientas de evaluación, deberían considerarse legales. Cuando los algoritmos se usen para tomar esas decisiones por ellos mismos, existe un riesgo serio de que fueran considerados ilegales. Úsense con cuidado.

o0o

algoritmo. (Quizá del lat. tardío *algobarismus, y este abrev. del ár. clás. 'cálculo mediante cifras arábigas').

1.  m. Conjunto ordenado y finito de operaciones que permite hallar la solución de un problema.