AI hiring bias
Hace unos días, se convirtió en tema de debate la noticia de que una gran empresa había incorporado la inteligencia artificial a su proceso de selección de personal.
The other day, the news that a major company had introduced AI into its hiring process became a topic of discussion.
Según se afirma, este sistema analiza los currículos y los resultados de las pruebas de aptitud de los candidatos, y selecciona automáticamente a quienes deben pasar a la fase de entrevista.
This system reportedly analyses applicants' résumés and aptitude test results, and automatically selects the candidates who should advance to the interview stage.
La empresa sostiene que permite eliminar los sesgos que los responsables humanos arrastran de manera inconsciente.
The company claims that it eliminates the biases that human recruiters unconsciously carry.
Sin embargo, apenas seis meses después de su implantación, salieron a la luz los problemas.
However, problems surfaced only six months after its introduction.
Se descubrió que el sistema favorecía indebidamente a los titulados de determinadas universidades y tendía a evaluar a la baja a los candidatos procedentes de zonas rurales.
It became clear that the system was unfairly favouring graduates of certain universities and giving lower evaluations to applicants from rural areas.
La causa residía en que los datos históricos de contratación ya contenían sesgos.
The cause lay in the fact that the past hiring data already contained biases.
Lejos de haber eliminado los prejuicios, la IA se había limitado a aprender los prejuicios del pasado y a reproducirlos de forma eficiente.
Far from eliminating prejudice, the AI had merely learned past prejudices and was efficiently reproducing them.
Este caso toca el núcleo del debate sobre la ética de la inteligencia artificial. No hay bien ni mal en la tecnología en sí.
This case strikes at the heart of the debate surrounding AI ethics. There is no good or evil inherent in the technology itself.
La cuestión radica en quién utiliza qué datos y con qué finalidad se diseña el sistema.
The issue lies in who uses what data, and for what purpose the system is designed.
El mito de que los algoritmos son "objetivos" entraña el peligro de encubrir los valores de sus diseñadores y las desigualdades ya existentes en la sociedad.
The myth that algorithms are "objective" carries the danger of concealing the values of their designers and the pre-existing inequalities of society.
Las voces que exigen una regulación son cada vez más numerosas, pero las opiniones se dividen sobre hasta qué punto debe llegar dicha regulación.
Calls for regulation are growing louder, but opinions are divided on how far regulation should go.
Una regulación demasiado estricta podría frenar la innovación tecnológica, mientras que una excesivamente laxa amenaza con ampliar las desigualdades existentes.
Overly strict regulation risks stifling technological innovation, while overly lax regulation threatens to widen existing disparities.
En definitiva, la ética de la inteligencia artificial no es una cuestión técnica, sino un interrogante sobre el modelo de sociedad que queremos.
In the end, the ethics of AI is not a question of technology but a question concerning the very nature of society.
Mientras no aclaremos qué tipo de sociedad deseamos, no podremos salir del círculo vicioso en el que la tecnología avanza sola y nosotros nos limitamos a corregir a posteriori las injusticias que de ello se derivan.
Unless we clarify what kind of society we wish to have, we will not be able to escape the vicious cycle in which technology alone races ahead and we are left continually correcting the injustices that arise as a result.