Sesgo de la IA en la contratación
The other day, the news that a major company had introduced AI into its hiring process became a topic of discussion.
Hace unos días, se convirtió en tema de debate la noticia de que una gran empresa había incorporado la inteligencia artificial a su proceso de selección de personal.
This system reportedly analyses applicants' résumés and aptitude test results, and automatically selects the candidates who should advance to the interview stage.
Según se afirma, este sistema analiza los currículos y los resultados de las pruebas de aptitud de los candidatos, y selecciona automáticamente a quienes deben pasar a la fase de entrevista.
The company claims that it eliminates the biases that human recruiters unconsciously carry.
La empresa sostiene que permite eliminar los sesgos que los responsables humanos arrastran de manera inconsciente.
However, problems surfaced only six months after its introduction.
Sin embargo, apenas seis meses después de su implantación, salieron a la luz los problemas.
It became clear that the system was unfairly favouring graduates of certain universities and giving lower evaluations to applicants from rural areas.
Se descubrió que el sistema favorecía indebidamente a los titulados de determinadas universidades y tendía a evaluar a la baja a los candidatos procedentes de zonas rurales.
The cause lay in the fact that the past hiring data already contained biases.
La causa residía en que los datos históricos de contratación ya contenían sesgos.
Far from eliminating prejudice, the AI had merely learned past prejudices and was efficiently reproducing them.
Lejos de haber eliminado los prejuicios, la IA se había limitado a aprender los prejuicios del pasado y a reproducirlos de forma eficiente.
This case strikes at the heart of the debate surrounding AI ethics. There is no good or evil inherent in the technology itself.
Este caso toca el núcleo del debate sobre la ética de la inteligencia artificial. No hay bien ni mal en la tecnología en sí.
The issue lies in who uses what data, and for what purpose the system is designed.
La cuestión radica en quién utiliza qué datos y con qué finalidad se diseña el sistema.
The myth that algorithms are "objective" carries the danger of concealing the values of their designers and the pre-existing inequalities of society.
El mito de que los algoritmos son "objetivos" entraña el peligro de encubrir los valores de sus diseñadores y las desigualdades ya existentes en la sociedad.
Calls for regulation are growing louder, but opinions are divided on how far regulation should go.
Las voces que exigen una regulación son cada vez más numerosas, pero las opiniones se dividen sobre hasta qué punto debe llegar dicha regulación.
Overly strict regulation risks stifling technological innovation, while overly lax regulation threatens to widen existing disparities.
Una regulación demasiado estricta podría frenar la innovación tecnológica, mientras que una excesivamente laxa amenaza con ampliar las desigualdades existentes.
In the end, the ethics of AI is not a question of technology but a question concerning the very nature of society.
En definitiva, la ética de la inteligencia artificial no es una cuestión técnica, sino un interrogante sobre el modelo de sociedad que queremos.
Unless we clarify what kind of society we wish to have, we will not be able to escape the vicious cycle in which technology alone races ahead and we are left continually correcting the injustices that arise as a result.
Mientras no aclaremos qué tipo de sociedad deseamos, no podremos salir del círculo vicioso en el que la tecnología avanza sola y nosotros nos limitamos a corregir a posteriori las injusticias que de ello se derivan.