La ética de la inteligencia artificial
When a self-driving car finds itself in a situation where a collision is unavoidable, whom should it protect as a priority: the passengers on board or the pedestrians on the road? This question, long confined to philosophy lecture halls, has become a genuine headache for engineers.
Cuando un coche autónomo se encuentra en una situación en la que una colisión es inevitable, ¿a quién debe proteger de forma prioritaria: a los pasajeros a bordo o a los peatones en la calzada? Esta cuestión, durante mucho tiempo confinada a los anfiteatros de filosofía, se ha convertido en un auténtico quebradero de cabeza para los ingenieros.
The difficulty lies not in the technology itself, but in the values one embeds within it.
La dificultad no reside en la tecnología en sí, sino en los valores que se inscriben en ella.
Every algorithm reflects a set of assumptions about what matters, and artificial intelligence is no exception to the rule.
Todo algoritmo refleja un conjunto de presupuestos sobre lo que importa, y la inteligencia artificial no escapa a la regla.
When a recruitment tool systematically rules out candidates from certain neighborhoods, it is not malfunctioning — it is doing precisely what it was trained for.
Cuando una herramienta de selección de personal descarta sistemáticamente a los candidatos procedentes de ciertos barrios, no está funcionando mal: está haciendo precisamente aquello para lo que fue entrenada.
The bias existed before the code was written, buried in decades of historical data in which correlation stood in for truth.
El sesgo existía antes de que se escribiera el código, sepultado en décadas de datos históricos en los que la correlación hacía las veces de verdad.
Proponents of strict regulation argue that these systems cannot be allowed to evolve in a legal vacuum.
Los partidarios de una regulación estricta sostienen que no se puede permitir que estos sistemas evolucionen en un vacío jurídico.
They cite cases in which facial recognition software has led to wrongful arrests, disproportionately affecting ethnic minorities.
Recuerdan los casos en los que ciertos programas de reconocimiento facial han conducido a detenciones indebidas, afectando de forma desproporcionada a las minorías étnicas.
Without a clear accountability framework, they warn, the technology will continue to amplify existing inequalities rather than correct them.
Sin un marco claro de responsabilidad, advierten, la tecnología seguirá amplificando las desigualdades existentes en lugar de corregirlas.
Critics of overly restrictive regulation counter that excessive control risks stifling innovation and giving a competitive advantage to countries with looser standards.
Los detractores de una reglamentación demasiado restrictiva replican que un exceso de control corre el riesgo de ahogar la innovación y de conceder una ventaja competitiva a los países menos exigentes.
According to them, the industry is better placed than lawmakers to put effective safeguards in place, given the pace at which the technology evolves.
Según ellos, la industria está mejor situada que el legislador para implantar salvaguardas eficaces, habida cuenta de la velocidad a la que la tecnología evoluciona.
What both camps tend to obscure is that this debate is fundamentally a question of power.
Lo que ambos bandos tienden a ocultar es que este debate es, en el fondo, una cuestión de poder.
The issue is not merely whether AI should be regulated, but who sets the rules — and whose interests those rules ultimately serve.
No se trata únicamente de decidir si la IA debe ser regulada, sino de determinar quién fija las reglas, y a qué intereses sirven esas reglas en última instancia.