The ethics of artificial intelligence

Cuando un coche autónomo se encuentra en una situación en la que una colisión es inevitable, ¿a quién debe proteger de forma prioritaria: a los pasajeros a bordo o a los peatones en la calzada? Esta cuestión, durante mucho tiempo confinada a los anfiteatros de filosofía, se ha convertido en un auténtico quebradero de cabeza para los ingenieros.

When a self-driving car finds itself in a situation where a collision is unavoidable, whom should it protect as a priority: the passengers on board or the pedestrians on the road? This question, long confined to philosophy lecture halls, has become a genuine headache for engineers.

La dificultad no reside en la tecnología en sí, sino en los valores que se inscriben en ella.

The difficulty lies not in the technology itself, but in the values one embeds within it.

Todo algoritmo refleja un conjunto de presupuestos sobre lo que importa, y la inteligencia artificial no escapa a la regla.

Every algorithm reflects a set of assumptions about what matters, and artificial intelligence is no exception to the rule.

Cuando una herramienta de selección de personal descarta sistemáticamente a los candidatos procedentes de ciertos barrios, no está funcionando mal: está haciendo precisamente aquello para lo que fue entrenada.

When a recruitment tool systematically rules out candidates from certain neighborhoods, it is not malfunctioning — it is doing precisely what it was trained for.

El sesgo existía antes de que se escribiera el código, sepultado en décadas de datos históricos en los que la correlación hacía las veces de verdad.

The bias existed before the code was written, buried in decades of historical data in which correlation stood in for truth.

Los partidarios de una regulación estricta sostienen que no se puede permitir que estos sistemas evolucionen en un vacío jurídico.

Proponents of strict regulation argue that these systems cannot be allowed to evolve in a legal vacuum.

Recuerdan los casos en los que ciertos programas de reconocimiento facial han conducido a detenciones indebidas, afectando de forma desproporcionada a las minorías étnicas.

They cite cases in which facial recognition software has led to wrongful arrests, disproportionately affecting ethnic minorities.

Sin un marco claro de responsabilidad, advierten, la tecnología seguirá amplificando las desigualdades existentes en lugar de corregirlas.

Without a clear accountability framework, they warn, the technology will continue to amplify existing inequalities rather than correct them.

Los detractores de una reglamentación demasiado restrictiva replican que un exceso de control corre el riesgo de ahogar la innovación y de conceder una ventaja competitiva a los países menos exigentes.

Critics of overly restrictive regulation counter that excessive control risks stifling innovation and giving a competitive advantage to countries with looser standards.

Según ellos, la industria está mejor situada que el legislador para implantar salvaguardas eficaces, habida cuenta de la velocidad a la que la tecnología evoluciona.

According to them, the industry is better placed than lawmakers to put effective safeguards in place, given the pace at which the technology evolves.

Lo que ambos bandos tienden a ocultar es que este debate es, en el fondo, una cuestión de poder.

What both camps tend to obscure is that this debate is fundamentally a question of power.

No se trata únicamente de decidir si la IA debe ser regulada, sino de determinar quién fija las reglas, y a qué intereses sirven esas reglas en última instancia.

The issue is not merely whether AI should be regulated, but who sets the rules — and whose interests those rules ultimately serve.