The ethics of artificial intelligence
El dilema del coche autónomo se ha convertido en un clásico de la filosofía contemporánea: si el vehículo debe elegir entre atropellar a un peatón o poner en riesgo al pasajero, ¿qué decisión debería tomar el algoritmo? La pregunta, por más aparentemente abstracta que sea, revela una tensión fundamental en la relación entre la inteligencia artificial y la sociedad.
The dilemma of the self-driving car has become a classic of contemporary philosophy: if the vehicle must choose between hitting a pedestrian or putting the passenger at risk, what decision should the algorithm make? The question, however seemingly abstract, reveals a fundamental tension in the relationship between artificial intelligence and society.
El problema no se limita a las carreteras. En Italia, varias empresas han comenzado a utilizar sistemas automatizados para la selección de personal.
The problem is not confined to the roads. In Italy, several companies have begun using automated systems for personnel recruitment.
Una investigación realizada en 2024 por el Politécnico de Milán reveló que algunos de estos algoritmos penalizaban sistemáticamente a los candidatos procedentes de determinadas zonas geográficas del Mezzogiorno, reproduciendo prejuicios presentes en los datos históricos de contratación.
An investigation conducted in 2024 by the Polytechnic University of Milan revealed that some of these algorithms systematically penalised candidates from certain geographical areas of the South, reproducing prejudices present in the historical hiring data.
Los defensores de la innovación tecnológica argumentan que una regulación excesiva corre el riesgo de ahogar el progreso.
Supporters of technological innovation argue that excessive regulation risks stifling progress.
La Unión Europea, con su AI Act que entró en vigor en 2024, ha adoptado un enfoque basado en el riesgo, clasificando las aplicaciones en categorías según su posible impacto sobre los derechos fundamentales.
The European Union, with its AI Act that came into force in 2024, has adopted a risk-based approach, classifying applications into categories according to their potential impact on fundamental rights.
Los críticos sostienen que este marco normativo ya es obsoleto frente a la velocidad con la que evoluciona la tecnología.
Critics maintain that this regulatory framework is already obsolete relative to the speed at which the technology is evolving.
Está además la cuestión del poder.
Then there is the question of power.
Las empresas que desarrollan los modelos de inteligencia artificial más avanzados se concentran en unos pocos países y en manos de un número reducido de actores privados.
The companies that develop the most advanced artificial intelligence models are concentrated in a few countries and in the hands of a restricted number of private actors.
Este desequilibrio plantea interrogantes sobre la gobernanza democrática de tecnologías que influyen en la vida de miles de millones de personas.
This imbalance raises questions about the democratic governance of technologies that influence the lives of billions of people.
Quizás la pregunta más urgente no es si la inteligencia artificial es intrínsecamente buena o mala, sino quién decide cómo se usa, en beneficio de quién y con qué tipo de control.
Perhaps the most urgent question is not whether artificial intelligence is intrinsically good or bad, but who decides how it is used, for whose benefit, and with what kind of oversight.
En ausencia de respuestas claras, el riesgo es que las decisiones no las tome la sociedad en su conjunto, sino quienes poseen la tecnología.
In the absence of clear answers, the risk is that decisions will be taken not by society as a whole, but by those who hold the technology.