人工知能の倫理

The dilemma of the self-driving car has become a classic of contemporary philosophy: if the vehicle must choose between hitting a pedestrian or putting the passenger at risk, what decision should the algorithm make? The question, however seemingly abstract, reveals a fundamental tension in the relationship between artificial intelligence and society.

自動運転車のジレンマは、現代哲学における古典的な問いとなっている。車両が歩行者をはねるか、それとも乗員を危険にさらすかを選ばなければならないとき、アルゴリズムはいかなる判断を下すべきなのか。一見抽象的に思えるこの問いは、人工知能と社会との関係に潜む根本的な緊張を浮き彫りにしている。

The problem is not confined to the roads. In Italy, several companies have begun using automated systems for personnel recruitment.

問題は道路上にとどまらない。イタリアでは、複数の企業が人材採用に自動化システムを導入し始めている。

An investigation conducted in 2024 by the Polytechnic University of Milan revealed that some of these algorithms systematically penalised candidates from certain geographical areas of the South, reproducing prejudices present in the historical hiring data.

2024年にミラノ工科大学が実施した調査によれば、これらのアルゴリズムの一部は、南部メッツォジョルノの特定の地域出身の候補者を組織的に不利に扱い、過去の採用データに含まれる偏見を再生産していたことが明らかになった。

Supporters of technological innovation argue that excessive regulation risks stifling progress.

技術革新を擁護する立場の人々は、過剰な規制が進歩を窒息させる危険があると主張する。

The European Union, with its AI Act that came into force in 2024, has adopted a risk-based approach, classifying applications into categories according to their potential impact on fundamental rights.

欧州連合は、2024年に発効したAI法によって、リスクに基づくアプローチを採用し、基本的権利への潜在的影響に応じてアプリケーションをカテゴリーに分類している。

Critics maintain that this regulatory framework is already obsolete relative to the speed at which the technology is evolving.

批判者たちは、この規制枠組みが技術の進化の速度に比して既に時代遅れであると指摘する。

Then there is the question of power.

さらに、権力の問題がある。

The companies that develop the most advanced artificial intelligence models are concentrated in a few countries and in the hands of a restricted number of private actors.

最先端の人工知能モデルを開発している企業は、ごく少数の国々に集中し、限られた数の民間主体の手に握られている。

This imbalance raises questions about the democratic governance of technologies that influence the lives of billions of people.

この不均衡は、何十億人もの人々の生活に影響を及ぼす技術の民主的なガバナンスについて、深刻な問いを投げかけている。

Perhaps the most urgent question is not whether artificial intelligence is intrinsically good or bad, but who decides how it is used, for whose benefit, and with what kind of oversight.

おそらく最も切迫した問いは、人工知能が本質的に善であるか悪であるかではなく、誰がその使い方を決定し、誰の利益のために、いかなる統制のもとで運用されるのかということである。

In the absence of clear answers, the risk is that decisions will be taken not by society as a whole, but by those who hold the technology.

明確な答えがないまま、決定が社会全体ではなく、技術を握る者たちによって下されるという危険がそこにある。