Viés de IA nos seguros
Last year a major Dutch insurer decided to deploy artificial intelligence to assess damage claims.
No ano passado, uma grande seguradora holandesa decidiu implementar inteligência artificial para avaliar pedidos de indemnização por danos.
The system analyses photographs of damage, compares them with thousands of earlier cases and calculates within seconds whether a claim is likely to be legitimate.
O sistema analisa fotografias dos danos, compara-as com milhares de casos anteriores e calcula em segundos se um pedido é provavelmente legítimo.
The insurer presented it as a breakthrough in efficiency and objectivity.
A seguradora apresentou-o como um avanço em eficiência e objectividade.
Within a few months, however, troubling patterns came to light.
No entanto, em poucos meses surgiram padrões preocupantes.
The system turned out to flag claims from certain neighbourhoods — predominantly disadvantaged districts with a high proportion of residents of immigrant background — considerably more often as suspect.
O sistema revelou-se mais propenso a sinalizar pedidos de determinados bairros — predominantemente zonas desfavorecidas com uma elevada proporção de residentes de origem imigrante — como suspeitos.
The algorithm was not consciously discriminating, but it had learned from historical data in which human assessors had applied the very same prejudices.
O algoritmo não discriminava conscientemente, mas havia aprendido com dados históricos nos quais os avaliadores humanos tinham aplicado os mesmos preconceitos.
Advocates of AI regulation point to such cases as evidence that technology is not neutral.
Os defensores da regulação da IA invocam estes casos como prova de que a tecnologia não é neutra.
Every algorithm reflects the values and biases of those who designed it and of the data on which it was trained.
Cada algoritmo reflecte os valores e os preconceitos de quem o concebeu e dos dados com que foi treinado.
The claim that a machine is more objective than a human being is at best naive and at worst misleading.
A afirmação de que uma máquina é mais objectiva do que um ser humano é, na melhor das hipóteses, ingénua e, na pior, enganosa.
Opponents of strict regulation warn that excessive rules may stifle innovation.
Os opositores de uma regulação estrita alertam para o facto de regras excessivas poderem sufocar a inovação.
They argue that the industry itself is best placed to draw up guidelines, since legislators often lack the technical knowledge required to formulate meaningful rules.
Argumentam que a própria indústria está em melhor posição para elaborar directrizes, uma vez que os legisladores frequentemente carecem do conhecimento técnico necessário para formular regras com sentido.
What tends to remain underexposed in this debate is the question of power.
O que tende a ficar sub-exposto neste debate é a questão do poder.
The issue is not merely whether AI should be regulated, but who sets the rules and whose interests are served in the process.
O problema não é apenas se a IA deve ser regulada, mas quem define as regras e cujos interesses são servidos nesse processo.
As long as we fail to address that fundamental question, the debate on AI ethics will remain stuck at the surface.
Enquanto não abordarmos essa questão fundamental, o debate sobre a ética da IA continuará preso à superfície.