A ética da inteligência artificial
When a self-driving car encounters a situation where a collision is unavoidable, who should it prioritise: the passengers inside the vehicle or the pedestrians on the road? This question, once confined to philosophy lectures, has become an urgent engineering problem.
Quando um carro autónomo se depara com uma situação em que uma colisão é inevitável, a quem deve dar prioridade: aos passageiros dentro do veículo ou aos peões na estrada? Esta questão, outrora confinada às aulas de filosofia, tornou-se um problema de engenharia urgente.
The challenge lies not in the technology itself but in the values we embed within it.
O desafio não reside na própria tecnologia, mas nos valores que nela incorporamos.
Every algorithm reflects a set of assumptions about what matters, and artificial intelligence is no exception.
Cada algoritmo reflete um conjunto de pressupostos sobre o que importa, e a inteligência artificial não é exceção.
When a hiring tool systematically filters out candidates from certain postcodes, it is not malfunctioning — it is doing precisely what it was trained to do.
Quando uma ferramenta de recrutamento filtra sistematicamente candidatos de determinados códigos postais, não está a funcionar mal — está a fazer precisamente aquilo para que foi treinada.
The bias was there before the code was written, buried in decades of historical data that treated correlation as truth.
O viés já existia antes de o código ser escrito, enterrado em décadas de dados históricos que tratavam a correlação como verdade.
Proponents of AI regulation argue that we cannot afford to let these systems operate in a legal vacuum.
Os defensores da regulação da inteligência artificial argumentam que não podemos dar-nos ao luxo de deixar estes sistemas operar num vácuo legal.
They point to cases where facial recognition software has led to wrongful arrests, disproportionately affecting ethnic minorities.
Apontam para casos em que softwares de reconhecimento facial levaram a detenções injustas, afetando de forma desproporcional as minorias étnicas.
Without clear accountability frameworks, they warn, the technology will continue to amplify existing inequalities rather than correct them.
Sem marcos claros de responsabilização, advertem, a tecnologia continuará a amplificar as desigualdades existentes em vez de as corrigir.
Critics of heavy-handed regulation, however, counter that excessive oversight could stifle innovation and hand a competitive advantage to countries with fewer restrictions.
Os críticos de uma regulação pesada, porém, contrapõem que uma supervisão excessiva pode sufocar a inovação e conceder uma vantagem competitiva a países com menos restrições.
They suggest that the industry is better positioned than legislators to establish meaningful safeguards, given the speed at which the technology evolves.
Sugerem que a indústria está mais bem posicionada do que os legisladores para estabelecer salvaguardas significativas, dada a velocidade com que a tecnologia evolui.
What both sides tend to overlook is that this debate is fundamentally about power.
O que ambos os lados tendem a ignorar é que este debate é fundamentalmente sobre poder.
The question is not merely whether AI should be regulated, but who gets to define the rules — and whose interests those rules ultimately serve.
A questão não é apenas se a inteligência artificial deve ser regulada, mas quem tem o direito de definir as regras — e a que interesses essas regras servem em última instância.
Until we address that underlying tension, the conversation around ethics will remain frustratingly superficial.
Enquanto não abordarmos essa tensão subjacente, a conversa em torno da ética permanecerá frustrante e superficial.