Viés de IA na contratação
The other day, the news that a major company had introduced AI into its hiring process became a topic of discussion.
Recentemente, a notícia de que uma grande empresa havia introduzido inteligência artificial em seu processo de contratação tornou-se tema de debate.
This system reportedly analyses applicants' résumés and aptitude test results, and automatically selects the candidates who should advance to the interview stage.
Segundo se afirma, esse sistema analisa os currículos e os resultados dos testes de aptidão dos candidatos e seleciona automaticamente aqueles que devem avançar para a fase de entrevista.
The company claims that it eliminates the biases that human recruiters unconsciously carry.
A empresa afirma que isso elimina os preconceitos que os recrutadores humanos carregam inconscientemente.
However, problems surfaced only six months after its introduction.
No entanto, os problemas surgiram apenas seis meses após sua introdução.
It became clear that the system was unfairly favouring graduates of certain universities and giving lower evaluations to applicants from rural areas.
Ficou claro que o sistema estava favorecendo injustamente graduados de determinadas universidades e atribuindo avaliações mais baixas a candidatos de regiões rurais.
The cause lay in the fact that the past hiring data already contained biases.
A causa estava no fato de que os dados históricos de contratação já continham preconceitos.
Far from eliminating prejudice, the AI had merely learned past prejudices and was efficiently reproducing them.
Longe de eliminar o preconceito, a IA simplesmente aprendeu os preconceitos do passado e os estava reproduzindo de forma eficiente.
This case strikes at the heart of the debate surrounding AI ethics. There is no good or evil inherent in the technology itself.
Este caso atinge o cerne do debate em torno da ética da inteligência artificial. Não há bem ou mal inerente na própria tecnologia.
The issue lies in who uses what data, and for what purpose the system is designed.
O problema está em quem usa quais dados e para qual finalidade o sistema foi projetado.
The myth that algorithms are "objective" carries the danger of concealing the values of their designers and the pre-existing inequalities of society.
O mito de que os algoritmos são "objetivos" carrega o perigo de ocultar os valores de seus criadores e as desigualdades pré-existentes da sociedade.
Calls for regulation are growing louder, but opinions are divided on how far regulation should go.
Os apelos por regulação estão ficando mais intensos, mas as opiniões estão divididas sobre até onde a regulação deve ir.
Overly strict regulation risks stifling technological innovation, while overly lax regulation threatens to widen existing disparities.
Uma regulação excessivamente rígida corre o risco de sufocar a inovação tecnológica, enquanto uma regulação excessivamente frouxa ameaça ampliar as disparidades existentes.
In the end, the ethics of AI is not a question of technology but a question concerning the very nature of society.
No fim, a ética da inteligência artificial não é uma questão de tecnologia, mas uma questão que diz respeito à própria natureza da sociedade.
Unless we clarify what kind of society we wish to have, we will not be able to escape the vicious cycle in which technology alone races ahead and we are left continually correcting the injustices that arise as a result.
A menos que deixemos claro que tipo de sociedade desejamos ter, não seremos capazes de escapar do ciclo vicioso no qual a tecnologia sozinha avança rapidamente e ficamos continuamente corrigindo as injustiças que surgem como resultado.