No último dia 16, o Tribunal Constitucional Alemão declarou inconstitucional o uso de um software de policiamento na Alemanha. O software “Palantir”, desenvolvido por uma empresa estadunidense, teve o apoio de agências de inteligência como a CIA e o FBI, e estava sendo utilizado pela polícia alemã para auxiliar na busca de criminosos.
A decisão da Corte foi fruto de uma ação proposta pela Sociedade Alemã de Direitos Civis, que defendeu a inconstitucionalidade do software devido à possibilidade de as autoridades utilizarem a ferramenta de forma dedutiva, aumentando o risco de erros e de discriminação para com os cidadãos.
Isto porque, o software em questão usa dados coletados para criar perfis de suspeitos, antes mesmo que qualquer crime seja cometido por um indivíduo.
Em resposta, os representantes da empresa Paladir alegam que somente gerenciam a funcionalidade do software, sendo as autoridades alemãs responsáveis pela coleta dos dados, determinando quais dados seriam relevantes para a investigação.
Para além da discussão sobre como a coleta dos dados poderia afetar os cidadãos, a Corte também afirmou não ter identificado uma base legal adequada para o tratamento destes dados pelo software.
Este caso está diretamente relacionado a um tema que já vem sendo debatido, notadamente no que diz respeito a discriminação de indivíduos por meio da coleta de seus dados pessoais. Em dezembro do ano passado, um relatório da agência de direitos fundamentais da União Europeia pediu aos formuladores de políticas que garantissem que os algoritmos de Inteligência Artificial usados em policiamento fossem testados quanto aos riscos envolvidos nos resultados obtidos a partir da análise de dados.
Commenti