Por Molly Killeen | EURACTIV.com
Foto: Shutterstock / BalkansCat
O Tribunal Constitucional Federal Alemão declarou inconstitucional o uso do software de vigilância Palantir pela polícia em Hesse e Hamburgo em uma decisão histórica na quinta-feira (16 de fevereiro).
A decisão conclui um caso apresentado pela Sociedade Alemã de Direitos Civis (GFF) no ano passado, cujas audiências começaram em dezembro. Os queixosos argumentaram que o software poderia ser usado para policiamento preditivo, aumentando o risco de erros e discriminação por parte das autoridades.
O estado alemão de Hesse usa o software desde 2017, embora ainda não esteja em vigor em Hamburgo. A tecnologia é fornecida pela Palantir, uma empresa de análise de dados dos EUA que recebeu apoio inicial de agências de inteligência, incluindo CIA, FBI e NSA.
O caso foi apresentado em nome de 11 queixosos e baseou-se no argumento de que o programa de software – denominado ‘Hessendata’ – facilita o policiamento preditivo ao usar dados para criar perfis de suspeitos antes de qualquer crime ter sido cometido.
A base legal dos atos que autorizam esses sistemas foi questionada pela GFF, que disse que Hesse e Hamburgo não deixaram claro as fontes que a polícia poderia usar para obter dados ou quanto e com que base a mineração de dados poderia ser realizada pela aplicação da lei.
Segundo o tribunal, os poderes concedidos à polícia em Hesse foram usados milhares de vezes por ano por meio da plataforma Hessendata.
No entanto, representantes estaduais argumentaram que o software é fundamental para prevenir o crime e simplesmente coleta e processa dados coletados em outro lugar.
A Palantir, de cujo sistema Gotham AI Hessendata é derivado, disse que fornece apenas o software para análise de dados, e não os dados em si.
“A Palantir traz o software para os dados, não os dados para o software”, disse o vice-presidente executivo de estratégia e comunicação da Palantir, Jan Hiesserich, ao jornal alemão Handelsblatt .
“São os nossos clientes que determinam quais os dados relevantes para a investigação de acordo com as disposições legais aplicáveis.”
Na quinta-feira, no entanto, o tribunal constitucional em Karlsruhe derrubou atos que forneciam uma base legal para a polícia processar dados pessoais armazenados por meio de análise automatizada de dados, no caso de Hesse, ou interpretação automatizada de dados, em Hamburgo.
Os sistemas foram considerados inconstitucionais por violarem o direito à autodeterminação informativa.
“Dada a redação particularmente ampla dos poderes, tanto em termos de dados quanto de métodos envolvidos, os motivos de interferência ficam muito aquém do limite constitucionalmente exigido de um perigo identificável”, afirmou o Tribunal em comunicado .
O uso de medidas automatizadas que interferem nos direitos das pessoas dessa maneira, acrescentou, “só é permitido para proteger interesses jurídicos particularmente importantes – como a vida, a integridade física ou a liberdade da pessoa”.
A decisão invalida a lei de Hamburgo, o que significa que o sistema não será instalado. O estado de Hesse, no entanto, onde a tecnologia já está em uso, agora tem até 30 de setembro para reformar sua legislação. Enquanto isso, ele permanecerá em vigor com restrições.
O caso também terá implicações mais amplas, disse Bijan Moini, chefe da equipe jurídica da GFF: “Hoje, o Tribunal Constitucional Federal proibiu a polícia de olhar para a bola de cristal e formulou diretrizes rígidas para o uso de software inteligente no trabalho policial. Isso foi importante porque a automação do policiamento é apenas o começo.”
Em dezembro, um relatório da agência de direitos fundamentais da UE pediu aos formuladores de políticas que garantissem que os algoritmos de IA usados pela aplicação da lei para policiamento preditivo fossem testados quanto a vieses que poderiam resultar em discriminação, particularmente no contexto da Lei de IA, na qual os legisladores estão atualmente trabalhando.
A aplicação de ferramentas baseadas em IA pela aplicação da lei também é um ponto controverso nas discussões sobre o AI Act, um marco da legislação da UE para regulamentar a IA. O Conselho de Ministros da UE tem pressionado para dar mais margem de manobra às forças policiais, enquanto os eurodeputados progressistas defendem uma abordagem mais restritiva.
[Editado por Luca Bertuzzi/Alice Taylor]