© IEB - 2021
Ces dernières années, la police dite « prédictive » [1] s’est imposée comme un vecteur de transformation au sein des services de police à travers le monde, remodelant le paysage de la prévention et de la répression. Cette approche promet d’améliorer l’efficacité de la police en misant sur les algorithmes et les bases de données, marquant apparemment le début d’une nouvelle ère pour le maintien de l’ordre. Qu’en est-il en Belgique ?
La police « prédictive » est une approche du maintien de l’ordre qui s’appuie sur l’analyse des données et les algorithmes « d’apprentissage automatique » (machine learning) pour « prédire » et ensuite chercher à « prévenir » les potentielles activités criminelles. On utilise les données historiques de la criminalité, ainsi que divers autres facteurs sociodémographiques et environnementaux, pour identifier des modèles et des tendances qui suggèrent où et quand, ou par qui, un crime est le plus susceptible de se produire. Les principaux objectifs de la police « prédictive » sont d’allouer les ressources policières de manière plus efficace en anticipant et en devançant l’activité criminelle dans certains lieux, ou en « prédisant » quels individus seraient des criminel·les potentiel·les afin de les surveiller de plus près, voire de justifier des interventions policières telles que des contrôles d’identité, des fouilles, voire des arrestations.
Or, l’utilisation d’algorithmes dans le domaine de la police est préoccupante à plus d’un titre : les biais algorithmiques renfoçant les discriminations – on y reviendra – mais aussi la difficulté (voire l’impossibilité) de rendre compte de manière transparente des décisions prises, que ce soit pour des raisons de sécurité, de secret d’industrie ou parce que les procédés utilisés sont issus de mécanismes « d’apprentissage automatique », par nature inintelligibles. En Belgique, pour la Ministre de l’Intérieur Annelies Verlinden, l’avenir de la police sera numérique, et c’est le projet i-Police de la Police Fédérale qui devra faire entrer le Royaume dans le XXIe siècle.
Mais avant de plonger dans le programme fédéral, intéressons-nous aux quelques initiatives développées au niveau local, en particulier dans les zones de police Westkust (La Panne, Coxyde et Nieuport), Zennevallei (Beersel, Hal et LeeuwSaint-Pierre) ou encore Anvers [2]. Celles-ci développent des mesures basées sur la cartographie de « zones à risque » potentiellement plus exposées aux activités criminelles. Au fondement de cette méthode, on retrouve une hyptohèse criminologique qui suppose que certaines zones géographiques attirent ou génèrent intrinsèquement des activités criminelles [3].
Or, cette hypothèse n’est pas étayée par des données empiriques, dans la mesure où les causes de la criminalité sont plutôt à chercher dans une interaction complexe entre divers facteurs sociaux, économiques et individuels. En mettant l’accent sur la dimension « environnementale », on néglige les facteurs socio-économiques et structurels sous-jacents de la criminalité. En outre, l’accent mis par ces cartographies sur les facteurs environnementaux peut involontairement renforcer les préjugés en ciblant de manière disproportionnée certains quartiers sur la base des données de criminalité passées. Cela peut perpétuer des pratiques déjà à l’œuvre, ciblant les quartiers défavorisés et exacerbant les inégalités existantes. Comme l’explique le géographe Brian Jefferson :
« La manière dont les préjugés de la police et de la Justice affectent les statistiques de criminalité n’est pas systématiquement explorée par ces approches. Elles n’abordent pas non plus la façon dont les lois, les politiques ou les pratiques policières influencent les motifs géographiques dessinés par les données de criminalité. Les cartes de criminalité n’offrent pas tant des images définitives et objectives des comportements illégaux, mais soulèvent plutôt des questions sur la manière dont ces comportements sont enregistrés et étudiés [4]. »
Cela n’empêche pas certain·es criminologues d’en faire une carrière. En 2023, un professeur de l’Université de Gand s’est vu attribuer près de 2 millions d’euros par l’Union Européenne pour mener à bien un projet nommé BIGDATPOL [5]. L’objectif de la recherche est d’intégrer les aspects statistiques, criminologiques, économiques, juridiques et éthiques dans un modèle fournissant « à la fois aux mondes académique et policier des lignes directrices et des recommandations pour étudier, appliquer et mettre en œuvre le maintien de l’ordre fondé sur les big data » [6].
En mettant l’accent sur la dimension « environnementale », on néglige les facteurs socio-économiques et structurels sous-jacentes de la criminalité.
« Un “pop-up” apparait […] afin de signaler qu’une “anomalie”, donc quelque chose d’inhabituel, a été constatée. L’application policière a enregistré un nombre élevé de vols de bicyclettes autour d’un certain endroit et à certains moments. Le système peut détecter cela parce que nos “data scientists” à Bruxelles ont programmé le système pour reconnaître des “anomalies” de ce type. […] Le système indique que certains agissements suspects ont été récemment signalés à cet endroit. [La commissaire] prévoit une patrouille récurrente [7]. »
On pourrait croire à un début de livre de mauvaise science-fiction, mais il s’agit d’un extrait de l’appel d’offre publié par la Police Fédérale pour le lancement de son projet i-Police, un programme fédéral doté depuis 2021 d’un budget de 300 millions d’euros. Il vise à interconnecter différentes bases de données (locales et fédérales ; belges et européennes ; internes et externes) et à refonder l’architecture informatique de la police en y incorporant des logiciels d’analyse et de prédiction.
L’ambition n’est pas des moindres, selon le commissaire général de la Police Fédérale : « i-Police fera de la police belge l’une des forces de police les plus avancées d’Europe en termes de gouvernance des données. Le système analysera les informations, les mettra automatiquement à la disposition des forces de police, fera des propositions d’enquête et fournira de nombreux outils pour gagner du temps, comme les traductions automatiques. i-Police nous permet de frayer le chemin pour une Police Intégrée orientée vers l’avenir, au service des citoyens [8]. »
Cependant, le programme i-Police suscite quelques préoccupations, notamment parce qu’il concerne l’utilisation d’algorithmes opaques et la centralisation de grandes quantités de données au sein d’un système unique. i-Police prévoit en effet de rassembler la Banque de données nationale générale (BNG) et ses millions d’entrées [9], des bases de données locales dont la légitimité est souvent discutable [10], les bases de données communes rassemblant « terroristes » et « propagandistes de haine » et d’autres sources internes et externes à la police. i-Police est donc appelé à rassembler quantité d’informations parmi lesquelles il sera difficile (voire impossible) de distinguer lesquelles ont été vérifiées, et lesquelles relèvent de rumeurs ou de suppositions.
Les systèmes de police « prédictive » s’appuient en premier lieu sur les bases de données policières. Cependant, celles-ci rendent difficile toute contestation réelle en raison de l’absence de droits d’accès direct et de voies de recours significatives [11]. Pourtant, ces bases de données peuvent avoir de sérieuses répercussions sur les personnes, dans la mesure où les inexactitudes et les classifications injustes peuvent entraîner des fouilles injustifiées ou des contrôles de sécurité renforcés (notamment dans les aéroports). Des informations fallacieuses peuvent porter atteinte à la réputation et aux moyens de subsistance d’une personne dont l’emploi peut être menacé.
Plusieurs rapports soulignent les manquements de la police belge en matière de gestion des bases de données et de respect des droits fondamentaux [12]. La police a en particulier été pointée du doigt pour ses pratiques de profilage ethnique [13] et pour son usage répété de logiciels de reconnaissance faciale, hors de tout cadre légal [14]. En outre, la surveillance policière en général et notamment des travailleuses du sexe ; des « bandes » urbaines ; ainsi que des personnes dites « radicalisées », ciblent de manière disproportionnée les groupes déjà marginalisés et renforcent les inégalités existantes. Sans contre-mesures sérieuses, l’automatisation du maintien de l’ordre ne pourra qu’exacerber ces problèmes.
Des données d’entrée peu fiables ne peuvent pas, comme par magie, produire des résultats de qualité.
En informatique, le principe garbage in, garbage out indique que des données d’entrée peu fiables ne peuvent pas, comme par magie, produire des résultats de qualité. C’est précisément ce que l’on peut craindre avec le développement de la police « prédictive » en Belgique : à l’entrée des bases de données teintées de préjugés racistes et à la sortie des contrôles au faciès 2.0.
Trois ans après le lancement du marché public i-Police, la mise en place d’un système d’échange de données au niveau international a démarré et une phase pilote du projet a été lancée à Liège [15]. Lentement, mais pas si sûrement… le projet i-Police semble avoir eu du mal à démarrer. Un audit réalisé par Deloitte au sein de la direction informatique de la Police Fédérale conclut que la transformation numérique de la police n’a pas été bien pensée, ce qui entraîne une approche fragmentée, et que le contrôle interne est inadéquat quant à la façon dont le personnel policier utilise les bases de données, ce qui est susceptible de conduire à des abus [16]. Devant le Parlement Fédéral, les auteurs de l’audit ont déclaré :
« Tout d’abord, pour les standards et la législation, nous avons constaté qu’il n’y a pas vraiment de gestion formalisée concernant l’exploitation opérationnelle des données, la sécurité, la protection des données. Nous avons constaté qu’il n’y a pas vraiment de stratégie non plus sur la sécurité de l’information […]. Nous avons constaté que le contrôle de gestion interne est limité, insuffisant dans le cadre de la gestion des informations [17]. »
Par ailleurs, la Police Fédérale ne peut plus payer ses factures et le montant total des impayés s’élève à plusieurs dizaines de millions d’euros [18]. Selon un représentant syndical avec lequel nous nous sommes entretenus, le projet i-Police fait actuellement l’objet de sérieuses révisions visant à donner la priorité à la stabilité des opérations informatiques fondamentales de la police, réduisant considérablement les aspirations initiales du projet.
Tout cela soulève des questions sur la fonction des entreprises privées offrant des services de consultance à une Police Fédérale endettée. Et quels services ? Le développement d’i-Police a été attribué à un consortium Sopra Steria/KPMG pour ensuite confier à Deloitte le soin d’auditer le processus, et finalement conclure à un déficit de stratégie interne… Avec un peu de malice, on est en droit de se demander quelle société de consultance sera mandatée pour pallier cette carence.
Difficile finalement de s’y retrouver… Faut-il croire la police lorsqu’elle affirme utiliser des systèmes de haute technologie capables de traiter des données massives en vue de désigner les criminel·les potentiel·les ? Ou devons-nous nous ranger du côté de la conclusion de Deloitte selon laquelle l’organisation de la police laisse largement à désirer ?
Lors d’un entretien avec le directeur de l’Organe de contrôle de l’information policière, ce dernier a déclaré à propos de i-Police : « Il y a une grande différence entre ce que dit la presse et la réalité. La police n’est pas du tout aussi performante qu’on le pense. […] Il y a un fossé énorme entre la communication et la situation sur le terrain. [19] » Il est rassurant de savoir que le niveau de sophistication technologique de la police n’est peut-être pas à la hauteur de ce qu’elle proclame. Néanmoins, le développement d’i-Police devra être suivi de près. Il sera primordial de s’assurer qu’en cas d’abandon du projet, certains de ses aspects les plus problématiques ne seront pas recyclés sous un autre nom.
Un réveil semble nécessaire pour que la liberté ne soit pas une nouvelle fois sacrifiée sur l’autel de l’innovation technologique.
Dans son document Horizon 2025, le Comité permanent de la police locale (CPPL), l’organisation coupole des zones de police, écrit : « Malgré toutes les transformations […], nous n’en sommes encore qu’à la veille de ladite révolution. Les futures possibilités sont infinies avec comme summum l’évolution vers une “predictive policing” sur la base de “big data” et de “datamining”. Tous les jours, nous nous heurtons aux limites des concepts “vie privée” et “droits de l’homme”. Le débat sur la vie privée doit être mené d’urgence en ayant pour principe de base : “L’Exploitation de l’information et de la technologie pour renforcer la qualité de vie et la sécurité du citoyen !”. [20] »
Voilà qui trace clairement une ligne de front. La numérisation des pouvoirs publics est en marche, et la police ne fait pas exception. Partout, on entend parler de villes « intelligentes », de solutions « data-centrées », alors pourquoi pas de « smart policing » ? En attendant, on ne peut que constater d’importants manquements quant à la protection des données, à la transparence des algorithmes et aux impératifs de non-discrimination. Cependant, les associations de terrain comme les autorités de protection de données peinent à assurer un réel contrepouvoir. Un réveil semble nécessaire pour que la liberté ne soit pas une nouvelle fois sacrifiée sur l’autel de l’innovation technologique.
Tout cela soulève des questions sur la fonction des entreprises privées offrant des services de consultance à une Police Fédérale endettée.
Cet article est issu d’une enquête commanditée par l’ONG Fair Trials et menée en parallèle en France, en Allemagne, en Espagne et au Royaume-Uni. Pour la France, voir « La Police prédictive en France : contre l’opacité et les discriminations, la nécessité d’une interdiction » sur www.laquadrature.net. Merci à Griff Ferris, Sofia Lyall, Emmanuelle de Buisseret Hardy et Sarah De Laet pour leurs contributions à cet article ou à la recherche sur laquelle il se base.
Il est difficile de déterminer avec précision quelles entreprises et logiciels seront intégrés dans le programme i-Police. Ce qui est clair, c’est que la société française d’informatique et de conseil Sopra Steria assume le rôle de maître d’ouvrage, avec le soutien de la société de conseil KPMG. Selon un article de presse, elles collaboreront avec un large éventail de soustraitants, dont des sociétés telles que Microsoft, la société canadienne Niche et les sociétés israéliennes Interionet et TA9/Rayzone [21].
Selon une source anonyme, l’implication d’une société dans des scandales internationaux a entraîné son exclusion en tant que fournisseur potentiel de logiciels pour i-Police. Toutefois, cette société inconnue n’est pas la seule à susciter des inquiétudes. Par exemple, le sous-traitant d’i-Police Interionet est dirigé par Yair Pecht, l’ancien directeur général du groupe israélien NSO, spécialiste de la cyberoffensive. NSO est la société tristement célèbre pour avoir produit le logiciel espion Pegasus. Les antécédents controversés de NSO, marqués par des transactions avec des régimes autoritaires, ont attiré l’attention de la communauté internationale, ce qui a conduit ses dirigeants à multiplier le nombre de start-ups satellites, telles qu’Interionet [22].
Malgré cette tentative de se refaire une virginité, Interionet fait l’objet d’une campagne de boycott. Le mouvement BDS, qui milite pour le respect du droit international en Israël/Palestine, appelle les Belges à s’opposer au contrat entre la Police Fédérale et Interionet en raison de l’expérimentation de son logiciel de surveillance sur les Palestinien·nes avant sa commercialisation à l’échelle mondiale [23]. Une telle pratique n’est pas rare, comme le révèle un livre récent du journaliste Antony Loewenstein : « le complexe militaro-industriel israélien utilise les territoires palestiniens occupés comme terrain d’essai pour l’armement et les technologies de surveillance qu’il exporte ensuite dans le monde entier à des démocraties comme à des despotes. [24] »
IGEAT-ULB
[1] L’utilisation de guillemets autour du terme « prédictif » vise à rappeler que la police n’est pas réellement en mesure de prévoir les crimes futurs. La police dite « prédictive » est basée sur des algorithmes et des modèles statistiques qui fournissent des probabilités et non des prédictions fiables. Quoi qu’en disent les techno-évangélistes, les visions prophétiques dignes de Minority Report appartiennent encore et toujours au domaine de la fiction.
[2] La police belge est structurée en deux niveaux : d’une part, la police fédérale, qui couvre tout le territoire belge et d’autre part 183 zones de police disposant localement d’une grande autonomie et rendant par là même extrêmement difficile de recenser toutes les initiatives prises localement.
[3] H. B. SCHRAEDER et L. W. KENNEDY, « Risk Terrain Modeling (RTM) » in The Encyclopedia of Research Methods in Criminology and Criminal Justice, dir. J.C. Barnes & D. R. Forde, éd. Wiley, 2021, p. 873–874.
[4] B. JEFFERSON, « Crime Mapping », in International Encyclopedia of Human Geography, éd. Elsevier, 2020, p. 11-15.
[5] « Towards an evidence-based model for big data policing : Evaluating the statisticalmethodological, criminological and legal and ethical conditions », résultats de recherche Cordis UE, 2023.
[6] « Six Ghent University researchers win ERC Consolidation Grant », UGent, 31 mars 2023.
[7] Annexe H de la description du marché i-Police, p. 35
[8] Annelies Verlinden, « i-Police : l’avenir de la police est numérique », 7 mai 2022 [verlinden. belgium.be].
[9] O. BAILLY, BNG, la base non gérée, Médor, 14 avril 2021.
[10] D’après le COC : « Lorsque nous effectuons des audits proactifs, nous demandons toujours de nous fournir une liste des bases de données particulières et d’expliquer pourquoi il est nécessaire de disposer de ces bases. Dans 99 % des cas, la moitié d’entre elles ont disparu lorsque notre enquête est terminée. » Entretien du 17 février 2023.
[11] C. FORGET, « L’effacement des données policières et judiciaires : un parcours du combattant ? », e-legal, vol. 6, 2022.
[12] COC, « Rapport concernant les infractions commises par des membres de la police intégrée dans le cadre de traitements dans la BNG », Organe de contrôle de l’information policière, 2023, DIO23001 ; Voir aussi les rapports d’activité annuels du COC.
[13] I. SAUDELLI, Mag ik uw identiteitskaart zien ? Een kwalitatief onderzoek naar identiteitscontroles uitgevoerd door de Belgische lokale politie, Thèse de doctorat, Bruxelles, Vrije Universiteit Brussel, 2021.
[14] Voir p.ex. le rapport d’activité 2022 ou les rapports DIO19005 ; DIO21006 ; DIO23001 de l’Organe de contrôle de l’information policière [www.organedecontrole.be].
[15] Réponse de la Ministre Verlinden à la question 1964 de Daniel Senesael, député socialiste au Parlement Fédéral, 31/08/2023.
[16] S. ROMANS. « Audit kraakt digitale transformatie van politie », De Tijd, 31 mai 2023.
[17] Audit de la Direction de l’information policière et des moyens ICT de la Police Fédérale – Audition, Chambre des représentants de Belgique, Doc 55 3516/001.
[18] X. COUNASSE, « La police fédérale ne peut plus payer ses factures », Le Soir, 16 août 2023.
[19] Deuxième entretien avec l’Organe de contrôle de l’information policière, 11 octobre 2023.
[20] Commission Permanente de la Police Locale (CPPL), Horizon 2025, 2019, p. 13.
[21] L. BOVÉ et J.-P. BOMBAERTS, « La police entame une révolution digitale à 300 millions d’euros », L’Echo, 7 mai 2022.
[22] B. PETERSON, « The founders of a billion-dollar Israeli spyware startup accused of helping Saudi Arabia attack dissidents are funding a web of new companies that hack into smart speakers, routers, and other devices », Business Insider, 9 mai 2019.
[23] BDS Movement, « Don’t let the Belgian police use Israeli apartheid surveillance against Belgians ! », Facebook [@BDSNationalCommittee].
[24] A. LOEWENSTEIN, The Palestine laboratory : How Israel Exports the Technology of Occupation Around the World, Verso Books, 2023.
