Artificiële intelligentie bedreigt legitimiteit politie

0

Artificiële intelligentie (AI) biedt grote kansen voor de effectiviteit van de politie. Toch moet deze behoedzaam zijn en AI niet blind omarmen, betoogt Joris Boumans. Door gebrek aan regelgeving en transparantie staat de legitimiteit van de politie op het spel.                                                                        

De toenemende beschikbaarheid van artificiële intelligentie (AI) levert grote kansen op voor de effectiviteit van de politie. Kansen in het effectiever opsporen van criminelen en het voorspellen, of zodoende zelfs voorkomen, van criminaliteit. Maar ook kansen in bijvoorbeeld efficiency in bedrijfsvoering. Dit alles voedt de sfeer van optimisme die op dit moment heerst. Een problematische situatie voor de maatschappelijke positie van de politie ligt echter in het verschiet. Niet alleen het gebruik ervan, maar zelfs de beschikbaarheid van deze technologie zet de legitimiteit en het gezag van de politie onder druk. Deze is niet weg te nemen door simpelweg te stoppen met het gebruik van deze technologie. Maar ook niet door de ontwikkeling en het gebruik ervan te handhaven of te versnellen. Behoedzaamheid is hier geboden.

Rechtvaardigheidsperceptie

De politie is er om hulp te verlenen aan hulpbehoevenden en om orde te scheppen, daar waar in de samenleving wanorde dreigt of waar wetten geschonden worden. Het is dus aan de politie om te voorzien in veiligheid voor diegenen waarvoor de staat verantwoording draagt. Het is niet alleen de van staatswege, bij wet vastgelegde taak die haar aanwezigheid in de samenleving legitimeert. Wettelijke borging is slechts de eerste van de twee legitimiteitsdimensies waarop de politie steunt. De tweede dimensie wordt gevormd door de rechtvaardigheidsperceptie in de samenleving over de positie en het handelen van de politie.

Max Weber (1925) leert ons dat het gezag van de politie, dat een nauwe samenhang kent met haar legitimiteit, op drie pijlers rust; de rationeel-legale pijler, traditie en charisma. Voor al deze pijlers zijn de factoren vertrouwen en rechtvaardigheidsperceptie bepalend. Hieruit volgt een burgerlijke gehoorzaamheid, die dus het gevolg is van het door de burger ervaren gezag. Een kwalitatief hoogwaardige en vertrouwenwekkende uitoefening van de politietaak, is dus van essentieel belang voor de legitimiteits- en gezagspositie van de politie in de samenleving.

Omarmen

De spanning die ontstaat ten aanzien de legitimiteit van de politie door het gebruik van AI lijkt zich te concentreren rond de effectiviteit van de politie in de uitvoering van haar rol en het algemene vertrouwen dat de politie geniet. De politie draagt de maatschappelijke plicht om met optimale inspanning en effect haar taak te vervullen en daarvoor de middelen te gebruiken die tot haar beschikking staan, zolang deze niet botsen met het maatschappelijke waardestelsel, wetten of met haar taak. Effectiviteit verhoudt zich echter altijd tot de beschikbaarheid van middelen die haar effect kunnen bevorderen.

Een politieorganisatie die zich bijvoorbeeld, om wat voor reden dan ook, afkeert van het gebruik van gemotoriseerd vervoer, zal aan effectiviteit inboeten en daarmee haar maatschappelijke vertrouwen verliezen. Dergelijke voertuigen zijn immers in ruime mate beschikbaar en worden op uitgebreide schaal gebruikt. Om haar rol optimaal te kunnen vervullen, is het dus van belang dat de politie zich blijft ontwikkelen in dezelfde richting als de samenleving dat doet.

Daarnaast dient ze zich te bedienen van de kansen die de maatschappelijke en technologische ontwikkelingen haar bieden. AI-toepassingen horen hierbij. Als de politie zich afkeert van het gebruik van deze technologieën, laat ze deze kansen dus onbenut, waar andere spelers in de samenleving deze technologie op een steeds grotere schaal zullen omarmen. In een dergelijk scenario gaat deze ontwikkeling ten koste van het fundamentele bestaansrecht van de politie en dus ook van haar legitimiteit en gezag.

Blackbox-effect

Op dit moment lijkt de sfeer waarin de, reeds ingezette, ontwikkeling van AI-technologieën vorm krijgt, er een van laissez-faire. Regels voor het gebruik van dergelijke technologie ontbreken immers nog grotendeels. Dit is, gezien het potentieel van de technologie in de versterking van de uitvoering van de staatsmacht, een ongewenste en zelfs gevaarlijke dynamiek. De staat en haar uitvoeringsorganen moeten een grote voorzichtigheid betrachten in de wijze waarop ze dergelijke technologie toepassen. Ze moeten, op eigen initiatief, tot het uiterste gaan in de eerbiediging van de rechtsstatelijke principes. Het risico op een geschade maatschappelijke rechtvaardigheidsbeleving ligt op de loer.

Het blackbox-effect van het politionele gebruik van AI, is een ander, vaker beschreven probleem. Dit duidt op het gegeven dat transparantie, of zelfs menselijk begrip van hetgeen zich in het werkingsproces van AI afspeelt of tot een bepaalde output te komen, in afnemende mate mogelijk is. Ook de betwijfelbaarheid van deze output is problematisch, omdat argumenten ontbreken of niet te begrijpen zijn. Het handelen van de politie dient onderwerp te zijn van voortdurende, transparante, kritische reflectie. Slechts op deze wijze kan maatschappelijk vertrouwen behouden worden.

Zowel onze samenleving als de overheid zien zich geconfronteerd met een toenemende aanwezigheid en een groeiend toepassingsbereik van AI-technologie.  De implicaties van deze groei zijn nog grotendeels ongewis, maar de toegenomen effectiviteit van de politie, die met het gebruik van deze technologie lonkt, eist dat de politie meegaat in deze ontwikkeling. Er bestaat echter een stevig risico op een toename van onveiligheid voor de burgers die het subject zijn van de uitoefening van staatsmacht. Daarnaast is het gebrek aan regelgeving en transparantie fnuikend voor de legitimiteit van de politie. Behoedzaamheid en bezinning zijn geboden. De legitimiteit van de politie staat op het spel.

Bron: Weber, Max. Economy and Society. An outline of interpretive sociology. Volume 1. Berkeley and Los Angeles: University of California press, 2013 [1925].

Joris Boumans is teamchef bij de Eenheid Oost-Brabant. Hij schreef zijn masterscriptie Filosofie over artificiële intelligentie (‘Technologische Evoluties in Wetshandhaving en Legitimiteit. Tussen optimisme en onbehagen’). Lees het interview in editie 1 van het vernieuwde Tijdschrift voor de Politie.

Reageer