Politie en techniek, een onbegrensd en kwetsbaar samenspel

0

Op 9 november 2018 had het jaarcongres van het Tijdschrift voor de Politie over Big Data & Crime plaats. De dagvoorzitter, Bob Hoogenboom, zette de dag direct op scherp. Hij opende met de stelling: “Big data luiden een nieuw tijdperk in; over 15 jaar ziet de politie er volstrekt anders uit.” Dat stelt de politie dan ook voor nieuwe vragen over rol en betekenis in de samenleving, en over zaken als rechtsstatelijkheid, accountability en rechtsbescherming.  

Ongekende mogelijkheden
Mariëlle den Hengst, programmanager van het Real Time Intelligence Lab van TNO en politie, onderschreef dat de mogelijkheden met big data onbegrensd lijken. Politiewerk wordt beter, politiewerk wordt ook efficiënter. Delen van werkprocessen worden geautomatiseerd. Tal van aansprekende voorbeelden passeerden de revue, zoals de zoek-App bij burgerzoekacties. Ook de intelligente internetaangifte waarbij de computer in staat is door te vragen op de daarvóór gegeven antwoorden. Of sensing, waarbij niet alleen beelden opgenomen, maar ook geautomatiseerd gewaardeerd worden. Als de praktische toepassing sterk is, dan verkoopt de innovatie zichzelf. De mogelijkheden lijken ongekend en dat maakt de vraag des te pregnanter: mogen we en willen we alles? Zeker als het tempo van de ontwikkelingen het adaptieve vermogen van de mens te boven gaat, zodat wij niet meer begrijpen wat er gebeurt.

Organisaties veranderen
Hoogleraar Marleen Huysman van de VU ging in op de vraag of deze ontwikkelingen het werk veranderen. Haar stelling is dat van terugloop in banen geen sprake is, eerder van het tegenovergestelde. Niettemin, bepaalde banen verdwijnen wel. Zo is de radioloog, een hoogopgeleide functionaris, binnenkort overbodig. Toch zijn dan weer andere beroepen nodig. Daarom heeft invoering van deze innovaties niet alleen invloed op specifieke functies, maar op hele teams en zelfs organisatieonderdelen. Er zijn al zeer geslaagde experimenten om het werk van rechters te laten uitvoeren door toepassing van artificial intelligence. Eén van haar medewerkers, Lauren Waardenburg, vertelde over haar onderzoek naar Predictive Policing. Zij beschreef de circle of data driven intelligence. Data wordt gemodelleerd door data scientists, intelligence officers verrijken de uitkomsten, de leiding van een basisteam kiest naar aanleiding van de aangereikte prognoses en de politiemensen muteren hun bevindingen. Overigens, dat laatste lijkt dan weer een nadelig effect: om vanuit systemen te kunnen analyseren, moet veel informatie ingevoerd worden en dat zet politiemensen, te veel, achter een pc.

Praktijktoepassingen
Vervolgens hoorden we verhalen uit de praktijk. De programmamanager Informatie Gestuurd Werken van de IND, Henk de Ruiter, vertelde over technologische ontwikkelingen binnen de IND. Zijn belangrijkste boodschap was dat goede innovaties tot stand komen in agile teams, waarin data scientists en praktijk samenwerken. Marteyn Roose, director Consumer bij Centraal Beheer nam ons mee in verzekeringsland. De verzekeraar kent 1,4 miljoen klanten en groeit. De vriendelijke kant van ‘Even Apeldoorn Bellen’ wordt ondersteund door een harde kant van data en data scientists, voor bijvoorbeeld risico’s modelleren, smart pricing, acceptatiecriteria, onderkennen van fraude en algoritme-gestuurde marketing. Ondanks de grote stappen voorwaarts komt het ook bij CB voor dat iemand die geweigerd wordt voor een woonverzekering in een ander onderdeel wel een hypotheek verstrekt krijgt. Nog wel, want ook hieraan wordt gewerkt. Ook Marteyn Roose gaf aan hoe de invoering van deze technologie de hele organisatie verandert. Bovendien vraagt het veel van leidinggevenden om mensen ruimte te geven met deze innovaties bezig te zijn. Ten slotte vertelde Reinder Doeleman, hoofd van de dienst Regionale Inlichtingen Organisatie in Amsterdam over de praktijk van Predictive Policing. Hij noemde, zeker in de opsporing, data scientists de politiemensen van de toekomst. Niettemin, interpretatie van systeemkennis blijft onmisbaar. In verschillende workshops kwam de praktijk van big-datatoepassingen ook ruimschoots aan bod. Bernd Veldman sprak over belastingdata, Paul Duijn liet zien hoe de onderwereld in beeld gebracht kan worden door de onderliggende netwerken zichtbaar te maken. Dominique Roest vertelde over het Team Rendement Operationele Informatie (TROI). Door ontwikkeling van snelle toepassingen met applicaties, die doorgaans via open source worden gevonden, kan politiemensen veel werk uit handen worden genomen, bijvoorbeeld in het controleren en analyseren van in beslag genomen data. Dominique pleitte voor de scrum-aanpak, maar ook voor leiderschap dat zijn behoefte aan controle overwint en ruimte geeft binnen kaders. Houdt de shit umbrella boven mensen die met innovaties bezig zijn, en stimuleer ondernemerschap in het korps.

Juridische kaders
Na deze praktijktoepassingen kwam Ulco van de Pol aan het woord. Ulco is privacy adviseur voor de Landelijke Aanpak Adreskwaliteit van BZK. Voorheen was hij onder meer rechter en ombudsman in Amsterdam. Hij onderscheidde drie niveaus van big-datatoepassingen. Allereerst verwerking van data die niet tot personen te herleiden zijn. Dat gebeurt bijvoorbeeld in wetenschappelijk onderzoek, en kan risicoloos. Daarnaast verwerken RIECs, en bijvoorbeeld de Taskforce Brabant Zeeland, tal van data die wel tot personen te herleiden zijn. In de derde plaats is er dataanalyse in strafrechtelijke onderzoeken. Dit gebeurt onder gezag van de officier van justitie. Het is duidelijk dat met name in de tweede categorie scherp moet worden opgelet wat mag en niet mag. Van de Pols advies was: bedenk vooraf of je rechtmatig bezig bent en zo niet, begin er niet aan. Direct voegde hij eraan toe: let op, de verlammende werking die van de AVG uitgaat, is niet terecht. Er zijn veel meer mogelijkheden dan velen denken.

Menselijke inbreng
Tom van Engers, hoogleraar juridisch kennismanagement aan de UVA, wees op de ongekende mogelijkheden, ook van Google en Facebook en dergelijke bedrijven, die nauwelijks gecontroleerd worden. Tegelijkertijd benadrukte ook hij allerlei risico’s als gevolg van foute algoritmen, verkeerde specificaties en data bias. Belangrijk blijft dus altijd de menselijke inbreng, met kennis van zaken, ook over wat er gebeurt. In meerdere inleidingen werd duidelijk dat het belangrijk is om juridische mogelijkheden goed in de gaten te houden, maar ook om zelf moreel te begrenzen. Woorden die regelmatig passeerden waren: uitlegbaarheid van algoritmen, transparant willen zijn, algoritmen mogen geen conclusies trekken die zonder menselijke inbreng geldend zijn. De politie Amsterdam won in 2015 de Big Brother Award. Geen prijs waar je op zit te wachten, maar wel een die aanmoedigt om heel gewetensvol met de ongekende mogelijkheden om te gaan. In dat verband kwam de discussie er nog op of wellicht in de korpsleiding een chief ethical officer nodig is. De conclusie was echter snel getrokken: dat is de expliciete rol van de korpschef en eigenlijk van iedereen die met big data werkt.

Giftig medicijn
Ter afsluiting, en om de nodige relativering aan te brengen, kwam hoogleraar filosofie aan de Radboud Universiteit en Denker des Vaderlands René ten Bos aan het woord. De ontwikkeling van technologie kent bijzondere paradoxen: zo lukt het steeds beter om volwassen kwaliteiten door computers te laten uitvoeren, maar als het gaat om bijvoorbeeld de beweeglijkheid van een kind lukt nog weinig. We moeten er ook niet alles van verwachten. Bovendien heeft het iets in zich van een pharmakon, een giftig medicijn. Er zit veel positiviteit in de ontwikkelingen, die voortkomen uit de diepste drijfveer van mensen om via technologische ontwikkeling te streven naar efficiency en uiteindelijk zelfs naar onsterfelijkheid. Digitalisering leidt tot ‘ontfysicalisering’, de geest wordt nagebootst. Daarmee heeft het ook religieuze kenmerken. Leidt het tot nieuwe of andere mensen? Wetenschappers die hierin geloven worden posthumanisten genoemd. Tegelijkertijd is de werking giftig. Digitalisering leidt tot een enorme toename van administratie. Medewerkers in de GGZ hebben in de laatste tientallen jaren vier keer zoveel administratieve last gekregen. Veel mensen houden de technologische ontwikkeling niet bij. Bovendien is politiewerk waardengestuurd en een machine is dat niet. Het bedreigt de professional. Moeten we er dan tegen zijn? Dat gaat René ten Bos weer te ver, de mens is van nature een technisch wezen. Al vanaf het begin van zijn bestaan zoekt hij naar technische oplossingen om zijn bestaan te verlichten. Dat zal dus niet stoppen. De kritische oproep is echter om het zo te doen, dat het ons niet in de weg komt te zitten.

Conclusie
Wat heeft het congres ons geleerd? Mogelijkheden zijn ongekend, we hebben aansprekende voorbeelden gezien. De ontwikkelingen veranderen functies, teams en organisaties. Klassiek leiderschap vanuit controle past niet meer. De planning- en controlcyclus behoeft ook verandering. Tegelijkertijd is de conclusie dat ontwikkelingen de morele toets moeten kunnen doorstaan. Deze vraag moet in de ontwikkelingen worden meegenomen. Zeker bij politiewerk kan de techniek nooit zonder inbreng van de mens; politiewerk is waardengedreven en computers zijn dat niet. Daarom moet de professional steeds de bovenliggende partij blijven. Bovendien, techniek heeft altijd het risico in zich mensen dommer te maken, denk aan de rekenmachine en het navigatiesysteem. De blijvende uitdaging is om moreel verantwoord te werken aan een betere politie door betere politiemensen, die geholpen worden door slimmere techniek.

Reageer