Laatste draadje wat jullie vandaag van me te goed hebben: algoritmes...gemeenten, hoe zit dat nou? Wat zijn algoritmes nou? Wat voor algoritmes gebruiken gemeenten en waarvoor? Waarom moeten we daarover nadenken?
Definitietijd! Ik spreek liever over algoritmische systemen dan algoritmes. Waarom? Algoritmes bestaan (net als data!) niet in een vacuum, maar zijn ingebed en sociale praktijken en (organisatie)cultuur. Het zijn dus niet alleen technische maar socio-technische systemen.
Algoritmische systemen komen in allerlei vormen en maten. Een algoritme is eigenlijk niets meer dan een stapsgewijze oplossing voor een probleem, veelal specifiek een computationeel probleem.
Algoritmische systemen kunnen heel erg ingewikkeld zijn (denk deep learning, neurale netwerken, machine learning) of juist heel simpel (als X dan Y).
Gevolgsgewijs zijn de manieren waarop algoritmische systemen gebruikt worden ook velerlei. Ook is het verre van nieuw: men is al jaren bezig met het automatiseren van de dienstverlening, bijvoorbeeld.
Twee voorbeelden:
- een systeem wat naleving van een betalingsregeling controleert (is X hetzelfde als Y? Zo niet --> zet betalingsregeling stop).
- een systeem dat meldingen van burgers over de openbare ruimte automatisch naar de goede afdeling loodst.
- een systeem wat naleving van een betalingsregeling controleert (is X hetzelfde als Y? Zo niet --> zet betalingsregeling stop).
- een systeem dat meldingen van burgers over de openbare ruimte automatisch naar de goede afdeling loodst.
Waarom maakt dat uit? Nou, een gemeente heeft waarschijnlijk tientallen (zo niet honderden) algoritmes van de eerste soort, en meestal minder van die ingewikkelde applicaties.
Maar AI is toch gevaarlijker, dus daar moeten we meer vragen over stellen?
Ja en nee. Technisch kan het soms ingewikkelder en transparanter zijn (daar zijn overigens oplossingen voor). Maar belangrijker is wat een algoritmisch systeem doet in welke context met wat voor effect.
Ja en nee. Technisch kan het soms ingewikkelder en transparanter zijn (daar zijn overigens oplossingen voor). Maar belangrijker is wat een algoritmisch systeem doet in welke context met wat voor effect.
Want dat kleine, simpele algoritme heeft grote invloed. Waar het fijn is als een melding openbare ruimte ervoor zorgt dat de stoeptegel weer recht komt te liggen, kan dit systeem een betalingsregeling automatisch stopzetten.
Bovendien blijven die systemen vaak lang bestaan, zonder dat de aannames (en de politieke keuzes!) in die systemen geherevalueerd worden.
Je zou net zo goed een systeem kunnen ontwikkelen wat checkt of cijfers zijn omgedraaid of missen, die de burger eerst waarschuwen.
Je zou net zo goed een systeem kunnen ontwikkelen wat checkt of cijfers zijn omgedraaid of missen, die de burger eerst waarschuwen.
Keuzes dus, waarover rekenschap afgelegd zou moeten worden.
Aanrader om even te bekijken: Amsterdam heeft recent een Algoritmeregister gelanceerd. algoritmeregister.amsterdam.nl
• • •
Missing some Tweet in this thread? You can try to
force a refresh
