“Iemand moest Josef K. belasterd hebben, want zonder dat hij iets kwaads had gedaan, werd hij op een morgen gearresteerd.” Dit is de openingszin van een van de beroemdste boeken uit de twintigste eeuw: Het Proces van Frans Kafka. Maar deze zin past ook goed in een boek over een dystopische toekomst. Hierin speelt Machine Learning de hoofdrol.
Wat is Machine Learning?
Machine Learning (ML): data omzetten naar waardevolle informatie en op basis hiervan automatische beslissingen maken. ML grijpt steeds sterker op het dagelijks leven in. Enkele voorbeelden: via ML-algoritmes (rekenregels) voorspelt de VU de prestaties van studenten bij binnenkomst. In Flevoland rijden ambulances alvast in de richting van waar ze de volgende 112-melding verwachten. De Amsterdamse politie bepaalt haar patrouille op basis van verwachte misdaad.
Het is data-analyse 2.0. De huidige algoritmes zoeken niet alleen naar groepen en verbanden maar doen ook voorspellingen over toekomstige datapunten, die vaak veel beter kloppen dan de schattingen van experts.
De vernieuwing van Machine Learning
Een vernieuwing is het zelflerende algoritme. Bekende voorbeelden zijn ‘Deep Learning’ (neural network) algoritmes. In essentie geven ze zichzelf feedback op hun prestaties. Dit wordt bijvoorbeeld toegepast bij dynamisch prijzen. Steeds meer bedrijven gebruiken algoritmes om de prijs die ze vragen voor hun product te variëren over de tijd. Dit is afhankelijk van vraag op dat moment, het aanbod en de prijs van concurrenten. Dit gebeurt bijvoorbeeld met vliegtickets. Deze modellen stellen een prijs op en meten het effect op de verkoopaantallen. Vervolgens evalueren ze het effect en nemen dit mee in de volgende prijsstelling.
Met elke vernieuwing worden de modellen complexer. Het is vaak onduidelijk waarop een model zijn voorspellingen baseert en van welke stappen het model leert. Dit maakt de resultaten lastig om van te voren in te schatten en achteraf te beoordelen. Facebook liet onlangs zien hoe dat fout kan gaan. Om de chatbot te verbeteren, bouwde het bedrijf een ML-algoritme dat bestaat uit meerdere agenten die met elkaar communiceren in – je verwacht het niet – plain English. Ze kregen de vrijheid om van het script af te wijken. Dit leidde ertoe dat ze een eigen taal creëerden die de ontwikkelaars zelf niet begrepen.
Dit lijkt een onschuldig voorbeeld maar het onbegrip over onze eigen algoritmes kan in de toekomst alleen maar groter worden. Neem de misdaadvoorspelling. Als algoritmes steeds beter worden in het voorspellen van misdaad, kunnen ze ook voorafgaand aan de misdaad aanwijzen wie deze van plan is. In theorie mooi, want zo kun je criminaliteit voorkomen vóór het gebeurt. Maar, dit betekent ook dat iemand opgepakt kan worden voordat hij iets heeft misdaan. Een typisch geval ‘Josef K.’.
Het toepassen ervan
Pas je Machine Learning op grote schaal toe, dan kun je misdaad de wereld uit helpen. Maar wat gebeurt er met onze privacy? En accepteren we dat mensen verantwoordelijk zijn voor iets dat ze (nog) niet hebben gedaan? En wat als het systeem eens een fout maakt? Probeer dat maar eens te bewijzen in de rechtszaal.
