Soms vraag je je af of mensen echt zo dom zijn of dat ze verborgen motieven hebben, zoals bij Chat Control.
Chat Control is een voorgestelde maatregel om kinderen te beschermen tegen seksueel misbruik. Dit zou gedaan moeten worden door AI in te zetten op de telefoon van alle mensen. Die AI zou dan moeten detecteren of je kinderporno probeert te verspreiden.
Nu is er nauwelijks iets ergers te bedenken dan seksueel misbruik van kinderen. Echter, het is “opvallend” dat dit onderwerp steeds van stal wordt gehaald wanneer de privacy van de burger ingeperkt wordt. Want hoe kan iemand tegen de veiligheid van kinderen zijn? En dan moet je opletten!
Je kan er goed tegen zijn als het helemaal niet werkt en eigenlijk garandeert dat er juist minder capaciteit beschikbaar zal zijn om achter kindermisbruikers aan te gaan.
Hoe weet je dat het niet zal werken? Er zijn meer dan een paar kindermisbruikers, helaas, maar laten we even aannemen dat het er 10 duizend zijn. (Ik hoop veel minder, maar voor de som kunnen we hier makkelijk mee rekenen.)
Dus op 10 duizend op 20 miljoen Nederlanders is in dat geval ongeveer 0,05% van de Nederlanders zouden door de maatregel opgespoord moeten worden.
Dus om 0,05% van de mensen op te sporen uit 20 miljoen zet je bij 100% van de mensen AI op de telefoon. Dat mag dan een hele goede AI zijn als die daar weinig genoeg fouten bij maakt om het nuttig te laten zijn als opsporingsmiddel. Misschien een factor 100 minder dan 0,05%, dus zeg dat het foutpercentage ongeveer 0,0005% moet zijn.
Nu weten we allemaal dat AI fouten maakt, hallucineren is het woord van het jaar geworden, omdat AI dat zoveel doet. ChatGPT-3 had het ongeveer 33% van de tijd compleet fout. ChatGPT-5, drumroll 50%(! VIJFTIG) van de tijd. Het wordt alleen maar slechter. Dus dan zijn we een factor 100 DUIZEND te veel fouten te hoog!
Als je dit invoert en er voor elke melding een politieagent moet gaan beoordelen of dit kinderporno is, dan heb je duizend maal te veel agenten nodig om te compenseren voor de slechte AI. Dit is dus geen oplossing voor een probleem dat wel voorkomt, maar niet zo veel.
De AI die zo weinig fouten maakt bij zo’n complex en gevoelig onderwerp moet nog uitgevonden worden.
Dit zijn hele simpele rekensommen waarvan je zou denken dat politici en ambtenaren die ook moeten kunnen maken. Die zouden dus moeten kunnen weten dat dit idee niet het probleem gaat oplossen waarvoor het wordt voorgesteld.
Op het moment van schrijven zijn 23 van de 27 EU landen voor Chat Control. Hier is dus in die landen over vergaderd!
Ofwel al die politici zijn echt zo dom, ofwel er is eigenlijk een ander doel beoogd voor deze technologie…
Opvallend is ook dat er geen computer in ieders auto wordt gezet om je automatisch een bon te geven als je te hard gaat, dat is makkelijker te checken en komt veel vaker voor.
DM me als je iemand zoekt om te helpen kritisch na te denken!
