Kritische rol van rechter nodig bij algoritmegebruik: rechters en bezwaarcommissies moeten scherp zijn op overheidsbesluiten waarbij algoritmes een rol hebben gespeeld. En de overheid moet uit zichzelf transparant zijn over het gebruik van algoritmes. Daarvoor pleitte AP-voorzitter Aleid Wolfsen tijdens een bijeenkomst in de Week van de Rechtsstaat over AI in de rechtspraak. https://lnkd.in/gdyEMyn8 #ai #algoritmes #rechtspraak #overheidsbesluiten #weekvanderechtsstaat #toezicht
Bob Schat
3 w
Bedenk dat ook een "model" gebaseerd is op algoritmes en dat transparantie over de, in modellen benutte, algoritmes beslist geen vanzelfsprekendheid is. De rechter moet er dus niet zomaar van uitgaan dat de uitkomsten van een "model" wel zullen kloppen. Dat zal eerst bewezen moeten worden, net zoals andere beweringen in een proces.
Bestuurder, strategisch adviseur privacy in ketens, trainer, FG e.d.
3 wIk voeg voor de lezers graag twee overwegingen toe die hopelijk helpen om van standpunten naar inzicht te komen: 1 Zorg ervoor dat er een breed gedragen, begrijpelijke definitie van algoritme komt. Een automatisch geanalyseerde foto die vaststelt of je door rood reed of buitenspel stond is een algoritme te noemen, als daaruit een besluit volgt (waartegen je bezwaar kan maken). Huidskleur of geboorteland laten meetellen is meestal discutabel, mild geformuleerd. 2. Ik werd gebiologeerd door de quote: “Bovendien moeten rechters compleet transparant te werk gaan. Dat is met AI niet altijd mogelijk.” Wetenschappelijk/filosofische overwegingen van experts zijn hier welkom. Was niet tot voor kort de algemene overtuiging dat door ‘robots’ de fabrieksarbeider zich wel zorgen moest maken om zijn baan, maar de medisch specialist bij het beoordelen van complexe scans onbetwist onmisbaar zou blijven? Wat is ‘compleet transparant’, laten we die definitie dan ook vaststellen. En dan mathematisch laten vaststellen hoe de transparantie van de rechter (met alle respect, oprecht!) zich verhoudt tot die van daarop in/afgerichte AI. Met als laatste nuance het verschil in de snelheid van ontwikkeling van die beide krachten/capaciteiten…