De twijfelende toezichthouder
Toezicht op algoritmes: zoek de verwarring op!
Door Lineke Sneller, in 'De twijfelende toezichthouder'
Lineke is hoogleraar Interne beheersing, in het bijzonder IT Value, bij Nyenrode Business Universiteit. Zij doceert en publiceert over IT governance, ERP en de waarde van IT. Naast haar werk bij Nyenrode is Lineke lid van de Raad van Commissarissen van EY, ProRail, Infomedics en Van Wijnen. Verder is ze bestuurslid van Stichting Berenschot Beheer en lid van adviesraden van het UWV en het IIA.
“Algoritmes combineren de kracht van drie vakgebieden: data, statistiek en informatietechnologie. Deze vakgebieden zijn sterk in ontwikkeling en het is dan ook niet verwonderlijk dat algoritmes doordringen in meer en meer organisaties. Vrijwel dagelijks wordt er gesproken over nieuwe toepassingen van algoritmes en de gevolgen voor de stakeholders van de betreffende organisaties.
Terwijl ik dit schrijf bijvoorbeeld, is er nieuws over NBD Biblion, de organisatie die bibliotheken ondersteunt op allerlei gebied. NBD Biblion voorziet jaarlijks vijftienduizend boeken van metadata, zodat bibliotheken op basis van hun budget, hun bestaande collectie, het leengedrag van hun lezers en deze metadata kunnen kiezen welke boeken zij aanschaffen. Nieuw in deze aanschafinformatie is een korte tekst over de inhoud en de auteur. Deze tekst wordt automatisch aangemaakt met behulp van een algoritme en vervangt de vroegere recensietekst die door ongeveer zevenhonderd recensenten werd gemaakt. De nieuwe manier van werken heeft gevolgen voor stakeholders: bibliotheken hebben sneller toegang tot de aanschafinformatie, recensenten verliezen (een deel van) hun werk en gebruikers verschillen van mening over de kwaliteit van de teksten.
Wanneer een organisatie een algoritme gaat gebruiken dat overduidelijk gevolgen heeft voor stakeholders, vind ik dat een Raad van Commissarissen of een ander toezichthoudend orgaan een rol te spelen heeft. In het jaarverslag van NBD Biblion wordt het project automatisch metadateren expliciet genoemd, waaruit ik opmaak dat het project inderdaad in de Raad van Toezicht besproken is.10 Ik ben benieuwd naar dit gesprek, want het bespreken van de gevolgen van algoritmes lijkt me niet eenvoudig. Als toezichthouders zullen we immers niet altijd gedetailleerde kennis hebben van ieder van de drie vakgebieden die een rol spelen bij algoritmes…”
Lees Lineke’s volledige artikel in De twijfelende toezichthouder