Van black box naar platform plugins: lessen uit de Lawtomation Days in Madrid
Vorige week vond in Madrid de vijfde editie van de IE Lawtomation Days plaats. Een conferentie waar niet alleen wordt gesproken over ‘law’ en ‘automation’, maar waar ook over “whether better-designed and more effectively enforced laws might achieve more”. Ik vind het altijd interessant om naar conferenties van disciplines te gaan die raakvlakken hebben met mijn interesses en onderzoeken. Als relatieve outsider draag ik bij met een frisse blik en de presentaties en gesprekken dragen voor mij bij aan het beeld van de puzzels waar ik mij mee bezighoudt. In dit geval voor mijn onderzoeken ronden ‘platform plugins’, waar ik mijn onderzoek naar hoe een centraal (publiek) platform met bij wet verplicht te gebruiken API’s een oplossingsrichting zou kunnen zijn voor het implementeren van Artikel 20 van de Europese Platformwork Directive presenteerde. In deze blog deel ik mijn observaties en gedachten waar deze reis aan heeft bijgedragen.
Black box of doorkijkspiegel?
Algoritmes, in mijn werkgebied vooral gebruikt om de toegang, voorwaarden, invulling en evaluatie van werk te bepalen, worden vaak beschreven als een ‘black box’. Een gesloten doos waar beslissingen geautomatiseerd worden gemaakt, gebaseerd op de regels die zijn bepaald door het technologiebedrijf die het algoritme heeft gebouwd.
De vraag die tijdens gesprekken in Madrid bij mij opkwam is: is dit de juiste term? Door het algoritme als een zwarte magische doos te beschrijven, impliceer je dat het voor iedereen ingewikkeld is om de doos te openen. Dit geeft ten eerste een vertekend beeld van de positie van de gebruiker die een bedrijf wil aanspreken op beslissingen die zijn genomen ‘met behulp van’, ik zeg bewust niet ‘door’, het algoritme. Het gaat immers niet alleen om de formule, maar ook om de toegang tot data. Dit laten de rechtszaken van de Worker Info Exchange zien waar ik eerder over schreef.
Maar het grootste euvel met het woord ‘black box’ is dat het slechts het perspectief beschrijft van hen die geen zicht hebben op de keuzes en data die hebben geleid tot de totstandkoming en doorontwikkeling van het algoritme. Voor de beheerder of maker van het algoritme is er geen mysterie of onduidelijkheid die het legitimeert om te mogen spreken over een ‘black box’. Niet weten wat er onder de motorkap van een algoritme speelt is een kwestie van onkunde en een enorm bedrijfsrisico, wat ook naar voren kwam in een workshop over de ‘algoritme accountant’ die in 2019 organiseerde en afgelopen weken duidelijk werd toen AI agents ‘uitbraken’ en ‘autonoom besloten’ websites te hacken. Het in stand houden van het mysterie rondom de ‘black box’ is doorgaans een strategie om verantwoordelijkheid voor gemaakte keuzes te ontlopen.
Het gegeven dat de de ene stakeholder niet kan zien wat de andere doet, maar de andere prima kan zien wat de ene doet (volg je hem nog?) zou je dan ook beter kunnen omschrijven als een spionspiegel, oftewel een doorkijkspiegel. De spiegel die je ziet in verhoorkamers in films, waar de verdachte in een kamer zit en een spiegelraam ziet, terwijl de rechercheurs vanuit de controlekamer al het zicht hebben op wat er gebeurt. Wat als we algoritmes niet meer als ‘black box’, maar als ‘doorkijkspiegel’ framen? Dat zou volgens mij het debat een stuk duidelijker maken. Dan hoeft de beheerder niet een vage rommelige doos te openen, maar je gewoon even meenemen naar de controlekamer.
Complexiteit als verdedigingsmechanisme
Veel presentaties en gesprekken gingen over een wereld die steeds complexer wordt. Ik moest terugdenken aan een presentatie die ik gaf tijdens een platform coöperatie conferentie in Rio de Janeiro in 2022, waar ik mijn KlusCV project presenteerde. KlusCV is een dienst met API’s die ik initieerde waardoor werkplatformen eenvoudig data kunnen delen met hun werkenden in de vorm van een digitaal CV. Ik presenteerde in een zaal die voor zeker 50% was gevuld met juristen. Na mijn bijdrage kreeg ik de vraag: “hoe doe je dit juridisch, dit is toch ontzettend complex?”. Mijn antwoord daarop: “KlusCV is juridisch juist ontzettend eenvoudig en laat zien dat complexiteit vooral als argument wordt gebruikt wanneer je iets NIET wilt”. Uit de reactie van de toehoorders maakte ik op dat ik hiermee een belangrijk punt had gemaakt.
Het frame van complexiteit is eigenlijk hetzelfde als die van de black box versus doorkijkspiegel waar ik het eerder over had. Denk bijvoorbeeld aan hoe de prijsstelling voor taxi platformen als Uber door de jaren heen is veranderd. Van heel eenvoudig (starttarief + tarief per kilometer en minuut) naar heel complex. Waarbij chauffeurs én klanten eenzelfde rit voor een verschillende prijs krijgen aangeboden. Dan is de vraag wie ‘beter’ wordt van deze toegenomen complexiteit. Misschien moeten we wat vaker accepteren dat de kosten van complexiteit niet opweegt tegenover de baten. En kritischer zijn wie iets te winnen en wie iets te verliezen heeft bij het complexer maken van systemen. Ik denk dat een debat gevoerd vanuit meerdere stakeholders en disciplines een verschil kan maken.
En daarbij soms ook gewoon toegeven dat bepaalde zaken en processen niet te vangen zijn in een universeel systeem. Zo gaan veel discussies over algoritmisch management en werk nu over taxi- en bezorgplatformen. Logisch, omdat hier de impact van het algoritme op de toegang en uitvoering van het werk groot is. Maar tegelijkertijd zijn dit sectoren met een ontzettend universeel product: het vervoeren van een mens of pakket/maaltijd van A naar B. Dat is ook de reden dat dit soort platformen een schaalbaar model hebben. Maar van veel werk hebben we geen idee wat de variabelen zijn en hoe deze zich verhouden ten opzichte van andere functies. Onderzoek laat ook zien dat technologie in veel gevallen wel taken, maar geen functies vervangt. ik denk dat wij als mens onszelf overschatten door te denken dat we snappen hoe een baan in elkaar zit.
De vakbond als baken van hoop
In discussies over de automatisering en algoritmisering van management en werk wordt in veel gevallen naar vakbonden gekeken. Het is een logische reflex: wanneer werk en taken steeds gefragmenteerder wordt en de machts- en informatieinbalans tussen werkenden en organisatie of platform groter wordt, is organiseren belangrijker dan ooit.
Ik ben in het verleden regelmatig kritisch geweest op de rol die vakbonden, vooral in Nederland, nemen op dit onderwerp. Er is een nieuwe vraag waar ik mij in Madrid bewust van werd en die is: verwachten we niet te veel van vakbonden? Niet om gelijk onaardig te doen over de capaciteiten van vakbonden, maar het onderhandelen over de impact van technologie op werk vraagt nogal wat van een organisatie. Ik maak de vergelijking met een bevinding die ik deed in mijn onderzoeken rondom platform coöperaties, waarbij werkenden zelf eigenaar en bestuurder zouden moeten worden van het platform waar zij van afhankelijk zijn. Een fantastisch idee, maar in de praktijk zag ik dat dit vaak faalde. Een van de redenen is: je kunt van iemand die heel goed is in zijn of haar werk, bijvoorbeeld een taxichauffeur, niet verwachten dat deze opeens ook een fantastische tech-ondernemer met skills rondom development, marketing en business modellen.
Dan is mijn vraag: staat het tech vraagstuk niet te ver bij de skills die vakbonden traditioneel hebben? En mag je van vakbonden verwachten dat zij zich transformeren naar een technologiegedreven werkersvertegenwoordiger met de expertise om met technologiebazen in onderhandeling te gaan en nieuwe tools ontwikkeld om werkenden ook digitaal weerbaar te maken? Ik denk om eerlijk te zijn: nee. Of beter: niet nu. De historie van vakbonden maakt het er ook niet makkelijker op: sectoren die als eerst met de gig economy te maken kregen waren traditioneel al gefragmenteerd en relatief onzichtbaar voor vakbonden. Daarnaast focussen vakbonden in Europa en in Verenigde Staten zich vooral op het werknemerschap, daar zit ook hun verdienmodel. Daar komt bij dat veel tech regulering op werk, zoals de Europese Platformwork Directive, contractneutraal zijn. En daarbij van toepassing op zowel werknemers als zelfstandigen.
Hoe dan wel? Om te beginnen denk ik dat vakbonden (nog) meer dan nu de technische kennis in huis moeten halen om een gelijkwaardige gesprekspartner in het debat te zijn. Dan kun je ook met constructieve en gerichte oplossingen komen. En misschien zelf technologie bouwen om de werkenden te ondersteunen. Als vakbond heb je immers een aardige kritische massa om impact te kunnen maken. Lessen kunnen ook worden getrokken uit meer grassroots initiatieven wereldwijd en samenwerkingen met nieuwe data gedreven vakbonden of worker associations zoals de Worker Info Exchange. Daarnaast zou de overheid ook een belangrijkere rol kunnen spelen, zoals ik voorbij zag komen in de blog “Could State-Level Innovations Help Bring Worker Voices into AI?”. Als laatst zouden juridische disciplines ook meer samen moeten werken. Zo vallen discussies over technologie op werk tussen verschillende disciplines: ook zij zouden meer van elkaar kunnen leren. Maar om te beginnen moeten we misschien stoppen met het wijzen naar vakbonden als verantwoordelijke voor een oplossing, want dat is toch echt te makkelijk en geen reële vraag.
Platform plugins
Na de onderhandeling komt de uitvoering, doorontwikkeling en handhaving. Waarbij het een uitdaging is om bepaalde dingen af te spreken waarvan je niet weet hoe iets zich in de toekomst zal ontwikkelen. Thibault Schrepel gaf op de laatste dag een mooie keynote waarin hij onder andere sprak over een verschuiving van “future-proof” naar “future-responsive” regelgeving, wat mooi aansluit bij dit vraagstuk.
Hierbij besefte ik dat twee projecten waar ik mee bezig ben (en papers over schrijf) hier goed bij aansluiten, welke worden beschreven in mijn werkpakket bij de Hogeschool van Amsterdam als ‘platform plugins’, onderdeel van het PlatWork-R project onderzoek. De oorspronkelijke is als volgt omschreven: “The guiding research question in this WP holds to what extent platform plug-ins can function as a new ‘smart’ regulatory tool to encode standards and regulations, to collect taxes and to transfer data between platform, government and other stakeholders, hereby rebalancing the institutional logics of the market, corporation, profession and state (Mascini & Van Erp 2014).”
Project 1 is mijn KlusCV project, waarbij een centrale dataportabiliteitstool is ontwikkeld die platformen via een API koppelen aan hun (front- en backend) systeem. Na eenmalige implementatie hebben platformen hier geen omkijken naar, maar kan de tool wel worden doorontwikkeld. Zo zijn door de jaren heen extra talen toegevoegd, een module waarmee de werkende kan kiezen welke van de geschreven reviews wordt meegenomen in hun KlusCV (PDF) document en een verificatietool waar ontvangers van een KlusCV kunnen controleren of zij een origineel document hebben ontvangen. KlusCV is uiteindelijk door 5 platformen gebruik (op dit moment 3), heeft meer dan 100.000 werkenden toegang tot hun data gegeven en is meer dan 34.000 keer gebruikt (API-calls). Eind oktober dit jaar zal een partij in Latijns Amerika ook gebruik gaan maken van het systeem, waarmee 750.000 werkenden in 5 landen ook toegang krijgen tot hun data.
Project 2 is mijn design onderzoek naar een “institutional design of compliance with Article 20.’ van de Europese Platformwork Directive. Volgens Artikel 20 moeten platformbedrijven de werkende faciliteren met een communicatiekanaal waar ze met elkaar en hun vertegenwoordigers contact kunnen hebben. In mijn paper laat ik zien dat er veel nadelen kleven aan het bouwen van individuele communicatiekanalen per platform. Niet alleen moeten alleen al in Nederland vele duizenden bedrijven (wat komt door een brede definitie van arbeidsplatform, wat verder gaat dan een ‘marketplace’) dan individueel een kanaal bouwen, onderhouden en doorontwikkelen. Ook vertegenwoordigers van werkenden moeten op duizenden kanalen actief zijn. Daarnaast is er dan geen gezamenlijk leerproces en governance. De oplossing die ik voorstel is het bouwen van een centraal (publiek) communicatieplatform, waar de platformbedrijven bij wet verplicht via API’s een aansluiting op maken. Ook doe ik suggesties voor de governance.
Na het verhaal van Schrepel stelde ik mijzelf dan ook de vraag of mijn design voorstel een interessant testcase zou kunnen zijn voor het concept van adaptieve regelgeving: de wettelijke verplichting staat vast, terwijl de technische infrastructuur waarmee platforms aan die verplichting voldoen, zo ontworpen zou kunnen worden dat deze zich in de loop van de tijd aanpast. Met een multi stakeholder governance model (waar ik ook wat voorbeelden van noem) en op een manier dat de uitvoeringskosten voor platformbedrijven, wat vaak MKB-bedrijven zijn, te overzien zijn.
Je zou het overigens ook om kunnen draaien: hoe kunnen platformen zo worden ontworpen dat gebruikers zelf hun ‘plugins’ meenemen en zo een stuk zeggenschap hebben. Dan wordt een platform meer een soort van ‘app store’. Duarte Abrunhosa e Sousa gaf hier in zijn presentatie over ‘Bring Your Own Algorithm’ een interessant gedachte experiment in. Wat overigens aansluit bij een concept waar ik dit jaar hopelijk nog bij de Hogeschool van Amsterdam aan de slag kan gaan met als werktitel: ‘Wage Against the Machine’. Wat een soort promptgenerator is die wordt gevoed door Living Wage data en er voor moet zorgen dat wanneer een algoritme of AI agent iemand inhuurt dit automatisch gebeurt zonder de werkende uit te buiten. Een idee dat is geïnspireerd door gesprekken bij de Zweedse vakbond Unionen die jaren geleden al het idee had om cao-afspraken te coderen in algoritmes van platformen. Sorry voor de nerd-talk, ik hoop dat je het nog kunt volgen ;-)
Tot slot
De twee dagen in Madrid hebben weer geleid tot genoeg ‘food for thought’. In deze blog heb ik de onderwerpen uitgeschreven waarover ik het meest werd getriggerd. Het was leuk om mijn werk te presenteren, nieuwe mensen te leren kennen en uitgedaagd te worden over zaken na te denken die ik in mijn dagelijkse praktijk niet zo snel tegenkom. I wil via deze weg de organisatie, sprekers en deelnemers bedanken en zie uit naar een vervolg op deze discussie.