,
12 tweets,
3 min read
Read on Twitter
[1/11] Het was niet toevallig dat ik vandaag over visuele informatie sprak. In de (korte) onderzoekstijd die ik kon besteden, was ik namelijk niet met muziekdata bezig, maar met videodata, in de context van het Big Data in Psychological Assessment'-project bdpa.eu
[2/11] Dit is een educatie-innovatieproject, waarin ik samenwerk in een internationaal consortium van arbeids- en organisatiepsychologen. Huh? Ja, dat lezen jullie goed. Het begon een paar jaar terug met een vraag van collega Annemarie Hiemstra van de Erasmus Universiteit.
[3/11] Zij onderzoekt selectieprocessen bij sollicitaties, en had hierbij interesse in video-CV's. Sollicitanten uit minderheidsgroepen, die bij papieren CV's benadeeld neigen te worden tov de meerderheidsgroep, bleken die namelijk als eerlijker te ervaren repub.eur.nl/pub/79786
[4/11] Tegelijkertijd groeide de aandacht voor datagedreven beslissingen. Plus de claims, zowel vanuit de wetenschap als vanuit de industrie, dat algoritmische selectieprocessen gedreven door kunstmatige intelligentie/machine learning accurater zouden zijn dan die van recruiters.
[5/11] Annemarie vroeg zich af of dit werkelijk zo was, en wou hier een multimedia-expert over spreken. Ik hapte toe, want dit leek een type filteringsprobleem dat ik ook in muziek interessant vind. Ook hier hebben we te maken met meer opties (nu: sollicitanten ipv liedjes)...
[6/11] ...dan een mens één voor één met volle aandacht kan bekijken. Een algoritme overziet dat beter, voert een van te voren vastgesteld protocol exacter uit dan een persoon, en met machine learning kun je systematisch patronen uit data afleiden die een mens niet vindt.
[7/11] Dus, kan technologie grootschaliger/eerlijker/beter selecteren? Voor je die vraag kunt beantwoorden, is er echter een belangrijke tussenstap: wat is eerlijker/beter? En het interessante hierbij was, dat historische data niet helemaal te vertrouwen is als 'goed voorbeeld'.
[8/11] Er was immers de vraag, of recruiters momenteel wel optimaal selecteren. Bovendien is historische data vaak biased. In het verleden waren zowel vrouwen als etnische minderheden een stuk minder vertegenwoordigd op de arbeidsmarkt. Met gevaar dat ze 'data-outliers' worden.
[9/11] Dus hierbij wil je eigenlijk uitdrukkelijk *niet* een leeropzet waarin je historische data aan een leeralgoritme voert, en het algoritme vraagt om meerderheidspatronen in de data zo precies mogelijk te repliceren! Daar trapte ook Amazon recent in: reuters.com/article/us-ama…
[10/11] Ik probeer met mijn psychologie-collega's uit te zoeken wat we dan wél willen. Moet een algoritme de bias oplossen, of willen we dit naar de dataprovider terugspelen? Moet een algoritme de 'obvious' sterke kandidaten naar boven halen, of ziet de recruiter die al vanzelf?
[11/11] Is het nuttiger om kandidaten te vinden die wat meer van de standaard afwijken, maar tóch interessant kunnen zijn? In de muziekwereld ben ik al jaren met die vraag bezig; voorbeelden volgen de komende dagen. Kan ik dit naar het sollicitatiedomein vertalen? Ik hoop het!
(@redevries @Keesmarges, hiermee ook mijn antwoord op jullie vragen over bias en ethiek :))
