Ethisch evalueren is voor ons:
compliant, volgens een gedragscode en met zuivere algoritmen evalueren.
- Compliant redeneren omdat u redeneert binnen of namens een organisatie die moet voldoen aan wet- en regelgeving en aan bedrijfsvoorschriften.
Comply or explain. - Volgens een gedragscode redeneren, omdat u met een code vooraf belooft u goed te zullen gedragen.
Belofte maakt schuld. - Algoritmisch redeneren, omdat u, de vijf onderliggende denkpatronen kritisch zult moeten beschouwen.
Een algoritme blijft mensenwerk.
Ethiek is bij ons ook altijd beroepsethiek, met oog voor product, professie én professional.
Wij gebruiken hieronder de afko “BKAR”.
Daarmee bedoelen wij:
Beslissing / Keuze / Alternatief / Reactie
(En dat zijn de vier denk-heuristieken in onze gereedschapskist.)
1 Voldoet uw BKAR aan de vigerende wetten?
2 Voldoet uw BKAR aan de regelgeving?
3 Voldoet uw BKAR aan voorschriften?
4 Voldoet uw BKAR aan normen en standaarden?
5 Voldoet uw BKAR aan frameworks en best practices?
Voldoet uw BKAR aan een gedragscode?
1 Behartigt uw BKAR het belang van de samenleving?
2 Behartigt uw BKAR het belang van werkgever en/of klant?
3 Behartigt uw BKAR het belang van uw professie?
4 Behartigt uw BKAR het belang van de professionaliteit?
Zijn uw regels, processen, algoritmen (RPA) ethisch?
Terugkoppelen vanuit de checklis
Terugkoppelen naar een beslissing in een PAC
Terugkoppelen naar een keuze in een MAC
Terugkoppelen naar alternatieven in een DMA
Terugkoppelend naar een reactie in een PMI
Is uw BKAR compliant?
Compliant redeneert u, omdat u redeneert binnen of namens een organisatie die moet voldoen aan wet- en regelgeving en aan (bedrijfs-)voorschriften.
Check met deze vijf vragen of u compliant bent.
1 Voldoet uw BKAR aan de vigerende wetten?
Wetten worden buiten uw organisatie bepaald. U hebt weinig mogelijkheden daarvan af te wijken, maar niet altijd is duidelijk of een wet van toepassing is. Uw motivatie (onder “waar blijkt dat uit?”) geeft aan hoe compliant u redeneert.
- Welke wetten zien op uw BKAR?
- Is er jurisprudentie over uw BKAR?
- Kunt u wetten en jurisprudentie toepassen?
- Is uw BKAR u compliant aan de wet?
2 Voldoet uw BKAR aan de regelgeving?
Ook regelgeving wordt buiten uw organisatie bepaald, vaak om wetten uit te kunnen voeren. U hebt weinig mogelijkheden daarvan af te wijken, maar niet altijd is duidelijk of een regel van toepassing is. Uw motivatie (onder “waar blijkt dat uit?”) geeft aan hoe compliant u redeneert.
- Aan welke regelgeving moet uw BKAR voldoen?
- Kunt u die regelgeving toepassen?
- Is uw BKAR u compliant aan de regels?
3 Voldoet uw BKAR aan voorschriften?
Voorschriften kunnen buiten of binnen uw organisatie opgesteld worden, vaak om regelgeving uit te kunnen voeren. U hebt soms enige mogelijkheid ervan af te wijken -mits onderbouwd. Bij voorschriften van uw organisatie wat meer dan bij die van bijvoorbeeld overheidsorganen.
Niet altijd is duidelijk of een voorschrift van toepassing is. Uw motivatie (onder “waar blijkt dat uit?”) geeft aan hoe compliant u redeneert.
- Aan welke voorschriften moet uw BKAR voldoen?
- In hoeverre kunt u aan die voorschriften voldoen?
- Is uw BKAR u compliant aan de voorschriften?
4 Voldoet uw BKAR aan normen en standaarden?
Normen en standaarden worden buiten uw organisatie opgesteld. Normen worden gesteld door ISO, CEN of NEN. Standaarden, licenties en certificaten kunnen door beroepsgroepen of in regelgeving vastgelegd worden
Niet altijd is duidelijk of een norm etc. van toepassing is. Uw motivatie (onder “waar blijkt dat uit?”) geeft aan hoe compliant u redeneert.
- Aan welke normen en standaarden etc. moet uw BKAR voldoen?
- In hoeverre kunt u aan die normen en standaarden etc. voldoen?
- Is uw BKAR u compliant aan de normen en standaarden etc.?
5 Voldoet uw BKAR aan frameworks en best practices?
Frameworks en best practices worden buiten of binnen uw organisatie opgesteld. Bijvoorbeeld door beroepsgroepen of door interne kwaliteitsbewaking. Frameworks en best practices hebben vaak een minder formele status. Niet altijd is duidelijk in hoeverre uw BKAR eraan moet voldoen.
Uw motivatie (onder “waar blijkt dat uit?”) geeft aan hoe compliant u redeneert.
- Aan welke frameworks en best practices moet uw BKAR voldoen?
- In hoeverre kunt u daar aan voldoen?
- Is uw BKAR u compliant??
Voldoet uw BKAR aan een gedragscode?
Een gedragscode bewijst zijn nut in meer algemene uitingen van een organisatie, en als katalysator van discussies over bijvoorbeeld concrete integriteit(-srisico’s).[2]
De volzinnen hebben steeds “de professional” als actor. Want hij is het, die het ethisch gedrag zal -moeten- vertonen.
1 Behartigt uw BKAR het belang van de samenleving?
- Beschermt u de veiligheid van en de belangen in de samenleving?
- Handelt u in overeenstemming met de wet?
2 Behartigt uw BKAR het belang van werkgever en/of klant?
- Handelt u in overeenstemming met de belangen van uw werkgever en/of uw klant?
- Gebruikt u uw kennis, vaardigheden en vermogens om de best mogelijke oplossingen voor werkgever of klant te bewerkstelligen?
3 Behartigt uw BKAR het belang van uw professie?
- Beschermt u de waardigheid van uw vakgebied?
- Doet u alles om uw vak en uw vakgenoten te ontwikkelen en te promoten?
4 Behartigt uw BKAR het belang van de professionaliteit?
- Handelt u open en onpartijdig binnen uw bevoegdheden?
- Neemt u verantwoordelijkheid voor de resultaten van uw eigen werk, en voor het werk dat onder uw verantwoordelijkheid wordt uitgevoerd?
Zijn uw regels, processen, algoritmen (RPA) ethisch?
Velen van u zullen in toenemende mate met regels, processen en algoritmen (RPA) werken. Dat heeft ethische consequenties.
Deze checklist kan gebruikt worden bij ethische evaluatie van processen, bedrijfsregels of protocollen en algoritmen.
1 RPA reduceren
Een ei krijg je niet in een computer. Het woord ei wel, het aantal eieren in een mandje ook. Een kind past niet in een computer. Een CITO-score wel.
Data representeren verbale of numerieke representaties van de werkelijkheid. Representatie in het kwadraat dus eigenlijk.
Elke representatie is ook een reductie van de werkelijkheid tot dat wat te tellen of dat wat te vertellen is. Data zijn dus eigenlijk reducties in het kwadraat.
Bij elke reductie verlies je iets.
- Wat is er bij de reductie in uw data verloren gegaan?
- Wat is daar, voor wie erg aan?
2 RPA correleren
Er is een correlatie tussen de kleur van een auto en het aantal veroorzaakte ongelukken. Er is een correlatie tussen het aantal PK’s van een auto en het aantal veroorzaakte ongelukken.
De uitkomst van RPA leunt zwaar op die correlaties. Maar een correlatie is nog geen causaal verband. Een correlatie kan toeval zijn. Of het gevolg van een bias in de data.
De output van RPA wordt echter bijna altijd beschouwd als een causale predictie.
RPA zouden alleen gebruikt mogen worden, als alle causale verbanden geëxpliciteerd en onderbouwd zijn.
- Welke correlaties gebruikt uw RPA?
- Is voor elke correlatie een causaal verband geëxpliciteerd en onderbouwd?
3 RPA redeneren
De basisredenering voor RPA is altijd deze:
ALS 1 EN/OF 2 DAN 3.
Deze oervorm kan genest worden: ALS 01 EN/OF 02 DAN 1.
Deze basisredenering kan naar believen van de argumentatiediepte gekoppeld worden, en hij kan gekwantificeerd worden. De meest spectaculaire ALS-sprong is die van de redenering naar de werkelijkheid.
De redeneringen achter RPA worden zelden geëxpliciteerd. Vaak zijn alleen delen van een redenering bekend bij een ontwikkelteam. En maar zelden nemen RPA-bouwers de moeite de premissen onder hun redeneringen in voldoende diepte tot geneste of gekoppelde redeneringen te expliciteren. Voor de relatie tussen redenering en werkelijkheid wordt, helaas niet altijd terecht, vertrouwd op de kwaliteit van de data gebruikt voor training en input.
Wil RPA beoordeel kunnen worden, dan zal de redenering geëxpliciteerd moeten zijn.
Die geëxpliciteerde redenering zal getoetst moeten worden aan de paradigma’s van het vakgebied waarbinnen het redeneert.
- Zijn al uw redeneringen geëxpliciteerd?
- Zijn alle redeneringen getoetst aan paradigma’s?
4 RPA prescriptiveren
Als er in een Nederlandse zin een dingwoord staat (znw) dan staat er altijd zo’n lullig klein woordje voor (lidw). Er zijn drie van die woordjes: de | het | een. Er kunnen woorden tussen het (znw) en het (lidw) staan.
Bijna alle RPA worden met descriptieve data gevoed. Dus zou de output ook descriptief moeten zijn. Veel output van algoritmes wordt echter prescriptief gebruikt.
Maar dat iets is, wil nog niet zeggen dat iets moet zijn. We kunnen morgen alle lidwoorden door “dn” vervangen, als we dat willen, bijvoorbeeld, en ze achter de znw zetten.
“Prescriptivering” is een van de sterkste, maar minder zichtbare heteronomiserende effecten van RPA -zeker als er ook nog een fikse bias of lacune in de data zit.
Prescriptief gebruik van een output vergt een extra regel van buiten het domein van het algoritme om er een voorschrift van te kunnen maken.
Die extra regel zal uit een geaccepteerd legitimerend domein moeten komen.
- Welke uitkomsten van uw algoritme worden prescriptief gebruikt?
- Voor welke uitkomsten is er een expliciete legitimerende regel “van buiten” die hem prescriptief maakt?
5 RPA zijn speelgoed
Het ministerie van OCW heeft liften die met een algoritme hun optimale “route” berekenen. In de lifthal toetsen lifters het nummer van de etage van hun keuze op een zuil. Het algoritme bepaalt dan welke liften in welke volgorde de aanvragen afhandelen. En dat is best een knap algoritme. De ambtenaren van OCW hadden echter al snel door, dat ze door hun etage een paar keer achterelkaar in te toetsen de uitkomsten naar hun hand konden zetten, wat ze een persoonlijke expresslift opleverde. Het algoritme kon niet zien of er echt tien mensen naar de 13e etage wilden, of dat één persoon tien keer achtereen 13 toetste. Gelukkig bood een streng kijkende bode, geposteerd naast de zuil met toetsen, uitkomst.
De output van RPA komt altijd in een ecosysteem terecht. Vooraf is maar ten dele te bedenken hoe andere actoren in dat systeem op de output zullen reageren.
Als de output de actoren niet bevalt, zullen ze hem saboteren -zie het liftvoorbeeld. Als de output enthousiast omarmd wordt daarentegen, zal hij meer effect hebben dan verwacht.
De outcome van de output is afhankelijk van de perceptie van de output door de actoren. Een onvoorziene perceptie leidt vaak tot een andere outcome. In ons liftvoorbeeld verandering van optimaliseren van de outcome voor een collectief tot optimaliseren van de outcome voor een individu.
Vaak is een ongewenste outcome niet te verminderen door terugkoppeling in de RPA.
Dan biedt alleen input van buiten de RPA uitkomst. Een streng kijkende bode bijvoorbeeld.
- Met welke uitkomsten van uw RPA kan gespeeld worden?
- Wie in uw ecosysteem zou er waarom mee willen spelen?
Zeven checklists
Of u ethisch redeneert, kunt u controleren door de vragen in onze checklists te beantwoorden. Naar eer en geweten.
De checklists zijn hier qualitate qua generiek. Wij nodigen u uit ze voor uw BKAR te preciseren.
Alle nader te beschouwen antwoorden kunnen geprioriteerd worden. Alle antwoorden kunnen gesorteerd worden op prioriteit. Elk antwoord kan (moet) toegelicht of onderbouwd worden in de kolom “Waar blijkt dat uit?”
Zo past een complete ethische de beschouwing in één verzameling handige goed deelbare en goed te presenteren checklists, die ingevoegd kunnen worden in enig verantwoordingsdocument:[1]
Terugkoppelen vanuit de checklist
Het kan voorkomen, dat checken van uw BKAR met de ethische checklists u doet twijfelen aan uw beslissing, keuze of reactie. Dan heeft de checklist zijn werk gedaan.
U kunt eenvoudig uw BKAR aanpassen aan uw ethische overwegingen.
Terugkoppelen naar een beslissing in een PAC
Twijfel aan een beslissing kan -of moet- leiden tot toevoegen, verwijderen of aanpassen van een argument pro of contra of van premissen, of tot herwaardering van argumenten.
Gerede twijfel kan zelfs leiden tot een andere beslissing, met een andere onderbouwing.
Zeker als u de PAC-versies voor en na de ethische check bewaart, kunt u anderen inzicht geven in hoe en waarom van uw herwaardering.
Terugkoppelen naar een keuze in een MAC
Twijfel aan een keuze kan -of moet- leiden tot toevoegen, verwijderen of aanpassen van een alternatief of een criterium, of tot een herwaardering van factoren of scores.
Gerede twijfel kan zelfs leiden tot een andere keuze, met een andere afweging.
Zeker als u de MAC-versies voor en na de ethische check bewaart, kunt u anderen inzicht geven in hoe en waarom van uw herwaardering.
Terugkoppelen naar alternatieven in een DMA
De eerste ethische check zou die op je doelen moeten zijn.
Dat kan direct een idee voor een aantal manieren geven -of er een aantal uitsluiten. Hetzelfde geldt voor de alternatieven die je bij de manieren zoekt.
Zeker als u de DMA-versies voor en na de ethische check bewaart, kunt u anderen inzicht geven in hoe en waarom van uw herwaardering.
Terugkoppelend naar een reactie in een PMI
Twijfel aan een keuze kan -of moet- leiden tot toevoegen, verwijderen of aanpassen van een positieve reactie, van een negatieve reactie of van een interessante observatie.
Zeker als u de PMI-versies voor en na de ethische check bewaart, kunt u anderen inzicht geven in hoe en waarom van uw herwaardering.