Hoe kunnen we kunstmatige intelligentie ontkrachten? 

Een afbeelding van , AI, Hoe kunnen we kunstmatige intelligentie afwijzen?

Kunstmatige intelligentie speelt al een grote rol in de financiële dienstverlening, de medische wereld, de wereld van werving en vele andere belangrijke gebieden. Echter, huidige AI werkt alleen goed als de juiste informatie wordt gebruikt om het te trainen. Maar wanneer mensen die informatie verzamelen, opent dat de deur naar vooringenomenheid. Dus hoe zorgen we voor debiasing in AI?

Het proces begrijpen

AI kan nog niet zelf denken, daarom is menselijke hulp nodig bij het verzamelen van de benodigde gegevens. Het lijkt een beetje op het programmeren van elke andere computer, in die zin dat we alleen goede resultaten of juiste beslissingen krijgen met de juiste informatie en correct georganiseerd. Als je dit verkeerd doet, kunnen de resultaten verwoestend zijn. 

Bij het trainen van wervingsalgoritmen op basis van historische gegevens hadden we bijvoorbeeld AI die de voorkeur gaf aan jonge, blanke mannen en vrouwen en mensen van kleur uitsloot. Kortom, de trainingsgegevens waren hier duidelijk verkeerd en bevooroordeeld. Als we dit begrijpen, kunnen we het debiasingproces beginnen, omdat sommige modellen enorme hoeveelheden gegevens nodig hebben om de wereld te begrijpen. Iets eenvoudigs als het verkrijgen van de juiste bijbehorende metadata gekoppeld aan demografische gegevens is van vitaal belang. 

De allerbelangrijkste vragen stellen?

Bij het gebruik van AI dicteert wetgeving (en gezond verstand) dat we moeten kijken hoe het tot een bepaalde beslissing of reeks antwoorden kan zijn gekomen, vooral als we niet helemaal tevreden zijn met het resultaat. Hiertoe is er al een groeiend onderzoeksgebied naar 'verklaarbare AI', waarbij we naar een reeks modellen kunnen kijken en kunnen achterhalen waarop beslissingen zijn gebaseerd. 

Idealiter is verklaarbaarheid ingebouwd in het model zelf. Maar zelfs zogenaamde black-box-modellen kunnen zo draaien dat we met een beetje trucjes kunnen afleiden welk deel van de invoergegevens de grootste impact had op de classificatie die door het betreffende netwerk werd gegeven. 

Dit is belangrijk omdat alle personen in Europa nu het wettelijke recht hebben om geautomatiseerde beslissingen aan hen uitgelegd te krijgen, en daarom is transparantie alles. HMRC ligt de afgelopen jaren onder vuur vanwege een gebrek aan transparantie over hoe ze AI gebruiken om beslissingen te nemen over welke mensen bijvoorbeeld universele eer moeten krijgen. Dit mag natuurlijk niet leiden tot vooringenomenheid, maar transparantie is hier zeker het sleutelwoord. 

Nu stappen ondernemen

Waarom moeten we ons zo druk maken om ervoor te zorgen dat het proces van debiasing nu op gang komt? Omdat AI al een heel belangrijk hulpmiddel is geworden in onze steeds veranderende digitale wereld. We moeten begrijpen hoe we dit concept kunnen gebruiken om de beste resultaten voor alle betrokkenen te krijgen. 

Wat betreft de sectoren die AI gebruiken, kunnen de genomen beslissingen een enorme impact hebben op het leven van mensen. Wat we niet willen, is een leeftijd van discriminatie koesteren door simpelweg te trainen in de verkeerde gegevens. 

Artsen gebruiken in toenemende mate datagestuurde algoritmen om via AI beslissingen te nemen over de gezondheidszorg: dit zijn informatieve beslissingen in de gezondheidszorg, zoals het diagnosticeren van kanker, hartaandoeningen en oogziekten. Er zijn nieuwe geavanceerde toepassingen onderweg. Maar er zijn gevaren op de loer bij het trainen in de verkeerde gegevens. 

Aan de hand van een recent Amerikaans voorbeeld op het gebied van de gezondheidszorg, discrimineerde een wijdverbreid algoritme duidelijk zwarte individuen door zorg aan kosten te koppelen. Het probleem hier was dat AI werd geconcludeerd dat blanken veel meer geld uitgeven aan gezondheidszorg, en dat zwarte mensen over het algemeen gezonder moeten zijn. Gezien het huidige gezondheidszorgsysteem in de Verenigde Staten was deze veronderstelling natuurlijk gevaarlijk verkeerd. 

Het is belangrijk op te merken dat wanneer grootschalige persoonlijke vooroordelen de kop opsteken, we een reeks negatieve reacties kunnen veroorzaken. Voor mensen die de juiste behandeling krijgen, een baan op hun echte capaciteiten of voor mensen die op zoek zijn naar een waardevolle verzekering, is het uitbannen van vooroordelen in onze AI-aanpak van onschatbare waarde. Het komt erop neer dat een verkeerde aanpak kan leiden tot falende bedrijven, verwoeste levens, opgeblazen prijzen en allerlei negatieve scenario's. Er moet meer worden gedaan aan de vertekenende informatie op het punt van verzameling. 

De conclusies

Er is weinig twijfel dat vooroordeel, of het nu op geslacht of ras gebaseerd is, voortkomt uit fundamentele menselijke vooroordelen. Als het gaat om het gebruik van AI bij besluitvorming, kunnen we zien dat de lage kwaliteit van gegevens die deze menselijke vooringenomenheid genereert, alarmerende resultaten kan opleveren. Deze bias zal worden versterkt resulterend model. 

We moeten alle AI-modellen duidelijk ontwerpen met inclusie in het achterhoofd, gerichte testen uitvoeren in complexe gevallen en trainen in volledige en representatieve data. Dit zal er allemaal toe bijdragen dat het proces van debiasing blijft verbeteren.

Een afbeelding van , AI, Hoe kunnen we kunstmatige intelligentie afwijzen?

Nigel Cannings

CTO van Intelligent Voice

Het opwaarderingsplan van Groot-Brittannië

Amber Coster • 26 april 2022

Werken op afstand zou meer dan 13 miljoen Britten* in staat kunnen stellen de kans te grijpen om buiten de grote steden te wonen en te werken, en zo economische kansen over het VK te verspreiden, volgens onderzoek dat vandaag is vrijgegeven door ClickUp, het alles-in-één productiviteitsplatform.

De helden van technologie

Steven Johnson • 26 april 2022

We hebben de neiging om geweldige bedrijfsleiders te aanbidden, maar er zijn duizenden vernieuwers wiens ideeën - van kleine functies tot gecompliceerde algoritmen - ons leven gemakkelijker, gezonder, veiliger en handiger hebben gemaakt. Maak kennis met Hidden Heroes, een nieuwe publicatie die is ontworpen om hun verhalen te vertellen en hen het eerbetoon te brengen dat ze verdienen.