Deze website maakt gebruik van cookies. Voor meer informatie over de cookies waarvan deze website gebruik maakt klik hier.
Door verder op deze website te surfen geeft u de toestemming aan Minoc Data Services om cookies te gebruiken. verder gaan
 

Microsoft werkt aan detectietool voor partijdige AI-algoritmen

Valérie Deridder

 
Aangezien artificiële intelligentie steeds meer ingezet wordt bij belangrijke beslissingen, is het belangrijk dat vooroordelen en onzuiverheden zoveel mogelijk uit de technologie gefilterd worden.

 

Microsoft werkt aan een tool om bevooroordeelde AI-algoritmen snel en efficiënt te detecteren. Technologiebedrijven verkopen namelijk steeds meer machine learning technologieën die meestal ook via een cloud worden geraadpleegd. Consumenten maken gebruik van deze AI-algoritmen om vaak ook belangrijke beslissingen te nemen. Daarom is het cruciaal dat vooroordelen op basis van afkomst, geslacht of leeftijd er in een vroeg stadium van de technologie worden uitgefilterd, anders bestaat het risico dat die vooroordelen op grote schaal geautomatiseerd zouden worden.

 

Niet de Heilige Graal

Rich Caruna, senior researcher bij Microsoft, is een van de drijvende krachten achter het bias-detecting dashboard. Hij zegt dat het dashboard wel de meeste gevallen van onrechtvaardigheid zal kunnen opvangen, maar niet allemaal. “Perfectie kunnen we uiteraard niet verwachten – er zullen altijd vooroordelen zijn die onder de radar blijven en die niet geëlimineerd kunnen worden – het doel is echter om ze zo veel mogelijk te detecteren en te elimineren.” Caruna pleit er trouwens voor dat technologiebedrijven hun werknemers meegeven dat kunstmatige intelligentie niet de Heilige Graal is.

 

Fairness Flow

Op 2 Mei kondigde Facebook op de jaarlijkse developer conference trouwens ook haar eigen detectietool aan, genaamd “Fairness Flow”. De applicatie brengt je er automatisch van op de hoogte wanneer Facebook een onterecht oordeel velt over iemand op basis van dienst afkomst, geslacht of leeftijd. Bin Yu, professor aan Berkeley, en gespecialiseerd in machine learning, kijkt sceptisch naar de ontwikkelingen, en vindt dat grote bedrijven experts van buitenaf zouden moeten aanstellen om zo ook de transparantie van Facebook-algoritmen te vergroten. Misschien een ideetje voor je volgende persconferentie, Mark?

 

Reacties

comments powered by Disqus
 

RECENT NIEUWS