Uit een artikel in KIJK Magazine is te lezen dat het onderzoekers gelukt is om algoritmes te ontwikkelen die Artificial Intelligence-systemen trainen om bias (zoals gendervooroordelen) te voorkomen. De techniek zet hiervoor de bias om in concrete wiskundige criteria, waardoor de machine getraind kan worden om dit gedrag te voorkomen. Dat is bijvoorbeeld belangrijk bij automatische beslissystemen, die onder meer in worden gezet bij sollicitatiegesprekken. Daarbij wil je natuurlijk vooroordelen buiten de deur houden.
Dat het belangrijk is om ook aandacht te hebben voor de betrouwbaarheid van AI-systemen blijkt ook uit een column van Jasper van Kuijk. Hierin lezen we hoe een man en een vrouw een nieuwe credit card aanvragen. Zij heeft een hogere kredietscore dan hij, ze zijn getrouwd in gemeenschap van goederen en doen gezamenlijk belastingaangifte. Toch krijgt zij een twintig keer lagere kaartlimiet dan hij… Het bedrijf achter de credit card kon niet uitleggen hoe dit kon gebeuren.
Omdat we AI-systemen nooit volledig kunnen programmeren, maken we gebruik van machine learing. Daarmee creëren we zelflerende systemen, die worden getraind met voorbeelden, zodat ze steeds beter presteren. Het probleem daarmee is echter dat het uiteindelijk vaak enorm troebel is hoe het systeem tot zijn beslissingen komt. Er wordt daarbij ook wel gesproken over de black box.
We geven nog een voorbeeld van de bias en de black box van AI-systemen. In de Volkskrant lazen we dat er in China honderdduizenden onschuldige mensen in heropvoedingskampen belanden omdat een AI-systeem hen classificeert als verdacht. Het AI-systeem weet alles van deze mensen: welke websites ze bezoeken, met wie ze spreken en welke pakketjes ze ontvangen. Ook worden mensen op straat gevolgd door intelligente camera’s, die hun gezicht herkennen en bewegingen volgen.
Het systeem wordt op dit moment (nog vooral) gebruikt op de inwoners van de provincie Xinjiang, thuisland van de Oeigoeren, een islamitische minderheid in China. Zij protesteren al jaren tegen de regering, die terugslaat door alle Oeigoeren te neutraliseren van wie niet volledig kan worden uitgesloten dat ze een potentieel gevaar vormen. Om dat te bepalen, wordt dus (onder andere) dat AI-systeem gebruikt. De gebruikte algoritmen zijn (uiteraard) niet bekend. Er zijn bijvoorbeeld mensen opgepakt die een baard lieten staan of vaak de achterdeur van hun huis gebruikten.
Onderzoekster Bethanny Allen-Ebrahimian vertelt dat er in documenten over het systeem geen enkele discussie te vinden is over het bewijzen van de schuldvraag én de betrouwbaarheid van het algoritme. China promoot en verkoopt hun systeem al in het buitenland. In landen als Pakistan, Kenia, Oezbekistan en Kirgizië wordt het zelfs al gebruikt. Op den duur kan de technologie ons allemaal raken.
Steden worden al tientallen jaren geconfronteerd met uitdagingen op gebieden als verkeer, milieu en veiligheid. Als antwoord op issues als cyberveiligheid en klimaatverandering is een slimme aanpak nodig. We spreken in dat kader natuurlijk ook wel over smart cities.
ABI Research laat in hun whitepaper zien hoe de manier waarop smart cities hun problemen aanpakken constant verandert. In deze whitepaper zetten ze een paar trends op een rijtje. Het onderzoeksbureau kijkt daarbij specifiek naar trends op het gebied van technologie. Hoe verandert de technologie die smart cities inzetten? We geven een voorbeeld: waar smart cities zich tot dusver vooral op de implementatie van Internet of Things-technologie gericht hebben, zijn er nu ook steden die een stapje verder gaan en een zogenoemde digitale tweelingstad bouwen.
Hieronder lichten we drie smart city-trends verder uit.
De manier waarop steden worden ontworpen en beheerd, zal volgens de whitepaper door de opkomst van 3D-modellering fundamenteel veranderen. Tot dusver richten smart cities zich vooral op IoT-toepassingen, waarbij verbonden sensoren worden aangesloten op de stedelijke omgeving. Een ontwikkeling die heeft geleid tot preventief onderhoud en andere soorten efficiëntieverbeteringen. Een vervolgstap in deze richting betreft real-time modellering (digitale tweelingen van hele steden). Hiermee kunnen aanpassingen aan de verkeersstroom of het energienet eerst getest worden. Als we deze lijn verder trekken, kunnen we daar natuurlijk ook Artificial Intelligence bij betrekken.
Tekst gaat verder onder de afbeelding.
Om de veiligheid van burgers te vergroten, zetten slimme steden tot dusver vaak bewakingscamera’s in. Een bewakingscamera kan echter niet beschermen tegen natuurrampen en aanslagen. Hoe kunnen steden zich dan toch (zo goed mogelijk) voorbereiden op deze gebeurtenissen? Met voorspellende analyses uitgevoerd door AI! Daarmee is het mogelijk rampen te voorspellen en soms zelfs te voorkomen. Daarnaast komt er ook steeds meer aandacht voor de nasleep (zoals reddingsmissies en herstelwerkzaamheden) en de rol die technologie daarbij kan spelen. In dit kader worden in de whitepaper bijvoorbeeld 5G en drones genoemd.
Steden zullen een cruciale rol spelen bij het bereiken van onze doelstellingen op het gebied van duurzaamheid. Trends op dit gebied zijn bijvoorbeeld slimme gebouwen, waarin er efficiënt met energie wordt omgegaan. Uiteindelijk leiden deze trends tot een volledig circulaire stedelijke economie. Door een grote mate van zelfondersteuning en zelfvoorziening te bereiken op gebieden als energieopwekking wordt de ecologische voetafdruk van een stad volledig geëlimineerd. Fundamentele aspecten van circulariteit zijn volgens ABI Research afvalbeheer en recycling. Om tot zo’n complete circulaire economie te komen, lijkt het aannemelijk dat steden helemaal opnieuw moeten worden ontworpen. Daarbij moeten vervolgens die circulaire paradigma’s als afvalbeheer en reclycling leidend zijn.
Meer lezen over dit onderwerp?
Misschien vind je deze artikelen ook interessant:
De Internet of Things-toepassingen van 5G
De 10 belangrijkste consumenten tech trends voor 2019
“Transport en nutsbedrijven hebben veel te winnen bij smart cities”
