11 sep. 2022

Computer zegt nee

Hoe kunstmatige intelligentie vandaag de dag regeert

Vanmorgen genoot ik van mijn fietstocht over een bijna leeg fietspad, plaatje perfecte zonnestralen verlichtten de dauw boven de velden om me heen. Waar waren al die andere fietsers? Ik vermoed dat het iets te maken heeft met populaire weer-apps. Het valt me op hoe groot de controle van computers op het leven van mensen nu al is.

Blijkbaar was er vanochtend kans op regen, zoals aangegeven door de weer-app van de iPhone. Hoewel ik geen druppel regen ben tegengekomen, zorgde dat kleine regenwolk-icoontje op de telefoon ervoor dat minder mensen gingen fietsen.

Natuurlijk, ik snap het: weinig mensen vinden het leuk om nat te worden op hun mooie fietsen. Maar wat is er gebeurd met daadwerkelijk uit het raam kijken om het werkelijke weer te bekijken? Een snelle blik zou iedereen de perfecte omstandigheden voor een ritje hebben laten zien. Neem je beslissingen op basis van de weer app?

Wat is Kunstmatige Intelligentie (KI)?

Ondanks de recente renaissance in de rangen van "buzzword bingo", zijn concepten van kunstmatige intelligentie en machine learning helemaal niet zo nieuw. Het idee om leren te gebruiken als middel om een eenvoudiger systeem op te starten naar menselijke intelligentie kan ten minste worden teruggevoerd tot Alan Turing's idee van een "kindermachine" in 1950. In plaats van te proberen een programma te produceren om de volwassen geest te simuleren, waarom niet proberen er een te produceren die de geest van het kind simuleert? Als het vervolgens aan een geschikte opleiding zou worden onderworpen, zou men het volwassen brein verkrijgen.

In zijn boek "Superintelligentie", onderzoekt Nick Bostrom grondig de mogelijke wegen naar de creatie van een kunstmatige intelligentie. Wat gebeurt er als machines mensen overtreffen in algemene intelligentie? Zullen kunstmatige agenten ons redden of vernietigen? Zelfs Elon Musk is het met me eens dat iedereen dit boek zou moeten lezen.

Hoewel de algemene consensus is dat een echte kunstmatige algemene intelligentie nog niet bestaat, zou ik willen stellen dat de samenleving in het algemeen zich perfect opstelt voor een KI om de controle over te nemen. De kokende kikker metafoor is een krachtige manier om hierover na te denken, waarbij de kikker het gevaar van langzaam aan de kook gebracht water niet waarneemt. We mogen onszelf door niemand laten koken, laat staan door een KI!

Voorbeelden van computercontrole vandaag de dag

Terwijl ik vanochtend genoot van de lege fietspad, realiseerde ik me dat de weer-app niet de enige is die het gedrag van mensen controleert. Denk aan de volgende voorbeelden:

• waar mensen wonen: het is gemakkelijk te begrijpen waarom financiële instellingen het risico willen inschatten van het uitlenen van geld aan iemand, maar de computers van vandaag die je kredietscore berekenen, bepalen indirect zaken als welk huis je kunt kopen, waar je zult wonen, naar welke school je kinderen zullen gaan. Machine learning is een hot topic in de geldzaken, en onbekend bij veel mensen, kijken die algoritmen niet alleen naar je financiële gegevens. Een van de wereldleiders in kredietbeoordelingen, GDS Link, is er openhartig over: de betalingsachtergrond van een kredietnemer is essentieel, maar vormt nog steeds iets meer dan een derde van de kredietscore.
• meteo alarmen: je weer-app is jaloers op de macht die meteo alarmen hebben op de samenleving: hele natiestaten kunnen worden stilgelegd op basis van de weercomputer die "code rood" aangeeft. Iedereen begrijpt de voor de hand liggende redenen van veiligheid. Maar, men zou zich kunnen afvragen hoeveel menselijk leed er daadwerkelijk wordt veroorzaakt door het annuleren van vakanties, het afsluiten van wegen, het stilleggen van treinen, het sluiten van scholen en het beperken van ziekenhuisdiensten.
• wat mensen zien: de autoplay-functie op ieders favoriete videowebsite gebruikt algoritmen om je volgende video te bepalen. Zelfs als je bewust besluit om een bepaalde video te bekijken, krijg je automatisch iets anders te zien. Hetzelfde geldt voor populaire apps zoals TikTok en Instagram.
• wat mensen horen: denk niet dat de shuffle-functie op je iPod of Spotify-app echt willekeurig is. Deze uitleg van voormalig Spotify-engineer Mattias Petter Johansson is een interessante lectuur.
• wat mensen lezen: Elon Musk begrijpt waarom het belangrijk is om newsfeed-algoritmen zoals de Twitter-feed openbaar te maken, omdat het bepaalt wat mensen lezen! Maar omdat niet iedereen code begrijpt, denk ik dat het slechts een deel van de oplossing zou zijn.

Conclusie

Nieuwe technologie maakt mensen altijd bang. Toen de eerste fietsen verschenen, gaven mensen ze de schuld van bijna alles! Toch zijn ze nu op een redelijk goede manier geïntegreerd in ons leven. Mensen kennen de risico's en velen handelen ernaar. Helmen en fiets verlichting zijn heel gewoon. Uiteindelijk verwacht ik hetzelfde voor geautomatiseerde besluitvorming: we zullen leren er op een goede manier mee om te gaan.

In de tussentijd moeten we actief nieuwsgierig blijven en genieten van de moderne wonderen van technologie, zoals het verbazingwekkende DALL-E KI-systeem dat originele, realistische afbeeldingen en kunst kan creëren. Ik heb ermee gewerkt om het artwork bij deze blogpost te maken. De onlangs gestarte discussie over wie de gegenereerde werken bezit verbaast me helemaal niet. Beleidsmakers zouden er verstandig aan doen de grotere vragen rond kunstmatige intelligentie niet te negeren!