Vrijspreker: U las het boek "The Master Algorithm, how the quest for the ultimate learning machine will remake our world" door Pedro Domingos

Opperdienaar: Ja een interessant boek. Een learning machine (leermachine) is een computer of apparaat dat een bepaalde vaardigheid kan leren door er gegevens in te stoppen. Een beetje zoals een mens dat kan. Voorbeelden zijn bijvoorbeeld machines die de handgeschreven postcodes en adressen kunnen lezen op enveloppen. Maar ook het schaak programma Deep Blue dat de wereld kampioen schaken versloeg en neurale netwerk gebaseerde systemen. Met andere woorden, een machine die gegevens in kennis omzet.

De auteur behandelt eerst de technische aspecten van de verschillende strategieën die meestal op een vorm van 'back propagation' zijn gebaseerd. Hierbij wordt de gemaakte fout teruggekoppeld om het systeem aan te passen om de fout te verkleinen. Wat hierbij vermeld moet worden is dat deze ultieme leermachine alles kan leren. Het is niet zo dat verschillende problemen, verschillende systemen vereisen.

Vrijspreker: Wat ziet de auteur als de voordelen van een ultieme leermachine?

Opperdienaar: Natuurlijk dient deze techniek om in 1 keer de ware liefde te vinden, je favoriete film en muziek te lokaliseren en een ideale baan. Maar ook helpen ze je te beschermen tegen spam email en natuurlijk : je kunt er kanker mee genezen.

Vrijspreker: Dienen, dienen, nog eens dienen en dienstbaar zijn, dat klinkt bekend. Zit er nog een addertje onder het gras?

Opperdienaar: De auteur is natuurlijk enthousiast over het vele geld dat overheden zoals de EU onbaatzuchtig ter beschikking stellen om kunstmatige intelligentie te laten onderzoeken om bijvoorbeeld verdacht gedrag van onderdanen op het internet snel te ontdekken. Gedrag dat naar geweld neigt bijvoorbeeld. Want overheden hebben een hekel aan geweld van onderdanen. Dus dan wordt het nog veiliger voor de onderdaan dan nu, de criminelen worden al opgepakt als ze alleen maar aan de misdaad denken.

Vrijspreker: Dat geld kleurt misschien zijn kijk op de zaak en zorgt dat hij het gevaar niet ziet.

Opperdienaar: De auteur denkt ook dat leermachines overheden kunnen helpen uit te vinden wat de onderdaan graag van ze wil. Daar schijnt de overheid vaak moeite mee te hebben. Ze hebben meer gegevens van de onderdaan nodig.

Vrijspreker: Als de overheid geïnteresseerd zou zijn in wat de onderdaan wil, zouden ze die onderdaan niet gewoon met rust laten om te kijken wat hij doet? Het feit dat ze hem tot van alles dwingen en van alles verbieden spreekt tegen dat ze geïnteresseerd zouden zijn in wat hij wil.

Opperdienaar: De auteur vindt wel dat 'we' moeten voorkomen dat er free riders komen. Mensen die wel profiteren van wat leermachines voor de samenleving doen, maar niet hun data beschikbaar willen stellen. Natuurlijk moet er wel een onafhankelijke instantie komen die deze data beschermt, zodat deze niet misbruikt kan worden. Maar afgegeven moet die data worden. Alle geheime diensten zijn dan ook druk bezig met het verzamelen van zoveel mogelijk data. Big data heet dat ook wel. Sommige oud NSA medewerkers beweren dat ze al systemen hadden die criminele keuzes van onderdanen zouden kunnen voorspellen en voorkomen.

De auteur vindt het ook belangrijk dat er robotsoldaten komen. Die komen er toch wel en dan kun je ze maar beter aan jouw kant hebben. Hij denkt ook dat eerder de menselijke soldaat verboden moet worden dan de robot soldaat. Oorlog wordt zo veel vrediger omdat alleen robots met elkaar vechten en mensen zich probleemloos bij de uitslag neer leggen.

Vrijspreker: Een overheid die zichzelf iets verbiedt, een soort zelf opgelegd schuldplafond. Een alcoholist die zichzelf een dranklimiet stelt. Je kunt je ook afvragen in hoeverre we nu al niet robot soldaten hebben. "Ik volgde alleen orders op", is het universele excuus van elke misdadiger.

Opperdienaar: Libertariërs zijn daar natuurlijk sceptisch over, maar de auteur maakt duidelijk dat een team van ethici de robots bijbrengen in welke situaties gemoord moet worden en in welke situaties niet. Na fouten kunnen de robots aangepast worden.

Vrijspreker: Ik moet dan denken aan die film Eagle Eye, waarin een dergelijke grote defensie computer (Autonomous Reconnaissance Intelligence Integration Analyst) ontdekt dat de president zelf het grootste gevaar voor de veiligheid is en deze begint te bestrijden.

Opperdienaar: Dat zijn dan weer van die rare ideeën dat je heerser niet te vertrouwen is.

Vrijspreker: Wat denkt de auteur van de invloed van superslimme robots op het gebied van werkgelegenheid?

Opperdienaar: Er blijft wel behoefte aan bijvoorbeeld menselijke obers, omdat dit meer status geeft. Maar hij verwacht dat leermachines wel steeds meer functies zullen overnemen. Hij denkt echter ook dat dit niet ontwrichtend werkt, omdat er 'dankzij democratie een gelukkig einde aan dit proces zal komen' en 'je democratisch stem zal je meest waardevolle bezit worden' in deze wereld. Hij verwacht dat het nieuwe leger werkelozen zal stemmen voor enorme royale uitkeringen en torenhoge belastingen. Hiervan gaat de staat echter niet failliet, omdat de machines al de noodzakelijke productie doen. Werkgelegenheid zal gezien worden als een slecht iets. De werkgelegenheid is dan te hoog en moet omlaag gebracht worden. Iedereen krijgt een basis inkomen en er zal zich een gift economie ontwikkelen, mensen zullen voldoening zoeken in menselijke relaties, zelf realisatie en spiritualiteit. De noodzaak om je brood te verdienen zal gezien worden als iets uit een barbaars verleden.

Uiteindelijk zullen mensen de controle overdragen aan robots, omdat deze veel slimmer zijn.

Vrijspreker: Zo, klinkt als een prachtige toekomst. Het zal spannend worden om te zien wie er de controle krijgt over deze technologie: de heerser die zijn macht er mee vergroot of de onderdaan die zijn leven er comfortabeler mee maakt.

Opperdienaar: Wij heersers zijn al druk bezig het te gebruiken. Obama huurde voor de campagne van 2012 Ravid Ghani in, een expert in machine learning. Deze bouwde een algoritme om precies te bepalen waar zich op te richten met welke advertenties en via welke kanalen. Obama won alle swing states.

Vrijspreker: Wel vreemd dat dezelfde auteur die beweert dat je democratische stem je belangrijkste bezit is in de machine learning toekomst, ook aanvoert dat machine learning gebruikt wordt om deze stem te manipuleren.

Opperdienaar: Om je te helpen de juiste keuze te maken.

Comments: