Wij zullen – .. in de nabije toekomst de wereld moeten delen met superintelligente computers.

Steeds vaker kom je dit soort regels, zinnen, uitspraken tegen. We staan in die ‘verhalen’ aan de vooravond van de komst van robots, of beter geformuleerd ‘zelflerende systemen’. Systemen die veel werknemers werkloos zullen maken. Op donderdag 21 augustus kwamen drie voorbeelden voorbij die elkaar ogenschijnlijk tegenspreken, maar feitelijk toch op hetzelfde uitkomen. Een toekomst waarin dit soort systemen alom aanwezig zullen zijn is niet (meer) zo ver weg. 

Als eerste stond in NRC Next (donderdag 21 augustus 2014) een artikel van (de jonge publicist) Pepijn Vloemans (auteur van De survivalgids voor het consumptieparadijs : over geld, groei en geluk in tijden van crisis). Het citaat hierboven komt uit dit artikel. De aanleiding voor het artikel was een recent boek van ene Stuart Armstrong (Smarter than us : the rise of machine intelligence).

Pepijn formuleert het zo:

In het toegankelijke geschreven boek Smarter than us (2014) gebruikt de kunstmatige intelligentie-expert Stuart Armstrong onder andere het voorbeeld van de kloof tussen beren en mensen om ons wakker te schudden voor een scenario dat met de dag geloofwaardiger wordt: een wereld waarin mensen niet langer de slimsten zijn.
Volgens Armstrong zullen we in de nabije toekomst de wereld moeten delen met superintelligente computers. Deze computer zal zo intelligent zijn dat wij mensen hem onmogelijk nog kunnen bevatten. Als we niet tijdig voorzorgsmaatregelen nemen, zullen wij ons net zo beklemd, onzeker en machteloos voelen als de beren. ‘We moeten supervoorzichtig zijn met kunstmatige intelligentie’, twitterde Elon Musk – een van de invloedrijkste enterpreneurs uit Silicon Valley – onlangs. In telegramstijl voegde hij er aan toe: ‘Potentieel gevaarlijker dan kernwapens.’

Het verhaal van de beren
Stuart Armstrong voert een beer op, die op een zeker moment (duizenden jaren geleden) een nieuw wezen zag opduiken. Een wezen dat hem en zijn lotgenoten ging bejagen. Kleine wezens die stokken en andere voorwerpen gebruikten . En alhoewel die wezens an sich klein en zwak waren, slaagden zij er dankzij slimme/sluwe methodes in veel beren om te leggen. Pepijn formuleert het zo: “Sinds een paar jaar komen ze met lawaaige machines uit de lucht. Ze dragen nu ook takken bij zich die ver weg een knal geven waarna een van ons dood neervalt. Het is om radeloos van te worden.

Het tweede artikel staat in het Belgische Eos, en de inhoud daarvan lijkt – als je alleen de kop leest – haaks te staan op het verhaal van Vloemans en Armstrong. Het valt wel mee met de komst van die zelflerende systemen die werknemers overbodig zullen maken: ‘We zullen nooit een superbrein krijgen‘.  Maar als je het artikel, de weerslag van een interview dat een redacteur met de Nederlandse hersenonderzoeker Michel Hofman (verbonden aan het Nederlandse Herseninstituut) had, leest dan blijkt dat Hofman deze ontwikkeling niet uitsluit. Sterker: in de laatste regels komt hij er op terug. Hofman heeft het over het feit dat de menselijke hersenen al 200.000 jaar qua omvang hetzelfde zijn en dat de maximale informatiecapaciteit van onze hersenen al bereikt is. Gelukkig hebben wij als slimme mensen iets gecreerd dat als een soort verlengstuk van onze hersenen werkt. Maar ons wellicht (binnenkort?) gaat overvleugelen. Enkele citaten:

Bij 3.500 kubieke centimeter ligt ongeveer de bovengrens. Wordt het brein groter, dan neemt het aantal hersencellen nog wel toe, maar kan het aantal verbindingen tussen de celen geen gelijke trend houden. Dan loopt de zaak vast en zullen bepaalde delen van de hersenschors geïsoleerd raken en daardoor minder adequaaat functioneren. Het gevolg is dat de informatiewerkende capaciteit van de hersenen haar maximum heeft bereikt. Een verdere expansie van de hersenen zal niet meer gepaard gaan met een toename van het cognitief vermogen. 
() … de menselijke hersenevolutie is al tweehonderdduizend jaar geleden stilgevallen, bij het verschijnen van de moderne mens. We hebben die ook niet meer nodig. Via onze technologie en communicatie hebben we ‘externe’ hersenen ontworpen. Mijn computer heeft een betrouwbaarder geheugen dan ikzelf, en via onze communicatemiddelen kunnen we razendsnal kennis vergaren en overbrengen. Onze culturele evolutie heeft de biologische evolutie ingehaald.

Het derde signaal: een film – Humans Need Not apply (“Mensen hoeven niet te solliciteren!”)
Gemaakt door ene C.G.P. Grey. Ongeveer een week oud. Hij heeft meer filmpjes gemaakt. Maar dit filmpje (alhoewel ‘pje’, het duurt 15 minuten) is een beauty en een perfect pleidooi om als samenleving eindelijk eens serieus te gaan nadenken over de komst van zelflerende systemen. Centraal staan hier paarden; beren waren niet nodig voor dit verhaal.
Viif redenen om 15 minuten te kijken:
1. prachtig gemaakt!
2. het verhaal is mooi opgezet
3. het zal u aan het denken zetten
4. u kunt niet langer uw schouders ophalen, en denken dat het niet zo’n vaart zal lopen
5. 1.906.446 kijkers gingen u al voor (stand op vrijdag 22 augustus 2014)

Humans Need Not Apply (15:01)

https://www.youtube.com/watch?v=7Pq-S557XQU&feature=emb_title

Meer lezen?
Marcel Heerink. Zolang je robot maar van je houdt : hoe en waarom onze wereld verandert door de onstuitbare opkomst van de robots (2013)
Henny van der Pluijm. Rechten en plichten voor robots : burger ze in nu het nog kan! (2013)
Kevin Kelly. De wil van technologie (2012)
Ray Kurzweil. De singulariteit is nabij : het moment waarop de mensheid de grenzen van de biologie overstijgt (2005/2011)
Ray Kurzweil. Het bouwen van een brein : het geheim van het menselijk denken ontrafeld (2013)
Jos de Mul. Kunstmatig van nature : onderweg naar Homo sapiens 3.0 (2014)

Tv-serie Real humans : season 1 en season 2

Youtube-kanaal C.G.P. Grey

Rechten en plichten voor robots
In juni 2013 publiceerde De Volkskrant een interview met Henny van der Pluijm. Over zijn boek Rechten en plichten voor robots : burger ze in nu het nog kan! Een boek dat amper de aandacht heeft getrokken. Maar steeds duidelijker wordt dat er een maatschappelijk debat over deze ontwikkeling zal moeten worden gevoerd. Om ‘ze’ zoals van der Pluijm zegt ‘in te burgeren’, nu het nog kan. De slotboodschap van Humans Need Not Apply is wezenlijk hetzelfde. 

Andere artikelen
Why the future doesn’t need us (juni 2013)
3 uur per dag of 4 uur per week (juni 2013)
Humans (november 2013)
Why the Future of Work Is Doomed, in One Video (augustus 2014)

Rechten en plichten voor robots
Vanaf deze eeuw zal de mens niet langer de hoogste trede op de evolutieladder vormen. Binnen een generatie, een menselijke generatie dus, zal de informatie verwerkende capaciteit van een gemiddelde bureaucomputer of laptop het denkvermogen van mensen overstijgen. Informatietechnologie zal niet langer een verzameling apparaten en programma’s zijn die slaafs doen wat mensen willen, maar deze machines zullen over een krachtig lerend vermogen beschikken. Wát deze apparaten, machines en software precies doen en gaan doen, zal onvoorspelbaar zijn en geen mens zal er verantwoordelijkheid voor willen nemen, om maar te zwijgen over het aanvaarden van aansprakelijkheid. (Pluijm)

Zolang je robot maar van je houdt
Het gaat gebeuren, mensen. U vroeg zich af waar die robots bleven, nou, u zult het weten. Alle mogelijkheden van robots stijgen in een tempo dat vergelijkbaar is met de stijging van het aantal MB’s van een USB-stick in de afgelopen jaren. Dat betekent niet dat we praten over tien jaar of vijf jaar, maar over drie jaar. Dan domineren robots onze samenleving.

Ach, het ging met computers ook ineens heel snel. En ook met internet. En uiteindelijk met mobiele telefoons. En tablets. Hoeveel tablets zag u drie jaar geleden om u heen? En nu?

Dus waarom niet?

Kortom, zet u schrap. (pagina 49) (Heerink)

Citaat 160 (vrijdag 22 augustus 2014)
Homepage Citaten 2014