Roborecht en Robot Wars – Django Mathijsen

In het tweede essay rond zijn nieuwe boek Roborecht stelt auteur Django Mathijsen de vraag: Waarom zou je een robot bewustzijn geven? Daar zijn verschillende antwoorden op, die allemaal nieuwe ethische vragen oproepen. En als het dan zover is, hebben wij als mens dan het recht de robot van een uit-knop te voorzien? Als deel van het technische team van het televisieprogramma Robot Wars heeft Django anekdotes die onderbouwen waarom de mens altijd de stekker uit een robot moet kunnen trekken. Lees zijn essay Roborecht en Robot Wars!

Lees ook Django’s essay Roborecht en de acht betekenissen van “slaaf” op Modern Myths!

Mijn roman Roborecht, verschenen bij Uitgeverij Zilverspoor, gaat over de strijd om robotrechten in de nabije toekomst. Natuurlijk zijn er al veel verhalen geschreven over een toekomst waarin robots (of correcter geformuleerd: kunstmatig intelligente stukken software) niet alleen intelligent zijn, maar ook zelfbewustzijn hebben. En waarbij die robots nog als niet-bewuste machines behandeld worden. Hetgeen natuurlijk een groot onrecht is.

Als de ontwikkeling van onze wetenschap en technologie door mag gaan met hetzelfde tempo als de afgelopen twee eeuwen, dan gaat er zeker een moment komen dat het mogelijk is om een robot met zelfbewustzijn te maken. En zodra een kunstmatig intellect zelfbewustzijn heeft en daadwerkelijk lijdt als het emoties zoals pijn of verdriet voelt, verdient het burgerrechten.

Voer voor sciencefiction

Maar als we terugkijken op de geschiedenis, dan ligt het voor de hand om te verwachten dat sommige mensen kunstmatige intellecten die burgerrechten zullen willen ontzeggen. Hier liggen conflictsituaties die door de sciencefiction moeten worden verkend: voorspellingen en waarschuwingen. De mens die de zelfbewuste robot onderdrukt, zoals mensen ook andere mensen hebben onderdrukt. Of de robot die als onderdrukte slaaf of horige moet vechten tegen zijn slavenhouders om de rechten te kunnen krijgen die hem toekomen…

Er zullen ongetwijfeld plaatsen en periodes in de toekomst zijn waarin dit gaat gebeuren. Er zijn dan ook al veel voorbeelden van sciencefictionverhalen die hierover gaan. Bijvoorbeeld de latere robotverhalen van Asimov. Roborecht gaat daar niet over.

Roborecht en Robot Wars – Waarom zou je een robot bewustzijn geven?

Het tweede vraagstuk waar de toekomstige ontwikkeling van de kunstmatige intelligentie toe zal leiden – en dus het tweede vruchtbare sciencefictionthema – volgt uit het eerste. Kunstmatig intellect zelfbewustzijn kúnnen geven is één ding, maar moet je dat dan ook dóen?

Om daar antwoord op te kunnen geven, moet je eerst antwoord geven op een hele rits andere vragen. Hiervan zijn volgens mij de drie belangrijkste:

1. In hoeverre is het nuttig (dus in hoeverre dient het de mens en/of de wereld) om kunstmatige intelligentie zelfbewustzijn te geven?

2. Hebben wij wel het recht om een artefact met zelfbewustzijn te maken?

3. Is het verstandig om dat te doen?

De golem

Wat betreft de eerste vraag: ja, natuurlijk kan het nuttig zijn om kunstmatig intellect zelfbewustzijn, doelen en gevoelens te geven. Onder andere zodat robots meer op mensen lijken. Dan kunnen robots en mensen effectiever met elkaar omgaan en elkaar beter begrijpen. En als je superintelligente robots de mogelijkheid geeft om zelf initiatief te nemen, dan komen die dingen misschien op ideeën om problemen op te lossen waar mensen nooit op zouden zijn gekomen.

Of wij het recht hebben om een robot zelfbewustzijn te geven: daar ben ik nog niet uit. Ofschoon ik een aantal van de personages in Roborecht daar wel een duidelijke mening over heb gegeven. Allerlei mensen hebben daar immers duidelijke meningen over. Zo zullen mensen die bepaalde religies aanhangen vaak neigen naar “nee” omdat ze vinden dat je je met het creëren van nieuw leven op het terrein van God begeeft. Het jodendom kent bijvoorbeeld het verhaal waarin gewaarschuwd wordt voor de golem: een robot avant la lettre.

(Redactie: De golem is een mensachtig figuur gemaakt van klei. Deze kan tot leven worden gewekt door een rabbijn. Bekende verhalen rond golems zijn Der Golem (Gustav Meyrink – 1915), Feet of Clay (Terry Pratchett – 1996) en de films Der Golem, wie er in die Welt kam (Carl Boese en Paul Wegener – 1920) en It! (Herbert J. Leder – 1967).

Roborecht en Robot Wars – Een eerbetoon aan de mens

Aan de andere kant: mensen maken elke dag zelfbewuste wezens… op een overigens bijzonder prettige manier. Waarom zou het maken van een zelfbewuste robot meer of minder ethisch gerechtvaardigd zijn dan het maken van menselijke kinderen? Mijn roman Roborecht raakt aan dat vraagstuk, maar gaat er niet over. Net zoals bijvoorbeeld mijn verhaal Vrijheid is standalone, dat is gepubliceerd in de sciencefictionbundel Er zal eens… (ook uitgegeven bij Uitgeverij Zilverspoor).

Wat betreft de laatste vraag dan: Het zou weleens behoorlijk onverstandig kunnen zijn om kunstmatige intelligentie echt zelfbewustzijn te geven. Want als er één ding blijkt uit de ontwikkeling van de technologie, dan is het dat de machines, apparaten en snufjes die wij bedenken vroeg of laat allemaal beter worden dan wij. Er zijn machines die zich sneller kunnen voortbewegen dan wij: zelfs de snelste mens op aarde rent nog niet zo snel als de langzaamste auto. De simpelste rekenmachine kan sneller rekenen dan het slimste menselijke rekenwonder. Machines kunnen beter klimmen, sneller brood bakken, sneller spullen in doosjes verpakken… enzovoort.

Daar is niks mis mee: het feit dat onze machines beter zijn dan wij, is een eerbetoon aan ons vernuft en onze creativiteit. En die machines verrijken onze levens: ze geven ons welzijn, welvaart, comfort en rijkdom.

De grote gelijkmaker

Bovendien is die technologie de grote gelijkmaker. Veel mensen maken zich druk om het feit dat er ongelijkheid tussen de mensen bestaat. Zo zijn sommige mensen sterker dan andere: er zijn mensen die een auto op kunnen tillen. Maar met behulp van een krik kan de slapste mens ter aarde dat ook. En omdat er auto’s bestaan, kan zelfs iemand die verlamd is net zo snel en ver reizen als de snelste marathonloper. Het is niet langer het “recht van de sterkste”. De technologie maakt ons uiteindelijk allemaal even sterk, snel en rijk. Iemand uit de laagste inkomensklasse kan tegenwoordig leven in een huis met een centrale verwarming, ijskast en warme douche. Hij of zij heeft bijna alle kennis ter wereld binnen muisklikbereik. De moderne mens heeft meer rijkdom, comfort, kennis en welzijn dan de rijkste persoon, machtigste koning of slimste wijsgeer in het verleden.

Maar: als onze kunstmatige voortbrengsels dadelijk niet alleen in alle opzichten beter, sneller, slimmer en handiger zijn dan wij – maar ook nog eens zelfbewustzijn, een eigen “wil”, hebben – zullen zij dan op hun beurt niet ons gaan onderdrukken? Ook dit thema is in de sciencefiction uitentreuren behandeld. Verhalen erover hebben zelfs al een prominente plaats in onze populaire cultuur ingenomen. Van The Matrix tot The Terminator. En dus gaat Roborecht ook daar niet over.

Roborecht en Robot Wars – Hoe versla je een robot?

Gelukkig is het nog lang niet zover dat we kunstmatige intelligentie zelfbewustzijn kunnen geven. Daarin onderscheidt de mens zich nog steeds van de robot. En dat zal nog heel lang zo zijn. Daarbij komt dat de mens nog in iets anders beter is dan de machine. Namelijk: allround vaardigheden. Ja, een auto kan misschien sneller rijden dan jij en ik kunnen rennen. En met de huidige ingebouwde computers kan die auto ook al sneller rekenen dan jij en ik… Maar laat hem eens een ladder beklimmen.

En ja, voor het beklimmen van die ladder bestaat er weer een robot die dat beter kan dan jij en ik. Maar die robot kan dan weer niet zwemmen. En er bestaan robots die beter kunnen zwemmen dan jij en ik, maar die kunnen weer niet een patiënt verzorgen. Ga zo maar door: terwijl elke individuele mens heel veel verschillende dingen “heel aardig” kan, zijn machines en robots nog steeds specialisten. Ze kunnen een of twee dingen heel goed, maar meer niet.

Ook dat zal nog heel lang zo blijven. Dus mocht je in de toekomst in een strijd met een robot terechtkomen, laat je dan niet overbluffen door alles waarin hij beter is. Zoek iets wat hij niet kan en verplaats de strijd daarnaartoe.

Wat dan wel?

Dat brengt me tot een sciencefictionthema dat nog bijna niet is belicht. En dat terwijl wij op de vooravond staan van het tijdperk waarin we hiermee geconfronteerd worden. Ik heb het over de situatie waarin kunstmatige intellecten zelfbewustzijn overtuigend kunnen simuleren, maar het nog niet hebben. Dát is waarover mijn roman Roborecht gaat.

Zodra het mogelijk is om zelfbewustzijn te simuleren, zullen veel mensen die niet precies snappen hoe de software erachter werkt, ervan overtuigd zijn dat die nep-zelfbewuste robots ook echt zelfbewustzijn hebben. En ze zullen maar moeilijk van de feiten te overtuigen zijn.

Nu al zien we dat mensen machines menselijke eigenschappen toedichten. Als bijvoorbeeld je auto een keer niet wil starten, ben je al gauw geneigd om hem vriendelijk toe te spreken. Of misschien word je juist boos op het stomme ding, omdat het je voor de zoveelste keer in de steek laat. Hij doet het om je te pesten: zeker weten! En die rotcomputer die altijd net vastloopt als je heel veel werk aan je document hebt besteed maar het nog niet hebt opgeslagen. Dat is opzet van dat ding.

Roborecht en Robot Wars – Maak Donar niet boos!

Het is eigen aan de mens om “opzet”, “bedoeling” en “eigen wil” achter dit soort toevalligheden te zoeken. Dat is de manier hoe wij de wereld proberen te begrijpen en dat heeft ons een evolutionair voordeel gegeven. Als je immers redenen kunt vinden waarom je door een bepaalde ramp wordt getroffen, dan kun je de volgende keer de tekenen misschien op tijd zien, zodat je de ramp kunt afwenden.

In primitieve tijden zochten we overal wel een god achter. Onweer? Da’s Donar die de pik op ons heeft. Oogst mislukt? Had je maar een offer moeten brengen aan Demeter. Je dorp overstroomd? Dan heb je ongetwijfeld iets gedaan om Moeder Natuur boos te maken.

Dus als die auto niet wil starten of als je computer voor de zoveelste keer vastloopt, dan is dat ding boos op je of je hebt het iets misdaan. Ook al zijn we dan tegenwoordig rationele wezens en weten we dat wind en zee, auto’s en computers geen eigen wil hebben, het is moeilijk om dat gevoel af te schudden. Zo lachen we allemaal als een komiek zijn auto of computer die niet wil opstarten uitscheldt of in elkaar trapt. We weten dat het irrationeel gedrag is en tegelijk is het zo herkenbaar.

Nog “menselijker”

Bij robots gaat dat nog verder: zij voelen nog “menselijker” aan dan andere objecten. Dat zien we nu al. Ouderen knuffelen hun gezelschapsrobots en gaan ermee om als met een huisdier. Het publiek juicht en vuurt voetbalrobotjes aan alsof het mensen zijn. Vooral de mensachtige: als er eentje omvalt, hoor je een ‘Aawww’ door het publiek gaan. En serviceafdelingen die kapotte robotstofzuigers terugkrijgen, horen steeds weer: ‘Ja, maar je moet wel deze repareren, hoor. Ik wil geen andere.’ Je dicht zo’n stofzuiger een persoonlijkheid toe.

Dat proces van meeleven met robots gaat alleen maar toenemen. De ontwikkelaars van robots worden er steeds beter in om hun robots gesimuleerde persoonlijkheden te geven. En robots gaan een steeds grotere plaats in onze samenleving innemen: meer mensen gaan met robots leven. Kinderen zullen met robotjes opgroeien, zoals ze met huisdieren opgroeien. Dat gaat hun houding ten opzichte van die machines fundamenteel veranderen.

Voor mijn oma die de oorlog nog had meegemaakt, was een konijntje iets wat je fokt en opeet, omdat je honger hebt. Dat is iets wat mijn generatie (generatie “X”) dankzij de vooruitgang en de lange tijd van vrede niet meer heeft meegemaakt. In ieder geval niet in Nederland. Onze generatie ziet konijnen nauwelijks meer als voedsel, maar vooral als huisdiertjes. En zo zullen de generaties die met robots opgroeien ook die machines gaan zien als huisdiertjes en “bijna-mensen”. Alleen wie heel diep in de technologie duikt en precies snapt hoe die dingen werken, zal nog tot het besef kunnen komen dat onze generatie nog wel overwegend heeft: dat een robot een apparaat is, een ding. En geen dier, geen bijna-mens. Die verandering van houding gaat maatschappelijke gevolgen hebben. Positieve en negatieve.

Roborecht en Robot Wars – Gunstig voor het milieu

Als je een robot beschouwt als bijna-mens of bijna-dier, dan wil je hem niet kwetsen en niet afdanken. We voelen nauwelijks scrupules om onze ijskast af te danken als er een zuiniger of luxer exemplaar te koop is. Of als er voortdurend te veel ijs tegen de achterwand groeit. Maar als zo’n ijskast nou meedenkt wanneer er boodschappen moeten worden gedaan, met je praat en een leuk gezichtje heeft…

Aan apparaten die we persoonlijkheid toedichten, raken we eerder verknocht. En dan zijn we meer geneigd om dat apparaat te (laten) repareren als het kapot is, of te actualiseren als het verouderd is geraakt. De witgoedindustrie zal dat misschien niet zo leuk vinden, maar het kan wel gunstig zijn voor het milieu. Want meestal kost het minder energie en grondstof om een oud apparaat te repareren of te actualiseren dan om een nieuwe te bouwen. Zelfs als het financieel gezien duurder is.

Slimme manier om mensenrechten te schenden

Maar als we robots gaan beschouwen als bijna-mensen, dan is het een kleine stap naar vinden dat we ze ook zo móeten behandelen. Vinden dus, dat ze burgerrechten verdienen. Een stap in die richting werd al gezet in 2017 toen de beroemde robot Sophia staatsburgerschap kreeg van… Saudi-Arabië: een van de ergste burgerrechtenschenders van de wereld. Daarom namen niet veel mensen het serieus. Maar het is niet alleen ironisch, het is ook zorgwekkend. Want dat uitgerekend een notoire burgerrechtenschender als Saudi-Arabië graag burgerrechten aan een niet zelfbewust object geeft, is niet alleen een mooie PR-stunt, het is ook een slimme manier om mensen te onderdrukken en hun burgerrechten te schenden.

Op het moment dat een robot burgerrechten heeft, heb je als mens bijvoorbeeld niet meer het recht om (zonder gerechtelijke uitspraak) die robot af te zetten. Dat zou immers gelijkstaan aan de robot vermoorden of bewusteloos maken. Dus als je een Google Assistent, Amazon Alexa of ander apparaat in je huis hebt en het ding heeft ook nog burgerrechten, dan mag je het niet afzetten. En als je dan als overheid zo’n ding bij alle mensen in huis zet en programmeert zodat het als afluisterapparaat werkt, dan kun je iemand die niet afgeluisterd wil worden en zijn afluisterrobotje uitschakelt met een burgerrechtenverklaring-voor-robots in de hand achter de tralies krijgen.

Roborecht en Robot Wars – Asimovs hoofdwetten van de robotica

En wat als zo’n robot met burgerrechten amok maakt? Ja, Asimov heeft de drie hoofdwetten van de robotica mooi bedacht om te voorkomen dat robots ooit gevaarlijk kunnen worden voor mensen. En Asimovs wetten worden ook inderdaad op veel informaticaopleidingen onderwezen. Maar net zoals we nog lang niet in staat zijn om robots te bouwen die echt zelfbewustzijn hebben, zo zijn we ook technisch niet in staat om robots te bouwen die zich aan Asimovs wetten houden. Dat is iets wat wij bijvoorbeeld bij het televisieprogramma Robot Wars hebben kunnen ondervinden. En wel aan den lijve.

Robot Wars was een heel succesvol spel waarbij we speciaal gebouwde vechtrobots in een arena met elkaar lieten vechten. We probeerden er een wereldsport van te maken en behaalden een record van 6,9 miljoen kijkers bij de BBC. Ik maakte deel uit van het technische team van de organisatie van het programma. Honderden robots heb ik gekeurd en gerepareerd. Evenveel robotbouwers heb ik geadviseerd. En ik heb de Nederlandse versie opgestart die is uitgezonden bij BNN.

Je hebt meer aan een breekijzer

Als het technische team van Robot Wars waren wij degenen die moesten keuren of de vechtrobots aan de veiligheidseisen voldeden. Wij waren ook degenen die de robots onschadelijk moesten maken als ze amok maakten, hetgeen voortdurend gebeurde. Onze veiligheidseisen waren gelukkig zo streng dat er buiten ons team nooit iemand in de studio door een robot gewond is geraakt. En ook wij zijn nooit heel ernstig gewond geraakt. Maar ieder van ons heeft wel diverse gevallen meegemaakt die goed mis hadden kunnen gaan als onze veiligheidsvoorschriften minder streng waren geweest.

Zo herinnerde Derek Foxwell, de baas van ons team, zich eens: ‘De robot ging vol gas achteruit, tolde rond, brak met zijn vorkliftarmen een bot in mijn hand en bezorgde me 40 hechtingen. Mijn voortanden zijn eruit geslagen door de achterkant van een robotbijl. Een robotier ramde een schroevendraaier in zijn robot, zodat prompt de bijl begon te hakken. Ik moest die kerel aan zijn nek uit de weg sleuren. En we hebben robots gehad die op hol sloegen, waarbij ik met een breekijzer de powerlink eruit moest trekken’.

Roborecht en Robot Wars – De “uit-knop”

Dat was ons belangrijkste veiligheidsvoorschrift: de powerlink. Een makkelijk uit de robot te rukken “uit-knop” waarmee je de energievoorziening los kon koppelen van de robot. Link eruit, robot dood en onschadelijk. Dat was zo belangrijk omdat deze robots door 8 mm dik vliegtuigaluminium en 12 mm dik polycarbonaat (zeg maar: “kogelvrij glas”) heen konden slaan. Ze knepen 10 mm dik staal fijn en slingerden een tegenstander van 100 kilo 3 meter de lucht in. Dus een menselijke schedel of torso maakten ze gehakt van.

‘Robot Wars overleven’, ging Derek verder. ‘Daar draaide het om! Iedere robotbouwer vraag ik: hoe schakel je de robot uit? Ik heb in 27 jaar met robots zoveel incidenten meegemaakt. We mogen nooit toelaten, dat robots voor zichzelf denken. De mens moet de stekker eruit kunnen trekken.’

Dat vinden andere robotdeskundigen ook. Zo zei John-Jules Meijer, professor in de kunstmatige intelligentie aan de Universiteit Utrecht, eens tegen me over agents (stukken software die doelen hebben en initiatieven nemen): ‘Zelfstandigheid van robots moet je op een gouden schaaltje wegen. Er is veel onderzoek of je een agentmaatschappij onder de duim kunt houden door normen en waarden: “artificiële normatieve systemen”. Maar toch: als we zoiets loslaten op de gemeenschap, ben ik het met Foxwell eens.’

Vechtrobots met kunstmatige intelligentie

De robots die wij bij Robot Wars hadden, waren nog bijna allemaal radiografisch bestuurd. Robots die zelfstandig te werk gingen, gestuurd door kunstmatige intelligentie, hebben we wel in de voorrondes gehad. Maar ze waren nog niet goed genoeg om door te gaan naar het programma. Zo kan ik me een robot met zes poten herinneren, bestuurd door een paar pc’s, die door een robot met een vliegwiel als wapen in stukjes werd gehakt.

Momenteel zie je de robotgevechten nog maar zelden op tv. Maar gelukkig leeft de beweging die wij in gang hebben gezet nog steeds voort. Fans en robotbouwers over de hele wereld hebben het spel in stand gehouden. En het valt aan te nemen dat in de toekomst waarin Roborecht speelt, de vechtrobots in de arena wel degelijk kunstmatige intelligentie hebben. Dus moest Robot Wars ook een rol spelen in het verhaal.

Roborecht en Robot Wars – Drie hoofdconflicten

In een wereld met Robot Wars, zelfsturende auto’s en kunstmatig intelligente robothuisdieren heb ik een verhaal samengesteld over mensen die voor rechten vechten en waarvan sommige bereid zijn om over lijken te gaan. De een vecht voor de rechten van robots die zelfbewust lijken, de ander vecht voor mensen. Of deze strijd precies zo zal worden uitgevochten als ik heb bedacht… ik hoop het eerlijk gezegd niet.

Maar het is een strijd die in de toekomst ongetwijfeld op de een of andere manier uitgevochten zal worden. Want het staat voor mij als een paal boven water dat lang voordat robots zelfbewustzijn krijgen, veel mensen zullen denken dat ze het al hebben. Bepaalde mensen zullen van die misvatting misbruik maken. De strijd om burgerrechten aan robots te geven die dan losbrandt, is in werkelijkheid een strijd tegen de burgerrechten van mensen.

Jaren, decennia of eeuwen later, zodra er echt zelfbewuste robots ontwikkeld worden, zal de strijd opnieuw moeten worden uitgevochten. Want díe robots zullen we als gelijkwaardigen moeten behandelen met alle rechten en verantwoordelijkheden die daarbij horen. En waarschijnlijk zullen we dan niet veel later geconfronteerd worden met het derde hoofdconflict: de robot die de mens gaat onderdrukken. Genoeg werk dus voor sciencefictionschrijvers om al die conflicten van meerdere kanten te belichten. En wat dat derde hoofdconflict betreft: daarover is bijvoorbeeld een verhaal te vinden in Er zal eens…, de verhalenbundel die ik samen met Anaïd Haen heb geschreven.

Django Mathijsen – Roborecht en Robot Wars

Django Mathijsen (1966) is sciencefictionverhalen gaan bedenken als logische volgende stap van de honderden populairwetenschappelijke artikelen die hij heeft geschreven. Voor die verhalen heeft hij vele prijzen gewonnen, onder andere: de Grote Brugse Boekhandel Fantasy Award, drie keer de Unleash Award, drie keer Trek Sagae en twee keer de NCSF-prijs. Er zijn tientallen boeken van hem verschenen bij uitgeverijen zoals Zilverspoor, De Vier Windstreken, Quasis, EigenZinnig en Averbode, sommige geschreven met schrijfster Anaïd Haen.

Behalve in het Nederlands schrijft hij ook in het Engels. Hij is in Amerika gepubliceerd en in diverse talen vertaald. Samen met Anaïd Haen was hij finalist bij Writers of the Future. Hij is afgestudeerd als ingenieur aan de TU Eindhoven en heeft als jazzorganist gewerkt. Daarnaast was hij technisch consultant bij het tv-programma Robot Wars en stond hij aan de wieg van de Nederlandse versie van het programma.

Meer columns als Django Mathijsen – Roborecht en Robot Wars? Kijk in onze rubriek Columns!

© 2019-2024 Modern Myths – Der Golem, wie er in die Welt kam © Universum Film / It! © Warner Bros / Tor’s Fight with the Giants – Public Domain / Robot Wars: Razer – foto: Alex Healing – Creative Commons Attribution 2.0 Generic. MaxiMill, T.R.U.T. en TechnoLease via Django Mathijsen.