LONDEN – In de roman Frankenstein; or, The Modern Prometheus van Mary Shelley gebruikt de wetenschapper Victor Frankenstein dode lichaamsdelen om een hyperintelligent ‘bovenmenselijk’ monster te creëren dat zich – gek geworden door menselijke wreedheid en isolatie – uiteindelijk tegen zijn schepper keert. Sinds de publicatie in 1818 wordt Shelley’s verhaal over wetenschappelijk onderzoek dat verkeerd afliep gezien als een metafoor voor het gevaar (en de dwaasheid) van pogingen om machines te voorzien van menselijke intelligentie.
Shelley’s verhaal heeft een nieuwe weerklank gekregen met de snelle opkomst van generatieve kunstmatige intelligentie. Op 22 maart publiceerde het Future of Life Institute een open brief, ondertekend door honderden leiders uit de technologiesector, onder wie Tesla-CEO Elon Musk en Apple-medeoprichter Steve Wozniak, waarin wordt opgeroepen tot een pauze van zes maanden (of een door de overheid opgelegd moratorium) ten aanzien van de ontwikkeling van AI-systemen die krachtiger zijn dan OpenAI’s onlangs uitgebrachte ChatGPT-4. ‘AI-systemen die kunnen concurreren met menselijke intelligentie kunnen grote risico’s voor de samenleving en de mensheid opleveren,’ aldus de brief, die momenteel door ruim vijfentwintigduizend mensen is ondertekend. De auteurs waarschuwen verder voor de ‘uit de hand gelopen’ race ‘om steeds krachtigere digitale geesten te ontwikkelen en in te zetten die niemand – zelfs hun makers niet – kan begrijpen, voorspellen of betrouwbaar controleren.’
Musk, momenteel de op één na rijkste persoon ter wereld, is in veel opzichten de Victor Frankenstein van onze tijd. De opschepperige, in Zuid-Afrika geboren miljardair heeft al geprobeerd het hele proces van het autorijden te automatiseren (zij het met gemengderesultaten), heeft beweerd een nieuwe vervoerswijze te hebben uitgevonden in de vorm van het (nog hypothetische) hyperloop-project van de Boring Company, en verklaard dat hij van plan was ‘het licht van het bewustzijn te bewaren’ door met zijn raketbedrijf SpaceX een kolonie op Mars te stichten. Musk is toevallig ook medeoprichter van OpenAI (hij stapte in 2018 uit het bestuur van het bedrijf, na een mislukte overnamepoging).
LONDEN – In de roman Frankenstein; or, The Modern Prometheus van Mary Shelley gebruikt de wetenschapper Victor Frankenstein dode lichaamsdelen om een hyperintelligent ‘bovenmenselijk’ monster te creëren dat zich – gek geworden door menselijke wreedheid en isolatie – uiteindelijk tegen zijn schepper keert. Sinds de publicatie in 1818 wordt Shelley’s verhaal over wetenschappelijk onderzoek dat verkeerd afliep gezien als een metafoor voor het gevaar (en de dwaasheid) van pogingen om machines te voorzien van menselijke intelligentie.
Shelley’s verhaal heeft een nieuwe weerklank gekregen met de snelle opkomst van generatieve kunstmatige intelligentie. Op 22 maart publiceerde het Future of Life Institute een open brief, ondertekend door honderden leiders uit de technologiesector, onder wie Tesla-CEO Elon Musk en Apple-medeoprichter Steve Wozniak, waarin wordt opgeroepen tot een pauze van zes maanden (of een door de overheid opgelegd moratorium) ten aanzien van de ontwikkeling van AI-systemen die krachtiger zijn dan OpenAI’s onlangs uitgebrachte ChatGPT-4. ‘AI-systemen die kunnen concurreren met menselijke intelligentie kunnen grote risico’s voor de samenleving en de mensheid opleveren,’ aldus de brief, die momenteel door ruim vijfentwintigduizend mensen is ondertekend. De auteurs waarschuwen verder voor de ‘uit de hand gelopen’ race ‘om steeds krachtigere digitale geesten te ontwikkelen en in te zetten die niemand – zelfs hun makers niet – kan begrijpen, voorspellen of betrouwbaar controleren.’
Musk, momenteel de op één na rijkste persoon ter wereld, is in veel opzichten de Victor Frankenstein van onze tijd. De opschepperige, in Zuid-Afrika geboren miljardair heeft al geprobeerd het hele proces van het autorijden te automatiseren (zij het met gemengderesultaten), heeft beweerd een nieuwe vervoerswijze te hebben uitgevonden in de vorm van het (nog hypothetische) hyperloop-project van de Boring Company, en verklaard dat hij van plan was ‘het licht van het bewustzijn te bewaren’ door met zijn raketbedrijf SpaceX een kolonie op Mars te stichten. Musk is toevallig ook medeoprichter van OpenAI (hij stapte in 2018 uit het bestuur van het bedrijf, na een mislukte overnamepoging).