Het lijkt erop dat een maand niet voorbij gaat zonder een spraakmakende persoon die commentaar geeft op het potentieel van machines met kunstmatige intelligentie om de wereld over te nemen. Elon Musk heeft vastgelegd dat AI-systemen "potentieel gevaarlijker zijn dan kernwapens." Maar hij is niet de enige, Stephen Hawking maakt zich ook zorgen: "De ontwikkeling van volledige kunstmatige intelligentie kan het einde betekenen van het menselijk ras," Professor Hawking vertelde de BBC. "Het zou vanzelf opstijgen en zichzelf in een steeds hoger tempo opnieuw ontwerpen." Zelfs Bill Gates maakt zich zorgen, "Ik ben in het kamp dat zich zorgen maakt over superintelligentie. Ik ben het hiermee eens met Elon Musk en enkele anderen en begrijp niet waarom sommige mensen zich geen zorgen maken. "

Ze uiten allemaal hun bezorgdheid over de mogelijkheid dat krachtige AI-systemen onbedoelde of zelfs mogelijk rampzalige gevolgen hebben. In januari schonk Elon Musk $ 10 miljoen aan het Future of Life Institute (FLI) om een ​​wereldwijd onderzoeksprogramma uit te voeren dat gericht is op het behouden van AI voor de mensheid.

Vandaag heeft het Future of Life Institute aangekondigd dat het $ 7 miljoen aan fondsen heeft toegekend aan 37 onderzoeksteams over de hele wereld, zodat de samenleving de voordelen van AI kan plukken, terwijl de apocalyps en het levenseinde op aarde worden vermeden.

Het gevaar met het Terminator-scenario is niet dat het zal gebeuren, maar dat het afleidt van de echte problemen van de toekomstige AI.

Jaan Tallin, een van de oprichters van de FLI en de man die de originele versie van Skype heeft geschreven, zei over het nieuwe onderzoek: “geavanceerde AI bouwen is als het lanceren van een raket. De eerste uitdaging is om de versnelling te maximaliseren, maar zodra het begint te versnellen, moet je je ook concentreren op het sturen. ”

Onder de 37 projecten zijn drie projecten die zullen kijken naar technieken om AI-systemen in staat te stellen te leren wat mensen verkiezen door ons gedrag te observeren. Een van deze projecten zal worden uitgevoerd op UC Berkeley en een op de Universiteit van Oxford.

Benja Fallenstein van het Machine Intelligence Research Institute krijgt $ 250.000 om onderzoek te doen naar manieren om de belangen van superintelligente systemen in lijn te houden met menselijke waarden. Terwijl het team van Manuela Veloso van de Carnegie-Mellon University $ 200.000 ontvangt om te kijken hoe AI-systemen hun beslissingen aan mensen kunnen uitleggen.

Andere projecten omvatten een studie door Michael Webb van Stanford University over hoe de economische effecten van AI gunstig kunnen blijven, een project over hoe AI-aangedreven wapens onder "zinvolle menselijke controle" te houden, en een nieuw onderzoekscentrum van Oxford-Cambridge voor het bestuderen van AI -relevant beleid.

Deze laatste is de grote jackpot. Het nieuwe centrum, het 'Strategisch Onderzoekscentrum voor kunstmatige intelligentie', wordt geleid door Nick Bostrom, de man die het boek schreef dat Elon in paniek bracht over de toekomst van de mensheid. Om het centrum op te zetten, geeft de FLI Bostrom een ​​coole $ 1,5 miljoen. Wie zei dat er geen geld was om dingen te schrijven over robots die de wereld overnamen? Nou eigenlijk niemand, kijk maar eens hoeveel Hollywood Hollywood verdient aan dat genre!

Over Hollywood gesproken, de FLI probeert zich los te koppelen van de apocalyps. De FLI benadrukt graag het belang van het scheiden van feit en fictie. "Het gevaar met het Terminator-scenario is niet dat het zal gebeuren, maar dat het afleidt van de echte problemen van toekomstige AI", zei FLI-president Max Tegmark. "We blijven gefocust en de 37 teams die worden ondersteund door de subsidies van vandaag zouden dergelijke echte problemen moeten helpen oplossen."

Wat denk je? Goed besteed geld?