De ‘Godfather of Artificial Intelligence’ Yoshua Bengio voelt zich ‘verloren’ door zijn levenswerk

Een van de zogenaamde “peetvaders” van kunstmatige intelligentie (AI) zei dat hij veiligheid boven nut zou hebben gesteld als hij had geweten met welke snelheid het zou evolueren.

Professor Yoshua Bengio vertelde de BBC dat hij zich “verloren” voelde vanwege het werk dat hij moest doen.

Prof Bengio, die zich heeft aangesloten bij de roep om regulering van AI, zei dat hij niet vond dat militairen AI-bevoegdheden zouden moeten krijgen.

Het is de tweede van de drie zogenaamde ‘godfathers’ van kunstmatige intelligentie, bekend om hun pionierswerk in het veld, die hun zorgen uiten over de richting en snelheid waarmee het zich ontwikkelt.

In een interview met de BBC zei professor Bengio dat zijn levenswerk, dat hem richting en identiteitsgevoel gaf, hem niet langer duidelijk was.

“Emotioneel gezien is dit een uitdaging voor de mensen binnenin [the AI sector],” Hij zei.

“Je zou kunnen zeggen dat ik me verloren voel. Maar je moet blijven werken en je moet met anderen omgaan, ruzie met ze maken, ze aanmoedigen om met je mee te denken.”

Al-Kindi ondertekende twee recente verklaringen waarin hij aandrong op voorzichtigheid met betrekking tot toekomstige risico’s van kunstmatige intelligentie. Sommige academici en experts uit de industrie hebben gewaarschuwd dat het tempo van de ontwikkeling ertoe kan leiden dat kwaadwillende AI door kwaadwillenden wordt ingezet om daadwerkelijk schade aan te richten – of ervoor kiest om zelf schade aan te richten.

Ook Elon Musk, de eigenaar van Twitter en Tesla, heeft zijn zorgen geuit.

“Ik denk niet dat AI zal proberen de mensheid te vernietigen”, zei hij onlangs tijdens een evenement georganiseerd door de Wall Street Journal, “maar het zou ons wel onder controle kunnen brengen.”

“Er is een kleine kans dat het zal leiden tot de vernietiging van de mensheid. Het is bijna nul, maar het is niet onmogelijk.”

Collega “peetvader” Dr. Geoffrey Hinton ondertekende ook dezelfde waarschuwingen als professor Bengio, en ging onlangs met pensioen bij Google en zei dat hij spijt had van zijn werk.

Professor Bengio vertelde de BBC dat alle bedrijven die krachtige AI-producten maken, geregistreerd moeten worden.

“Overheden moeten bijhouden wat ze doen, en ze moeten het kunnen controleren, en dat is het absolute minimum van wat we doen voor elke andere sector, zoals het maken van vliegtuigen of auto’s of farmaceutische producten,” zei hij.

“We hebben ook mensen nodig die dicht bij deze systemen staan ​​om een ​​soort certificering te krijgen… We hebben hier ethische training nodig. Computerwetenschappers krijgen dat meestal niet trouwens.”

Maar niet iedereen in het veld gelooft dat kunstmatige intelligentie de ondergang van de mens zal zijn.

Een derde geestelijke vader, professor Jan Lokun, die samen met professor Bengio en dr. Hinton de prestigieuze Turing Award won voor hun pionierswerk, zei dat de apocalyptische waarschuwingen overdreven waren.

Anderen beweren dat er dringender problemen zijn die moeten worden aangepakt.

Dr. Sasha Lucione, een onderzoekswetenschapper bij AI-bedrijf Huggingface, zei dat de samenleving zich moet concentreren op zaken als vooringenomenheid in AI, voorspellend politiewerk en de verspreiding van verkeerde informatie door chatbots, die volgens haar “zeer tastbare schade” waren.

“Daar moeten we ons op concentreren in plaats van op het hypothetische gevaar dat AI de mensheid zal vernietigen”, voegde ze eraan toe.

Er zijn al veel voorbeelden van AI die de samenleving ten goede komt. Vorige week ontdekte een AI-tool een nieuw antibioticum, en een verlamde man kon weer lopen door er gewoon aan te denken, dankzij een microchip die met AI is ontwikkeld.

Maar dit gaat gepaard met zorgen over de verreikende impact van AI op de economieën van landen. Bedrijven vervangen menselijke werknemers al door AI-tools, wat een factor is in de huidige staking van Hollywood-scenarioschrijvers.

“Het is nooit te laat om beter te worden”, zegt professor Bengio over de huidige staat van AI. “Het is net als klimaatverandering.

“We brengen veel koolstof in de atmosfeer. En het zou beter zijn als we dat niet deden, maar laten we eens kijken wat we nu kunnen doen.”