‘Godfather of AI’ zegt zich zorgen te maken over ‘het einde van mensen’

Er was een tijd dat Geoffrey Hinton geloofde dat kunstmatige intelligentie de menselijke intelligentie nooit zou overtreffen – althans niet tijdens ons leven.

Op dit moment is hij er niet zeker van.

“Ik denk dat het denkbaar is dat dit soort geavanceerde intelligentie ons kan vervangen”, aldus de beroemde Brits-Canadese computerwetenschapper. zoals het gebeurt Georganiseerd door Neil Koxall. “Het zal het einde van mensen betekenen.”

Hinton staat bekend als de peetvader van kunstmatige intelligentie, een titel die hij omarmt. Hij en zijn collega’s hielpen bij de ontwikkeling van kunstmatige neurale netwerken, de technologie die de kern vormt van machine learning. Zijn fundamentele werk hielp de snelle vooruitgang van kunstmatige intelligentie te stimuleren.

In het afgelopen decennium heeft hij zijn carrière verdeeld tussen lesgeven aan de Universiteit van Toronto en werken met het deep learning AI-team bij Google. Maar deze week kondigde hij zijn ontslag bij Google aan In een interview met The New York Times.

Hinton praat nu over wat volgens hem de grootste risico’s zijn die zijn levenswerk met zich meebrengt, waaronder regeringen die kunstmatige intelligentie gebruiken om verkiezingen te manipuleren of “robotsoldaten” te creëren.

Maar andere AI-experts waarschuwen voor zijn visie op een hypothetische dystopische toekomst, door te zeggen dat het onnodige angst opwekt, afleidt van de zeer reële en onmiddellijke problemen die AI momenteel met zich meebrengt, en slechte acteurs in staat stelt hun verantwoordelijkheid te ontlopen wanneer ze AI gebruiken voor schandelijke doeleinden. doeleinden.

verandering van hart

De afgelopen maanden hebben AI-tools zoals ChatGPT en Stable Diffusion de krantenkoppen gehaald vanwege hun vermogen om snel tekst, afbeeldingen en audio te genereren.

Systemen leren deze vaardigheden door gegevens te analyseren, die vaak via internet worden verzameld. Dit is te danken aan hun gebruik van kunstmatige neurale netwerken – computersystemen die zijn geïnspireerd op de biologische neurale netwerken van menselijke en dierlijke hersenen.

Hinton hielp in 2012 met het pionieren van neurale netwerken aan de Universiteit van Toronto, samen met studenten Ilya Sutskifer en Alex Krejevsky.

In 2016 wonnen hij en zijn collega’s Yann LeCun en Yoshua Bengio de Turingprijs – beschouwd als de Nobelprijs voor informatica – voor hun werk om machines te leren denken als mensen.

“Al 50 jaar ben ik bezig met het proberen computers aan het leren te krijgen, in de hoop dat ze net zo leren als mensen”, zei Hinton.

“Maar onlangs ben ik tot de conclusie gekomen dat het soort digitale intelligentie dat we ontwikkelen voor zaken als grote chatbots eigenlijk een heel andere vorm van intelligentie is dan biologische intelligentie – en het kan zelfs veel beter zijn.”

Hinton wachtte tot hij afscheid nam van Google voordat hij zijn zorgen openbaar maakte. Maar hij zegt dat hij geen kwade wil heeft jegens het bedrijf.

Hij zegt dat Google voorop loopt in de ontwikkelingen op het gebied van kunstmatige intelligentie. In plaats van AI-producten openbaar te maken, heeft het bedrijf ze van oudsher in het bedrijf gebruikt om diensten zoals zoeken te verbeteren.

Maar terwijl concurrenten nieuwe AI-producten de wereld in duwen, zegt hij dat leidinggevenden van Google druk voelen om het tempo bij te houden. En wanneer AI openbaar beschikbaar is, heeft het toegang tot een schat aan gegevens die veel groter is dan ooit tevoren.

“Ik denk dat Google tot nu toe zeer verantwoordelijk is geweest, en ze zullen dat zo veel mogelijk blijven doen”, aldus Hinton. “Maar in concurrentie met Microsoft is het niet mogelijk om zoveel in te houden als ze zouden willen.”

Gevraagd om commentaar, zei Google-hoofdwetenschapper Jeff Dean dat hij Hunton het beste wenste.

“Jeff heeft fundamentele doorbraken gemaakt op het gebied van kunstmatige intelligentie en we waarderen zijn decennialange bijdragen aan Google. Ik heb enorm genoten van onze vele gesprekken door de jaren heen. Ik zal hem missen”, zei Dean in een e-mailverklaring van een Google woordvoerder.

“We blijven ons inzetten voor een verantwoorde benadering van AI. We leren constant opkomende risico’s te begrijpen en innoveren tegelijkertijd gedurfd.”

Experts zeggen dat de retoriek over de toekomst van kunstmatige intelligentie overdreven is

Nadenken over dystopische visies op een door AI aangedreven toekomst zou ons meer kwaad dan goed kunnen doen, zegt Ivana Bartoletti, oprichtster van Women Leading in AI Network.

“Het is belangrijk dat mensen begrijpen dat we in zekere zin op een kruispunt staan”, zegt Bartoletti, chief privacy officer bij IT-bedrijf Wipro.

“Wat me echter zorgen baart aan deze waarschuwingen, is dat we gefocust zijn op dit soort apocalyptische scenario’s, en dat neemt ons weg van de risico’s waarmee we in het hier en nu worden geconfronteerd, en de kansen die we hebben in het hier en nu. “

Ze zei dat deze risico’s privacyschendingen, verkeerde informatie, fraude en gevallen waarin AI menselijke vooroordelen overneemt en discriminatie versterken, omvatten.

Het goede nieuws, zegt ze, is dat veel rechtsgebieden al wetten hebben die zijn ontworpen om ons tegen sommige van deze dingen te beschermen. We hoeven het alleen maar toe te passen op de mensen en bedrijven die AI maken en gebruiken.

Bartoletti zegt dat het tijd is voor nieuwe regels en wetgeving om de mazen in de wet te dichten. aangeduid Wet op kunstmatige intelligentie van de Europese Unie Als goed voorbeeld.

Ze zei: “De organisatie van AI zelf is complex. Weet je, wat betekent het? Het lijkt een beetje op de organisatie van wiskunde.” “Dus ik denk dat we het gedrag van mensen rond deze systemen moeten reguleren.”

kijk | Door AI gegenereerde muziek schudt de industrie wakker:

Deep Fake Shock Makers “Drake” en “The Weekend”

Een nummer dat naar verluidt van Drake en The Weeknd was, werd alleen al op Spotify meer dan 600.000 keer gestreamd voordat het van een label werd gehaald. Beweringen dat muziek wordt gegenereerd door kunstmatige intelligentie zorgen voor golven in de muziekindustrie.

De problemen van AI zijn zeer reëel, zegt Zev Epstein, een promovendus aan het MIT die de effecten van technologie op de samenleving bestudeert, en hij is blij dat Hinton “hier alarm over slaat”.

“Ik denk echter dat sommige van deze ideeën zijn dat … AI-supercomputers zullen ontwaken en het overnemen, en persoonlijk denk ik dat deze verhalen op zijn best speculatie zijn en het soort sciencefiction vertegenwoordigen dat zou kunnen worden gepromoot”, zei hij.

Hij in het bijzonder Hij waarschuwt voor de taal die je belichaamt – of, met andere woorden, vermenselijken – kunstmatige intelligentie.

In zijn eigen onderzoek naar hoe mensen kunst waarnemen, gegenereerd door kunstmatige intelligentieEpstein ontdekte dat wanneer mensen menselijke keuzevrijheid toeschrijven aan AI, ze de neiging hebben om de menselijke arbeid die nodig was om het te creëren, te devalueren.

Dat zou bedrijven die AI inzetten ten goede kunnen komen, zegt hij, omdat mensen de technologie eerder de schuld geven dan degenen die het onverantwoord gebruiken.

“Het is heel goed mogelijk dat ik het mis heb”: Hinton

Zowel Bartoletti als Epstein zeggen dat AI een enorm potentieel biedt om ons leven te verbeteren, bijvoorbeeld op het gebied van geneeskunde. Bovendien, zeggen ze, kan het creativiteit aanwakkeren, net zoals de komst van fotografie kunstenaars bevrijdde uit de ketenen van hyperrealisme en hen in staat stelde andere vormen te verkennen.

Niet noodzakelijk anders, zegt Hinton.

“Het is heel goed mogelijk dat ik het mis heb. We bevinden ons in een periode van grote onzekerheid waarin we niet echt weten wat er gaat gebeuren”, zei hij.

“Het scenario dat we willen is dat deze geavanceerde digitale intelligenties een soort symbiotische relatie met ons vormen en het leven zoveel gemakkelijker maken – al het harde werk wegnemen, iedereen productiever maken. Dat zou geweldig zijn, maar ik denk niet dat is gegarandeerd.”