AI ‘peetvader’ Geoffrey Hinton waarschuwt voor gevaren als hij stopt met Google

Een man die algemeen wordt gezien als de peetvader van kunstmatige intelligentie (AI) heeft zijn baan opgezegd en waarschuwde voor de toenemende gevaren van ontwikkelingen in het veld.

Geoffrey Hinton, 75 jaar oud, kondigde zijn ontslag bij Google aan in een verklaring aan de New York Times, waarin hij zei dat hij nu spijt had van zijn werk.

Hij vertelde de BBC dat sommige gevaren van AI-chatbots “behoorlijk eng” waren.

‘Op dit moment zijn ze niet intelligenter dan wij, voor zover ik weet. Maar ik denk dat ze dat binnenkort wel zullen zijn.’

Dr. Hinton accepteerde ook dat zijn leeftijd een rol had gespeeld bij zijn beslissing om de technologiegigant te verlaten en zei tegen de BBC: “Ik ben 75, dus het is tijd om met pensioen te gaan.”

Het baanbrekende onderzoek van dr. Hinton naar deep learning en neurale netwerken heeft de weg geëffend voor huidige AI-systemen zoals ChatGPT.

Maar de Brits-Canadese cognitieve psycholoog en computerwetenschapper vertelde de BBC dat de chatbot binnenkort het informatieniveau van het menselijk brein zou kunnen overtreffen.

Wat we nu zien, is dat zaken als GPT-4 een persoon overschaduwen wat betreft de hoeveelheid algemene kennis die hij heeft, en hij overtreft hen ver. In termen van redeneren is het niet zo goed, maar het doet al eenvoudige redeneringen. .

“En gezien het tempo van de vooruitgang, verwachten we dat het vrij snel beter zal gaan. Dus daar moeten we ons zorgen over maken.”

In het artikel in de New York Times verwees dr. Hinton naar “slechte acteurs” die zouden proberen AI te gebruiken voor “slechte dingen”.

Toen de BBC hem vroeg om dit uit te leggen, antwoordde hij: “Dit is gewoon een soort worstcasescenario, een soort nachtmerriescenario.

Je kunt je bijvoorbeeld een slechte acteur voorstellen [Russian President Vladimir] Poetin besloot om robots de mogelijkheid te geven om hun eigen subdoelen te creëren.”

De wetenschapper waarschuwde dat dit uiteindelijk “subdoelen zou kunnen creëren zoals ‘Ik moet meer kracht krijgen'”.

Hij voegde eraan toe: “Ik ben tot de conclusie gekomen dat het soort intelligentie dat we ontwikkelen heel anders is dan de intelligentie die we hebben.

Wij zijn biologische systemen en dit zijn digitale systemen, en het grote verschil is dat je met digitale systemen veel kopieën hebt van dezelfde reeks gewichten, hetzelfde model van de wereld.

“En al deze kopieën kunnen afzonderlijk leren, maar hun kennis onmiddellijk delen. Het is dus alsof je 10.000 mensen hebt en wanneer één persoon iets leert, weet iedereen het. En zo kunnen deze chatbots automatisch zoveel meer weten dan één persoon.”

Hij benadrukte dat hij Google niet wilde bekritiseren en dat de techgigant “zeer verantwoordelijk” was geweest.

“Ik wil eigenlijk een paar goede dingen zeggen over Google. En ze zijn geloofwaardiger als ik niet voor Google werk.”

In een verklaring zei Jeff Dean, hoofdwetenschapper van Google: “We blijven ons inzetten voor een verantwoorde benadering van AI. We leren voortdurend opkomende risico’s te begrijpen en innoveren tegelijkertijd moedig.”