AI-pionier verlaat Google, waarschuwt nu voor gevaren kunstmatige intelligente

Geoffrey Hinton, een pionier op het gebied van kunstmatige intelligentie, heeft maandag in gesprek met The New York Times gewaarschuwd voor de potentiële gevaren van AI. Dat deed hij kort nadat hij ontslag had genomen bij Google, waarvoor hij ruim een decennium werkte. De 76-jarige Hinton uit in het interview grote zorgen over de snelheid waarmee AI zich ontwikkelt. „Kijk naar de ontwikkeling van de afgelopen vijf jaar. Projecteer die ontwikkeling eens op de toekomst. Dat is beangstigend.”

Hinton, die ook jarenlang werkzaam was aan de Universiteit van Toronto, richtte in 2012 een bedrijf op waarmee hij zich ging richten op kunstmatige intelligentie. Samen met twee van zijn afgestudeerde studenten ontwikkelde hij software die later de basis zou vormen voor onder meer ChatGPT. In 2013 nam Google zijn bedrijf over voor 44 miljoen dollar (zo’n 40 miljoen euro), waarna Hinton ook zelf voor het miljardenbedrijf ging werken.

De ‘AI-Godfather’, zoals hij in de techwereld wordt genoemd, stopt bij Google zodat hij voortaan vrijuit kan praten over de gevaren van AI. In het New York Times-interview laat hij inhoudelijk echter nog niets los over zijn vroegere werk. Ook zegt hij weinig over welke gevaren de mensheid volgens hem te wachten staan. Wel zegt hij dat het nauwelijks te voorkomen is dat „slechte spelers het [kunstmatige intelligentie] voor slechte doeleinden gaan gebruiken”.

Zorgen bij techprominenten

Met zijn openlijke zorgen sluit Hinton zich aan bij een groot aantal prominenten in de tech-industrie. In maart riepen meer dan 1.100 grote spelers in de techsector gezamenlijk op tot een tijdelijke stop van AI-systemen. Volgens hen vormen geavanceerde AI-systemen grote risico’s voor de maatschappij als bedrijven er niet voorzichtig mee omgaan. Kort na die oproep volgde een open brief van de negentien voormalige leiders van de Association for the Advancement of Artificial Intelligence, met daarin een soortgelijke waarschuwing.

Hinton is bovendien niet de eerste (oud-)werknemer van Google die waarschuwt voor de gevaren van AI. In april luidden Google-medewerkers volgens persbureau Bloomberg al de noodklok over de in hun ogen te snelle ontwikkeling van AI binnen het bedrijf. De medewerkers maakten een analyse over van de mogelijke risico’s van de software. Zij concludeerden dat Bard, de chatbot van Google, nog onvoldoende is ontwikkeld voor openbaar gebruik. Beleidsbepalers negeerden deze waarschuwing, waarna Bard voor het grote publiek beschikbaar werd.

geoffreyhinton Geoffrey Hinton In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly. 1 mei 2023 @ 11:09

Volgen