Een enorme overwinning voor Silicon Valley en een grote nederlaag voor wetenschappers, politici en mensenrechtenorganisaties bezorgd over de risico’s van kunstmatige intelligentie (AI).
De Californische gouverneur Gavin Newsom (Democraat) sprak zondag zijn veto uit over de controversiële wet SB 1047, die de krachtigste AI-modellen van onder meer Google, Meta en OpenAI aan banden zou leggen. De wet gaat na het veto van Newsom terug naar de tekentafel. Tot teleurstelling van AI-experts, die spreken van een overwinning van de techlobby.
AI-technologie is na de komst van chatbot ChatGPT in een stroomversnelling geraakt. De Amerikaanse techgiganten Microsoft, Alphabet, Amazon en Meta steken dit jaar gezamenlijk 100 miljard dollar in de ontwikkeling van AI-systemen. De hoop is dat de technologie leidt tot een sprong in productiviteit van iedereen die met een computer werkt.
Negatieve effecten zijn er genoeg: auteursrechtenschendingen van muzikanten, acteurs, schrijvers en kunstenaars. Cyberoplichting met gekloonde stemmen en een toename van door AI gegenereerde kinderporno. Desondanks zijn er in de Verenigde Staten nauwelijks regels voor bedrijven die AI ontwikkelen.
AI-experts, zoals Berkeley-professor Stuart Russell, vrezen dat AI-systemen zó geavanceerd worden, dat techbedrijven de controle over wat ze bouwen verliezen. De angst is dat ongereguleerde AI-technologie militaire systemen of de energievoorziening kan overnemen en niemand meer weet hoe haar uit te schakelen.
Een begin van een oplossing leek in zicht: SB 1047, een wet die Amerikaanse techbedrijven onder meer zou dwingen om hun meest krachtige AI-modellen aan onafhankelijke veiligheidstesten te onderwerpen. De wet behaalde in augustus een ruime meerderheid in de Californische senaat. De meest invloedrijke AI-bedrijven zijn in Silicon Valley gevestigd en daarom gebonden aan lokale wetgeving.
Lees ook
‘Als de overheid niet snel ingrijpt, gaan we in de komende twaalf maanden de consequenties voelen’
Gevoelig
Voor techbedrijven had SB 1047 enorme impact. AI-ontwikkelaars werden onder meer juridisch aansprakelijk gesteld voor schade die een AI-systeem kon toebrengen, bijvoorbeeld bij cyberaanvallen of biologische wapens. Ontwikkelaars moesten verplicht veiligheidsmaatregelen inbouwen, zoals een ‘kill switch’ – een fysieke schakelaar waarmee een AI-systeem op afstand kon worden uitgeschakeld. Uit angst voor rechtszaken en een rem op innovatie intensiveerden techbedrijven hun lobby om Newsom te overtuigen de wet te verwerpen.
Dat is gelukt. De gouverneur zette onlangs zijn handtekening onder zeventien andere AI-wetten, onder meer tegen de bestrijding van deepfakes en en nepnieuws, maar SB 1047 redde het niet. Newsom verklaarde zondag dat de wet weliswaar „goed bedoeld” was, maar bij burgers een „vals gevoel van veiligheid” zou creëren.
Dat het nieuwe pakket regels alleen gold voor grote AI-systemen die meer dan 100 miljoen dollar hadden gekost was een fout, volgens Newsom. Regulering zou volgens de gouverneur niet moeten afhangen van de grootte van een model, maar of de technologie werd gebruikt in een omgeving met ‘hoog risico’, zoals de medische sector. Ook zou volgens Newsom de wet „innovatie belemmeren” en leiden tot een uittocht van talent uit Silicon Valley.
Met name dat laatste argument wordt vaak door techbedrijven ingebracht om politici te overtuigen. Ook Europese AI-wetgeving (de AI Act) werd eerder dit jaar afgezwakt, nadat vanuit AI-bedrijven Mistral (Frans) en Aleph Alpha (Duits) succesvol een lobby werd opgestart. Europese politici bleken gevoelig voor het innovatie-argument, zeker omdat Europa op dat gebied ernstig achterloopt op China en de Verenigde Staten.
Lef tonen
Volgens hoogleraar politieke arithmetiek Daniel Mügge van de Universiteit van Amsterdam is Newsom gevallen voor de argumenten van de techlobby, die de zwaktes van de „niet perfecte” wet succesvol hebben uitgebuit. „AI-wetgeving is zeer gecompliceerd. De technologie is continu in ontwikkeling en heeft een enorm brede hoeveelheid toepassingen. Als wetgever loop je dan achter de feiten aan”, zegt hij.
Mügge vreest dat door het uitstel „pas over drie jaar een wet klaar is, die dan ook weer imperfecties heeft”, zegt hij. „Ondertussen ontwikkelen techbedrijven door en wordt het steeds moeilijker voor overheden om in de technologie in te grijpen”, aldus de hoogleraar.
„Het lijkt erop dat Newsom zich heeft laten overhalen door techbedrijven die je continu uitleggen wat er aan een wet niet deugt”, zegt Mügge. „Maar als wetgever moet je soms wat lef tonen. En zeggen tegen techbedrijven: ‘We snappen dat het niet optimaal voor jullie is, maar dat maakt het nog geen slechte wet’.”
