Ingrijpende AI-wet van tafel na veto gouverneur Californië

Het had het meest verregaande stuk AI-wetgeving ter wereld moeten worden. Wet SB 1047 in Californië, waarmee de Amerikaanse staat techbedrijven zou verplichten tot veiligheidstesten voor hun meest geavanceerde AI-modellen. Ondanks een zeer felle tech-lobby leek de wet het te gaan halen. Maar dat was buiten gouverneur Gavin Newsom gerekend.

Newsom sprak zondag zijn veto uit en blokkeert daarmee invoering van SB 1047. Volgens de gouverneur zou de wet innovatie tegenwerken en talent de staat verlaten. Alle grote AI-bedrijven zijn in Silicon Valley gevestigd, het gebied rond de baai van San Francisco in Californië. Dat SB 1047 van tafel gaat is een grote overwinning voor onder meer Meta, Google en OpenAI, die zich fel tegen invoer van SB 1047 hebben verzet.

Waarom is dit nieuws belangrijk? Topwetenschappers vrezen dat AI-modellen zó krachtig worden dat AI-systemen onvoorspelbaar gedrag gaan vertonen. De angst is dat de mens de controle over cruciale systemen, zoals onze energievoorziening, kan verliezen als kunstmatige intelligentie het overneemt. Was SB 1047 ingevoerd, dan waren AI-bedrijven onder meer verplicht geweest om een ‘kill switch‘ in hun systemen in te bouwen, een fysieke schakelaar waarmee een AI-systeem altijd op afstand kan worden uitgeschakeld.

De wet, die volgens Newsom ‘niet ver genoeg ging’ en daarom werd afgeschoten, gaat nu opnieuw naar de tekentafel.

De Californische gouverneur Gavin Newsom sprak zondag zijn veto uit tegen de AI-wet. Foto AP