Gouverneur van Californië Gavin Newsom op zondag veto uitgesproken over a fel omstreden veiligheidswet op het gebied van kunstmatige intelligentie nadat de technologie-industrie bezwaren had geuit en zei dat het AI-bedrijven uit de staat zou kunnen verdrijven en innovatie zou kunnen belemmeren.
Newsom zei dat het wetsvoorstel “geen rekening houdt met de vraag of een AI-systeem wordt ingezet in risicovolle omgevingen, kritische besluitvorming of het gebruik van gevoelige gegevens met zich meebrengt” en “strenge normen zou toepassen op zelfs de meest elementaire functies – zolang een groot systeem implementeert het.”
Newsom zei dat hij vooraanstaande experts had gevraagd generatieve AI om Californië te helpen ‘werkbare vangrails te ontwikkelen’ die zich richten ‘op het ontwikkelen van een empirische, op wetenschap gebaseerde trajectanalyse’. Hij gaf ook overheidsinstanties de opdracht om hun beoordeling van de risico’s van potentiële catastrofale gebeurtenissen die verband houden met het gebruik van AI uit te breiden.
Generatieve AI – die tekst, foto’s en video’s kan creëren als reactie op open vragen – heeft zowel de opwinding als de vrees aangewakkerd dat sommige banen overbodig zouden kunnen worden, verkiezingen zouden kunnen worden verstoord en mogelijk mensen zouden kunnen worden overweldigd en catastrofale gevolgen zouden kunnen hebben.
De auteur van het wetsvoorstel, senator Scott Wiener van de Democratische Staat, zei dat wetgeving nodig is om het publiek te beschermen voordat de vooruitgang op het gebied van AI log of oncontroleerbaar wordt. De AI-industrie groeit snel in Californië en sommige leiders twijfelden aan de toekomst van deze bedrijven in de staat als het wetsvoorstel wet zou worden.
Wiener zei zondag dat het veto Californië minder veilig maakt en betekent dat “bedrijven die een extreem krachtige technologie willen creëren, geen bindende beperkingen ondervinden.” Hij voegde eraan toe dat “vrijwillige toezeggingen van de industrie niet afdwingbaar zijn en zelden goed uitpakken voor het publiek.”
“We kunnen het ons niet veroorloven om te wachten tot zich een grote catastrofe voordoet voordat we actie ondernemen om het publiek te beschermen”, zei Newsom, maar voegde eraan toe dat hij het daar niet mee eens was. “We moeten genoegen nemen met een oplossing die niet gebaseerd is op een empirische trajectanalyse van AI-systemen en capaciteiten.”
Newsom zei dat hij tijdens de volgende zittingsperiode met de wetgevende macht zal samenwerken op het gebied van AI-wetgeving. Het komt omdat de wetgeving in het Amerikaanse Congres om waarborgen te bieden is vastgelopen en de regering-Biden voorstellen voor regelgevend AI-toezicht naar voren brengt.
Newsom zei dat “een aanpak die uitsluitend op Californië gericht is, wellicht gerechtvaardigd zou kunnen zijn – vooral als het Congres geen federale actie onderneemt.”
Chamber of Progress, een coalitie van de technologie-industrie, prees het veto van Newsom en zei dat “de Californische technologie-economie altijd heeft gedijen op concurrentie en openheid.”
De maatregel zou onder meer veiligheidstests verplicht stellen voor veel van de meest geavanceerde AI-modellen die meer dan 100 miljoen dollar kosten om te ontwikkelen of modellen die een bepaalde hoeveelheid rekenkracht vereisen. Ontwikkelaars van AI-software die in de staat actief zijn, hadden ook methoden moeten schetsen voor het uitschakelen van de AI-modellen, in feite een ‘kill switch’.
Het wetsvoorstel zou een staatsentiteit hebben opgericht om toezicht te houden op de ontwikkeling van zogenaamde ‘grensmodellen’ die de mogelijkheden van de meest geavanceerde bestaande modellen te boven gaan.
Het wetsvoorstel kreeg te maken met sterke tegenstand van een groot aantal groepen. Google van Alfabet, Door Microsoft ondersteund OpenAI En Metaplatformsdie allemaal generatieve AI-modellen ontwikkelen, hadden hun zorgen over het voorstel geuit.
Sommige Democraten in het Amerikaanse Congres, waaronder vertegenwoordigers Nancy Pelosiwas er ook tegen. Voorstanders inbegrepen Tesla CEO Elon Muskdie ook een AI-bedrijf runt genaamd xAI. Door Amazon gesteund Antropisch zei dat de voordelen voor het wetsvoorstel waarschijnlijk groter zijn dan de kosten, hoewel het eraan toevoegde dat er nog steeds enkele aspecten zijn die zorgwekkend of dubbelzinnig lijken.
Newsom ondertekende afzonderlijk wetgeving die de staat verplicht om potentiële bedreigingen van generatieve AI voor de kritieke infrastructuur van Californië te beoordelen.
De staat analyseert de risico’s van de energie-infrastructuur en eerder bijeengeroepen leveranciers van de energiesector en zal het komende jaar dezelfde risicobeoordeling uitvoeren met leveranciers van waterinfrastructuur en later met de communicatiesector, zei Newsom.
—David Shepardson, Reuters
