Der Autor von Kaliforniens SB 1047, dem umstrittensten KI-Sicherheitsgesetz des Landes im Jahr 2024, ist zurück mit einem neuen KI-Gesetz, das das Silicon Valley durcheinanderbringen könnte.
Der kalifornische Senator Scott Wiener stellte am Freitag ein neues Gesetz vor, das Mitarbeiter führender KI-Labors schützen würde, damit sie ihre Meinung äußern können, wenn sie glauben, dass die KI-Systeme ihres Unternehmens ein „kritisches Risiko“ für die Gesellschaft darstellen könnten. Das neue Gesetz, SB 53, würde auch einen öffentlichen Cloud-Computing-Cluster namens CalCompute schaffen, um Forschern und Start-ups die notwendigen Rechenressourcen zur Verfügung zu stellen, um KI zu entwickeln, die der Öffentlichkeit zugute kommt.
Wiener's letztes KI-Gesetz, Kaliforniens SB 1047, löste eine lebhafte Debatte im ganzen Land darüber aus, wie mit massiven KI-Systemen umgegangen werden sollte, die Katastrophen verursachen könnten. SB 1047 sollte die Möglichkeit verhindern, dass sehr große KI-Modelle katastrophale Ereignisse verursachen, wie zum Beispiel den Verlust von Menschenleben oder Cyberangriffe, die mehr als 500 Millionen US-Dollar Schaden anrichten. Gouverneur Gavin Newsom hat jedoch letztendlich das Gesetz im September abgelehnt und erklärt, dass SB 1047 nicht der beste Ansatz sei.
Aber die Debatte um SB 1047 wurde schnell unschön. Einige Führungskräfte im Silicon Valley behaupteten, SB 1047 würde den Wettbewerbsvorteil Amerikas im globalen KI-Rennen beeinträchtigen und behaupteten, das Gesetz sei von unrealistischen Ängsten inspiriert, dass KI-Systeme science-fictionähnliche doomsday-Szenarien herbeiführen könnten. Senator Wiener behauptete unterdessen, dass einige Risikokapitalgeber eine „Propagandakampagne“ gegen sein Gesetz führten und verwies unter anderem auf die Behauptung von Y Combinator, dass SB 1047 Gründer von Start-ups ins Gefängnis schicken würde, eine Behauptung, die Experten als irreführend bezeichneten.
SB 53 nimmt im Wesentlichen die unkontroversesten Teile von SB 1047 - wie Whistleblower-Schutz und die Schaffung eines CalCompute-Clusters - und verpackt sie in ein neues KI-Gesetz.
Besonders bemerkenswert ist, dass Wiener in SB 53 nicht vor existenziellem KI-Risiko zurückschreckt. Das neue Gesetz schützt explizit Whistleblower, die glauben, dass ihre Arbeitgeber KI-Systeme schaffen, die ein „kritisches Risiko“ darstellen. Das Gesetz definiert ein kritisches Risiko als ein „vorhersehbares oder materielles Risiko, dass die Entwicklung, Speicherung oder Bereitstellung eines Grundlagenmodells eines Entwicklers dazu führen wird, dass mehr als 100 Menschen sterben oder schwer verletzt werden oder mehr als 1 Milliarde US-Dollar Schaden an Rechten in Geld oder Eigentum verursachen.“
SB 53 beschränkt Entwickler von KI-Modellen der neuen Generation - darunter wahrscheinlich OpenAI, Anthropic und xAI, unter anderem - daran, sich gegen Mitarbeiter zu rächen, die besorgniserregende Informationen an den Generalstaatsanwalt Kaliforniens, Bundesbehörden oder andere Mitarbeiter weitergeben. Gemäß dem Gesetz wären diese Entwickler verpflichtet, an Whistleblower über bestimmte interne Prozesse zu berichten, die die Whistleblower für bedenklich halten.
Was CalCompute betrifft, würde SB 53 eine Gruppe zur Errichtung eines öffentlichen Cloud-Computing-Clusters gründen. Die Gruppe würde Vertreter der University of California sowie anderer öffentlicher und privater Forscher umfassen. Sie würde Empfehlungen dafür abgeben, wie CalCompute aufgebaut, wie groß der Cluster sein sollte und welchen Benutzern und Organisationen der Zugriff darauf zur Verfügung stehen sollte.
Natürlich ist es noch sehr früh im Gesetzgebungsprozess für SB 53. Das Gesetz muss von den gesetzgebenden Körperschaften Kaliforniens überprüft und verabschiedet werden, bevor es auf dem Schreibtisch von Gouverneur Newsom landet. Die Gesetzgeber des Bundesstaates werden sicherlich auf die Reaktion des Silicon Valley auf SB 53 warten.
Allerdings könnte es 2025 schwieriger sein, KI-Sicherheitsgesetze im Vergleich zu 2024 zu verabschieden. Kalifornien hat im Jahr 2024 18 KI-bezogene Gesetze verabschiedet, aber jetzt scheint es, als ob die KI-Doom-Bewegung an Boden verloren hat.
Vizepräsident J.D. Vance signalisierte beim Paris AI Action Summit, dass Amerika nicht an KI-Sicherheit interessiert ist, sondern vielmehr die KI-Innovation priorisiert. Während der von SB 53 etablierte CalCompute-Cluster sicherlich als Fortschritt in der KI angesehen werden könnte, ist unklar, wie sich gesetzgeberische Bemühungen um existenzielle KI-Risiken im Jahr 2025 entwickeln werden.
