Kalifornien verabschiedet KI-Sicherheitsgesetz, das Transparenz, Meldung von Zwischenfällen und strenge Risikogrenzen für leistungsstarke KI-Systeme erfordert. California enacts first-in-nation AI safety law requiring transparency, incident reporting, and strict risk limits for powerful AI systems.

Der kalifornische Gouverneur Gavin Newsom hat den Senatsgesetzentwurf 53 unterzeichnet, das erste nationale Gesetz, das Unternehmen verpflichtet, leistungsfähige KI-Systeme zu entwickeln, um Sicherheitsprotokolle öffentlich zu veröffentlichen, kritische Zwischenfälle innerhalb von 15 Tagen zu melden und strenge Risikoschwellen einzuhalten. California Governor Gavin Newsom has signed Senate Bill 53, the first-in-the-nation law requiring companies developing powerful AI systems to publicly disclose safety protocols, report critical incidents within 15 days, and comply with strict risk thresholds. Das Gesetz richtet sich an Grenz-KI-Modelle, die katastrophalen Schaden verursachen können – definiert als eine Milliarde Dollar Schaden oder mehr als 50 Verletzungen oder Todesfälle – und verhängt pro Verstoß eine Million Dollar Geldstrafe. The law targets frontier AI models capable of causing catastrophic harm—defined as $1 billion in damage or more than 50 injuries or deaths—and imposes $1 million fines per violation. Es umfasst Whistleblower-Schutz, eine öffentliche Forschungs-Cloud und Ausnahmen für Start-ups zur Innovationsförderung. It includes whistleblower protections, a public research cloud, and exemptions for startups to promote innovation. Die Gesetzgebung, die durch Expertenbeiträge und zweiparteiliche Unterstützung geprägt ist, zielt darauf ab, KI-Fortschritte mit der öffentlichen Sicherheit in einem verstopften föderalen Handeln zu balancieren. The legislation, shaped by expert input and bipartisan support, aims to balance AI advancement with public safety amid stalled federal action.