Home Reisen Trotz des Widerstands der Technologiekonzerne fordert Kalifornien einzigartige Sicherheitsvorschriften für KI-Unternehmen

Trotz des Widerstands der Technologiekonzerne fordert Kalifornien einzigartige Sicherheitsvorschriften für KI-Unternehmen

11
0

DATEIFOTO: Die kalifornischen Gesetzgeber haben für ein Gesetz gestimmt, das KI-Unternehmen dazu verpflichten würde, ihre Systeme zu testen und Sicherheitsmaßnahmen hinzuzufügen. | Bildnachweis: Reuters

Am Dienstag haben die kalifornischen Gesetzgeber einem Gesetz zugestimmt, das Unternehmen, die künstliche Intelligenz entwickeln, dazu verpflichten würde, ihre Systeme zu testen und Sicherheitsvorkehrungen zu treffen, um zu verhindern, dass sie manipuliert werden und das Stromnetz des Staates lahmlegen oder beim Bau von Chemiewaffen helfen. Experten zufolge könnten diese Szenarien in Zukunft möglich sein, da sich die Technologie mit Warp-Geschwindigkeit weiterentwickelt.

Der erste Gesetzentwurf seiner Art zielt darauf ab, die durch KI verursachten Risiken zu verringern. Er wird von Risikokapitalfirmen und Technologieunternehmen, darunter Meta, der Muttergesellschaft von Facebook und Instagram, und Google, heftig bekämpft. Sie sagen, die Vorschriften zielen auf Entwickler ab und sollten sich stattdessen auf diejenigen konzentrieren, die die KI-Systeme zum Schaden nutzen und ausnutzen.

Der demokratische Senator Scott Wiener, der den Gesetzentwurf verfasst hat, sagte, der Vorschlag würde angemessene Sicherheitsstandards schaffen, indem er „katastrophale Schäden“ durch extrem leistungsfähige KI-Modelle verhindere, die in Zukunft geschaffen werden könnten.

Die Anforderungen würden nur für Systeme gelten, deren Training mehr als 100 Millionen Dollar an Rechenleistung kostet. Bis Juli hat kein aktuelles KI-Modell diesen Schwellenwert erreicht.

(Abonnieren Sie unseren Tech-Newsletter „Today's Cache“, um die wichtigsten Technologienachrichten des Tages zu erhalten.)

Wiener kritisierte die Kampagne der Gegner des Gesetzesentwurfs bei einer Anhörung am Dienstag scharf und sagte, sie verbreite falsche Informationen über sein Vorhaben. Sein Gesetzesentwurf schafft keine neuen strafrechtlichen Anklagen für KI-Entwickler, deren Modelle missbraucht wurden, um der Gesellschaft Schaden zuzufügen, wenn sie ihre Systeme getestet und Schritte zur Risikominderung unternommen hätten, sagte Wiener.

„Dieses Gesetz wird keinen KI-Entwickler ins Gefängnis bringen“, sagte Wiener. „Ich würde die Leute bitten, diese Behauptung nicht mehr aufzustellen.“

Nach dem Gesetzentwurf könnte lediglich der Generalstaatsanwalt eines Bundesstaates bei Verstößen rechtliche Schritte einleiten.

Der demokratische Gouverneur Gavin Newsom hat Kalifornien als einen frühen KI-Anwender und -Regulierer angepriesen und gesagt, der Staat könne schon bald generative KI-Tools einsetzen, um die Überlastung der Autobahnen zu verringern, die Straßen sicherer zu machen und Steuerberatung anzubieten. Gleichzeitig erwägt seine Regierung neue Regeln gegen KI-Diskriminierung bei Einstellungspraktiken. Er lehnte es ab, den Gesetzentwurf zu kommentieren, warnte jedoch, dass eine Überregulierung den Staat in eine „gefährliche Lage“ bringen könnte.

Eine wachsende Koalition von Technologieunternehmen argumentiert, die Anforderungen würden die Unternehmen davon abhalten, große KI-Systeme zu entwickeln oder ihre Technologie Open Source zu belassen.

„Der Gesetzentwurf wird das KI-Ökosystem weniger sicher machen, Open-Source-Modelle gefährden, auf die sich Startups und kleine Unternehmen verlassen, auf Standards setzen, die es nicht gibt, und zu einer Fragmentierung der Regulierung führen“, schrieb Rob Sherman, Vizepräsident und stellvertretender Datenschutzbeauftragter von Meta, in einem Brief an die Gesetzgeber.

Gegner wollen auf weitere Richtlinien der Bundesregierung warten. Befürworter des Gesetzesentwurfs sagten, Kalifornien könne nicht warten und verwiesen auf harte Lektionen, die man dort gelernt habe, weil man nicht schnell genug gegen Social-Media-Unternehmen vorgegangen sei.

Der Vorschlag, der von einigen der renommiertesten KI-Forscher unterstützt wird, sieht zudem die Schaffung einer neuen staatlichen Agentur vor, die die Entwickler beaufsichtigt und Best Practices bereitstellt.

Die Gesetzgeber des Staates erwogen am Dienstag außerdem zwei ehrgeizige Maßnahmen, um die Kalifornier besser vor möglichen Schäden durch KI zu schützen. Eine davon würde die Diskriminierung durch Automatisierung bekämpfen, wenn Unternehmen KI-Modelle verwenden, um Lebensläufe und Bewerbungen für Mietwohnungen zu prüfen. Die andere würde Social-Media-Unternehmen verbieten, Daten von Personen unter 18 Jahren ohne deren Zustimmung oder die ihrer Erziehungsberechtigten zu sammeln und zu verkaufen.

Kaynak

LEAVE A REPLY

Please enter your comment!
Please enter your name here