Home Reisen OpenAI beginnt mit dem Training des nächsten KI-Modells, während es Sicherheitsbedenken bekämpft

OpenAI beginnt mit dem Training des nächsten KI-Modells, während es Sicherheitsbedenken bekämpft

12
0

Schalten Sie den Editor’s Digest kostenlos frei

OpenAI erklärte, es habe mit dem Training seiner künstlichen Intelligenz-Software der nächsten Generation begonnen. Das Start-up nahm jedoch frühere Behauptungen zurück, es wolle „superintelligente“ Systeme bauen, die klüger seien als Menschen.

Das in San Francisco ansässige Unternehmen teilte am Dienstag mit, dass es mit der Produktion eines neuen KI-Systems begonnen habe, „das unsere Leistungsfähigkeit auf die nächste Ebene bringen soll“, und dass seine Entwicklung von einem neuen Sicherheitsausschuss überwacht werden werde.

Doch während OpenAI mit der KI-Entwicklung rasant voranschreitet, scheint ein leitender OpenAI-Manager frühere Äußerungen seines CEO Sam Altman zurückzunehmen, wonach das Unternehmen letztlich auf die Schaffung einer dem Menschen weit überlegenen „Superintelligenz“ abziele.

Anna Makanju, Vizepräsidentin für globale Angelegenheiten bei OpenAI, erklärte der Financial Times in einem Interview, dass die „Mission“ des Unternehmens darin bestehe, eine künstliche allgemeine Intelligenz zu entwickeln, die „kognitive Aufgaben im Sinne dessen bewältigen kann, was ein Mensch heute leisten könnte“.

„Unsere Mission ist es, AGI zu entwickeln; ich würde nicht sagen, dass es unsere Mission ist, Superintelligenz zu entwickeln“, sagte Makanju. „Superintelligenz ist eine Technologie, die um Größenordnungen intelligenter sein wird als Menschen auf der Erde.“

Altman sagte der FT im November, er verbringe die Hälfte seiner Zeit mit der Erforschung, „wie man Superintelligenz aufbaut“.

Während OpenAI die Konkurrenz von Googles Gemini und Elon Musks Start-up xAI abwehrt, versucht das Unternehmen gleichzeitig, die politischen Entscheidungsträger davon zu überzeugen, dass es der verantwortungsvollen Entwicklung von KI höchste Priorität einräumt, nachdem in diesem Monat mehrere leitende Sicherheitsforscher gekündigt haben.

Der neue Ausschuss wird von Altman und den Vorstandsmitgliedern Bret Taylor, Adam D’Angelo und Nicole Seligman geleitet und wird den verbleibenden drei Vorstandsmitgliedern Bericht erstatten.

Das Unternehmen gab keine Auskunft darüber, was der Nachfolger von GPT-4, das die ChatGPT-App des Unternehmens antreibt und vor zwei Wochen ein umfassendes Upgrade erhielt, leisten könnte oder wann er auf den Markt kommen würde.

Anfang des Monats löste OpenAI sein sogenanntes Superalignment-Team auf, das sich mit der Sicherheit potenziell superintelligenter Systeme befassen sollte, nachdem Ilya Sutskever, der Leiter des Teams und Mitbegründer des Unternehmens, gekündigt hatte.

Sutskevers Abgang erfolgte Monate, nachdem er im November einen überraschenden Putsch gegen Altman angeführt hatte, der letztlich erfolglos blieb.

Die Schließung des Superalignment-Teams hatte zur Folge, dass mehrere Mitarbeiter das Unternehmen verließen, darunter auch Jan Leike, ein weiterer leitender KI-Sicherheitsforscher.

Makanju betonte, dass weiterhin an den „langfristigen Möglichkeiten“ der KI gearbeitet werde, „auch wenn sie theoretischer Natur sind“.

„AGI gibt es noch nicht“, fügte Makanju hinzu und sagte, eine solche Technologie werde erst freigegeben, wenn sie sicher sei.

Das Training ist der erste Schritt beim Lernen eines künstlichen Intelligenzmodells. Dabei wird auf eine große Menge an Daten und Informationen zurückgegriffen, die ihm zur Verfügung gestellt werden. Nachdem das Modell die Daten verarbeitet und seine Leistung verbessert hat, wird es validiert und getestet, bevor es in Produkten oder Anwendungen eingesetzt wird.

Dieser langwierige und hochtechnische Prozess bedeutet, dass das neue Modell von OpenAI möglicherweise erst in vielen Monaten zu einem greifbaren Produkt wird.

Zusätzliche Berichterstattung von Madhumita Murgia in London

Video: KI: Segen oder Fluch für die Menschheit? | FT Tech

Kaynak

LEAVE A REPLY

Please enter your comment!
Please enter your name here