Sam Altman, Greg Brockman und Ilya Sutskever, die drei Leiter von OpenIA, unterzeichneten eine Notiz, in der sie die Schaffung eines Gremiums zur Regulierung der KI, wie sie für den Nuklearsektor existiert, bei der Internationalen Atomenergiebehörde (IAEA) fordern.


Nach Ansicht der drei Verantwortlichen gilt es, die Menschheit vor dem „existenziellen Risiko“ zu schützen, versehentlich etwas zu erschaffen, das die Macht hat, sie zu zerstören.

„Was die potenziellen Vor- und Nachteile angeht, wird Superintelligenz leistungsfähiger sein als andere Technologien, mit denen sich die Menschheit in der Vergangenheit auseinandersetzen musste. Wir können eine wesentlich wohlhabendere Zukunft haben; Aber wir müssen das Risiko kontrollieren, um dorthin zu gelangen“, liest man Hinweis auf der OpenIA-Seite veröffentlichtdas Unternehmen, das den intelligenten virtuellen Assistenten ChatGPT entwickelt hat.

„Angesichts der Möglichkeit existenzieller Risiken können wir nicht einfach reagieren“, betonen sie.

Die drei Beamten befürworten dann die Schaffung eines Gremiums ähnlich der IAEA, das „Systeme inspizieren, Audits fordern, die Einhaltung von Sicherheitsstandards nachweisen, Beschränkungen für Entwicklungsphasen und Sicherheitsniveaus verhängen usw.“ soll.

„Für eine solche Behörde wäre es wichtig, sich auf die Reduzierung existenzieller Risiken zu konzentrieren und nicht auf Themen, die den Ländern selbst überlassen werden sollten, etwa die Festlegung, was eine KI sagen darf“, sagen sie.

Kurzfristig argumentieren die Mitbegründer Greg Brockman und Ilya Sutskever sowie CEO Sam Altman, dass „ein gewisses Maß an Koordination zwischen den großen Entwicklungsbemühungen erforderlich ist, um sicherzustellen, dass die Entwicklung der Superintelligenz auf eine Weise erfolgt, die es uns ermöglicht, Sicherheit und Sicherheit aufrechtzuerhalten.“ helfen bei der nahtlosen Integration dieser Systeme in die Gesellschaft.“

Zu diesem Zweck erklären sie, dass große Regierungen auf der ganzen Welt ein Projekt erstellen oder die Wachstumsrate der KI auf eine bestimmte Rate pro Jahr begrenzen sollten.

G7 einigt sich auf eine Beschleunigung der Regulierung
Am vergangenen Freitag einigten sich die G7-Staaten darauf, rasch Maßnahmen zur Regulierung generativer KI wie ChatGPT zu ergreifen, um den wachsenden Risiken einer schnellen Verbreitung zu begegnen.

Auf dem Forumsgipfel, der in der japanischen Stadt Hiroshima stattfand, forderte der japanische Premierminister Fumio Kishida seine G7-Kollegen auf, „an der schnellen Schaffung eines internationalen Rahmens“ zur Regulierung dieser neuen Technologien zu arbeiten.

„[A cimeira de Hiroxima] „Ziel ist es, die Einheit der G7 zu bestätigen und ihre Rolle zugunsten einer internationalen Gemeinschaft zu stärken, die von Zusammenarbeit und nicht von Spaltung und Konfrontation geprägt ist, und aktive und konkrete Beiträge zu diesem Ziel zu leisten“, sagte Kishida.

In der Woche vor diesem Gipfel stimmte die Europäische Union über einen Bericht zur Schaffung eines Gesetzes zur Regulierung von KI ab. Dies ist der vorletzte Schritt zur Verabschiedung eines Gesetzes, das unter anderem die Überwachung von Bürgern oder die Manipulation von Meinungen und Verhalten durch Werkzeuge der künstlichen Intelligenz verbietet.

Warnungen vor der Gefahr von KI
Seit mehreren Jahrzehnten gibt es Warnungen vor den potenziellen Risiken künstlicher Intelligenz, doch in jüngster Zeit haben diese Warnungen zugenommen, da die KI-Entwicklung immer schneller voranschreitet.

Anfang dieses Monats trat Geoffrey Hinton, der als einer der größten KI-Pioniere gilt, von Google zurück und hinterließ mehrere Warnungen vor den potenziellen Gefahren dieser Technologie.


Geoffrey Hinton, 75, betonte, dass Unternehmen beim Einsatz dieser Art von Technologie nicht die notwendigen Vorsichtsmaßnahmen treffen und befürchtete, dass KI zu einem Risiko für die Menschheit selbst werden könnte.



„Es ist schwer zu wissen, wie man Menschen mit bösen Absichten am Konsum hindern kann [a IA] für schlechte Dinge Vergleichen Sie die KI von vor fünf Jahren mit der aktuellen. „Es ist beängstigend“, sagte der „Pate“ der KI in einem Interview mit New York Times.

Der Brite und Kanadier, einer der Hauptverantwortlichen für den technologischen Fortschritt, der virtuelle Assistenten wie ChatGPT hervorgebracht hat, sagt, dass dies der Fall ist Chatbot sie seien „ziemlich beängstigend“, da „sie intelligenter werden können als Menschen“. „Ich bin zu dem Schluss gekommen, dass sich die Art der Intelligenz, die wir entwickeln, stark von der Intelligenz unterscheidet, die wir haben“, erklärte er.

Letzte Woche ist auch Portugal offiziell ins Rennen gegangen Chatbot und führte ein generatives KI-Modell wie ChatGPT für die portugiesische Sprache ein. Im März begann Google außerdem mit der Bereitstellung von a Chatbot namens Bard und schließt sich damit seinen Konkurrenten ChatGPT und Bing von Open AI und Microsoft an.