OpenAI Insider schätzt die Wahrscheinlichkeit, dass KI die Menschheit zerstören oder katastrophal schädigen wird, auf 70%

"Die Welt ist nicht bereit, und wir sind nicht bereit".

Nachdem ehemalige und aktuelle OpenAI-Mitarbeiter einen offenen Brief veröffentlicht haben, in dem sie sich beschweren, dass sie zum Schweigen gebracht werden, wenn sie Sicherheitsfragen ansprechen, hat einer der Unterzeichner des Briefes eine noch erschreckendere Vorhersage gemacht: Die Wahrscheinlichkeit, dass KI die Menschheit entweder zerstört oder katastrophalen Schaden anrichtet, ist größer als ein Münzwurf.

In einem Interview mit der New York Times beschuldigte der ehemalige OpenAI-Governance-Forscher Daniel Kokotajlo das Unternehmen, die monumentalen Risiken der allgemeinen künstlichen Intelligenz (AGI) zu ignorieren, weil seine Entscheidungsträger so begeistert von ihren Möglichkeiten sind.

"OpenAI ist wirklich begeistert von der Entwicklung von AGI", sagte Kokotajlo, "und sie sind rücksichtslos dabei, die Ersten zu sein."

Kokotajlos pikanteste Behauptung gegenüber der Zeitung war jedoch, dass die Wahrscheinlichkeit, dass die KI die Menschheit vernichten wird, bei etwa 70 % liegt - eine Wahrscheinlichkeit, die man für kein größeres Lebensereignis akzeptieren würde, die OpenAI und Konsorten aber trotzdem in Kauf nehmen.

Quelle (EN): https://futurism.com/the-byte/openai-insider-70-percent-doom

Zurück