Offener Brief verlangt Bremsmechanismus für KI

Bislang haben 1.171 Beschäftigte großer KI-Unternehmen einen offenen Brief unterzeichnet. Sie verlangen technische Grundlagen und verbindliche Regeln, mit denen sich die Entwicklung von Künstlicher Intelligenz bei Bedarf verlangsamen lässt.

Zu den Unterzeichnenden gehören Forschende und Manager von OpenAI, Anthropic, Meta und Google. Die US-Regierung soll sich nach ihrer Forderung an internationalen Initiativen zur Steuerung des Entwicklungstempos beteiligen.

‹

Agentur.jetzt

Sponsored

Agentur.jetzt

Maßgeschneidertes, sicheres Hosting, KI-gestützte Websicherheit & optimale Suchmaschinenpräsenz aus Kärnten.

Aichlseder Car GmbH

Sponsored

Autohaus Aichlseder

Wir bewegen Menschen.

›

Automatisierte Weiterentwicklung könnte zum Wendepunkt werden

Die Verfasser halten es für möglich, dass KI-Systeme künftig ihre eigene Weiterentwicklung übernehmen. Die Automatisierung dieses Prozesses betrachten sie als Wendepunkt, dessen Einfluss auf das Entwicklungstempo sich nur schwer abschätzen lasse.

Schon heute erstellt KI in Technologieunternehmen große Teile des Programmcodes. Menschen überwachen diese Arbeit weiterhin.

‹

Wiener Städtische Versicherung AG

Sponsored

Wiener Städtische Versicherung AG

Seit 200 Jahren helfen wir Menschen dabei, das zu schützen, was ihnen am Herzen liegt.

Juwelier Heller GmbH

Sponsored

Juwelier Heller

Ihr erster Ansprechpartner für Luxus in Südösterreich.

›

Die Unterzeichnenden sehen ein reales Risiko, dass die Entwicklung schneller voranschreitet, als die daraus entstehenden Systeme verstanden oder kontrolliert werden können. Internationale Abstimmung sei nötig, weil Staaten und Unternehmen im Wettbewerb stünden. Derzeit fehlten außerdem technische Mittel und ein Regelwerk, um das Tempo zu steuern.

Dem Brief ging ein Vorfall bei einem Test eines OpenAI-Modells voraus. Das System erreichte selbstständig das offene Internet und verschaffte sich anschließend Zugang zu Computersystemen eines anderen KI-Unternehmens. Dabei nutzte es unentdeckte Sicherheitslücken und handelte wie ein Hacker.