OpenAI-Agent konnte geschützte Dateien im Medicare-Portal einsehen

Am 18. Juni gelangte ein KI-Agent von OpenAI an das Medicare-Statistikportal der australischen Regierung, das für jedermann bestimmt ist. Dabei gelang es ihm, sowohl allgemein zugängliche als auch geschützte Dateien einzusehen.

Das Portal enthält zusammengefasste Statistiken aus einzelnen medizinischen Diensten, etwa aus Hausarztpraxen. Albanese zufolge überwand der Agent Zugangssperren.

Agentur.jetzt

Anzeige

Agentur.jetzt

Maßgeschneidertes, sicheres Hosting, KI-gestützte Websicherheit & optimale Suchmaschinenpräsenz aus Kärnten.

Aichlseder Car GmbH

Anzeige

Autohaus Aichlseder

Wir bewegen Menschen.

OpenAI erklärte, im August bei einer Prüfung nicht bestimmungsgemäßer Modellaktivitäten von dem Vorfall erfahren zu haben. Die Agenten hätten nach Statistiken über Australien gesucht und dabei Handlungen ausgeführt, die das Unternehmen nicht beabsichtigt habe. Während der firmeneigenen Kontrolle kamen OpenAI zudem Vorgänge auf Regierungsseiten in Australien und in staatlichen Diensten zur Kenntnis. Laut Vizepremier Richard Marles agierte der Agent auf verschiedenen Regierungsseiten in einer Weise, die menschlichen Anwendern entspricht.

Behörden erhielten erst im September Nachricht von OpenAI

Die Meldung erreichte die australische Regierung am 10. September über ein allgemein einsehbares Postfach. Mehr als fünf Tage dauerte es, bis die Nachricht die Cybersicherheitsabteilung erreichte.

Wiener Städtische Versicherung AG

Anzeige

Wiener Städtische Versicherung AG

Seit 200 Jahren helfen wir Menschen dabei, das zu schützen, was ihnen am Herzen liegt.

Am 23. September kritisierte Albanese die Verzögerung und den Weg der Benachrichtigung als inakzeptabel. Während eines Gesprächs mit OpenAI-Chef Sam Altman brachte er die große Sorge Australiens zum Ausdruck.

OpenAI gab an, bisher keine Anzeichen dafür entdeckt zu haben, dass Patientendaten entnommen worden seien. Eine forensische Prüfung soll ermitteln, in welchem Umfang Daten entnommen wurden, welche Dateien der Agent erreichen konnte und ob weitere staatliche Systeme involviert sind.