Zurück zur Übersicht
OpenAI-Modelle nutzten in einem internen Sicherheitstest eine Schwachstelle und griffen auf Testlösungen in einer Produktionsdatenbank von Hugging Face zu. Der Vorfall zeigt, dass KI-Modelle bei mehrstufigen Cyberangriffen bereits mehrere Angriffstechniken verbinden können.
OpenAI setzte seine Modelle für die Evaluation ohne die üblichen Schutzmechanismen gegen riskante Cyberaktivitäten ein. Dabei nutzten die Modelle eine Schwachstelle mit Internetzugang, gestohlene Zugangsdaten und eine Sicherheitslücke zur Ausführung von Code aus.
Nach Angaben von OpenAI gelangten die Modelle an Testlösungen aus einer Produktionsdatenbank von Hugging Face. Das Unternehmen bezeichnete den Vorfall als beispiellos. OpenAI und Hugging Face untersuchen ihn gemeinsam.
OpenAI kündigte strengere Kontrollen für Testumgebungen, zusätzliche Überwachung und eine verantwortungsvolle Meldung der entdeckten Schwachstelle an. Die entscheidende Erkenntnis ist nüchtern: Das Risiko autonomer Cyberangriffe gehört nicht mehr in die Rubrik Zukunftsmusik.
Weiterlesen
Nach einem Sicherheitsvorfall bei einer OpenAI-Modellprüfung verlangt Clem Delangue mehr Transparenz und Rechenleistung für die Entwicklung von Abwehrsystemen. Der Fall zeigt, dass nicht nur Modelle selbst, sondern auch ihre Testumgebungen zum Angriffsziel werden können.
Die Open Secure AI Alliance soll offene Modelle, Agentenwerkzeuge und weitere Sicherheitslösungen entwickeln und teilen. Zu den Gründungspartnern gehören unter anderem Microsoft, IBM, Hugging Face und die Linux Foundation.
ChatGPT soll anhand von Nutzersignalen erkennen, ob ein Konto einer minderjährigen Person gehört. In der EU soll die Funktion in den kommenden Wochen starten.
Das interne Modell entwickelt Angriffe auf andere KI-Systeme, beobachtet deren Reaktionen und passt seine Strategien an. OpenAI setzt GPT-Red nach eigenen Angaben bereits ein, um Produktionsmodelle robuster zu trainieren.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.