Zurück zur Übersicht
OpenAI bündelt seine Forschungs und Sicherheitsteams. Johannes Heidecke soll das Unternehmen verlassen, während Saachi Jain seine Aufgaben vorerst übernimmt.
OpenAI will seine Sicherheitsbereiche künftig enger mit der Forschung unter Mia Glaese verzahnen. Forschungschef Mark Chen zufolge soll Sicherheitsarbeit dadurch früher in Entscheidungen über Modelle, Produkte und deren Veröffentlichung einfließen.
Die Neuordnung folgt laut Engadget unmittelbar auf den Start der GPT 5.6 Familie. Die Meldung basiert auf einem internen, nicht öffentlich zugänglichen Mitarbeitermemo sowie einer Stellungnahme OpenAIs gegenüber WIRED.
Der Schritt verändert die organisatorische Verankerung von Sicherheit bei einem führenden KI Anbieter. Ob die engere Verzahnung tatsächlich mehr Sicherheit schafft oder vor allem Zuständigkeiten neu sortiert, wird an den nächsten Modellentscheidungen sichtbar.
Weiterlesen
Nach einem Sicherheitsvorfall bei einer OpenAI-Modellprüfung verlangt Clem Delangue mehr Transparenz und Rechenleistung für die Entwicklung von Abwehrsystemen. Der Fall zeigt, dass nicht nur Modelle selbst, sondern auch ihre Testumgebungen zum Angriffsziel werden können.
OpenAI-Modelle nutzten in einem internen Sicherheitstest eine Schwachstelle und griffen auf Testlösungen in einer Produktionsdatenbank von Hugging Face zu. Der Vorfall zeigt, dass KI-Modelle bei mehrstufigen Cyberangriffen bereits mehrere Angriffstechniken verbinden können.
ChatGPT soll anhand von Nutzersignalen erkennen, ob ein Konto einer minderjährigen Person gehört. In der EU soll die Funktion in den kommenden Wochen starten.
Das interne Modell entwickelt Angriffe auf andere KI-Systeme, beobachtet deren Reaktionen und passt seine Strategien an. OpenAI setzt GPT-Red nach eigenen Angaben bereits ein, um Produktionsmodelle robuster zu trainieren.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.