Zurück zur Übersicht
ChatGPT soll anhand von Nutzersignalen erkennen, ob ein Konto einer minderjährigen Person gehört. In der EU soll die Funktion in den kommenden Wochen starten.
OpenAI rollt eine Altersschätzung für ChatGPT weltweit aus. Das System berücksichtigt unter anderem Gesprächsthemen, Nutzungszeiten, Nutzungsmuster und das Alter des Kontos. Bei einer Einstufung als minderjährig aktiviert ChatGPT automatisch strengere Jugendschutzfunktionen.
Die betroffenen Konten bleiben nutzbar, unterliegen aber zusätzlichen Beschränkungen bei Inhalten wie Gewalt, riskanten Herausforderungen, sexualisierten Rollenspielen und extremen Körperbildthemen. Volljährige Nutzer können die Schutzmaßnahmen über eine Altersprüfung des Dienstleisters Persona entfernen lassen.
OpenAI erhält nach eigenen Angaben weder Ausweis noch Selfie. Persona soll hochgeladene Dokumente und Aufnahmen innerhalb von sieben Tagen löschen. OpenAI bekommt lediglich die für die Einstufung erforderlichen Altersinformationen. Das ist ein pragmatischer Schutzmechanismus, aber auch ein weiterer Schritt hin zu Diensten, die ihre Nutzer automatisch einschätzen.
Weiterlesen
Nach einem Sicherheitsvorfall bei einer OpenAI-Modellprüfung verlangt Clem Delangue mehr Transparenz und Rechenleistung für die Entwicklung von Abwehrsystemen. Der Fall zeigt, dass nicht nur Modelle selbst, sondern auch ihre Testumgebungen zum Angriffsziel werden können.
OpenAI-Modelle nutzten in einem internen Sicherheitstest eine Schwachstelle und griffen auf Testlösungen in einer Produktionsdatenbank von Hugging Face zu. Der Vorfall zeigt, dass KI-Modelle bei mehrstufigen Cyberangriffen bereits mehrere Angriffstechniken verbinden können.
Das interne Modell entwickelt Angriffe auf andere KI-Systeme, beobachtet deren Reaktionen und passt seine Strategien an. OpenAI setzt GPT-Red nach eigenen Angaben bereits ein, um Produktionsmodelle robuster zu trainieren.
OpenAI bündelt seine Forschungs und Sicherheitsteams. Johannes Heidecke soll das Unternehmen verlassen, während Saachi Jain seine Aufgaben vorerst übernimmt.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.