Zurück zur Übersicht
Das Programm richtet sich an verlässliche Entwickler sowie Regierungs- und Forschungspartner. OpenAI positioniert KI damit stärker als Infrastruktur für Sicherheits- und Resilienzfragen.
OpenAI hat mit Rosalind Biodefense ein Programm vorgestellt, das biologische Vorsorge und Abwehr mit ausgewählten Partnern stärken soll.
Das Unternehmen beschreibt Frontier-KI als Werkzeug, das Verteidigern in der Bioabwehr einen Vorteil verschaffen kann. Beteiligt sind laut Ankündigung vertrauenswürdige Entwickler sowie Regierungs- und Forschungspartner.
Der Schritt ist vor allem ein strategisches Signal. OpenAI rückt KI damit noch deutlicher in Richtung Sicherheitsinfrastruktur.
https://openai.com/index/strengthening-societal-resilience-with-rosalind-biodefense/
Weiterlesen
Nach einem Sicherheitsvorfall bei einer OpenAI-Modellprüfung verlangt Clem Delangue mehr Transparenz und Rechenleistung für die Entwicklung von Abwehrsystemen. Der Fall zeigt, dass nicht nur Modelle selbst, sondern auch ihre Testumgebungen zum Angriffsziel werden können.
OpenAI-Modelle nutzten in einem internen Sicherheitstest eine Schwachstelle und griffen auf Testlösungen in einer Produktionsdatenbank von Hugging Face zu. Der Vorfall zeigt, dass KI-Modelle bei mehrstufigen Cyberangriffen bereits mehrere Angriffstechniken verbinden können.
ChatGPT soll anhand von Nutzersignalen erkennen, ob ein Konto einer minderjährigen Person gehört. In der EU soll die Funktion in den kommenden Wochen starten.
Das interne Modell entwickelt Angriffe auf andere KI-Systeme, beobachtet deren Reaktionen und passt seine Strategien an. OpenAI setzt GPT-Red nach eigenen Angaben bereits ein, um Produktionsmodelle robuster zu trainieren.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.