Zurück zur Übersicht
Die Integration gibt Sicherheits- und KI‑Plattformteams zentrale Erkennung, manipulationssichere Beobachtbarkeit und Echtzeit-Schutzmechanismen für Copilot-Agenten. Relevanz: Unternehmen können Shadow Agents, Prompt‑Injection und schädliche Agentenaktivität gezielter erkennen und stoppen.
Trust3 AI hat seine Agent Control Plane in Microsoft Copilot Studio integriert und stellt damit eine zentrale Kontrollschicht für Copilot-Agenten bereit. Die Lösung soll Sicherheits- und KI‑Plattformteams kontinuierliche Entdeckung und manipulationssichere Beobachtbarkeit ermöglichen.
Nach Angaben des Unternehmens umfasst die Integration automatische Erkennung sogenannter "Shadow Agents", die Erfassung von Prompts, Toolaufrufen sowie Entscheidungs- und Ausführungs-Historien für Replay und Forensik. Zudem nennt Trust3 AI einen Runtime-Kill-Switch zur Unterbrechung schädlicher Agentenaktivität und eine MCP content firewall zur Reduktion von Prompt-Injection-Risiken.
Die Funktion ist ab sofort verfügbar. Trust3 AI plant, die Integration auf der AI Engineer World's Fair (29. Juni bis 2. Juli 2026, San Francisco) zu demonstrieren.
Weiterlesen
Project Perception soll Bedrohungen in Echtzeit erkennen, bewerten und Gegenmaßnahmen einleiten. Die öffentliche Vorschau startet am 3. August 2026.
Die Open Secure AI Alliance soll offene Modelle, Agentenwerkzeuge und weitere Sicherheitslösungen entwickeln und teilen. Zu den Gründungspartnern gehören unter anderem Microsoft, IBM, Hugging Face und die Linux Foundation.
Anthropic kündigte am 30. Juni 2026 an, gemeinsam mit großen Cloud‑Anbietern und Partnern einen konsensbasierten Rahmen zur objektiven Bewertung von KI‑Jailbreaks zu entwickeln. Ziel ist, Funde schneller zu priorisieren und Reaktionen zu standardisieren.
Der Konzern erweitert seine Maßnahmen gegen nicht-einvernehmliche intime Bilder und reagiert damit auf den neuen US Take It Down Act. Betroffene Inhalte sollen sich einfacher melden lassen, auch wenn sie mit KI erstellt wurden.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.