Angesichts der zunehmenden Verbreitung von KI-Agenten in Unternehmen hat IBM kürzlich die nach eigenen Angaben branchenweit erste Softwarelösung angekündigt, die Teams für KI-Sicherheit und KI-Governance zusammenbringt und einen einheitlichen Überblick über die Risikosituation eines Unternehmens ermöglichen soll.
IBM stellt mit AllTrue.AI die nach eigenen Angaben branchenweit erste Software zur Vereinheitlichung von Agentic Governance und Sicherheit vor. Bildquelle: IBM
IBM führt außerdem in Zusammenarbeit mit AllTrue.ai neue Funktionalität für Guardium AI Security ein, darunter die Möglichkeit, neue KI-Anwendungsfälle in Cloud-Umgebungen, Code-Repositorys und eingebetteten Systemen zu erkennen und so für umfassende Transparenz und Schutz in einem zunehmend dezentralisierten KI-Ökosystem zu sorgen. Sobald eine Bedrohung erkannt wurde, kann IBM Guardium AI Security automatisch geeignete Governance-Workflows über watsonx.governance auslösen.
Zu den jüngsten Updates von IBM Guardium AI Security gehören auch automatisiertes Red Teaming, mit dem Unternehmen Schwachstellen und Fehlkonfigurationen in KI-Anwendungsfällen erkennen und beheben können. Um Risiken wie Code-Injektionen, die Offenlegung sensibler Daten und Datenlecks zu minimieren, können Anwender mit dem Tool benutzerdefinierte Sicherheitsrichtlinien festlegen, die sowohl Eingabe- als auch Ausgabeprompts analysieren. Diese Funktionen sind ab sofort in IBM Guardium AI Security verfügbar. Ihre Integration in watsonx.governance wird im Laufe des Jahres erfolgen.
AllTrue.ai