NVIDIA Open Agent Safety Platform: zo beveilig je AI-agents

NVIDIA Open Agent Safety Platform is een nieuwe beveiligingslaag voor AI-agents. Het platform bestaat vooral uit OpenShell en Sentry. Samen moeten ze voorkomen dat een autonome agent meer doet dan waarvoor hij toestemming heeft gekregen.

Dat wordt belangrijker doordat AI-agents steeds zelfstandiger werken. Ze kunnen bijvoorbeeld bestanden openen, API’s gebruiken, software aansturen en acties uitvoeren zonder dat een medewerker iedere stap goedkeurt.

OpenShell en Sentry pakken daarbij verschillende delen van het probleem aan. OpenShell begrenst de agent tijdens het uitvoeren van taken. Sentry kijkt onafhankelijk mee en kan ingrijpen wanneer een agent toch buiten die grenzen probeert te komen.

Een AI-agent kan niet alleen informatie geven, maar ook zelfstandig acties uitvoeren. Daardoor kan een fout grotere gevolgen hebben dan bij een gewone chatbot.

Een agent kan bijvoorbeeld toegang krijgen tot bedrijfsdata, externe tools of interne systemen. Te ruime rechten kunnen er dan voor zorgen dat de agent informatie gebruikt of acties uitvoert die niet nodig zijn voor zijn taak.

Het verschil tussen een taalmodel en een agent zit vooral in die zelfstandigheid. In ons artikel over het verschil tussen een LLM en een AI-agent leggen we dat uitgebreider uit.

Daarom wordt naast het bouwen van agents ook het beheren van rechten, identiteit en toegang steeds belangrijker. In de training Secure and Govern your AI agent workforce (AB-6007) leer je hoe je deze beveiligingsvragen binnen Microsoft 365 aanpakt.

OpenShell vormt een beveiligde runtimegrens rond de agent. Daardoor kunnen regels buiten het AI-model worden afgedwongen.

Denk bijvoorbeeld aan welke data, tools, API’s en services een agent mag gebruiken. Volgens NVIDIA registreert OpenShell de acties van een agent en controleert het tijdens de uitvoering of deze binnen het ingestelde beleid passen.

Dat is een belangrijk verschil met alleen instructies in een prompt. Een agent vertellen dat hij iets niet mag doen is iets anders dan technisch voorkomen dat hij het kan doen.

OpenShell is bovendien open source. NVIDIA geeft aan dat het naast de eigen infrastructuur ook uitgebreid kan worden naar computeplatformen van andere leveranciers.

Sentry vormt een tweede beveiligingslaag die onafhankelijk van de AI-agent werkt. Het systeem houdt agentgedrag continu in de gaten.

Sentry draait volgens NVIDIA op BlueField-4 DPU’s. Probeert een agent zijn softwarematige grenzen te overschrijden, dan kan Sentry deze agent isoleren en stoppen. NVIDIA stelt dat dit binnen milliseconden kan gebeuren.

Het belangrijke principe hierachter is dat de beveiliging niet volledig afhankelijk is van de agent die beveiligd moet worden. De controle zit buiten de agent.

Je vertrouwt dus niet alleen op goed gedrag van de AI-agent, maar bouwt technische grenzen in die de agent zelf niet zomaar kan omzeilen.

OpenShell probeert ongewenste acties vooraf te begrenzen, terwijl Sentry onafhankelijk controleert en kan ingrijpen als een agent toch buiten die grenzen probeert te gaan.

Samen ontstaat zo een gelaagd beveiligingsmodel: eerst beperk je wat een agent mag doen en daarnaast controleer je of die regels daadwerkelijk worden gevolgd.

Bedrijven hoeven niet direct NVIDIA Open Agent Safety Platform te gebruiken om iets van deze aanpak te leren. Het belangrijkste inzicht is dat AI-agentbeveiliging uit meerdere lagen moet bestaan.

Geef een agent alleen toegang tot informatie die hij echt nodig heeft. Beperk welke systemen en tools hij mag gebruiken. Zorg daarnaast voor logging, monitoring en een manier om in te grijpen wanneer afwijkend gedrag wordt gezien.

Dat sluit ook aan op het bredere principe van least privilege: geef een gebruiker, systeem of agent niet meer rechten dan nodig.

Wie agents inzet om processen te automatiseren, moet beveiliging daarom vanaf het ontwerp meenemen. In ons artikel over AI inzetten om bedrijfsprocessen te automatiseren lees je meer over het kiezen en invoeren van geschikte AI-processen.

Als je verantwoordelijk bent voor AI-agents binnen Microsoft 365, sluit AB-6007 het meest direct op dit onderwerp aan. Je leert onder andere hoe je agents ontdekt en beheert, toegang en identiteit inricht, gegevens beschermt en dreigingen monitort.

Wil je breder kijken naar beveiliging van cloud- en AI-werklasten, dan sluit SC-500 beter aan. Voor het daadwerkelijk ontwerpen en bouwen van uitgebreide multi-agentsystemen zijn AI-103 en AI-500 logischer.

Startel leidt al meer dan 25 jaar IT-professionals op. Door ontwikkelingen rond AI-agents te combineren met bestaande kennis over identiteit, toegang, data en security kun je agents niet alleen slimmer, maar ook beheersbaar inzetten.

NVIDIA Open Agent Safety Platform laat vooral zien dat AI-agentbeveiliging verder gaat dan goede prompts en ingebouwde veiligheidsregels. Zodra agents zelfstandig toegang krijgen tot data, tools en systemen, zijn harde technische grenzen en onafhankelijke monitoring nodig.

OpenShell probeert die grenzen af te dwingen. Sentry controleert vervolgens of agents zich eraan houden. Dat principe is ook buiten het NVIDIA-platform relevant: geef agents alleen de toegang die ze nodig hebben en zorg dat je afwijkend gedrag kunt zien én stoppen.