Den 28 september lanserade Nvidia Open Agent Safety Platform. Den är tänkt för AI-agenter – program som kan planera flera steg och använda verktyg för att faktiskt utföra arbete.
Plattformen innehåller OpenShell, öppen källkod som kör agenten i en avgränsad miljö. Den som ansvarar för systemet bestämmer vilka filer, nätverk och tjänster agenten får nå. Riktiga lösenord och nycklar hålls utanför agentens arbetsyta. En annan del, Sentry, ska övervaka beteendet från separat Nvidia-hårdvara och stoppa försök att gå utanför gränserna.
OpenShell är tillgängligt nu med Apache-licens. Det kräver dock teknisk installation, exempelvis Linux eller en Mac med Apple-chip samt Docker eller liknande. Sentry är en referenslösning för större system och kräver särskild hårdvara. Det här är alltså inget vanligt säkerhetsprogram för hemmadatorn.
Nvidia uppger att Sentry kan isolera en agent på millisekunder. Det är företagets eget påstående och säger inte att alla risker är lösta.
Grundidén är ändå enkel och nyttig: en AI som får handla bör börja med minsta möjliga åtkomst. Nya rättigheter ska vara synliga och kräva ett medvetet godkännande.