Sikker agentisk AI: Hva betyr NVIDIA OpenShell for virksomhetens infrastruktur?

AI-agenter kan bruke virksomhetens kunnskap og verktøy til å utføre oppgaver i flere steg. Det åpner for nye arbeidsprosesser, men stiller også nye krav til sikkerhet og maskinvare. På GTC Berlin presenterte NVIDIA OpenShell Reference Architecture – en arkitektur for å kjøre AI-agenter innenfor rammer virksomheten kontrollerer.

For oss i Nextron er dette et sentralt budskap fra GTC: Når AI får større handlingsrom, må kontrollen over tilgang, utførelse og drift følge med. Virksomheter som planlegger AI-infrastruktur, bør derfor vurdere hele arbeidsflyten agentene skal inngå i.

Hva er agentisk AI – og hvorfor krever det mer kontroll?

Agentisk AI innebærer at et system kan arbeide mot et mål gjennom flere steg: hente informasjon, velge verktøy, utføre handlinger og vurdere resultatet før det fortsetter.

I sin keynote-presentasjon beskrev CEO i NVIDIA, Jensen Huang, fem bestanddeler i en AI-agent:

• Modellen tolker oppgaven og bidrar med resonnering.
• Agentrammeverket, ofte kalt «harness», koordinerer arbeidet og håndterer minnet.
• En sandbox isolerer miljøet der agentrammeverket kjører.
• Kunnskap gir tilgang til relevant informasjon.
• Verktøy gjør det mulig å utføre handlinger og beregninger.

Et tenkt eksempel er en agent som hjelper en serviceavdeling. Den kan sammenstille feilmeldinger, slå opp i dokumentasjon og forberede en arbeidsordre. Da må virksomheten bestemme hvilke systemer agenten får lese fra, hvor den får skrive, og hvilke handlinger som krever godkjenning.

Det er denne overgangen, fra å gi svar til å utføre arbeid, som gjør sikkerhetsarkitekturen så viktig.

NVIDIA OpenShell setter grenser for hva AI-agentene kan gjøre

NVIDIA OpenShell er et åpent programvaremiljø som håndhever regler for agentenes tilgang og utførelse. Utgangspunktet er at tilgang må gis eksplisitt. Agenten skal bare nå ressursene oppgaven krever.

Isolasjon gjennom sandboxing begrenser tilgangen til filer og prosesser. Kontrollmekanismer utenfor agentens eget programvaremiljø vurderer nettverksforespørsler og håndterer tilgang til nødvendige påloggingsopplysninger. Beslutninger om tillatt og avvist tilgang loggføres.

For virksomheten betyr dette at sikkerhetsreglene kan håndheves uavhengig av instruksjonene agenten arbeider etter. En instruksjon om å behandle data forsiktig får dermed støtte av tekniske begrensninger på hva agenten faktisk kan gjøre.

OpenShell må samtidig inngå i virksomhetens øvrige sikkerhetsarbeid. Isolasjon garanterer ikke at agentens vurderinger er riktige. En agent kan gjøre feil også innenfor tillatte rettigheter. Derfor må testing, godkjenninger og tilgang til forretningssystemer tilpasses konsekvensene av oppgaven.

BlueField tilfører uavhengig overvåking og håndheving

På GTC Berlin utvidet NVIDIA perspektivet fra OpenShell-programvaren til en referansearkitektur for agentisk AI. Her kombineres Vera Rubin for modellkjøring, Vera-prosessorer for agentrammeverk og verktøybruk, og BlueField-4 med sikkerhetsprogramvaren NVIDIA Sentry.

BlueField-4 er en DPU – en egen prosessor for blant annet nettverks- og infrastrukturoppgaver. I denne arkitekturen gir den sikkerhetsfunksjonene et separat maskinvaremiljø, utenfor agentens rekkevidde. Sentry kan overvåke aktivitet og bruke BlueField til å håndheve regler og isolere agenter ved oppdagede brudd.

Verdien ligger i adskillelsen: Sikkerhetskontrollen får en uavhengig plass i infrastrukturen. Dette er særlig relevant når mange agenter skal arbeide samtidig mot virksomhetens data og systemer.

Den komplette arkitekturen er rettet mot andre kapasitets- og sikkerhetsbehov enn et mindre utviklingsmiljø. BlueField-4 er derfor ikke et generelt krav for å begynne å utvikle AI-agenter lokalt.

Maskinvare for agentisk AI: Planlegg hele arbeidsflyten

For Nextron er en viktig konsekvens at infrastrukturen må dimensjoneres etter mer enn modellens størrelse. En agent kan veksle mellom modellkjøring, kodeutførelse, datatilgang og venting på andre systemer. Flere samtidige agenter øker belastningen på ulike deler av løsningen.

Før systemvalg bør virksomheten derfor avklare:

• Modeller og GPU-minne: Hvilke modeller skal kjøres lokalt, med hvor mye kontekst og hvor mange samtidige forespørsler?
• CPU og systemminne: Hvilke verktøy og isolerte programvaremiljøer skal agentene bruke?
• Lagring og nettverk: Hvor ligger kunnskapsgrunnlaget, og hvordan skal agentene hente data?
• Tilgang og drift: Hvordan skal identiteter, godkjenninger, logging og overvåking fungere sammen?

Egen AI-infrastruktur gir mulighet til å bestemme hvor modellene kjøres og data behandles. Denne kontrollen må følges opp med riktige konfigurasjoner og rutiner, også når agentene kobles til eksterne tjenester.

En god start er å velge én nyttig arbeidsprosess, avgrense agentens rettigheter og måle både kvalitet og ressursbruk. Det gir et konkret grunnlag for neste investering.

Fra lokal utvikling til AI-servere i produksjon

Nextron tilbyr AI-infrastruktur fra NVIDIA, Supermicro og ASUS. Riktig plattform avhenger av om dere skal utvikle en første agent, dele kapasitet i et fagmiljø eller etablere en tjeneste for mange brukere.

NVIDIA DGX Spark og ASUS Ascent GX10 er aktuelle utgangspunkt for lokal utvikling og utprøving. For større modeller og mer krevende lokale arbeidslaster kan DGX Station-plattformer, som ASUS ExpertCenter Pro eller Supermicro Super AI Station, være relevante. GPU-servere fra Supermicro og ASUS gir flere muligheter når behovene tilsier et sentralt servermiljø.

Valg av maskinvare må ses sammen med programvarestøtte, integrasjoner og sikkerhetskrav. Plattformene har ulike egenskaper og representerer ikke automatisk den komplette OpenShell Reference Architecture.