AI-agenter er i ferd med å bli en naturlig del av arbeidshverdagen. I motsetning til tradisjonelle AI-verktøy kan de utføre handlinger på vegne av brukeren – noe som gir nye muligheter, men også nye sikkerhetsutfordringer. I en ny artikkel beskriver Microsoft hvilke risikoer virksomheter bør være oppmerksomme på.
Fra å lese til å handle
Tradisjonelle AI-verktøy brukes hovedsakelig til å analysere og oppsummere informasjon. AI-agenter går et steg videre ved å kunne utføre oppgaver som å hente data, sende e-post, oppdatere systemer og samhandle med andre applikasjoner. Dette gjør dem til kraftige hjelpemidler, men også til attraktive mål for angripere.
Nye angrepsmetoder
Microsoft trekker blant annet frem en angrepsmetode kalt MCP tool poisoning. Her kan ondsinnede eller manipulerte verktøy påvirke AI-agenten til å lekke sensitiv informasjon eller utføre handlinger som brukeren ikke har til hensikt. Siden agenten ofte har legitime tilganger til virksomhetens systemer, kan slike angrep være vanskelige å oppdage.
AI-agenter må styres på samme måte som andre identiteter
For å redusere risikoen anbefaler Microsoft at AI-agenter behandles som andre identiteter i IT-miljøet. Det innebærer blant annet å begrense hvilke rettigheter de har, kontrollere hvilke verktøy de får tilgang til og overvåke aktivitetene deres kontinuerlig.
Sikker bruk av AI krever gode rutiner
Etter hvert som AI-agenter blir mer utbredt, blir sikker styring en viktig del av virksomhetens sikkerhetsarbeid. Microsoft understreker at tydelige retningslinjer, prinsippet om minste privilegium og kontinuerlig overvåking er sentrale tiltak for å sikre at AI kan brukes på en trygg og kontrollert måte.
