»Hvad tjener min chef egentlig?« Et ubehageligt spørgsmål til virksomhedens AI. Det afgørende modspørgsmål er: Hvilke dokumenter må kontoen bag forespørgslen faktisk læse?
En mulig fejl begynder længe før AI.
Forestil dig en fiktiv virksomhed. I en gammel personalemappe ligger en lønoversigt. Ved en tidligere flytning blev mappen delt med en generel medarbejdergruppe. Ingen bruger længere linket. Delingen findes stadig.
Nu indføres en søgning i virksomhedens viden. Hvis kilden er tilsluttet, teknisk kan behandles og er tilgængelig for den spørgende konto, kan relevante uddrag indgå i et svar. Det kræver ikke, at en ny sikkerhedsbarriere brydes. AI gør en gammel rettighedsfejl mere synlig.
Dette er et hypotetisk eksempel. Det beskriver hverken en faktisk DAXS-kundesag eller en generelt garanteret adfærd i et bestemt produkt. Uden en passende kilde og adgangsmulighed kan AI ikke kende det reelle beløb pålideligt; et tal, som alligevel angives, kan være opdigtet.
Tre personer, tre forskellige udgangspunkter.
Den personaleansvarlige må læse dokumentet som led i sin opgave. En anden person har ikke denne ret; vedkommendes søgning skal udelukke kilden. En tredje person har teknisk adgang på grund af den forkerte gruppedeling. Her skal selve delingen rettes. Modellen kan ikke pålideligt udlede en forkert organisatorisk beslutning af en prompt.
Et korrekt svar kan være en forkert videregivelse.
Mange AI-test vurderer, om et svar lyder korrekt og er underbygget med dokumenter. Ved fortrolige oplysninger skal det desuden kontrolleres, om netop denne person må se dokumentationen. Et faktuelt korrekt lønsvar kan stadig uberettiget afsløre noget, som kun en snæver kreds i virksomheden har brug for.
Omvendt beviser et afvist svar endnu ikke en effektiv beskyttelse. Måske blev dokumentet blot ikke fundet. Adgangstest skal derfor omfatte kilden, søgeindekset, direkte opslag og indirekte formuleringer. En enkelt venlig besked som »Disse data er fortrolige« er ikke en pålidelig rettighedskontrol.
Beregninger kræver samme omhu.
Emnet gælder ikke kun løn. En medarbejder kan spørge efter den fakturerede timepris for sit arbejde, en kundes vilkår eller en intern projektmargin. Oplysningerne kan stå i tilbud og regneark. Faktureret sats, dækningsbidrag og virksomhedens overskud er forskellige størrelser; et enkelt fundet tal kan ikke bruges til seriøst at udlede fortjenesten på en arbejdstime.
Derfor skal både kilderettighederne og kvaliteten af konklusionerne være korrekte. Oprydning i fortrolige arkiver og faglig kontrol af resultaterne er to forskellige opgaver.
Hvad virksomheder kan kontrollere før piloten.
- Udpeg personale-, økonomi- og strategidokumenter og placér ansvaret.
- Kontrollér effektive rettigheder, herunder grupper, nedarvning og delingslinks.
- Forbered testkonti med tilladt, blokeret og utilsigtet for bred adgang.
- Kontrollér, om rettigheder håndhæves, før uddrag sendes til modellen.
- Følg tilbagetrukne delinger op i indeks, cacher, eksporter og delte svar.
For Microsoft Copilot med Microsoft 365-data beskriver producenten brug af indhold inden for brugerens rettigheder. Netop derfor skal for brede oprindelige rettigheder rettes før indførelse. Andre chatprodukter og supplerende agenter skal kontrolleres efter deres konkrete data- og kontomodel.
Et fornuftigt næste skridt.
DAXS kan planlægge en afgrænset AI-sikkerhedskontrol med kildeinventar, rettighedskontrol og dokumenterede negative test. Målet er en gennemskuelig indførelsesstatus: Hvilke kilder er godkendt til hvilke brugere, hvilke mangler kendes, og hvem retter dem?
Den faglige side om AI-sikkerhed og AI Oversharing forklarer kontrollerne. For søgearkitekturen supplerer Virksomhedsviden og RAG sammenhængen.
Kilder: Microsoft: data og tilladelser · OWASP: videregivelse af følsomme oplysninger.
