Hvilke data som aldri skal forlate huset, og hvordan du avgjør det

Én virksomhet forbyr å sende interne data til eksterne KI-tjenester. Folk fortsetter å bruke dem likevel, på private kontoer, fordi regelen stopper en oppsummering av en offentlig pressemelding like kontant som lønnsfilen. En annen virksomhet tillater alt, og noen limer inn en kundekontrakt, priser inkludert, i en chatbot for forbrukere for å rydde i formuleringene.

Begge retningslinjene svikter av samme grunn. De ble skrevet om verktøy, ikke om data. «Kan vi bruke modell X?» har ikke noe godt svar. «Kan denne typen data gå til en databehandler utenfor vår kontroll, på disse vilkårene?» har det, og det kan besvares én gang per type data i stedet for én gang per forespørsel.

«Huset» er her en forkortelse for infrastruktur virksomheten kontrollerer: egne servere, eller leid maskinvare der ingen andre har nøklene.

Der retningslinjer for data svikter

Én regel for alt. For streng, og folk går rundt den. For løs, og skaden er skjedd før noen merker det. Uansett slutter retningslinjen å beskrive det som faktisk skjer.

En klassifisering ingen kan bruke. Fem fortrolighetsnivåer er definert i en PDF. Ingen på lageret eller i salgsteamet vet hvilket nivå en følgeseddel har, så alt behandles som det nivået som er mest praktisk den dagen.

Avledede data glemmes. Ledetekster, logger, oppsummeringer, søkeindekser og embeddinger bærer alle med seg innholdet de ble laget av. En søkeindeks over kontrakter bør behandles som kontraktene.

Vilkårene tas for gitt. Om en leverandør kan beholde det den mottar, og om den kan bruke det til trening, avhenger av produktet og avtalen du har, ikke av merkevaren. Les dem.

Personopplysninger behandles som én kategori til. Etter GDPR krever bruk av en ekstern databehandler for personopplysninger en databehandleravtale, og overføring av slike data ut av Det europeiske økonomiske samarbeidsområdet krever et overføringsgrunnlag, for eksempel en tilstrekkelighetsbeslutning eller standard personvernbestemmelser. Det må være på plass før den første forespørselen sendes, ikke etterpå.

Det glemmes hva hemmelighold beskytter. Etter EUs regler om forretningshemmeligheter er informasjon beskyttet blant annet fordi innehaveren har tatt rimelige skritt for å holde den hemmelig. Å lime den inn i en tjeneste ingen kontrollerer, kan svekke det argumentet akkurat når det trengs mest.

En regel folk kan bruke

Definer klassene ut fra hva det ville kostet om dataene kom ut, ikke ut fra merkelapper, og hold dem få.

1. Offentlig, eller ment å være det. Publisert materiale, markedsføringstekster, offentlige innleveringer. Hvilken som helst modell.
2. Intern. Rutinemessig driftsinformasjon: prosedyrer, generell korrespondanse, interne notater uten kunde- eller persondetaljer. Eksterne modeller under en bedriftsavtale som utelukker trening på dine data og fastsetter lagringstid.
3. Fortrolig. Kontrakter, priser, marginer, kundelister, personopplysninger, upubliserte planer, kildekode. Bare databehandlere med en avtale som oppfyller dine lovpålagte forpliktelser (for personopplysninger: ordentlige vilkår for behandling og overføring), eller modeller du kjører selv.
4. Forlater aldri huset. Data der det ville vært alvorlig og uopprettelig om de kom ut: konkrete forretningshemmeligheter, påloggingsdata og nøkler, særlige kategorier av personopplysninger du ikke har behov for å dele, detaljer om din egen sikkerhet. Behandles bare på infrastruktur du kontrollerer, av modeller du kjører, og hver tilgang loggføres.

Knytt deretter klassen til typen objekt, ikke til enkeltfiler. Hvis virksomhetens modell vet at noe er en lønn, en kontraktspris eller en kundereklamasjon, kan rutingsbeslutningen tas automatisk hver gang en agent rører det, i stedet for at hver enkelt må huske retningslinjen.

Slik er Hurukan utformet. Superintelligens-laget ruter hver oppgave til en modell som er tillatt for dataene det gjelder, inkludert lokale modeller der data ikke får forlate huset. Sikkerhet og suverenitet-laget håndhever tilganger på serveren og loggfører hver tilgang. Begge er under utvikling. Det bredere argumentet for å designe inn kontroll i stedet for å kjøpe den, finner du i suverenitet er en arkitekturbeslutning, og den praktiske siden av å kjøre modeller selv i små modeller på egen maskinvare.

En test du kan gjøre i dag

List opp de tjue typene objekter virksomheten din håndterer mest: kunde, ordre, faktura, prisliste, ansatt, kontrakt, tegning, supportsak og så videre. Skriv ved siden av hver av dem klassen fra én til fire og en begrunnelse på én setning.

Finn deretter ut hvilke KI-verktøy folk faktisk bruker. Spør dem, ikke gjett. Noter for hvert verktøy hvilke dataklasser som når frem til det, og under hvilke avtalevilkår.

Det kommer to lister ut av dette. Hvert objekt i klasse tre eller fire som når et verktøy uten tilsvarende vilkår, står på prioriteringslisten din for denne måneden. Hvert objekt i klasse én som er sperret fra et nyttig verktøy, er grunnen til at folk går rundt retningslinjen din, og å rette det er det som gjør resten av retningslinjen troverdig.