Które dane nie mogą opuścić firmy i jak o tym zdecydować

Jedna firma zabrania wysyłania jakichkolwiek danych wewnętrznych do zewnętrznych usług AI. Ludzie i tak z nich korzystają, na prywatnych kontach, bo zakaz blokuje streszczenie publicznej informacji prasowej równie stanowczo jak plik z wynagrodzeniami. Druga firma pozwala na wszystko i ktoś wkleja umowę z klientem, razem z cenami, do konsumenckiego czatu, żeby wygładzić sformułowania.

Obie zasady zawodzą z tego samego powodu. Napisano je o narzędziach, a nie o danych. Pytanie „czy możemy używać modelu X?” nie ma dobrej odpowiedzi. Pytanie „czy ten rodzaj danych może trafić do podmiotu przetwarzającego poza naszą kontrolą, na takich warunkach?” ma, i da się na nie odpowiedzieć raz dla każdego rodzaju danych, a nie przy każdym zapytaniu.

„Nie opuszczać firmy” oznacza tu infrastrukturę, którą firma kontroluje: własne serwery albo wynajęty sprzęt, do którego nikt inny nie ma kluczy.

Gdzie zawodzą zasady dotyczące danych

Jedna reguła na wszystko. Zbyt surowa, a ludzie ją obchodzą. Zbyt luźna, a szkoda jest wyrządzona, zanim ktoś ją zauważy. Tak czy inaczej zasada przestaje opisywać rzeczywistość.

Klasyfikacja, której nikt nie umie zastosować. Pięć poziomów poufności zdefiniowano w PDF-ie. Nikt w magazynie ani w dziale sprzedaży nie wie, na którym poziomie jest dokument dostawy, więc wszystko traktuje się według poziomu, który danego dnia jest najwygodniejszy.

Pomijanie danych pochodnych. Prompty, logi, streszczenia, indeksy wyszukiwania i embeddingi niosą treść, z której powstały. Indeks wyszukiwania umów należy traktować jak same umowy.

Zakładanie warunków. To, czy dostawca może przechowywać to, co dostaje, i czy może tego używać do trenowania, zależy od produktu i od Twojej umowy, a nie od marki. Przeczytaj je.

Dane osobowe jako jeszcze jedna kategoria. Zgodnie z RODO korzystanie z zewnętrznego podmiotu przetwarzającego dane osobowe wymaga umowy powierzenia, a przekazanie tych danych poza Europejski Obszar Gospodarczy wymaga podstawy przekazania, takiej jak decyzja stwierdzająca odpowiedni stopień ochrony albo standardowe klauzule umowne. To trzeba ustalić przed wysłaniem pierwszego zapytania, a nie po nim.

Zapominanie, co chroni tajemnica. Według unijnych przepisów o tajemnicy przedsiębiorstwa informacja jest chroniona między innymi dlatego, że jej posiadacz podjął rozsądne działania, żeby utrzymać ją w poufności. Wklejenie jej do usługi, nad którą nikt nie panuje, może osłabić ten argument właśnie wtedy, gdy będzie najbardziej potrzebny.

Reguła, którą ludzie umieją stosować

Określ klasy według tego, ile kosztowałoby ujawnienie, a nie według etykiet, i niech będzie ich niewiele.

1. Publiczne albo przeznaczone do publikacji. Opublikowane materiały, teksty marketingowe, publiczne sprawozdania. Dowolny model.
2. Wewnętrzne. Rutynowe informacje operacyjne: procedury, ogólna korespondencja, notatki wewnętrzne bez danych klientów i osób. Zewnętrzne modele na umowie biznesowej, która wyklucza trenowanie na Twoich danych i określa czas przechowywania.
3. Poufne. Umowy, ceny, marże, listy klientów, dane osobowe, nieogłoszone plany, kod źródłowy. Wyłącznie podmioty, których umowa spełnia Twoje obowiązki prawne (dla danych osobowych: właściwe warunki powierzenia i przekazania), albo modele uruchamiane u siebie.
4. Nigdy nie wychodzą. Dane, których ujawnienie byłoby poważne i nieodwracalne: konkretne tajemnice przedsiębiorstwa, hasła i klucze, szczególne kategorie danych osobowych, których nie musisz nikomu udostępniać, szczegóły własnych zabezpieczeń. Przetwarzane wyłącznie na infrastrukturze, którą kontrolujesz, przez modele, które uruchamiasz, z zapisem każdego dostępu.

Potem przypisz klasę do rodzaju obiektu, a nie do pojedynczych plików. Jeśli model firmy wie, że coś jest wynagrodzeniem, ceną z umowy albo reklamacją klienta, decyzję o tym, dokąd to może trafić, można podejmować automatycznie za każdym razem, gdy dotyka tego agent, zamiast polegać na tym, że każdy pamięta zasady.

Tak jest projektowany Hurukan. Warstwa Superinteligencji kieruje każde zadanie do modelu dopuszczonego dla danych, których ono dotyczy, w tym do modeli lokalnych tam, gdzie dane nie mogą wyjść. Warstwa Bezpieczeństwo i suwerenność egzekwuje uprawnienia na serwerze i zapisuje każdy dostęp. Obie są w budowie. Szerszy argument za tym, żeby kontrolę projektować, a nie kupować, jest w tekście suwerenność to decyzja architektoniczna, a praktyczna strona uruchamiania modeli u siebie w tekście małe modele na własnym sprzęcie.

Test na dziś

Wypisz dwadzieścia rodzajów obiektów, z którymi Twoja firma ma do czynienia najczęściej: klient, zamówienie, faktura, cennik, pracownik, umowa, rysunek, zgłoszenie serwisowe i tak dalej. Przy każdym zapisz klasę od jednego do czterech i powód w jednym zdaniu.

Potem dowiedz się, z jakich narzędzi AI ludzie naprawdę korzystają. Zapytaj ich, nie zgaduj. Przy każdym narzędziu zapisz, dane których klas do niego trafiają i na jakich warunkach umownych.

Wyjdą z tego dwie listy. Każdy obiekt klasy trzeciej albo czwartej, który trafia do narzędzia bez pasujących warunków, to Twoja lista priorytetów na ten miesiąc. Każdy obiekt klasy pierwszej zablokowany przed użytecznym narzędziem to powód, dla którego ludzie obchodzą Twoje zasady, a naprawienie tego sprawia, że reszta zasad staje się wiarygodna.