Jeszcze niedawno w firmach najważniejsze pytanie dotyczące sztucznej inteligencji brzmiało: który model jest najlepszy? Teraz coraz częściej pojawia się drugie: co dzieje się z informacjami, które pracownicy wysyłają do tego modelu? Nvidia i Palantir należą do przedsiębiorstw, które zaczęły stawiać wyraźniejsze granice w korzystaniu z najbardziej zaawansowanych zewnętrznych modeli AI. Według informacji opublikowanych przez Reutersa za The Information Nvidia ogranicza wykorzystanie niektórych modeli Anthropic do mniej wrażliwych zastosowań, natomiast Palantir domaga się bardzo mocnych gwarancji dotyczących zerowej retencji danych. Podobne obawy pojawiają się w Booz Allen Hamilton i innych przedsiębiorstwach pracujących z wartościowym kodem, cyberbezpieczeństwem czy informacjami klientów. Nie oznacza to odwrotu od AI. Wręcz przeciwnie - firmy chcą używać jej coraz więcej, ale jednocześnie coraz dokładniej kontrolować, gdzie trafiają ich dane.
Dlaczego Nvidia ogranicza korzystanie z niektórych zewnętrznych modeli AI?
Według doniesień Nvidia nie zakazała korzystania z modeli Anthropic, ale ogranicza ich zastosowanie tam, gdzie mogą pojawiać się szczególnie wartościowe informacje wewnętrzne. Zaawansowane modele mogą być wykorzystywane przy mniej wrażliwych zadaniach, podczas gdy w takich obszarach jak analiza własnego łańcucha dostaw firma wykorzystuje rozwiązania dające jej większą kontrolę nad danymi. Ma to szczególne znaczenie właśnie dla Nvidii. Przedsiębiorstwo projektuje jedne z najbardziej wartościowych układów półprzewodnikowych na świecie, współpracuje z ogromną siecią producentów i poddostawców oraz posiada informacje o przyszłych produktach, zamówieniach i możliwościach produkcyjnych. Nawet pojedynczy dokument, fragment kodu lub zestaw danych dotyczący dostaw może mieć dużą wartość gospodarczą. W takiej sytuacji przedsiębiorstwo nie patrzy wyłącznie na jakość odpowiedzi modelu. Musi wiedzieć również, gdzie znajdują się dane po zakończeniu zapytania i kto ma techniczną możliwość ich przetwarzania.
Podejście Nvidii dobrze pokazuje jej nowa współpraca z Palantirem dotycząca tzw. sovereign AI. Nvidia wykorzystuje własne modele Nemotron zintegrowane z Palantir Foundry i AIP przy zarządzaniu łańcuchem dostaw. Oficjalnym założeniem projektu jest pozostawienie organizacji kontroli i własności nad informacjami wykorzystywanymi przez sztuczną inteligencję. System może działać zarówno w chmurze, jak i infrastrukturze kontrolowanej przez przedsiębiorstwo. To bardzo ważny kierunek dla rynku AI. Najbardziej zaawansowany model dostępny przez zewnętrzne API może być świetny technicznie, ale w określonych procesach biznesowych ważniejsza może okazać się możliwość uruchomienia nieco innego modelu we własnym środowisku, z jasno określonym przepływem danych. W przypadku najcenniejszej własności intelektualnej kontrola zaczyna konkurować z samą jakością modelu jako podstawowe kryterium zakupu technologii.
Dlaczego Palantir domaga się gwarancji zero data retention dla modeli AI?
Palantir znajduje się w szczególnie wrażliwej sytuacji, ponieważ jego oprogramowanie jest używane przez przedsiębiorstwa i instytucje przetwarzające ogromne ilości danych operacyjnych. Firma współpracuje między innymi z przemysłem, sektorem finansowym oraz administracją publiczną, dlatego konsekwencje niewłaściwego przepływu informacji mogą być znacznie poważniejsze niż w przypadku zwykłego narzędzia biurowego. Według The Information, cytowanego przez Reutersa, Palantir oczekiwał od Anthropic nieodwołalnej gwarancji zero data retention przed szerszym udostępnieniem określonych modeli w swojej platformie. ZDR oznacza w uproszczeniu, że po wykonaniu żądania dostawca modelu nie zachowuje treści promptu i odpowiedzi w swoich systemach. Dla przedsiębiorstwa oznacza to znaczne ograniczenie powierzchni ryzyka - dane potrzebne modelowi do wykonania zadania nie pozostają później na serwerach zewnętrznego dostawcy.
Takie wymagania mogą początkowo wyglądać jak przesadna ostrożność, dopóki nie spojrzymy na rodzaj informacji trafiających dziś do modeli AI. Firmowy agent może analizować kod źródłowy, dokumentację produktu, umowy, raporty finansowe, dane o klientach, incydenty cyberbezpieczeństwa czy szczegóły procesów produkcyjnych. Im lepsze stają się modele, tym bardziej wartościowy materiał firmy chcą im przekazywać. Powstaje więc paradoks: największą wartość AI daje często właśnie wtedy, gdy otrzymuje najbardziej poufny kontekst, ale wtedy jednocześnie rośnie koszt ewentualnego naruszenia bezpieczeństwa. Dlatego Palantir i podobne przedsiębiorstwa próbują przenieść dyskusję z ogólnego zapewnienia „dbamy o prywatność” na techniczne i kontraktowe gwarancje dotyczące przechowywania, szyfrowania i fizycznej lokalizacji danych.
Czy przechowywanie danych przez model AI oznacza, że firma używa ich do trenowania?
Nie. To jedno z najważniejszych rozróżnień w całej dyskusji. Retencja danych i wykorzystywanie danych do treningu modeli to dwa różne procesy. Anthropic podkreśla, że nie wykorzystuje danych klientów korporacyjnych do treningu bez ich wyraźnej zgody. Jednocześnie dla części najbardziej zaawansowanych modeli firma wprowadziła domyślną 30-dniową retencję danych związaną z monitorowaniem bezpieczeństwa. Anthropic tłumaczy tę decyzję koniecznością wykrywania nadużyć rozłożonych na wiele sesji i kont. Pojedyncze zapytanie może wyglądać niewinnie, a dopiero zestawienie kilkudziesięciu interakcji pozwala zauważyć, że użytkownik próbuje wykorzystać model na przykład do przeprowadzenia złożonego cyberataku. Z punktu widzenia bezpieczeństwa dostawcy retencja daje więc możliwość analizy takich wzorców.
Z punktu widzenia klienta korporacyjnego problem wygląda jednak inaczej. Nawet jeśli dane nigdy nie zostaną wykorzystane do uczenia przyszłego modelu, fakt, że przez 30 dni istnieją w systemach zewnętrznej firmy, może być trudny do zaakceptowania. Organizacja musi brać pod uwagę możliwość nieautoryzowanego dostępu, incydentu bezpieczeństwa, żądania prawnego, błędnej konfiguracji czy wymogi regulacyjne dotyczące określonych rodzajów informacji. Dlatego zdanie „nie trenujemy modelu na waszych danych” nie odpowiada już na wszystkie pytania działów bezpieczeństwa. Potrzebne są informacje o czasie przechowywania, miejscu składowania, kluczach szyfrujących, dostępie pracowników dostawcy, logach technicznych oraz procedurze kasowania. Dojrzałe wdrożenie AI zaczyna więc coraz bardziej przypominać klasyczny audyt krytycznej usługi chmurowej.
Dlaczego Anthropic chce przechowywać część rozmów z zaawansowanymi modelami AI?
Anthropic argumentuje, że wraz ze wzrostem możliwości modeli rośnie również skala ich potencjalnego nadużycia. We wrześniowym raporcie firma opisała rzeczywiste przypadki wykorzystywania Claude'a przez aktorów próbujących prowadzić działania związane między innymi z cyberatakami i rozwojem uzbrojenia. Część takich operacji była rozłożona na wiele sesji, a użytkownicy starali się ukrywać prawdziwy cel swoich działań. W takim środowisku całkowite natychmiastowe kasowanie każdej interakcji utrudnia dostawcy zauważenie, że pozornie niezwiązane zapytania są elementami jednego większego działania. Firma wskazuje właśnie ten problem jako powód poszukiwania równowagi pomiędzy zero data retention a możliwością skutecznego monitorowania bezpieczeństwa najbardziej zaawansowanych modeli.
W odpowiedzi na obawy klientów Anthropic rozwija Enterprise Frontier Safeguards. Koncepcja zakłada możliwość wykonywania potrzebnego monitorowania bezpieczeństwa przy jednoczesnym pozostawieniu danych w środowisku chmurowym kontrolowanym przez klienta. Dane mają być chronione kluczami kontrolowanymi przez organizację, a ewentualna weryfikacja przez człowieka ma być domyślnie przeprowadzana przez jej własny zespół bezpieczeństwa, a nie personel Anthropic. Firma zapowiedziała stopniowe wdrażanie rozwiązania dla klientów korporacyjnych. Do czasu szerszej dostępności EFS kwalifikujące się przedsiębiorstwa mogą w określonych wdrożeniach korzystać z Claude Fable 5.1 z zero data retention. Pokazuje to, jak szybko oczekiwania dużych klientów wpływają na samą architekturę usług AI.
Jakie dane firmy najbardziej boją się wysyłać do zewnętrznych modeli AI?
Jedną z najbardziej oczywistych kategorii jest kod źródłowy. Programista korzystający z agenta AI może przekazać mu znaczną część repozytorium, dokumentację architektury oraz informacje o istniejących lukach i systemach wewnętrznych. W przypadku firmy technologicznej taki materiał może zawierać jednocześnie własność intelektualną i dane przydatne potencjalnemu napastnikowi. Podobne znaczenie mają projekty nowych produktów, dane produkcyjne, konfiguracje infrastruktury, umowy z partnerami czy niepublikowane informacje finansowe. Booz Allen Hamilton według doniesień ograniczył wykorzystywanie najbardziej zaawansowanych modeli Anthropic przy pracy nad własnym, zastrzeżonym oprogramowaniem cyberbezpieczeństwa właśnie ze względu na takie obawy. Nie chodzi więc o abstrakcyjną debatę o prywatności, ale o informacje, od których może bezpośrednio zależeć przewaga konkurencyjna przedsiębiorstwa.
Jeszcze trudniejsza sytuacja występuje w sektorach regulowanych. Bank może posiadać dane finansowe klientów, firma farmaceutyczna wyniki badań, kancelaria dokumenty objęte tajemnicą zawodową, a przedsiębiorstwo obronne informacje podlegające szczególnym ograniczeniom. W takich organizacjach sama deklaracja, że zewnętrzny dostawca ma dobre zabezpieczenia, może być niewystarczająca. Trzeba wiedzieć, czy określone informacje w ogóle mogą opuścić daną jurysdykcję lub wydzieloną sieć. To tłumaczy rosnące zainteresowanie modelami uruchamianymi lokalnie, środowiskami air-gapped oraz prywatnymi instancjami chmurowymi. AI nie musi wtedy otrzymywać mniejszych ilości firmowych danych - może otrzymywać nawet więcej, ponieważ organizacja kontroluje infrastrukturę, w której odbywa się ich przetwarzanie.
Czy firmy zaczną przenosić AI z publicznej chmury na własne serwery?
W przypadku najbardziej poufnych zastosowań taki trend jest już widoczny. Nie oznacza to jednak całkowitego odejścia od modeli dostarczanych w chmurze. Bardziej prawdopodobny jest model hybrydowy. Proste zadania, analiza publicznych dokumentów, przygotowywanie tekstów czy niesensytywne programowanie mogą nadal korzystać z najbardziej zaawansowanych modeli komercyjnych. Z kolei procesy obejmujące tajemnice przedsiębiorstwa mogą być obsługiwane przez modele uruchamiane w środowisku kontrolowanym przez organizację. Nvidia i Palantir określają podobne podejście jako sovereign AI. Ich nowa architektura dla łańcuchów dostaw może działać zarówno w chmurze, jak i on-premises, a jednym z jej kluczowych założeń jest zachowanie kontroli nad własnymi danymi.
Przeniesienie AI do własnej infrastruktury nie jest jednak rozwiązaniem darmowym ani prostym. Potrzebne są akceleratory, serwery, administracja, aktualizacje modeli, zabezpieczenia oraz specjaliści potrafiący utrzymywać cały system. Dlatego największe przedsiębiorstwa mogą budować własne stosy technologiczne, podczas gdy mniejsze firmy będą częściej wybierać zabezpieczone środowiska chmurowe. Dobrym przykładem skali takiego przedsięwzięcia jest kancelaria Latham & Watkins, która zdecydowała się na własną infrastrukturę AI opartą na serwerach z GPU Nvidii właśnie po to, aby mieć większą kontrolę nad poufnymi danymi klientów. To pokazuje, że pytanie „jaki model?” może w dużych organizacjach zostać uzupełnione znacznie ważniejszym pytaniem: „gdzie ten model będzie działał?”.
Czy problem z prywatnością danych dotyczy tylko modeli Anthropic?
Nie. Aktualne kontrowersje dotyczą Anthropic dlatego, że zmiana zasad dla najbardziej zaawansowanych modeli stała się bezpośrednim powodem reakcji części przedsiębiorstw. Sam problem obejmuje jednak cały rynek generatywnej AI. Każdy zewnętrzny dostawca musi rozwiązać konflikt pomiędzy prywatnością klienta, bezpieczeństwem platformy oraz potrzebą wykrywania nadużyć. OpenAI również oferuje kwalifikującym się klientom API tryb zero data retention i podkreśla, że dane klientów korporacyjnych nie są domyślnie wykorzystywane do trenowania modeli. Firma rozwija dodatkowo Private Safety Processing, które ma pozwalać wykrywać potencjalnie niebezpieczne wzorce obejmujące wiele interakcji bez zapewniania personelowi OpenAI dostępu do źródłowych treści klienta.
To pokazuje, że cała branża próbuje rozwiązać podobny problem architektoniczny. Bardzo zaawansowany model powinien być jednocześnie bezpieczny przed wykorzystaniem do przestępstw i możliwie prywatny dla legalnego klienta. Te dwa cele mogą czasami pozostawać w napięciu. Jeśli dostawca natychmiast usuwa wszystkie informacje, ma mniejszą możliwość analizowania wieloetapowego nadużycia. Jeśli przechowuje je przez dłuższy czas, zwiększa obawy przedsiębiorstw posiadających bardzo poufne dane. Dlatego kolejnym polem konkurencji między dostawcami modeli może być nie tylko inteligencja AI czy cena miliona tokenów, ale właśnie architektura prywatności: możliwość używania własnych kluczy, lokalnego przechowywania danych, ZDR i izolowanych środowisk obliczeniowych.
Jak firmy mogą bezpiecznie korzystać z AI bez ujawniania najważniejszych danych?
Najważniejszą zmianą organizacyjną jest odejście od traktowania wszystkich zastosowań AI w taki sam sposób. Firma może stworzyć kilka klas informacji i określić, do jakiego rodzaju modeli mogą trafiać. Dane publiczne i zwykłe materiały marketingowe mogą być przetwarzane w szerokim zestawie narzędzi. Informacje wewnętrzne mogą wymagać zatwierdzonych usług korporacyjnych z odpowiednimi umowami. Kod krytycznych systemów, tajemnice handlowe i regulowane dane klientów mogą natomiast trafiać wyłącznie do środowisk z ZDR albo infrastruktury kontrolowanej bezpośrednio przez przedsiębiorstwo. W praktyce oznacza to, że dział bezpieczeństwa powinien kontrolować nie tylko listę zatwierdzonych aplikacji AI, ale również sposób, w jaki są one konfigurowane.
Drugim elementem jest dokładne czytanie zasad dotyczących danych. Określenie „enterprise” samo w sobie nie odpowiada na pytanie, czy informacje są przechowywane. Należy sprawdzić osobno zasady treningu, retencji, monitorowania nadużyć, dostępu personelu, szyfrowania, lokalizacji danych oraz usuwania informacji po zakończeniu umowy. Istotne jest również to, czy rozwiązanie integruje się z firmowym systemem kontroli dostępu i umożliwia audyt działań użytkowników. Największe ryzyko może bowiem nie wynikać z samego modelu, ale z pracownika, który wklei poufny dokument do niezatwierdzonego narzędzia konsumenckiego. Dojrzała polityka AI musi więc łączyć technologię, umowy, szkolenia i klasyfikację informacji zamiast opierać bezpieczeństwo wyłącznie na obietnicy jednego dostawcy.
Czy ochrona danych stanie się ważniejsza niż możliwości samego modelu AI?
W części zastosowań już tak się dzieje. Jeżeli różnica jakości pomiędzy dwoma modelami jest niewielka, ale jeden może działać na serwerach przedsiębiorstwa bez wysyłania poufnych informacji poza kontrolowane środowisko, wybór może być oczywisty. Szczególnie duże organizacje nie muszą korzystać z jednego modelu do wszystkiego. Mogą automatycznie kierować każde zadanie do innego systemu w zależności od jego wrażliwości. Publiczne informacje trafiają wtedy do najlepszego modelu dostępnego przez API, a najbardziej poufne procesy do rozwiązania lokalnego. Powstaje architektura, w której firma wykorzystuje wiele modeli jednocześnie, ale to polityka danych decyduje o tym, który z nich zobaczy konkretny dokument.
Ograniczenia wprowadzane przez Nvidię, Palantir i inne duże przedsiębiorstwa mogą dlatego oznaczać dojrzewanie rynku AI, a nie spadek zainteresowania sztuczną inteligencją. Pierwsza faza rewolucji polegała na sprawdzaniu, co modele potrafią zrobić. Druga zaczyna dotyczyć tego, czy można im bezpiecznie przekazać najcenniejsze informacje przedsiębiorstwa. Dostawca może mieć najlepszy model do programowania, analizy danych czy pracy agentowej, ale jeśli dział bezpieczeństwa nie zaakceptuje sposobu przechowywania informacji, technologia nie trafi do najbardziej wartościowych procesów. W świecie korporacyjnej AI przewaga może więc coraz częściej zależeć nie tylko od parametrów modelu. Równie ważną funkcją produktu staje się możliwość wiarygodnego powiedzenia klientowi: twoje dane pozostają pod twoją kontrolą.
