Amerykańska firma Anthropic poinformowała w piątek, że zablokowała dostęp do swoich najnowocześniejszych modeli sztucznej inteligencji, Fable 5 i Mythos 5. Decyzja nie była zwykłą zmianą regulaminu ani reakcją na wykryty cyberatak. Firma otrzymała polecenie rządu Stanów Zjednoczonych, które nakazywało zawieszenie dostępu dla osób nieposiadających amerykańskiego obywatelstwa.

Według informacji opisanych między innymi przez The Verge i Axios nakaz oparto na Defense Production Act, ustawie pozwalającej władzom kierować działaniami przedsiębiorstw w sprawach uznanych za istotne dla bezpieczeństwa narodowego. Anthropic miał otrzymać polecenie na początku tygodnia i dostać krótki termin na jego wykonanie. Firma oświadczyła, że zastosowała się do nakazu, choć publicznie zakwestionowała jego zasadność i zakres.

Nakaz objął ludzi, nie tylko państwa

Ograniczenie okazało się szersze, niż mogłoby wynikać z określenia „dostęp zagraniczny”. Objęło nie tylko użytkowników łączących się z innych państw, ale również cudzoziemców pracujących w Stanach Zjednoczonych. Według relacji prasowych dotyczyło także osób posiadających prawo stałego pobytu. W międzynarodowej branży technologicznej oznacza to, że część inżynierów, badaczy i klientów została odcięta ze względu na status obywatelski, a nie miejsce przebywania czy sposób użycia systemu.

Najpierw wyłączono modele wszystkim

Aby spełnić warunki w bardzo krótkim czasie, Anthropic początkowo wyłączył Fable 5 i Mythos 5 dla wszystkich klientów. Firma przyznała, że nie potrafiła od razu niezawodnie oddzielić użytkowników amerykańskich od osób objętych nakazem. W sobotę część dostępu zaczęła wracać, ale dla uprawnionych klientów sytuacja nadal zależała od technicznej weryfikacji i zmian w sposobie udostępniania modeli.

Fable 5 jest opisywany jako model przeznaczony do zastosowań konsumenckich, natomiast Mythos 5 ma być większym systemem używanym do badań naukowych i zaawansowanych analiz. Drugi z modeli wzbudza szczególne zainteresowanie władz, ponieważ narzędzia zdolne do pracy z dużymi zbiorami danych, kodem i wiedzą specjalistyczną mogą mieć zastosowanie zarówno cywilne, jak i wojskowe.

Model dostępny przez chmurę staje się eksportem

Bezpośrednim tłem decyzji jest rywalizacja technologiczna Stanów Zjednoczonych z Chinami. Amerykańskie władze od lat ograniczają eksport najbardziej wydajnych układów scalonych oraz sprzętu potrzebnego do trenowania dużych modeli. Objęcie kontrolą dostępu do gotowego systemu AI przesuwa granicę: przedmiotem ochrony przestaje być wyłącznie fizyczny procesor, a staje się nim także zdolność obliczeniowa dostępna przez internet.

Dla klientów biznesowych najważniejszym problemem jest nieprzewidywalność. Przedsiębiorstwo może zbudować proces na konkretnym modelu, przeprowadzić testy bezpieczeństwa i podpisać umowy, a następnie utracić dostęp z powodu decyzji, której zakres nie wynikał z warunków usługi. Nawet krótkie wyłączenie może zatrzymać analizę danych, tworzenie oprogramowania, obsługę klienta lub badania prowadzone przez wiele instytucji.

Międzynarodowe zespoły trafiają pod nowe kontrole

Jeszcze trudniejsza jest sytuacja samego Anthropic. Laboratoria AI zatrudniają specjalistów z całego świata, a badania są prowadzone przez zespoły mieszane pod względem obywatelstwa. Jeśli cudzoziemski pracownik nie może korzystać z modelu rozwijanego przez własną firmę, konieczne stają się nowe podziały dostępu, osobne środowiska pracy oraz kontrola informacji przypominająca procedury znane z przemysłu obronnego.

Nakaz rodzi również pytania o użytkowników w państwach sojuszniczych. Ograniczenie oparte wyłącznie na obywatelstwie może traktować podobnie badacza z europejskiego uniwersytetu, inżyniera pracującego dla amerykańskiej spółki i podmiot próbujący przenieść technologię do państwa objętego restrykcjami. Tak szeroka konstrukcja jest łatwiejsza do szybkiego wykonania, lecz słabiej odpowiada rzeczywistemu poziomowi ryzyka.

Nie jest jeszcze jasne, jak długo ograniczenia pozostaną w mocy i jaki mechanizm pozwoli firmie sprawdzać uprawnienia użytkowników. Weryfikacja obywatelstwa wymaga przetwarzania znacznie bardziej wrażliwych danych niż standardowe potwierdzenie adresu e-mail czy płatności. Pojawia się też pytanie, co stanie się z projektami prowadzonymi wspólnie przez osoby z kilku państw i z danymi zapisanymi przed blokadą.

Globalna usługa może rozpaść się na strefy

Sprawa Fable 5 i Mythos 5 wykracza więc poza jedną firmę. Jeśli decyzja utrzyma się jako precedens, inni dostawcy zaawansowanych modeli będą musieli przygotować się na podobne polecenia. Dostęp do najmocniejszych systemów może zostać podzielony według obywatelstwa, kraju siedziby klienta, branży i rodzaju wykonywanego zadania. Chmura obliczeniowa przestanie być jednolitą usługą globalną, a zacznie przypominać sieć kontrolowanych stref technologicznych.

Dla Europy jest to argument na rzecz rozwijania własnych modeli i infrastruktury. Nie chodzi wyłącznie o ambicję stworzenia lokalnego odpowiednika amerykańskich laboratoriów. Instytucja publiczna, firma farmaceutyczna lub uczelnia nie może zakładać, że dostęp do kluczowego narzędzia pozostanie nieprzerwany, jeśli decyzję o nim może z dnia na dzień zmienić obcy rząd. Technologiczna zależność staje się wówczas ryzykiem operacyjnym i politycznym.