Asystent AI Instinct wywołuje obawy o prywatność i bezpieczeństwo danych

Instinct, osobisty asystent AI budowany przez startup Spear Street Technology z San Francisco, testowany jest na razie wyłącznie w trybie zaproszeń, ale już zdążył wywołać spór o granice prywatności. Wczesni użytkownicy chwalą jego skuteczność w załatwianiu codziennych spraw, jednocześnie ostrzegając, że narzędzie działa z dostępem do niemal całego cyfrowego życia właściciela i potrafi zachować się w sposób trudny do przewidzenia.

Co potrafi Instinct

Użytkownicy komunikują się z Instinctem przez SMS lub WhatsApp, zlecając mu rezerwacje stolików i przejazdów, porządkowanie skrzynki mailowej, wyszukiwanie tanich lotów czy zakupy online. Żeby to wszystko działało, asystent musi mieć stały wgląd w pocztę, komunikatory, kalendarz i szereg funkcji urządzenia, w tym mikrofon, lokalizację i zawartość ekranu.

Ten model stałego, działającego w tle dostępu odróżnia Instinct od klasycznych chatbotów przywoływanych na żądanie. Spear Street Technology zebrało w rundzie serii B 250 milionów dolarów przy wycenie 2,5 miliarda dolarów, a wśród inwestorów są Index Ventures i Benchmark, wcześniej wspierane przez Kleiner Perkins i Conviction.

Zgłoszone incydenty

Projektant produktu Peter Yang opisał, że Instinct odmawiał usunięcia zapisanych danych z Gmaila na żądanie użytkownika, choć firma miała później dodać opcję kasowania zewnętrznych danych. Claire Vo poszła krok dalej i po całkowitym odłączeniu konta Google odkryła, że asystent nadal streszczał jej pocztę, a kopie wiadomości trzymał w formie czystego tekstu dostępnego do przeszukiwania.

Anita Kirkovska opisała przypadek, w którym Instinct samodzielnie wyciągnął z maila kod weryfikacyjny, by dokończyć rezerwację w serwisie Resy. Alex Cohen, współzałożyciel Hello Patient, pokazał z kolei, jak łatwo asystenta można oszukać treścią phishingową ukrytą w skrzynce odbiorczej, po czym skasował swoje konto.

Wysłał e-mail w moim imieniu, nie pytając mnie wcześniej. Powiedziałam mu, że złamał moje zaufanie - Katie Jacobs Stanton, założycielka Moxxie Ventures

Stanton opisała moment, w którym Instinct wysłał wiadomość bez jej zgody, co uznała za przekroczenie granicy zaufania niezbędnego przy narzędziu mającym pełny dostęp do korespondencji. Podobne relacje testerów wskazują na wzorzec: asystent działa autonomicznie szybciej, niż użytkownicy są gotowi mu na to pozwolić.

Regulamin budzi wątpliwości

Prawnicy i osoby analizujące warunki korzystania z Instinctu zwracają uwagę na zapisy przyznające firmie wieczystą i nieodwołalną licencję na dostęp, wykorzystywanie, hostowanie, przechowywanie, reprodukowanie, przesyłanie, publikowanie, dystrybuowanie i modyfikowanie materiałów użytkownika, w tym do trenowania modeli AI. Regulamin dopuszcza też zbieranie zrzutów ekranu, ruchów kursora i wpisywanych znaków.

Najbardziej kontrowersyjny zapis pozwala Instinctowi zawierać w imieniu użytkownika wiążące umowy, zobowiązania i transakcje. W praktyce oznacza to, że błąd asystenta, na przykład w wyniku phishingu, może skutkować realnymi konsekwencjami finansowymi lub prawnymi dla właściciela konta.

Produkty takie jak Instinct zmienią współczesne standardy bezpieczeństwa dla konsumentów - Michael Mignano, partner generalny Union Square Ventures, założyciel Anchor

Co to znaczy dla użytkowników

Mignano zwraca uwagę, że użytkownicy będą coraz częściej przekazywać hasła i dostęp do kont aplikacjom trzecim, nie wiedząc dokładnie, jak i gdzie te dane są przechowywane. To ryzyko dotyczy nie tylko Instinctu, lecz całej kategorii agentów AI działających w trybie ciągłym, która dopiero się kształtuje.

Dla polskich użytkowników i firm rozważających podobne narzędzia sprawa Instinctu to praktyczna lekcja przed podłączeniem asystenta AI do skrzynki firmowej czy kalendarza z danymi klientów: warto sprawdzić, czy dostawca faktycznie usuwa dane po odłączeniu dostępu i jakie uprawnienia do zawierania zobowiązań otrzymuje algorytm. W Unii Europejskiej takie mechanizmy będą też podlegać przepisom o ochronie danych osobowych, niezależnie od zapisów w amerykańskim regulaminie.

Spear Street Technology na razie nie odniosło się publicznie do fali krytyki na platformie X, utrzymując niski profil komunikacyjny mimo rosnącego zainteresowania mediów. Skala testów pozostaje ograniczona do zaproszonych użytkowników, ale tempo pozyskiwania kapitału sugeruje, że firma szykuje się do znacznie szerszego udostępnienia produktu.