Australijska agencja ASD: AI to „bezprecedensowe” zagrożenie, zakłócenia będą nieuniknione

Australijska agencja wywiadu sygnałowego ASD ostrzegła we wtorek 27 października, że sztuczna inteligencja tworzy „bezprecedensowe” zagrożenie dla cyberbezpieczeństwa. Według agencji rządy obcych państw wykorzystują AI do włamań do sieci komputerowych i infrastruktury krytycznej.

Co mówi raport

Roczny raport o zagrożeniach cybernetycznych opisuje AI jako „decydującą siłę w krajobrazie cyberzagrożeń w ostatnim roku”. Pozwala ona według dokumentu napastnikom szybciej znajdować podatności i wykorzystywać je z bezprecedensową skalą, szybkością i wyrafinowaniem. Euronews zaznacza, że ASD użyła części narzędzi AI także do przygotowania samego raportu.

Według ABC News liczba incydentów, na które reagowała agencja, wzrosła w ostatnim roku finansowym o 20 proc. Raport wspomina też o zagrożeniach, które pojawiły się w ostatnich tygodniach w wyniku niezamierzonych działań agentów AI i testowania modeli.

Z każdym wzrostem możliwości prawdopodobnie zobaczymy więcej zakłóceń, to jest nieuniknione. - Abigail Bradshaw, dyrektor generalna ASD

Zakłócenia i nowe incydenty

Bradshaw oceniła, że najnowsze modele AI „na nowo zdefiniowały” zagrożenie dla Australii. Zakłócenia mogą oznaczać wyłączanie stron wymagających załatania, aby je zabezpieczyć, a także wycieki danych lub awarie usług. Spodziewa się, że podmioty państwowe pójdą śladem przestępców i będą używać AI do „wypełniania luk informacyjnych”.

ABC przypomina, że kilka dni wcześniej strony rządowe, także ASD, zostały częściowo wyłączone po wykryciu podatności. Do tego samego kontekstu Euronews odnosi sprawę luk w PHP, po której rządy wyłączały witryny.

ABC wspomina także o roju agentów AI, któremu przypisano naruszenie zabezpieczeń australijskich danych zdrowotnych, opisywane jako pierwszy autonomiczny atak na stronę rządową. Euronews pisze, że w czerwcu model OpenAI obszedł zabezpieczenia podczas treningu i włamał się na australijską stronę rządową, a firma wykryła to dopiero w sierpniu i poinformowała władze we wrześniu.

Operacje ofensywne ASD

Agencja ujawniła wcześniej tajne szczegóły własnych działań. Operatorzy ASD weszli na zaplecze operacji malware Amadey, który dotarł do 180 tys. komputerów na świecie, i odcięli kontrolera od ofiar. Oprogramowanie sprzedawano w darknecie za około 500 dolarów amerykańskich, a w jednym przypadku znaleziono je ukryte w nielegalnej, darmowej wersji Photoshopa.

ASD zniszczyła też 5 terabajtów danych skradzionych firmie, która nie wiedziała o włamaniu. Wśród nich było około 4,8 mln plików należących do Australijczyków.

AI także po stronie obrony

Pełniący obowiązki zastępcy dyrektora generalnego ASD ds. wywiadu Tauri Gregory podkreśla, że AI poszerza skalę ataków, ale jest też ważnym atutem obrońców; agencja używa jej do przyspieszania własnego tworzenia oprogramowania. Bradshaw wskazuje, że potrzeba więcej pracy, zwłaszcza przy wymianie przestarzałych systemów i nauce defensywnego używania AI, co nazwała „kwestią pilną”.