DeepLocker - AI wykorzystana do ataku

Przemysław Kocięcki
DeepLocker - AI wykorzystana do ataku

Obserwując trendy ostatnich lat w branży IT można dojść do wniosku, że wchodzimy w nową erę cyfryzacji - erę sztucznej inteligencji, uczenia maszynowego i sieci neuronowych. Choć AI znacznie różni się od wizji przedstawianej w filmach, należy pamiętać, że to dopiero początek naszej przygody z inteligentnymi programami.

Badacze z IBM nie siedzą z założonymi rękami i testują możliwości sztucznej inteligencji. Póki co nie grozi nam scenariusz filmu Terminator, ale IBM dowodzi, że już teraz jesteśmy w stanie wykorzystać sieć neuronową by poważnie zaszkodzić innym ludziom. IBM prowadzi badania nad możliwością użycia złośliwego oprogramowania, zarządzanego przez AI. Robi to w obawie, że przestępcy także mogą opracowywać podobne metody działania - jeśli chcemy zabezpieczyć się przed nowoczesnymi atakami, musimy poznać ich możliwości. Zadanie jest o tyle trudne, że w przypadku AI praktycznie niemożliwe jest dokonanie inżynierii wstecznej - nie da się jednoznacznie wskazać przyczyny, dla której AI podjęła w danym momencie taką, a nie inną decyzję.

Do tej pory złośliwe oprogramowanie nie mogło zostać wykorzystane do ataku na konkretną osobę czy organizację - celem było zwykle zarażenie jak największej liczby komputerów. Ataki były wymierzane w losowe grupu użytkowników, rozprzestrzeniały się mailowo, czy były umieszczane na często odwiedzanych stronach i w aplikacjach.

Testowy malware IBM o nazwie DeepLocker ma zupełnie przeciwne zadanie - zamiast atakować wszystkie komputery jak leci, jego celem jest konkretny człowiek, lub grupa ludzi. Program pozostaje w ukryciu aż do momentu wystąpienia okoliczności sprzyjających atakowi. Taką okolicznością może być choćby rozpoznanie twarzy człowieka siedzącego przed komputerem, czy rozpoznanie głosu przebywających w pobliżu ludzi. Jednocześnie analitycy odpowiedzialni za ochronę przed atakiem DeepLockera nie byliby w stanie przewidzieć, jakie okoliczności uruchomią złośliwy kod - w przypadku AI warunków jest zbyt wiele, by móc przedstawić każdą możliwość na schludnym diagramie.

Blog Comments powered by Disqus.