Malware + Machine Learning (ML) - czy to ma sens? Kamil Frankowicz

Transkrypt

1 Malware + Machine Learning (ML) - czy to ma sens? Kamil Frankowicz SECURE 2018, Warszawa

2 $whoami Kamil Frankowicz Senior Security CERT.pl Wyszukiwanie & analiza podatności Analiza złośliwego oprogramowania kamil.frankowicz@cert.pl

3 O czym będzie? Wprowadzenie do ML oraz procesu analizy złośliwego oprogramowania Ile czasu zajmuje dokładne poznanie rodziny malware? Ile zarabia analityk malware w USA? W jaki sposób można usprawnić proces analizy manualnej? Zagrożenia analizy wspomaganej AI Czy można uzyskać 99,5% skuteczności detekcji?

4 Uczenie maszynowe (ML)

5 Po co wprowadzenie?

6 Uczenie maszynowe (ML) Machine Learning - algorytmiczny sposób opisu cech danych i ich rozpoznawania: Nadzorowany - wykorzystanie danych testowych Bez nadzoru - rozwiązanie problemu optymalizacyjnego (np. klastrowanie)

7 Praktyczne uczenie maszynowe to nie...

8 Praktyczne uczenie maszynowe to......rozpoznawanie wzorców z wykorzystaniem metod statystycznych.

9 ML - Usystematyzowanie

10 Typowa analiza malware

11 Od próbki do biurka analityka...

12 Analiza nowej rodziny od zera Mniej więcej około trzy miesiące do wstępnej automatyzacji. Ale niestety często dłużej! Analizę mogą przyspieszyć różne wydarzenia: wyciek kodu źródłowego, wiedza od innych badaczy, posiadanie informacji o powiązanych kampaniach.

13 Analiza nowej rodziny = $$$$ Średnie roczne zarobki analityka malware w USA: tysięcy USD (373 tysiące PLN tysięcy PLN; 1 PLN = USD). ML ma duże szanse zmniejszyć koszty analizy i czas trwania analizy...co przekłada się na szybsze zabezpieczenie systemów klientów oraz wymianę informacji.

14 Gdzie w tym procesie jest nisza dla ML?

15 Jak ML usprawnia ręczną analizę?

16 95% manualnej analizy

17 Automatyzacja ręcznej analizy class XrefsForm(idaapi.PluginForm): def init (self, target): idaapi.pluginform. init (self) self.target = target if type(self.target) == idaapi.cfunc_t: self. type = XREF_EA self. ea = self.target.entry_ea elif type(self.target) == idaapi.cexpr_t and \ self.target.opname == 'obj': self. type = XREF_EA self. ea = self.target.obj_ea

18 Statyczne rozpoznawanie rodzin

19 Statyczne rozpoznawanie rodzin Metadane, Rozkład entropii między ciągami bajtów, Dystrybucja opkodów, Częstotliwość wykorzystania rejestrów CPU, Deklaracje zmiennych w ASM, Wykorzystanie WinAPI, Własności sekcji pliku PE.

20 Statyczne rozpoznawanie rodzin

21 Statyczne rozpoznawanie rodzin

22 Dynamiczna detekcja złośliwego kodu

23 Dynamiczna detekcja złośliwego kodu "api": "NtAllocateVirtualMemory", "return_value": 0, "arguments": {"process_identifier": 2560, "region_size": 4096, "stack_dep_bypass": 0, [...] }

24 Klasyfikacja próbki

25 ML + malware =?

26 Zagrożenia ML w domenie malware u Niewłaściwa klasteryzacja próbki Kradzieże mechanizmu rozpoznawania (modelu) Umieszczenie backdoora w klasyfikatorze Smart malware

27 Adversarial examples

28 Adversarial examples Znalezienie modyfikacji reprezentacji danych wejściowych, generującej zmianę granicy decyzyjnej - inaczej: pandy w gibona. Systemy Computer Vision są bardzo wrażliwe, nawet na niewielkie perturbacje danych (przyciemnienie, zmiana balansu bieli).

29 Po co kraść model malware owy? Trening wymaga dużo zasobów: Dane Wiedza Sprzęt Czas Można go sprzedać lub udostępnić w modelu MLaaS, Pozyskanie danych uczących - informacja dla przestępców jak mogą się bronić!

30 Backdoory w modelach

31 Smart malware Co się stanie kiedy malware zacznie korzystać z ML lub AI? Skuteczniejsze wykorzystanie podatności do infekcji, Osadzenie złośliwej logiki w AI, Zaawansowane wykrywanie celu i środowiska ataku: Rozpoznawanie twarzy i głosu otoczenia, Śledzenie aktywności systemu operacyjnego i użytkownika, Śledzenie lokalizacji (geograficznej, sieciowej)

32 AI versus AI?

33 AI versus AI? - Pytania ciągle otwarte... Jak wykrywać ataki na mechanizmy uczenia? Jak monitorować wykorzystanie AI? W jaki sposób rozpoznać czy malware wykorzystuje AI? Jak przeprowadzać analizę smart malware? Jak stwarzać warunki do sandbox owania inteligentnego malware u?

34 Jak przeprowadzać analizę AI? 1) 2)

35 Fuzzing sieci neuronowych! ( ʖ )

36 Wykrywalność > 99,5%?

37 To możliwe! ( ʖ ) Źródło

38 Zagadnienie jest gorące ( ʖ ) Najwięksi dostawcy oprogramowania już to robią, np. Microsoft pokazał na przykładzie ataku malware Emotet jak wykrywa zagrożenia w ten sposób. Pojawia się bardzo dużo nowych podejść w pracach naukowych, które oferują podobny stopień wykrywalności jak w pracy zwycięzców Microsoft Malware Classification Challenge.

39 Zagadnienie jest gorące ( ʖ ) Równolegle rodzi się olbrzymi postęp w tematyce bezpieczeństwa AI, jego analizy oraz sposobów exploitacji. Jako analitycy czekamy na pierwszą rodzinę malware, która zaskoczy nas w tej kwestii :-)

40 Slajdy frankowicz.me/secure201 8

41 Q&A Pytania?

42 Kontakt @fumfel

43