Programowanie w asemblerze Optymalizacja

Transkrypt

1 Programowanie w asemblerze Optymalizacja 17 stycznia 2017

2 Przesłania warunkowe Czasem dokonujemy porównania i zależnie od wyniku chcemy dokonać pojedynczego przesłania. Można wtedy użyć instrukcji przesłania warunkowego, wykonywanego tylko gdy spełniony był wskazany warunek, np. instrukcja cmove eax,1 umieszcza 1 w rejestrze eax tylko wtedy, gdy porównywane ostatnio elementy były równe. Podstawowa zaleta to unikanie konieczności oczyszczania potoku lub wykonania spekulacyjnego. Przypisanie warunkowe SET Przepisanie warunkowe CMOV

3 Przesłania warunkowe: przykład Znalezienie większej z dwóch liczb (w EAX i EBX, wynik w ECX): mov ecx,eax cmp ebx,ecx cmova ecx,ebx

4 Przesłania warunkowe: błędy Załóżmy, że kompilujemy w C wyrażenie int *xp;... return (xp? *xp : 0); Jeśli xp jest w rdi, to można by użyć xor eax,eax ;Być może zwrócimy zero test rdi,rdi ;xp == 0? cmovne eax,[rdi] ;Być może zwrócimy *xp Ale wtedy dereferencja xp nastapi zawsze (nawet dla wskaźnika NULL), a tego chcemy uniknać.

5 Unikanie skoków Unikanie skoków to szerszy problem. Popatrzmy na obliczenie wartości bezwzględnej omiń: test eax,eax jns omiń neg eax ;Ustawmy flagi ;znak dodatni

6 Unikanie skoków Można to zrobić inaczej: mov ecx,eax sar ecx,31 ;wszędzie bit znaku xor eax,ecx ;odwracamy bity sub eax,ecx ;odejmujemy -1 i mamy uzupełnienie do 2

7 Potęga 2 Kolejna sztuczka: jak sprawdzić, czy liczba w EAX jest potęga dwójki? mov ebx,eax ;albo lea ebx,[eax - 1] dec ebx test eax,ebx jnz niejest

8 Podpowiedzi Procesor próbuje zgadywać, czy skok warunkowy będzie wykonany. Przy statycznym przewidywaniu zakłada, że skok do tyłu będzie wykonany. Można mu podpowiadać używajac hintów: prefiksów HT(0x3e) i i HNT(0x2e), np. test ecx,ecx db 3eh jz L9... L9: ;HT = będzie skok

9 Podpowiedzi Często nie warto trzymać danych w pamięci buforowej, jeśli używane jednorazowo Instrukcje zapisu bezpośredniego (non-temporal store) MOVNTI, MOVNTPD itp. podczas zapisu do pamięci omijaja cache.

10 Konserwatywność kompilatora Kompilator C musi być konserwatywny i generować kod tak, aby obejmował wszystkie możliwości Przykład: void memclr (char *dane, int n) { for (; n > 0; n--) *dane++ = 0; } Gdyby kompilator wiedział coś o wyrównaniu dane, mógłby zerować naraz po 2, 4 a nawet 8 bajtów. Musi jednak zakładać najgorszy przypadek.

11 Konserwatywność kompilatora Istnieje kilka elementów C/++, które sa wzorcowymi spowalniaczami. W czołówce jest konwersja (cast) z liczby rzeczywistej na całkowita, np. int i; float f;... i = (int)f; Taka konwersja to cykli. Powód: standard C /C++ określa inny sposób zaokraglania niż używany w FPU, więc trzeba przełaczać tryb w koprocesorze.

12 Konserwatywność kompilatora Inny kandydat do Oscara to pointer aliasing. W poniższym kodzie kompilator nie wyciagnie obliczenia *p + 2 przed pętlę void Func1 (int a[], int *p) { int i; for (i = 0; i < 100; i++) a[i] = *p + 2; } I słusznie, bo (niech żyje C i C++ :-) void Func2() { int list[100]; Func1(list, &list[8]); }

13 Konserwatywność kompilatora Czasem recepty sa proste. Poniższy kod dwukrotnie pobiera arg1->p1 z pamięci: struct S1 int p1; struct S2 int p2, p3; void f1 (struct S1 *arg1, struct S2 *arg2) arg2->p2 += arg1->p1; arg2->p3 += arg1->p1; Musi tak być, bo arg2->p2 i arg1->p1 moga być ta sama komórka pamięci. A wystarczy wprowadzić zmienna lokalna i przypisać na nia S1->p1.

14 Asembler Asembler pozwala korzystać z dostępu do usług niskiego poziomu: Rejestry i bezpośrednie wejście/wyjście Omijanie konwencji kompilatora: inne przekazywanie parametrów, naruszanie zasad przydziału pamięci, iteracyjne wołanie procedur Łaczenie niezgodnych fragmentów kodu, np. zbudowanych przez inne kompilatory Ręczna optymalizacja kodu w celu dopasowania do bardzo konkretnej konfiguracji sprzętowej

15 Skrajny przykład Dla nabrania apetytu Poniższy kod w C float a[4], b[4], c[4]; for (int i = 0; i < 4; i++) { c[i] = a[i] > b[i]? a[i] : b[i]; } można optymalnie zakodować następujaco movaps xmm0,[a] maxps xmm0,[b] movaps [c],xmm0 ;Load a vector ;max(a,b) ;c = a > b? a : b

16 Gdy brakuje rejestrów czyli dwa w jednym Mamy dwie zmienne indeks i przyrost, obie 16-bitowe (short) Można je włożyć do jednego rejestru ARM, indeks u góry. Wtedy kod w C elem = tab[indeks]; indeks += przyrost; zapisuje się w asemblerze jako LDRB Relem, [Rtab, Rindprz, LSR#16] ADD Rindprz, Rindprz, Rindprz, LSL#16

17 Intel/AMD Repertuar instrukcji procesorów CISC (x86) nie jest optymalny potwierdzenie to kilkakrotne zmiany filozofii architektury. Musi być zachowany z uwagi na wsteczna kompatybilność z systemami lat 1980, gdy pamięć RAM i dyskowa były małe i kosztowne. Ale CISC o dziwo ma także zalety. Zwięzłość kodu dobrze pasuje do wymogów pamięci buforowych (cache) o ograniczonych rozmiarach. Główny problem procesorów x86 to mała liczba rejestrów, trochę poprawiony przy projektowaniu x86-64.

18 Akceleratory grafiki Wymagajace aplikacje graficzne potrzebuja platformy z koprocesorem do obsługi grafiki lub karta akceleratora. Moc obliczeniowa tam zawarta można wykorzystać także do innych obliczeń, ale to temat na inne opowiadanie (i jest to mocno zależne od sprzętu).

19 Kod 64-bitowy Zalety: Więcej rejestrów: nie trzeba trzymać zmiennych i wyników pośrednich w pamięcu RAM. Efektywne wywołania procedur: przekazywanie parametrów w rejestrach. 64-bitowe rejestry do liczb całkowitych. Lepsza gospodarka przydziałem dużych bloków pamięci. Wbudowany repertuar SSE2. Względna adresacja danych, wydajny kod relokowalny.

20 Kod 64-bitowy Wady: Dwa razy większe adresy i pozycje stosu: kłopoty z pamięcia buforowa. Dostęp do statycznych i globalnych tablic wymaga więcej instrukcji dla dużych obrazów pamięci. Dotyczy głównie Windows i Maca. Bardziej skomplikowane obliczanie adresu gdy rozmiar większy niż 2GB. Niektóre instrukcje dłuższe.

21 Funkcje intrinsic w C++ Nowe podejście w łaczeniu kodu z różnych poziomów. Funkcje intrinsic to znane kompilatorowi wysokopoziomowe reprezentacje instrukcji maszynowych. Przykład: dodawanie wektorów zmiennopozycyjnych ADDPS w C++ można zapisać funkcja _mm_add_ps. Ponadto można zdefiniować odpowiednia klasę wektorów i przeciażyć dla niej operator +. Funkcje intrinsic występuja w kompilatorach Microsoft, Intela i GNU.

22 Ogladanie kodu z kompilatora Różne powody: Sprawdzanie, czy nie widać wyraźnych miejsc do ręcznego przepisania w asemblerze (lub przestawienia flag kompilatora, np. -O3 ;-) Potraktowanie kompilatora jako inteligentnej maszynistki, a kodu jako wygodniejszej bazy niż pisanie od zera. Ten kod co najmniej ma dobrze zrobione interfejsy z otoczeniem, a tam często najwięcej kłopotów. A czasem wykryjemy bład w kompilatorze

23 Kompilator Intel C++ (parallel composer) Intrinsics dla wektorów, automatyczna wektoryzacja. OpenMP i automatyczne zrównoleglanie watków. CPU dispatch: wersje dla różnych procesorów. Najlepiej zoptymalizowane biblioteki matematyczne (choć czasem nie umiały podzielić). Wada: kod może wolniej działać na procesorach AMD i VIA, należy wtedy pomijać dispatch.

24 Kompilator GNU Intrinsics dla wektorów, automatyczna wektoryzacja. OpenMP i automatyczne zrównoleglanie watków. Optymalizacja bibliotek czeka na swoja kolej. Ale akceptuje matematyczne biblioteki wektorowe AMD i Intela.

25 Ograniczenia sprzętowe Na ARM rejestry sa 32-bitowe. Należy unikać typów char i short dla liczników pętli, bo trzeba w kodzie ręcznie badać zakresy, np. dla instrukcji short i;... i++; kompilator za każdym razem musi badać, czy nie nastapiło przekroczenie zakresu i przerzucać na zero. Rejestry sa bowiem 32-bitowe, więc brak sygnalizacji przepełnienia/przeniesienia dla 16 bitów. Tu także kompilator jest bezbronny. Oczywiście w procesorze x86 nie ma tych problemów.

26 Instrukcje zależne Czas wykonania ciagu instrukcji zależnych (te same argumenty i/lub wyniki) równy jest sumie ich latency wymaganej liczby cykli Jeśli instrukcje sa niezależne, to kolejna instrukcja zaczyna się wcześniej i ten czas znaczaco maleje, np. kod double list[100], sum = 0.; for (int i = 0; i < 100; i++) sum += list[i]; warto zastapić przez double list[100], sum1 = 0., sum2 = 0., sum3 = 0., sum4 = for (int i = 0; i < 100; i += 4) { sum1 += list[i]; sum2 += list[i+1]; sum3 += list[i+2]; sum4 += list[i+3]; } sum1 = (sum1 + sum2) + (sum3 + sum4);

27 Zależności Czasem wyglada to dziwnie, na przykład instrukcję przypisania y = a + b + c + d; warto zastapić przez y = (a + b) + (c + d); Specyfikacja wielu języków programowania nakłada wymóg wykonywania od lewej do prawej (np. żeby błędy zaokragleń były zawsze takie same) i kompilator nic wtedy nie może zrobić.

28 Rejestry częściowe Niektóre CPU robia out of order execution ale nie sa w stanie przemianować rejestrów częściowych (ax, ah, al). Powoduje to opóźnienie w poniższym kodzie, ponieważ trzecia instrukcja musi czekać na górne 16 bitów z mnożenia imul eax,6 mov [mem2],eax mov ax,[mem3] add ax,2 mov [mem4],ax Jeśli zastapimy tę instrukcję przez movzx eax,[mem3] ;operandy 16-bitowe to zależność zostaje zlikwidowana. Pewnie dlatego w trybie 64-bitowym dzieje się to automatycznie przy przesłaniach 32-bitowych.

29 Zmiany kolejności Głównie na mocno potokowanych RISCach (np. ARM), wymuszone specyfika procesora Na ARM9TDMI dla instrukcji ładowania z pamięci (np. LDR) nie należy przez dwa cykle używać załadowanej wartości. Mnożenie trwa tyle samo co mnożenie z akumulacja (MLA). Wniosek oczywisty. Na ARM10E instrukcje wielokrotnego ładowania z pamięci i zapisywania do niej działaja w tle. Pozornie więc zajmuja jeden cykl, o ile nie próbujemy używać tych rejestrów w kolejnej instrukcji. Na Intel XScale instrukcja LDRD ładuje dwa słowa naraz w jednym cyklu. Ale nie należy używać pierwszego rejestru przez dwa kolejne cykle, a drugiego przez trzy.

30 Skoki i procedury Pobieranie kodu po (nieoczekiwanym) skoku generuje opóźnienia rzędu 1-3 cykli. Największe, gdy adres docelowy wypada pod koniec 16-bajtowego bloku (ramka). Paradoks: warto czasem wcześniej w kodzie zastapić krótsza postać instrukcji dłuższa, aby osiagn ac wyrównanie. Do przewidywania powrotów z procedur (ret) służy tzw. return stack buffer, zwykle o rozmiarze do 16 elementów. Nie należy ogłupiać mechanizmu wyskakujac z procedur czy też potajemnie zdejmujac adresy powrotne ze stosu (albo używać ret jako skoku pośredniego). Wywołania redukcyjne (tail calls) robi się przez skoki!

31 Metaprogramowanie Zamiast pisać pokrętne makra asemblera albo nadużywać m4 lepiej pisać programy, które generuja inne programy lub ich części: Generatory tablic sinusów, cosinusów albo lat przestępnych Przetwarzajace plik binarny na postać źródłowa Zamieniajace bitmapy na procedury szybkiego wyświetlania Wydobywajace różne aspekty z tego samego kodu Specjalizowany kod w asemblerze na podstawie skryptu w Scheme lub innym języku i dodatkowych ograniczeń.

32 Tuning: narzędzia AMD Code Analyst Intel VTune New-Jersey Machine-Code Toolkit (w ML) nr/toolkit/