TIN Techniki Internetowe zima

Transkrypt

1 TIN Techniki Internetowe zima Grzegorz Blinowski Instytut Informatyki Politechniki Warszawskiej

2 Plan wykładów 2 Intersieć, ISO/OSI, protokoły sieciowe, IP 3 Protokół IP i prot. transportowe: UDP, TCP 4 Model klient-serwer, techniki progr. serwisów 5 Protokoły aplikacyjne: telnet, ftp, smtp, nntp, inne 6 HTTP 7, 8 HTML, XML 9, 10, 11 Aplikacje WWW, CGI, sesje, serwery aplikacji serwlety, integracja z backended SQL 12 Aspekty zaawansowane: wydajność, przenośność, skalowalność; klastering 13 Inne: P2P, SOAP, RDF, WSDL, ontologie 14 Wstęp do zagadnień bezpieczeństwa (IPSec, VPN, systemy firewall) oraz aspekty kryptograficzne (DES, AES, RSA, PGP, S/MIME), tokeny i akceleracja sprzętowa

3 Poczta elektroniczna: SMTP

4 Kolejka serwera Skrzynka użytk. MTA - Mail Transfer Agent (serwer) - sendmail, postfix, Exchange, MUA MUA PO - Post Office - przechowuje skrzynki, może ale nie musi być to ten sam serwer co MUA MUA - Mail User Agent (klient) - Mozilla, Outlook, Eudora,... SMTP SMTP MTA Protokół SMTP (Simple Mail Transfer Protocol) - RFC 821, 1982, szereg późniejszych rozszerzeń SMTP MTA PO MUA "maildrop" - POP3, IMAP4; inne - OWA IMAP, POP

5 SMTP RFC821 Komunikacja klient do serwera; serwer do serwera SMTP obejmuje: specyfikację protokołu wymiany danych uwierzytelnianie adresowanie ruting poczty nie obejmuje: dostarczenia poczty do MUA, sposobu zapisu treści przesyłki Port TCP: 25 Komunikacja (ASCII): nawiązanie połączenia (greeting) wymiana danych zakończenie sesji RFC5321

6 Sesja SMTP S: 220 This is XYZ smtp server at uczelnia.edu C: HELO nikt.pl S: 250 Hello nikt.pl, pleased to meet you C: MAIL FROM: S: 250 Sender ok C: RCPT TO: S: 250 Recipient ok C: DATA S: 354 Enter mail, end with "." on a line by itself C: Szanowny Panie C: Nasza firma oferuje rewelacyjny program do C: obslugi dziekanatow oraz calych uczelni... C:. S: 250 Message accepted for delivery C: QUIT S: 221 uczelnia.edu closing connection

7 Polecenia SMTP HELO EHLO (ESMTP) najpopularniejsze rozszerzenia: pipelining,... MAIL FROM RCPT TO VRFY, EXPN - zazwyczaj nieaktywne ze względów bezpieczeństwa DATA QUIT NOOP

8 Więcej o sesji i danych w SMTP S: 220 This is XYZ smtp server at C: MAIL FROM: <ktos@nikt.pl> S: 250 ktos@nikt.pl... Sender ok C: RCPT TO: <dziekan@uczelnia.edu> S: 250 dziekan@uczelnia.edu... Recipient ok C: DATA S: 354 Enter mail, end with "."... C: To: <dziekan@uczelnia.edu> C: Subject: ciekawa oferta C: C: Szanowny Panie C: Nasza firma oferuje rewelacyjny... C:... C:. S: 250 Message accepted for delivery C: QUIT envelope header body

9 Więcej o sesji i danych w SMTP Pola nagłówka wiadomości (header - RFC822) są podobne i mogą (ale nie muszą) mieć zawartość zgodną z polami z envelope - nie jest to jednak to samo! Pola nagłówka takie jak np.: Subject, To, CC są przez SMTP traktowane na równi z danymi Pola nagłówka są przeznaczone dla MUA Serwer może przepisać informacje zawarte w envelope do header Serwer może dodatkowo analizować pola nagłówka, np. realizując funkcje anty-spam

10 Pola nagłówka Return-Path: Delivered-To: Received: from localhost (localhost [ ]) by. Received: from freza.core.ignum.cz ( ) by. From: "Ludek Hrdina" To: "Up-to-date_CHKP" Subject: Check Point's. Date: Tue, 11 Nov :08: Message-ID: MIME-Version: 1.0 Content-Type: text/plain; charset="iso " Content-Transfer-Encoding: 8bit X-Mailer: Microsoft Outlook IMO, Build ( ) X-AntiVirus: OK! AntiVir MailGate Version ;... X-Mozilla-Status: 8001 Dear All,

11 Ruting SMTP W transmisji wiadomości serwer SMTP może być serwerem docelowym lub pośrednim Ruting SMTP - zestaw reguł pozwalających określić co serwer ma dalej robić z otrzymaną wiadomością W najprostszym przypadku: jeśli serwer obsługuje dane konto (obsługuje domenę i zna użytkownika) to wiadomość zostaje wysłana do message store w przeciwnym wypadku na podstawie rekordu MX pobranego z DNS serwer określa adres serwera do przekazania wiadomości Rekordy MX zawierają adres serwera SMTP i priorytet Przykład: smallcom.com MX 10 smallcom.com MX 20 im priorytet niższy tym "ważniejszy" MX

12 Ruting SMTP Ruting jest w rzeczywistości o wiele bardziej skomplikowany, gdyż: wewnątrz domeny obsługiwanej przez jeden MX może funkcjonować wiele serwerów SMTP, np. wydziałowych, do których wiadomości rozdzielane są na podstawie wewnętrznych reguł rutingu: n.p.: firma.com.pl - SMTP srv.: kadry.firma, finanse.firma, misc.firma serwer STMP może otrzymywać wiadomości z innych systemów (nie SMTP) - RFC2820 definiuje "SMTP gateway" Serwery obsługują szereg historycznych konwencji takich jak: user%domena@domena lub serwer1!serwer2!serwer3... Inne: konieczne jest wykrywanie i usuwanie pętli w rutingu

13 ESMTP ESMTP rozszerzone SMTP Sesja SMTP rozpoczyna się poleceniem EHLO Serwer powinien obsługiwać EHLO nawet jeśli nie obsługuje żadnej z rozszerzonych opcji W odpowiedzi na EHLO serwer podaje listę rozszerzonych opcji protokołu, które obsługuje Najważniejsze opcje ESMTP: 8BITMIME transmisja 8 bitowych danych SMTP-AUTH - autoryzacja DSN - powiadomienia STARTTLS szyfrowanie sesji PIPELINING klient wysyła polecenia bez konieczności potwierdzenia przez serwer

14 Przykładowa sesja ESMTP S: 220 m034.host.net.pl ESMTP C: EHLO [ ] S: 250-m034.host.net.pl S: 250-AUTH LOGIN PLAIN S: 250-PIPELINING S: 250 8BITMIME C: MAIL S: 250 ok C: RCPT S: 250 ok C: DATA S: 354 go ahead

15 SMTP-AUTH RFC5321 Z oczywistych przyczyn organizacyjnych autoryzuje się tylko użytkownik lokalny, tj. nadawca, który jest w tej samej domenie administracyjnej co serwer Autoryzacja dotyczy przesyłek adresowanych do odbiorców poza domeną obsługiwaną przez dany serwer W autoryzacji AUTH PLAIN klient podaje nazwę użytkownika i hasło zakodowane w base64: C: EHLO [ ] S: 250-m3.host.net.pl S: 250-AUTH LOGIN PLAIN S: 250-AUTH=LOGIN PLAIN C: AUTH PLAIN BG192uDFGolS5...== S: 235 ok, go ahead (#2.0.0) C: MAIL FROM:<nadawca@domena.pl>

16 SMTP-AUTH CRAM-MD5 RFC2104 Metoda autoryzacji CRAM-MD5 (Challenge-Responce) jest odporna na podsłuch Serwer wysyła zakodowany w base64 ciąg znaków (CH) postaci: < @host.net.pl> Liczby przed są losowe Klient musi obliczyć skrót MD5 w następujący sposób: MD5(('secret' XOR opad), MD5(('secret' XOR ipad), CH)) ipad, opad stałe: 0x , 0x5c5c... C: EHLO [ ] S: 250-m3.host.net.pl S: 250-AUTH LOGIN PLAIN S: 250-AUTH CRAM-MD5 C: AUTH cram-md5 S: 334 PDI0NjA5LjEwNDc5MTQwNDZAcG9wbWFQ+ C: Zm9vYmFyLm5lE0OTViNGU2ZTczMzRkMzg5MAo=

17 SMTP TLS RFC5246 TLS Transport Layer Security bezpieczny szyfrowany protokół zapewniający poufność komunikacji W wyniki polecenia STARTTLS następuje przełączenie sesji na szyfrowaną (klient i serwer muszą obsługiwać TLS i musi nastąpić jawne przełączenie) TLS może być wymagane tylko przez serwer lokalny - obsługujący klientów z tej samej domeny organizacyjnej C: EHLO mail.example.com S: 250-mail.imc.org offers a warm hug of welcome S: 250-STARTTLS C: STARTTLS S: 220 Go ahead C: <starts TLS negotiation> C & S: <negotiate a TLS session> C & S: <check result of negotiation> C: EHLO mail.example.com

18 Dodatkowe uwagi dot. ESMTP SIZE: MAIL FROM: SIZE=1512 Autoryzacja w MAIL FROM: C: MAIL FROM:<e=mc2@example.com> AUTH=e+3Dmc2@example.com S: 250 OK Autoryzacja Kerberos DSN Delivery Status Notification: dodatkowe polecenia w RCPT TO powodują odesłanie zwrotnego maila w zależności od statusu dostarczenia

19 SMTP DSN Nadawca prosi o potwierdzenie odbioru wiadomości Potwierdzenie zwracane jest jako generowany po stronie MTA lub MUA odbiorcy Serwer informuje czy obsługuje DSN podając kod rozszerzenia 250- DSN w odpowiedzi na EHLO RCPT... NOTIFY NEVER SUCCESS FAILURE DELAY - żądanie potwierdzenia RCPT... ORCPT adres odbiorcy (może być inny niż parametr podany w RCPT TO, np. Gdy występuje forward) MAIL... RET FULL HDRS sposób obsługi błędu, zwróć całą wiadomość lub tylko nagłówki RFC3461 RFC5337 MAIL ENVID identyfikator wiadomości (tak aby nadawca wiedział czego dotyczy potwierdzenie) W przypadku przekazywania wiadomości dalej opcje DSN muszą być także przekazane

20 SMTP DSN - przykład C: EHLO Example.ORG S: 250-Example.ORG S: 250-DSN C: MAIL FROM:<Alice@Example.ORG> RET=HDRS ENVID=QQ S: 250 <Alice@Example.ORG> sender ok C: RCPT TO:<Bob@Example.COM> NOTIFY=SUCCES ORCPT=rfc822;Bob@Example.COM S: 250 <Bob@Example.COM> recipient ok C: DATA S: 354 okay, send message C: (message goes here) C:. S: 250 message accepted C: QUIT S: 221 goodbye

21 To: SMTP DSN - przykład From: postmaster@mail.example.com Subject: Delivery Notification (success) for Bob@Example.COM Content-Type: multipart/report; report-type=delivery-status; boundary=abcde MIME-Version: abcde Content-type: text/plain; charset=us-ascii Your message (id QQ314159) was successfully delivered to Bob@Example.COM. --abcde Content-type: message/delivery-status Reporting-MTA: dns; mail.example.com Original-Envelope-ID: QQ Original-Recipient: rfc822;bob@example.com Final-Recipient: rfc822;bob@example.com Action: delivered Status: abcde Content-type: message/rfc822 (headers of returned message go here)

22 Autoryzacja Polecenia klienta: user pass odpowiedzi serwera +OK, -ERR Maildrop client: list - nr wiad, wielkość stat - liczba wiad, suma wielk. retr - pobierz wiad. Maildrop - POP3 (port: 110) dele - usuń wiad (dopiero po quit) rset - usuń znaczniki dele top - początek wiad uidl - zwraca unikalne id-y quit RFC1939 S: +OK POP3 server ready C: user jasio S: +OK C: pass iza123 S: +OK user successfully logged on C: list S: S: S:. C: retr 1 S: <message 1 contents> S:. C: dele 1 C: retr 2 S: <message 1 contents> S:. C: dele 2 C: quit S: +OK POP3 server signing off

23 POP3 - APOP S: +OK POP3 server ready < @dbc.mtview.ca.us> C: APOP username c4c9334bac560ecc979e58001b3e22fb S: +OK maildrop has 1 message (369 octets) Prosta weryfikacja tożsamości klienta na podstawie algorytmu Ch/Rp Polecenie: APOP user <digest> Odpowiedź: +OK lub ERR Banner powitalny musi zawierać "challenge" Challenge ma postać jak niżej: challenge opiera się na timestamp, np. standard proponuje: <process-id.clock@hostname> klient oblicza kryptograficzną sumę kontrolną md5(challenge+secret) Dostępne jest też polecenie AUTH (RFC1734) - autentykacja Kerberos

24 Maildrop - IMAP4 RFC2060 Zaprojektowany pod kątem przechowywania znacznej liczby wiadomości na serwerze Wiadomości grupowane w foldery Wiadomości posiadają "flagi" (seen, deleted, answered, itp.) Manipulowanie wiadomościami bez konieczności ładowania całej wiadomości do klienta (tylko nagłówki) Zalety: oszczędność pasma, dostęp do poczty z wielu lokalizacji, SSL - bezpieczeństwo Wady: skomplikowany protokół, implementacje nie zawsze zgodne ze sobą

25 Sesja IMAP 1 Initial connection and server greeting Non-authenticated Authenticated Selected 7 Logout and close connection 3

26 Maildrop - IMAP4 Protokół - asynchroniczny - odpowiedź na polecenie nie musi nadejść "od razu", czekając na odpowiedź można zlecić inne polecenia Aby zidentyfikować odpowiedzi serwera wprowadzono "tagi" Podstawowe stany serwera: Non-authenticated Authenticated (po zalogowaniu) Selected wybrano folder Logout

27 Sesja IMAP C: a001 LOGIN SMITH SESAME S: a001 OK LOGIN completed C: A142 SELECT INBOX S: * 172 EXISTS S: * 1 RECENT S: A142 OK [READ-WRITE] SELECT completed... C: A023 LOGOUT S: * BYE IMAP4rev1 Server logging out S: A023 OK LOGOUT completed

28 IMAP c.d. Flagi wiadomości: \seen: wiadomość "przeczytana" \answered: na wiadomość odpowiedziano \flagged: wiadomość zaznaczono \deleted: wiadomość ma być skasowana \draft: wiadomość w trakcie tworzenia \recent: wiadomość nowa

29 Polecenia IMAP CAPABILITY NOOP LOGOUT AUTHENTICATE LOGIN SELECT EXAMINE CREATE DELETE RENAME SUBSCRIBE UNSUBSCRIBE pyt. o opcje funkcjonalne serwera serwer zamyka transakcje, odp: BYE opcjonalna autentykacja (np. Kerberos) wymagana autoryzacja wybiera mailbox (folder), tylko 1 na raz j.w. w trybie read-only tworzy folder usuwa folder zmienia nazwę folderu subskrybuje folder (zob. LSUB) de-subskrybuje folder

30 Polecenia IMAP c.d. LIST LSUB STATUS APPEND CHECK CLOSE EXPUNGE SEARCH FETCH STORE COPY UID zwraca listę folderów zwraca listę subskrybowanych folderów zwraca inf. o folderze (liczba wiad, etc) Dodaje wiadomość do folderu wymusza "checkpoint" zamyka akt. folder, usuwa ozn. wiadomości usuwa ozn. wiadomości (\Deleted) szuka wiad. wg.zadanych kryteriów w akt. folderze pobiera (część) wiadomości uaktualnia wiadomość kopiuje wiadomości do zadanego folderu wykonuje inne polecenia (SEARCH, COPY, FETCH) w trybie zwracajacym uniklane uid-y

31 MIME (Multipurpose Internet Mail Extensions)

32 MIME - podstawy MIME - aktualny standard RFC 2045, 2046 (pierwsze wersje RFC ) Dodatkowe pola nagłówka definiują format danych RFC2045 RFC2046 Uwaga - MIME pomyślany dla , jednak aktualne zastosowanie wykracza poza SMTP! Wersja MIME Metoda kodowania Typ, podtyp, opcjonalnie parametry danych Dane From: gjb@ii.pw.edu.pl To: rba@ii.pw.edu.pl Subject: Zdjecie 1/1 MIME-Version: 1.0 Content-Transfer-Encoding: base64 Content-Type: image/jpeg dane kodowane base dane kodowane base64

33 Podstawowe typy MIME Content-type: type/subtype; parameters Text text/plain, text/html text/plain; charset=us-ascii Image image/jpeg, image/gif Audio audio/basic jeden kanał, 8bit PCM 8000 Hz Video video/mpeg, video/ quicktime Application application/msword, application/octetstream

34 Złożone typy MIME Content-Type: multipart/mixed; boundary=bndr-string Wiadomość podzielona na wiele części oddzielonych przez unikalny (ale arbitralny) ciąg znaków "boundary string" Generowanie boundary string heurystyczne (?) Każda część może mieć własny content-type, np: pierwsza część może być typu text/plain druga typu image/gif kodowana base64

35 MIME Multipart/mixed - przykład From: <donald.duck@disney.com> To: <mickey.mouse@disney.com> Subject: blah MIME-Version: 1.0 Content-Type: multipart/mixed; boundary= "Boundary- 00=_9W2T/VtQiQcNR1P" --Boundary-00=_9W2T/VtQiQcNR1P Content-Type: text/plain; charset=us-ascii tekst tekst tekst tekst tekst tekst tekst tekst --Boundary-00=_9W2T/VtQiQcNR1P Content-Type: application/octet-stream...

36 MIME Multipart/mixed - przykład From: <donald.duck@disney.com> To: <mickey.mouse@disney.com> Subject: blah MIME-Version: 1.0 Content-Type: multipart/mixed; boundary= "Boundary- 00=_9W2T/VtQiQcNR1P"... --Boundary-00=_9W2T/VtQiQcNR1P Boundry poprzedzone jest -- Content-Type: application/octet-stream Content-Transfer-Encoding: base64 Content-Disposition: attachment; filename= "nazwa_pliku.bin" base64base64base64base64base64... base64base64base64base64base Boundary-00=_9W2T/VtQiQcNR1P-- Ostatnie boundry zakończone jest --

37 Inne złożone typy MIME multipart/alternative - ta sama treść przesłana w kilku wariantach, np. w formacie text i HTML, klient wybiera właściwą postać do prezentacji danych multipart/digest - format identyczny jak w mixed, służy do wysyłania wielu wiadomości formatu message/rfc822 multipart/parallel - format identyczny jak w mixed, służy do równeległej prezentacji danych w kilku formatach multipart/signed, multipart/encrypted wiadomość podpisana / zaszyfrowana (S/MIME RFC 1847) message/partial - pozwala na przesłanie dużej wiadomości w "kawałkach": Content-Type: Message/Partial; number=2; total=3;

38 Kodowanie Base64 Proste kodowanie pozwalające na przesłanie dowolnych danych binarnych w postaci "drukowalnych" znaków ASCII (7bit) Wielkość danych zwiększa się o 4/3, np. plik o rozmiarze 3KB ma po zakodowaniu 4KB Bloki 3 bajtowe zamieniane są na 4 liczby 6-o bitowe Każda liczba 6-o bitowa zamieniana jest na znak drukowalny z przedziału: A-Za-z0-9+/ Jeśli wielkość danych kodowanych w bajtach nie jest podzielna przez 3 - uzupełnienie zerami/znakami = na końcu Wynikowy tekst jest dzielony na linie o długości 76 znaków Tak otrzymany tekst jest do zaakceptowania przez każdy MUA/MTA zgodny z podstawowym SMTP

39 Więcej o MIME RFC: RFC nagłówki definiowane w standardzie MIME RFC struktura danych MIME i podstawowe typy danych w MIME RFC rozszerzenia MIME w treści nagłówków wiadomości RFC 2048, - procedury rejestracji nowych typów MIME w IANA RFC reguły zgodności aplikacji z MIME oraz przykłady

40 Zdefiniowane są następujące typy "Content-Transfer-Encoding": "7bit" "8bit" nie dokonano przekodowania "binary" "quoted-printable" "base64" ietf-token oraz x-token MIME - kodowanie Wiadomość jest kodowana w specjalny sposób Typ "quoted-printable" - do kodowania wiadomości składających się głównie, ale nie wyłącznie, ze standardowych znaków ASCII Uwaga: RFC 2045 określa dozwolone typy kodowania dla złożonych typów danych (multipart i message) jako wyłącznie: 7/8 bit oraz binary

41 MIME - "quoted-printable" Kodowanie mające na celu zachowanie danych (zwykle tekstu) bez modyfikacji nawet przez serwery niezgodne ze standardami każdy oktet może być reprezentowany jako: =hh, gdzie h - cyfra szesnastkowa: ABCDEF oktety o kodach: (większość znaków przestankowych) oraz: (litery, cyfry, [, ],, ~) mogą być reprezentowane bezpośrednio białe znaki reprezentowane są bezpośrednio, chyba, że są na końcu linii znak = na końcu linii oznacza "soft line break" (można łamać długie linie) Przykład: Dzia=B3aj=B1c w imieniu i na rzecz= sp=f3=b3ki "Zielone buraczki" Sp. =

42 RFC "Message Header Extensions" Do tej pory omówione rozwiązania nie pozwalają na zawarcie znaków nie ASCII w nagłówku wiadomości - co może być przydatne np. w nagłówku "Subject" (znaki narodowe) RFC 2047 rozwiązuje ten problem wprowadzając tzw. "encoded word" encoded-word = "=?" charset "?" encoding "?" encoded-text "?=" Charset - określa kodowanie (np. ISO ) encoding - Q - quoted printable, B - base64 encoded-text - kodowany tekst Przykład: From: =?ISO ?Q?Olle_J=E4rnefors?= <ojarnef@admin.kth.se> Subject: =?ISO ?B?SWYgeW91IGNhbiByZWFkIHRoaXMgeW8=?= =?ISO ?B?dSB1bmRlcnN0YW5kIHRoZSBleGFtcGxlLg==?=

43 Inne nagłówki MIME Content-ID: jak Message-id, muszą być unikalne, pozwalają identyfikować daną pod-zawartość, opcjonalne (poza typem message/external-body) Content-Description: opis zawartości - dowolny zawsze opcjonalne

44 RFC Zgodność z MIME RFC 2049: "[ ] There exist many widely-deployed nonconformant MTAs in the Internet. These MTAs, speaking the SMTP protocol, alter messages on the fly to take advantage of the internal data structure of the hosts they are implemented on, or are just plain broken. [ ]" RFC określa minimalny poziom zgodności, w szczególnosci sytuacje gdy program natrafi na nieznany typ danych (zalecenie - traktować jak multipart/mixed), lub nieobsługiwany zestaw znaków (zalecenie - traktować jak application/octed-stream) RFC 2049 precyzuje standard, określa kroki jakie musi wykonać aplikacja generując wiadomość MIME