Ax = b. f(x) = c T x = c 1 x 1 + c 2 x c n x n

ÏÔÖÓÛÞÒ Ó ÔÖÓÖÑÓÛÒ ÐÒÓÛÓ Ò ÔÖÓÖÑÓÛÒ ÐÒÓÛÓ Èĵ ÒÐ Ý Ó ÞÖ Þ Ð Ý Þ¹ Ò ÓÔØÝÑÐÞ Þ ÓÖÒÞÒѺ Ï ÔÖÓÖÑÓÛÒÙ ÐÒÓÛÝÑ ÞÖÛÒÓ ÙÒ ÐÙ ÓÖÒÞÒ ÙÒÑ ÐÒÓÛÝѺ Ò Ø ÓÖÑÙ¹ ÓÛÒ Ò ØÔÙÓ ÑÒ c T x, x R n ÔÖÞÝ ÓÖÒÞÒ Ax = b x 0 Þ c R n b R m ÓÖÞ A R m n º ÏØÓÖ ÒÖÛÒÓ x 0 ÒÖÞÙ ÛÖÙÒ ÒÙÑÒÓ Ò ÞÑÒÒº ÁÒÒÝ ÛÖÒØ ÞÒ ÈÄ ØÓ ÞÒ Ñ¹ ÝÑÐÞ ÓÖÒÞÒ ÒØÓÑ Ø ÑÓ ÔÖÞÝÑÓÛ ÔÓ Ø ÒÖÛÒÓ Ax b ÐÙ Ax bº ½ ÈÖÞÝÝ ÞÒ ÔÖÓÖÑÓÛÒ ÐÒÓÛÓ ÒÒ ØÖÒ ÔÓÖØÓÛ ÒÒ ÒÐÞÝ ÞÐÒÓ Ó ÔÓÖÞ ÒÒ ØÝ ¾ ÓÖÝ ÛÝÔÙ ÔÖÓÖÑÓÛÒ ÐÒÓÛ ÊÓÞÛ ÑÝ ÞÒÒ ÔÖÓÖÑÓÛÒ ÐÒÓÛÓ ÔÓÐ Ò ÞÒÐÞÒÙ ØÓ ÛØÓÖ (x 1,x 2,...,x n ) ØÖÝ Ñ ÝÑÐÞÙ ÐÒÓÛ ÙÒ ÐÙ f(x) = c T x = c 1 x 1 + c 2 x 2 +... + c n x n ÔÖÞÝ ÓÖÒÞÒ ÒÖÛÒÓÓÛÝ Ax b,x 0º ÓÑØÖÝÞÒÓ ÔÙÒØÙ ÛÞÒ ÞÖ ÔÙÒØÛ ÔÒÝ ÓÖÒÞÒ ØÒÓÛ Þ Û ÔÐÒ ÓÞÓÒ ÐÓ ÓÑÒØÝ ÔÔÖÞ ØÖÞÒ ÛÐÓØ ÛÝÔÙݵº ÂÐ ÞÓ ÝÑÝ ÛÐÓØ ØÒ Ø ÒÔÙ ØÝ ÓÖÒÞÓÒÝ ØÓ ÛÛÞ ÓÖ¹ ÒÞÒ ÒÙ ÛÐÓÒ M Û ÔÖÞ ØÖÞÒ R n º ½

Æ H Þ ÔÖÔ ÞÞÝÞÒ ÞÒÓÛÒ Þ ÔÓÑÓ ÖÛÒÒ c T x = 0. ÈÖÞÝ ÓÔØÝÑÐÞ ØÖÑÝ Ø ÔÖÞ ÙÒ ÔÖÔ ÞÞÝÞÒ ÙÒ ÐÙ Ý Ó Ò ÑÓ ÐÛ ÒÛÝ Þ ÔÓÓ Ò Û ÔÓÞÓ Ø Û ÞÓÖÞ Mº Ý Ó ÒØÓ ÔÓÓ Ò ÓÔØÝÑÐÒ ÛÛÞ ÓÔØÝÑÐÒ ÔÖÔ ÞÞÝÞÒ Ò ÑÓ ÞÛÖ ÛÛÒØÖÞÒÝ ÔÙÒØÛ ÞÓÖÙ Mº ÈÖÓÛÞ ØÓ Ó ÔÓ ÔÖÔ ÞÞÝÞÒ ÔÓÔÖݺ ÊÝ ÙÒ ½ Æ H Þ ÔÖÔ ÞÞÝÞÒ ÖÛÒÓÐ Ó H ÔÓÔÖ ÛÐÓ¹ Ò M ØÞÒº ÔÖÔ ÞÞÝÞÒ ØÖ Ñ Ò ÐÙ Û ÔÙÒØÛ Û Ôй ÒÝ Þ ÞÓÖÑ M Ø Ø ÔÓÓ ÓÒ ÞÖ M Ð Ý ÔÓ Ò ØÖÓ¹ Òµ ÊÝ ½µº ÀÔÖÔ ÞÞÝÞÒ H ÒÙ ÖÛÒÒ c T x = β Ð Û ÞÝ Ø x M ÞÓÞ c T x βº Æ M Þ Þ Û ÔÐÒ ÔÖÔ ÞÞÝÞÒÝ ÔÓÔÖ H ÓÖÞ ÛÐÓÒÙ Mº ÏÝ ÑÝ ÛÖ¹ ØÓ ÙÒ f Ø Ø Û ÞÓÖÞ M ÓÖÞ M Ø ÞÓÖÑ Û ÞÝ Ø ÔÙÒØÛ ÒÐ Ý Ó M Ð ØÖÝ f ÔÓ ÛÖØÓ ÒÛÝ Þº Æ y ÓÖÞ z ÛÓÑ ÓÛÓÐÒÝÑ ÔÙÒØÑ Û Mº ØÑ ÞÖÛÒÓ y z ÒÐ Ó Hº ËØ f(y) = c T y = β = c T z = f(z) Ó ÓÞÒÞ f Ø Ø Û ÞÓÖÞ Mº Æ y Þ ÓÛÓÐÒÝÑ ÔÙÒØÑ Û M Ò x ÒÐ Ý Ó M\ M ÊÝ ½µº ÏÛÞ c T x < β = c T y ÞØÑ f(x) < f(y). ÏÖØÓ ÙÒ f Û ÔÙÒØ ÞÓÖÙ M Ò ÒÐ Ý Ó M Ø ÑÒ Þ Ò Û ÔÙÒØ ÒÐ Ý Ó Mº ¾

ÊÝ ÙÒ ¾ Ï ÝØÙ Ý M ÞÛÖ Ò ÔÙÒØ ÛÛÞ f Ó Ñ ÑÙÑ Û ÒÝÑ ÔÙÒ Ý ÔÖÔ ÞÞÝÞÒ ÔÓÔÖ ÔÖÞÓÞ ÔÖÞÞ ÔÙÒØ ÛÖÞÓÓÛÝ ÞÓÖÙ M ¹ ÊÝ ¾µº ØÑ Ý Ó ÑÝ ÖÓÞÛÞÒ ÓÔØÝÑÐÒ ÛÛÞ ÔÖÔ ÞÞÝÞÒ Ð ÙÒ ÐÙ Þ ÔÖÔ ÞÞÝÞÒ ÔÓÔÖº ÈÓ ÖÙ Þ¹ ÒÒ ÓÖÒÞ Ó ÔÓ ÞÙÛÒ ÓÔØÑÙÑ ÛÖ ÔÙÒØÛ ÛÖÞÓÓ¹ Ûݺ ØÝ Ø Ñ ÔÓ ØÛÓÛ ÞÒÞÒ Ð ÔÖÓÖÑÓÛÒ ÐÒÓÛÓ ÓÖ Ò Ó Ð ÝÞÒÝ ÞÒ ÓÔØÝÑÐÞº ËØÒÖÓÛ ÔÓ Ø ÔÖÓÖÑÓÛÒ ÐÒÓÛÓ ËØÒÖÓÛ ÔÓ Ø ÞÒ ÈÄ Ø Ò ØÔÙ ÑÒ c T x ÔÖÞÝ ÓÖÒÞÒ Ax = b x 0 Þ A R m n ÖÞ ÑÖÞÝ A ÛÝÒÓ mº Þ ØÖØÝ ÓÐÒÓ ÑÓ ÑÝ ÞÓ Ý b 0º ÇÖÒÞÒ ÛÝÖ ÓÒ ÔÖÞÞ ÒÖÛÒÓ ÔÖÓÛÞÒ Ó Ý ÖÛÒÓ Þ ÔÓÑÓ ÓØÓÛÝ ÞÑÒÒÝ y i º Ó ÞÒ ÑÒÑÐÞ¹ ÑÒ c T x ÔÖÞÝ ÓÖÒÞÒ Ax b x 0 ÛÔÖÓÛÞÒ ÞÑÒÒ ÒÑÖÙ ÙÖÔÐÙ ÚÖÐ µ y i ÑÒ c T x

ÔÖÞÝ ÓÖÒÞÒ [ x Ax I m y = [A, I m ] y ] = b x 0, y 0 Þ I m Ø ÑÖÞ ÒÓ ØÓÛ Ó ÛÝÑÖ m mº ÒÐÓÞÒ Û ÔÖÞÝÔÙ Þ Ñ ÝÑÐÞ ÔÖÞÝ ÓÖÒÞÒ Ax b x 0 ÛÔÖÓÛÞÒ ÞÑÒÒ ÒÓÓÖÙ Ð ÚÖÐ µ y i [ ] x Ax + I m y = [A,I m ] = b y x 0, y 0 ÑÒÒ ÒÑÖÙ»ÒÓÓÖÙ ÑÓÝÙ ÛÖÙÒ ÓÖÒÞ ÒØÓ¹ Ñ Ø Ò ÙÛÞÐÒÒ Û ÙÒ ÐÙ c T xº ËØÒÖÓÛ ÔÓ Ø ÞÒ ÈÄ ÓÒÓ Ó ÔÖÞ ØÖÞÒ n¹ûýñöóû ÒØÓÑ Ø ÞÒ Þ ÞÑÒÒÝÑ ÓØÓÛÝÑ ÓÛÓÙ (n + m)¹ûýñöóû ÔÖÞ ØÖÞÒº Ç ÓÖÑÙÝ Ò ÐÖÞÒ ÖÛÒÓÛ Ò ØÞÒº ÙÞÝ ÙÑÝ ØÓ ÑÓ ÖÓÞÛÞÒº ÁÐÙ ØÖÙ ØÓ ÔÓÒ ÞÝ ÔÖÞݺ ÈÖÞÝ ½ Æ Þ Ò ÓÖÒÞÒ Û ÓÖÑ ÒÖÛÒÓ x 1 7 ÏÔÖÓÛÞ ÞÑÒÒ ÒÓÓÖÙ x 2 0 ÙÞÝ ÙÑÝ x 1 + x 2 = 7, x 2 0. ÊÓÞÛ ÑÝ ÞÓÖÝ C 1 = {x 1 : x 1 7} ÓÖÞ C 2 = {x 1 : x 1 + x 2 = 7,x 2 0}º Ç Ø ÞÓÖÝ ÖÛÒ Ó ÑÓ Ò ÞÒØÖÔÖØÓÛ ÓÑØÖÝÞÒº ÊÓÞÛ ÑÝ ØÖÞ ÞÖ C 3 = {[x 1,x 2 ] T : x 1 + x 2 = 7,x 2 0} ØÖÝ Ø ÔÓÞÓÖÑ R 2 ÊÝ µº ÊÞÙØÙ ÞÖ C 3 Ò Ó x 1 ÑÓ ÑÝ ÔÖÞÝÔ ÑÙ ÔÙÒØÓÛ x 1 C 1 ÔÙÒØ [x 1,0] T ÔÓÛ ØÝ ÔÖÞÞ ÔÖÓ ÞÓÖÙ C 3 Ò Ó x 1 º ËØ C 2 = {x 1 : [x 1,x 2 ] T C 3 } = C 1 º ÑÒÒ ÒÑÖÙ»ÒÓÓÖÙ ÔÓÞÛÐ Û ÔÓ ÛÒÝ ÔÖÞ ÞØ ÒÖÛÒÓ ÛÝÖ ÛÖÙÒ Û ÖÛÒÓ Ó ÔÖÓÛÞ Ó Ð¹ ÖÞÒ ÑØÓÝ ÞÒÓÛÒ ÔÙÒØÛ ÛÖÞÓÓÛÝ ÞÓÖÙ ÖÓÞÛÞ ÓÔÙ ÞÞÐÒݺ

ÊÝ ÙÒ ÊÓÞÛÞÒ ÞÓÛ Ï Ð Þ Þ ÖÓÞÔØÖÝÛÒ ÞÒ ÈÄ Û ÔÓ Ø ØÒÖÓÛº ÊÓÞÛ ÑÝ Ù ÖÛÒ Ax = b Þ ÑÖÞ A Ø ÖÞÙ mº Æ B Þ ÑÖÞ ÛÖØÓÛ Ø¹ Ö ÓÐÙÑÒÝ ØÒÓÛ m ÐÒÓÛÓ ÒÞÐ ÒÝ ÓÐÙÑÒ ÑÖÞÝ Aº ÂÐ ØÓ ÓÒÞÒ ÔÓÖÞÙÑÝ ÓÐÙÑÒÝ ÑÖÞÝ A Ø Ý ÙÞÝ A = [B,D] Þ D Ø ÑÖÞ Ó ÛÝÑÖ m (n m) Þ ÔÓÞÓ ØÝ ÓÐÙÑÒ ÑÖÞÝ Aº Ð ÒÓ ÓÐÛ ÑÖÞÝ A ÑÓ Ò ÖÓÞÛÞ ÖÛÒÒ Bx B = b Þ x B Ø m¹ðñòøóûýñ ÛØÓÖѺ ÊÓÞÛÞÒÑ Ø x B = B 1 bº Æ x Þ n¹ðñòøóûýñ ÛØÓÖÑ Ò ØÖÓ m ÔÖÛ ÞÝ ÐÑÒ¹ ØÛ ÛØÓÖ x B ÔÓÞÓ Ø ÐÑÒØÝ ÖÛÒ ¼ x = [x T B,0T ] T º ØÑ x Ø ÖÓÞÛÞÒÑ ÙÙ ÖÛÒ Ax = bº º ½º ÏØÓÖ [x T B,0T ] T Ø ÒÞÝÛÒÝ ÖÓÞÛÞÒÑ ÞÓÛÝÑ ÓÐÙØÓÒµ ÙÙ ÖÛÒ Ax = b Ð ÞÝ µ Bº ÐÑÒØÝ ÛØÓÖ x B ØÓ ÞÑÒÒ ÞÓÛ ÚÖÐ µ ÓÐÙÑÒÝ ÑÖÞÝ B ØÓ ÓÐÙÑÒÝ ÞÓÛ ÓÐÙÑÒ µº ÂÐ Û ÖÓÞÛÞÒÙ ÞÓÛÝÑ ØÒ ÞÑÒÒ ÞÓÛ ÖÛÒ ÞÖÓ ØÓ Ø ØÓ ÞÒÖÓÛÒ ÖÓÞÛÞÒ ÞÓÛ ÒÖØ ÓÐÙØÓÒµº ÏØÓÖ x ÔÒÝ Ù ÖÛÒ Ax = b x 0 ØÒÓÛ ÖÓÞÛÞ¹ Ò ÓÔÙ ÞÞÐÒ Ð ÓÐÙØÓÒµº ÊÓÞÛÞÒ ÓÔÙ ÞÞÐÒ ØÖ Ø Ø ÞÓÛ Ø ÒÞÝÛÒ ÞÓ¹ ÛÝÑ ÖÓÞÛÞÒÑ ÓÔÙ ÞÞÐÒÝÑ Ð ÓÐÙØÓÒµº

ÂÐ ÞÓÛ ÖÓÞÛÞÒ ÓÔÙ ÞÞÐÒ Ø ÞÒÖÓÛÒ ØÓ Ø ÒÞݹ ÛÒ ÞÒÖÓÛÒÝÑ ÞÓÛÝÑ ÖÓÞÛÞÒÑ ÓÔÙ ÞÞÐÒÝÑ ¹ ÒÖØ Ð ÓÐÙØÓÒµº ÈÖÞÝ ¾ Æ Þ ÒÝ Ù ÖÛÒ Ax = b [ ] [ 1 1 1 4 8 A = [a 1,a 2,a 3,a 4 ] =, b = 1 2 1 1 2 Þ a i ÓÞÒÞ i¹ø ÓÐÙÑÒ ÑÖÞÝ Aº ÏÛÞ x = [6,2,0,0] T Ø ÞÓÛÝÑ ÖÓÞÛÞÒÑ ÓÔÙ ÞÞÐÒÝÑ Ð ÞÝ B = [a 1,a 2 ] x = [0,0,0,2] T Ø ÞÒÖÓÛÒÝÑ ÞÓÛÝÑ ÖÓÞÛÞÒÑ ÓÔÙ Þ¹ ÞÐÒÝÑ Ð ÞÝ B = [a 3,a 4 ] ÓÖÞ Ð Þ [a 1,a 4 ] [a 2,a 4 ]µ x = [3,1,0,1] T Ø ÖÓÞÛÞÒÑ ÓÔÙ ÞÞÐÒÝÑ ØÖ Ò Ø ÞÓÛ x = [0,2, 6,0] T Ø ÖÓÞÛÞÒÑ ÞÓÛÝÑ Ð ÞÝ B = [a 2,a 3 ] Ð Ò Ø ÓÔÙ ÞÞÐÒº ÃÓÐÒÝ ÔÖÞÝ ÐÙ ØÖÙ ÔÓ ÞÒÓÛÒ ÖÓÞÛÞ ÙÙ ÖÛÒº ], ÈÖÞÝ Æ Þ ÒÝ Ù ÖÛÒ ÐÒÓÛÝ Ax = b Þ [ ] [ ] 2 3 1 1 1 A =, b =. 4 1 1 2 9 ÌÛÓÖÞÝÑÝ ÑÖÞ ÖÓÞ ÞÖÞÓÒ [A,b] Þ ÔÓÑÓ ÓÔÖ ÐÑÒØÖÒÝ Ò ÛÖ Þ ÔÖÞ ÞØÑÝ Ó ÔÓ Ø [ 1 0 2 1 2 14 0 1 3 0 11 ÅÖÞÝ Ø ÓÔÓÛ Ù ÖÛÒ ]. x 1 + 2 x 3 1 2 x 4 = 14 x 2 3 x 3 = 11 ÂÐ x 3 ÓÖÞ x 4 Þ ØÔÑÝ ÓÔÓÛÒÓ ÔÖÞÞ s t Ý ÞÞÒÞÝ ØÓ ÓÛÓÐÒ ÐÞÝ ÖÞÞÝÛ Ø ØÓ ÓØÖÞÝÑÑÝ ÖÓÞÛÞÒ [x 1,x 2,x 3,x 4 ] T x 1 = 14 2 s + 1 2 t

x 2 = 11 + 3 s x 3 = s x 4 = t Ï ÞÞÐÒÓ Ð s = t = 0 ÓØÖÞÝÑÙÑÝ x = [ 14, 11,0,0]T º ÓÛØ ÐÞ ÑÓ ÐÛÝ ÖÓÞÛÞ ÞÓÛÝ ÛÝÒÓ ( ) n n! = m m!(n m)! ËÔÖÛÞÑÝ ÞÓÛ ÖÓÞÛÞÒ ÔÓ ÛÞÐÑ ÓÔÙ ÞÞÐÒÓº ÈÖÛ¹ ÞÓ ÒÝØ Ò ÞÓÛ ÖÓÞÛÞÒ ÓÔÙ ÞÞÐÒ ÓØÖÞÝÑÙÑÝ Ù Øй x 3 = x 4 = 0 Ó ÓÔÓÛ Þ B = [a 1,a 2 ]º ÊÓÞÛÞÙ Bx B = b ÓØÖÞÝÑÙÑÝ x B = [14/, 11/] T ÞØÑ x = [14/, 11/,0,0] T Ø ÞÓÛÝÑ ÖÓÞÛÞÒÑ ØÖ Ò Ø ÓÔÙ ÞÞÐÒº ÖÙÓ ÒÝØ ÓØÖÞÝÑÙÑÝ Ù ØÐ x 2 = x 4 = 0 Ð ÞÝ B = [a 1,a 3 ]º ÊÓÞÛÞÙ Bx B = b ÓØÖÞÝÑÙÑÝ x B = [4/3,11/3] T º ØÑ x = [4/3,0,11/3,0] T Ø ÞÓÛÝÑ ÖÓÞÛÞÒÑ ÓÔÙ ÞÞÐÒÝѺ Í ØÐ x 2 = x 3 = 0 ÔÖÛÞÑÝ ÓÐÒÝ ÔÙÒغ ÈÓÒÛ ÑÖÞ [ ] 2 1 B = [a 1,a 4 ] = 4 2 Ø ÑÖÞ Ó ÓÐÛ B Ò ÑÓ Ý Þ Ò ØÒ ÖÓÞÛÞÒ ÞÓÛ ÓÔÓÛ Þ B = [a 1,a 4 ]º ÞÛÖØÓ ÒÝØ ÔÖÛÞÑÝ Ð x 1 = x 4 = 0º Ð ÞÝ B = [a 2,a 3 ] ÑÑÝ ÞÓÛ ÖÓÞÛÞÒ ÓÔÙ ÞÞÐÒ x = [0,2,7,0] T º Ð x 1 = x 3 = 0 ÞØÑ Ð ÞÝ B = [a 2,a 4 ] ÓØÖÞÝÑÙÑÝ ÞÓÛ ÖÓÞÛÞÒ ØÖ Ò Ø ÓÔÙ ÞÞÐÒ x = [0, 11/,0, 28/] T º Ç ØØÞÒ Û Þ ØÝÑ ÔÖÞÝÔÙ Ð x 1 = x 2 = 0 B = [a 3,a 4 ]µ ÙÞݹ ÙÑÝ Ø ÞÓÛ ÖÓÞÛÞÒ ØÖ Ò Ø ÓÔÙ ÞÞÐÒ x = [0,0,11/3, 8/3] T º Ï ÒÓ ÖÓÞÛÞ ÞÓÛÝ ÒÞÒ ÖÓÞÛÞ ÞÓÛÝ Û ÔÖÓÖÑÓÛÒÙ ÐÒÓÛÝÑ Ø Þ ÒÞº ÊÓÞÛÞÒ ÓÔØÝÑÐÒ Ð ØÒµ ÞÒÙ Û ÞÓÖÞ ÞÓÛÝ ÖÓÞ¹ ÛÞ ÓÔÙ ÞÞÐÒݺ ÓÛÓÞ ØÓ ÔÓ ØÛÓÛ ØÛÖÞÒ Èĺ º ¾º ÇÔØÝÑÐÒÝÑ ÖÓÞÛÞÒÑ ÓÔÙ ÞÞÐÒÝÑ Ø Ý Û¹ ØÓÖ x ØÖÝ ÑÒÑÐÞÙ ÙÒ ÐÙ c T x Û ÞÓÖÞ ÓÔÙ ÞÞÐÒÝÑ Ax = b,x 0º ÇÔØÝÑÐÒ ÖÓÞÛÞÒ ÓÔÙ ÞÞÐÒ ØÖ Ø Ø ÞÓÛ ÒÞÝÛÒ Ø ÓÔØÝÑÐÒÝÑ ÞÓÛÝÑ ÖÓÞÛÞÒÑ ÓÔÙ ÞÞÐÒÝѺ

ÌÛº ½ ÈÓ ØÛÓÛ ØÛÖÞÒ Èĵº ÊÓÞÛ ÑÝ ÞÒ ÈÄ Û ÔÓ Ø ØÒ¹ ÖÓÛº ½º ÂÐ ØÒ ÖÓÞÛÞÒ ÓÔÙ ÞÞÐÒ ØÓ ØÒ Ø ÞÓÛ ÖÓÞÛ¹ ÞÒ ÓÔÙ ÞÞÐÒº ¾º ÂÐ ØÒ ÓÔØÝÑÐÒ ÖÓÞÛÞÒ ÓÔÙ ÞÞÐÒ ØÓ ØÒ ÓÔØÝÑÐÒ ÞÓÛ ÖÓÞÛÞÒ ÓÔÙ ÞÞÐÒº ÓÛº ÍÓÛÓÒÑÝ ÒÔÖÛ Þ ÔÖÛ Þ ØÛÖÞÒº Æ x = [x 1,...,x n ] T Þ ÖÓÞÛÞÒÑ ÓÔÙ ÞÞÐÒÝÑ Ó p ÓØÒ ÞÑÒÒݺ Þ ØÖØÝ ÓÐÒÓ ÑÓ ÑÝ ÔÖÞÝ ÔÖÛ ÞÝ p ÐÑÒØÛ Ø Óع Ò ÔÓÞ Ý ÔÓÞÓ Ø ÖÛÒ ÞÖÓº ÊÓÞÛÞÒ ØÓ ÔÒ ÖÛÒÒ x 1 a 1 + x 2 a 2 +... + x p a p = b, Þ Û ÔÞÝÒÒÑ ÓÔÓÛÒ ÐÑÒØÝ ÑÖÞÝ A = [a 1,...,a p,...,a n ]º Á ØÒ Û ÔÖÞÝÔº ÈÖÞÝÔ ½º ÂÐ a 1,...,a p ÐÒÓÛÓ ÒÞÐ Ò ØÓ p mº ÂÐ p = m ØÓ x Ø ÖÓÞÛÞÒÑ ÞÓÛÝÑ ÔÖÛ Þ Þ ÓÛÓÙ Ø ÞÓÞÓÒº ÂÐ p < m ØÓ ÔÓÒÛ ÖÞ ÑÖÞÝ A ÛÝÒÓ m Û ÑÓ ÑÝ ÞÒÐõ m p ÓÐÙÑÒ ÑÖÞÝ A Ø m ÓÐÙÑÒ ÖÞÑ ÙØÛÓÖÞÝ Þº ËØ ÖÓÞÛÞÒ x ØÒÓÛ ÞÒÖÓÛÒµ ÞÓÛ ÖÓÞÛÞÒ ÓÔÙ ÞÞÐÒ Û Ò Þº ÈÖÞÝÔ ¾º ÑÝ a 1,...,a p ÐÒÓÛÓ ÞÐ Òº Á ØÒ ÛÛÞ ÐÞÝ y i,i = 1,...,p Ò Û ÞÝ Ø ÞÖÓÛ Ø y 1 a 1 + y 2 a 2 +... + y p a p = 0. ÅÓ ÑÝ ÔÖÞÝ Ó ÒÑÒ Ò y i Ø ÓØÒº ÅÒÓ ÔÓÛÝ Þ ÖÛÒÒ ÔÖÞÞ ÐÖ ε ÓÑÙ ÔÓÛ Ø ÖÛÒÒ Ó x 1 a 1 + x 2 a 2 +... + x p a p = b ÓØÖÞÝÑÙÑÝ (x 1 εy 1 )a 1 + (x 2 εy 2 )a 2 +... + (x p εy p )a p = b. Æ y = [y 1,...,y p,0,...,0] T º ØÑ Ð Ó ε ÑÓ ÑÝ ÞÔ A[x εy] = b. Æ ε = ÑÒ{x i /y i : i = 1,...,p,y i > 0}º ÈÖÛ ÞÝ p ÒÛ x εy Ø ÒÙÑÒÝ Ó ÒÑÒ Ò Þ Ò Ø ÖÛÒÝ ÞÖÓº ÅÑÝ ÞØÑ ÖÓÞÛÞÒ ÓÔÙ ÞÞÐÒ Þ Ó ÒÛÝ p 1 ÓØÒÑ ÒѺ ÈÓ¹ ÛØÖÞÑÝ ØÒ Ñ ÔÖÓ ÙÞÝ ÑÝ ÐÒÓÛÓ ÒÞÐ Ò ÓÐÙÑÒÝ ÑÖÞÝ A Ó ÓÞÒÞ ÛÖÐÑÝ Ó ÈÖÞÝÔÙ ½º ÏÝ ÑÝ ØÖÞ Þ ¾ ØÛÖÞÒº Æ x = [x 1,...,x n ] T Þ ÓÔØÝÑÐÒÝÑ ÖÓÞÛÞÒÑ ÓÔÙ ÞÞÐÒÝÑ ØÝÐÓ ÔÖÛ ÞÝ p ÞÑÒÒÝ

Ø Ö ÒÝ Ó ÞÖº Á ØÒ Û ÔÖÞÝÔº ÈÖÛ ÞÝ ÔÖÞÝÔ Ø Ó¹ Ò Ø Ñ Û Þ ÔÖÛ Þº ÖÙ ÓÔÖ Ò Ø ÑÝ ÔÖÞ Ò Û Þ ÔÖÛ Þ Ð ÓØÓÛÓ ÒÐ Ý ÛÝÞ x εy Ø ÓÔØÝÑÐÒ Ð Ó εº Ï ØÝÑ ÐÙ ÔÓ ÑÝ c T y = 0º ÑÝ c T y 0º Ð ÓÔÓÛÒÓ ÑÓ ε ε ÑÒ x i /y i : i = 1,...,p,y i 0µ ÛØÓÖ x εy Ø ÓÔÙ ÞÞÐÒݺ ÅÓ¹ ÑÝ ÛÝÖ Ø ε c T x > c T x εc T y = c T (x εy)º ÔÖÞÞ ØÓ ÓÔØÝÑÐÒÓ xº ÅÓ ÑÝ ØÖÞ Ù Ý ÔÖÓÙÖÝ Þ Þ ÔÖÛ Þ Ý ÓØÖÞÝÑ ÓÔØÝÑÐÒ ÞÓÛ ÖÓÞÛÞÒ ÓÔÙ ÞÞÐÒ Þ ÒÓ ÓÔØÝÑй ÒÓ ÖÓÞÛÞÒ ÓÔÙ ÞÞÐÒÓº ÈÖÞÝ Ð ÙÙ ÖÛÒ Þ ÈÖÞÝÙ ÒÐ Ý ÞÒÐõ ÒÞÓÛ ÖÓÞÛÞÒ ÓÔÙ ÞÞÐÒ Ò ØÔÒ ÛÝÞÒÞÝ ÞÓÛ ÖÓÞÛÞÒ Ó¹ ÔÙ ÞÞÐÒ ÛÝÓÖÞÝ ØÙ ÑØÓ ÔÖÞ ØÛÓÒ Û ÓÛÓÞ ÔÓ ØÛÓÛÓ ØÛÖÞÒ Èĺ ÊÓÞÛÞÒ ÙÙ ÖÛÒ Û ÔÓÔÖÞÒÑ ÔÖÞÝÞ ÝÓ Ò ØÔÙ 14 2 1 x = 1 2 0 + s 3 1 + t 0 0, 0 0 1 Þ s,t Rº ÈÖÞÝÓÛÓ Ð s = 4 ÓÖÞ t = 0 ÓØÖÞÝÑÙÑÝ ÒÞÓÛ ÖÓÞÛÞÒ ÓÔÙ ÞÞÐÒ 6 1 x 0 = 4 0 Á ØÒ ÐÞÝ y i,i = 1,2,3 Ø y 1 a 1 + y 2 a 2 + y 3 a 3 = 0. Æ ÔÖÞÝ Ò y 1 = 2, y 2 = 3, ÏÛÞ Þ y 3 = 1. A(x 0 εy) = b, y = 2 3 1 0

Ð ε = ÑÒ{x 0i /y i : i = 1,2,3} = 1/3 ÓØÖÞÝÑÙÑÝ ÞÓÛ ÖÓÞÛÞÒ ÓÔÙ ÞÞÐÒ 4 3 x 1 = x 0 εy = 0 11. 3 0 ÈÓ ØÛÓÛ ØÛÖÞÒ ÈÄ ÓÖÒÞ ÞÒ ÈÄ Ó ÔÓ ÞÙÛÒ ÓÔع ÑÙÑ ÛÖ ÓÞÓÒ ÐÞÝ ÞÓÛÝ ÖÓÞÛÞ ÓÔÙ ÞÞÐÒݺ ÁÒØÖÔÖØ ÓÑØÖÝÞÒ Ö Θ R n ÒÞÛÑÝ ÛÝÔÙÝÑ Ð Ð ÓÛÓÐÒÝ ÔÙÒØÛ x,y Θ ÓÒ ÞÝ Ø ÔÙÒØÝ ÖÛÒ ÒÐ Ý Ó Θº Ö ÔÙÒØÛ ÔÒÝ ÓÖÒÞÒ Ax = b, x 0. Ø ÛÝÔÙݺ Æ x 1 ÓÖÞ x 2 ÔÙÒØÑ ÔÒÝÑ ÓÖÒÞÒ ØÞÒº Ax i = b,x i 0,i = 1,2 º ÏÛÞ Ð ÓÛÓÐÒÓ α (0,1),A[αx 1 + (1 α)x 2 ] = αax 1 + (1 α)ax 2 = bº ÊÛÒ Ð ÓÛÓÐÒÓ α (0,1) ÓØÖÞÝÑÙÑÝ αx 1 + (1 α)x 2 0º ÈÙÒØÑ ÛÖÞÓÓÛÝÑ ØÖÑÐÒÝÑ ÖÓÛÝѵ ÞÓÖÙ ÛÝÔÙÓ Θ Ø Ø ÔÙÒØ x Ò ØÒ Û ÔÙÒØÝ x 1,x 2 Θ Ð ØÖÝ x = αx 1 + (1 α)x 2 Þ α (0,1)º ÈÙÒØ ÛÖÞÓÓÛÝ Ò Ð Ý Ò ÐÒ Þ Û ÒÒ ÔÙÒØÝ ÒÐ Ó ÒÓ ÞÓÖÙº ËØ Ð x Ø ÔÙÒØÑ ÛÖÞÓÓÛÝÑ ÓÖÞ x = αx 1 +(1 α)x 2 Ð ÔÛÒÝ x 1,x 2 Θ Þ α (0,1) ØÓ ÛÛÞ x 1 = x 2 º Ï ÔÓÒ ÞÝÑ ØÛÖÞÒÙ ÔÓ ÑÝ Û ÞÝ Ø ÔÙÒØÝ ÛÖÞÓÓÛ ÞÓÖÙ ÖÓÞÛÞ ÓÔÙ ÞÞÐÒÝ ØÒÓ¹ Û ÞÓÛ ÖÓÞÛÞÒ ÓÔÙ ÞÞÐÒº ÌÛº ¾º Æ Ω Þ ÞÓÖÑ ÛÝÔÙÝÑ ÝÑ Þ Û ÞÝ Ø ÖÓÞ¹ ÛÞ ÓÔÙ ÞÞÐÒÝ ØÞÒº Û ÞÝ Ø ÔÙÒØÛ x ÔÒÝ ÓÖÒÞ¹ Ò Ax = b, x 0 Þ A R m n,m < nº ÂÐ x Ø ÔÙÒØÑ ÛÖÞÓÓÛÝÑ ÞÓÖÙ Ω ØÓ Ø Ø ÞÓÛÝÑ ÖÓÞÛÞÒÑ ÓÔÙ ÞÞÐÒÝÑ ÒÓ ÙÙº ÓÛº Æ ÔÙÒØ x Ó p ÓØÒ ÐÑÒØ ÔÒ ÛÖÙÒ ÓÖÒ¹ Þ Ax = b, x 0º Þ ÖØÝ ÓÐÒÓ ÔÖÞÝÑÑÝ p ÔÖÛ ÞÝ ÐÑÒØÛ Ø ÓØÒ ÔÓÞÓ Ø ÐÑÒØÝ ÖÛÒ ÞÖÓ x 1 a 1 + x 2 a 2 +... + x p a p = b. Æ y i,i = 1,...,p ÓÛÓÐÒÝÑ ÐÞÑ ØÑ y 1 a 1 + y 2 a 2 +... + y p a p = 0. ½¼

ÏÝ ÑÝ Û ÞÝ Ø y i = 0º ÈÓÑÒ ÑÝ ÔÓÛÝ Þ ÖÛÒÒ ÔÖÞÞ ε > 0 Ò ØÔÒ ÓÑÝ ÓÑÑÝ ÛÝÒ Ó ÖÛÒÒ x 1 a 1 +x 1 a 2 +...+x p a p = bº ÇØÖÞÝÑÙÑÝ ÓÔÓÛÒÓ (x 1 + εy 1 )a 1 + (x 2 + εy 2 )a 2 +... + (x p + εy p )a p = b (x 1 εy 1 )a 1 + (x 2 εy 2 )a 2 +... + (x p εy p )a p = b. ÈÓÒÛ Û ÞÝ Ø x i > 0 ÞØÑ ε > 0 ÑÓ Ò Ø ÓÖ Ý Ð Ó i ÞÓÞÓ x i + εy i,x i εy i 0 ÒÔº ε = ÑÒ{ x i /y i : i = 1,...,p,y i 0}µº Ð Ø ÓÖÒÓ ε ÛØÓÖÝ z 1 = [x 1 + εy 1,x 2 + εy 2,...,x p + εy p,0,...,0] T z 2 = [x 1 εy 1,x 2 εy 2,...,x p εy p,0,...,0] T ÒÐ Ó Ωº ÙÛ ÑÝ x = 1 2 z 1 + 1 2 z 2º ÈÓÒÛ x Ø ÔÙÒØÑ ÛÖÞÓÓÛÝÑ ÞØÑ z 1 = z 2 º ËØ Û ÞÝ Ø y i = 0 Ó ÓÞÒÞ a i ÐÒÓÛÓ ÒÞÐ Òº ÈÓÛÝ ÞÝ ÓÛ ÔÓÞÙ Ð ÛØÓÖ x Ω Ø ÔÙÒØÑ ÛÖÞÓ¹ ÓÛÝÑ Ω ØÓ Ø Ø ÞÓÛÝÑ ÖÓÞÛÞÒÑ ÓÔÙ ÞÞÐÒÝѺ ÌÛÖÞÒ ÓÛÖÓØÒ Ø ÖÛÒ ÔÖÛÞÛº Ö ÔÙÒØÛ ÛÖÞÓÓÛÝ ÞÓÖÙ Ω = {x : Ax = b,x 0} Ø ÖÛÒÝ ÞÓÖÓÛ ÞÓÛÝ ÖÓÞÛÞ ÓÔÙ Þ¹ ÞÐÒÝ ÙÙ Ax = b,x 0º Æ ÔÓ ØÛ ÓÙ ØÝ ØÛÖÞ ÓÖÞ ÔÓ ØÛÓÛÓ ØÛÖÞÒ ÈÄ Ý ÖÓÞÛÞ ÞÒ ÈÄ ÑÓ ÑÝ ÔÖÛÞ ÝÒ ÔÙÒØÝ ÛÖÞÓÓÛ ÞÓÖÙ ÓÖÒÞº ÈÖÞÝ Æ Þ Ò ÞÒ ÔÖÞÝ ÓÖÒÞÒ ÑÜ 3x 1 + x 2 x 1 + x 2 40 2x 1 + x 2 20 x 1 + x 2 12 x 1,x 2 0. ÏÔÖÓÛÞ ÞÑÒÒ ÒÓÓÖÙ ÔÖÓÛÞÑÝ ÞÒ Ó ÔÓ Ø ØÒÖ¹ ÓÛ ÑÒ 3x 1 x 2 ÔÖÞÝ ÓÖÒÞÒ x 1 + x 2 + x 3 = 40 2x 1 + x 2 + x 4 = 20 x 1 + x 2 + x = 12 ½½

x 1 x 1,...,x 0. Í ÓÖÒÞ ÑÓ ÑÝ ÛÝÖÞ Ó 1 1 0 2 +x 2 1 +x 3 0 +x 4 1 1 1 0 0 +x 0 0 1 = 40 20 12, x 1,...,x 0; ÏØÓÖ x = [0,0,40,20,12] T ØÒÓÛ ÖÓÞÛÞÒ ÓÔÙ ÞÞÐÒ Ð ØÖÓ ÙÒ ÐÙ ÛÝÒÓ ¼º Ý Ó Ò ÒÑÒ Þ ÛÖØÓ ÙÒ ÐÙ ÔÖÛ¹ ÞÑÝ ÓÐÒ Òµ ÔÙÒØÝ ÛÖÞÓÓÛº ÞÝÒÑÝ Ó ÔÙÒØÙ x = [0,0,40,20,12] T º ÅÑÝ ÞØÑ 0a 1 + 0a 2 + 40a 3 + 20a 4 + 12a = b. ÏÝÖÑÝ Ò ÔÙÒØ ÛÖÞÓÓÛÝ ÛÞ a 1 Ó ÒÓÛ Þݺ ØÖ ÞÝ ÑÙ ÑÝ Ù ÙÒ a 3 a 4 ÐÙ a º ÏÝÖ ÑÝ a 1 Ó ÐÒÓÛ Óѹ Ò ÓÐÙÑÒ ØÖ ÞÝ a 1 = 1a 3 + 2a 4 + 1a. ÅÒÓ Ó ØÖÓÒÝ ÖÛÒÒ ÔÖÞÞ ε 1 > 0 ÓØÖÞÝÑÙÑÝ ε 1 a 1 = ε 1 a 3 + 2ε 1 a 4 + ε 1 a. ÓÑÝ ÓØÖÞÝÑÒ ÖÛÒÒ Ó ÖÛÒÒ 0a 1 +0a 2 +40a 3 +20a 4 +12a = b ÙÞÝ ÙÑÝ ε 1 a 1 + 0a 2 + (40 ε 1 )a 3 + (20 2ε 1 )a 4 + (12 ε 1 )a = b. ÏÝÖÑÝ ε 1 Û Ø ÔÓ Ý Û ÞÝ Ø Û ÔÞÝÒÒ ÔÓÞÓ ØÝ Ò¹ ÙÑÒ ÔÖÞÝÒÑÒ Ò Þ Û ÔÞÝÒÒÛ ÔÖÞÝ a 3 a 4 ÐÙ a Ý ÖÛÒÝ ÞÖÓº Ð ε 1 = 10 ÓØÖÞÝÑÙÑÝ 10a 1 + 30a 3 + 2a = b, ÞÑÙ ÓÔÓÛ ÞÓÛ ÖÓÞÛÞÒ ÓÔÙ ÞÞÐÒ ÔÙÒØ ÛÖÞÓÓÛݵ [10,0,30,0,2] T º ÏÖØÓ ÙÒ ÐÙ Û ØÝÑ ÔÙÒ ÛÝÒÓ 30º ÏÝÓ¹ ÖÞÝ ØÙ Ø Ñ ÔÖÓÙÖ ÔÖÛÞÑÝ ÓÐÒÝ ÔÙÒØ ÛÖÞÓÓÛÝ ØÝÑ ÖÞÑ ÛÞ a 2 Ó ÒÓÛ Þݺ ÇØÖÞÝÑÙÑÝ a 2 = 1 2 a 1 + 9 2 a 3 + 1 2 a, ÓÖÞ (10 1 2 ε 2)a 1 + ε 2 a 2 + (30 9 2 ε 2)a 3 + (2 1 2 ε 2)a = b. Ð ε 2 = 4 ÑÑÝ 8a 1 +4a 2 +12a 3 = bº Ó ØÑÝ ÖÓÞÛÞÒ [8,4,12,0,0] T ÙÒ ÐÙ ÓÔÓÛ ÛÖØÓ 44º ÈÓÛØÖÞÑÝ ÔÖÓÙÖ ÓÐÒÝ ÖÞ ½¾

ÙÛÞÐÒ a 4 Û ÒÓÛ Þº ÛØÓÖÛ ÔÓÔÖÞÒ ÞÝ ÏØÓÖ a 4 ÛÝÖ ÑÝ Ó ÓÑÒ a 4 = a 1 a 2 + 4a 3 ÓØÖÞÝÑÙÑÝ (8 ε 3 )a 1 + (4 + ε 3 )a 2 + (12 4ε 3 )a 3 + ε 3 a 4 = b. ÆÛ Þ ÑÓ ÐÛ ÛÖØÓ Ð ε 3 ÛÝÒÓ 3º ÞÓÛ ÖÓÞÛÞÒ ÓÔÙ Þ¹ ÞÐÒ ØÓ [,7,0,3,0] T ÓÔÓÛ ÑÙ ÛÖØÓ ÙÒ ÐÙ 0º Â Ø ØÓ ÖÓÞÛÞÒ ÓÔØÝÑÐÒ ÊÝ µº ÊÝ ÙÒ ½