Nekomutativní Gröbnerovy báze

Univerzita Karlova v Praze Matematicko-fyzikální fakulta DIPLOMOVÁ PRÁCE Bc. Zuzana Požárková Nekomutativní Gröbnerovy báze Katedra algebry Vedoucí diplomové práce: RNDr. Jan Št ovíček, Ph.D. Studijní program: Matematika Studijní obor: Matematické metody informační bezpečnosti Praha 2015

Děkuji vedoucímu své diplomové práce, RNDr. Janu Št ovíčkovi, Ph.D., za cenné rady, poskytnutí literatury a čas věnovaný kontrole práce. Prohlašuji, že jsem tuto diplomovou práci vypracovala samostatně a výhradně s použitím citovaných pramenů, literatury a dalších odborných zdrojů. Beru na vědomí, že se na moji práci vztahují práva a povinnosti vyplývající ze zákona č. 121/2000 Sb., autorského zákona v platném znění, zejména skutečnost, že Univerzita Karlova v Praze má právo na uzavření licenční smlouvy o užití této práce jako školního díla podle 60 odst. 1 autorského zákona. V Praze dne 4.12. 2015 Zuzana Požárková

Název práce: Nekomutativní Gröbnerovy báze Autor: Bc. Zuzana Požárková Katedra: Katedra algebry Vedoucí bakalářské práce: RNDr. Jan Št ovíček, Ph.D. Abstrakt: V předložené práci definujeme nekomutativní Gröbnerovy báze, včetně potřebných základů nekomutativní algebry a pojmu přípustné uspořádání. Je zde představena nekomutativní varianta Buchbergerova algoritmu a podrobně studována vylepšení vedoucí k efektivnímu výpočtu. Studium netriviálních obstrukcí nás přivádí k analogii Gebauer-Möller kritérií vedoucích k odstranění většině nadbytečných obstrukcí v nekomutativním případě. Uvádíme zde grafickou interpretaci obstrukcí. Vylepšení algoritmu lze také dosáhnout pomocí redundantních polynomů. Tato práce je shrnutím a zpřesněním výsledků některých známých autorů zabývajících se touto problematikou. V práci definované pojmy jsou ilustrovány na příkladech. Předkládáme zde důkazy některých tvrzení, která byla odlišným způsobem dokázána jinými autory. Klíčová slova: Gröbnerova báze, přípustné uspořádání, obstrukce, Buchbergerův algoritmus, Gebauer-Möller kritéria. Title: Non-commutative Gröbner bases Author: Bc. Zuzana Požárková Department: Department of Algebra Supervisor: RNDr. Jan Št ovíček, Ph.D. Abstract: In the presented work we define non-commutative Gröbner bases including the necessary basis of non-commutative algebra theory and notion admissible ordering. We present non-commutative variant of the Buchberger algorithm and study how the algorithm can be improved. Analogous to the Gebauer-Möller criteria lead us to detect almost all unnecessary obstructions in the non-commutative case. The obstructions are graphically ilustrated. The Buchberger algorithm can be improved within redundant polynomials. This work is a summary and its specification of the results of some known authors engaged in this field. Presented definitions are ilustrated on examples. We perform proves of some of the statements which have been proven differently by other authors. Keywords: Gröbner basis, admissible ordering, obstruction, Buchberger algorithm, Gebauer-Möller criteria.

Obsah Úvod 2 1 Základní pojmy 4 1.1 Ideály................................. 4 1.2 Struktura K X........................... 5 1.3 Přípustné uspořádání......................... 7 1.4 Normální tvar polynomu....................... 9 1.5 Moduly................................ 11 2 Gröbnerovy báze v K X a jejich vlastnosti 13 2.1 Redukce polynomu.......................... 13 2.2 Definice Gröbnerovy báze...................... 19 2.3 Redukovaná Gröbnerova báze.................... 20 2.4 Syzygie................................. 22 3 Výpočet Gröbnerovy báze 26 3.1 Obstrukce............................... 26 3.2 Buchbergerův algoritmus....................... 30 4 Vylepšení Buchbergerova algoritmu 38 4.1 Redukce obstrukcí........................... 38 4.2 Nekomutativní Gebauer-Möller kritéria............... 45 4.3 Redundantní polynomy........................ 56 Závěr 61 Literatura 62 Seznam tabulek 63 1

Úvod Gröbnerovy báze jsou od svého objevení Buchbergerem v roce 1965 nenahraditelným výpočetním prostředkem pro práci se soustavami polynomiálních rovnic. Pokud bychom ovšem za proměnné do rovnic chtěli dosadit něco složitějšího než jen čísla, například čtvercové matice, musíme s rovnicemi zacházet mnohem opatrněji. Speciálně nesmíme bez přemýšlení prohazovat pořadí proměnných, musíme se tedy vzdát komutativity. I v tomto případě má k problému Buchbergerův algoritmus co říci. Jistou potíž však přináší fakt, že nekomutativní Gröbnerova báze nemusí být konečná. Proto nekomutativní verze Buchbergerova algoritmu terminuje pouze tehdy, je-li báze konečná. Proč jsou Gröbnerovy báze atraktivní? Hlavní problém, který řeší, lze vysvětlit během pěti minut, algoritmus řešící tento problém se lze naučit za patnáct minut. Avšak teorie schovaná za ním není triviální k dokázání. Navíc mnoho problémů na první pohled z odlišných oblastí matematiky lze redukovat na problém výpočtu Gröbnerovy báze. Základní myšlenku lze shrnout následovně. Dodáme-li dané množině pěknou vlastnost, vznikne nová množina nazývána Gröbnerova báze, která generuje tentýž ideál jako množina původní. Nasnadě je otázka, jak se Gröbnerovy báze využívají. Mnoho problémů je složitých pro obecnou množinu, kdežto pro Gröbnerovu bázi je jejich řešení snadné díky dodané pěkné vlastnosti. V této práci představíme nekomutativní Buchbergerův algoritmus, který převádí libovolnou množinu na ekvivalentní Gröbnerovu bázi. Řešení problému s Gröbnerovou bází lze pak snadno převést zpět na řešení problému s původní množinou. Základní pojmy z nekomutativní algebry, definice přípustného uspořádání a normálního tvaru polynomu jsou uvedeny v první kapitole. Ve druhé kapitole představíme algoritmus pro redukci polynomu a jeho aplikaci. Poté definujeme Gröbnery báze, které jsou vlastním předmětem práce, a popíšeme vztah mezi normálním zbytkem a normální tvarem polynomu. Pozornost je také věnována jednoznačné redukované Gröbnerově bázi. Na závěr druhé kapitoly popíšeme Gröbnerovy báze pomocí syzygií. Ve třetí kapitole je představen Buchbergerův 2

algoritmus pro výpočet nekomutativní Gröbnerovy báze, jehož klíčovými prvky jsou obstrukce a příslušné S-polynomy. Algoritmus je v této podobě neefektivní, nebot mnoho obstrukcí nepřidává nový prvek do parciální Gröbnerovy báze. Čtvrtá kapitola se proto věnuje vylepšení Buchbergerova algoritmu pomocí odstranění nadbytečných obstrukcí a redundantních polynomů. 3

Kapitola 1 Základní pojmy Tato kapitola se věnuje základním pojmům z nekomutativní algebry. Zavedeme definice a vlastnosti ideálů a modulů. Popíšeme strukturu nekomutativních polynomů nad konečnou množinou proměnných. Dále čtenáře seznámíme s pojmem přípustné uspořádání a uvedeme jeho příklady. Následně definujeme normální tvar polynomu, který má v teorii Gröbnerových bází zásadní význam. Čerpáme z [1], [3] a [7]. 1.1 Ideály Necht R je okruh. Podmnožina I R se nazývá levý (resp. pravý) ideál, pokud 0 I, a ± b I a r a I (resp. a r I) pro každé a, b I a r R. Je-li ideál zároveň pravý i levý, nazývá se oboustranný ideál, nebo prostě jen ideál. Definice. Říkáme, že prvky a 1, a 2,..., a n R generují ideál I, jestliže I je nejmenší ideál obsahující a 1, a 2,..., a n. Ideál I generovaný a 1, a 2,..., a n budeme značit I = a 1, a 2,..., a n. Následující tvrzení říká, že prvky ideálu lze vyjádřit jako lineární kombinaci generátorů. Tvrzení 1.1.1. Necht R je okruh a I = a 1, a 2,..., a n. Pak { n } I = r i a i s i ; r i, s i R. i=1 4

Důkaz. Necht a i I, pak r i a i s i I pro libovolná s i, r i R. Tedy i jejich součet je v I a každý prvek tvaru r i a i s i musí náležet I. Navíc tyto prvky tvoří množinu uzavřenou na všechny operace a tudíž z minimality plyne, že ani jiné prvky neobsahuje. Říkáme, že ideál I je konečně generovaný, jestliže má konečnou množinu generátorů. Množinu generátorů B nazýváme iredundantní, jestliže žádná vlastní podmnožina množiny B negeneruje ideál I. Obecně není pravda, že každý ideál je konečně generovaný. S tím souvisí i následující pojem. Definice. Okruh R se nazývá noetherovský, pokud v R neexistuje nekonečná rostoucí posloupnost ideálů I 1 I 2 I 3.... Lemma 1.1.2. Necht R je okruh. Pak R je noetherovský právě tehdy, když je každý ideál v R konečně generovaný. Důkaz. Nejprve sporem dokážeme, že v noetherovském okruhu R je každý ideál konečně generovaný. Předpokládejme, že ideál I R není konečně generován. Definujme následující posloupnost ideálů. Položme I 1 = a 1, kde a 1 I je libovolně zvoleno. Dále, indukcí, zvolme a i+1 takové, že a i+1 I\I i a položme I i+1 = a 1,..., a i+1. Takové a i+1 existuje, protože ideál I není konečně generován. Získali jsme nekonečnou posloupnost ideálů I 1 I 2..., což je spor. Nyní dokážeme druhou implikaci. Pro spor uvažujme nekonečnou rostoucí posloupnost ideálů I 1 I 2... a položme I = j=1 I j. Potom I je také ideál a předpokládejme, že je konečně generován prvky a 1,..., a n, nebot okruh R je noetherovský. Pak a 1,..., a n I = j=1 I j, takže pro každé i existuje j i splňující a i I ji. Označme k = max i=1,...,n j i. Potom a 1,..., a n I k, tedy a 1,..., a n = I k = I k+1... = I, což je spor. 1.2 Struktura K X Necht X je konečná množina proměnných (abeceda). Slovo nad X je prvek tvaru w = x 1... x k, kde k N a x 1,..., x k X. Délku k slova w označme w. Prázdné slovo (tj. slovo nulové délky) budeme značit 1 a množinu všech slov na X budeme značit X. Necht w = x 1... x l X. Násobení slov w a w definujeme jako zřetězení ww = x 1... x k x 1... x l. Množina X spolu s operací násobení a neutrálním prvkem 1 tvoří monoid. 5

Každé slovo tvaru w = x i x i+1... x j, kde 1 i j k, nazýváme podslovo slova w = x 1... x k (nebo také říkáme, že w je násobek w ). Speciálně w nazýváme prefix, jestliže i = 1, a sufix, jestliže j = k. O dvou slovech w, w X říkáme, že jsou nesoudělná, pokud w není podslovo w a ani w není podslovo w. Necht K je těleso. Pak K X = { c w w; c w K a c w 0 jen pro konečně mnoho w X } w X je nekomutativní okruh polynomů generovaný X nad tělesem K (nebo také volná asociativní K-algebra generovaná X), kde operace sčítání + a násobení definujeme předpisy w X u X c w w + w X c u u v X c ww = c v v = w X w X ( w=uv (c w + c w)w, c u c v)w. Množinu {w X ; c w 0} nazýváme nosič polynomu f = w X c ww a značíme ji Supp(f). Nejjednodušší ideály v okruhu K X jsou generované množinou slov a mají následující vlastnost. Tvrzení 1.2.1. Necht S X je množina slov, která generuje ideál I = S K X. Potom existuje iredundantní množinu generátorů ideálu I, která je určena jednoznačně a je tvořená pouze slovy. Speciálně, pro každé slovo w I existuje w S takové, že w je násobek slova w. Důkaz. Uvažujme množinu B X všech slov I takových, že neobsahují jiná slova I jako svá vlastní podslova. Dokážeme, že B je iredundantní množina generátorů, která je určena jednoznačně. Necht slovo w je prvek ideálu I a w je nejmenší podslovo w takové, že ještě stále leží v ideálu I. Z definice množiny B plyne, že w B. Odtud společně s Tvrzením 1.1.1 dostáváme, že B generuje ideál I. Nyní ukážeme, že je iredundantní. Pro spor předpokládejme, že existuje B B taková, že generuje I. Necht w B\B. Musí tedy existovat slova β B, a, b X taková, že w = aβ b. Z definice B plyne, že w = β, což je spor. Předpokládejme, že máme dvě různé iredundantní množiny generátorů B a B ideálu I. Vezměme prvek β B \B. Podobně jako v předchozím případě dostáváme, že β B. Tím je dokázána jednoznačnost. 6

Mějme nekomutativní polynom f = n i=1 c iw i, kde c i K a w i X jsou po dvou různá slova. Jestliže f I, pak zřejmě také w i I pro všechna i = 1,..., n. Necht w = k i=1 p iw i p i, kde w i S, p i, p i K X, i = 1,..., k. Potom musí existovat index i {1,..., k} takový, že w Supp(p i w i p i). Proto platí i druhá část tvrzení. Pokud z množiny generátorů odebereme ta slova, která mají v této množině vlastní podslova, a odstraníme všechna opakování slov, dostaneme iredundantní množinu generátorů. Poznámka. Nekomutativní okruh polynomů K X není noetherovský, jestliže X 2. Například uvažujme K x, y a nekonečnou rostoucí posloupnost ideálů I 1 I 2..., kde I i = xyx, xy 2,..., xy i x. Tedy K x, y není noetherovský. To vede ke komplikacím výpočtu Gröbnerovy báze. 1.3 Přípustné uspořádání Definice. Uspořádání σ na X se nazývá přípustné, jestliže pro všechna slova w 1, w 2, w 3, w 4 X platí následující podmínky: (1) w 1 σ w 2 nebo w 2 σ w 1, tj. σ je úplné, (2) je-li w 1 σ w 2, pak w 3 w 1 w 4 σ w 3 w 2 w 4, tj. σ je kompatibilní s násobením, (3) neexistuje nekonečná klesající posloupnost slov w 1 > σ w 2 > σ..., tj. σ je terminující. Je-li σ přípustné uspořádání, potom w σ 1 pro všechna slova w X. Kdyby existovalo slovo w X takové, že w < σ 1, pak by podle druhé podmínky platilo w i = w i 1 > σ w i w = w i+1 pro každé i N. Díky tranzitivitě bychom dostali nekonečnou klesající posloupnost 1 > σ w > σ w 2 > σ..., což by bylo ve sporu s třetí podmínkou. Jestliže w 1 X je podslovo w 2 X (tj. a, b X taková, že w 2 = aw 1 b), pak w 1 < σ w 2, nebot z 1 σ a a 1 σ b plyne w 1 = 1w 1 σ aw 1 = aw 1 1 σ aw 1 b. V praxi se nejčastěji jako přípustné uspořádání používá tzv. délkově lexikografické uspořádání. Pro jeho definování však nejprve připomeňme známé lexikografické uspořádání. Definice (Lexikografické uspořádání LEX). Pro slova w 1, w 2 X položme w 1 LEX w 2, jestliže w 1 = w 2 w pro nějaké w X, nebo w 1 = wx i w 7

a w 2 = wx j w pro nějaká slova w, w, w X a nějaké prvky x i, x j X takové, že i < j. Poznámka. Lexikografické uspořádání není přípustné. Uvažujme monoid x 1, x 2. Potom platí x 2 2 > LEX x 2 a x 2 2x 1 < LEX x 2 x 1. Tedy není splněna kompatibilnost s násobením. Navíc neplatí ani třetí podmínka, nebot existuje nekonečná klesající posloupnost x 2 x 1 > LEX x 2 2x 1 > LEX x 3 2x 1 > LEX.... V literatuře se setkáme s názvem levostranné lexikografické uspořádání. Pravostranné se definuje symetricky. Ačkoliv lexikografické uspořádání není přípustné, pomáhá definovat přípustná uspořádání, kde hraje roli při shodě. Nyní můžeme definovat zmíněné délkově lexikografické uspořádání. Definice (Délkově lexikografické uspořádání LLEX). Pro slova w 1, w 2 X položme { w1 > w w 1 > LLEX w 2 2, w 1 = w 2 a w 1 > LEX w 2. V tomto uspořádání se tedy nejprve porovnává délka slov a až při rovnosti o pořadí rozhoduje lexikografické uspořádání. Příklady. Uvažujme monoid x 1, x 2. (1) Máme x 2 < LLEX x 2 2, nebot x 2 = 1 < 2 = x 2 2. (2) Máme x 2 2x 1 > LLEX x 2 x 1, nebot x 2 2x 1 = 3 > 2 = x 2 x 1. (3) Máme x 1 x 2 2 < LLEX x 2 1x 2, nebot x 1 x 2 2 = 3 = x 2 1x 2 a x 2 1x 2 < LEX x 1 x 2 2. Necht α = (α 1,..., α k ) je vektor nezáporných reálných čísel (nazýváme ho váhový vektor) a necht je dáno slovo w = x i1... x is X. Váhou slova w rozumíme výraz s j=1 α i j a značíme ji W α (w). Definice (Váhovaně lexikografické uspořádání GLEX). Pro slova w 1, w 2 X položme { Wα (w w 1 > GLEX w 2 1 ) > W α (w 2 ), W α (w 1 ) = W α (w 2 ) a w 1 > LEX w 2, kde α je předem daný váhový vektor. 8

Položíme-li α = (1,..., 1), dostáváme délkově lexikografické uspořádání. V případě α = (0,..., 0) se jedná o lexikografické uspořádání. Přípustné uspořádání nám pomáhá definovat další pojmy pro nekomutativní polynomy. Definice. Necht σ je přípustné uspořádání na X a necht f K X \{0}. Pak polynom f lze jednoznačně zapsat ve tvaru f = c 1 w 1 +... + c s w s, kde c 1,..., c s K\{0} a w 1,..., w s X jsou taková, že w 1 > σ... > σ w s. Slovo LT σ (f) = w 1 X nazýváme vedoucí term vzhledem k σ a prvek LC σ (f) = c 1 K\{0} vedoucí koeficient vzhledem k σ. Vedoucím monočlenem LM σ (f) vzhledem k σ rozumíme výraz LC σ (f) LT σ (f) = c 1 w 1. Polynom nazýváme monický, jestliže LC σ (f) = 1. Vedoucí term, koeficient a monočlen není pro nulový polynom definován. V následující poznámce jsou shrnuty základní vlastnosti vedoucích termů. Poznámka. Necht f, f 1, f 2 K X \{0} jsou polynomy. (1) Necht f 1 + f 2 0. Pak LT σ (f 1 + f 2 ) σ max σ {LT σ (f 1 ), LT σ (f 2 )}. Navíc LT σ (f 1 + f 2 ) = max σ {LT σ (f 1 ), LT σ (f 2 )} právě tehdy, když LT σ (f 1 ) LT σ (f 2 ) nebo LC σ (f 1 ) + LC σ (f 2 ) 0. (2) Pro všechna slova w, w X platí LT σ (wfw ) = wlt σ (f)w. (3) LT σ (f 1 f 2 ) = LT σ (f 1 )LT σ (f 2 ). 1.4 Normální tvar polynomu Necht σ je přípustné uspořádání na X a I K X je oboustranný ideál. Označme množinu a množinu LT σ {I} = {LT σ (f); f I\{0}} X O σ (I) = X \LT σ {I}. Lze snadno nahlédnout, že množina O σ (I) má následující vlastnost. Jestliže w O σ (I) a w = w 1 w 2, pak w 1 O σ (I) a w 2 O σ (I). Tvrzení 1.4.1. Necht σ je přípustné uspořádání na X a I K X je ideál. Pak K X = I Span K O σ (I). 9

Důkaz. Nejprve dokážeme, že I Span K O σ (I) = {0}. Uvažujme polynom f Span K O σ (I)\{0}. Kdyby f I, pak by LT σ (f) LT σ {I}. To je ve sporu s tím, že LT σ (f) O σ (I), nebot f Span K O σ (I). Dále sporem dokážeme, že K X = I + Span K O σ (I). Necht f K X je polynom s minimálním vedoucím termem LT σ (f) takový, že f / I+Span K O σ (I). Necht LT σ (f) O σ (I). Zřejmě LT σ ( f LCσ (f)lt σ (f) ) < LT σ (f). Pak dostáváme f LC σ (f)lt σ (f) = f 1 + f 1, kde f 1 I a f 1 Span K O σ (I). Odtud f = f 1 + ( f 1 + LC σ (f)lt σ (f) ) I + Span K O σ (I), což je spor. Nyní necht LT σ (f) LT σ {I}. Potom existuje polynom g I takový, že LT σ (f) = LT σ (g). Zřejmě LT σ ( f LC σ(f) LC σ(g) g) < LT σ (f). Odtud máme kde f 2 I a f 2 Span K O σ (I). Celkem což je opět spor. f = f LC σ(f) LC σ (g) g = f 2 + f 2, ( f 2 + LC ) σ(f) LC σ (g) g + f 2 I + Span K O σ (I), Důsledek 1.4.2. Necht σ je přípustné uspořádání na X a I K X je ideál. Pak pro každý polynom f K X existuje právě jeden polynom ˆf Span K O σ (I) takový, že f ˆf I. Důkaz. Stačí dokázat jednoznačnost. Uvažujme polynom f K X. Dále pro spor předpokládejme, že existují dva polynomy ˆf 1, ˆf 2 Span K O σ (I) splňující f ˆf 1, f ˆf 2 I. Pak (f ˆf 1 ) (f ˆf 2 ) = ˆf 1 ˆf 2 I Span K O σ (I). Navíc I Span K O σ (I) = {0} podle předchozího tvrzení. Odtud ˆf 1 = ˆf 2. Definice. Necht I K X je ideál a necht f K X je polynom. Pak polynom ˆf Span K O σ (I), který je dle 1.4.2 určen jednoznačně, nazýváme normální tvar f modulo I vzhledem σ a značíme ho N σ,i (f). 10

Polynomu f K X říkáme normální polynom modulo I vzhledem k σ, jestliže f = N σ,i (f). Podobně slovu w X říkáme normální slovo, jestliže w = N σ,i (w). Polynom f K X je normální polynom právě tehdy, když f Span K O σ (I), a slovo w X je normální slovo právě tehdy, když w O σ (I). Nyní uvedeme několik pravidel pro počítání s normálním tvarem. Poznámka. Necht I K X je ideál a f, f 1, f 2 K X je polynomy. (1) N σ,i (N σ,i (f)) = N σ,i (f). (2) N σ,i (f 1 f 2 ) = N σ,i (f 1 ) N σ,i (f 2 ). (3) N σ,i (f 1 f 2 ) = N σ,i (N σ,i (f 1 )N σ,i (f 2 )). (4) Platí rovnost N σ,i (f 1 ) = N σ,i (f 2 ) právě tehdy, když f 1 f 2 I. Speciálně f I právě tehdy, když N σ,i (f) = 0. Pokud bude z kontextu zřejmé, jaké přípustné uspořádání a ideál míníme, budeme zkráceně říkat vedoucí term f, normální tvar f, atd. 1.5 Moduly Definice. Necht R je okruh. Levý R-modul M je Abelovská grupa (M, +) společně s operací : R M M taková, že pro všechna m, m M a r, r R platí: 1 R m = m, r (r m) = (rr ) m, r (m + m ) = r m + r m, (r + r ) m = r m + r m. Pravý R-modul se definuje symetricky s operací : M R M. Definice. Necht R a S jsou dva okruhy. Pak R-S-bimodul M je Abelovská grupa (M, +) taková, že M je levý R-modul a pravý S-modul. r R, s S a m M : (rm)s = r(ms). 11

Speciálně R-R-bimodul nazýváme oboustranný R-modul. Definice. Necht R je okruh a M je oboustranný R-modul. (1) Necht N M je podgrupa grupy M. Pak modul N nazýváme oboustranný R-podmodul M, jestliže R N R N. (2) Podmnožina B M se nazývá množinou generátorů R-podmodulu N M, jestliže N je nejmenší R-podmodul v M obsahující B. V tomto případě N = { n i=1 r iβ i r i; β i B, r i, r i R} a píšeme N = B. Nyní uvedeme definici instance bimodulu, který bude jedním z hlavních objektů našeho zájmu. Necht K X je nekomutativní okruh polynomů generovaný X nad tělesem K. Definice. Bimodul F k = (K X K K X ) k nazveme volný bimodul nad K X hodnosti k s kanonickou bází {ɛ 1,..., ɛ k }, kde ɛ i = (0,..., 0, 1 1, 0,..., 0), pro i = 1,..., k, přičemž 1 1 leží na i-té pozici. Prvek ɛ i se nazývá standardní bázický vektor v F k. Označme T(F k ) = {wɛ i w ; i {1,..., k}, w, w X } množinu všech termů v F k. 12

Kapitola 2 Gröbnerovy báze v K X a jejich vlastnosti V této kapitole uvedeme algoritmus pro redukci polynomu a jeho aplikaci. Ve druhé části definujeme Gröbnerovy báze a popíšeme jejich vlastnosti. Na závěr předvedeme výpočet redukované Gröbnerovy báze. Kapitola vychází z [2], [3] a [8]. 2.1 Redukce polynomu V této části představíme algoritmus pro redukci polynomu, který je klíčovou ingrediencí v teorii Gröbnerových bází. Algoritmus 1 Redukce polynomu vstup: f, g 1,..., g s K X \{0}, s 1 výstup: reprezentace polynomu f = s ki i=1 j=1 c ijw ij g i w ij + r 1: k 1 =... = k s := 0, r := 0 a p := f 2: while p 0 do 3: if LT σ (p) je násobek nějakého LT σ (g i ) then 4: najdi nejmenší 1 i s: LT σ (p) = wlt σ (g i )w pro w, w X 5: k i := k i + 1 6: 7: c iki := LCσ(p) LC σ(g i ) w iki := w 8: w ik i := w 13

9: p := p c iki w iki g i w ik i 10: else 11: r := r + LM σ (p) 12: p := p LM σ (p) 13: return trojice (c 11, w 11, w 11),..., (c sks, w sks, w sk s ) a polynom r Věta 2.1.1. Algoritmus 1 vrací reprezentaci polynomu f = s k i c ij w ij g i w ij + r, i=1 j=1 kde c ij K\{0}, w ij, w ij X pro všechna i {1,..., s}, j {1,..., k i }, a r K X takové, že jsou splněny následující podmínky. (1) Žádný prvek Supp(r) není obsažen v LT σ(g 1 ),..., LT σ (g s ). (2) Jestliže r 0, pak LT σ (r) LT σ (f). Pro všechna i {1,..., s} a všechna j {1,..., k i } platí LT σ (w ij g i w ij) σ LT σ (f). (3) Pro všechna i {1,..., s} a všechna j {1,..., k i } platí LT σ (w ij g i w ij) / LT σ (g 1 ),..., LT σ (g i 1 ). Důkaz. (1) Plyne z toho, že polynom r je tvořen termy LT σ (p), pro které neexistuje i takové, že LT σ (p) je násobkem LT σ (g i ). (2) Zřejmě pro r 0 máme LT σ (r) σ LT σ (f), nebot v každé iteraci odečítáme od p vedoucí monočlen LM σ (p). Druhá část tvrzení plyne z předešlého a z rovnosti LT σ (p) = wlt σ (g i )w = LT σ (wg i w ). (3) Vždy hledáme nejmenší 1 i s takové, že LT σ (p) = wlt σ (g i )w je násobkem LT σ (g i ). Tyto tři vlastnosti činí z algoritmu silný nástroj v teorii Gröbnerových bází. Následující příklad ukazuje, že výsledné trojice (c 11, w 11, w 11),..., (c sks, w sks, w sk s ) a polynom r K X splňující podmínky z věty 1.3.1 nejsou jednoznačně určeny přípustným uspořádáním σ a polynomy f, g 1,..., g s K X \{0}. V algoritmu může existovat více než jeden pár (w, w ) splňující LT σ (p) = wlt σ (g i )w. 14

Příklad. Uvažujme Q x, y, z spolu s přípustným uspořádáním σ = LLEX, x > σ y > σ z. Polynom f = zy 2 xy zredukujeme dvojicí polynomů g 1 = yx + y a g 2 = y 2 + z. Máme LT σ (g 1 ) = yx a LT σ (g 2 ) = y 2. Dále postupujeme podle algoritmu 1. (1) k 1 = k 2 = 0, r = 0 a p = f = zy 2 xy. (2) Platí LT σ (p) = zylt σ (g 1 )y, tedy položme k 1 = 1, c 11 = LCσ(p) LC σ(g 1 ) = 1, w 11 = zy, w 11 = y a p = p c 11 w 11 g 1 w 11 = zy 3. (3) Dále máme LT σ (p) = zlt σ (g 2 )y, tedy k 2 = 1, c 21 = LCσ(p) LC σ(g 2 ) = 1, w 21 = z, w 21 = y a p = p c 21 w 21 g 2 w 21 = z 2 y. (4) Nyní LT σ (p) = z 2 y není násobkem LT σ (g 1 ) ani LT σ (g 2 ), proto položme r = r + LM σ (p) = z 2 y a p = p LM σ (p) = 0. Tedy reprezentace polynomu f = zyg 1 y zg 2 y + z 2 y je výstupem tohoto algoritmu. Všimněme si, že v kroku (3) jsme jako dvojici (w 11, w 11) mohli zvolit (zy, 1). Pak bychom dostali f = zyg 1 y zyg 2 + zyz. Pro odstranění nejednoznačnosti použijeme doplňující podmínku (strategii) na výběr dvojice (w, w ) splňující rovnost LT σ (p) = wlt σ (g i )w. Jednou z možných strategií tzv. levou redukcí polynomu je volba dvojice (w, w ) tak, aby délka slova w byla minimální možná (tj. slovo LT σ (g i ) je nejvíce levé podslovo LT σ (p)). Podobně můžeme požadovat, aby délka slova w byla nejmenší možná. Takovou strategii nazýváme pravou redukci polynomu. Pokud bychom požadovali w = 1, obdrželi bychom prefixovou redukci polynomu, která má své uplatnění při výpočtu Gröbnerovy báze pravého ideálu. Důsledek 2.1.2. Jestliže v algoritmu 1 zafixujeme strategii pro výběr dvojic (w, w ), potom výsledné trojice (c 11, w 11, w 11),..., (c sks, w sks, w sk s ) a polynom r K X splňující podmínky z věty 2.1.1 jsou jednoznačně určeny přípustným uspořádáním σ a polynomy f, g 1,..., g s K X \{0}. Důkaz. Předpokládejme, že existují jiné trojice (d 11, v 11, v 11),..., (d sls, v sls, v sl s ) a polynom r K X splňující také podmínky z věty 2.1.1. Potom 0 = s k i ( c ij w ij g i w ij l i i=1 j=1 j=1 d ij v ij g i v ij) + (r r ). 15

Pokud LT σ (w ik g i w ik ) = LT σ(v il g i v il ), pak w ik = v il a w ik = v il, nebot platí w ik LT σ (g i )w ik = LT σ(w ik g i w ik ) = LT σ(v il g i v il ) = v illt σ (g i )v il a máme zafixovanou strategii pro volbu párů (w, w ) a (v, v ). Položme k s A s = c sj w sj g s w sj j=1 l s j=1 d sj v sj g s v sj. Dále máme LT σ (w s1 g s w s1) > σ LT σ (w sj g s w sj) pro všechna j {2,..., k s } a také LT σ (v s1 g s v s1) > σ LT σ (v sj g s v sj) pro všechna j {2,..., l s }, nebot posloupnost LT σ (p) je ostře klesající. Podle věty 2.1.1.(3) platí, že LT σ (w s1 g s w s1) / LT σ (g 1 ),..., LT σ (g s 1 ) a LT σ (v s1 g s v s1) / LT σ (g 1 ),..., LT σ (g s 1 ). Z věty 2.1.1.(1) plyne LT σ (r r ) / LT σ (g 1 ),..., LT σ (g s ). Odtud dostáváme rovnost LT σ (w s1 g s w s1) = LT σ (v s1 g s v s1). Proto (c s1, w s1, w s1) = (d s1, v s1, v s1) a tedy k s A s = c sj w sj g s w sj j=2 l s j=2 d sj v sj g s v sj. Stejným postupem se ukáže, že k i = l i pro všechna i {1,..., s} a (c ij, w ij, w ij) = (d ij, v ij, v ij) pro všechna i {1,..., s} a j {1,..., k i }. Odtud r = r. Pokud nebude uvedeno jinak, budeme uvažovat levou redukci polynomu. Definice. Necht s 1, f, g 1,..., g s K X \{0}. Označme G = (g 1,..., g s ) (K X \{0}) s. Polynom r K X, který je výstupem algoritmu 1, nazýváme normální zbytek po redukci polynomem f vzhledem k G a značíme jej NR σ,g (f). Normální zbytek NR σ,g (f) závisí na pořadí polynomů v G, jak je vidět na následujícím příkladu. Příklad. Uvažujme opět Q x, y, z spolu s přípustným uspořádáním σ = LLEX, x > σ y > σ z, polynomy f = zy 2 xy, g 1 = yx + y a g 2 = y 2 + z. Nyní položme g 1 = g 2 a g 2 = g 1. Pak dostáváme (1) k 1 = k 2 = 0, r = 0 a p = f = zy 2 xy. (2) Platí LT σ (p) = zlt σ (g 1)xy, tedy položme k 1 = 1, c 11 = LCσ(p) LC σ(g 1 ) = 1, w 11 = z, w 11 = xy a p = p c 11 w 11 g 1w 11 = z 2 xy. (3) Nyní LT σ (p) = z 2 xy není násobkem LT σ (g 1) ani LT σ (g 2), proto položme r = r + LM σ (p) = z 2 xy a p = p LM σ (p) = 0. 16

V tomto případě je výstupem algoritmu reprezentace f = zg 1xy z 2 xy, tedy dostáváme jiný normální zbytek. Normální zbytek polynomu f zatím není normální tvar f modulo ideál G. Kvůli jeho nejednoznačnosti ho tedy nelze použít pro ověření, zda polynom f leží v ideálu G. Jestliže NR σ,g (f) = 0, pak f G. Na druhou stranu polynom f může mít nenulový normální zbytek, z čehož však nelze usuzovat, že neleží v ideálu G. Může totiž existovat jiné uspořádání polynomů v G, pro které redukční algoritmus dává nulový zbytek polynomu f. Dodáme-li G speciální vlastnost, již na pořadí polynomů záležet nebude. Objektům s touto vlastností říkáme Gröbnerovy báze a jsou hlavním tématem následujících kapitol. Na závěr této podkapitoly ukážeme důležitou aplikaci algoritmu pro redukci polynomu. Necht σ je přípustné uspořádání na X a I K X je oboustranný ideál. Označme ideál LT σ (I) = LT σ (f); f I\{0} K X. Pro množinu polynomů G K X \{0} označme množinu LT σ {G} = {LT σ (g); g G} X a ideál LT σ (G) generovaný LT σ {G}. Definice. Necht G K X \{0} je množina polynomů. O množině G říkáme, že je redukovaná vzhledem k přípustnému uspořádání σ, jestliže žádný prvek Supp(g) není obsažen v LT σ (G\{g}) pro všechny polynomy g G. Následující lemma je přímým důsledkem věty 2.1.1. Lemma 2.1.3. Necht G K X \{0} je množina polynomů, která generuje ideál I. Dále necht polynom g G má normální zbytek g vzhledem k G\{g}. Jestliže g 0, pak (G\{g}) {g } je také množina generátorů ideálu I. Pro výpočet redukované množiny generátorů ideálu lze tedy využít algoritmus pro redukci polynomu. Algoritmus 2 Redukce množiny vstup: konečná množina G K X \{0} taková, že generuje ideál I, tj. I = G výstup: redukovaná množina generátorů G ideálu I 1: i := 1 a n := G 2: while i n do 3: vypočítej normální zbytek g i polynomu g i vzhledem k G\{g i, 0} 17

4: 5: if g i = 0 then vyměň g i za 0 6: i := i + 1 7: goto 2 8: if g i g i then 9: nahrad polynom g i polynomem g i 10: i := 1 11: goto 2 12: i := i + 1 13: return G = {g G; g 0} Tvrzení 2.1.4. Algoritmus 2 počítá redukovanou množinu generátorů ideálu I. Důkaz. Pokud se algoritmus zastaví, pak z věty 2.1.1 a lemmatu 3.2.3 plyne, že výstupem algoritmu je redukovaná množina generátorů ideálu I. Nyní dokážeme, že algoritmus po konečně krocích skončí. Na desátém řádku dojde ke snížení indexu i, pouze když g i 0 a současně g i g i. Podle věty 2.1.1.(2) platí LT σ (g i) LT σ (g i ). Nerovnost LT σ (g i) < LT σ (g i ) může nastat jen konečně krát, nebot σ je přípustné uspořádání. Necht tedy platí LT σ (g i) = LT σ (g i ) pro nějaké pevné i = k. K navýšení indexu i dojde, jestliže g i = 0, nebo není-li g i násobkem žádného vedoucího termu z G\{0, g i }. Tedy pro všechna j {1,..., k 1} a g j 0 není g j násobkem žádného vedoucího termu z G\{0, g j } a podle předpokladu ani násobkem žádného vedoucího termu z G\{0, g j, g i } {g i}. Tedy po výměně g i za g i se index i sníží na 1, ale v následujících iterací dojde ke zvýšení na k beze změny g j pro všechna j {1,..., k 1}. Zřejmě g k není násobkem vedoucích termů z G\{0, g k }. Proto index i se zvýší na k + 1. Redukovaných množin generátorů ideálu I může existovat více, jak je vidět v následujícím příkladu. Příklad. Uvažujme opět Q x, y, z spolu s přípustným uspořádáním σ = LLEX, x > σ y > σ z, polynomy f = zy 2 xy, g 1 = yx + y a g 2 = y 2 + z. Necht ideál I Q x, y, z je generovaný množinou {f, g 1, g 2 }. Podle příkladu pod algoritmem 1 množiny {z 2 y, yx + y, y 2 + z} a {zyz, yx + y, y 2 + z} generují ideál I. Je snadné ověřit, že obě množiny jsou redukované. Vedoucí termy v redukované množině ideálu jsou navzájem nesoudělná slova. Později se nám tato vlastnost bude hodit, protože pro Gröbnerovy báze existují jednoznačně určené redukované množiny generátorů. 18

2.2 Definice Gröbnerovy báze Gröbnerova báze je množina polynomů s vlastností, že normální tvar polynomu lze jednoznačně nalézt jako normální zbytek redukcí polynomu prvky této báze, jak dokážeme v této podkapitole. Nejprve připomeňme značení použité v minulé sekci. Necht σ je přípustné uspořádání na X a I K X je oboustranný ideál. Označme ideál LT σ (I) = LT σ (f); f I\{0} K X. Dále pro množinu polynomů G K X \{0} označme množinu LT σ {G} = {LT σ (g); g G} X a ideál LT σ (G) generovaný LT σ {G}. Jestliže I = G, pak zřejmě LT σ (G) LT σ (I). Obecně jsou však tyto ideály různé. Příklad. Uvažujme Q x, y, z spolu s přípustným uspořádáním σ = LLEX, x > σ y > σ z, polynomy g 1, g 2 G, kde g 1 = xy + 1 a g 2 = y 2 + 1. Pak g 1 y xg 2 = (xy 2 + y) (xy 2 + x) = y x I = g 1, g 2. Zřejmě x LT σ (I), ale zároveň x / LT σ (G) = xy, y 2. Nás však budou zajímat ty množiny generátorů, pro něž si jsou tyto ideály rovny. Definice. Necht σ je přípustné uspořádání na X a necht G je podmnožina polynomů ideálu I K X, která generuje ideál I = G. Množina G se nazývá Gröbnerova báze ideálu I vzhledem k uspořádání σ, jestliže LT σ (G) = LT σ (I). Volba přípustného uspořádání je důležitá, nebot určuje množinu vedoucích termů ideálu. Tedy pokud dvě přípustná uspořádání 1 a 2 nesouhlasí (ve významu LT 1 {I} LT 2 {I}), pak Gröbnerovy báze ideálu I se mohou lišit vzhledem k 1 a 2. Pokud nebude uvedeno jinak, budeme uvažovat přípustné uspořádání σ na X. Jestliže vedoucí term LT σ (f) polynomu f K X leží v LT σ (G), pak LT σ (f) je násobek vedoucího termu nějakého polynomu g z G podle definice Gröbnerovy báze G. Také vedoucí term polynomu, který vznikne redukcí polynomu f polynomem g, musí být násobkem vedoucího termu nějakého polynomu z G atd. Tuto vlastnost využijeme při rozhodování, zda polynom leží v daném ideálu. Lze tedy snadno dokázat, že množina G je Gröbnerova báze ideálu I vzhledem k uspořádání σ právě, když pro každý polynom f I\{0} existuje reprezentace f = k c i w i g i w i, i=1 19

kde c i K\{0}, w i, w i X, a polynomy g i G jsou takové, že LT σ (f) σ LT σ (w i g i w i) pro všechna i {1,..., k}. Definice. Necht f K X \{0} a G K X \{0}. Říkáme, že polynom f má Gröbnerovu reprezentaci v termech množiny G, jestliže existují prvky c 1,..., c k K\{0}, slova w 1,..., w k, w 1,..., w k X a polynomy g 1,..., g k G takové, že f = k i=1 c iw i g i w i a LT σ (f) σ LT σ (w i g i w i) pro všechna i {1,..., k}. Nyní se podíváme na vztah mezi normálním tvarem polynomu modulo ideál generovaný Gröbnerovou bází a normálním zbytkem polynomu, který vznikne redukcí polynomu prvky Gröbnerovy báze. Věta 2.2.1. Necht G K X \{0} je množina polynomů, která generuje ideál I = G. Navíc necht G je Gröbnerova báze ideálu I a necht G je uspořádaná n-tice polynomů z G. Pak pro všechny polynomy f K X platí NR σ,g (f) = N σ,i (f). Důkaz. Podle věty 2.1.1.(1) žádný prvek Supp(NR σ,g (f)) není obsažen v LT σ (G). Podle definice Gröbnerovy báze máme LT σ {I} LT σ (I) = LT σ (G). Odtud plyne, že žádný prvek Supp(NR σ,g (f)) není obsažen v LT σ {I}. Tedy NR σ,g (f) Span K O σ (I). Odtud máme f NR σ,g (f) I a z důsledku 1.4.2 plyne, že NR σ,g (f) = N σ,i (f). Jak bylo ukázáno dříve, normální tvar polynomu je určen jednoznačně. Jestliže množina G je Gröbnerova báze, pak normální zbytek již není závislý na pořadí polynomů množiny G. Navíc také nezáleží na strategii, kterou v algoritmu 1 použijeme. Určit normální tvar polynomu tedy znamená vypočítat normální zbytek vhledem ke Gröbnerově bázi. Problém určit, zda existuje konečná Gröbnerova báze pro ideál v nekomutativním okruhu polynomů, je nerozhodnutelný. 2.3 Redukovaná Gröbnerova báze Obecně má ideál I K X mnoho Gröbnerových bází. Například necht G je Gröbnerova báze ideálu I K X \{0} a necht f I\G je nenulový polynom. Zřejmě I = G {f}. Protože podle definice LT σ (G) = LT σ (I), pak také LT σ (G {f}) = LT σ (I). Odtud plyne, že G {f} je také Gröbnerova báze ideálu I. 20

Definice. Necht G je Gröbnerova báze ideálu I K X \{0}. Polynom f G nazýváme redundantní, jestliže G\{f} je také Gröbnerova báze. Redundantní polynomy lze snadno detekovat, jak dokážeme později. Nyní zformulujeme lemma, které se nám bude za tímto účelem hodit. Lemma 2.3.1. Necht I K X \{0} je ideál a necht G I\{0} je jeho podmnožina. Jestliže LT σ (G) = LT σ (I), pak G je Gröbnerova báze. Důkaz. Stačí dokázat, že I = G. Pro spor předpokládejme, že G I. Uvažujme polynom f I\ G mající minimální vedoucí term LT σ (f) vzhledem k přípustnému uspořádání σ vůči všem polynomům z I\ G. Existují c K\{0}, w, w X a polynom g G takový, že LM σ (f) = LM σ (cwgw ) a f cwgw I\ G, nebot LT σ (f) LT σ {I} a LT σ (G) = LT σ (I). Což je ve sporu s volbou f, protože LT σ (f cwgw ) < σ LT σ (f). Lemma 2.3.2. Necht I K X \{0} je ideál a G je Gröbnerova báze ideálu I. Polynom f G je redundantní, jestliže LT σ (f) je násobkem LT σ (g) pro nějaké g G\{f}. Důkaz. Podle definice Gröbnerovy báze je G I a platí LT σ (G) = LT σ (I). Podle předpokladu LT σ (G\{f}) = LT σ (I). Zřejmě G\{f} I. Tedy z lemmatu 2.3.1 a definice redundantního polynomu již tvrzení plyne. Po odstranění redundantních polynomů zmenšíme velikost Gröbnerovy báze, navíc pro každý ideál lze definovat jednoznačně určenou Gröbnerovu bázi následovně. Definice. Necht G je Gröbnerova báze ideálu I K X \{0}. Množině G říkáme, že je redukovaná Gröbnerova báze ideálu I, jestliže množina G je redukovaná a LC σ (g) = 1 pro všechny polynomy g G. Tvrzení 2.3.3. Pro každý ideál I K X \{0} existuje právě jedna redukovaná Gröbnerova báze. Důkaz. Nejprve dokážeme existenci. Necht LT σ {G} LT σ {I} je minimální množina slov taková, že LT σ (G) = LT σ (I). Položme G = {LT σ (g) N σ,i (LT σ (g)); g G}. Ukážeme, že G je redukovaná Gröbnerova báze. Podle důsledku 1.4.2 máme LT σ (g) N σ,i (LT σ (g) I pro všechna g G, proto G I. Zřejmě LT σ {G } = 21

LT σ {G} a tedy LT σ (G ) = LT σ (I). Z lemmatu 2.3.1 plyne, že G je Gröbnerova báze. Z definice G již dostáváme, že G je redukovaná a vedoucí koeficienty polynomů z G jsou rovny jedné. Nyní dokážeme jednoznačnost. Předpokládejme, že existují dvě redukované Gröbnerovy báze G a H. Zřejmě LT σ {G} = LT σ {H}. Necht g G a h H jsou polynomy takové, že LT σ (g) = LT σ (h). Pak g h I. Protože G i H jsou redukované, máme g h Span K O σ (I). Odtud již z důsledku 1.4.2 plyne, že g h = 0. Redukovaná Gröbnerova báze nemusí být konečná. Je-li však dána konečná Gröbnerova báze, můžeme pomocí algoritmu 2 vypočítat Gröbnerovu bázi G = {g 1,... g k }, která neobsahuje redundantní polynomy, a redukovanou Gröbnerovu bázi G = {g 1,..., g k } dopočítáme tak, že položíme g i := i = 1,..., k. 2.4 Syzygie g i LC σ(g i ) pro každé V této části popíšeme Gröbnerovy báze pomocí modulů syzygií. V následujícím textu se budeme držet níže uvedeného značení. Pro k 1 necht G = (g 1,..., g k ), kde g 1,..., g k K X \{0}, a dále necht LM σ (G) = (LM σ (g 1 ),..., LM σ (g k )). Navíc necht F k = (K X K K X ) k je volný oboustranný K X -modul hodnosti k s kanonickou bází {ɛ 1,..., ɛ k }, kde ɛ i = (0,..., 0, 1 1, 0,..., 0), pro i = 1,..., k, přičemž 1 1 leží na i-té pozici. Označme T(F k ) = {wɛ i w ; i {1,..., k}, w, w X } množinu všech termů v F k. Definice. Prvek k i=1 j N c ijw ij ɛ i w ij F k nazýváme oboustrannou syzygií G, jestliže platí k c ij w ij g i w ij = 0. i=1 j N Necht Syz(G) je množina všech oboustranných syzygií G. Pak Syz(G) je oboustranný K X -modul. Množinu Syz(G) nazýváme oboustranný modul syzygií G. 22

Podobně oboustranná syzygie LM σ (G) je prvek k takový, že k i=1 i=1 j N c ijw ij ɛ i w ij F k j N c ijw ij LM σ (g i )w ij = 0. Množina všech oboustranných syzygií LM σ (G) tvoří oboustranný K X -modul, který značíme Syz(LM σ (G)). Pokud nebude uvedeno jinak, budeme zkráceně říkat syzygie a modul syzygií. Příklad. Uvažujme Q x, y, z spolu s přípustným uspořádáním σ = LLEX, x > σ y > σ z, a množinu G = (g 1, g 2 ), kde g 1 = yx + zy a g 2 = 3y 2 + zx. Lze snadno ověřit, že ɛ 1 g 2 g 1 ɛ 2, g 2 ɛ 1 ɛ 2 g 1 (Q x, y, z Q x, y, z ) 2 jsou syzygie G a 3y 2 ɛ 1 ɛ 2 yx, 3yɛ 1 ɛ 2 x (Q x, y, z Q x, y, z ) 2 jsou syzygie LM σ (G). Definice. Necht m = k i=1 (1) Slovo j N c ijw ij ɛ i w ij F k \{0}. max {w ijlt σ (g i )w ij; i {1,..., k}, j N, c ij 0} X σ nazýváme σ-stupeň m a značíme ho deg σ,g (m). (2) Položme { c ij w ij ɛ i w ij cij w = ij ɛ i w ij, jestliže c ij 0 a w ij LT σ (g i )w ij = deg σ,g (m), 0 jinak. Prvku k i=1 j N c ij w ij ɛ i w ij F k \{0} říkáme σ-vedoucí forma m a značíme ho LF σ,g (m). (3) Pro libovolné slovo w X označme F k (w) = { k c ij w ij ɛ ij w ij F k ; i=1 j N k c ij w ij LT σ (g i )w ij Kw}. Jestliže m F k (deg σ,g (m)), pak prvek m nazýváme homogenní σ-stupně deg σ,g (m). Příklad. Uvažujme opět Q x, y, z spolu s přípustným uspořádáním σ = LLEX, x > σ y > σ z, a množinu G = (g 1, g 2 ), kde g 1 = yx + zy a g 2 = 3y 2 + zx. i=1 j N (1) Pro m 1 = ɛ 1 g 2 g 1 ɛ 2 (Q x, y, z Q x, y, z ) 2 máme deg σ,g (m 1 ) = max σ {LT σ (g 1 )y 2, LT σ (g 1 )zx, yxlt σ (g 2 ), zylt σ (g 2 )} = max σ {yx y 2, yx zx, yx y 2, zy y 2 } = yxy 2, LF σ,g (m 1 ) = 3ɛ 1 y 2 yxɛ 2 m 1. Tedy prvek m 1 není homogenní σ-stupně yxy 2. 23

(2) Pro m 2 = 3yɛ 1 ɛ 2 x (Q x, y, z Q x, y, z ) 2 máme deg σ,g (m 2 ) = max σ {ylt σ (g 1 ), LT σ (g 2 )x} = max σ {y yx, y 2 x} = y 2 x, LF σ,g (m 2 ) = 3yɛ 1 ɛ 2 x = m 2. Tedy prvek m 2 je homogenní σ-stupně y 2 x. Nyní se dívejme na nekomutativní okruh polynomů K X jako na oboustranný K X -modul. Necht M K X je oboustranný K X -podmodul generovaný množinou {g 1,..., g k } a N K X je oboustranný K X -podmodul generovaný množinou {LM σ (g 1 ),..., LM σ (g k )}. Dále necht λ : F k M je homomorfismus K X -bimodulů daný předpisem ɛ i g i pro i = 1,..., k, a necht Λ : F k N je homomorfismus K X -bimodulů daný předpisem ɛ i LM σ (g i ) pro i = 1,..., k. Potom máme Syz(G) = ker(λ) a Syz(LM σ (G)) = ker(λ). Lemma 2.4.1. Pro všechny m F k \Syz(G) platí LT σ (λ(m)) σ Navíc rovnost nastává právě, když LF σ,g (m) / Syz(LM σ (G)). Důkaz. Necht m = k i=1 j N c ijw ij ɛ i w ij F k \Syz(G), tedy k λ(m) = c ij w ij g i w ij 0. i=1 j N Z definice σ-stupně m plyne LT σ (λ(m)) σ deg σ,g (m) právě, když se koeficienty deg σ,g (m) v k i=1 deg σ,g (m). deg σ,g (m). Navíc LT σ (λ(m)) < σ j N c ijw ij g i w ij navzájem vyruší. To je ekvivalentní podmínce Λ(LF σ,g (m)) = 0, jinými slovy LF σ,g (m) Syz(LM σ (G)). Příklad. Uvažujme opět Q x, y, z spolu s přípustným uspořádáním σ = LLEX, x > σ y > σ z, a množinu G = (g 1, g 2 ), kde g 1 = yx + zy a g 2 = 3y 2 + zx. Necht M Q x, y, z je ideál generovaný {g 1, g 2 } a necht N Q x, y, z je ideál generovaný {LM σ (g 1 ), LM σ (g 2 )}. (1) Pro m 2 = 3yɛ 1 ɛ 2 x (Q x, y, z Q x, y, z ) 2 máme λ(m 2 ) = 3yg 1 g 2 x = 3yzy zx 2 0. Tedy m 2 Syz(G), LT σ (λ(m 2 )) = yzy a LM σ (λ(m 2 )) = 3yzy. Z předchozího příkladu víme, že deg σ,g (m 2 ) = y 2 x a LF σ,g (m) = 3yɛ 1 ɛ 2 x = m 2. Tedy deg σ,g (m 2 ) > σ LT σ (λ(m 2 )). Dále máme Λ(LF σ,g (m 2 )) = 3yLM σ (g 1 ) LM σ (g 2 )x = 3y 2 x 3y 2 x = 0, tedy LF σ,g (m 2 ) Syz(LM σ (G)). 24

(2) Pro m 3 = 3xɛ 1 x yɛ 2 x (Q x, y, z Q x, y, z ) 2 máme deg σ,g (m 3 ) = max σ {xlt σ (g 1 )x, ylt σ (g 2 )x} = max σ {x yx x, y y 2 x} = xyx 2, LF σ,g (m 3 ) = 3xɛ 1 x m 3. Tedy prvek m 3 není homogenní σ-stupně xyx 2. Dále λ(m 3 ) = 3xg 1 x yg 2 x = 3xyx 2 + 3xzyx 3y 3 x 3yzx 2 0. Tedy m 3 Syz(G), LT σ (λ(m 3 )) = xyx 2 a LM σ (λ(m 3 )) = xyx 2. Dostáváme deg σ,g (m 3 ) = LT σ (λ(m 3 )). Dále máme Λ(LF σ,g (m 3 )) = 3xLM σ (g 1 )x = 3xyx 2 0, proto LF σ,g (m 3 ) / Syz(LM σ (G)). 25

Kapitola 3 Výpočet Gröbnerovy báze V minulé kapitole jsme studovali Gröbnerovy báze v K X, ukázali jsme několik jejich pěkných vlastností. V následující části se zaměříme na výpočet Gröbnerovy báze. Jistou potíž přináší fakt, že Gröbnerova báze nemusí být v nekomutativním okruhu polynomů konečná, dokonce i redukovaná Gröbnerova báze může být nekonečná. V kapitole čerpáme z [2], [4], [6] a [8]. 3.1 Obstrukce V této části představíme pojmy obstrukce a S-polynom, které jsou klíčové pro výpočet Gröbnerovy báze. Pro jejich definování budeme potřebovat následující značení. Pro k 1 necht F k = (K X K K X ) k je volný oboustranný K X -modul hodnosti k s kanonickou bází {ɛ 1,..., ɛ k }, kde ɛ i = (0,..., 0, 1 1, 0,..., 0), pro i = 1,..., k, přičemž 1 1 leží na i-té pozici. Označme množinu všech termů v F k. T(F k ) = {wɛ i w ; i {1,..., k}, w, w X } Definice. Necht G = {g 1,..., g k } K X \{0}, kde k 1, je množina polynomů. Necht i, j {1,..., k} jsou taková, že i j. Prvek o i,j (w i, w i; w j, w j) = 1 LC σ (g i ) w iɛ i w i 1 LC σ (g j ) w jɛ j w j F k \{0}, 26

kde slova w i, w i, w j, w j X jsou taková, že w i LT σ (g i )w i = w j LT σ (g j )w j, nazýváme obstrukce polynomů g i a g j. Pokud i = j, potom tento prvek nazýváme vlastní obstrukce polynomu g i. Množinu všech obstrukcí polynomů g i a g j budeme značit Obs(i, j). Necht o i,j (w i, w i; w j, w j) Obs(i, j) je obstrukce polynomů g i a g j. Polynom S i,j (w i, w i; w j, w j) = 1 LC σ (g i ) w ig i w i 1 LC σ (g j ) w jg j w j K X nazýváme S-polynom obstrukce o i,j (w i, w i; w j, w j). Pro všechna i, j {1,..., k}, i j, je množina Obs(i, j) neprázdná, nebot pro všechna slova w X obsahuje triviální prvky o i,j (LT σ (g j )w, 1; 1, wlt σ (g i )) a o i,j (1, wlt σ (g j ); LT σ (g i )w, 1). Příklad. Vrat me se k příkladu, který jsme uvažovali v minulé kapitole. Tedy mějme Q x, y, z spolu s přípustným uspořádáním σ = LLEX, x > σ y > σ z, a množinu G = (g 1, g 2 ), kde g 1 = yx + zy a g 2 = 3y 2 + zx. Polynom S 1,2 (y, 1; 1; x) = y 2 x + zyz y 2 x 1 3 zx2 je S-polynom obstrukce o 1,2 (y, 1; 1; x) = yɛ 1 1 3 ɛ 2x. Lemma 3.1.1. Necht i, j {1,..., k} a i j. (1) Každý prvek o i,j (w i, w i; w j, w j) Obs(i, j) je syzygie LM σ (G) a je homogenní σ-stupně w i LT σ (g i )w i = w j LT σ (g j )w j. (2) Syz(LM σ (G)) = 1 i j k Obs(i, j). Důkaz. (1) Plyne z definice syzygie a obstrukce. (2) Stačí dokázat, že Syz(LM σ (G)) 1 i j k Obs(i, j). Uvažujme prvek m = k i=1 j N c ijw ij ɛ i w ij Syz(LM σ (G))\{0}. Bez újmy na obecnosti můžeme předpokládat, že m je homogenní σ-stupně deg σ,g (m) a všechny termy prvku m jsou po dvou různé. Potom Supp(m) 2, nebot m 0 a máme rovnost k i=1 j N c ijw ij LM σ (g i )w ij = 0. Proto musí existovat w ij ɛ i w ij, w kl ɛ k w kl Supp(m) takové, že w ij LT σ (g i )w ij = w kl LT σ (g k )w kl. 27

Bez újmy na obecnosti můžeme předpokládat, že i k. Odtud již plyne, že o i,k (w ij, w ij; w kl, w kl ) = 1 w LC σ(g i ) ijɛ i w ij 1 w LC σ(g k ) klɛ k w kl Obs(i, k). Položme m = m c ij LC σ (g i )o i,k (w ij, w ij; w kl, w kl). Pak Supp(m ) Supp(m) 1. Stejně postupujeme, dokud m 0. Příklad. Uvažujme opět Q x, y, z spolu s přípustným uspořádáním σ = LLEX, x > σ y > σ z, a množinu G = (g 1, g 2 ), kde g 1 = yx + zy a g 2 = 3y 2 + zx. Máme LM σ (G) = (yx, 3y 2 ) a dále Obs(1, 1) = {yxwɛ 1 ɛ 1 wyx, ɛ 1 wyx yxwɛ 1 ; w X }, Obs(1, 2) = {yɛ 1 1ɛ 3 2x} {y 2 wɛ 1 1ɛ 3 1wyx, ɛ 1 wy 2 1yxwɛ 3 2; w X }, Obs(2, 2) = {yɛ 2 ɛ 2 y} {y 2 wɛ 2 ɛ 2 wy 2, ɛ 2 wy 2 y 2 wɛ 2 ; w X }. Lze snadno ověřit, že obstrukce ɛ 1 x k yx yx k+1 ɛ 1 nelze vygenerovat pomocí 1 i j 2 Obs(i, j)\{ɛ 1 x k yx yx k+1 ɛ 1 } pro všechna k N\{0}. Tedy obecně množina 1 i j k Obs(i, j) nemusí být konečně generovaná. Definice. Říkáme, že prvek m Syz(LM σ(g)\{0} má zvednutí v Syz(G), jestliže existuje prvek m Syz(G) takový, že LF σ,g (m) = m. Tvrzení 3.1.2. Necht G K X \{0} je konečná množina polynomů, která generuje ideál I = G. Dále necht k = G a G je uspořádaná k-tice polynomů G. Pak následující podmínky jsou ekvivalentní. (1) Množina G je Gröbnerova báze ideálu I. (2) Každá obstrukce z 1 i j k Obs(i, j) má zvednutí v Syz(G). Důkaz. Nejprve dokážeme, že z podmínky (1) plyne podmínka (2). Necht m je prvkem 1 i j k Obs(i, j). Z definice obstrukce plyne, že Λ(m) = 0 a LF σ,g (m) = m. Kdyby λ(m) = 0, pak m je zvednutí sebe sama. Nyní předpokládejme, že λ(m) 0. Protože G je Gröbnerova báze ideálu I, lze prvek λ(m) zapsat ve tvaru λ(m) = s l=1 c lw l g il w l, kde c l K\{0}, w l, w l X, a polynomy g il G jsou takové, že LT σ (λ(m)) σ LT σ (w l g il w l ) pro všechna l {1,..., s}. Položme h = s l=1 c lw l ɛ il w l F k. Potom m h Syz(G) a LT σ (λ(m)) = LT σ (λ(h)) = deg σ,g (h). Z rovnosti LF σ,g (m) = Syz(LM σ (G)) a lemmatu 2.4.1 28

plyne, že deg σ,g (m) > σ LT σ (λ(m)). Odtud dostáváme deg σ,g (m) > σ deg σ,g (h) a LF σ,g (m h) = LF σ,g (m) = m, tedy m h je zvednutí m v Syz(G). Nyní dokážeme, že (2) implikuje (1). Necht f I. Pak polynom f má reprezentaci f = s l=1 c lw l g il w l, kde c l K\{0}, w l, w l X, a polynomy g i l G pro všechna l {1,..., s}. Protože σ je přípustné uspořádání, musí existovat reprezentace polynomu f mající minimální max σ {LT σ (w l g il w l ; l {1,..., s}}. Pro spor předpokládejme, že max σ {LT σ (w l g il w l ; l {1,..., s}} > σ LT σ (f). Položme m = s l=1 c lw l ɛ il w l F k s minimálním σ-stupněm, kde λ(m) = f. Podle předpokladu deg σ,g (m) > σ LT σ (f) = LT σ (λ(m)). Z lemmatu 2.4.1 plyne, že LF σ,g (m) Syz(LM σ (G)), a podle lemmatu 3.1.1 platí rovnost Syz(LM σ (G)) = 1 i j k Obs(i, j). Proto musí existovat c 1,..., c r K X \{0}, w 1,..., w r, w 1,..., w r X a m 1,..., m r 1 i j k Obs(i, j), takové, že LF σ,g (m) = r h=1 c h w h m h w h. Dle druhé podmínky má každá obstrukce z 1 i j kobs(i, j) zvednutí v Syz(G), předpokládejme, že syzygie m h Syz(G) je zvednutí m h, tj. LF σ,g (m h ) = m h pro všechny h {1,..., r}. Odtud dostáváme rovnost r r LF σ,g (m) = c h w h LF σ,g (m h ) w h = LF σ,g ( c h w h m h w h). h=1 Tedy deg σ,g (m r h=1 c h w h m h w h ) < σ deg σ,g (m) a λ(m r h=1 c h w h m h w h ) = λ(m), což je ve sporu s minimalitou σ-stupně m. Proto musí platit nerovnost max σ {LT σ (w l g il w l ; l {1,..., s}} σ LT σ (f), a tedy G je Gröbnerova báze ideálu I, nebot polynom má f má Gröbnerovu reprezentaci v termech množiny G. Poznámka. Tvrzení 3.1.2 platí také v případě, kdy G je nekonečná množina. Nejprve oindexujeme prvky množiny G libovolnou uspořádanou množinou a dál pokračujeme stejně jako v důkaze pro množinu konečnou. Zda má obstrukce zvednutí, lze ověřit pomocí jejího S-polynomu, jak ukazuje následující tvrzení. Tvrzení 3.1.3. Necht G K X \{0} je konečná množina polynomů, která generuje ideál I = G. Dále necht k = G a G je uspořádaná k-tice polynomů G. Pak následující podmínky jsou ekvivalentní. (1) Množina G je Gröbnerova báze ideálu I. (2) S-polynom každé obstrukce o i,j (w i, w i; w j, w j) 1 i j k Obs(i, j) má reprezentaci s S i,j (w i, w i; w j, w j) = c l w l g il w l, 29 l=1 h=1

kde c l K, w l, w l X a g i l G pro všechna l {1,..., s} jsou taková, že LT σ (w l g il w l ) σ LT σ (S i,j (w i, w i; w j, w j)), jestliže c l 0 pro nějaké l {1,..., s}. (3) S-polynom každé obstrukce o i,j (w i, w i; w j, w j) 1 i j k Obs(i, j) má reprezentaci s S i,j (w i, w i; w j, w j) = c l w l g il w l, kde c l K, w l, w l X a g i l G pro všechna l {1,..., s} jsou taková, že LT σ (w l g il w l ) < σ LT σ (w i g i w i)), jestliže c l 0 pro nějaké l {1,..., s}. Důkaz. Podmínka (1) implikuje (2), nebot S i,j (w i, w i; w j, w j) I. Podmínka (3) plyne z (2), protože z definice S-polynomu máme LT σ (S i,j (w i, w i; w j, w j)) < σ LT σ (w i g i w i). Abychom ukázali, že podmínka (3) implikuje podmínku (1), stačí dokázat, že každá obstrukce o i,j (w i, w i; w j, w j) 1 i j k Obs(i, j) má zvednutí v Syz(G). Jestliže S i,j (w i, w i; w j, w j) = 0, pak obstrukce o i,j (w i, w i; w j, w j) je zvednutí sebe sama. Dále předpokládejme, že polynom S i,j (w i, w i; w j, w j) je nenulový. Mějme reprezentaci S i,j (w i, w i; w j, w j) = s l=1 c lw l g il w l jako v podmínce (3). Položme s m = o i,j (w i, w i; w j, w j) c l w l ɛ il w l. Zřejmě m F k. Odtud již máme LF σ,g (m) = o i,j (w i, w i; w j, w j) a m Syz(G). Tedy m je zvednutí obstrukce o i,j (w i, w i; w j, w j). Stejně jako u předchozího tvrzení lze dokázat, že věta platí i pro nekonečné množiny polynomů. Definice. Reprezentaci S-polynomu obstrukce o i,j (w i, w i; w j, w j) z podmínek 3.1.3.(2) a 3.1.3.(3) říkáme Gröbnerova reprezentace S i,j (w i, w i; w j, w j) v termech množiny G. Reprezentaci S-polynomu lze zřejmě vypočítat pomocí algoritmu 1. l=1 l=1 3.2 Buchbergerův algoritmus V této části představíme Buchbergerovo kritérium, které odvodíme z tvrzení 3.1.3, a Buchbergerův algoritmus pro výpočet Gröbnerovy báze konečně generovaných ideálů. Buchbergerův algoritmus je založen na myšlence, že je dostatečné 30