Groupe (mathématiques)/Groupes symétriques finis/Sous-groupes distingués des groupes alternés

Une page de Wikiversité.

L'objet principal de ce chapitre est de prouver que pour tout nombre naturel , le groupe alterné A_n est un groupe simple (non commutatif).

Lemme 1

Les quatre éléments 1, (1 2) (3 4), (1 3) (2 4) et (1 4) (2 3) forment un sous-groupe V de A4, qui est caractéristique dans A4 et dans S4. Le groupe V est un groupe de Klein, c'est-à-dire un produit direct de deux groupes d'ordre 2.

Démonstration. Comme on le vérifie facilement, V est un sous-groupe de A₄. (Pour prouver que le produit de deux éléments distincts de V – {1} appartient à V, il suffit de calculer (a b) (c d) (a c) (b d), tous les cas se ramenant à celui-là.) Les éléments de V sont les éléments s de A₄ tels que s² = 1 (rappel : les transpositions n'appartiennent pas à A₄), donc V est un sous-groupe caractéristique de A₄. Puisque A₄ est lui-même sous-groupe caractéristique de S₄, V est donc un sous-groupe caractéristique de S₄. Nous avons vu (exercices sur le chapitre Produit de groupes) qu'un groupe où le carré de tout élément est égal à l'élément neutre est un produit direct de groupes d'ordre 2. Puisque V est d'ordre 4, il est donc produit direct de deux sous-groupes d'ordre 2.

Note : un sous-groupe K d'ordre 2 de V est distingué dans V (parce que V est commutatif), V est distingué dans S₄ comme nous venons de le voir, et pourtant K n'est pas distingué dans S₄. (En effet, nous avons vu dans les exercices sur la conjugaison que tout sous-groupe distingué d'ordre 2 est contenu dans le centre et il résulte d'un exercice sur les groupes symétriques que le centre de S₄ est réduit à l'élément neutre.) Cela montre qu'un sous-groupe distingué d'un sous-groupe distingué d'un groupe G n'est pas forcément distingué dans G.

Théorème

Si n est un nombre naturel , les sous-groupes distingués de Sn sont 1, An et Sn. Les sous-groupes distingués de S4 sont 1, V, A4 et S4.

Soient n un nombre naturel (non forcément distinct de 4) et H un sous-groupe distingué de S_n. Supposons que H soit distinct de 1, de A_n et de S_n. (Nous allons en tirer une contradiction si et, dans le cas n = 4, nous allons prouver que H = V.)

Le cas n ≤ 2 étant banal, nous pouvons supposer n ≥ 3. Nous savons qu'alors le centre de S_n est réduit à 1. Choisissons un élément dans H. Puisque le centre de S_n est réduit à 1, s n'appartient pas au centre de S_n, donc il existe un élément u de S_n qui ne commute pas avec s. Puisque u est un produit de transpositions, il existe donc une transposition t qui ne commute pas avec s. On a donc . Puisque H est distingué dans S_n, ts ^{− 1}t ^{− 1} appartient à H, donc sts ^{− 1}t ^{− 1} appartient à H. D'autre part, sts ^{− 1}, étant conjugué d'une transposition, est une transposition, donc sts ^{− 1}t ^{− 1} est le produit de deux transpositions.
Nous avons donc prouvé que H comprend un élément qui est le produit t₁t₂ de deux transpositions. Ces deux transpositions ne sont évidemment pas égales, donc leurs supports ont exactement un élément commun ou sont disjoints.
Dans le premier cas, nous avons t₁ = (ab) et t₂ = (bc), a, b et c étant trois éléments distincts, d'où t₁t₂ = (abc), donc H comprend un cycle de longueur 3. Puisque H est normal dans S_n et que tous les cycles de longueur 3 sont conjugués dans S_n, H contient tous les cycles de longueur 3, donc contient A_n. Comme A_n est d'indice 2 dans S_n, H est donc égal à A_n ou à S_n, ce qui contredit nos hypothèses.
Les supports de t₁ et de t₂ sont donc disjoints, donc H comprend un élément de la forme (a b) (c d), les quatre éléments a, b, c, d étant distincts. Si n ≥ 5, choisissons un élément e de {1, ..., n} distinct de a, b, c et d. Puisque (c e) (a b) est conjugué de (a b) (c d) et que H est distingué dans S_n, (c e) (a b) appartient à H, donc (c e) (a b) (a b) (c d) appartient à H, autrement dit (c e) (c d) appartient à H, autrement dit (e c d) appartient à H. Comme ci-dessus, on en tire une contradiction.
Donc n < 5 et il existe quatre éléments distincts a, b, c et d de {1, ..., n} tels que (a b) (c d) appartienne à H. L'existence de quatre éléments distincts dans {1, ..., n} n'est possible que si n > 3, d'où n = 4. Ainsi H est un sous-groupe de S₄ qui comprend un des éléments de V – {1}, où V est défini comme ci-dessus. Puisque les trois éléments de V-{1} sont conjugués dans S₄ et que H est normal dans S₄, H contient V. Donc l'ordre de H est un multiple de 4 qui divise l'ordre 24 de S₄. L'ordre de H est donc égal à 4, 8, 12 ou 24. Si l'ordre de H était 24, H serait S₄, ce qui est contraire aux hypothèses. Si l'ordre de H était 12, H serait d'indice 2 dans S₄; or nous avons vu que, pour n ≥ 2, A_n est le seul sous-groupe d'indice 2 dans S_n; donc si l'ordre de H était 12, H serait égal à A₄, contradiction. Si l'ordre de H était 8, H comprendrait un élément x dont l'ordre serait un diviseur de 8 et qui n'appartiendrait pas à V. Si x était d'ordre 2, ce serait une transposition, donc H, étant distingué dans S₄, comprendrait toutes les transpositions et serait donc égal à S₄, contradiction. Comme il est clair qu'il n'y a pas d'élément d'ordre 8 dans S₄ (voir la décomposition en cycles), x serait donc d'ordre 4 et devrait donc être un cycle de longueur 4 (voir la décomposition en cycles), soit (f g h i). Puisque H est distingué dans S₄, il comprendrait aussi (g f h i), donc comprendrait (f g h i) (g f h i), c'est-à-dire (f i h). Comme ci-dessus, on en tire une contradiction. L'ordre de H est donc égal à 4, autrement dit, H = V, ce qui achève la démonstration.

Lemme 2

Soit n un nombre naturel. Si un sous-groupe distingué de An comprend un cycle d'ordre 3, il est égal à An tout entier.

Démonstration. Puisque A_n est engendré par les cycles d'ordre 3, il suffit évidemment de prouver que si γ₁ et γ₂ sont deux cycles d'ordre 3, un au moins des deux cycles γ₂ et γ₂^-1 est conjugué de γ₁ dans A_n (et non seulement dans S_n). On sait que γ₂ est conjugué de γ₁ dans S_n, donc il existe une permutation σ ∈ S_n telle que γ₂ = σ γ₁ σ^-1. Si la permutation σ est paire, γ₂ est conjugué de γ₁ dans A_n et notre argument est vrai. Si la permutation σ est impaire, écrivons γ₂ = (a b c). Alors γ₂^-1 = (c b a) = (a c) γ₂ (a c)^-1, donc γ₂^-1 = (a c) σ γ₁ σ^-1 (a c)^-1, où la permutation (a c) σ est paire, et notre argument est encore vrai.

Remarque. On prouve facilement que si n ≥ 5, deux cycles d'ordre 3 appartenant à S_n sont toujours conjugués dans A_n.

Théorème

Soit n un nombre naturel. Le groupe alterné An est simple si et seulement si n est égal à 3 ou ≥ 5. Les sous-groupes distingués de A4 sont 1, A4 et le groupe V défini ci-avant.

Démonstration^[1] Si n ≤ 2, A_n est réduit à l'élément neutre et n'est donc pas simple. Si n = 3, A_n est d'ordre 3; comme 3 est premier, A₃ est un groupe simple commutatif. Nous pouvons donc supposer n ≥ 4.
Supposons que H soit un sous-groupe distingué de A_n, distinct de 1 et de A_n. Nous allons en tirer une contradiction si n ≥ 5 et prouver que H = V si n = 4. Il est clair que cela démontrera l'énoncé.
Parmi les éléments de H distincts de l'élément neutre, choisissons une permutation, soit σ, dont le support ait le moins d'éléments possible. Puisque σ n'est pas la permutation identique, elle admet au moins une orbite ponctuelle.
Premier cas : toutes les orbites non ponctuelles de σ ont exactement deux éléments. Puisque la permutation σ est paire, elle a au moins deux telles orbites. Prouvons que ceci est impossible si n ≥ 5. Choisissons deux transpositions (a b) et (c d) dans la décomposition de σ en produit de cycles à supports disjoints. Puisque nous supposons n ≥ 5, nous pouvons choisir dans {1, ... , n} un élément e distinct de a, b, c et d. Posons φ = (c d e). La permutation φ σ φ^-1 σ^-1 appartient à H; en effet, c'est le produit de σ^-1, qui appartient à H, par φ σ φ^-1, qui appartient également à H (puisque c'est le conjugué de l'élément σ de H par l'élément φ de A_n et que H est distingué dans A_n). De plus, la permutation φ σ φ^-1 σ^-1 n'est pas la permutation identique. En effet, φ σ φ^-1 σ^-1(c) = φ σ φ^-1(d) = φ σ (c) = φ(d) = e. D'autre part, tout point fixe de σ distinct de e est hors du support {c, d, e} de φ, donc est point fixe de φ, donc est point fixe de φ σ φ^-1 σ^-1, qui admet en outre pour points fixes a et b, qui ne sont pas points fixes de σ. Ainsi, φ σ φ^-1 σ^-1 est un élément de H – {1} dont le support compte moins d'éléments que celui de σ, ce qui contredit la façon dont nous avons choisi σ.
La contradiction obtenue prouve que dans le premier cas (où toutes les orbites non ponctuelles de σ ont exactement deux éléments), n < 5, d'où n = 4. Donc H est un sous-groupe distingué de A₄ qui comprend un produit (a b) (c d) de deux transpositions à supports disjoints. Un tel élément appartient à V – {1}, où V est le sous-groupe de A₄ défini plus haut. Mais les éléments de V – {1} sont conjugués entre eux dans A₄ (et non seulement dans S₄), car si x, y, z, t sont distincts, le conjugué de (x y) (z t) par la permutation paire (x y z) est (y z) (x t). Donc H est un sous-groupe distingué de A₄ qui contient V. L'ordre de H divise donc l'ordre 12 de A₄ et est multiple de l'ordre 4 de V. Ce n'est possible que si H est égal à V ou à A4. Par hypothèse, H n'est pas égal à A₄, donc il est égal à V.
Le théorème est donc vrai dans le premier cas, où toutes les orbites non ponctuelles de σ ont exactement deux éléments. Supposons maintenant qu'il y a au moins une orbite non ponctuelle de σ qui compte au moins trois éléments. Soit (a b c ... ) une telle orbite. Puisque H n'est pas A_n tout entier, il résulte du lemme 2 que σ n'est pas un cycle d'ordre 3. Donc σ déplace au moins un élément autre que a, b et c. Si parmi les éléments autres que a, b et c, σ n'en déplaçait qu'un, σ serait un cycle d'ordre 4 et donc une permutation impaire, ce qui contredit les hypothèses. Ainsi, le support de σ comprend au moins deux éléments distincts de a, b et c, donc le support de σ compte au moins 5 éléments. Nous pouvons donc choisir dans le support de σ deux éléments d et e distincts de a, de b et de σ^-1(a). Posons φ = (b d e). Comme plus haut, on montre que φ σ φ^-1 σ^-1 appartient à H. La valeur de φ σ φ^-1 σ^-1 en b est φ σ φ^-1(a) = φ σ (a) = φ(b) = d, donc φ σ φ^-1 σ^-1 n'est pas la permutation identique et appartient donc à H – {1}.
D'autre part, nous avons choisi d et e distincts de σ^-1(a) et, puisque a est distinct de c = σ(b), il est clair que b est distinct de σ^-1(a). Ainsi, σ^-1(a) n'appartient pas au support {b, d, e} de φ, autrement dit σ^-1(a) est point fixe de φ. Dès lors, φ σ φ^-1 σ^-1(a) = φ σ ( φ^-1 (σ^-1(a)) = φ σ (σ^-1(a)) = φ(a) = a, donc a est point fixe de φ σ φ^-1 σ^-1.
D'autre part, d'après la façon dont nous avons choisi d et e, tous les éléments du support {b, d, e} de φ appartiennent au support de σ, autrement dit tout point fixe de σ est point fixe de φ, donc tout poit fixe de σ est point fixe de φ σ φ^-1 σ^-1. Ainsi φ σ φ^-1 σ^-1 est un élément de H – {1} dont le support est strictement contenu dans celui de σ, ce qui contredit la façon dont nous avons choisi σ. Ceci achève la démonstration du théorème.

Remarques.
1) Nous avons montré que pour n ≥ 5, le groupe A_n est simple. Puisque, pour ces valeurs de n, A_n est non commutatif (on a même vu dans un exercice que son centre est réduit à l'élément neutre), les groupes A_n, pour n ≥ 5, sont des groupes simples non commutatifs.
2) On aurait pu traiter à part le cas de A₄, en notant que A₄ est formé des quatre éléments de V et de huit cycles d'ordre 3. Si un sous-groupe distingué de A₄ n'est pas contenu dans V, il comprend un cycle d'ordre 3, donc, d'après un lemme ci-dessus, il est égal à A₄ tout entier. Si maintenant un sous-groupe distingué H de A₄ est contenu dans V, son ordre divise 4; cet ordre ne peut pas être égal à 2, car (exercices de la série Conjugaison) un sous-groupe distingué d'ordre 2 est contenu dans le centre et (exercices sur les groupes symétriques finis) le centre de A₄ est réduit à l'élément neutre; donc H est égal à 1 ou à V.

[modifier] Notes et références

1. ↑ Cette démonstration est essentiellement celle qui est donnée par S. Lang, Algèbre, 3^e éd., tr. fr., Paris, Dunod, 2004, pp. 34-35.