2. АКСИОМАТИЧЕСКАЯ ТЕОРИЯ МНОЖЕСТВ

2.1. Возникновение интуитивной теории множеств

Возникновение интуиции произвольного бесконечного множества - закономерный результат развития математики XIX в. Приемы образования новых математических понятий, характерные для первой половины XIX в., в теории множеств оказались доведенными до логического конца. Последний шаг был сделан немецким математиком Георгом Кантором под влиянием конкретной проблемы из "старой" математики. К интуитивному понятию о произвольном бесконечном множестве Г.Кантора привела, как ни странно, проблема сходимости рядов Фурье. В 1872 г. он доказал теорему о единственности разложения функции в ряд Фурье для рядов, которые сходятся в интервале (a,b) всюду, исключая, возможно, конечное число точек, и задался вопросом: насколько можно эту теорему обобщить?

В то время математики почти не думали и не говорили об отрезке прямой как о множестве точек. Они представляли себе отрезок как континуум - непрерывную, сплошную среду, в которой можно отмечать отдельные точки, но не задумывались над тем, "состоит" ли среда целиком из точек, исчерпывается ли ими. Сегодня трудно вообразить такое, но в середине XIX в. эта точка зрения господствовала.

Представление об отрезках прямых как совокупностях точек появилось в самом начале развития "чистой" математики - в VI в. до н.э. Естественно, тогда речь могла идти только о точках положительных размеров и о конечном их числе в каждом отрезке. Если считать при этом, что все точки - одинаковые, то легко сделать вывод, что отношение любых двух отрезков должно выражаться рациональным числом. Такая интуиция успела уже достаточно сильно укорениться, когда было обнаружено существование несоизмеримых отрезков (прежде всего несоизмеримость диагонали квадрата и его стороны). С этим открытием связан первый кризис основ математики: дискретная геометрическая интуиция потерпела крах. Выход из кризиса был найден в V в. до н.э. - от представления об отрезке прямой как о совокупности точек пришлось отказаться. Вместо него отрезок представлялся как сплошная среда, в которой можно отмечать отдельные точки, можно определить отношение двух отрезков и т.д. Эта новая интуиция сохранялась практически без изменений до 70-х гг. XIX в., и ее не смогло поколебать даже изобретение бесконечно малых величин.

Итак, Г.Кантор не мог сразу задаться вопросом: останется ли в силе теорема о единственности разложения, если множество исключительных точек будет бесконечным? У него не могло быть тогда еще общего понятия о бесконечном множестве точек. Поэтому он начал с простейшего вида бесконечных множеств - с множеств, имеющих одну предельную точку, например

{ 1/n | n >= 1 }.

Предельной точкой этого множества является нуль. И Г.Кантору удалось доказать теорему единственности для случая, когда множество исключительных точек имеет одну предельную точку. Дальнейшее обобщение на случай множества с конечным числом предельных точек уже тривиально.

Следующий шаг - к простейшему множеству, имеющему бесконечно много предельных точек. Такое множество имеет единственную предельную точку второго порядка, вокруг которой сгущаются "обычные" предельные точки, например

{1/m + 1/n | m,n >= 1}.

И для таких множеств Г.Кантору удалось доказать свою теорему единственности. Дальше можно идти к предельным точкам третьего, четвертого и других порядков, вовлекая в работу все более сложные бесконечные множества точек.

Так постепенно, в процессе работы со все более сложными множествами точек, у Г.Кантора начало формироваться интуитивное понятие о произвольном бесконечном множестве. Уже попытка систематизации множеств с предельными точками определенных порядков провоцирует введение этого понятия. Вводится понятие так называемого производного множества: если P - множество точек, то P' - множество предельных точек P. По индукции можно определять дальше P'', P''', P'''',...

Упражнение 2.1. Покажите, что при фиксированном k для множества

Q_k ={ 1/n₁ +...+ 1/n_k | n₁ ,..., n_k >= 1 }

k-е производное множество Q_k^(K) состоит из единственной точки 0.

Свою теорему о единственности разложения в ряд Фурье Г.Кантору удалось обобщить на любые множества исключительных точек конечного порядка, т.е. на любые множества P, для которых одна из производных P^(k) конечна.

Но и отсюда можно двинуться дальше. Можно перейти к предельным точкам "бесконечного порядка" - так естественно называть точку, которая является предельной точкой k-го порядка для любого натурального числа k. Это значит, что производное множество бесконечного порядка P^(w) определяется как пересечение P'^P''^P'''^... Разумеется, Г.Кантор доказал теорему о единственности и для случая, когда для множества исключительных точек P производное множество P^(w) является конечным. Но и отсюда можно двинуться дальше - к производным множествам

P^(w+1) = (P^(W) )', P^(W+2) , P^(W+3) ,...,

P^(w*2) , P^(w*2+1) ,..., P^(w*3) , P^(w*3=1) ,...,

P^(w*w) , P^(w*w+1) , ...

Таким образом, те же ряды Фурье привели Г.Кантора не только к интуиции произвольного бесконечного множества, но и к расширению понятия натурального числа - к так называемым бесконечным порядковым числам (или ординалам, см. дальше).

Упражнение 2.2. Попробуйте построить множество P такое, что P^(w) ={0}, или P^(w*2) ={0}, или P^(w*w) ={0}. Указание: возьмите объединение всех множеств R_k =Q_k ^[0,1/k].

К осени 1873 г. наступил решающий перелом: 29 сентября Г.Кантор пишет в письме Р.Дедекинду, что можно установить взаимно однозначное соответствие между рациональными и натуральными числами. Это была известная теперь всем конструкция

1 2 3 4 5 6 7 8 9

1/1, 1/2, 2/1, 1/3, 3/1, 1/4, 2/3, 3/2, 4/1,...

----- ---------- -------------- ----------------------------

2 3 4 5

Сначала идут несократимые дроби с суммой числителя и знаменателя, равной 2, затем - с суммой, равной 3, и т.д. И еще: в этом же письме Г.Кантор спрашивает: а не удастся ли и все действительные числа перенумеровать с помощью натуральных чисел?

Это была целая революция в представлениях о математическом континууме! Г.Кантор уже считает числовую прямую множеством точек - не просто средой, в которой можно отмечать отдельные точки, а средой, которая состоит из точек, исчерпывается ими! Это закономерный результат занятий Г.Кантора все более сложными множествами точек - в его глазах континуум "расчленился" на отдельные точки. Сейчас представление о континууме как о множестве точек опять (через 2000 лет!) прочно вошло в математику, поэтому трудно вообразить, что когда-то здесь могли быть какие-то проблемы.

В ответном письме Р.Дедекинд показал, как можно перенумеровать натуральными числами все алгебраические числа. Но перенумеровать все действительные числа ему не удалось...

Разумеется, это не случайно, поскольку в своем следующем письме Р.Дедекинду (7 декабря 1873 г.) Г.Кантор показывает, что взаимно однозначное соответствие между натуральными и действительными числами невозможно. В своем доказательстве Г.Кантор применил конструкцию, названную впоследствии диагональным методом. Он исходил из произвольной последовательности действительных чисел a₁ , a₂ ,..., a_n ,... и произвольного интервала (b, c), делил интервал на три части, брал ту из частей, которая не содержит a₁ , затем делил на три эту часть и брал ту треть, которая не содержит a₂ , и т.д. В результате получалась последовательность стягивающихся интервалов (b_i , c_i ):

b₁ <= b₂ <= b₃ <= ... <= c₃ <= c₂ <= c₁.

Общая точка (предел) этих интервалов и представляет собой действительное число, не входящее в последовательность a₁ , a₂ ,..., a_n ,... Таким образом, никакая последовательность, пронумерованная натуральными числами, не может исчерпать все действительные числа.

Это была еще одна революция - в представлениях о математической бесконечности. Оказывается, наряду с бесконечным множеством натуральных чисел существует "еще более бесконечное" множество действительных чисел, т.е. существуют бесконечности по крайней мере двух типов. Теорема Кантора дает также поразительно простое доказательство существования трансцендентных чисел (и одновременно доказательство того, что трансцендентных чисел "гораздо больше", чем алгебраических, которые можно перенумеровать с помощью натуральных чисел). Правда, конкретные трансцендентные числа построил еще в 1844 г. Ж.Лиувилль, а в 1873 г. Ш.Эрмит доказал, что трансцендентным является число e.

Обнаружив существование двух типов бесконечности, Г.Кантор пошел дальше: в письме Р.Дедекинду от 5 января 1874 г. он пишет о своих попытках сравнить континуумы различной размерности. Например, где больше точек: внутри квадрата или в отрезке прямой? Казалось бы, чем больше размерность, тем больше должно быть точек. Г.Кантор также поверил в это и более 3 лет пытался доказать. Только потом он наконец решил попытаться доказать противное (невероятное!) - что в квадрате столько же точек, сколько в отрезке. И это ему сразу же удалось, о чем он сообщил в письме Р.Дедекинду от 20 июня 1877 г. Конструкцию Г.Кантора легко объяснить любому школьнику. Отображение квадрата [0, 1)x[0, 1) в отрезок [0,1] задается с помощью десятичных разложений координат:

(x,y) № z,

x=0,abcd...,

y=0,ABCD...,

z=0,aAbBcCdD...

Г.Кантору показалось, что его доказательство "уничтожило" понятие размерности. В ответном письме Р.Дедекинд указал, что отображение Г.Кантора, будучи взаимно однозначным, не является непрерывным (при непрерывном отображении размерность вроде бы должна сохраняться?). Однако позднее - Дж.Пеано в 1890 г. и Д.Гильберт в 1891 г. сумели построить непрерывное отображение отрезка на квадрат (но это отображение взаимно однозначным уже не оказалось). И только в 1911 г. голландский математик Л.Брауэр (позднее - основоположник интуиционизма) доказал, что размерность сохраняется при отображениях, которые одновременно являются и непрерывными, и взаимно однозначными.

Тогда же, в 1877 г. Г.Кантор пришел к континуум-проблеме: поработав с самыми различными множествами точек (на прямой, на плоскости, в пространстве), он обнаружил только два типа бесконечных множеств:

- счетные множества (их элементы можно перенумеровать с помощью натуральных чисел),

- множества, эквивалентные всему континууму (например, отрезку прямой).

Никаких множеств "промежуточной мощности" (содержащих элементов больше, чем натуральных чисел, но меньше, чем континуум) обнаружено не было (подробнее см раздел 2.4). Поэтому Г.Кантор предположил, что таких множеств вообще не существует. Это предположение принято называть континуум-гипотезой: всякое бесконечное множество точек на прямой либо является счетным, либо эквивалентно всему континууму.

Много лет потратил Г.Кантор, пытаясь доказать эту гипотезу. Континуум-проблема - одна из самых красивых проблем во всей математике - ее суть легко объяснить любому школьнику. Решить ее не удалось ни Г.Кантору, ни многочисленным его последователям.

В 1895 г. Г.Кантора, изнуренного безуспешными попытками доказать континуум-гипотезу, настигает еще один удар - он обнаруживает в своей теории множеств... противоречие! Об этом он сообщает в письме Д.Гильберту. В 1897 г. еще одно противоречие обнаруживает (и немедленно публикует) итальянский математик Ч.Бурали-Форти...

Более основательное изучение ранней истории теории множеств по книгам Ф.А.Медведева [1965,1982] только усилит впечатление, что эта теория является закономерным результатом развития математики XIX в.: в канторовском понятии о произвольном бесконечном множестве доведены до логического конца принципы математического мышления, характерные для всего предыдущего периода. И что обнаруженные противоречия столь же закономерны.

2.2. Формализация противоречивой теории множеств

Сейчас мы будем заниматься формализацией теории множеств в том виде, в каком она была создана Г.Кантором. В основу этой теории положено интуитивное представление о "мире множеств", в котором все множества (и конечные, и бесконечные) существуют одновременно и в "готовом виде". В своих аксиомах теории множеств мы хотим отразить законы, характеризующие этот застывший "мир множеств".

Уже в самом начале возникает, однако, такой вопрос: возможен ли мир, состоящий только из множеств? Множество может состоять из элементов-множеств. Но что лежит тогда в основании этой "башни"? Т.е. если x₂ - элемент множества x₁ , а x₃ - элемент x₂ , x₄ - элемент x₃ и т.д., то неужели в этой цепи никогда не появится что-то более "осязаемое" по сравнению с множествами, состоящими из множеств? Как показал в 1925 г. Дж.фон Нейман, теория множеств вполне может обойтись без введения "осязаемых" объектов. В самом деле, если бы "в мире множеств ничего не было", то этот мир представлял бы собой пустое множество, а это уже кое-что. Обозначим это "кое-что" через 0. Тогда мы можем образовать еще одно множество, состоящее из одного элемента 0, т.е. множество {0}. Следующим шагом может быть образование множества из двух элементов: {0,{0}}, и т. д.:

x₀ =0, x₁ ={0}, x₂ ={0,{0}},..., x_n+1 = x_n U{ x_n },...

Таким образом, даже предположив, что "ничего нет", мы получаем бесконечно много множеств, т.е. если в основу "башни множеств" положить пустое множество, это нас по существу ничем не ограничивает (ср. К.Дэвлин [1977]).

Теперь мы можем определить язык теории множеств. Переменными будут служить, как обычно, x,y,z,... - с индексами или без них. Значениями переменных (интуитивно) будем считать произвольные множества (поскольку в "мире множеств" существуют только множества).

Константы (например, 0 для обозначения пустого множества) мы вводить не станем. Позднее увидим, что без них можно обойтись. Совершенно необходимо, однако, ввести особый предикатный символ " in " ("принадлежит") - в дополнение к общему для всех теорий символу "=". В результате появятся атомарные формулы двух видов: x in y ("x принадлежит y" или "x является элементом множества y") и x=y ("x,y - одно и то же множество"). Атомарные формулы будем соединять с помощью логических связок и кванторов, создавая формулы теории множеств. Например, формула (Ay)~(y in x) утверждает, что x есть пустое множество, а формула

(Ey)(Az)(z in x <-> z=y)

- что x содержит единственный элемент.

Как и всякая серьезная формальная теория, теория множеств принимает логические аксиомы и правила вывода (классическую логику). Переходя к собственным аксиомам теории множеств, мы должны прежде всего определить специфическое для этой теории понятие равенства: "два множества равны, если они состоят из одних и тех же элементов". Несмотря на кажущуюся тривиальность это определение требует специальной аксиомы. Из логических аксиом оно не выводится. Из логических аксиом можно вывести (проверьте), что

x=y -> (Az)(z in x <-> z in y).

Это естественно: если x равно y, то все, что можно сказать об x, можно сказать и об y. Однако если множества x,y определены по-разному и лишь ценой некоторых усилий мы сумели установить, что (Az)(z in x <-> z in y), то отсюда вытекает x=y лишь при специфическом для теории множеств понятии равенства. Логика безразлична к символу " in ", она не приписывает ему никаких индивидуальных свойств. Именно поэтому мы и должны ввести специальную аксиому:

(AxAy)((Az)(z in x <-> z in y)-> x=y). (Z1)

Это так называемая аксиома экстенсиональности. Она и определяет специфическое понимание равенства в теории множеств (термин "экстенсиональность" означает независимость от конкретного вида определения).

Уже само принятие логических аксиом и правил вывода (то, что мы относим их к "миру множеств") гарантирует существование по крайней мере одного множества: следствием логических аксиом является формула (Ex)x=x. Здесь просто утверждается существование некоторого множества x, без каких-либо индивидуальных свойств. Чтобы получить множества, обладающие конкретными свойствами, нужны специальные аксиомы.

Г.Кантор писал в свое время: "Множество - это многое, мыслимое нами как единое". Но каким образом многое можно мыслить как единое? Только задав отличительный признак того, что входит в многое. Это и будет тем единым, что может связать многое вместе. Обозначения, отражающие такой подход, прочно вошли в математику, например K={x | K(x)}, где K - свойство "быть крокодилом". По этому поводу принято говорить, что K - "множество всех крокодилов", и обращаться с ним как с единым объектом.

Немецкий математик Готлоб Фреге (первый ученый, достигший серъезных успехов в формализации математики) в своей формальной системе реализовал эту идею объединения многого в единое. На современном нам языке принцип Кантора-Фреге формулируется в виде так называемой схемы аксиом свертывания. Пусть F(y) - формула на языке теории множеств (кроме переменной y она может содержать и другие свободные переменные, тогда мы будем считать их параметрами). На F(y) можно смотреть как на утверждение: "множество y обладает свойством F". Следуя подходу Кантора-Фреге, все множества y, обладающие свойством F, можно объединить в единое множество x={y | F(y)}. Таким образом, мы принимаем схему аксиом

(Ex)(Ay)(y in x <-> F(y)) (Z2{F})

(предполагается, что формула F не содержит x). Для конкретной формулы F получается конкретная аксиома свертывания.

В частности, аксиома Z2{~(y=y)} обеспечивает существование пустого множества:

(Ex)(Ay)(y in x <-> ~(y=y)).

Ясно, что x здесь - пустое множество: (Ay)~(y in x).

Упражнение 2.3. Выведите из схемы свертывания существование других множеств: {0}, {0, {0}}.

Для полноценного воспроизведения интуитивной теории множеств нам не хватает еще только знаменитой аксиомы выбора. Однако мы не будем пока ее обсуждать, так как уже аксиомы, которые приняты нами до сих пор..., приводят к противоречию!

В 1902 г., когда Г.Фреге уже правил корректуру второго, завершающего, тома книги, излагающей его формальную систему математики, он получил письмо от английского философа Б.Рассела, который, ознакомившись с первым томом, обнаружил, что принципы, принятые в системе Фреге, очень быстро приводят к противоречию. В наших терминах рассуждения Б.Рассела выглядели бы так. Некоторые множества не являются элементами самих себя, таково, например, пустое множество: ~(0 in 0). Рассмотрим множество всех таких множеств, существующее согласно аксиоме свертывания Z2{~(y in y)}:

(Ex)(Ay)(y in x <-> ~(y in y)).

В частности, полагая y=x:

(Ex)(x in x <-> ~(x in x)),

т.е. существует множество x, для которого приводит к противоречию и предположение x in x, и предположение ~(x in x). Так появился на свет парадокс Рассела. Как ни странно, оказалось, что некоторые из аксиом свертывания приводят к противоречиям. Это значит, что в самом общем виде схема свертывания не может служить основой теории множеств.

Замечание. Текст письма Б.Рассела к Г.Фреге см. в книге Б.В.Бирюкова [1985]. Еще до Б.Рассела в 1895 г. противоречие в своей теории множеств обнаружил Г.Кантор. В 1897 г. еще один парадокс теории множеств обнаружил и опубликовал Ч.Бурали- Форти. Их рассуждения были значительно сложнее рассуждений Б.Рассела (см. раздел 2.4). (Подробнее об истории открытия парадоксов в теории множеств см. книгу Ф.А.Медведева [1965]. )

Сегодня, почти 100 лет спустя, открытие парадоксов уже не кажется чем-то катастрофическим. Но какое впечатление оно должно было произвести (и произвело) на Г.Фреге, Г.Кантора и Р.Дедекинда, которые поверили в неограниченную применимость принципа свертывания еще в 70-е гг. XIX в. и прожили с этой верой более 20 лет! Г.Фреге свою формальную систему математики, а Г.Кантор - свою теорию множеств считали главным делом всей жизни. Удар оказался очень тяжелым: после 1902 г. они не опубликовали ни одной работы, сколько-нибудь сравнимой с их выдающимися работами предыдущего периода. Найти выход из положения они уже не могли. Выход нашли математики следующего поколения.