Синтез знания и формализация

Действие противоположных тенденций — тенденции к дифференциации и тенденции к интеграции, или синтезу, знания — наблюдалось на протяжении всей истории науки, но та или иная из них выступала на первый план. Для науки конца XIX и начала XX столетия характерно, пожалуй, преобладание тенденции к дифференциации. Эта тенденция в первых десятилетиях нашего века выразилась в мощном древе разветвленного знания. Специализация стала знаменем научного прогресса, и известный афоризм об ученом, пределом углубления которого в свою область является знание «всего ни о чем», не воспринимался как шутка.

Дифференциация, однако, имела негативную сторону: специалисты даже близких областей переставали понимать друг друга. В специальных областях стали применяться такие «жаргоны» научного языка, которые не были понятны даже ученым-смежникам. «Вавилонское многообразие» языков науки становилось реальным тормозом прогресса знания в его незавершимой работе по построению «башни науки». В середине века стало ясно, что преодоление «вавилонской» ситуации в познании важно также потому, что без этого затруднительно разрабатывать проблемы, лежащие «на стыках» научных областей. Между тем научная практика ясно показывала, что вероятность появления «горячих точек» бурного роста знания на этих стыках существенно выше, чем в пределах «традиционно» сложившихся наук и научных направлений. Убедительным примером этого служит появление кибернетики.

1. Кибернетика и синтез знания

Кибернетика — область знания и технической практики, резко отличная от «традиционных» наук. Это обычно и имеют в виду, когда говорят, что это комплексное научное направление. Слова эти, по сути, не означают ничего другого, как то, что своеобразие кибернетики заключено не только в ее предмете (безусловно новом — сложных динамических системах, реализующихся в технике, живой природе, обществе), но и в ее методах. И среди этих методов особое место принадлежит методу формализации.

Формализация, конечно, не есть метод одной лишь кибернетики. Но нет сомнения в том, что именно кибернетика придала этому методу широкое общенаучное звучание, превратила его в могучее орудие интеграции, синтеза знания, разработки «стыковых» научных проблем, в средство решения вопросов, на преодоление которых не хватает сил у одних лишь «точных» или одних лишь биолого-медицинских, или одних лишь гуманитарных наук. Собственно говоря, аналогичное воздействие кибернетика окдзала и па другие методы, например на метод моделирования, бурпая экспансия которого во все науки порождена именно кибернетикой. Но если в случае моделирования его применение в тех или иных областях отнюдь не всегда можно рассматривать как реализацию тенденции к синтезу знания, то в случае формализации дело обстоит иначе: будучи неотделимой от языковых аспектов науки, формализация всегда представляет собой некоторое обобщение, которое, по крайней мере потенциально, может быть перенесено с тех задач, ради которых данная формализация была создана, на другие — иногда весьма отдаленные — вопросы.

В 30-х годах нашего века неопозитивизм развернул энергичную кампанию за интеграцию науки, за создание «единой науки», т. е. науки, «говорящей» на едином языке. Были созданы общества «единой науки», «сигнифики» и т. д., поставившие своей целью «унификацию науки» для преодоления «вавилонской ситуации». Эти попытки не имели реального успеха. Причина состояла в том, что опи не опирались на реальный, практический успех научного познания и человеческой практики. Теперь положение начинает меняться. «Кибернетическая революция» открывает реальные пути решения проблемы «унификации знания» в ее разумной постановке. Мы имеем в виду создание формализованных языков общений, «доступных» как человеку, так и кибернетической машине. Такие языки станут средством общения не только между человеком и автоматами, которые человек использует в познавательно-практических целях. Это будут также языки общения друг с другом специалистов разных областей, языки взаимопонимания различных наук, словом, своего рода «языки синтеза знания».

Ниже мы рассмотрим основные линии, по которым идет воздействие процедур формализации на синтетические процессы в современном знании[1].

2. Что такое формализация?

В самом общем виде под формализацией — как это, по сути, зафиксировано в самом слове — следует понимать уточнение содержания, производящееся посредством выявления его формы. Конечно, данного пояснения недостаточно — это лишь намек на существо вопроса. Последнее выясняется из истории тех приемов, которые относят к формализации (хотя бы в упомянутом общем смысле), и из описания тех процедур, за которыми современная наука закрепила название формализации. Обратимся к истории.

Первым способом фиксации содержания посредством уточнения (выявления и т. п.) его формы был язык, т. о. естественные языки общения человеческих коллективов, а вторым — письменность. Но это — способы формализации, не специфические для научного познания. Поэтому ныне, говоря о формализации в связи с наукой, мы не склонны относить само по себе применение естественного языка и записей научных данных и процедур к формализации.

Начало формализации в науке связывают с появлением языков отдельных наук — на первых порах в видесовокупностей терминов, за которыми устанавливался более или менее точный (и отличный от общежитейского) смысл, а также чертежей и отдельных буквенных обозначений. Этот этап формализации мы наблюдаем уже в древнегреческой науке.

Однако «настоящая» формализация, т. е. приемы исследования, в применении к которым в настоящее время употребляют термин «формализация», связана в основном с научной революцией Нового времени. В эту эпоху возникают буквенные математические исчисления (алгебра Виета, аналитическая геометрия Декарта, математический анализ Ньютона и Лейбница). Здесь впервые форма решения научной задачи настолько отделяется от ее содержания, что возникает наука о способах работы с этой знаково-зафиксированной формой. Впервые в качестве формы научного содержания начинает выступать специальный знак (знаки). В науке Нового времени формулируются требования к знаковым формам как выразителям содержания, как средствам его разработки, как способам построения доказательств и рычагам научных открытий. Этот подход к знакам как формам содержания и средству познания ярко выражен Лейбницем в известных словах, что знаки должны быть удобны для открытий.

В математическом естествознании и в математике, начиная с XVII века, складывается та процедура формализации задачи, которую мы наблюдаем вплоть до сего времени: выражение задачи на языке математики, решение записанной таким образом задачи средствами определенного раздела науки (математики, механики и т. п.), сопоставление полученного решения с реальным фрагментом действительности (для естествознания, прикладной математики и т. п.). При этом пышно разрастаются ветви математических исчислений, свой знаковый аппарат складывается в химии и т. д.

Но это была преимущественно формализация фактической — относящейся к конкретному материалу тех или иных наук — стороны знания. Помимо этой стороны знания философами была выделена другая — логическая — его сторона.

Это — сторона, относящаяся к формам, структурам рассуждений, отвлеченных от их конкретного содержания. Формализацию этой стороны науки — логическую формализацию — начал Аристотель в учении о силлогизме.

Примечательно, что он, по-видимому, впервые употребил такой важнейший ингредиент современных формализаций, как буквенные переменные. Именно с помощью таких переменных он выражал исследовавшиеся им силлогистические формы.

Однако подлинное начало логической формализации — в формах, аналогичных искусственным языкам математики или химии, — связано с математической логикой. В идейном плане здесь надо прежде всего назвать Лейбница, который выдвинул задачу создания «универсальной характеристики» и «логического исчисления», долженствующих, по его замыслу, в перспективе во всех областях заменить мышление исчислением, а затем создателей алгебры логики XIX века.

Однако алгебраические построения XIX века не могли служить орудием соединения формализации логики и формализации конкретного содержания той или иной науки, выражаемого с помощью логики. Поэтому алгебра логики XIX века и создавшиеся на ее основе различные «логические машины» (типа машины Джевонса) остались в стороне от реального развития конкретных наук и в том числе математики.

Лишь выработка методологии построения аксиоматических исчислений, создание такого рода исчислений и открытие возможности выражения в этих исчислениях математического (для начала — относящегося к арифметике, или теории чисел) содержания (открытие, связанное с работами Фреге, Рассела и Гильберта) подняли логическую формализацию на ту ее ступень, которую мы имеем право рассматривать в качестве современной. Такого рода формализация содержания — выражение его на некотором формализованном языке, включающем в себя всю необходимую логику, — такого рода формализация есть высшая для современного знания ступень формализации.

Каковы же этапы применения формализации? Первый этап формализации (при решении некоторой задачи, описании какого-либо процесса и т. п.) — это всегда запись исходных данных на некотором общепонятном языке. Вопреки распространенному предрассудку, это вовсе не обязательно должен быть язык каких-то «искусственных знаков», средством формализации на первом ее этапе вполне может быть и естественный язык. От последнего, однако, в этом случае требуется, чтобы запись на нем была общепонятной, не Допускающей различных толкований. Конечно, достичь этого непросто, и наука очень рано вступила на путь дополнения естественного языка специальной терминологией и использования приема определения вновь вводимых терминов.

Второй этап формализации состоит в переработке исходной записи (текста) на основе некоторых точных правил. Этот этап нередко подготавливается путем перевода текста, записанного на каком-либо общепонятном языке (естественном, например, русском языке; на естественном языке, соединенном с аппаратом определенного раздела математики и т. и.), на такой язык, который более приспособлен для обработки исходных данных задачи, для описания процесса и т. п. Для наиболее распространенного вида формализации — формализации средствами математики — на втором этапе имеет место решение задачи. В ходе этого решения обычно используются определенные алгоритмы и приемы; при этом обязательно происходит оперирование с записями определенного вида. Последний — третий — этап формализации заключается в сравнении полученного решения с реальностью. Это, по сути дела, этап определения эффективности формализации, оценок добротности тех гипотез (постулатов, упрощающих предположений), которые лежали в ее основе.

Кибернетика внесла в эту схему два важных дополнения. Дело в том, что обработка текста на втором этапе в «докибернетический период» включала в себя математическую, статистическую, классификационную и тому подобную обработку, но логическая обработка отсутствовала. Логическая формализация до 30—40-х годов нашего столетия, по существу, лежала вне тех действенных приемов формализации, которые показали себя столь эффективными в математике, физике, химии и некоторых других науках. Это и понятно: формализованную обработку текстов производил человек, пользуясь при этом своей «естественной» логикой. Правда, развитие логической теории математического доказательства, которая возникла на рубеже XIX и XX веков, представляло собой в этом отношении исключение: логика здесь была формализованной. Но это было такое исключение, которое лишь подчеркивало правило. В целом для науки в «докибернетический период» характерно то, что логика формализовалась только в той степени, в которой она непосредственно входила в математические преобразования, акты классификации и т. п.

Далее, в очерченной выше «трехэтажной» схеме формализации не находила фактически места (если не говорить о простейших счетных приборах) автоматизация процессов обработки текстов: наука, по сути, не знала ее до 40-х годов нашего столетия, когда появились ЭЦВМ.

С появлением кибернетики содержание понятия формализации обогатилось. Все три этапа формализации «кибернетизировались»: в частности, на этапе обработки текстов получили применение цифровые вычислительные машины, кибернетические автоматы. Кроме того, появился и все возрастает класс задач, для которых этап переработки текста требует формализации логики, т. е. использования при обработке информации также и логических процедур. Наиболее типичным примером такого рода являются задачи на автоматизацию доказательств математических теорем из той или иной математической дисциплины.

Есть еще третий момент, связанный с новейшими тенденциями в формализации. Это — развитие автоматизации управления процессами. Для автоматизации управляющей деятельности, так же как и ранее для решения научно- «текстовых» задач, потребовались, разумеется, и разработка формализованного описания процессов, и создание регулярных процедур (алгоритмов) переработки данных. Однако специфика нового вида формализации налицо — ведь ее «выход» состоит не в порождении некоторого результирующего текста (решения задачи), а в производстве реально-практических актов управления. В связи с широкой программой создания автоматических систем управления этот вид формализации приобретает ныне важное значение.

3. Синтетическая сила формализации

Из очерченной схемы формализации вытекает ее универсальность, применимость к целому ряду задач в разных областях. Формализация — это не только научные языки, применимые в разных областях, переносимые из области в область; это также круг идей, позволяющих с единых позиций взглянуть на задачи и в живой природе, и в технике, и в процессах планирования и управления промышленным производством и т. п. Возьмем, например, задачи обучения.

Формализация их постановок и решений показала глубокую общность традиционной сферы человеческой педагогики и «обучения машин». Возникла теория обучения вообще — безотносительно к природе «системы», подвергающейся обучению. Формальный аппарат описания такого рода обученческих процессов оказывается (с необходимыми модификациями, развитием, уточнением и т. п.) применимым к обучению и людей, и автоматов. Другой пример — задачи по распознаванию образов и связанные с ними методы формального описания и решения проблемы узнавания. Известно, что разработка вопросов теории и практики автоматического — с помощью кибернетических машин — распознавания образов позволила установить тесную связь классификационных задач кибернетики с традиционно-психологическими проблемами психологии восприятия.

По каким линиям пролегает идущая от формализации тенденция к синтезу знания?

Одна из таких линий — это то обобщение, которое всегда заключено в применяемом в данной области точном языке. Язык науки может быть неточным в каждой области по-своему. Но вот точность языка есть понятие достаточно общее: точные языки в медицине, экономике, праве или биологии имеют несравненно больше общих черт, чем сами упомянутые науки.

Но ведь формализация — это прежде всего точный язык. Конечно, точность, или строгость, языка — понятие относительное, зависящее и от уровня развитости данной науки, и от применяемых средств точного описания[2]. Здесь нам хочется подчеркнуть то важное обстоятельство, что с проблемами точности языков науки непосредственно переплетаются проблемы науки о знаковых системах вообще —семиотики. Последняя выполняет важную синтетическую роль, охватывая кругом своих идей и подходов широкий спектр наук — от математики до исследований мифологий, религий, этикета и пр. При этом существенна ее синтетическая роль в гуманитарных науках, в которых традиционные языки математики и до сего времени не очень применимы. В самом деле, семиотический подход охватывает не только такие непосредственно «семиотические» дисциплины, как лингвистика или логика, но и право, психологию, экономику. В последней даже говорят о возникновении раздела экономической семиотики, исследующей языки описания экономических явлений, экономического документооборота и т. п. Синтетическая роль семиотики раскрывается особенно тогда, когда она простирает свой анализ не только на уровень синтаксиса, но и на уровень семантики (и далее прагматики).

Дело в том, что во многих науках основные трудности формализации коренятся в задаче выражения смысла понятий этих наук на точных языках, т. е. средствами, которые открывают пути к их эффективному уточнению, — уточнению, позволяющему приступить к созданию систем автоматической переработки соответствующей научной информации. В связи с этим, однако, возникают вопросы: как выразить содержание научного сообщения? Как определить, что два научных выражения, два контекста, два утверждения, два реферата научной работы и т. п. имеют один и тот же (или различный) смысл? Проблемы такого рода теперь возникают во многих областях. Это проблемы формализации содержания текстов, например текстов экономических документов, юридических законов, утверждений об эволюции органического мира или о передаче наследственной информации и т. п. Они имеют глубокую общность в самых разных областях, и, папример, опыт смыслового анализа текстов в экономике может помочь историку в его анализе исторических документов, а работа по созданию, скажем, метатеории информационно-поисковых языков в химии соприкасается с проблемой информационных языков в праве.

Конечно, проблема смысла (значения) языковых выражений никогда не получит «абсолютного» решения, решения, дающего «универсальный» метод определения смысла в науке. Но она решается в применении к определенным фрагментам науки и определенным задачам (задачам определенного рода). И это решение служит идейному и методологическому сближению дисциплин, практикующих логико-семиотические и семиотико-кибернетические методы.

Возьмем, например, экономическую кибернетику. В ней все более подчеркивается важность многостороннего анализа экономической информации в различных конкретных случаях управления в экономике, исследования сторон информации, относящихся к ее полезности, содержанию, знаковой форме и текстовой структуре, алгоритмам кодирования и т. и. Как отмечают авторы обзора «Экономическая семиотика»[3], это ставит вопрос, с одной стороны, о развитии «общей» теории информации, в которой в отличие от шенноновской теории рассматриваются все упомянутые аспекты, а с другой стороны, о создании специфического формально-семиотического аппарата для исследования экономических текстов (документов, показателей и т. д.). Такого рода задачи ныне относят к экономической семиотике. В ней идет речь о формализации реального, живого языка человеческого общения в процессах экономического управления. Ставится вопрос о создании комплекса языков, в том числе языков общения человека с машинными системами, алгоритмических и других формальных языков, необходимых для автоматизации управления в экономике. «Развитие аппарата экономической семиотики позволило прийти к концепции единой взаимосвязанной, но многоаспектной системы мер количественного измерения экономической информации в реальных системах управления»[4].

В этой связи следует особо подчеркнуть один пункт формализации, который тесно связан с синтезом знания. Это — уточнение (формальная экспликация) широкого круга общенаучных понятий, порожденных кибернетикой и математикой (включая математическую логику). К числу упомянутых общенаучных понятий относятся понятия информации, управляющей системы, исчисления, массовой проблемы, интерпретации, изоморфизма, обратной связи и т. д. Многие из этих понятий (классическим примером здесь является понятие информации) являются не менее общими, чем философские категории. Отличие этих понятий от философских категорий состоит в том, что они могут получить — и действительно получают — уточнения в терминах строгих теорий, характеризующихся различной степенью формализации. При этом теория, уточняющая данное общенаучное понятие, становится применимой везде, где науке приходится прибегать к этому понятию. Теория информации, созданная К. Шенноном, яркий тому пример: ее идеи и методы используются не только в теории связи, но и в науке о языке, в психологии, науках о неорганической природе (химия, геология), науке о жизни. Всюду, где она получает приложение, она вносит новые идеи, и сила их как раз и состоит в их общности, отвлеченности от специфических представлений геолога или биолога.

4. Эффективные методы

Ценность формализации как научного метода заключается прежде всего в том, что она позволяет применять эффективные методы, вплоть до автоматизации соответствующих процедур. В силу отмеченной общности языково-семиотических аспектов формализации в разных областях это приводит к возможности переноса эффективных методов, разработанных в одной области, в другие области; перенос методов способствует интеграции соответствующих областей. Хорошие примеры упомянутого переноса дает теория автоматического распознавания образов. Будучи разработанной в чисто теоретическом плане, в сугубо «кибернетической» плоскости, она позволяет переносить выработанные в ней методы на область разведки полезных ископаемых, чтения рукописных текстов машиной, автоматизацию дактилоскопии в криминалистике и т. п.

Логика позволяет уточнить самое понятие эффективного метода. Это уточнение связано с понятиями исчисления и алгоритма. При этом само понятие исчисления как обладающего определенными свойствами аппарата правил оперирования со знаками, который используется при эффективном решении задач (получении искомого результата) или при доказательстве (соответственно — опровержении) предложений, выразимых с помощью этих знаков (на «языке» данного исчисления)[5], расслаивается на ряд понятий. В их числе — понятие об аксиоматически построенном исчислении (семантика, или интерпретация,’ которого строится независимо от аксиоматики) и понятие об исчислении как индуктивно развертывающемся процессе порождения (конструкции, генерировании, отсюда название этого метода — конструктивный, или генетический) объектов определенного вида — объектов порождаемое множества. Методы, связанные с обоими этими подходами, получили ныне широкое распространение вне своей колыбели — математики и математической логики. Аксиоматический метод начал применяться в науке о жизни: так, известны попытки аксиоматизации эволюции и генетики. В лингвистике, а именно в математической и структурной лингвистике, помимо «традиционного» аксиоматического метода широкое применение получил генетический метод, т. е. построение порождающих грамматик естественных языков, развивается теория языков, порождаемых грамматиками разных типов.

Для исчисления как аппарата, регулируемого «разрешающими» правилами («Если получено или имеется то-то и то-то, то можно сделать то-то и то-то»), характерна модальность возможности, разрешения. Для другого же понятия, служащего уточнению представления об эффективном методе, для понятия алгоритма определяющей является модальность необходимости. Ведь правила, из которых складывается алгоритм как некоторое предписание, носят обязывающий, предписывающий характер («Если получено или имеется то-то и то-то, то надлежит сделать то-то»). Это и определяет однозначность переработки информации для исходных данных некоторой (массовой) задачи. Если функционирование исчисления можно представить себе в виде движения по ветвям «бесконечного дерева», в каждом узле которого можно принимать различные решения, то движение, предписываемое алгоритмом, не знает никаких актов принятия решения и в этом смысле является вполне «механическим».

Совместное применение обоих методов, основанных на исчислении и на алгоритме, позволит создать в таких науках, как математика, логика, лингвистика (в перспективе и экономика, право и т. д.), мощные аппараты реального, эффективного, конструктивного решения задач определенных классов.

Здесь надо сказать об алгоритмическом подходе. И не потому только, что этот подход неотделим от кибернетики и машинных методов переработки информации, методов, все глубже пронизывающих человеческое знание, но и потому, что он расширил возможности формализации и переноса эффективных методов из одной области в другую тем, что «ослабил» классическое математическое понятие алгоритма, коль скоро оно применяется к «нематематическим» областям. Это ослабление связано с применением понятий о так называемых алгоритмах сводимости, с использованием предписаний алгоритмического типа, операторных схем записей алгоритмов и т. п. Суть дела состоит в том, что в ряде областей, например в психологии, педагогике, трудно говорить об использовании «настоящих» алгоритмов (при описании деятельности человека-оператора или при разработке методов обучения и пр.), но вполне можно говорить о неких «условных» алгоритмах — предписаниях, которые приобретают статус «настоящих» алгоритмов, когда входящие в них правила переработки информации (например, элементарные акты работы оператора или шаги мыслительной деятельности ученика, решающего задачу) оказываются для данного «исполнительного устройства» реально выполнимыми. Такая «алгоритмоподобная» методология развивается ныне в психологии, педагогике, при формальном описании нейрофизиологических, явлений и других областях.

Исследование информационных процессов в той или иной области неотделимо от алгоритмического подхода; поэтому, например, в науках о жизни алгоритмический подход составляет часть методов исследования информационных процессов (на генетическом уровне, на уровне нервной системы, головного мозга и т. п.). При этом разработка «формальных» теорий, т. е. теорий, использующих определенные разделы математики и логики, сочетается с экспериментальными исследованиями. За построением модельных описаний биологических систем и процессов в виде некоторых формальных схем следует их проверка в эксперименте. В книге А. В. Напалкова, Н. В. Целковой, Е. Р. Серебряковой, Е. В. Гурвич «Информационные процессы в биологии» приводится интересный перечень такого рода возможных формальных схем. В их числе — схемы автоматического регулирования (схематически описывающие задачи поддержания какого-либо параметра, например кровяного давления, в определенных пределах); схемы обучения и самообучения (имеющие чрезвычайно большое значение в мире живого); схемы, описывающие так называемое «решение проблем»; схемы анализа и восприятия информации живыми системами (здесь не только схемы функционирования обычных анализаторов, но и такие явления, как анализ организмом, перед которым возникает задача адаптации, новых условий его существования); схемы описания принятия компромиссных решений и процедур предотвращения попадания организма в так называемые опасные зоны.

Схемы последнего рода тесно связаны с выяснением феноменов развития патологических состояний организма; известно, например, что одним из типичных случаев, определяющих формирование патологии, является возникновение новых регуляторных механизмов, первоначально полезных для некоторой цели. Однако при своем гипертрофированном или застойном функционировании они оказываются вредными для других целей. «Функция повышения кровяного давления важна для обеспечения эмоционального состояния при защите от опасностей в экстремальных случаях. В то же самое время гипертрофированное выражение той же функции становится основой для развития патологического состояния»[6]. На формальных моделях могут быть рассмотрены различные случаи таких патологий.

5. Общность проблем — общность трудностей

Одной из тенденций к синтезу знания является осознание родственности проблем, возникающих в различных областях. Это осознание помогает строить формальные информационные и алгоритмические схемы большой общности. ‘

Так, описанные в конце предыдущего раздела формальные информационные модели явственно обнаруживают свою «интегрирующую природу». Кибернетико-логические схемы «решения проблем» в биологии создаются под влиянием аналогичных моделей в психологии, где они имеют свой «буквальный» смысл. Информационные схемы процессов восприятия и узнавания, столь интенсивно создаваемые в рамках работ по автоматическому распознаванию образов, тоже имеют психологические корреляты. Кроме того, в них имеется семиотический аспект: задачи распознавания можно трактовать в терминах создания специальных языков передачи и переработки информации. Такие языки могут иметь не только, например, «рецепторную» или «автоматную» семантику, но и более общую биологическую интерпретацию, а именно, как «языков» реакций систем живого и живых организмов, ориентирующихся в ситуациях окружающей среды.

Вообще языковые проблемы, проблемы семиотико-кибернетические пронизывают биологию при любом подходе к формализации тех или иных ее разделов. Биологи и кибернетики, занимающиеся кибернетическим моделированием живого, например, давно заметили, что такое моделирование (если оно хочет достичь каких-либо приемлемых с точки зрения биологической интерпретации результатов) должно придерживаться многоуровневого принципа «языков» этих моделей. Так, моделирование работы небольших ансамблей нейронов (не более десятков) возможно (при предположении, разумеется, определенных постулатов) в рамках теории формальных нервных сетей, созданной в школе Мак-Каллока. Но для перехода от формального описания отдельного нейрона (или их небольших групп) к описанию крупных нейронных ансамблей, реально участвующих в нейродинамических процессах, требуется уже другой «язык», скажем язык, подобный языку «блочного синтеза» автоматов, или язык, в большей мере использующий «непрерывностную» математику, и т. п. Это должен быть, в определенном смысле, язык более высокого уровня[7].

Существенно комплексный и обобщенный характер имеют информационные схемы описания поведения индивидов в сообществах. Такие схемы охватывают коллективы живых организмов, коллективы людей, с ними связаны проблемы управления биоценозами и т. д. Даже чисто «локальные» алгоритмы типа, например, алгоритма работы летчика или оператора, сидящего за пультом управления сложного агрегата, могут иметь близкие аналоги в механизмах биологической регуляции (процессов кровообращения, дыхания, обмена и т. п.). И это не говоря уже об «игровых алгоритмах», схемах «управления запасами», «массового обслуживания», которые совершенно естественно возникают на почве проблематики живого.

В методологическом плане существенно, однако, не преувеличивать значения подобных схем. Они представляют собой модели, о подлинной проверке которых говорить зачастую трудно. Ведь они часто являются тем, что В. В. Налимов удачно назвал эскизным описанием диффузных (т. е. сложных, «больших») систем.

В. В. Налимов характеризует диффузную систему следующим образом. «По-видимому, одно из самых примечательных явлений, наблюдающихся сейчас в науке, — это стремление перейти от изучения хорошо организованных систем к плохо организованным — диффузным — системам или, пользуясь терминологией Ньюэлла и Саймона, перейти к изучению задач с плохой структурой. Со времен Ньютона и до начала XX в. точные науки стремились иметь дело с хорошо организованными системами, в которых можно было выделить явления или процессы одной физической природы, зависящие от совсем небольшого числа переменных… Лишь в начале XX в. математическая статистика стала делать первые шаги по изучению плохо организованных — диффузных — систем, в которых нельзя четко выделить отдельные явления. В этих системах нельзя установить непроницаемые перегородки, разграничивающие действие переменных различной физической природы. Такие системы иногда называют большими системами, поскольку здесь надо учитывать действие очень многих разнородных факторов, задающих различные по своей природе, но тесно взаимодействующие друг с другом процессы. Наверное, почти любой технологический процесс можно рассматривать как пример такой плохо организованной системы»[8].

Далее В. В. Налимов говорит: «Не нужно слишком серьезно относиться к экспериментальной проверке моделей, предложенных при эскизном описании диффузных систем. Хорошее совпадение с данными эксперимента не служит достаточно сильным подтверждением правильности модели, ибо всегда можно предложить и другие модели, которые также не будут противоречить наблюденным явлениям. При плохом совпадении всегда можно придумать достаточно разумные объяснения — ведь изучаемая система по определению диффузна; можно даже ввести поправки в модель, что, правда, приведет к нежелательному ее усложнению. Иногда сама постановка задачи о строгой проверке моделей теряет смысл»[9].

6. Широта проблем «логического моделирования»

Глубокую общность обнаруживают кардинальные проблемы высшей ступени развития формализации — формализации с помощью формальных логических (логико-математических) систем. Общность здесь проявляется в следующем. В любой области знания возникают такие логико-гносеологические проблемы, как проблемы полноты, непротиворечивости и разрешимости соответствующих теорий.

Смысл требования непротиворечивости теории или учения (речь здесь идет о «неформальных» теориях, о содержательной науке) состоит в том, чтобы теория не приводила к противоречиям, т. е. к ситуациям, когда в теории приходится признавать верным какое-либо утверждение вместе с его отрицанием. Такие ситуации — ситуации формального противоречия — запрещаются законом противоречия и несовместимы с принципом (принимаемым в классической логике), согласно которому каждое высказывание должно быть либо истинно, либо ложно и притом только одним из двух (логические теории, отвергающие этот принцип двузначности и в том числе конструктивное направление в математике и логике, тем не менее признают действие принципа противоречия). В дедуктивной теории, в которой появляется формальное противоречие, оказывается выводимым любое высказывание, выразимое в терминах этой теории; иначе говоря, в пей теряется различие между истиной и ложью, — то самое различие, ради проведения которого в применении к данному фрагменту действительности (или ее понятийному отображению), собственно, и создавалась сама теория. Такая — противоречивая — теория не может отражать реальность, быть средством расширения знания и поэтому теряет какую-либо ценность как руководство к действию, как основа человеческой практики в соответствующей области. Иной характер носит требование полноты.

Полноту естественно рассматривать как свойство выражать все истины рассматриваемой области. Стремление к полноте — естественное стремление науки, хотя его «абсолютная реализация» представляется скорее недостижимым идеалом, к которому можно лишь приближаться. Этот идеал, во всяком случае, недостижим не только в опытно-экспериментальных науках (опыт всегда незавершен), но и во многих дедуктивно-математических, достаточно «богатых» теориях. Разрешимость же теории можно понимать как наличие для нее (или в ней) процедур проверки любого формулируемого в ней предложения, т. е. решения вопроса, истинно оно или ложно.

Значимость логической формализации — этого своеобразного «логического моделирования» феноменов человеческой познавательной деятельности с помощью логических исчислений и относящихся к ним теорий — состоит в том, что она придала точный смысл этим требованиям, что она пролила свет на то, в каких случаях эти требования выполнимы, а в каких — нет. Требование непротиворечивости при этом выступило как требование того, чтобы в теории — в ее формальном аналоге, т. е. в ее построении в виде исчисления, — не была доказуема никакая формула А и ее отрицание не-А.

Требование полноты приняло вид требования, чтобы в теории (формально представленной теории, но имеющей тем не менее содержательную интерпретацию для своих утверждений, определяющую различие между истиной и ложью) была выводима любая формула, истинная при интерпретации. Требование разрешимости получило уточнение в виде задачи: иметь эффективный метод, позволяющий для любого предложения теории определить, каким является данное предложение — доказуемым (выводимым) в этой теории или нет.

Адекватная формулировка понятий непротиворечивости, полноты и разрешимости позволяет для дедуктивных теорий получать ответ о выполнимости в том или другом случае содержащихся в них требований, а для педедуктивных (опытно-описательных, эмпирических) наук яснее осознать источники принципиальной невыполнимости этих требований в упомянутых областях. Для дедуктивных наук определенной степени содержательности (таких, что в них выразима арифметика натуральных чисел) доказано, что они неполны (и не пополнимы); что теория, логической базой которой является исчисление (многоместных) предикатов, неразрешима; что средствами данной формальной теории нельзя доказать ее непротиворечивость. Все это, в сочетании с тем фактом, что непротиворечивость арифметики натуральных чисел не доказана до сих пор, свидетельствует о внутренней ограниченности формализации.

Этот философский вывод из результатов математической логики подчеркивает глубокую диалектичность процесса познания, — даже когда речь идет об истинах, как говорят в логике, выводных, они представляют собой, в философском смысле, лишь истины относительные: формализация лишь приближенно отображает «внеформальное» содержание. Тем более это справедливо для недедуктивных наук: в них любые формализованные схемы всегда носят, так сказать, модельный характер.

С другой стороны, ограничив содержание, подвергающееся формализации, определенными рамками, можно получить «добротные» формальные схемы (корректные — непротиворечивые, а также полные, разрешимые). Известный пример этого — формализация той части человеческих рассуждений, в которой оперируют лишь понятием высказывания и связей между высказываниями. В такой логике — логике высказываний — упомянутые проблемы решаются просто. Это покупается, однако, ценой отказа от анализа понятийного строения суждений, т. е. отказа от рассмотрения таких логических категорий, как свойство и отношения, и таких операций логики, как обобщение (с помощью квантора «всякий») и выделения существования с помощью квантора «некоторый» (в применении к бесконечной предметной области.

«Бедность» формализации рассуждений на уровне логики высказываний, правда, придает этой формализации достаточную общность: нельзя указать ни одной науки или сферы деятельности, в которых, явно или неявно, не присутствовала бы эта логика. Но, конечно, логики высказываний недостаточно для описания правил рассуждения ни в одной науке,— хотя в ряде случаев можно выделить узкие области, для которых этой логики «почти» достаточно, например, если усилить ее фактически изоморфной ей логикой классов. Во всех же «ответственных» случаях без логики предикатов, представляющей собой расширение логики высказываний за счет введения средств обращения со свойствами и отношениями и бесконечными предметными областями (в классической логике), обойтись просто невозможно. Кроме того, надо иметь в виду, что логика научных рассуждений не есть только логика высказываний и предикатов; в ней имеются и такие «пласты», которые не в силах «поднять» эта логика, являющаяся «ядром» математической логики. Во многих областях знания существенны модальности, а именно: выражения «возможно», «невозможно», «допустимо», «недопустимо», вопросы различной формы, повеления (предписания, правила) , запрещения и разрешения.

Это касается многочисленной группы гуманитарных наук. Например, трудно представить себе формализацию норм права и рассуждений юриста без логики, включающей в себя анализ модальностей, повелений и разрешений. То же касается и этики.

Специфическим видом логических выражений в науках об обществе и человеке являются оценки; логика оценок оказывается необходимой при любой попытке формализации аксиологических построений. Если же брать естественные науки, скажем физические, то там важную роль призвана, по-видимому, сыграть формализация модальностей вероятности, возможности, необходимости, поскольку без привлечения этих понятий невозможно отображение логической стороны такого понятия, как закон природы.

7. Расширение сферы логическом формализации

Таким образом, плеяда логических дисциплин «неклассического» толка — модальная, вероятностная, деонтическая (относящаяся к предписаниям), интеррогативная («вопросная») логика и др.— оказывается проникающей (и объединяющей) своими идеями многие области знания: деонтическая логика — право и этику, логика оценок — этику и аксиологию (включая их социологические аспекты), модальная и вероятностная логика — многие построения естествознания, применяющего математические методы и исследующего, фундаментальные проблемы физики, интеррогативная логика — психологию и педагогику, для которых исследование вопросов имеет отнюдь не второстепенный интерес.

Новое в моделировании «логической составляющей» науки захватывает, конечно, и математику. Многое здесь связано с глубоким пересмотром самих исходных принципов логики и математического мышления. Так, математический интуиционизм и конструктивное направление в математике и логике отвергают математические доказательства, апеллирующие к закону исключенного третьего. Эти направления не приемлют доказательства «от противного», из которых нельзя извлечь способа построения объекта, существование которого доказывается. При этом в специфической для математики и логики форме происходит учет «человеческого фактора».

Конструктивное направление учитывает конструктивные возможности человечества (в специфической форме абстракции потенциальной осуществимости). Интуиционизм же — это направление в основаниях математики, подчеркивающее относительность математических знаний. В самом деле, с точки зрения интуиционизма, логика должна положить в основу своих построений то очевидное соображение, что суждения, которые человеческое знание способно сформулировать па любом этапе развития науки, делятся на истинные (т. е. такие, истинность которых уже доказана), ложные (т. е. такие, которые опровергнуты), и не те и не другие; в последнюю категорию попадают те суждения, которые уже сформулированы наукой, но не доказаны и не опровергнуты (а также все те суждения, которые вообще могут быть сформулированы когда-либо в будущем). Предметом формализации в логике могут быть суждения только первых двух категорий (из чего, между прочим, следует, что интуиционистская логика не является трехзначной).

В конструктивной логике учет «человеческого фактора» идет по другой линии. Это направление строит математику и логику, опираясь на представление о конструктивных объектах, т. е. объектах, которые могут быть осуществлены в конструктивной деятельности людей, расчленяемой на элементарные операции[10], и на точное понятие алгоритма (получившее различные — впрочем, оказавшиеся эквивалентными — уточнения в рамках теории алгоритмов).

«Интуитивной ясности и очевидности» математического построения — требованию, которое предъявляет интуиционизм к математическому мышлению, конструктивное направление, отвергающее вместе с интуиционизмом идею актуальной бесконечности (принимая лишь идею бесконечности потенциальной), противопоставляет абстракцию конструктивного объекта и точное понятие алгоритма. Полемизируя с интуиционизмом в этом вопросе, А. А. Марков говорит: «Мне представляются куда более существенными, с одной стороны, конструктивность теории, т. е. возможность ее построения без привлечения абстракции актуальной бесконечности, с другой — пригодность теории для обслуживания естествознания и техники»[11].

Следует отметить значение развития методов формализации, позволяющих более естественно воспроизводить в исчислениях логические стороны реальных рассуждений людей. Такова, в частности, техника исчислений естественного вывода, разработанная Г. Генценом и С. Яськовским в 1934—1935 годах. Впоследствии к ней присоединились такие приемы формализации логики мышления, которые отражают контроверзу истины и лжи в рассуждениях и диалогический аспект мышления («семантические и дедуктивные таблицы Бета»; логика спора П. Лоренцена; «логика ложных высказываний» и др.)[12].

Проблемы формализации логической составляющей науки — это наиболее общие, синтетические из проблем формализации. И в логических исследованиях эти проблемы обычно ставятся как проблемы логического моделирования: отображения в логических исчислениях определенных сторон содержательных рассуждений в науке. При этом характер учитываемых сторон содержательного мышления отображается в виде некоторых постулатов. Например, вводится постулат двузначности высказывания, основанный на гипотезе, согласно которой для описания рассуждений людей достаточно ограничиваться учетом лишь тех высказываний, относительно которых известно, что они истинны или ложны (или, по крайней мере, после проведения «дополнительного исследования» обязательно окажутся теми или другими). Другие подходы связаны с постулатами трехзначности суждений («истинно», «ложно», «неопределенно»), их много- либо бесконечнозначности и др. (дающими трехзначную, многозначную, вероятностную и иные логики).

В последнее время, однако, был предложен другой путь. Он состоит в том, чтобы выявлять логические средства, применяемые в различных науках, оперируя документами — текстами, научными публикациями в соответствующей науке. Возможности этого подхода к логике научного исследования и доказательства еще не выяснены, но бесспорна его связь с науковедческими исследованиями и прогностическими разработками. Представляется, что изучение логики научных публикаций может открыть новые стороны логической составляющей научного познания.

8. Автоматизация как практическая реализация формализации

Главное в формализации в наши дни — это автоматизация (или путь к автоматизации) интеллектуальных процессов. Именно в связи с автоматизацией такое значение приобретают научные и философские проблемы формализации. Кибернетика и ЭВМ влекут за собой новую постановку вопроса о научной строгости,— той самой дотошной скрупулезности в выкладках и выводах, которая может иногда столь раздражать человека, ум которого привык схватывать сразу «суть дела» и не желает поэтому «копаться в мелочах». Развитая в математической логике теория логической формализации фактически на несколько десятилетий предвосхитила реальную потребность в осуществлении таких процедур вывода, в которых в явной форме указан каждый шаг, причем шаг совершенно элементарный, «автоматический», такой, что для его осуществления требуется минимум «понимания». Как справедливо заметила С. А. Яновская, пока не было электронных вычислительных машин, не было и подлинной нужды строить логические выводы в точности по формальным правилам какого-нибудь логического исчисления.

Кибернетика и электроника радикально изменили это положение. Кибернетические машины — это инструменты практической реализации формализации. Их унинереальность есть реализация универсальности формализации как приема познания, применимого (в отведенных ему рамках) где угодно. Точнее говоря, электронная цифровая машина является реализацией того, что в теории алгоритмов называется универсальным алгоритмом, т. е. алгоритмом, способным выполнить любой алгоритмический процесс, представленный предписанием соответствующего типа. Не случайно, что впервые А. Тьюринг и Э. Пост уточнили понятие алгоритма в форме описания некоторых абстрактных вычислительных машин. Тьюринг сделал это в явной форме; так возникло название этого типа алгоритмов — «машины Тьюринга», у Поста же отсутствовал термин «машина» (Пост говорил о «финитных комбинаторных процессах»). «Указанные работы, — пишет В. А. Успенский, в серии статей представивший „финитные комбинаторные процессы” Поста как „машину Поста”, — замечательны тем, что в них за несколько лет до появления первых действующих экземпляров больших (так называемых „универсальных”) вычислительных машин (сперва даже не электронных, а электромеханических) были в абстрактной форме предвосхищены основные принципиальные черты таких машин»[13].

Таким образом, «алгоритмизация» и «машинизация», по существу, совпадающие понятия. Современный размах работ по формализации (в том числе алгоритмизации) решений различных задач, по изложению материала разных областей знания в виде формальных схематических описаний — все это является ответом на реальные потребности автоматизации интеллектуального труда, потребности, которые во второй половине нашего столетия ощущаются все более сильно.

Необходимо отметить, что реальные успехи формализации в различных областях знания, особенно в науках о жизни, в гуманитарных науках, непосредственно зависят от возможностей современных вычислительных машин взять на себя осуществление соответствующих алгоритмических процессов. На это ясно указывает опыт работы по созданию информационно-поисковых систем и применению ЭВМ в науке, экономике и т. д. Формализация норм права приобретает реальное значение тогда, когда дает возможность юристам машинными методами решать задачи, связанные с кодификацией права, помогая им, например, обнаруживать случаи несоответствий в нормах права, случаи фактического исключения некоторой нормы последующими законодательными актами, «лакуны» в законодательстве и т. п. Ясно, что успехи в применении кибернетики в праве прямо зависят от вычислительной мощности машин, от их возможности накапливать информацию и осуществлять требуемые алгоритмические процессы. Но это означает, что успехи формализации как метода научного познания, как средства переноса методов, выработанных в одних областях, в другие области, т. е. синтетическая функция формализации в науке, непосредственно связаны с прогрессом электронной цифровой техники и ее математического обеспечения.

Очевидно, что последние десятилетия XX в. будут временем важных качественных сдвигов в технике и логике автоматической переработки информации. Одни из них будут касаться развития непосредственно самой вычислительной техники, другие — способов ее использования. Отслужили свое машины «первого поколения» — ламповые; уходят в прошлое и машины «второго поколения» — полупроводниковые; современные машины — это машины, использующие так называемые интегральные схемы. Но и этим машинам — машинам «третьего поколения» —-грядет смена. Разрабатываются машины «четвертого поколения», возможности которых будут поистине фантастическими. Ведь это будут машины, быстродействие которых достигнет сотен миллионов операций в секунду (для сравнения; одна из лучших современных зарубежных серийно выпускаемых машин — ИБМ-360 — имеет быстродействие, в зависимости от модели, в 1,5 — 2,5 млн. операций в секунду). Имеются прогнозы о достижимости ими быстродействия в несколько миллиардов операций в секунду. Полагают, что соответствующим образом вырастут и объемы машинной памяти.

Эти перспективы следует иметь в виду, когда мы рассматриваем возможности формализации и алгоритмизации с точки зрения синтеза знания. Известно, что в применении к сложным («большим») системам, которые в изобилии встречаются в сферах экономики, планирования, в научных исследованиях, автоматизация интеллектуальных процессов имеет в качестве одного из основных препятствий ограниченные возможности машин. Ограничения касаются прежде всего их быстродействия и памяти (конечно, это не единственная трудность; другой трудностью является неразработанность приемов анализа, формализованного описания и моделирования больших систем). Прогресс ЭВМ в определенных пределах будет снимать эту ограниченность, способствуя успехам формализации в естествознании, в науках об обществе и человеке. Это откроет пути к созданию мощных информационных систем для отдельных областей знания. Соединенные друг с другом каналами связи и снабженные автоматическими трансляторами, позволяющими «подключать» друг к другу различные области знания, эти системы явятся мощным средством интеграции знания. Тогда и сотрудничесво между специалистами смежных (и даже отдаленных друг от друга) областей будет существенно облегчено. Информационные системы будут выполнять роль справочников-консультантов по данной области знания, работающих в режиме диалога между человеком и машиной. В случае необходимости система сможет запрашивать научную информацию от смежной системы, «консультироваться» с нею. При этом понятия привлекаемой области будут получать перевод на язык той области знаний, в которой работает ученый, сделавший запрос, будут способствовать расширению его научного кругозора.

Контуры такого рода «автоматических интеграторов» или «формализованных синтезаторов» знания ныне уже вырисовываются. Их черты проступают в создаваемых в настоящее время многомашинных информационно-вычислительных системах, снабженных многими каналами ввода и вывода информации, оконечные устройства которых могут быть вынесены за сотни километров от ЭВМ. Все шире распространяются системы коллективного пользования — системы, работающие в режиме так называемого «разделения времени».

Полагают, что со временем такие системы внесут существенные коррективы в саму манеру научной работы. Научные исследования станут интегрированными человеко-машинным поиском знаний.

Но надо отдавать себе отчет и в тех проблемах формализации, которые не представляется возможным решить, развивая лишь технику вычислений и создавая машинно-информационную «межведомственную» службу. Значительная (а быть может, главная) часть практических трудностей формализации, относящихся к большим системам, связана с проблемой программирования. Проблема эта заключается в том, что при нынешнем «стиле» программирования множество задач, источником которых являются «большие» системы, оказывается за пределами возможностей ЭВМ при любом их мыслимом «физическом» прогрессе. Это, в частности, объясняется необозримо большим перебором вариантов, который нередко требуют «обычные» алгоритмы решения этих задач.

Где же выход из этого положения? Он лежит на пути создания таких методов формализованно-машинного решения задач, который в определенном смысле являлся бы подражанием мыслительной работе человека и адаптационной тактике живых систем. Это путь, известный под названием эвристического программирования. Д. Поспелов следующим образом характеризует его суть. «При использовании ЭВМ для решения подобных задач (сложных, „недоступных” для „обычной” машинной реализации, коль скоро она базируется на переборе. — В. Б.) программист, не зная точного способа, приводящего к цели, вводит в ЭВМ способ решения, основанный на правдоподобных рассуждениях самого программиста (или на протоколировании решений задач — из некоторого класса задач — испытуемым, которого просят „думать вслух”. — В. Б.), или дает возможность машине проводить правдоподобные рассуждения (на основе введения в машину алгоритма формирования таких рассуждений, опирющегося на машинный и человеческий опыт решения задач данного класса)»[14].

Принципиально важно, что «эвристика» машины не альтернативна алгоритмическим методам; наоборот, она с необходимостью требует соответствующей формализации решения задач рассматриваемого класса. Однако формализация эта особого рода: суть ее в том, что она отказывается от одного ради достижения другого. Именно, она отказывается от решаемости каждой задачи из данного класса задач (некоторые конкретные задачи могут не решаться), но зато открывается возможность исключить сплошной перебор, заменив его неким целеустремленным движением по «дереву возможностей»; конечно, это движение определяется программой, заложенными в ней программистом или вырабатываемыми в ней самой подцелями. Только вступая на путь такого компромисса, можно надеяться подойти к формализации и автоматизации процедур, которые относятся к широчайшему классу сложных систем, составляющих области живого и социального, биосферу и мир техники. Только развивая «эвристические» методы на «алгоритмической базе», можно придать точный смысл понятиям, связанным с открытием нового. И только построив такую «строгую» «логику открытия» — в той мере, в какой она вообще возможна, — можно рассчитывать на существенный рост значимости процесса синтеза знания, особенно знания гуманитарного.

  1. Проблематика, которой посвящена данная статья, рассматривается также в кн.: Б. В. Бирюков, Е. С, Геллер. Кибернетика в гуманитарных науках (М., 1973); ряд аспектов формализации, важных для понимания ее функций в интеграции знания, освещен в этой книге более подробно (см. гл. I и II).
  2. Об этой относительности — в применении к проблемам точности, строгости в исследованиях культуры и искусства — см. Б. В. Бирюков, Е. С. Геллер. Культура, искусство и научная строгость. — «Точные методы в исследованиях культуры и искусства. Материалы к симпозиуму», часть первая. М., 1971.
  3. «Информационные материалы Научного совета по кибернети ке АН СССР». М, 1971.
  4. «Экономическая семиотика». М., 1971, стр. 100.
  5. См. С. А. Яновская. Исчисление. «Философская энциклопедия». М., 1962, стр. 387.
  6. И. В. Напалков и др. Информационные процессы в биологии. М., 1970, стр. 41.
  7. См.: Н. В. Позин. Моделирование нейронных структур. М., 1970.
  8. В. В. Налимов. Теория эксперимента. М., 1971, стр. 7—8.
  9. Там же, стр. 17.
  10. В предположении, правда, абстракции потенциальной осуществимости, т. е. в отвлечении от ограниченных возможностей бытия людей во времени, их деятельности в пространстве и их материальных ресурсов.
  11. А. А. Марков. Комментарии в книге: А. Рейтинг. Интуиционизм. Введение, перев. с англ., М., 1965, стр. 165.
  12. См.: Г. Генцен. Исследование логических выводов. — «Математическая теория логического вывода». М., 1967; Э. В. Бет. Метод семантических таблиц. — Там же.
  13. В. А. Успенский. Как работает машина Поста. «Математика в школе», 1967, № 1, стр. 31.
  14. Д. Поспелов. Эвристика. «Философская энциклопедия», т. 5. М., 1970, стр. 533.

Содержание

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *