מכל מלמדײ השכלתי (duchifat) wrote,
מכל מלמדײ השכלתי
duchifat

Categories:
Думаю еще вот какую телегу о различии информации и сложности. Информационное содержание (количество бит) - формальная мера текста, чисто внешняя характеристика, которая может быть подсчитана без понимания содержания текста.

Сложность (в духе колмогоpовской сложности - длина наименьшей программы для создания текста) - не вычислима. На этот счет есть теорема, похожая на классический парадокс "Берри" самореференции: «Наименьшее натуральное число, которое нельзя описать менее чем одиннадцатью словами».

Если бы существовала программа, ставящая в соответствие тексту его сложность, то можно было бы взять текст, про который известно, будто он достаточно сложный (скажем, минимальная длина программы - не менее тысячи знаков), переназвать его другим именем "текст, требующий не менее тысячи знаков для генерации", и тогда его можно генерировать гораздо более короткой программой.

На мой взгляд, различие между информацией и сложностью здесь в том, что для парадокса Берри нужно знать русский (или английский, или еще какой-то) язык. Tо есть определение сложности здесь зависит от знания внешнего мира получателем строки. В отличие от определения информационного содержания в битах, которое может и робот тупо подсчитать и которое не требует понимания текста.

Другими словами, понятие сложности подразумевает понимание смысла текста! Сложность существует не сама по себе абстрактно, а в контексте нашего знания о мире. Потому что сложность мы определяем как нашу минимальную по длине программу. A для создания такой программы мы можем использовать любое наше знание, в частности, переназывать куски текста используя известные нам названия для разных вещей.

На первый взгляд кажется, что здесь ошибка. Сжатие файла не требует понимания того, что в файле. Сжатие осуществляет машина. Но это (по-моему) - лукавый пример, здесь нет ошибки, а сжатие файла по алгоритму вовсе не оптимально и к невычислимости не ведет. Вы можете переназвать распространенный длинный файл одной буквой и добавить его к вашему алгоритму, но для этого нужно знать, что тот файл является распространенным (и, значит, для кого-то осмысленным), а это уже будет знание о мире.

Еще раз: парадокс Берри - парадокс самореференции. Его выспренная форма - фраза из двух слов: "indescribable feeling" ("неописуемое чувство"). Если чувство неописуемое, то как же удалось его описать двумя словами? Благодаря самореференции, по аналогии с парадоксом брадобрея или с фразой "это предложение ложно". Самореференция подразумавает доступ к некоторому бесконечному циклу "если да, то нет, а если нет, то да".

Мысль, к которой я веду, состоит вот в чем. Сложность, симметрия и информация - понятия связанные, но в то же время очень разные. Пустая доска содержит нyлевую информацию и имеет нулевую сложность. Доска, испещренная случайными символами, тоже имеет нулевую сложность, но содержит большую, хоть и бессмысленную информацию. Симметрия или паттерн зачастую yменьшают информационное содержание, но увеличивают сложность. Окончательного описания этих понятий нет, видимо, потому, что легко описывать план выражения, а сложность имеет отношение к плану содержания или к осмысленности информации.

Другими словами, сложность ускользает от описания, потому что она определяется смыслом, а смысл трансцендентен по отношению к значениям. Это же касается и симметрии, которую мы понимаем как простоту программы для описания системы объектов.
Tags: esoteric
Subscribe

  • (no subject)

    Лет восемь назад задавался в ru_psiholog вопросом, как расширить круг общения. Потом пять лет назад к нему возвращался. По мне так очень толковый…

  • (no subject)

    С точки зрения экспериментаторов (скажем, биологов), грантовая система имеет недостатки, но, как с демократией, "лучше ничего не придумали".…

  • (no subject)

    Эво-Люция, будучи знатным схоластом, порадовала новой психологической теорией. :) Она все конфликты (точнее, действия в конфликтах) распределила на…

  • Post a new comment

    Error

    Comments allowed for friends only

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 9 comments