Виктор Буторов: инстинкт понимания
Это не школа. Это образование
Предосторожность проста, а раскаяние многосложно.
И. Гёте

Вторая ошибка Президента ...

/ Просмотров: 70
Вторая ошибка Президента ...

Прогнозы - штука неблагодарная и по сути бесполезная.

Но, как заметил великий математик и философ Анри Пуанкаре, поиск истины занимает не потому, что приносит пользу, а потому, что доставляет удовольствие.

Вот подсознание и подкинуло мне эту мысль: не корысти ради, но исключительно в поисках эстетического наслаждения.

... Незадолго до поднятия планки пенсионного возраста на новую, недосягаемую для большинства высоту, Президент поделился с нами озабоченностью неуправляемым развитием искусственного интеллекта:

"Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы [курсив мой]. Тот, кто станет лидером в этой сфере, будет властелином мира ..."

Не имея иной корысти, кроме желания взбудоражить некоторые (уже взбудораженные) умы, я поделюсь своими взглядами на будущее, в котором роль искусственного интеллекта видится мне еще более парадоксальной, нежели роль ядерного оружия в недавнем прошлом.

Об особенностях мышления мудрецов и чиновников

  • Сократ показал: справедливость всегда соседствует с разумностью (Платон, диалог «Менон»).

  • Эксперименты современных социальных психологов показали: власть лишает людей врожденной добродетели, способности думать и поступать справедливо.

  • В тюремном эксперименте Стэнли Милгрем поставил вопрос: насколько много страданий готовы причинить обычные люди другим обычным людям, если это входит в их служебные обязанности? Результаты шокировали профессиональное сообщество, но были позже многократно подтверждены другими экспериментами


  • Еще до Сократа мудрецы знали: дойдя до предела вы меняете направление. Символически эта мысль выражена монадой Инь-Ян. Черная и белая рыбка преследуют друг дружку: когда одна становится слишком "толстой", другая ее "поедает". Так Вселенная сохраняет баланс и поддерживает Жизнь, в равной степени принадлежащую всем ...

  • Баланс справедливости, реализуемый разумностью

    Теперь вернемся к "трудно прогнозируемым угрозам" искусственного интеллекта.


    "Барабан" - оружие пролетариата ...

    Барабан это - метафора, продукт наблюдения за рабочими, ломающими красивые дорожки рядом с Измайловским парком, чтобы тут же вымостить их еще более красиво ... LOL Интерпретация чиновниками диалектического закона отрицания отрицания ...

    Закон отрицания отрицания в применении к работе чиновников

    "Имеет ли значение для этих работяг",- думал я,- "Кто ими руководит? Какая у него фамилия, национальность или даже партийная принадлежность? Им это по барабану. Они выживают, пытаются прокормить свои семьи, предчувствуя, что Указ об "увеличении средней продолжительности жизни" вряд ли их коснётся. Возможно, эти люди даже не смогут посчитать это "среднее", но суть улавливают, чувствуют нутром."

    Между прочим, Анри Пуанкаре подчеркивал исключительную роль интуиции в математике. Чувства, которое развивается исключительно от конкретного к абстрактному [А.Пуанкаре "Наука и метод"]. Но в российской школе математику изучают Эльконинско-Давыдовским методом "наоборот".
    Читайте ФГОСы, смотрите учебники по математике, где любая тема начинается с определений и формулировок, которые дети в принципе не способны понять, но могут ненадолго запомнить ...


    ... Искусственный интеллект - орудие справедливости

    Собственно, это присказка ...

    Без контекста невозможно правильно донести идею: она "прилипнет" к случайно оказавшейся в голове собеседника мысли и не будет воспринята верно .

    Вот и в головах многих школьников математические определения и доказательства рассыпаются на элементарные и несвязанные единой нитью понимания частицы "знаний".

    Некоторые последствия развития искусственного интеллекта

    Вернемся к угрозам.

  • Величайший шахматист Магнус Карлсен - просто ребенок в сравнении с компьютерной программой Stockfish.
  • AlphaGo разгромила лучших игроков в Го (сначала Фань Хуэя со счетом 5:0, а отом Ли Седоля со счетом 4:1). Го - игра значительно более сложная, чем шахматы: она требует поистине не машинной интуиции.
  • Та же история произошла с шашками, что совсем не удивительно.
  • Но воистину удивительно, что искусственный интеллект смог выиграть $2 000 000 у лучших игроков в покер: в игру, допускающую (и предполагающую) обман!

  • Ну и что с того? В чем угрозы?

  • Во-первых, и Stockfish и AlphaGo разработаны НЕ в России.
  • Во-вторых, правильный вопрос не "в чем опасность?", а "для кого?".

  • Никакой искусственный интеллект не сделает жизнь работяг, ломающих и восстанавливающих дорожки, хуже: для них ИИ не опасен.

  • ИИ потенциально опасен исключительно для "последователей Гегеля", чиновников, осваивающих бюджет, ими не заработанный.
  • ИИ опасен для избыточно распухших "рыбок", занимающих в монаде неоправданно много места. Потоки, проходящие через них, явно не уравновешены. С точки зрения Целого это неразумно, то есть несправедливо.

  • Вспоминаем Сократа: невозможно быть справедливым и глупым одновременно. Обратное также верно, хотя и менее очевидно.

    Ключевой вопрос: сможет ли супер умный искусственный интеллект восстановить справедливость?

    Самое страшное оружие 20 столетия - фактор сдерживания

    Созданное для разрушения, ядерное оружие парадоксальным образом превратилось в мощный фактор сдерживания и, вероятно, спасло немало жизней. Чиновничья глупость при дефиците добродетели неизбежно развязала бы еще не одну войну ....

    Почему этого не произошло?

    Последствия применения ядерного оружия оказались слишком неприемлемы для чиновников!

    Или вы считаете, что окажись у них реальные возможности пережить ядерную зиму - они бы замешкались хоть на секунду?..

    Но как же насчет искусственного интеллекта?

    "Ближний круг": расширяется не только Вселенная

    Изначально ядерным арсеналом обладали США и СССР. Были подписаны Договоры о ненападении и нераспространении: двум группировкам, имеющим общий интерес, не так сложно договориться. Но сегодня даже Северная Корея - ядерная держава... А мощный Китай?..

    Баланс изменился, новые игроки требуют своего места под солнцем ...

    ... Ядерным оружием нужно уметь управлять, уметь защищаться от бывших и новых "партнеров". То есть уметь обыгрывать соперника ... А кто сегодня это делает лучше других?...

    Если ИИ обыгрывает человека во все, во что только можно, то и козе должно быть понятно, в каком направлении произойдет дальнее развитие "сотрудничества".

    Однако, в отличие от ядерного оружия, для производства которого требуется мощная экономика, разработка компьютерных программ доступна несравненно более широкому кругу не только стран, но и компаний - как крупных, так и не очень.

    Что же с этим делать?

    Очевидным решением было бы "запрещать и не пущать", но здесь не все так просто ...

    Мирный атом и опасный ИИ

    Родившись как оружие, атом встал на мирную вахту. Атомная электроэнергетика - привычное словосочетание, уже даже для египтян. То, что может приносить прибыль - должно ее приносить: иначе останешься без штанов. Партнеры позаботятся.

    "Запрещать и не пущать" уже пробовали

    Была в истории СССР одна история ...

    Партийные функционеры, прикипевшие к теплым местам, почувствовали угрозу со стороны "комсомольцев" (так они называла молодых, энергичных, стремящихся проявить свои способности товарищей по партии). И "слуги народа" нанесли упреждающий удар ...

    ... На июньском пленуме ЦК КПСС 1967 г. была утверждена стратегия "развития" страны:

  • Заблокировано внедрение системы ОГАС, создававшей прозрачность в управлении экономикой и фантастически повышавшей ее эффективность. (ОГАС: Обще Государственная Автоматизированная Система)
  • Запрещены работы академика Глушкова в области развития компьютеров (СССР тогда реально опережала американцев).
  • Партийная бюрократия поняла мораль сказки о "Голом короле" ...

    Стало очевидно, что машинный ум сделает ненужной огромную армию партократов, высветит неэффективность их системы управления. Отберет власть ...

    Но: в те годы было возможно развивать ядерный и космический потенциалы и сдерживать развитие экономики - одновременно.

    "Но теперича не то, што давеча".

    Если ИИ обыгрывает людей в шахматы, то без его участия в разработке новых видов "сдерживающего оружия", не обойтись. Это очевидно.

    Но не это важно...

    Сегодня не то, что ракета - любой магазинчик, продающий трусы, обязан иметь связь с мировой паутиной.

    Для понимания роли искусственного интеллекта существенно то, что в обычных производствах, которыми владеют "успешные" жены и дети чиновников, без умных машин также не обойтись! И вот именно это кардинально меняет весь расклад!..

    И этот парадокс действительно изменит очень многое ...

    Джин вырвался на свободу и его уже не остановить

    "О радость! Я знал, я чувствовал заранее"
    Рондо Фарлафа (Руслан и Людмила)

    Но чиновники продолжают действовать в своем привычном амплуа ... "ИИ-национализация" началась в Китае, продолжилась в США. И вот на днях поступило предложение и в РФ назначить вице-премьера по искусственному интеллекту.

    Так что же с прогнозом?

    Я начал статью с цитат великих математиков, философов и мудрецов. Если их мудрость пережила столетия, то и в будущем эти принципы, скорее всего, останутся работоспособными.

    Большой ум и справедливость - две стороны одной медали. Я не знаю почему, но таково свойство Вселенной. На уровне метафоры можно заметить:

  • плевать в колодец из которого пьешь - невыгодно, а выгодно содержать его в чистоте и заботиться, чтобы не произошло истощение.
  • Невыгодно отрубать себе кусок побольше от ветки, на которой сидишь: в чем смысл, если упадут все?
  • Все мы в итоге пьем из одного колодца: подземные воды соединяют все источники пресной воды. Даже те, что находятся на Рублевке. Даже те, что в кооперативе "Озеро" ... ВСЕ.

    Чем быстрее и шире войдет в нашу жизнь искусственный интеллект, тем очевиднее это станет. Тем меньше останется в социальных системах паразитирующих, неэффективных элементов. Выражаясь математически, само их существование будет умножено на ноль.

    Так что - пусть "приватизируют" и пусть инвестируют.

    ... Когда-то буржуазия создала своего могильщика - пролетариат...

    Аналогия понятна?..

    Принципиально невозможно создать действительно мощный интеллектуальный алгоритм на основе нерациональных предпосылок. Следовательно, искусственный интеллект с необходимостью должен действовать в направлении установления бОльшей справедливости.

    Фантастические истории о "завоевании человечества машинами" исходят из непонимания Природы вещей.

    Но логически доказать это невозможно, можно только понять.

    Принципы на то и принципы, чтобы быть выше логики. Иначе какой был бы смысл в существовании философии и математики?.. А ведь существуют ...

    Так о чем же эта статья?

    Этот сайт об образовании. Так с какого перепугу я так долго пишу о столь абстрактных и далеких от школы вещах?

  • Во-первых, интересно.
  • Во-вторых ... Блин горелый! Родители массово продолжают желать, чтобы их дети стали экономистами, юристами, а теперь и чиновниками. Несмотря на массовые увольнения, "среднюю" зарплату и полное отсутствие перспектив ...


  • Страдания о математическом образовании

    Или вот: переживания о "математическом образовании"...

    Подумайте:

  • кому нужны такие математики, которых готовят "ведущие школы" и университеты?
  • Что умеют такие "математики"? Ладно, если некоторые способны взять табличный интеграл ... Это в век-то, когда компьютерные программы самообучаются за несколько часов до уровня Мастера игры в ГО???
  • Одумайтесь, пожалуйста!.. И проясните, пожалуйста, термины.

    Если кто-то сегодня действительно востребован, так это люди, умеющие очень хорошо думать. "Востребованы" - это не об искусственной занятости, скрытой безработице, и не о "средней" зарплате. Это о способностях, которые можно развить, изучая математику не-школьным методом, обладая которыми, можно быть полезным даже в условиях схлопывающейся экономики.

    А там, глядишь, и искусственный интеллект социальную справедливость восстановит. cheese

    Если Вам понравилось - напишите, что Вы думаете об этом ...

    Вы можете войти под своим логином или зарегистрироваться на сайте.