Последствия новых технологий непредсказуемы?

Участники дискуссии:

Анатолий Игоревич Трушинский: эксперт медиагруппы РЕМА / RhEMA, исследователь научных стратегий и методов решения научных задач, автор доклада Жизненные и научные стратегии Льва Ландау.

Алексей Олегович Гринбаум: российско-французский физик и философ, участник проекта Европейской Комиссии RRI-Practice.

Павел Семенович (Соломонович) Юшкевич: отечественный математик (по образованию). Занимался переводами философской литературы и философской публицистикой.

Клод Адриан Гельвеций (фр. Claude Adrien Helvétius): французский философ-просветитель, материалист утилитарного направления, литератор.

А.И. Трушинский: Умные люди — тоже делают ошибки. Ученые даже мирового уровня не всегда могут отличить факты и мнения; это может затормозить развитие научных направлений. Чтобы Вам не повторять этих ошибок, давайте с Вами разберем тезисы Спикера:

Умные люди тоже делают ошибки

А.О. Гринбаум: Есть другая этическая система, другая этическая теория, так называемый (англ.) consequentialism — консеквенциализм, по-русски он плохо звучит. Это ситуация, когда этическое суждение о том, хорошо или плохо то или иное действие основывается на его последствиях, а не на том, как оно соответствует каким-то правилам.

Консеквенциализм применим в реальности, в научной жизни: очень часто мы судим о том, хорошо или плохо то или иное изобретение в тот момент, когда с нами что-нибудь случается. То есть мы судим по последствиям, а не изначально, не в соответствии с принципами. Однако у этой доктрины есть свои проблемы, связанные с precautionary principle (принципом превентивности — прим. А.И. Трушинского), о котором я уже упоминал вчера. Сегодня я его сформулирую, и Вы увидите, что он требует невозможного. Это чисто политическое, ни в коем случае не юридическое утверждение, именно потому, что оно требует невозможного.

Дальше будет много философии, но пока еще чуть-чуть социологии.

Источник: Скриншот из видео / Уродливый хорёк: исследования двойного назначения в биотехнологии. Алексей Гринбаум / https://youtu.be/TqlKrehgDjw
Источник: Скриншот из видео / Уродливый хорёк: исследования двойного назначения в биотехнологии. Алексей Гринбаум / https://youtu.be/TqlKrehgDjw

«The absence of certainties, given the current state of scientific and technological knowledge, must not delay the adoption of effective and proportionate preventive measures aimed at forestalling a risk of grave and irreversible damage to the environment at an economically acceptable cost.»

Источник: EU Maastricht Treaty; данная цитата по ссылке не найдена — прим. А.И. Трушинского

«Неопределенность на текущем уровне науки и техники не должна быть барьером для эффективных и пропорциональных мер, направленных на снижение риска серьезного и необратимого ущерба окружающей среде, при экономически приемлемых затратах.» Перевод А.И. Трушинского

Похожий текст, это текст из европейского документа, из Маастрихтского договора (положил начало Евросоюзу в 1992 году — прим. А.И. Трушинского). Похожий текст сейчас является частью французской Конституции. А есть страны, например Австрия, которые отказываются от подобных текстов. Потому, что в австрийской Конституции есть принцип свободы научного исследования. Они считают, что вот этот принцип противоречит свободе научного исследования.

Вы видите, что здесь невозможного? «Effective and proportionate» — что значит пропорциональное? Пропорциональное чему, если мы находимся в ситуации неопределенности и незнания? Чему они могут быть пропорциональны, эти меры?

Но и если на то пошло, вернемся к философии. Можно выделить — этого нет у Арендт— можно выделить 5 разных типов неопределенности, 5 типов риска.

Сейчас мы о них поговорим, но прежде всего немножко Арендт.

Вчера я Вам, кажется, показал французскую обложку её книги, сегодня исправляюсь, показываю вам английскую обложку книги The Human ConditionАрендт ещё в 1958 году говорит, что неопределенность, а не хрупкость человека; неопределенность стала основной чертой человеческого существования в мире.

«Processes are started whose outcome is unpredictable, so that… — Запущены процессы, результат которых непредсказуем, поэтому неопределенность, а не хрупкость человеческого бытия есть основная характеристика, основная черта этого бытия.»

Современный мир полон неопределенности

А.И. Трушинский: Обратите внимание, как то, что сказал Спикер, пересекается с наблюдениями Павла Семеновича Юшкевича за философами:

Рисунок 1 / Эскиз — А.И. Трушинский / Оформление — И.Н. Пантин
Рисунок 1 / Эскиз — А.И. Трушинский / Оформление — И.Н. Пантин

«Здесь совершается второе логическое грехопадение философии. Объединив сперва все явления мира в одно неопределённо-собирательное «Всё», философы начинают затем толковать это «Всё» в терминах некоторого частного образа, одного из элементов «Всего» (в терминах «течения», «единого», «воли», «идеи» и т. д.).

Оба эти момента даны одновременно в том нераздельном и неразрывном переживании, каким является философское видение мира.»

Юшкевич П.С., О сущности философии (К психологии философского миросозерцания), в Сб.: На переломе. Философские дискуссии 20-х годов: философия и мировоззрение / Сост.П.В. Алексеев, М., «Политиздат», 1990 г., с. 156-158. Посмотреть мысль полностью и сравнить с другими авторами

Сводить все проблемы и явления к одному понятию — ошибка

А.О. Гринбаум: Так вот действительно неопределенность, центральная пожалуй черта в анализе современной технологической ситуации. Кто-нибудь знает, как по-русски называется precautionary principle?(По русски это называется принципом превентивности или предосторожности — прим. А.И. Трушинского). Не могу его больше по-английски произносить… Нет, <аудитории> неизвестно, как оно называется на русском.

Источник: Скриншот из видео / Уродливый хорёк: исследования двойного назначения в биотехнологии. Алексей Гринбаум / https://youtu.be/TqlKrehgDjw
Источник: Скриншот из видео / Уродливый хорёк: исследования двойного назначения в биотехнологии. Алексей Гринбаум / https://youtu.be/TqlKrehgDjw

Так вот, есть разные типы риска. Риск по определению — это когда Вы знаете амплитуду возможных плохих последствий и их вероятность: и то, и другое; и размер, и вероятность. Как только Вы не знаете размеры последствий, Вы уже не в плане риска оцениваете, а в плане других типов неопределенности. Ну и не говоря о таких ситуациях, когда, скажем, как в примере с климатом, когда наблюдатель, оценивающий риск, сам является частью системы. И наша оценка риска влияет на те действия, которые мы в соответствии с этой оценкой риска производим или не производим, и, соответственно, вследствие этих действий меняется сама система, частью которой наблюдатель является.

Понятно, что в этой ситуации мы уже всяко не можем говорить объективно о вероятностях и амплитудах риска, отстранившись от системы.

Вездесущая неопределенность не дает
анализировать последствия новых технологий

Анатолий Игоревич Трушинский / скриншот видео Пантин И.Н.
Анатолий Игоревич Трушинский / скриншот видео Пантин И.Н.

А.И. Трушинский: Ничего не заметили? А Клод Гельвеций заметил, еще в XVIII веке:

«…если философ не обращается к опыту, если ему не хватает мужества остановиться там, где ему недостаёт наблюдения, то он воображает, что строит систему, а в действительности только сочиняет сказки.

Такой философ вынужден подменять гипотезами недостающий опыт и заполнять догадками необъятные промежутки, оставляемые нынешним, а ещё более прошлым невежеством между всеми частями его системы. Что касается гипотез, то они почти все одного и того же рода.»

Клод Гельвеций, О Человеке / Сочинения в 2-х томах, Том 2, «Мысль», 1974 г., с. 138-140.

Посмотреть мысль полностью и сравнить с другими авторами

Рисунок 2 / Эскиз — А.И. Трушинский / Оформление — И.Н. Пантин
Рисунок 2 / Эскиз — А.И. Трушинский / Оформление — И.Н. Пантин

Для изучения технологических рисков нужно рассмотреть примеры технологий прошлого, так как у них были последствия и они известны.
А потом уже делать выводы о тотальной неопределенности всего и вся — прим. А.И. Трушинского

Философские аргументы нуждаются в опытных данных

Источник: Скриншот из видео / Уродливый хорёк: исследования двойного назначения в биотехнологии. Алексей Гринбаум / https://youtu.be/TqlKrehgDjw
Источник: Скриншот из видео / Уродливый хорёк: исследования двойного назначения в биотехнологии. Алексей Гринбаум / https://youtu.be/TqlKrehgDjw

А.О. Гринбаум: Так вот эти разные пять типов риска, показывают, что консеквенциализм также не дает удовлетворительного анализа ответственности, основываясь на последствиях наших действий. Как же быть?

Итог: Невозможно делать выбор, исходя из сравнения
последствий возможных вариантов,
ведь они непредсказуемы (?)

Анатолий Игоревич Трушинский / скриншот видео Пантин И.Н.
Анатолий Игоревич Трушинский / скриншот видео Пантин И.Н.

А.И. Трушинский: Чтобы не повторять ошибок Спикера, вспомните:

1. В чем Спикер видит запрет делать прогноз последствий для каждой новой технологии?

2. Что нужно закладывать в основу формулировки научного запрета?

3. Как связаны свойства самой технологии и её типовые последствия?

Оставляйте свои развернутые ответы в поле выше, в комментариях на Дзен или под видео на YouTube

Напоминаем, что Ваш навык критического разбора и анализа информации растёт только от письменного прорешивания задач. Оставляйте Ваши комментарии и принимайте участие в обсуждении под этим постом и в других социальных сетях

Вы можете прислать видео Экспертов, которые делают, на Ваш взгляд, ошибки. Или с которыми не получается разобраться. Подпишитесь, чтобы не пропустить новые видео в социальных сетях ВконтактеЯндексДзенТелеграм и на видеоканалы Rutube и YouTube в один клик.

Используемые ссылки:

Дополнительные материалы:

Использованные материалы:

источник видео – Уродливый хорёк: исследования двойного назначения в биотехнологии. Алексей Гринбаум1:06:52 — 1:11:26 / Европейский университет в Санкт-Петербурге

фото – Клод Гельвеций/ The History of Economic Thought

Прокрутить вверх