Джеймс Хьюз. Нежизнеспособная автономия Разума.

Джеймс Хьюз. Нежизнеспособная автономия Разума.
Биоконсерваторы трансгуманисты Доктор Джеймс Хьюз (James Hughes), исполнительный директор Института Этики и Новых Технологий, биоэтик и социолог Колледжа Тринити (Trinity College) в Хартворде (Коннектикут, США), где он преподает политику социального обеспечения и занимает пост временного директора по науке и планированию. Он является автором книги Гражданин Киборг
(Citizen Cyborg) и работает над следующей книгой с предварительным названием Киборг Будда (Cyborg Buddha). Он сотрудничает в еженедельной программе на радио Changesurfer Radio. (Подписаться по J. Hughes RSS feed)

Нежизнеспособная автономия Разума

8.01.2010

Разум не подтверждает сам себя. Подобно всем поддерживающим Просвещение с позиции Разума трансгуманисты находят, что проект Разума разрушает все предрассудки, включая и утверждение о превосходство разума над глупостью. Следовательно, трансгуманисты, как и все поддерживающие Просвещение, должны защищать наши ценности с нерациональным a prioris. К сожалению, некоторые из нас продолжают защищать наивную концепцию чистой рациональности как самоцель.

Просвещение и Разум

Разум был центральной ценность Просвещения. Некоторые историки датируют начало Просвещения началом семнадцатого столетия - «Века Разума,» связанного с Декартом, Спинозой, Лейбницем, Гоббсом, Локком, и Беркли. Историк Доринда Аутрэм (Dorinda Outram) определила центральные требования Просвещения в связи с его обращением к Разуму:

Просвещение было стремлением к поведению человека, которое будет управляться рациональностью, а не верой, суеверием, или откровением; верой во власть человеческого разума изменить общество и освободить личность от ограничений обычаев или произвольных авторитетов; всеобщей поддержкой мировоззрения, все более и более утверждаемого наукой, а не религией или традицией. (Outram, 1995: 3)

Когда Кант написал свое эссе «Was ist Aufklärung» («Что такое Просвещение?») (1784) для Белиниче Монатсчрифт (Berlinische Monatschrift), он суммировал итоговый лозунга Просвещения как «sapere aude» («смеют знать»). Хотя и разделенные между эпистемологией и богословием, эти мыслители попытались основать философию на неоспоримых суждениях таких, как «cogito ergo sum» («мыслю - значит существую»).

Этот тщательный подрыв всего иррационального a prioris привел ко многим философским тупикам, однако, одновременно он дал начало пост-рационалистическим движениям. Посреди Просвещения Жан-Жак Руссо придавал значение примитивности и порицал вредные эффекты гипер-рационализма в этике (Glendon, 1999). В конце концов, как подчеркивал Хьюм, Просвещение разъединило любую связь между ЕСТЬ и ДОЛЖНЕН. Хотя Кант и прагматики попытались заново основать этику на том, что казалось эмпирическими наблюдениями о человеческой натуре, они так и не смогли ответить на следующий вопрос: почему этика должна быть основана на наблюдениях о человеческой натуре и не на чем-то еще, как древние религиозные догмы?

Романтизм восемнадцатого столетия в его утверждении ценности эстетического и эмоционального опыта был также и реакцией с целью перехитрить Разум. С восемнадцатого столетия вплоть до Второй Мировой Войны как левые, так и правые поворачивались против рационализма Просвещения. Слева, авторы Франкфуртской Школы раскритиковали инструментальную рациональность Просвещения за ее соучастие к авторитаризму (Adorno and Horkheimer, 2006; Marcuse, 1964; Saul, 1992; Gray, 1995). В некоторых случаях со стороны феминизма и анти-империализма нападали на патриархальное и Европо-центрированное построение Разума в Просвещении (Harding, 1982). Эти пост-рационалистические движения отклонили автономию и универсальность Разума, поскольку это вступило в конфликт с другими ценностями Просвещения такими, как уважение к правам людей и идея культурного многообразия. Тем временем богословы и философы Права возлагали ответственность за коммунизм на логику вывода утверждений утопий Просвещения.

В 20-ом столетии рационализм Просвещения также начал подвергать сомнению свои собственные главные принципы. Один пример основан на отказе Витгенштейна (Wittgenstein) от логического позитивизма. Логические позитивисты попытались не пустить в философское рассуждение любые термины и понятия без их эмпирического основания. Людвиг Витгенштейн, хотя и был ранее влиятельным сторонником этого требования, в конечном счете изменил свое мнение, когда начал занимался исследованиями фактической работы языка. Обратив эмпирическое исследование на процесс рассуждения и попытавшись очистить язык от всей нелогичности, Витгенштейн пришел к заключению о том, что цель была фантастической (Wittgenstein, 1953). Язык - серия словесных игр, в которых значения заданы только относительно других слов, а не относительно эмпирических фактов. Позитивистский проект строительства рациональной философии от неоспоримых эмпирических наблюдений невозможен.

Фуколт (Foucault), Деррида (Derrida) и постмодернисты также представляют коллапс Разума Просвещения. Хотя я полагаю, что постмодернистская «критика» - это главным образом тупик, их важные озарения верны: все требования к Разуму Просвещения расположены исторически и поддержаны властью и положением. Просвещение - только один исторический рассказ среди многих и нет никакой рациональной причины предпочесть рассказ Просвещения любому другому. В пользу Разума можно привести только доводы от метафизического и этического a prioris, даже если они - это только такие основные предположения как «хорошо бы быть в состоянии достигнуть намеченных целей».

Наиболее важно, что современная нейро-наука, также продукт разума Просвещения, теперь признает, что Разум, разъединенный с эмоциями, бессилен. В новых классических исследованиях Дамасио (1994) пациентов с повреждением головного мозга, которое разъединяло связи между эмоцией и принятием решения, жертвы были неспособны к принятию решений. Желание прекратить размышлять и принимать решение не самостоятельно рационально - это продукт характера. Разум был построен так, чтобы служить, но неспособна к производству своих собственных команд.

Трансгуманизм и Разум

Большинство трансгуманистов рассматривает Разум в Просвещения без осознания его авто-подрывной природы. Например, Принципы Экстропии Макса Море (Max More) шифруют «рациональное мышление» как одно из его семи предписаний:

Как гуманисты, трансгуманисты одобряют Разум, прогресс, и ценности, сосредоточенные на благополучии человека, а не на внешней религиозной власти. (More, 1998)

Часто Задаваемые Вопросы (FAQ) по трансгуманизму определяют его как последовательное применение Разума:

Интеллектуальное и культурное движение, которое подтверждает возможность и желательность фундаментального улучшения условий человеческого существования через применение Разума… Мы, возможно, не являемся совершенными, но мы можем сделать вещи лучше, способствуя рациональному мышлению, свободе, терпимости, демократии, и заботиться о нашем человеческом окружении… Так же, как мы используем рациональное мышление для улучшения условий человеческого существования и внешнего мира, мы можем точно также использовать эти средства для самосовершенствования, улучшения человеческого организма. (Humanity+, 2003)

Одним из центральных трансгуманистических блогов является Less Wrong (Менее Ложный), базируемый в Оксфордском университете под эгидой трансгуманистического философа Ника Бострома и посвященный «искусству очистки человеческой рациональности». В нем часто выступает Элизер Юдковский (Eliezer Yudkowsky) с авто-назидательными посланиями об искусственном интеллекте и познавательных заблуждениях человека, который также является соучредителем Института Сингулярности Искусственного интеллекта (Singularity Institute for Artificial Intelligence). Юдковский утверждал, что одна из его целей состоит в том, чтобы принудить «массовое движение обучать людей быть рационалистами черного пояса». Блог Less Wrong выдвигает на первый план определения Юдковского рациональности и ее важности как ее raison d’etre (смысла существования):

Биоконсерваторы трансгуманисты Что Мы Подразумеваем «Рациональностью«?
Мы подразумеваем:

  1. Эпистемологическая рациональность: вера, обновляемая на доказательствах так, чтобы систематически улучшать соответствие между вашей картой и территорией. Искусство получения верований, которые соответствуют действительности настолько близко насколько возможно. Это соответствие обычно называют «правдой» или «точностью», и мы счастливы назвать это этим.
  2. Инструментальная рациональность: достижение ваших целей. Не обязательно «ваши цели» в смысле того, чтобы быть эгоистичными целями или неразделенными целями: «ваши цели» означают что-то, о чем вы заботитесь. Искусство выбора действий, которые приводят будущее к результатам, оцениваемым вами выше как предпочтение. В LW мы иногда именуем это как «победа».

Но почему мы должны хотеть карту, которая соответствует территории? Где делают цели, которых рациональность помогает нам достигнуть, откуда они возникают? Что, если придание важности инструментальной рациональности фактически препятствие достижению вещей, которые, как утверждают романтики, мы ценим - таких, как красота, значение, удовлетворенность и страх? Юдковский идет насколько далеко в осознании проблемы, чтобы определить это как что-то, что просто не должно обсуждаться:

многие из нас расценит как противоречивую - по крайней мере - любую схему «рациональности», которая делает ее не нормативной. Например, если Вы говорите, «Рациональная вера - X, но истинная вера - Y», тогда Вы, вероятно, используете слово, «рациональное» в значении, которое означает что-то другое чем, что большинство из нас имеет в виду… Точно так же, если Вы говорите, «Рациональная мысль - сделать X, но правильной мыслью является сделать Y», тогда Вы почти наверняка используете одно из слов «рационально» или «правильно» в значении, с которым не будет соглашаться огромный часть читателей.

К счастью для Юдковского он передал полномочия своими читателям на описание всех философских дебатов об отношениях ЕСТЬ и ДОЛЖЕН. Однако, это оставит его трансгуманистических экспертов по рациональности беззащитным перед теми, кто придет с разного рода метафизикой, или когда они столкнутся со своими собственными темными сторонами души.

Одним из центральных философских дебатов между биоконсерваторами, трансгуманистами и «био-либералами» в широком смысле за прошлые два десятилетия было обсуждение законности эмоциональных (emotivist) аргументов таких, как у Леона Касса (Leon Kass, 1997), или «мудрости отвращения» Роуча и Кларка (Roache and Clarke, 2009). В 2003 биоконсерватор Ювэл Левин (Yuval Levin) писал в «Парадоксе Консервативной Биоэтики» («The Paradox of Conservative Bioethics») о трагической дилемме, с которой сталкиваются консерваторы, пытающиеся разрабатывать рациональные аргументы в защиту иррациональных табу. Как только либеральная демократия вынуждает консерватора оставить обращения к традиции или интуиции, демократические дебаты натурализуют новое.

Самый факт того, что в демократическую эпоху все должно быть выложено открыто, разрушает почтение, которое дает моральной интуиции ее власть. Глубокое моральное табу не может просто стать еще одним выбором среди многих, которые обсуждают его случай на рынке. Выход на рынок и разбор аргументов лишают ее уважаемой высоты, а ее высота - ключ к ее власти. Самым фактом того, что табу становится открытым для спора - его «за» и «против» оцениваются и подсчитываются - оно медленно прекращает свое существование… Консервативная биоэтика… вынуждена продолжиться, отрываясь от ее собственных корней, и начать нарушать некоторые из самых важных принципов, которые она стремится защитить.( Levin, 2003)

Трансгуманисты и Просвещение сталкиваются с противоположной дилеммой: как защитить рациональность способом, который избегает ее потенциала самоэрозии. Так же, как биоконсерваторы не могут утвердить свои табу и этический a prioris на городской площади, также, аналогично, нет никакой рациональной причины, почему общество должно отклонить табу и суеверие в пользу сверхчеловеческого будущего; оценочные суждения в пользу традиции, веры и табу, или в пользу прогресса, разума, и свободы также основаны на пред-рациональных посылках.

Трансгуманисты должны признать свою собственную историческую взвешенность и защитить свои нормативные и эпистемологические главные принципы как экзистенциальный выбор вместо эмпирических абсолютных понятий, так или иначе полученных разумом. Одним из примеров трансгуманиста, признающего пред-рациональные корни трансгуманистических ценностей, является активист анти-старения и автор эссе «Причины и методы для того, чтобы продвинуть нашу обязанность раздвинуть границы здоровой жизни неопределенно» («Reasons and methods for promoting our duty to extend healthy life indefinitely», IEET, 2008) Феллоу Обри де Грей (Fellow Aubrey de Grey). Де Грей непосредственно обращается к эмоциональному аргументу Леона Касса и переворачивает его с ног на голову. Что, спрашивает Де Грей, более противно, чем болезнь, старение и смерть? Те, кто обсуждают доводы анти-старения, заключает Де Грей, должны начать с этих общих интуитивных ощущений и предубеждений вместо того, чтобы начинать с аргументов с позиции разума, которые предполагают «объективность этики» и «ненадежности инстинктивных чувств.» Когда я впервые услышал аргумент Де Грея, я возражал, полагая, что он отдал слишком много эмоциональным аргументам. Однако, это было просто моим собственным страхом перед тем, чтобы проститься с моей этической точкой зрения, превозносящей рациональность.

Когда я воображаю Проект Разума, я думаю о строительстве дома в воздушном пространстве. Я смотрю на других зданиях, плавающих в воздушном пространстве, здания до-Просвещения, и это - ветхие хижины слепленные из грязи и случайных плавающих обломков, связанных бечевкой. Чтобы добраться от одной комнаты до другого в зданиях наших соседей, вы должны сползать в подвал и затем подняться через скат прачечной. Они сидят в затемненных комнатах с немногими окнами, и ни одно из них не показывает, что дом фактически не стоит на земле.

Биоконсерваторы трансгуманисты С чистой, скудной точностью Разума мы построили наши здания Кантианства, утилитаризма, либеральной демократии, и других чистых архитектурных чудес, структур Франка Ллойда Райта мысли с большим количеством окон, и даже стеклянных этажей. Однако, большинство из нас стойко игнорирует тот факт, что точно так же, как и наши соседи мы плаваем в воздушном пространстве. Осознание того, что мы все в воздушном пространстве и не знаем, как мы добрались наверх в первую очередь является страшным проклятием, и мы неоднократно видели, как люди дезертируют из наших зданий Просвещения со стеклянными этажами в здания наших соседей веры и догмы, где они не вынуждены смотреть вниз. Мы должны научиться храбрости, чтобы признать то, что мы получили эту вещь в воздухе через акт желания - что Разум является хорошим инструментом, но наши цели и моральные кодексы не основаны на Разуме - иначе мы уступим еще много людей иррациональным силам в будущем.

Ссылки

Adorno, T. W., and Max Horkheimer. 2002. Dialectic of Enlightenment. Trans. Edmund Jephcott. Stanford: Stanford UP.
Berlin, Isaiah. 1998. The Proper Study of Mankind: An Anthology of Essays. Farrar Straus Giroux.
Damasio, Antionio. 1994. Descartes’ Error: Emotion, Reason, and the Human Brain. Putnam.
De Grey, Aubrey D.N.J. 2008. Reasons and methods for promoting our duty to extend healthy life indefinitely. Journal of Evolution and Technology 18(1): 50-55.
Glendon, Mary Ann. 1999. Rousseau &the Revolt Against Reason. First Things 96 (October 1999): 42-47.
Gray, John. 1995. Enlightenment’s Wake: Politics and Culture at the Close of the Modern Age. Routledge.
Harding, Sandra. 1982. Is Gender a Variable in Conceptions of Rationality? A Survey of Issues. Dialectica 36: 226-241.
Humanity+. 2003. Transhumanist FAQ.
Kant, Immanuel. 1784. Was ist Aufklärung. Berlinische Monatschrift Dezember-Heft: 481-494.
Leon R. 1997. The wisdom of repugnance. The New Republic 216(22): 17-26.
Levin, Yuval. 2003. The Paradox of Conservative Bioethics. The New Atlantis 1(1): 53-65.
Marcuse, Herbert. 1964. One-dimensional man: Studies in the ideology of advanced industrial society. Boston: Beacon Press.
More, Max. 1998. The Extropian Principles v3. Extropy Institute.
Outram, Dorinda. 1995. The Enlightenment. Cambridge, UK: Cambridge University Press.
_____. 2005. The Enlightenment, 2nd ed. Cambridge, UK: Cambridge University Press.
Roache, Rebecca and Steve Clarke. 2009. Bioconservatism, Bioliberalism and Repugnance. Monash Bioethics Review 28(1):4.1-21.
Wittgenstein, Ludwig. 1953/2001. Philosophical Investigations. Blackwell Publishing.

Комментарии.

Я (В.Ш.) сохранил только наиболее интересные, на мой взгляд, комментарии к статье и опустил в них несущественные части.

Michael Anissimov • Сан Франциско • 8 января, 2010
... мой любимый способ видеть это в линзе «рациональной нелогичности» Брайана Кэплана (Bryan Caplan). Нелогичность экономически полезна, точно так же как многое другое, и люди часто требуют ее потому, что она может удовлетворять в психологическом отношении и/или давать путь наименьшего сопротивления. Однако, когда дело доходит до личного выбора жизни-или-смерти, который имеет значение для индивида, они могут быть удивительно рациональными потому, что они готов воздержаться от пользы нелогичности для принуждения к достаточной разумности.

Не верно, что Less Wrong препятствует дискуссии об отношениях между ЕСТЬ и ДОЛЖЕН. Фактически, такие обсуждения распространены там. Например, Роко Мийик (Roko Mijic) публиковал ссылку на длинный докторский тезис по этой теме. Определение рациональности Элизера просто говорит о том, что она синонимична наличию карты, которая отражает территорию - сам он указывает, что это должно сделать больше с ЕСТЬ, чем с ДОЛЖЕН. Это фактически является своего рода нечетким обвинением потому, что большая часть работ Юдковского, таких как его серия о Человеческих Ценностях на Less Wrong, вникает в тонкие детали вопроса о распутывании, ДОЛЖЕН от БЫТЬ.

mjgeddes • • 8 января, 2010
Хорошо я соглашаюсь, что ценности не могут быть основаны на Разуме, но это не означает, что мы плаваем в воздушном пространстве, ценности могли все еще быть основаны на сознательном опыте.

Интуиции человеческого сознания могут отличаться просто потому, что человеческое сознание довольно слабо и ненадежно. Транслюди с более сильными способностями к самоанализу (способность понимать себя лучше) вместе с новыми способностями сознания (например, способность «видеть», их собственные мысли непосредственно) могут прийти к согласию в намного большем. Таким образом, мог бы все еще быть некоторый вид «универсальной этики». То есть может быть способ сделать «интуицию» надежной, даже при том, что я соглашаюсь, что это не может быть основано на разуме.

Giulio Prisco • Большой Милан - Италия • 9 января, 2010
Я думаю, что у разума и эмоции есть общие познавательные корни в мозговом программном обеспечении и основной физике, которую мы скоро поймем в достаточных деталях, чтобы изменить точным и измеримым способом, или пере-проектированием в ИИ. Но я думаю также ИИ, чтобы функционировать, будет нуждаться в некоторых эмоциональных системах (не обязательно подобных нашей).
Я никогда не был большим поклонником Less Wrong и его компаньона Преодолевающего Уклон (Overcoming Bias), потому что я подвергаю сомнению априорную потребность преодолеть уклон. Я люблю свою собачку и не люблю тараканов, что является, конечно, уклоном. Но почему я должен хотеть преодолеть это? Я достаточно доволен любовью моей собачки.

jhughes • Хартфорд, CT • 9 января, 2010
@ Anissimov
Приятно слышать, что LW действительно обсуждает разъединение между ЕСТЬ и ДОЛЖЕН. У меня сложилось впечатление, что многие из участников, привлеченных к проекту, все еще борются за современную версию естественного права, за способ основать этику и ценности на разуме и эмпиризме. Если блог и занятие дружественным ИИ помогают раскрыть, что ценность и этика имеют не-рациональные корни, несмотря на сохранение уважения к власти и важности рациональности - то есть прививают против возврата в романтизм анти-Просвещения и иррационализм, это очень хорошо.

@ Marc
Я не думаю, что основание ценности в сознательном опыте продвинет нас намного дальше. Я замечаю, что у меня есть желания, и что я делю эти желания со многими другими, но это не говорит мне о том хороши они или плохи. Это проблема ЕСТЬ - ДОЛЖЕН.

@ Giulio
Да, я думаю, что одна из ошибок коллектива искусственного интеллекта была предположением о том, что познавательная сложность и рациональность привели бы к интеллектуальному, своевольному поведению. Именно поэтому я предположил - что бы там ни было - намеренная или случайная жизнь, где существо построенное «с нуля» со свойствами самосохранения и воспроизводства, намного более вероятно произведет ИИ, чем кодирование тщательно продуманных экспертных систем в коробках. Другими словами я думаю, что массив ИИ исследований - это попытка программировать пациентов Дамасио, рассуждающие машины без желаний и воли. Это, вероятно, является очень хорошей темой с точки зрения катастрофических рисков.

@iPlant
Куда мы идем отсюда? Для меня Буддистская попытка уклонения от ЕСТЬ - ДОЛЖЕН проблемы и строительства натуралистической ошибки всегда было большим удовлетворением: если мы исследуем наши умы, они хотят прекратить страдать; желайте обоснованного страдания; глубокое понимание ума распутывает прилипание и приносит удовлетворенность; когда мы прекращаем связывать нас в контр-производительных узлах эго, мы становимся лучшими людьми, которые хотят помочь другим. Я не утверждаю, что Буддистская система взглядов является единственным набором выводов, которые можно сделать из эмпирического исследования условий человеческого существования, а только то, что у этого есть большой feng shui, и люди, живущие в этом доме (по крайней мере достигшие высоких уровней), кажется, очень счастливы. Мы надеемся, что нейро-технологии помогут нам распутать больше процессов ума, таким образом, все мы сможем построить нашу собственную метафизику из основных принципов.

mjgeddes • • 9 января, 2010
Я не думаю, что основание ценности в сознательном опыте продвинет нас намного дальше. Я замечаю, что у меня есть желания, и что я делю эти желания со многими другими, но это не говорит мне о том хороши они или плохи. Это проблема ЕСТЬ — ДОЛЖЕН./I>

Соответствующие wiki к моим любимым утверждениям:
http://en.wikipedia.org/wiki/Ethical_intuitionism
http://en.wikipedia.org/wiki/Moral_sense_theory

«Этические интуитивизм утверждают, что только агент с нравственным чувством может заметить естественные свойства и через них обнаруживать моральные свойства ситуации. Без нравственного чувства Вы могли бы видеть и услышать все цвета и звуки, но моральные свойства останутся скрытыми, и не было бы в принципе никакого способа когда-либо обнаружить их (кроме, конечно, через доказательство от кого-то еще с нравственным чувством)».
«Нравственное чувство могло бы сообщить нам о существовании объективной этики, как зрение сообщает нам о существовании цветов».

Существуют различные типы сознательных чувств и желаний, один тип должен быть особым чувством хорошего/плохого (только Ваша совесть понимает этот смысл хорошего/плохого и может заставить Вас считать такие вопросы важными в первую очередь). Этот тип чувства судит Ваши другие желания.

jhughes • Хартфорд, CT • 9 января, 2010
@ Marc
Я не думаю, что есть какое-либо эмпирическое доказательство поддержки морального интуитивизма или морального реализма, который в основном является повторением естественного права / натуралистической ошибки. ИХМО существуют не самоочевидные моральные факты или ценности, никакой объективной этики. Были, конечно, мыслители Просвещения такие, как Джефферсон (Jefferson), который приводил этот аргумент, но я думаю, что скептицизм Хумейана (Humeian) в основном выиграл тот спор Просвещения.

Michael Anissimov • Сан Франциско • 9 января, 2010
У меня сложилось впечатление, что многие из участников, привлеченных к проекту, все еще борются за современную версию естественного права, за способ основать этику и ценности на разуме и эмпиризме.

Это довольно ошибочно и показывает любому главную ошибку либо в сообществе к пояснению наших взглядов, либо Вашу неспособность вывести их. Главная часть построения Less Wrong в том, как ценности сложны, часто их рассматривают как черный ящик, когда они не существуют, и как различные виды умов могли иметь полностью различные ценности и все еще работать очень хорошо. Это - один из всеобъемлющих пунктов всего этого. См. ссылку «сложность ценности» в Less Wrong Wiki:
http://wiki.lesswrong.com/wiki/Complexity_of_value

Вы могли бы также вспомнить, что тезис доктора философии Джошуа Грина (Joshua Greene) часто поднимается и на моем блоге и на Less Wrong. Важный аргумент этого тезиса - моральный реализм является неправильным.

Я действительно получаю здесь впечатление о том, что Вы берете классическую «рационалистическую» ошибку, как в Объективистской идее, где мы можем использовать рациональность для того, чтобы определить объективную этику, и полагаете, что текущее Less Wrong сообщество делает ту же самую ошибку даже при том, что я не могу вспомнить почту или случай, который когда-либо обосновывал бы такую претензию.

В основном сообщество LW ставит больший акцент на рациональности, чем кто-либо еще, и затем Вы, кажется, выражаете опасение о потенциальном сверх-фетишизме рациональности. Однако, одна из целей всего проекта LW состояла в том, чтобы изложить в деталях определение "рациональности" более подробно так, чтобы это не сохранило недостатки упрощения, которые дали ей плохую репутацию в прошлом. Один из доводов в пользу того, что определение Элизера рациональности работает хорошо - это, что оно не создает какого-либо определения моральных прав. Это соответствует идее ИИ/Экономики как сервисной функции, являющейся отличной от машины, которая осуществляет ее.

CygnusX1 • Самсара • 9 января, 2010
У трансгуманистов есть высокие ценности и идеалы? Я все еще не уверен, что это отражает реальную ситуацию, и в том, что это определяет различие от не_трансгуманиста: кто-то, который не соглашается с клонированием? Или кто-то, кто хмурится при преодолении болезни, слепоты или наличия роботизированной руки? Мое убеждение - разграничения между трансгуманистом, биоконсерватором и теми, кто мыслит критически могут определяться здесь слишком твердо. Я думаю, что большинство людей присоединилось бы к сверхчеловеческим идеалам, если бы им объяснили и они бы поняли их полностью.

mjgeddes • • 9 января, 2010
ИХМО существуют не самоочевидные моральные факты или ценности, никакой объективной этики. Были, конечно, мыслители Просвещения такие, как Джефферсон (Jefferson), который приводил этот аргумент, но я думаю, что скептицизм Хумейана (Humeian) в основном выиграл тот спор Просвещения.

Согласно Wikipedia, Хьюм (Hume) сегодня одинаково совместим как с моральным реализмом так и с моральным анти-реализмом:
http://en.wikipedia.org/wiki/David_Hume
Существенный момент Хьюма (о которым Вы и я кажемся договорились) указан в секции 'Этики':
«Нравы волнуют страсти и производят, или предотвращают действия. Сам разум совершенно бессилен в этой детали. Правила этики, поэтому и не являются заключениями нашего разума».
Но это фактически не противоречит моральному интуитивизму и теории нравственного чувства:
http://en.wikipedia.org/wiki/Moral_sense_theory
«Возможно самый видный защитник теории нравственного чувства в истории философии - Дэвид Хьюм (1711-1776). В то время как он обсуждает этику в 3-й книге своего «Трактата Человеческой натуры» («Treatise of Human Nature») (1739-40), самое зрелое положительное заключение Хьюма о нравственном чувстве найдено в «К вопросу относительно принципов нравов» («An Enquiry Concerning the Principles of Morals») (1751).

Относительно людей LW - они были только смущены. Я уверен, что Аниссимов даже не понимает учение своего собственного гуру, который заявил, что он не моральный анти-реалист. Вот пример того, что кажется самоочевидным моральным фактом:
Изменения в мозгу, которые улучшают способность к выводу моральных суждений, приветствуются.

Люди LW противоречат себе. Сначала они говорят, что соглашаются с Хьюмом в том, что моральные суждения не основаны на разуме, потом они говорят, что могут сделать ИИ с CEV (Coherent Extrapolated Volition - Последовательная Экстраполируемая Воля), который полностью основан на разуме (не имеет никакого сознания), но все же может выполнить рефлексивное принятие решения (решать какие изменения «хороши») в своей собственной системе оценки!

В реальности (согласно Хьюму) ИИ без сознания был бы полностью неспособен оценить правду или ошибочность вышеупомянутого заявление и намного меньше выполнить любое рефлексивное принятие решения!

Max More • США • 10 января, 2010
Джеймс, Вы пишите «Большинство трансгуманистов рассматривает Разум в Просвещения без осознания его авто-подрывной природы. Например, Принципы Экстропии Макса Море (Max More) шифруют «рациональное мышление» как одно из его семи предписаний». Это является довольно расстраивающим так, как я очень глубоко знаком с проблемами, которые Вы обсуждаете в этой статье. Принципы Экстропии не предназначены для того, чтобы быть и, естественно, не могут быть подлинно философским заявлением. К тому же, кажется, что Вы не сталкивались с этой моей частью: Панкритический Рационализм: К Метаконтексту Экстропии для Прогресса Мемов.
http://www.maxmore.com/pcr.htm
Если Вы прочитаете эту часть и поймете PCR, то Вы сможете увидеть почему я соглашаюсь с Вами о рациональности, не являющейся само-обосновываемой, и все же не соглашаюсь в том, что у нас существует проблема в выяснении, «как защитить рациональность способом, который избегает его потенциала для самоэрозии».

Carl Shulman • • 10 января, 2010
Отметьте, если бы существовало бы Естественное Право, которое могло бы волшебным образом переписать программное обеспечение ИИ (вопреки физике) в соответствии с ним, не было бы никакой Проблемы Дружественного ИИ. Привожу ссылку для почты Юдковского с забавной критикой морального реализма:
http://lesswrong.com/lw/sy/sorting_pebbles_into_correct_heaps/

jhughes • Хартфорд, CT • 10 января, 2010
@ Max
Я не улавливаю смысла Панкритического Рационализма. Он помогает ответить, например, почему нужно верить в принципы экстропии в противоположность некоторому другому выбору? Само-подрыв значений - это тенденция постоянно спрашивать почему. Принципы Экстропии в действительности всегда казались относительно свободными от любой главной принципиальной проблемы, которую они решили сказав: «они таковы - бери их или оставь их».

David Roden • Англия • 16 января, 2010
Некоторые анти-фундаменталисты утверждают о том, что раз нет никаких принципов само-основания, мы должны, в конечном счете, обратиться к исторически случайной эпистемологии, этическим методам или, как в случае Джеймса, к «экзистенциальному выбору». Есть много проблем с этим положением: оно обеспечивает сногсшибательную защиту почти любого сумасшествия анти-Просвещения, которое Вы могли бы захотеть вообразить на том основании, что «это - то, что люди делают где-то здесь». Однако, более проблематично предположение о том, что соответствующие непредвиденные обстоятельства - это не только исторические факты, но и (что еще более важно) метафизические обоснования (нашей формы жизни, нашей культуры, наших концептуальных схем, безотносительно...).

Этот подход овеществляет формы жизни, культуры или практики в значении, которое игнорирует проблемы семантической/переводной неопределенности (Quine/Davidson), структурной возможности повторного изучения в контексте, повторного переписывания любой практики или выбора без нового контекста (Derrida) или зависимости всей культуры от динамичного изменения материальных условий (Marx). Следовательно, в ответ на требование о том, что мы предрасположены этим или тем, мы должны настоять на проблеме развивающихся ситуаций и контекстов, их врожденного динамизма и открытости. Если это так, то это - несчастная надежда убавить дефицит рационального само-основания без иррационального само-основания.






















































Смотрите также:

Вам это будет интересно!

  1. Джеймс Джойс «Улисс»