Познание эмпирическое и рациональное: Рациональное и эмпирическое познание — Студопедия

Проект Оскара Rational Cognitionin OSCARJohn L. Поллок, Кафедра философии университета АризоныТусон, Аризона

Rational Cognition Люди обладают замечательной способностью решать сложные проблемы, просто думая о них.

Люди — не единственные существа, способные решить проблему .

Проект ОСКАР • Первоначальной целью ИИ было создание искусственного рационального агента. • Я убежден, что одной из причин, почему прогресс в ИИ был медленнее, чем предполагалось, является то, что многие проблемы, которые должны быть решены, носят философский характер, а не простые инженерные проблемы. • В частности, одним из ограничений искусственного агента является то, что он делает выводы и принимает решения, которые мы считаем рациональными. Для этого нам нужна общая теория рациональности.• Значительную проницательность можно почерпнуть из приближения к рациональности из «позиции дизайна». • Целью проекта ОСКАР является построение общей теории рациональности (как эпистемической, так и практической) и ее реализация в системе ИИ. Эти лекции познакомят студента с общим подходом, используемым в проекте OSCAR.

Часть первая: знание того, что такое Rational • Если мы собираемся построить систему, которая ведет себя рационально, мы должны знать, в чем она состоит.Как мы это определяем? • В ИИ часто предполагается, что стандарты рациональности, которые применяются к отдельным когнитивным актам, просты и не вызывают проблем: • Байесовская теория вероятностей обеспечивает стандарты рациональности для убеждений; • классическая теория принятия решений обеспечивает стандарты рациональности для практических решений. • В таком случае может удивить, что большинство философов отвергают байесовскую эпистемологию, и я считаю, что есть веские причины для отказа от классической теории принятия решений.

Байесовская эпистемология • Байесовская эпистемология утверждает, что степень, в которой рациональный агент оправдан в вере во что-либо, может быть идентифицирована с субъективной вероятностью. Обновление убеждений обусловлено условием новых входов. • Существует огромная литература по этому вопросу. Некоторые из возражений против этого суммированы в «Поллок и Круз», «Современные теории познания», 2-е издание (Rowman and Littlefield, 1999). • Возможно, самое простое возражение против байесовской эпистемологии состоит в том, что она подразумевает, что агент всегда рационально верит в любую истину логики, потому что любая такая истина имеет вероятность 1.• Однако это противоречит здравому смыслу. Рассмотрим сложную тавтологию типа [P  (Q & ~ P)]  ~ Q. Если один из моих учеников по логике выберет это из воздуха и поверит в это без причины, мы не будем считать это рациональным. • Он должен верить этому только в том случае, если у него есть веские основания верить этому. Другими словами, рациональная вера требует причин, и это противоречит байесовской эпистемологии. дальнейшее обсуждение (из «Современных теорий познания», 2-е издание)

кнопка A 10 утилита 5 утилита кнопка B Классическая теория принятия решений • Классическая теория принятия решений позволяет нам выбирать действия по одному на основе их ожидаемых значений.• Это теоретические действия или планы, которые должны оцениваться теоретически, и отдельные действия становятся рациональными, если они предписаны рационально принятыми планами. (См. Поллок, Cognitive Carpentry, глава 5, MIT Press, 1995.) • Примите во внимание следующее: при нажатии последовательных четырех верхних кнопок будет получено 10 меток, а при нажатии кнопки B — 5 меток. Надо нажать четыре верхние кнопки.

кнопка A 10 кнопок 5 кнопок B Классическая теория принятия решений • Но теория принятия решений заставляет нас выбирать кнопки по одной за раз.• Ожидаемая полезность нажатия кнопки B составляет 5 единиц. • Ожидаемая полезность нажатия кнопки A в 10 раз превышает вероятность того, что вы нажмете остальные кнопки последовательно. • Если человек еще не решил проблему решения, последняя вероятность фактически равна 0. • Таким образом, теория принятия решений говорит нам нажимать кнопку B, а не кнопку A, что является неправильным ответом. • Вместо этого мы должны принять план нажатия четырех верхних кнопок и кнопку A, потому что это предусмотрено планом. дальнейшее обсуждение (из «Планов и решений»)

Классическая теория решений • Кроме того, ниже я буду утверждать, что мы не можем просто взять классическую теорию принятия решений без изменений и применить ее к планам.План автоматически не превосходит конкурента только потому, что он имеет более высокую ожидаемую стоимость.

Процессуальная рациональность • Познание агента должно быть рациональным по человеческим стандартам. Познание — это процесс, поэтому он порождает принципиально процедурную концепцию рациональности. • Многие исследователи ИИ последовали примеру Герберта Саймона, отвергнув такой процедурный отчет, вместо этого одобрив удовлетворительный отчет, основанный на достижении цели, но это неприменимо к антропоморфным агентам.

Процессуальная рациональность • Мы не обязательно хотим, чтобы антропоморфный агент точно моделировал человеческое познание. • Мы хотим, чтобы он делал рациональные выводы и принимал рациональные решения, но это не обязательно должно происходить точно так же, как это делают люди. Как мы можем понять это? • Пример: • Modus ponens: из P и (P -> Q), вывод Q. (встроенный) • Modus tollens: из ~ Q и (P -> Q), вывод ~ P. (не встроено) • Стюарт Рассел (вслед за Гербертом Саймоном) предполагает, что соответствующая концепция рациональности должна применяться только к конечным результатам познания, а не к курсу познания.

Процессуальная рациональность • Заключение или решение являются обоснованными (относительно системы познания), если они одобрены «в пределе». • т. Е. Существует некоторая стадия познания, на которой оно становится одобренным и за пределами которого одобрение никогда не отменяется. • Нам может потребоваться, чтобы архитектура агента имела ту же теорию ордера, что и рациональное человеческое познание. • Это для оценки его поведения в пределе. • Агент, который делал выводы и принимал решения случайным образом в течение первых десяти миллионов лет, а затем снова начал рассуждать, точно так же, как у людей будет та же теория ордера, но это не будет хорошим агентским замыслом.• Это проблема для любой оценки агентов с точки зрения результатов познания в пределе.

Процессуальная рациональность • Похоже, лучшее, что мы можем сделать, это потребовать, чтобы рассуждения агента никогда не отклонялись от хода человеческих рассуждений. • Если люди сделают вывод за определенное количество шагов, агент сделает это за «сравнимое» количество шагов, и если человек отзовет заключение за определенное количество дальнейших шагов, агент сделает это за «сопоставимое» количество дальнейших шагов.Это по общему признанию расплывчато. • Мы можем потребовать, чтобы разница в худшем случае была полиномиальной по количеству шагов или что-то в этом роде. Однако это предложение не касается случая агента, который случайным образом делает выводы в течение первых десяти миллионов лет. • Я не собираюсь одобрять решение этой проблемы. Я просто хочу обратить на это внимание и убедить, что, каким бы ни было решение, кажется разумным думать, что тип архитектуры, которую я собираюсь описать, удовлетворяет необходимым ограничениям.

Как мы узнаем, что такое Rational? • Философы традиционно исследовали рациональность, опираясь на свою «философскую интуицию». • Пример: принцип Никода предлагает, чтобы наборы предпосылок формы «(Ac & Bc)» подтверждали обобщение «Все А являются В» для любого выбора А и В. • Было время, когда практически все эпистемологи поддерживали Принцип Никода как раз в такой форме. • Гудман [1955] поразил философский мир, создав пример, который был взят для окончательного опровержения этой версии принципа Никода.• x является грубым, если и только если (1) x имеет зеленый цвет и впервые исследован до 2000 года, или (2) x является синим и не проверен первым до 2000 года. • Если мы сейчас (до 2000 года) исследуйте много изумрудов и найдите, что они все зеленые, что дает нам индуктивную причину думать, что все изумруды зеленые. Наша выборка зеленых изумрудов также является выборкой изумрудов лилового, так что по принципу Никода наши наблюдения также дадут нам повод думать, что все изумруды являются черными.Эти два заключения вместе повлекут за собой абсурдное последствие того, что не будет никаких изумрудов, впервые исследованных после 2000 года.

Рациональные нормы человека • Опровержение Гудманом принципа Никода без ограничений является окончательным, потому что каждый, кто смотрит на пример, соглашается что было бы неразумно принимать выводы, сделанные в соответствии с принципом Никода. • Это иллюстрирует использование мысленных экспериментов при исследовании рациональности.• Эксперименты с мыслью предоставляют данные о том, что является рациональным или иррациональным в конкретных контекстах, и затем философ создает общую теорию, которая предназначена для сбора этих данных. • Теория состоит из ряда рациональных норм, соблюдение которых должно составлять рациональность.

Процессуальные знания • Мысленные эксперименты и вытекающие из них теории рациональности основаны на «философских интуициях», но что это такое? • Мое предложение заключается в том, что они аналогичны «лингвистической интуиции», используемой лингвистами при изучении языка.• Различие компетентности / производительности (Chomsky) • Теории производительности описывают реальную человеческую производительность • Теории компетентности описывают, как мы делаем это, когда мы делаем это так, как мы «знаем, как это делать» (процедурные знания) • Процедурные знания несут с собой способность выявлять отклонения от норм, предписывающих наши процессуальные знания. • Точно так же мы знаем, как познавать. Наши философские интуиции являются лишь примером более общей способности выявлять отклонения от норм, предписывающих наше процедурное знание — в данном случае наше процедурное знание, регулирующее способ познания.

Рациональность человека • Лучший способ понять стандартную философскую методологию исследования рациональности — это попытка выявить процессуальные нормы, составляющие теорию компетентности человеческого познания. • Я буду называть эту концепцию рациональности человеческой рациональностью. • Теории человеческой рациональности конкретно касаются человеческого познания. • Они описывают условные психологические особенности человеческой когнитивной архитектуры. Однако, если задуматься, это кажется довольно узким взглядом на рациональность.• Некоторые особенности человеческой рациональности могут быть в значительной степени мотивированы общими ограничениями, налагаемыми проблемой проектирования, для решения которой предназначена рациональность, но другие особенности могут быть весьма своеобразными, отражая довольно произвольные варианты дизайна. • Пример: modus tollens: из ~ Q и (P  Q) сделать вывод ~ P. Психологи говорят нам, что это не встроенная норма дедуктивного мышления в людях, но, несомненно, не было бы ничего плохого в том, чтобы встроить его в искусственный агент. • Агент, чье процедурное знание о том, как познать, отличается от человеческого, автоматически не будет иррациональным.• Это, кажется, указывает на необходимость более общей «общей» концепции рациональности.

Стойка проектирования • Мы можем рассматривать рациональность как решение определенных проблем проектирования. • Я буду утверждать ниже, что достаточно общих черт этих проблем достаточно для формирования большей части структуры рациональности. • Общие логические ограничения и ограничения выполнимости имеют следствие того, что зачастую существует только один очевидный способ решения определенных задач проектирования, и именно такой путь придерживается человеческая рациональность.• Большая часть общей структуры человеческой рациональности может быть объяснена таким образом. • Тем не менее, детали дизайна человеческого познания не так похожи. • Часто бывает так, что детали могут быть заполнены несколькими различными способами, и человеческое познание представляет собой лишь один из способов сделать это. • Могут быть и другие рациональные агенты, как естественные, так и искусственные, когнитивные архитектуры которых представляют несколько иные решения одних и тех же проблем проектирования.

Doxastic-Conative Loop • Я предлагаю понимать универсальную рациональность как присоединение к любому агенту, который представляет собой решение проблемы проектирования, которая также генерирует когнитивную архитектуру человека. • Однако, если мы хотим объяснить рациональность таким образом, мы должны сказать, для чего предназначена рациональная задача проектирования. • Я начну с изучения одной возможности, а затем обобщу учетную запись.

Doxastic-Conative Loop • Упрощенное представление об эволюции заключается в том, что эволюционные давления выбирают для черт, которые повышают выживаемость существа.• Таким образом, мы можем считать, что проблема дизайна рациональности заключается в создании агента, который может выжить во враждебном мире благодаря своим когнитивным возможностям. • Это предполагает предварительное понимание того, что такое познание и как оно может способствовать выживаемости. • Я считаю характерным признаком рационального познания то, что когнитивный агент имеет доксастические состояния («убеждения», в широком понимании), отражающие состояние его среды, и конативные состояния, оценивающие окружающую среду в том виде, в котором она представлена ​​убеждениями агента.• Он также оснащен когнитивными механизмами, посредством которых он использует свои убеждения и суждения для выбора действий, направленных на то, чтобы сделать мир более по душе.

Схематическое Rational Cognition убеждения, конативные диспозиции, окружение любит и не любит активность Доксастически-относительный цикл

Обобщенная рациональность • Давайте определим когнитивный агент, который реализует доксастически-конативный цикл. • Я полагаю, что рациональность относится к когнитивным агентам.• Мы можем оценить когнитивную архитектуру с точки зрения того, насколько хорошо она достигает своей цели проектирования. • Тем не менее, возможны разные цели дизайна. • Естественная цель проектирования — создать агента, способного использовать свои когнитивные возможности, чтобы выжить в неконкурентной среде. Это мотивировано соображениями эволюции и естественного отбора, но оно основано на упрощенном взгляде на эволюцию. Для биологических агентов более естественной целью дизайна является распространение генома. • Для искусственных агентов у нас может быть много разных целей дизайна.• Например, при разработке робота-воина Камакадзе целью является не выживание и не распространение генома. Это говорит о том, что нет никакой привилегированной цели проектирования, с точки зрения которой оценивать когнитивные архитектуры.

Общая рациональность • Однако поразительно, что для агентов, которые реализуют константный доксастический цикл, одни и те же когнитивные функции, по-видимому, способствуют достижению широкого диапазона целей проектирования. • Например, для многих различных вариантов цели проектирования агент, работающий в сложной и неэффективной среде и намеренный достигнуть своей цели проектирования путем реализации константного доксастического цикла, вероятно, будет работать лучше, если у него будет довольно сложная система ментального представления, способен на дедуктивные и ошибочные рассуждения, и может участвовать в долгосрочном планировании.• Это в равной степени относится к биологическим агентам и воинам-роботам Камаказе. • Это говорит о том, что существует относительно нейтральная точка зрения, с которой мы можем оценивать когнитивные архитектуры, и это, в свою очередь, создает общую концепцию рациональности.

Для дальнейшего обсуждения этого материала, нажмите здесь, смотрите главу Rational Cognition, книга в процессе подготовки.