Представление знаний и рассуждения - Википедия - Knowledge representation and reasoning

Часть серии по
Искусственный интеллект

Представление знаний и рассуждения (KR², KR&R) - поле искусственный интеллект (AI), предназначенный для представления информации о мире в форме, которую компьютерная система может использовать для решения сложных задач, таких как диагностика заболевания или же диалог на естественном языке. Представление знаний включает в себя выводы из психологии[1] о том, как люди решают проблемы и представляют знания для проектирования формализмы это упростит проектирование и построение сложных систем. Представление знаний и рассуждения также включают выводы логика автоматизировать различные виды рассуждение, например, применение правил или отношения наборы и подмножества.

Примеры формализмов представления знаний включают семантические сети, системная архитектура, кадры, правила и онтологии. Примеры автоматическое рассуждение двигатели включают механизмы вывода, средства доказательства теорем, и классификаторы.

История

Самые ранние работы по компьютеризированному представлению знаний были сосредоточены на решениях общих проблем, таких как Решение общих проблем (GPS) система, разработанная Аллен Ньюэлл и Герберт А. Саймон в 1959 году. Эти системы имели структуры данных для планирования и декомпозиции. Система должна начинаться с цели. Затем он разложит эту цель на подцели и затем приступит к построению стратегий, которые могут достичь каждой подцели.

В эти ранние дни ИИ общие алгоритмы поиска, такие как А * также были разработаны. Однако аморфные определения проблем для таких систем, как GPS, означали, что они работают только для очень ограниченных игрушечных областей (например, "блокирует мир "). Чтобы решить проблемы, не связанные с игрушками, исследователи ИИ, такие как Эд Фейгенбаум и Фредерик Хейс-Рот понял, что необходимо сосредоточить системы на более сложных проблемах.

Эти усилия привели к когнитивная революция в психологии и фазе ИИ, ориентированной на представление знаний, что привело к экспертные системы в 1970-х и 80-х, производственные системы, языки фреймов и т. д. Вместо того, чтобы решать общие проблемы, ИИ переключил свое внимание на экспертные системы, которые могли соответствовать компетенции человека по конкретной задаче, например, медицинской диагностике.

Экспертные системы дали нам терминологию, которая все еще используется сегодня, когда системы ИИ разделены на базу знаний с фактами о мире и правилах и механизм вывода, который применяет правила к база знаний чтобы ответить на вопросы и решить проблемы. В этих ранних системах база знаний имела тенденцию быть довольно плоской структурой, по сути, утверждениями о значениях переменных, используемых правилами.[2]

Помимо экспертных систем, другие исследователи разработали концепцию фреймовые языки в середине 1980-х гг. Фрейм похож на класс объектов: это абстрактное описание категории, описывающей вещи в мире, проблемы и возможные решения. Изначально фреймы использовались в системах, ориентированных на взаимодействие с людьми, например понимание естественного языка и социальные настройки, в которых различные стандартные ожидания, такие как заказ еды в ресторане, сужают пространство поиска и позволяют системе выбирать соответствующие реакции на динамические ситуации.

Это произошло незадолго до того, как фрейм-сообщества и исследователи, основанные на правилах, осознали, что между их подходами существует синергия. Фреймы были хороши для представления реального мира, описанного как классы, подклассы, слоты (значения данных) с различными ограничениями на возможные значения. Правила хорошо подходят для представления и использования сложной логики, такой как процесс постановки медицинского диагноза. Были разработаны интегрированные системы, сочетающие фреймы и правила. Одним из самых мощных и известных стал 1983 г. Инженерная среда знаний (KEE) из Intellicorp. У KEE был полный механизм правил с вперед и обратная цепочка. Он также имел полную базу знаний на основе фреймов с триггерами, слотами (значениями данных), наследованием и передачей сообщений. Хотя передача сообщений возникла в объектно-ориентированном сообществе, а не в ИИ, она была быстро принята исследователями ИИ в таких средах, как KEE, и в операционных системах для машин Lisp от Символика, Ксерокс, и Инструменты Техаса.[3]

Интеграция фреймов, правил и объектно-ориентированного программирования была в значительной степени обусловлена ​​коммерческими предприятиями, такими как KEE и Symbolics, выделенными из различных исследовательских проектов. В то же время, когда это происходило, было еще одно направление исследований, которые были менее коммерчески ориентированы и основывались на математической логике и автоматическом доказательстве теорем. Одним из самых влиятельных языков в этом исследовании был KL-ONE язык середины 80-х. KL-ONE был язык фреймов которые имели строгую семантику, формальные определения таких понятий, как Отношение Is-A.[4] KL-ONE и языки, на которые он повлиял, такие как Loom, имели автоматизированный механизм рассуждений, основанный на формальной логике, а не на правилах IF-THEN. Этот рассуждающий называется классификатором. Классификатор может анализировать набор объявлений и выводить новые утверждения, например, переопределить класс, чтобы он стал подклассом или суперклассом какого-либо другого класса, который не был официально указан. Таким образом, классификатор может функционировать как механизм вывода, выводя новые факты из существующей базы знаний. Классификатор также может обеспечивать проверку согласованности в базе знаний (которая в случае языков KL-ONE также называется онтологией).[5]

Другой областью исследования представления знаний была проблема здравый смысл. Одним из первых осознаний, полученных при попытке создать программное обеспечение, которое может работать с человеческим естественным языком, было то, что люди регулярно опираются на обширный фундамент знаний о реальном мире, который мы просто принимаем как должное, но это вовсе не очевидно для искусственного агента. . Основные принципы физики здравого смысла, причинность, намерения и т. Д. Примером может служить проблема с рамой, что в логике, управляемой событиями, должны быть аксиомы, которые утверждают, что вещи сохраняют положение от одного момента до следующего, если они не перемещаются какой-либо внешней силой. Чтобы создать настоящего агента искусственного интеллекта, способного разговаривать с людьми на естественном языке и может обрабатывать основные утверждения и вопросы о мире, важно представлять этот вид знаний. Одной из самых амбициозных программ по решению этой проблемы была программа Дуга Лената. Цикл проект. Cyc создала свой собственный язык Frame, и большое количество аналитиков задокументировали на этом языке различные области здравого смысла. Знания, записанные в Cyc, включали здравые модели времени, причинности, физики, намерений и многие другие.[6]

Отправной точкой для представления знаний является гипотеза представления знаний впервые оформлено Брайан С. Смит в 1985 г .:[7]

Любой механически воплощенный интеллектуальный процесс будет состоять из структурных ингредиентов, которые а) мы, как внешние наблюдатели, естественно принимаем за представление пропозиционального описания знания, которое демонстрирует весь процесс, и б) независимо от такой внешней семантической атрибуции, играем формальную, но причинную и существенная роль в порождении поведения, которое проявляет это знание.

В настоящее время одним из наиболее активных направлений исследования представления знаний являются проекты, связанные с Семантическая сеть. Семантическая сеть Web стремится добавить слой семантики (значения) поверх существующей сети Интернет. Вместо того, чтобы индексировать веб-сайты и страницы по ключевым словам, семантическая сеть создает большие онтологии концепций. Поиск концепции будет более эффективным, чем традиционный поиск только по тексту. Языки фреймов и автоматическая классификация играют большую роль в видении будущего семантического Интернета. Автоматическая классификация дает разработчикам возможность упорядочить постоянно развивающуюся сеть знаний. Определение онтологий, которые статичны и не могут развиваться "на лету", будет очень ограничивать для Интернет-систем. Технология классификатора дает возможность работать в динамической среде Интернета.

Недавние проекты, финансируемые главным образом Агентство перспективных оборонных исследовательских проектов (DARPA) интегрировали языки фреймов и классификаторы с языками разметки на основе XML. В Структура описания ресурсов (RDF) предоставляет базовую возможность определять классы, подклассы и свойства объектов. В Язык веб-онтологий (OWL) предоставляет дополнительные уровни семантики и обеспечивает интеграцию с механизмами классификации.[8][9]

Обзор

Представление знаний - это область искусственного интеллекта, которая фокусируется на разработке компьютерных представлений, которые фиксируют информацию о мире, которая может использоваться для решения сложных проблем.

Обоснованием представления знаний является то, что общепринятое процессуальный кодекс не лучший формализм для решения сложных проблем. Представление знаний упрощает определение и обслуживание сложного программного обеспечения, чем процедурный код, и может использоваться в экспертные системы.

Например, обсуждение с экспертами бизнес-правил, а не кода, уменьшает семантический разрыв между пользователями и разработчиками и делает разработку сложных систем более практичной.

Представление знаний идет рука об руку с автоматическое рассуждение потому что одна из основных целей явного представления знаний - иметь возможность рассуждать об этом знании, делать выводы, утверждать новые знания и т. д. Практически все языки представления знаний иметь механизм рассуждений или выводов как часть системы.[10]

Ключевым компромиссом при разработке формализма представления знаний является компромисс между выразительностью и практичностью. Окончательный формализм представления знаний с точки зрения выразительной силы и компактности является Логика первого порядка (FOL). Нет более мощного формализма, чем тот, который используют математики для определения общих положений о мире. Однако как формализм представления знаний у FOL есть два недостатка: простота использования и практичность реализации. Логика первого порядка может напугать даже многих разработчиков программного обеспечения. Языки, которые не обладают полной формальной мощностью FOL, могут по-прежнему обеспечивать почти такую ​​же выразительную мощность с пользовательским интерфейсом, который более практичен для понимания средним разработчиком. Вопрос практичности реализации в том, что ВОЛС в некотором смысле слишком выразителен. С помощью FOL можно создавать инструкции (например, количественная оценка по бесконечным множествам), которые заставили бы систему никогда не завершать работу, если бы она попыталась их проверить.

Таким образом, подмножество ВОЛС может быть как более простым в использовании, так и более практичным для реализации. Это было движущей силой экспертных систем, основанных на правилах. Правила IF-THEN предоставляют подмножество FOL, но очень полезное и интуитивно понятное. История большинства ранних формализмов представления знаний ИИ; От баз данных до семантических сетей до средств доказательства теорем и производственных систем можно рассматривать как различные проектные решения о том, следует ли делать упор на выразительную мощность или вычислимость и эффективность.[11]

В ключевой статье 1993 года по этой теме Рэндалл Дэвис из Массачусетский технологический институт выделили пять различных ролей для анализа структуры представления знаний:[12]

  • Представление знаний (KR) - это, по сути, суррогат, замена самой вещи, используемая для того, чтобы позволить сущности определять последствия, думая, а не действуя, то есть рассуждая о мире, а не предпринимая в нем действия.
  • Это набор онтологических обязательств, то есть ответ на вопрос: в каких терминах я должен думать о мире?
  • Это фрагментарная теория разумного мышления, выраженная в терминах трех компонентов: (i) фундаментальная концепция разумного мышления репрезентации; (ii) набор выводов о представительских санкциях; и (iii) набор рекомендаций, которые он рекомендует.
  • Это среда для прагматически эффективных вычислений, то есть вычислительная среда, в которой осуществляется мышление. Один из вкладов в эту прагматическую эффективность вносится руководством, которое представление предоставляет для организации информации, чтобы облегчить выполнение рекомендуемых выводов.
  • Это средство человеческого выражения, то есть язык, на котором мы говорим о мире.

Представление знаний и аргументация являются ключевыми технологиями, позволяющими Семантическая сеть. Языки, основанные на модели Frame с автоматической классификацией, обеспечивают слой семантики поверх существующего Интернета. Вместо поиска по текстовым строкам, как это обычно бывает сегодня, можно будет определять логические запросы и находить страницы, которые соответствуют этим запросам.[13] Компонент автоматизированного мышления в этих системах - это механизм, известный как классификатор. Классификаторы сосредоточены на подчинение отношения в базе знаний, а не правила. Классификатор может выводить новые классы и динамически изменять онтологию по мере появления новой информации. Эта возможность идеально подходит для постоянно меняющегося и развивающегося информационного пространства Интернета.[14]

Семантическая сеть Web объединяет концепции представления знаний и рассуждений с языками разметки, основанными на XML. В Структура описания ресурсов (RDF) предоставляет базовые возможности для определения объектов, основанных на знаниях, в Интернете с такими базовыми функциями, как отношения Is-A и свойства объектов. В Язык веб-онтологий (OWL) добавляет дополнительную семантику и интегрируется с рассуждениями автоматической классификации.[15]

Характеристики

В 1985 году Рон Брахман распределил основные проблемы представления знаний следующим образом:[16]

  • Примитивы. Какая основа используется для представления знаний? Семантические сети были одними из первых примитивов представления знаний. А также структуры данных и алгоритмы для общего быстрого поиска. В этой области есть много общего с исследованиями структур данных и алгоритмов в информатике. В ранних системах язык программирования Lisp, который был смоделирован после лямбда-исчисление, часто использовался как форма функционального представления знаний. Следующим типом примитивов были рамки и правила. У фреймовых языков были различные механизмы для выражения и применения ограничений к фреймовым данным. Все данные во фреймах хранятся в слотах. Слоты аналогичны отношениям в моделировании сущностей-отношений и свойствам объектов в объектно-ориентированном моделировании. Другой метод для примитивов - определение языков, смоделированных по Логика первого порядка (FOL). Самый известный пример - это Пролог, но существует также множество специальных сред для доказательства теорем. Эти среды могут проверять логические модели и выводить новые теории из существующих моделей. По сути, они автоматизируют процесс, который логик должен пройти при анализе модели. Технология доказательства теорем нашла несколько конкретных практических приложений в области разработки программного обеспечения. Например, можно доказать, что программа строго придерживается формальной логической спецификации.
  • Мета-представление. Это также известно как проблема отражение в информатике. Это относится к способности формализма иметь доступ к информации о своем собственном состоянии. Примером может служить протокол метаобъектов в Болтовня и ЗАКРЫТЬ это дает разработчикам доступ во время выполнения к объектам класса и позволяет им динамически переопределять структуру базы знаний даже во время выполнения. Мета-представление означает, что язык представления знаний сам выражается на этом языке. Например, в большинстве сред, основанных на кадрах, все кадры будут экземплярами класса кадра. Этот объект класса можно проверить во время выполнения, чтобы объект мог понять и даже изменить свою внутреннюю структуру или структуру других частей модели. В средах, основанных на правилах, правила также обычно были экземплярами классов правил. Частью метапротокола для правил были мета-правила, определяющие приоритет срабатывания правил.
  • Неполнота. Традиционная логика требует дополнительных аксиом и ограничений, чтобы иметь дело с реальным миром, в отличие от мира математики. Кроме того, часто бывает полезно связать с утверждением степени уверенности. То есть не просто сказать «Сократ - человек», а «Сократ - человек с уверенностью 50%». Это было одно из первых нововведений от экспертные системы исследования, которые перешли на некоторые коммерческие инструменты, способность связывать факторы уверенности с правилами и выводами. Более поздние исследования в этой области известны как нечеткая логика.[17]
  • Определения и универсалии против фактов и дефолтов. Универсалии - это общие утверждения о мире, такие как «Все люди смертны». Факты являются конкретными примерами универсалий, таких как «Сократ - человек, а значит, смертный». В логических терминах определения и универсалии о универсальная количественная оценка в то время как факты и значения по умолчанию о экзистенциальные количественные оценки. Все формы представления знаний должны иметь дело с этим аспектом, и большинство из них делают это с помощью некоторого варианта теории множеств, моделируя универсалии как наборы и подмножества и определения как элементы в этих наборах.
  • Немонотонное рассуждение. Немонотонное рассуждение допускает различные виды гипотетических рассуждений. Система связывает утвержденные факты с правилами и фактами, используемыми для их обоснования, и по мере изменения этих фактов обновляет и зависимые знания. В системах на основе правил эта возможность известна как система поддержания истины.[18]
  • Выразительная адекватность. Стандарт, который Брахман и большинство исследователей искусственного интеллекта используют для измерения адекватности выражения, обычно - это логика первого порядка (FOL). Теоретические ограничения означают, что полная реализация FOL нецелесообразна. Исследователи должны четко понимать, насколько выразительным (насколько полно выразительной силой FOL) они намерены быть.[19]
  • Рассуждение об эффективности. Это относится к эффективности времени работы системы. Способность обновлять базу знаний и делать выводы за разумный период времени. В некотором смысле это оборотная сторона выразительной адекватности. В целом, чем мощнее репрезентация, тем больше у нее выразительной адекватности, тем менее эффективно ее автоматическое рассуждение двигатель будет. Эффективность часто была проблемой, особенно для ранних приложений технологии представления знаний. Обычно они реализовывались в интерпретируемых средах, таких как Lisp, которые были медленными по сравнению с более традиционными платформами того времени.

Онтология инженерия

Основные статьи: Онтология инженерия и Язык онтологий

В первые годы системы, основанные на знаниях базы знаний были довольно небольшими. Базы знаний, предназначенные для реального решения реальных проблем, а не для демонстрации концепций, должны были сосредоточиться на четко определенных проблемах. Так, например, не только медицинская диагностика в целом, но и медицинская диагностика определенных заболеваний.

По мере расширения масштабов технологии, основанной на знаниях, стала очевидной потребность в более крупных базах знаний и в модульных базах знаний, которые могли бы взаимодействовать и интегрироваться друг с другом. Это дало начало дисциплине онтологической инженерии, проектирования и создания больших баз знаний, которые можно было использовать в нескольких проектах. Одним из ведущих исследовательских проектов в этой области был Цикл проект. Cyc был попыткой создать огромную базу энциклопедических знаний, которая содержала бы не только экспертные знания, но и знания здравого смысла. При разработке агента искусственного интеллекта вскоре стало понятно, что представление здравого смысла, знания, которое люди просто принимают как должное, необходимо для создания ИИ, который мог бы взаимодействовать с людьми, используя естественный язык. Cyc был предназначен для решения этой проблемы. Определенный ими язык был известен как CycL.

После CycL ряд онтологические языки были разработаны. Большинство из них декларативные языки, и либо языки фреймов, или основаны на логика первого порядка. Модульность - способность определять границы вокруг конкретных областей и проблемных пространств - важна для этих языков, потому что, как указано в Том Грубер «Каждая онтология - это договор - социальное соглашение между людьми, имеющими общий мотив в обмене». Всегда существует множество конкурирующих и различных взглядов, которые делают невозможной любую онтологию общего назначения. Онтология общего назначения должна быть применима в любой области, а различные области знаний должны быть унифицированы.[20]

Существует долгая история попыток создания онтологий для множества областей задач, например, онтологии для жидкостей,[21] то модель с сосредоточенными элементами широко используется для представления электронных схем (например,[22]), а также онтологии времени, убеждений и даже самого программирования. Каждый из них предлагает способ увидеть какую-то часть мира.

Модель с сосредоточенными элементами, например, предполагает, что мы думаем о схемах как о компонентах со связями между ними, с сигналами, текущими мгновенно по соединениям. Это полезный вид, но не единственно возможный. Другая онтология возникает, если нам нужно уделить внимание электродинамике в устройстве: здесь сигналы распространяются с конечной скоростью, и теперь, возможно, придется подумать об объекте (например, резисторе), который ранее рассматривался как отдельный компонент с поведением ввода-вывода. как протяженная среда, через которую течет электромагнитная волна.

Конечно, онтологии могут быть записаны на самых разных языках и в различных нотациях (например, логика, LISP и т. Д.); существенная информация - это не форма этого языка, а содержание, то есть набор концепций, предлагаемых как способ мышления о мире. Проще говоря, важная часть - это такие понятия, как соединения и компоненты, а не выбор между записью их в виде предикатов или конструкций LISP.

Обязательство по выбору той или иной онтологии может привести к совершенно иному взгляду на поставленную задачу. Обратите внимание на разницу, которая возникает при выборе вида схемы с сосредоточенными элементами, а не электродинамического вида того же устройства. Во втором примере медицинский диагноз рассматривается с точки зрения правил (например, МИЦИН ) выглядит существенно иначе, чем та же задача, рассматриваемая в терминах фреймов (например, INTERNIST). В то время как MYCIN рассматривает медицинский мир как составленный из эмпирических ассоциаций, связывающих симптом с болезнью, INTERNIST видит набор прототипов, в частности прототипных заболеваний, которые необходимо сопоставить с рассматриваемым случаем.

Смотрите также

Рекомендации

  1. ^ Роджер Шэнк; Роберт Абельсон (1977). Сценарии, планы, цели и понимание: исследование структур человеческого знания. Lawrence Erlbaum Associates, Inc.
  2. ^ Хейс-Рот, Фредерик; Дональд Уотерман; Дуглас Ленат (1983). Создание экспертных систем. Эддисон-Уэсли. ISBN  978-0-201-10686-2.
  3. ^ Меттри, Уильям (1987). «Оценка инструментов для построения больших систем, основанных на знаниях». Журнал AI. 8 (4). Архивировано из оригинал на 2013-11-10. Получено 2013-12-24.
  4. ^ Брахман, Рон (1978). «Структурная парадигма представления знаний» (PDF). Технический отчет Bolt, Beranek и Neumann (3605).
  5. ^ МакГрегор, Роберт (июнь 1991). «Использование классификатора описания для улучшения представления знаний». Эксперт IEEE. 6 (3): 41–46. Дои:10.1109/64.87683. S2CID  29575443.
  6. ^ Ленат, Дуг; Р. В. Гуха (январь 1990 г.). Построение больших систем, основанных на знаниях: представление и вывод в циклическом проекте. Эддисон-Уэсли. ISBN  978-0201517521.
  7. ^ Смит, Брайан К. (1985). «Пролог к ​​размышлениям и семантике процедурного языка». В Рональде Брахмане и Гекторе Дж. Левеке (ред.). Чтения в представлении знаний. Морган Кауфманн. стр.31–40. ISBN  978-0-934613-01-9.
  8. ^ Бернерс-Ли, Тим; Джеймс Хендлер; Ора Лассила (17 мая 2001 г.). «Семантическая сеть - новая форма веб-контента, значимая для компьютеров, откроет революцию новых возможностей». Scientific American. 284 (5): 34–43. Дои:10.1038 / scientificamerican0501-34. Архивировано из оригинал 24 апреля 2013 г.
  9. ^ Knublauch, Holger; Оберле, Даниэль; Тетлоу, Фил; Уоллес, Эван (2006-03-09). «Учебник по семантической паутине для разработчиков объектно-ориентированного программного обеспечения». W3C. Получено 2008-07-30.
  10. ^ Хейс-Рот, Фредерик; Дональд Уотерман; Дуглас Ленат (1983). Создание экспертных систем. Эддисон-Уэсли. стр.6–7. ISBN  978-0-201-10686-2.
  11. ^ Левеск, Гектор; Рональд Брахман (1985). «Фундаментальный компромисс в представлении знаний и рассуждении». В Рональде Брахмане и Гекторе Дж. Левеке (ред.). Чтения в представлении знаний. Морган Кауфманн. п.49. ISBN  978-0-934613-01-9. Хорошая новость в сокращении обслуживания KR до доказательства теорем состоит в том, что теперь у нас есть очень четкое, очень конкретное представление о том, что должна делать система KR; Плохая новость заключается в том, что также ясно, что услуги не могут быть предоставлены ... решить, является ли предложение в FOL теоремой ... неразрешимо.
  12. ^ Дэвис, Рэндалл; Говард Шроб; Петр Соловиц (весна 1993 г.). "Что такое представление знаний?". Журнал AI. 14 (1): 17–33.
  13. ^ Бернерс-Ли, Тим; Джеймс Хендлер; Ора Лассила (17 мая 2001 г.). «Семантическая сеть - новая форма веб-контента, значимая для компьютеров, откроет революцию новых возможностей». Scientific American. 284 (5): 34–43. Дои:10.1038 / scientificamerican0501-34. Архивировано из оригинал 24 апреля 2013 г.
  14. ^ Макгрегор, Роберт (13 августа 1999 г.). «Ретроспектива на ткацком станке». isi.edu. Институт информационных наук. Архивировано из оригинал 25 октября 2013 г.. Получено 10 декабря 2013.
  15. ^ Knublauch, Holger; Оберле, Даниэль; Тетлоу, Фил; Уоллес, Эван (2006-03-09). «Учебник по семантической паутине для разработчиков объектно-ориентированного программного обеспечения». W3C. Получено 2008-07-30.
  16. ^ Брахман, Рон (1985). "Вступление". В Рональде Брахмане и Гекторе Дж. Левеке (ред.). Чтения в представлении знаний. Морган Кауфманн. С. XVI – XVII. ISBN  978-0-934613-01-9.
  17. ^ Бих, Джозеф (2006). «Смена парадигмы: введение в нечеткую логику» (PDF). Возможности IEEE. 25: 6–21. Дои:10.1109 / MP.2006.1635021. S2CID  15451765. Получено 24 декабря 2013.
  18. ^ Златарва, Нелли (1992). «Системы поддержания истины и их применение для проверки баз знаний экспертных систем». Обзор искусственного интеллекта. 6: 67–110. Дои:10.1007 / bf00155580. S2CID  24696160.
  19. ^ Левеск, Гектор; Рональд Брахман (1985). «Фундаментальный компромисс в представлении знаний и рассуждении». В Рональде Брахмане и Гекторе Дж. Левеке (ред.). Чтения в представлении знаний. Морган Кауфманн. стр.41–70. ISBN  978-0-934613-01-9.
  20. ^ Рассел, Стюарт Дж .; Норвиг, Питер (2010), Искусственный интеллект: современный подход (3-е изд.), Верхняя Сэдл-Ривер, Нью-Джерси: Prentice Hall, ISBN  0-13-604259-7, п. 437-439
  21. ^ Hayes P, Наивная физика I: Онтология жидкостей. Отчет Университета Эссекса, 1978, Эссекс, Великобритания.
  22. ^ Дэвис Р., Шроб Х. Э., Представление структуры и поведения цифрового оборудования, Компьютер IEEE, Специальный выпуск о представлении знаний, 16 (10): 75-82.

дальнейшее чтение

внешняя ссылка