Разработка и исследование модели нейросетевого метода анализа текстовых документов

На правах рукописи

ШЕМЕНКОВ Павел Сергеевич

РАЗРАБОТКА И ИССЛЕДОВАНИЕ

МОДЕЛИ НЕЙРОСЕТЕВОГО МЕТОДА

АНАЛИЗА ТЕКСТОВЫХ ДОКУМЕНТОВ

05.13.18 - Математическое моделирование,

численные методы и комплексы программ

Автореферат

диссертации на соискание ученой степени

кандидата технических наук

Санкт-Петербург

2009

Работа выполнена в Санкт-Петербургском государственном университете телекоммуникаций им. проф. М.А. Бонч-Бруевича.

Научный руководитель:	Кандидат технических наук, профессор Макаров Леонид Михайлович
Официальные оппоненты:	Директор, главный конструктор ФГНУ «НИКТИ БТС» д.т.н., профессор Шаповалов Валентин Викторович Генеральный директор ЗАО ДЕСМА к.т.н., доцент Алипов Александр Николаевич
Ведущая организация:	НИИ промышленной и морской медицины Федерального управления медико-биологических и экстремальных проблем при Минздраве России

Защита состоится «12» ноября 2009 года в ________ часов на заседании диссертационного совета Д 219.004.03 при Санкт-Петербургском государственном университете телекоммуникаций им. проф. М.А. Бонч-Бруевича по адресу: 191186 Санкт-Петербург, наб. реки Мойки, 61.

С диссертацией можно ознакомиться в библиотеке Санкт-Петербургского государственного университета телекоммуникаций им. проф. М.А. Бонч-Бруевича.

Отзыв на автореферат в двух экземплярах, заверенных печатью учреждения, просим направлять по вышеуказанному адресу на имя ученого секретаря диссертационного совета.

Автореферат разослан «8» октября 2009 г.

Ученый секретарь диссертационного совета

кандидат технических наук, профессор Л.М. Макаров

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность работы. Наиболее распространенной формой представления знаний являются естественно-языковые тексты. Текстовая форма знаний естественна для человека, такие знания легко воспринимаются, порождаются, тиражируются и модифицируются. Новые возможности позиционирования текстов, связанные с масштабным использованием компьютерной техники, а также доступность методов записи и хранения информации, привели к бурному росту количества информационных ресурсов. Необходимость изучения и осмысления все возрастающего объема неструктурированной текстовой информации на естественном языке актуализирует проблему анализа.

Теоретическое обоснование методов анализа рассмотрено в работах В.А. Ядова, Т.М. Дридзе, А.Р. Лурия, М. Шлика, Р. Карнапа, О. Нейрата. Вышеупомянутые работы, в основном, посвящены рассмотрению смежных проблем анализа текстовых документов. Основным из направлений данной диссертационной работы рассматривается проблема кластеризации и систематизации текстовых документов информационного ресурса.

Задача анализа текстовых документов ориентирована на извлечение знаний и является в настоящее время актуальной проблемой, затрагивающей различные сферы человеческой деятельности, поскольку ее решение позволит полностью автоматизировать процесс обработки, классификации и систематизации информационного ресурса. Процесс аналитической обработки текстов требует создания принципиально новых моделей, методик и систем, которые следует отнести к разряду систем искусственного интеллекта - систем обработки знаний. Задача автоматического анализа естественных текстов, в определенной степени формируется при участии эксперта. Надо отметить, что для экспертной оценки нет необходимости в построении модели естественного текста, реализующей глубинный семантический анализ текста. Одной из актуальных задач, решаемых экспертами, является определение отношений между объектами, которыми являются области знаний. Наиболее адекватно отношения между объектами представляются семантическими сетями. Традиционная интерпретация семантической сети позволяет получать только представление о структуре отношений между объектами, которой недостаточно для проведения полноценного аналитического исследования. Поэтому в работе предлагается расширение семантической сети для представления информации о классификации отношений между объектами и о принадлежности объектов к классам предметной области. В основе модели знаний находится семантическая сеть, узлы которой сопоставляются с областями знаний, а связи соответствуют отношениям между ними.

Цели и задачи исследования. Целью диссертационной работы является разработка и исследование модели нейросетевого метода автоматического анализа текстовых документов на естественном языке для формирования семантической базы знаний и повышения эффективности работы эксперта по знаниям. Для достижения поставленной цели последовательно решены следующие задачи исследования:

1. Рассмотрены известные модели и методы анализа документов;
2. Разработан алгоритм формирования информационных образов электронных текстовых документов, включающий механизм сокращения признаков, основанный на предложенном подходе к оценке тематической значимости признаков документов;
3. Разработан метод нейросетевого анализа коллекции текстовых документов, основанный на самоорганизующихся картах Кохонена;
4. Разработан метод самокоррекции системы путем автоматического вычисления внутренних показателей распределения;
5. Разработана структура информационно-аналитической системы (ИАС) автоматического анализа полнотекстовых документов, реализующей предложенные методы;
6. Реализован алгоритм представления результата анализа в виде семантической сети;
7. Осуществлено исследование разработанного алгоритма и проведена проверка предложенного метода анализа коллекций документов.

Объект и предмет исследования. Объектом исследования являются документы на естественном языке, как форма представления предметной области. Предметом исследования являются процессы автоматизированного выявления и формализации знаний, представленных в форме онтологии.

Методы исследования. В диссертационной работе использованы модели и методы искусственного интеллекта, лингвистики, математической статистики, кластерного анализа, теории множеств, метод экспертных оценок, теории информации, теории баз данных и программирования.

Обработка текстов, нейросетевое моделирование процессов, а также оценка качества извлечения знаний производились автором с помощью самостоятельно разработанной ИАС. При разработке ИАС применялись методы объектно-ориентированного программирования с использованием среды разработки Borland Delphi 7 Enterprise.

Научная новизна. Проведенные исследования позволили создать модель нейросетевого метода к содержательному анализу неструктурированных текстов на естественном языке для произвольных массивов документов без ограничений на тематику и объем при отсутствии априорной информации формализации их содержания.

Предложен подхода к решению задачи анализа текстовых документов, который состоит в использовании единой методологии, основанной на концептуальной модели эксперта, для реализации всего цикла извлечения знаний, с возможностью интерактивного участия эксперта в процессе.

Предложен подход к оценке тематической близости документов с использованием метода сокращения пространства признаков, составляющих информационные образы, что позволило повысить качество и скорость выполнения анализа коллекции текстов.

Предложен метод кластерного анализа, включающий механизмы самокоррекции и саморегуляции в процессе построения онтологии предметной области.

Разработана структура ИАС «NeuroText», представляющая собой целостною интерактивную систему, состоящую из взаимосвязанных компонентов, позволяющих осуществлять построение онтологии коллекции документов.

Достоверность научных положений и выводов диссертационной работы подтверждена практической реализацией разработанных моделей и методов, а так же результатами проведенных экспериментов.

Практическая ценность работы. Предложенный подход к автоматическому анализу документов позволяет решить проблему содержательного анализа информации, как по всей коллекции документов, так и по ее подмножествам, отражающий семантические связи между областями знаний и позволяющий автоматически получать вербальные описаниями областей знаний. Практическим результатом применения метода извлечения структурных знаний из текстов на основе нейросетевой модели является разработка ИАС «NeuroText». ИАС включает три основных компонента: информационная часть, компонент импортирования данных (интегратор), модуль работы с искусственной нейронной сетью (ИНС). Информационная часть обеспечивает накопление, хранение и предоставление информации, и реализует интерфейс пользователя. Компонент импортирования данных обеспечивает импортирование накопившихся данных из базы данных в модуль работы с нейронной сетью. Компонентом реализуется подготовка данных для сети. Модуль работы с ИНС обеспечивает автоматическое построение нейронной сети на основе множества входных параметров решаемой задачи с соответствующими выходными состояниями, способной классифицировать поступающую информацию. В основу работы компонента положен алгоритм самоорганизации. Результатом работы компонента является граф – образ интеллектуальной модели решаемой задачи.

Граф – образ, дополненный семантическим набором отношений элементов, позиционирует модель знаний, что позволяет перейти на более высокий уровень представления информации (естественный для мышления человека), и одновременно с этим ввести качественные и количественные категории. В модели осуществляется извлечение ассоциаций подграфа семантической сети и формируется матрица отношений, отражающая связь между элементами графа. Такой подход позволяет эксперту осуществлять сопоставление фрагмента семантической сети с естественными текстами, в которых встречается подобные отношения.

Сфера применения разработанной модели анализа текстовых документов обширна: информационно-поисковые системы, системы автоматической классификации, библиотечно-справочные системы, поисковые роботы, системы обработки информации.

Апробации результатов и публикации. Основные положения и результаты работы были доложены автором и обсуждались в период с 2006 по 2009 годы на научно-технических конференциях профессорско-преподавательского состава, научных сотрудников и аспирантов ГУТ им. проф. М. А. Бонч-Бруевича: №59 2007г., №61 2009г., 2-ом международном конгрессе «Нейробиотелеком-2006», 3-ем международном научном конгрессе «Нейробиотелеком-2008».

Реализация результатов работы. Основные теоретические и практические результаты диссертационной работы использованы в госбюджетной научно-исследовательской работе «Нейросемантический интерактивный анализатор информационного ресурса» /Санкт Петербургский государственный университет телекоммуникаций им. проф. М.А. Бонч-Бруевича, 2009г., рег. № 080-09-054/5/

Основные положения, выдвигаемые на защиту:

• Модель нейросетевого метода автоматического анализа коллекции полнотекстовых документов, отражающая деятельность эксперта по знаниям;
• Алгоритм выделения информативных признаков коллекции документов и формирования информационных образов документов;
• Компьютерная модель и алгоритм анализа коллекции полнотекстовых документов;
• Алгоритм оптимизации ассоциаций подграфа семантической сети;
• Результаты экспериментальных исследований, полученные посредством ИАС, характеризующих адекватность экспертного и компьютерного анализа коллекций документов.

Личный вклад автора. Основные научные положения, теоретические выводы и рекомендации, анализ результатов поставленных экспериментов, содержащихся в диссертационной работе, получены автором самостоятельно.

Публикации. По теме диссертации опубликовано 6 научных работ, в том числе 1 в издании, рекомендованных ВАК науки России.

Структура и объем диссертации. Диссертация состоит из введения, 4 глав, заключения, списка литературы, включающего 120 наименований, и приложения. Работа содержит 144 страницы текста, 51 рисунок и 9 таблиц.

СОДЕРЖАНИЕ РАБОТЫ

Во введении обосновывается актуальность исследуемой проблемы, определяется цель работы, выбираются направления исследований, обеспечивающих достижение поставленной цели.

В первой главе рассматривается роль текста как основного источника информации и средства коммуникации. Проведен обзор предметной области исследования, выделены проблемы анализа текстов на основе нейросетевых методов, отмечена актуальность разрабатываемой проблемы для решения широкого круга практических задач.

Получение информации из текста осуществляется различными методами, которые получили название метода анализа документов. Признавая необходимость получения качественных и количественных показателей, характеризующих как семантические элементы отдельного документа, так и коллекции документов, выделяются два подхода: неформализованный - проведение анализа документов экспертом (исследователем) и формализованный - с помощью компьютерных систем.

В рамках первого подхода в качестве основы принимается гипотеза о том, то эксперт, самостоятельно способен провести анализ коллекции документов и определить семантические линии каждого документа в коллекции, с целью установления их близости. Этот метод основан на интуиции исследователя и поэтому подвержен опасности субъективных смещений в восприятии и интерпретации материалов. Кроме того, различные эксперты могут одну и ту же информацию, содержащуюся в тексте, по-разному интерпретировать и придавать ей различную степень семантической значимости. На этой основе делается вывод о необходимости проведения объективного анализа текстовых документов.

В рамках второго подхода выделена группа методов, реализация которых требует использования специальных формализованных вычислительных процедур, в том числе и таких которые моделируют аналитический процесс отыскания экспертной оценки. Надо признать, что формализованный метод анализ текстовых документов ориентирован на извлечение различной информации, что в значительной степени отвечает современным требованиям работы с информационными ресурсами. Использование формализованного анализа документов позволяет создать наборы статистических характеристик текстов, в основе которых отражены существенные семантические линии, представленные в анализируемых коллекциях документов. Полагая, что элементарный объект изучаемого текстового документа, позиционируется словом или словосочетанием, указана возможность создания формализованных правил анализа, реализация которых требует наличия модели позиционирования текстовых документов.

Во второй главе рассмотрены основные модели позиционирования текстовых документов, произведена формализация задачи анализа текстовых документов и представлены методы решения, из которых выбран нейросетевой метод.

Рис. 1. Модель нейросетевого метода анализа текстовых документов.

Показано, что анализ текстовых документов воспроизводит задачу кластеризации и построения компактного образа коллекции документов. Основная цель такого анализа выделить в исходных данных однородные группы, которые позиционируют семантически близкие элементы. В диссертационной работе процедура кластерного анализа реализуется поэтапно: на множестве объектов D={d1,d2,…dn}, выделяется совокупность подмножеств (кластеров) C={ci} i=1..Nc, состоящих из Nc классов объектов в соответствии с некоторым критерием схожести элементов (на основе некоторых априорных правил). Сходство элементов множества D обуславливается наличием набора признаков - F={f1,f2,…fm}, характеризующих элементы множества D. Процедура кластеризации f объектов dj D реализуется посредством модификации исходных объектов, после чего делается вывод о соответствии dj одной из структур fi, что означает отнесение dj к классу ci. Применительно к текстам на естественном языке, элементами множества D являются электронные текстовые документы. Общая модель представлена алгебраической системой следующего вида:

где D – множество текстов, подлежащих анализу, C - множество классов-рубрик, F – множество описаний, Rc – отношение на CxF, f – операция классификации вида T C.

Отношение Rc имеет свойство:

В этом случае избранному классу соответствует единственное описание.

Установлено, что метод представления документа в виде образа в многомерном пространстве позволяет формализовать лингвистические знания, так что значения признаков лингвистических объектов – текстов – выражаются количественно. Это помогает наглядно представить структуру текстов с многообразием их лексических, синтаксических и семантических связей.

Используя введенные определения, полагаем, что каждому терму ti в документе dj сопоставляется неотрицательный весовой коэффициент wij. Сопоставление производится таким образом, что каждый документ dj позиционируется в виде k-мерного вектора где k - общее количество различных термов во всех документах. В качестве веса терма значения wij в документе dj используется нормализованная частота употребления терма в данном документе, учитывающая актуальность терма по всей коллекции документов:

,

где n – частота встречаемости терма i в тексте j, N – общее количество слов в тексте j, dti – число документов, в которых употребляется терм ti, D – общее число документов в массиве.

В результате, каждый документ коллекции описывается набором параметров, характеризующих уникальность каждого документа в коллекции: