Взаимосвязь проблем распознавания образов, машинного мышления и обучения

Abstract

Виконано огляд досліджень з структурного розпізнавання — одного з напрямків сучасного розпізнавання образів. Показано, що основна проблематика структурного розпізнавання виходить за рамки проблем машинного навчання, і таким чином вноситься певна стриманість у поширене уявлення, що проблеми розпізнавання повністю поглинаються проблемами навчання. Разом з цим показано, що базові поняття і задачі структурного розпізнавання творять основу для формалізації певного класу процесів мислення, що відрізняються від навчання і названі образним мисленням. Математичною основою робіт, залучених до огляду, є класична теорія несуперечності обмежень — одна з загальновизнаних парадигм машинного мислення. В роботі показано, як застосування цієї теорії до реальних задач розпізнавання викликає необхідність її подальших узагальнень, що в свою чергу розширює поняття машинного мислення, на формалізацію якого ця теорія на самому початку була спрямована. Формулюється узагальнена задача структурного розпізнавання і образного мислення, окремим випадком якої є класична задача несуперечності обмежень. Для гіббсової статистичної моделі об’єктів, що розпізнаються, показано, як розпізнавання цих об’єктів зводиться до розв’язку того чи іншого окремого випадку узагальненої задачі структурного розпізнавання. Для більш загальних статистичних моделей, не обов’язково гіббсових, виконано аналіз відомих процедур навчання при їх використанні з навчальною інформацією обмеженого об’єму. Досліджено недолік цих процедур, відомий як ефект коротких вибірок, показано його причини і шляхи його подолання.The paper reviews the state-of-the-art in structural recognition, a research area in modern pattern recognition theory. The paper shows that basic problems of structural recognition go beyond machine learning theory and in such way slightly moderates the revived idea that the pattern recognition problem is entirely exhausted with machine learning. At the same time, the paper shows that main concepts and problems of structural recognition form a base for appropriate formalization of particular type of thought processes, which differ from learning and are called imaginative thinking. The main idea of this formalization relies on classical theory of Constraint Satisfaction Problem, one of the acknowledged paradigms of machine thinking. However the binding of this theory to real recognition tasks forces to generalize the theory itself and in such way to specify and refine the concept of machine thinking, for formalization of which the theory was intended. A generalized problem of structural recognition and imaginative thinking is formulated in the paper, classical Constraint Satisfaction Problem being its special case as well as its stochastic and optimization modifications, appropriate with regard to realistic recognition problems. For the Gibbs’ statistical model of recognized object, it is shown how recognition of such objects is reduced to such or other special case of generalized structural recognition problem. For more general statistical models, not necessarily Gibbs’ models, the application of known learning procedures to fixed size learning samples is analyzed. The flaw known as the short sample effect is explored, its deep-rooted causes are determined as well as a way to overcome them.