Все выпуски

Рассматривается проблема эффективной вычислимости разрешимых моделей классификации конечных объектов. Исследуется конструктивизация условий симультанности (предельно короткого цикла) принятия решения в классификации. Симультанность ("однотактность") достигается параллельным сравнением компонент неизвестной реализации с информативными элементами всех эталонов в обучающей выборке. Конструктивизация условий симультанности предусматривает: выделение информативных элементов (идентификационных меток) в информативных зонах классифицируемых множеств; параллельное покомпонентное сравнение неизвестной реализации конечного объекта с информативными элементами всех эталонов из обучающей выборки. Полученные результаты симультанной схемы принятия решений в классификации интерпретируются в нейронных сетях, в обобщенной модели распознавания, в задачах идентификации.

Consideration is given to the problem of efficient computability of solvablemodels of finite objects classification. We investigate the constructivization of simultaneity (extremely short cycle) conditions of decision adoption in the classification. Simultaneity is achieved by parallel comparing of the components of the unknown implementation with informative elements of all etalons in the training sample. Constructivization of simultaneity conditions includes: a selection of informative elements (identification labels) in the informative areas of classified sets; the parallel component-wise comparison of the unknown realization of a finite object with informative elements of etalons from the training set. The obtained results of simultaneous decision trees in classification is interpreted in neural networks, in a generalized model of recognition, in problems of identification.

Рассматривается проблема автоматизации процессов передачи и обработки информации в адаптивных информационных системах. Анализ существующих подходов к решению данной задачи показал перспективность использования нейросетевых технологий. Сформулирован нейросетевой метод обработки и передачи информации в адаптивных информационных системах. Метод включает формализованное описание нейросетевого канала данных — программного инструмента для анализа, обработки данных и выбора протокола передачи данных. Изложены основные этапы предлагаемого метода: классификация структур исходных данных, их преобразование, обработка данных, выбор необходимого протокола передачи информации. Каждый из этапов реализуется посредством нейронных сетей различной архитектуры. Приведено теоретическое обоснование возможности применения нейросетевого метода, полученное на основе доказательства ряда теорем. Новизна предлагаемого метода заключается в переходе от аналитического решения задач классификации, обработки и передачи данных к автоматизированному подходу с применением технологий машинного обучения. Практическая значимость нейросетевого метода состоит в снижении сложности реализации процессов обработки и передачи информации, повышении уровня автоматизации при организации межмодульного взаимодействия. Проведена оценка реализации нейросетевого метода по ряду метрик оценки сложности программного обеспечения. Проанализированы область применения, достоинства и недостатки разработанного метода.

The problem of automation of the processes of information transmission and processing in adaptive information systems is considered. An analysis of existing approaches to solving this problem showed the prospects of using neural network technologies. A neural network method for processing and transmitting information in adaptive information systems is formulated. The method includes a formalized description of a neural network data channel — a software tool for analysis, data processing and selection of data transfer protocol. The main stages of the proposed method are outlined: classification of the structures of the source data, their transformation, data processing, selection of the necessary protocol for transmitting information. Each of the stages is implemented through neural networks of various architectures. The theoretical rationale of the possibility of using the neural network method is given, obtained on the basis of the proof of a number of theorems. The novelty of the proposed method consists in the transition from an analytical solution of the problems of classification, processing and data transfer to an automated approach using machine learning technologies. The practical significance of the neural network method is to reduce the complexity of the implementation of information processing and transmission processes, to increase the level of automation in the organization of intermodular interaction. The implementation of the neural network method has been assessed using a number of software complexity assessment metrics. The application, virtues and failings of the developed method are analyzed.

Рассматриваются искусственные нейроны, чьи весовые коэффициенты будут изменяться по специальному закону, основанному на интегрированном в их модели обратном распространении. Для этого коэффициенты погрешности обратного распространения вводятся в явном виде во все модели нейронов и осуществляется передача их значений вдоль межнейронных связей. В дополнение к этому вводится специальный тип нейронов с эталонными входами, которые будут выступать в качестве основного источника первичной оценки погрешности для всей нейронной сети. В последнюю очередь вводится контрольный сигнал для запуска обучения, который будет управлять процессом передачи коэффициентов погрешности и корректировкой весов нейронов. Для рекуррентных нейронных сетей демонстрируется как провести интеграцию обратного распространения во времени в их формализм с помощью стековой памяти для внешних входов нейронов. Дополнительно к этому рассматриваются примеры как формализовать в рамках данного подхода такие популярные нейронные сети, как сети долгой кратковременной памяти, сети радиально-базисных функций, многослойные перцептроны и сверточные нейронные сети. Основным практическим следствием данного подхода является возможность описания нейронных сетей с перестраиваемыми связями на основе интегрированного алгоритма обратного распространения.

We consider artificial neurons which will update their weight coefficients with an internal rule based on backpropagation, rather than using it as an external training procedure. To achieve this we include the backpropagation error estimate as a separate entity in all the neuron models and perform its exchange along the synaptic connections. In addition to this we add some special type of neurons with reference inputs, which will serve as a base source of error estimates for the whole network. Finally, we introduce a training control signal for all the neurons, which can enable the correction of weights and the exchange of error estimates. For recurrent neural networks we also demonstrate how to integrate backpropagation through time into their formalism with the help of some stack memory for reference inputs and external data inputs of neurons. Also, for widely used neural networks, such as long short-term memory, radial basis function networks, multilayer perceptrons and convolutional neural networks, we demonstrate their alternative description within the framework of our new formalism. As a useful consequence, our approach enables us to introduce neural networks with the adjustment of synaptic connections, tied to the integrated backpropagation.

Рассматривается задача автоматизации процесса разработки информационных систем на основе применения оригинальной нейросетевой архитектуры. Проведен анализ существующих подходов к автоматизации проектирования информационных систем. Сформулированы рекомендации к архитектуре информационных систем, направленные на снижение негативного влияния человеческого фактора. Представлена общая концепция нейросетевой архитектуры в виде структурной модели, даны определения основных сущностей и компонентов. Ключевыми отличиями нейросетевой архитектуры являются: независимость ключевых сущностей информационных систем и возможность автоматизации их проектирования и взаимодействия на основе применения нейронных сетей; изолированность математического обеспечения архитектуры; разграничение моделей информационных процессов и функциональных элементов от управляющих систем и систем представления информации; учет влияния окружения на процессы движения информационных потоков, элементы управления и представления системы; возможность адаптации структурных блоков информационных систем под особенности предметной области, параметры оборудования пользователя без необходимости внесения существенных изменений в архитектуру. Рассмотрено понятие нейросетевого канала данных, его структура и обобщенное математическое обеспечение. Осуществлена декомпозиция структурной модели. Представлены структурные схемы каждой сущности нейросетевой архитектуры информационных систем, описание основных компонентов, используемые нейросетевые каналы данных для связи сущностей и их компонентов. Проанализирована область применения нейросетевой архитектуры.

The problem of process automation for the development of information systems based on the application of the original neural network architecture is considered. An analysis of existing approaches to the automation of information systems design is carried out. Recommendations for the information systems architecture, aimed at reducing the negative impact of human factor, are formulated. A general concept of neural network architecture in the form of a structural model is presented. Definitions of the main entities and components are given. The key differences of the neural network architecture are: the independence of the key entities of information systems and the possibility of automation of their design and interaction based on the use of neural networks; isolation of the mathematical software of architecture; separation of models of information processes and functional elements from control systems and information representation systems; taking into account the influence of the environment on the processes of movement of information flows, the elements of control and system visualization; the possibility of adapting structural units of information systems to the characteristics of the subject area, the parameters of user equipment without the need to make significant changes to the architecture. The concept of a neural network data channel, its structure and generalized mathematical software are considered. The decomposition of the structural mode is implemented. The structural diagrams of each entity of the neural network architecture of information systems, the description of the main components, the neural network data channels used to connect the entities and their components are presented. The scope of application of the neural network architecture is analyzed.