Автоматизоване проєктування штучного нейрона для програмованих логічних інтегральних схем на основі алгебро-алгоритмічного підходу

Abstract

Нейромережеві системи керування є високотехнологічним напрямком теорії керування та відносяться до класу нелінійних динамічних систем. Висока швидкодія за рахунок розпаралелювання вхідної інформації в поєднанні зі здатністю до навчання нейронних мереж робить цю технологію вельми привабливою для створення пристроїв керування в автоматичних системах. Забезпечення швидкодії мереж у реальному часі здійснюється шляхом їх реалізації на програмованих логічних інтегральних схемах (ПЛІС). Одним із прикладів апаратної реалізації нейронних мереж є проєктування штучного нейрона та його нелінійних функцій активації. Технологія розробки додатків для ПЛІС ґрунтується на поданні алгоритму мовою опису апаратури, наприклад VHDL, і автоматичному перекладі цього опису в специфікацію на рівні логічних таблиць та інших функціональних компонентів інтегральних схем. Програмування мовою VHDL досить складне, тому постає питання про розробку спеціальних засобів автоматизації, які дозволили б ефективно генерувати високопродуктивний програмний код. У статті запропоновано засоби автоматизованого проєктування та генерації програм для ПЛІС, що ґрунтуються на алгебрі алгоритмів. Створені засоби застосовано для проєктування штучного нейрона. Розроблено метод конструювання штучного нейрона з сигмоїдальною функцією активації на ПЛІС, який відрізняється від аналогічних підходів тим, що коефіцієнти кусково-лінійної апроксимації функції активації зберігаються в пам’яті лише для додатних або лише для від’ємних значень аргументів. Це дозволило оптимізувати кількість використовуваних обчислювальних ресурсів і підвищити продуктивність нейронної мережі. Даний підхід застосовано для розробки системи з нейромережевим контролером для балансування кульки на платформі, реалізованим на ПЛІС.Neural network control systems are a high-tech area of control theory and belong to the class of nonlinear dynamic systems. High performance, achieved by parallel processing of input information, combined with the learning ability of neural networks, makes this technology highly attractive for creating control devices in automatic systems. Ensuring real-time network performance is achieved by implementing them on programmable logic integrated circuits (PLICs). One example of hardware implementation of neural networks is the design of an artificial neuron and its nonlinear activation functions. The technology for developing applications for PLICs is based on representing an algorithm in hardware description languages, such as VHDL, and automatically translating this description into specifications at the level of logic tables and other functional components of integrated circuits. Programming in VHDL is quite complex, which raises the need for developing specialized automation tools that would efficiently generate high-performance software code. The article proposes tools for automated design and code generation for PLICs based on algorithmic algebra. These tools were applied to the design of an artificial neuron. A method for constructing an artificial neuron with a sigmoid activation function on PLICs was developed, which differs from similar approaches by storing the coefficients of piecewise-linear approximations of the activation function in memory only for positive or only for negative argument values. This approach optimized the number of computational resources used and increased the neural network's performance. This method was applied to develop a system with a neural network controller for balancing a ball on a platform, implemented on a PLIC.