Исследователи из Университета Васэда в Японии разработали математическую модель вычислений, вдохновившись поведением слизевиков, и показали, что она математически эквивалентна простой рекуррентной нейронной сети с фиксированными весами. Модель предназначена для решения сложных задач оптимизации. Работа опубликована в журнале Physical Review Research.

При этом речь не идет о создании компьютера из живого организма или о новой обучаемой нейросети. Исследователи использовали принципы, которые наблюдаются в поведении слизевиков, чтобы построить математическую систему, которую в дальнейшем потенциально можно реализовать с помощью физических процессов.

Почему ученых заинтересовали слизевики

Слизевики — необычные организмы, не имеющие мозга и нервной системы. Один из наиболее известных объектов таких исследований — Physarum polycephalum, или физарум многоглавый. На стадии плазмодия это одноклеточный многоядерный организм, который формирует сеть трубчатых каналов. Несмотря на отсутствие нервной системы, он способен перестраивать эту сеть в зависимости от расположения источников пищи и находить эффективные пути между ними.

Именно эта способность заинтересовала ученых: поведение слизевика можно рассматривать как пример обработки информации без привычного компьютера или центрального процессора. Исследователи уже много лет пытаются использовать подобные биологические принципы для создания новых методов вычислений.

В новой работе ученые не использовали живого слизевика непосредственно. Они разработали математическую модель, которая воспроизводит некоторые принципы такого поиска.

Задача — найти лучший маршрут

Одна из задач, для которых используют подобные подходы, — знаменитая задача коммивояжера.

Представим курьера, которому нужно посетить несколько десятков городов, побывать в каждом ровно один раз и вернуться в исходную точку. Требуется найти самый короткий маршрут.

На небольшом количестве городов перебрать варианты еще возможно. Но по мере роста их числа количество потенциальных маршрутов увеличивается настолько быстро, что обычный последовательный поиск становится крайне затратным.

Поэтому ученые ищут способы, при которых система может самостоятельно приближаться к хорошему решению, используя динамику самой вычислительной системы.

Как ученые упростили модель

Предыдущие математические модели, в которые заложены принципы поведения слизевиков, было трудно перенести в физические устройства. В них использовались ограничения, связанные с сохранением объема, многочисленные условные операции и сложные нелинейные функции, в том числе сигмоиды.

Авторы новой работы предложили более простую модель — Amoeba TSP recurrence formula model.

В ней исследователи убрали ограничения, связанные с сохранением объема, сократили количество используемых сигмоидальных функций и предложили использовать случайные величины с гауссовским распределением. Важный момент заключается в том, что такие случайные флуктуации потенциально можно получать из обычных тепловых колебаний физических систем.

По мнению авторов, это расширяет круг материалов и физических явлений, которые потенциально можно использовать для реализации подобных вычислений, а также позволяет уменьшить количество компонентов будущего устройства.

До 180 городов, но пока только в моделировании

В численных экспериментах новая модель показала лучшие характеристики поиска решения по сравнению с предыдущими моделями — в том числе по качеству найденных решений, скорости сходимости и масштабируемости.

Исследователи смогли использовать модель для задач с численностью до 180 городов.

Для сравнения, предыдущая улучшенная математическая модель охватывала примерно до 100 городов, а моделирование схемы физического устройства, реализующего более ранний вариант системы, было ограничено примерно 30 городами из-за значительных вычислительных затрат.

Здесь важно уточнить: 180 городов — результат численного моделирования математической модели, а не эксперимент с живым слизевиком и не демонстрация готового физического компьютера.

Не новая нейросеть, а математическая эквивалентность

Одним из наиболее интересных результатов работы стало обнаружение связи предложенной модели с рекуррентными нейронными сетями.

Исследователи показали, что их математическая модель эквивалентна рекуррентной нейронной сети с фиксированными весами, использующей нелинейную динамику.

Что это означает на практике? Рекуррентная нейросеть — это тип нейросети, в котором текущее состояние системы зависит от ее предыдущего состояния. Благодаря этому сеть может работать с процессами, которые развиваются во времени.

В предложенной исследователями модели происходит похожая последовательная динамика: состояние системы изменяется на каждом шаге, а взаимодействия между ее элементами определяются заданными весами.

При этом речь не идет об обучении нейросети. Веса здесь фиксированы и задают свойства самой задачи — например, расстояния между городами и ограничения, которым должен соответствовать маршрут.

От математической модели — к физическому компьютеру

Следующий шаг, который видят авторы, — физическая реализация такой системы.

В обычном компьютере вычисления выполняются электронными компонентами по заданным алгоритмам. В альтернативных архитектурах сам физический процесс может стать частью вычисления: например, изменения электрического заряда, магнитных состояний или других физических величин могут одновременно выполнять роль вычислительных операций.

Именно поэтому упрощение математической модели имеет значение. Чем меньше специальных операций и компонентов требуется для ее реализации, тем больше потенциальных физических систем можно рассматривать в качестве основы для такого вычислительного устройства.

Зачем это нужно искусственному интеллекту

Работа интересна не только как очередная попытка использовать биологические системы в вычислениях. Она показывает, что разные подходы к обработке информации — от поведения одноклеточного организма до математической модели нейросети — могут описываться схожими принципами.

Для сферы искусственного интеллекта это особенно интересно в контексте поиска альтернатив традиционным вычислительным архитектурам. Если удастся реализовать подобные алгоритмы непосредственно в физических системах, часть вычислений потенциально можно будет выполнять не последовательной обработкой инструкций на обычном процессоре, а за счет самой динамики физической системы.

Изображение: wikimedia.org

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!