В новом исследовании, опубликованном в журнале Physical Review Letters , исследователи использовали машинное обучение для обнаружения нескольких новых классов двумерных запоминающих устройств — систем, способных надежно хранить информацию, несмотря на постоянный шум окружающей среды.
Результаты показывают, что надежное хранение информации значительно богаче, чем считалось ранее.
На протяжении десятилетий ученые считали, что существует, по сути, один способ достижения надежной памяти в таких системах — механизм, открытый в 1980-х годах и известный как правило Тума.
Все ранее известные двумерные запоминающие устройства с локальными параметрами порядка представляли собой вариации этой единственной схемы. Проблема заключается в огромном масштабе возможностей.
Количество потенциальных правил локального обновления для простого двумерного клеточного автомата астрономически велико, намного превышает предполагаемое число атомов в наблюдаемой Вселенной.
Поэтому традиционные методы обнаружения посредством исчерпывающего поиска или ручного проектирования непрактичны в таком масштабе. Данное исследование посвящено фундаментальной проблеме на стыке неравновесной физики, сложных систем, отказоустойчивых вычислений и обработки биологической информации.
В нем рассматривается вопрос о том, как система, состоящая из множества простых, локально взаимодействующих частей, может коллективно защитить информацию от деградации.
Издание Phys.org побеседовало с Адитьей Бхардваджем, аспирантом Института квантовой информации и материи Калифорнийского технологического института, и Натаниэлем Селубом, аспирантом-физиком Калифорнийского университета в Беркли, соавторами исследования.
«Большим источником вдохновения для нас стало то, как природные системы надежно хранят информацию даже в шумной или неблагоприятной среде, используя лишь простые локальные взаимодействия», — пояснил Бхардвадж.
«Изначально мы задавались вопросом, могут ли подобные механизмы быть полезны для квантовых вычислений, где главная задача — защита чрезвычайно хрупкой квантовой информации от постоянного шума и ошибок».
Чтобы понять, как работают эти воспоминания, сначала нужно понять, что делает хранение информации в шумных, локально взаимодействующих системах таким сложным.
Проблема памяти, состоящей из множества тел Многочастичные запоминающие устройства возникают, когда локальная неравновесная динамика многочастичной системы сохраняет информацию о своем начальном состоянии в течение очень длительного времени, даже в условиях шума.
В данном случае эта информация представляет собой один бит, хранящийся в общей намагниченности.
Известный пример — магнит, где один бит кодируется тем, выровнены ли большинство микроскопических спинов в одном или другом направлении.
«В условиях неравновесия сложность заключается в том, что окружающая среда постоянно вносит ошибки в систему, — сказал Селуб.
— Более того, поскольку динамика локальна, нет центрального управляющего механизма, который мог бы «проанализировать все состояние» и исправить его; корректировка должна исходить исключительно из взаимодействий между соседними элементами».
В рассматриваемых в данном исследовании моделях информация хранится в знаке намагниченности двумерной решетки спинов.
Каждый узел взаимодействует только со своими соседями и обновляется в соответствии с фиксированным локальным правилом, в то время как шум постоянно меняет направление спинов и может отдавать предпочтение одной ориентации перед другой.
Система должна автономно обнаруживать и исправлять ошибки посредством своей локальной динамики, даже когда возмущения носят предвзятый или структурированный характер, а не являются чисто случайными.
За пределами правления Тума Правило Тума работает следующим образом: каждая ячейка многократно обновляется в соответствии с большинством голосов определенных соседей, расположенных по треугольной схеме.
Небольшие области ошибок смещаются в предпочтительном направлении и постепенно размываются, пока не исчезнут.
В качестве первого шага исследователи математически доказали, что треугольная геометрия Тума не является единственной.
Они показали, что многие асимметричные правила голосования по большинству голосов, в которых каждая ячейка получает большинство голосов над выбранным несимметричным подмножеством соседей, также функционируют как надежные запоминающие устройства при синхронных обновлениях.
Изменение формы области голосования меняет способ эрозии областей ошибок. Различные асимметричные расположения отсекают миноритарные области в разных направлениях, что приводит к различным геометрическим схемам коррекции ошибок.
Наиболее неожиданные открытия были сделаны с помощью машинного обучения.
Нейронные клеточные автоматы раскрывают скрытые механизмы «Вместо того чтобы вручную проектировать клеточные автоматы, мы использовали нейронные клеточные автоматы в качестве дифференцируемого, обучаемого представления локальных правил обновления», — пояснил Бхардвадж.
«Мы представили правило клеточного автомата в виде небольшой нейронной сети, которая принимает на вход информацию о соседних клетках и выдает их следующее состояние.
Это превращает поиск правил, сохраняющих память, из комбинаторной задачи в задачу машинного обучения».
Нейронные сети обучались с использованием градиентного спуска с функцией потерь, которая напрямую вознаграждает сохранение памяти в условиях шума. Система начинает работу в одном из двух состояний, кодирующих бит, развивается в соответствии с изученным правилом и получает штраф, если забывает, в каком состоянии она начала работу.
В ходе 1000 тренировочных запусков с различными случайными инициализациями 37 клеточных автоматов пришли к устойчивой памяти.
Примечательно, что ни один из них не использовал голосование по большинству голосов и не был симметричным, а все исправляли ошибки с помощью качественно иных механизмов, отличных от правила Тума.
«Некоторые механизмы вообще не зависят от голосования большинством, некоторые работают без симметрий, от которых зависит правило Тума, а другие фактически стабилизируются шумом, а не разрушаются им», — сказал Селуб.
«Машинное обучение выявило новые механизмы памяти, которые мы, вероятно, не обнаружили бы с помощью традиционного аналитического мышления».
Колебания как характерная черта Пожалуй, наиболее нелогичным открытием стал класс запоминающих устройств, для нормального функционирования которых необходим шум.
В таких случаях динамика без шума имеет экспоненциальное количество долгоживущих конфигураций: система может застрять в «замороженных» локальных шаблонах ошибок, которые правило обновления не может надежно устранить.
При умеренном уровне шума случайные переключения приводят систему к выходу из этих застывших состояний, позволяя локальному правилу вернуть ее в одно из двух запланированных состояний памяти.
«Физически, „требование шума“ означает, что система ведет себя не как стандартная память, где уменьшение шума всегда улучшает производительность», — объяснил Бхардвадж.
«В нашем случае, в пределе нулевого шума, динамика может застрять во множестве долгоживущих, замороженных конфигураций — локальных шаблонах ошибок, которые правило обновления не может надежно устранить».
Авторы также обнаружили, что стандартная теория среднего поля, которая пренебрегает флуктуациями, предполагая, что все участки видят только среднюю среду, совершенно не способна предсказать упорядоченные фазы некоторых из усвоенных правил.
Расчеты в рамках теории среднего поля предполагают, что эти «памяти» должны быть нестабильными; однако полная динамика остается упорядоченной и сохраняет информацию.
Это указывает на новый тип упорядочения, стабилизированного флуктуациями, отличающийся от традиционного «упорядочения по беспорядку», где шум и локальные флуктуации являются неотъемлемой частью работы памяти, а не просто источником ошибок.
Последствия и направления дальнейших исследований Полученные результаты имеют непосредственное значение для квантовой коррекции ошибок, которая необходима для создания практических квантовых компьютеров.
«Правило Тума уже используется в качестве локальной подпрограммы в некоторых схемах квантовой коррекции ошибок, и наши результаты показывают, что существует множество альтернативных механизмов памяти с аналогичной или улучшенной устойчивостью», — сказал Селуб.
В настоящее время команда расширяет свой подход к машинному обучению на квантовые системы.
В ходе текущей работы они используют обучение с подкреплением для разработки локальной динамики, защищающей уязвимую квантовую информацию, адаптируя классическую стратегию к условиям с дополнительными квантовыми ограничениями.
Помимо квантовых вычислений, результаты указывают на более широкие принципы того, как устойчивое, сложное поведение может возникать в локально взаимодействующих системах.
Авторы рассматривают эти многочастичные памяти как простые примеры «гомеостаза», когда система постоянно противодействует шуму для поддержания хранимой информации, и предполагают, что определение момента первого появления такого устойчивого эмерджентного поведения остается открытой задачей для теории.
Рубрика: Технологии. Читать весь текст на android-robot.com.