Подходы к реализации алгоритмов машинного обучения в парадигме квантовых вычислений

В статье проанализированы подходы к реализации алгоритмов квантового машинного обучения в эпоху «зашумлённых» квантовых вычислений и выработаны рекомендации к их эффективному использованию применительно к практическим задачам. Также были выявлены сложности на пути их реализации и способы их решения.

Ключевые слова: квантовые вычисления, квантовое машинное обучение, квантовые нейронные сети, вариационные квантовые схемы, квантовые алгоритмы.

На сегодняшний день, все большее количество организаций, занимающимися различными сферами деятельности, как минимум задумываются об внедрении самообучающихся информационных систем. Это вызвано тем, что с дальнейшим развитием информационного общества происходит увеличение количества данных, которые генерирует человечество. Данный факт заставляет задуматься о методах ее обработки и принятия решений на основании получившихся результатов, что приводит к необходимости разработки и внедрения самообучающихся информационных систем. Развитие искусственного интеллекта предоставляет современные и инновационные инструменты, автоматизирующие множество сфер нашей жизни, что влияет на результативность как отдельного человека, так и работы предприятия, а также функционирования общества как такового. Основными инструментами для реализации самообучающихся интеллектуальных систем выступают алгоритмы машинного обучения, позволяющими автоматизировать процесс принятия решений на основании больших массивов информации. В то же время возникает вопрос о вычислительных мощностях для ее обработки. В силу ресурсоемкости алгоритмов машинного обучения возникает проблема достижения пределов, установленных законом Мура. Одним из путей решения данной проблемы является развитие квантовых вычислений, так как в силу физических особенностей они открывают дорогу к решению задач, которые невозможно было реализовать на обычных компьютерах в силу алгоритмической неразрешимости.

В основе квантовых вычислений лежит использование явлений квантовой механики для осуществления операций над квантовыми объектами, соединенными в квантовую систему. В частности, используется принцип суперпозиции, который гласит о вероятностной природе состояния квантового объекта. Математически это можно представить в виде кубита.

Кубит — базовая единица квантовой информации, которая является квантовой системой с двумя возможными состояниями. В своих граничных состояниях он реализует похожие на 0 и 1 состояния |0> и |1>, а в суперпозиции представляет собой вероятностное распределение над своими граничными состояниями |0> и |1> [1]:

a|0> + b|1>, такое, что a^2+b^2=1 (1)

a и b при этом представляют собой амплитуды вероятностей, а квадраты их модулей — собственно вероятности получить именно такие значения граничных состояний |0> и |1>, если провести измерение состояния кубита прямо сейчас. Другими словами — это двумерное комплексное пространство.

В такой системе можно выполнять унитарные преобразования пространства состояний системы. С точки зрения геометрии такие преобразования — прямой аналог вращения и симметрии обычного трехмерного пространства, что проиллюстрировано на рисунке 1. Согласно принципу суперпозиции, возможно складывать состояния, вычитать их и умножать на комплексные числа. Эти состояния образуют фазовые пространства. При объединении двух систем полученное фазовое пространство будет их тензорным произведением, что будет эквивалентно квантовому регистру. Эволюция системы в фазовом пространстве описывается унитарными преобразованиями фазового пространства.

Исходя из вышеописанного, можно выделить следующие преимущества квантовых вычислений применительно к машинному обучению:

– квантовый параллелизм, позволяющий оперировать одновременно двумя состояниями кубита, что невозможно в классических вычислениях. Стоит отметить, что с увеличением количества кубитов происходит экспоненциальный рост количества состояний, доступных для операций с ними;

– квантовые компьютеры в теории обладают вычислительным преимуществом для классификации объектов по n-мерным измерениям.

– снижение алгоритмической сложности некоторых операций по сравнению с классическими аналогами. Например, алгоритм Гровера позволяет найти необходимые данные в озере данных в несколько раз быстрее за счет оперирования сразу несколькими состояниями одновременно [1].

На данном этапе развития аппаратной части квантовых компьютеров удалось достичь количества кубит, достаточного для достижения квантового превосходства (от 50 до нескольких сотен), но ценой недостаточной защиты от шумов, что приводит к следующим проблемам, влияющим на применимость квантовых алгоритмов:

– ограниченное время когеренции. Это означает, в течение определенного времени происходит распад квантовой запутанности в кубитах, что приводит к ограничению по времени работоспособности квантовых алгоритмов. Данное явление вызвано крайней нестабильностью кубитов в состоянии суперпозиции любых внешних воздействий. Особенно это критично для обучения нейронных сетей.

– универсальность квантовых компьютеров обратно пропорциональна количеству кубит в нем. Это объясняется тем, что системы с большим количеством кубит имеют свойство распадаться быстрее, чем с меньшим в силу сложности процесса запутывания и удержания в нужном состоянии большого количества квантовых объектов одновременно.

– проблематичность обработки большого количества данных без использования обычного компьютера в связке с квантовым.

Вышеперечисленные факты накладывают следующие требования к квантовым алгоритмам, используемым на практике:

– количество кубит, требующихся для реализации квантового алгоритма, должно быть максимально минимальным.

Алгоритмы квантового машинного обучения можно разделить на 2 категории: алгоритмы, выполняющиеся только на квантовом компьютере и гибридные алгоритмы, использующие классические компьютеры для вычислений. Для лучшего понимания гибридных алгоритмов необходимо обратиться к такому понятию, как вариационная квантовая схема (VQC). Ее основная идея заключается в подборе параметров квантовых операций таким образом, что в результате процесса измерения квантового состояния получался желаемый результат для закодированного набора данных. Таким образом возможно реализовать такие алгоритмы, как метод опорных векторов (SVM), вариационный алгоритм поиска собственных значений матрицы (VQE), вариационный алгоритм поиска решений системы линейных уравнений (VQLS), алгоритмы снижения размерности, а также нейронные сети, включая сверточные. Стоит отметить, что алгоритмическая сложность некоторых гибридных алгоритмов может быть выше по сравнению с чисто квантовыми алгоритмами. Например, алгоритмическая сложность SVM с использованием оптимизации алгоритмом Гровера равна O(log(Nd)), а с использованием VQC — вплоть до O(n^2) [2]. Это является недостатком, но данный момент на практике не имеет значения в силу степени развития аппаратной части. Это компенсируется тем, что существует возможность спроектировать несколько вариационных квантовых схем и скомбинировать их между собой. Например, снизить размерность набора данных квантовым алгоритмом и использовать получившийся результат в качестве входных данных для нейронной сети.

Говоря об нейронных сетях в контексте гибридных алгоритмов, необходимо заметить, что возможны 2 подхода при проектировании: создание вариационной схемы для всей нейросети или использование квантовых слоев в обычной нейронной сети (проиллюстрировано на рисунке 2).

Рис. 2. Пример гибридной нейронной сети [3]

В силу того, что расчет весовых коэффициентов происходит на обычном компьютере, то существует возможность использовать метод обратного распространения ошибки, широко использующийся при обучении классических нейронных сетей. Но потенциальные преимущества квантовых вычислений нивелируются проблемой «бесплодного плато», сводящегося к экспоненциальному уменьшению значения градиента при обучении модели, что приводит к невозможности ее обучить. Это приводит к тому, что не всякая архитектура нейронных сетей, реализуемая на классических компьютерах, может быть использована в квантовых аналогах. Скорость исчезновения градиента напрямую зависит от количества кубитов и размера схемы. Кроме того, использование безградиентных методов оптимизации не способно решить проблему «бесплодного плато» [4]. Существуют следующие пути обхода данного препятствия:

– уменьшение размера схемы и количества используемых кубитов

– уменьшение размерности набора данных

– обучение с подкреплением, в основе которого лежит квантовая функция потерь, что приводит к снижению средней ошибки квантового вентиля

– инициализация нейронной сети с использованием байесковсих методов [5].

Исходя из вышеописанного, можно сформулировать следующие рекомендации:

– в эпоху «зашумленных» квантовых вычислений практическая выгода от чистых квантовых алгоритмов может быть ниже, чем в теории.

– наиболее оптимальным подходом реализации алгоритмов квантового машинного обучения являются вариационные квантовые схемы.

– нейронные сети с квантовыми слоями имеют большую обучаемость, чем полностью квантовые нейронные сети

– сверточные нейронные сети являются наиболее перспективными в силу доказанной обучаемости

– сложные квантовые схемы проигрывают по устойчивости более простым.

Литература:

1. Нильсен М., Чанг. И. Квантовые вычисления и квантовая информация / Нильсен М., Чанг. И. — Москва: Мир, 2006.
2. D. V. Fastovets, Yu.I. Bogdanov, B. I. Bantyshab, V. F. Lukicheva. Machine learning methods in quantum computing theory. [Электронный ресурс]. Режим доступа: свободный. https://arxiv.org/ftp/arxiv/papers/1906/1906.10175.pdf (дата обращения 05.03.2022);
3. Hybrid quantum-classical Neural Networks with PyTorch and Qiskit. [Электронный ресурс]. Режим доступа: свободный. https://qiskit.org/textbook/ch-machine-learning/machine-learning-qiskit-pytorch.html (дата обращения 05.03.2022);
4. Andrew Arrasmith, M. Cerezo, Piotr Czarnik, Lukasz Cincio, Patrick J. Coles. Effect of barren plateaus on gradient-free optimization [Электронный ресурс] // arXiv.org. 2021. Дата обновления: 04.12.2021. URL: https://arxiv.org/abs/2203.02464 (дата обращения: 28.04.2022)
5. Ali Rad, Alireza Seif, Norbert M. Linke. Surviving The Barren Plateau in Variational Quantum Circuits with Bayesian Learning Initialization [Электронный ресурс] // arXiv.org. 2022. Дата обновления: 04.03.2022. URL: https://arxiv.org/abs/2203.02464 (дата обращения: 22.04.2022)
6. Arthur Pesah, M. Cerezo, Samson Wang, Tyler Volkoff, Andrew T. Sornborger, Patrick J. Coles. Absence of Barren Plateaus in Quantum Convolutional Neural Networks [Электронный ресурс] // arXiv.org. 2021. Дата обновления: 04.12.2021. URL: https://arxiv.org/abs/2203.02464 (дата обращения: 22.04.2022)