Неформальный алгоритм сортировки файла с применением битового сжатия в языке программирования C++ | Статья в журнале «Молодой ученый»

Отправьте статью сегодня! Журнал выйдет 26 октября, печатный экземпляр отправим 30 октября.

Опубликовать статью в журнале

Автор:

Рубрика: Информационные технологии

Опубликовано в Молодой учёный №2 (344) январь 2021 г.

Дата публикации: 09.01.2021

Статья просмотрена: 385 раз

Библиографическое описание:

Визер, А. Н. Неформальный алгоритм сортировки файла с применением битового сжатия в языке программирования C++ / А. Н. Визер. — Текст : непосредственный // Молодой ученый. — 2021. — № 2 (344). — С. 12-14. — URL: https://moluch.ru/archive/344/77444/ (дата обращения: 17.10.2024).



В статье автор рассматривает сортировку файла при помощи битового массива на C++. А также сравнивает затраты оперативной памяти без использования битового массива.

Ключевые слова: алгоритм, сортировка, оперативная память, C++, битовое сжатие

Многие люди знают, как отсортировать массив, но довольно часто к этой задаче добавляются ограничения такие как малый объем памяти. Для эффективного использования памяти часто используются специфические типы данных или специальные алгоритмы. Цель данной статьи — показать один из методов оптимизации памяти при сортировке одномерного массива.

Постановка задачи:

Входные данные: Файл, содержащий не более n (n= ) целых положительных чисел, каждое из которых семизначное число, т. е. принадлежит диапазону [1000000…9999999] и среди них нет повторяющихся.

Результат: упорядоченный по возрастанию список чисел.

Ограничения:

  1. Оперативной памяти — приблизительно 2 Мб
  2. Дисковая память неограниченна
  3. Время выполнения программы — 10 секунд

Доказательство эффективности по памяти неформального алгоритма решения задачи:

Для начала рассмотрим алгоритм на небольшом количестве чисел.

Пусть имеется 20 целых чисел и их можно значения в диапазоне от 1 до 20 и их надо представить 20 битами. Последовательность чисел, вставляемая в битовую последовательность из 20 бит, будет такой {1, 2, 5, 9, 12, 8}. Сначала вся последовательность бит заполнена нулями. Биты в последовательности нумеруются с нуля.

Теперь создадим отображение, которое вставляет 1 в бит с номером, равным значению вставляемого числа, тогда получим следующую битовую последовательность: 011001001100100000000

Проведем небольшой сравнительный анализ приведенного примера:

Возьмем int8 как тип данных, в котором хранятся числа до обработки. Int8 имеет объем в 1 байт или 8 бит, чисел использовано 6 => 8*6 = 48 бит использовано в общем. Битовая строка, как описано выше, состоит из 20 бит и имеет такой же объем в оперативной памяти. Чем больше используется чисел и чем меньше строка, тем меньше памяти нам потребуется.

Докажем рентабельность этого алгоритма для поставленной задачи:

Изначальный тип данных для чисел будет int32, int16 слишком мал. Каждое число занимает 4 байта в памяти => *4 байта = 40 000 000 байт или 320 000 000 бит. 2 Мб это 2097152 байт или 16 777 216 бит. Очевидно, мы не можем воспользоваться простыми алгоритмами сортировки т. к. не хватит памяти.

Рассмотрим строку из бит. Она покрывает весь диапазон возможных чисел => ее использование возможно. 10 000 000 < 16 777 216 => программа так же удовлетворяет условию по памяти. Из всего вышесказанного можно сделать вывод, что данный алгоритм удовлетворяет требованиям задачи и его эффективность доказана.

Алгоритм решения:

В качестве файла с данными будет использован файл gen.txt, в качестве выходного файла будет out.txt. Сама сортировка будет происходить уже при выводе информации т. к. будут рассматриваться ненулевые элементы битовой строки от наименьшего индекса к наибольшему. Для дополнительного понимания информации код будет прокомментирован в важных участках

Часть содержимого файла gen.txt до сортировки

Рис. 1. Часть содержимого файла gen.txt до сортировки

Код программы будет выглядеть так:

#include

#include

#include

#include

using namespace std;

const int N = 10000000;

int main() {

//строка битов

auto * bitset = new std::bitset (0);

//поток ввода-вывода

fstream inout;

inout.open(«gen.txt»);

int k;

for (int i = 0; i < N; i++){

inout >> k;

//назначение индексу равному вводимому в битовой строке значения 1

bitset->set(k); }

inout.close();

inout.open(«out.txt»);

for (int i = 0; i < N; i++){

//вывод индекса в файл, если значение бита равно 1

if (bitset->test(i) == 1)

inout << i << " ";

}

inout.close();

}

Часть содержимого файла out.txt после сортировки

Рис. 2. Часть содержимого файла out.txt после сортировки

Вывод:

Исследовав метод хранения информации битовым сжатием и проведя сравнительный анализ с обычным методом хранения информации, была доказана большая эффективность использования памяти во время сортировки массива, несмотря на простоту реализации.

Литература:

  1. bitset: класс-контейнер для хранения битов. — Текст: электронный // cppstudio: [сайт]. — URL: http://cppstudio.com/post/5765/ (дата обращения: 08.01.2021).
  2. Битовые маски. Динамическое программирование по маскам. — Текст: электронный // brestprog: [сайт]. — URL: https://brestprog.by/topics/bitmasks/ (дата обращения: 08.01.2021).
  3. Примеры использования битового сжатия. — Текст: электронный // acm.math.spbu: [сайт]. — URL: http://acm.math.spbu.ru/~sk1/mm/lections/2014–08–20-bits.pdf (дата обращения: 08.01.2021).
Основные термины (генерируются автоматически): оперативная память, бит, число, алгоритм, байт, битовая последовательность, битовая строка, битовое сжатие, битовый массив, содержимый файл.


Ключевые слова

алгоритм, сортировка, оперативная память, C++, битовое сжатие

Похожие статьи

Метод извлечения SAO-структур из текстовых источников

В данной работе предлагается метод для извлечения SAO структур из текстовых данных на основе семантических правил. Предложен алгоритм, который адаптирован для русского языка.

Применение векторизации слов для нечеткого поиска

В этой статье рассматриваются вопросы выполнения нечеткого поиска, извлечение семантики слов и применение векторной модели для расширения поиска. Изложены общие идеи при решении поставленной задачи, приводятся алгоритмы с их последующей реализацией и...

Особенности изучения линейного алгоритма на flowcode

В статье рассматривается линейный алгоритм на микроконтроллере с помощью Flowcode.

Оптимизация работы программы по скорости методами программирования без условных операторов

В статье приводится описание техники программирования без использования условных операторов. Такая техника позволяет минимизировать эффект ошибочного предсказания ветви процессора. Приводится сравнение скорости работы функций с условными операторами ...

Разбор многоступенчатой конвертации на примере форматов sb3 и exe

В данной статье рассматриваются многоступенчатая конвертация, а также «нестандартный» способ конвертации на примере проектов, написанных на языке Scratch, в exe файл.

Многопоточность в языке Swift

В статье рассмотрим основной способ выполнять код асинхронно, который используется в iOS приложениях. Подробно разобран основной функционал Grand Central Dispatch (GCD) и сценарии, в которых можно реализовать многопоточность с его помощью.

Реализация алгоритма Metaphone для кириллических фамилий средствами языка PL/SQL

В статье описан пример собственной реализации алгоритма формирования ключа MetaPhone для кириллических фамилий средствами языка PL/SQL

Анализ данных на Python

В статье автор подробно исследует аналитические возможности Python, уделяя внимание ключевым библиотекам и методам, которые делают этот язык таким мощным инструментом для работы с данными.

Параллелизм в С++ на примере библиотеки Pthread

В статье авторы рассматривают многопоточное программирование.

Реализация алгоритма поиска ближайших объектов с помощью K-D tree

В данной статье разработан алгоритм поиска ближайших объектов с помощью вспомогательной структуры, основанной на K-D tree, а также рассматривается приложение на языке Java, реализующее данный алгоритм.

Похожие статьи

Метод извлечения SAO-структур из текстовых источников

В данной работе предлагается метод для извлечения SAO структур из текстовых данных на основе семантических правил. Предложен алгоритм, который адаптирован для русского языка.

Применение векторизации слов для нечеткого поиска

В этой статье рассматриваются вопросы выполнения нечеткого поиска, извлечение семантики слов и применение векторной модели для расширения поиска. Изложены общие идеи при решении поставленной задачи, приводятся алгоритмы с их последующей реализацией и...

Особенности изучения линейного алгоритма на flowcode

В статье рассматривается линейный алгоритм на микроконтроллере с помощью Flowcode.

Оптимизация работы программы по скорости методами программирования без условных операторов

В статье приводится описание техники программирования без использования условных операторов. Такая техника позволяет минимизировать эффект ошибочного предсказания ветви процессора. Приводится сравнение скорости работы функций с условными операторами ...

Разбор многоступенчатой конвертации на примере форматов sb3 и exe

В данной статье рассматриваются многоступенчатая конвертация, а также «нестандартный» способ конвертации на примере проектов, написанных на языке Scratch, в exe файл.

Многопоточность в языке Swift

В статье рассмотрим основной способ выполнять код асинхронно, который используется в iOS приложениях. Подробно разобран основной функционал Grand Central Dispatch (GCD) и сценарии, в которых можно реализовать многопоточность с его помощью.

Реализация алгоритма Metaphone для кириллических фамилий средствами языка PL/SQL

В статье описан пример собственной реализации алгоритма формирования ключа MetaPhone для кириллических фамилий средствами языка PL/SQL

Анализ данных на Python

В статье автор подробно исследует аналитические возможности Python, уделяя внимание ключевым библиотекам и методам, которые делают этот язык таким мощным инструментом для работы с данными.

Параллелизм в С++ на примере библиотеки Pthread

В статье авторы рассматривают многопоточное программирование.

Реализация алгоритма поиска ближайших объектов с помощью K-D tree

В данной статье разработан алгоритм поиска ближайших объектов с помощью вспомогательной структуры, основанной на K-D tree, а также рассматривается приложение на языке Java, реализующее данный алгоритм.

Задать вопрос