Исследование скорости сходимости ускоренных блочных вариантов строчно-ориентированной формы регуляризованного алгоритма Качмажа
- Autores: 1
-
Afiliações:
- Самарский государственный технический университет
- Edição: Volume 1 (2025)
- Páginas: 183-184
- Seção: ЧАСТЬ I. Прикладная математика и математическое моделирование
- ##submission.dateSubmitted##: 15.05.2025
- ##submission.dateAccepted##: 30.05.2025
- ##submission.datePublished##: 02.11.2025
- URL: https://clinpractice.ru/osnk-sr2025/article/view/679742
- ID: 679742
Citar
Texto integral
Resumo
Обоснование. Классический алгоритм Качмажа и его регуляризованные модификации обладают предельно простой алгоритмической структурой, что делает их удобным инструментом для решения прикладных задач больших размерностей, таких как обработка изображений, машинное обучение и восстановление сигналов. Однако, несмотря на концептуальную ясность и вычислительную доступность, эти алгоритмы страдают низкой скоростью сходимости.
Цель — разработка, исследование и программная реализация ускоренных блочных вариантов строчно-ориентированной формы регуляризованного алгоритма Качмажа.
Методы. Для регуляризованной формы алгоритма Качмажа ключевым этапом является вычисление псевдообратной матрицы, что определяет общую вычислительную сложность метода. В работе [1] используется итерационный алгоритм Бен-Израэля для вычисления псевдообратной матрицы:
(1)
Этот метод учитывает специфическую структуру расширенной матрицы системы [2] и позволяет эффективно использовать современные высокопроизводительные вычислительные платформы.
Рассмотрим методы ускорения процедуры вычисления псевдообратной матрицы. Так, Тутуниан и Солеймани [3] предложили метод четвертого порядка, требующий пять операций умножения матриц:
. (2)
Кришнамурти и Сен [3] представили альтернативный метод четвертого порядка, включающий четыре операции умножения матриц:
. (3)
Другим эффективным способом ускорения сходимости алгоритма является этап препроцессинга. Линейную систему можно преобразовать в эквивалентную систему . При этом матрица определяется как:
,
где — матрица Адамара, — диагональная матрица размером , элементы которой случайным образом принимают значения .
Результаты. На рис. 1 представлены графики сравнения времени вычисления псевдообратной матрицы для методов (1)–(3), примененных к матрице на CPU и GPU.
Рис. 1. Тестовая задача c матрицей
На рис. 2 приведены графики, демонстрирующие сравнение относительной ошибки и времени выполнения классического алгоритма и его версии с препроцессингом для матрицы .
Рис. 2. Тестовая задача c матрицей . Число блоков 4
Выводы. Анализ методов ускорения вычислительного процесса показывает, что применение методов (2) и (3) обеспечивает лишь умеренное сокращение времени вычисления псевдообратной матрицы, но требует дополнительных вычислительных ресурсов. Это ограничивает их эффективность при обработке больших объемов данных и высокоразмерных систем. Напротив, алгоритм с этапом препроцессинга демонстрирует существенное преимущество, снижая время выполнения расчетов в 14,5 раз. Этот результат подтверждает, что предварительная обработка данных и оптимизация вычислительных структур играют ключевую роль в повышении скорости работы алгоритма.
Texto integral
Обоснование. Классический алгоритм Качмажа и его регуляризованные модификации обладают предельно простой алгоритмической структурой, что делает их удобным инструментом для решения прикладных задач больших размерностей, таких как обработка изображений, машинное обучение и восстановление сигналов. Однако, несмотря на концептуальную ясность и вычислительную доступность, эти алгоритмы страдают низкой скоростью сходимости.
Цель — разработка, исследование и программная реализация ускоренных блочных вариантов строчно-ориентированной формы регуляризованного алгоритма Качмажа.
Методы. Для регуляризованной формы алгоритма Качмажа ключевым этапом является вычисление псевдообратной матрицы, что определяет общую вычислительную сложность метода. В работе [1] используется итерационный алгоритм Бен-Израэля для вычисления псевдообратной матрицы:
(1)
Этот метод учитывает специфическую структуру расширенной матрицы системы [2] и позволяет эффективно использовать современные высокопроизводительные вычислительные платформы.
Рассмотрим методы ускорения процедуры вычисления псевдообратной матрицы. Так, Тутуниан и Солеймани [3] предложили метод четвертого порядка, требующий пять операций умножения матриц:
. (2)
Кришнамурти и Сен [3] представили альтернативный метод четвертого порядка, включающий четыре операции умножения матриц:
. (3)
Другим эффективным способом ускорения сходимости алгоритма является этап препроцессинга. Линейную систему можно преобразовать в эквивалентную систему . При этом матрица определяется как:
,
где — матрица Адамара, — диагональная матрица размером , элементы которой случайным образом принимают значения .
Результаты. На рис. 1 представлены графики сравнения времени вычисления псевдообратной матрицы для методов (1)–(3), примененных к матрице на CPU и GPU.
Рис. 1. Тестовая задача c матрицей
На рис. 2 приведены графики, демонстрирующие сравнение относительной ошибки и времени выполнения классического алгоритма и его версии с препроцессингом для матрицы .
Рис. 2. Тестовая задача c матрицей . Число блоков 4
Выводы. Анализ методов ускорения вычислительного процесса показывает, что применение методов (2) и (3) обеспечивает лишь умеренное сокращение времени вычисления псевдообратной матрицы, но требует дополнительных вычислительных ресурсов. Это ограничивает их эффективность при обработке больших объемов данных и высокоразмерных систем. Напротив, алгоритм с этапом препроцессинга демонстрирует существенное преимущество, снижая время выполнения расчетов в 14,5 раз. Этот результат подтверждает, что предварительная обработка данных и оптимизация вычислительных структур играют ключевую роль в повышении скорости работы алгоритма.
Sobre autores
Самарский государственный технический университет
Autor responsável pela correspondência
Email: sad17052001@gmail.com
студент, группа 2-ИАИТ-110М, институт автоматики и информационных технологий
Rússia, СамараBibliografia
- Derezinski M., Needell D., Rebrova E., Yang J. Randomized Kaczmarz Methods with Beyond-Krylov Convergence. 2025. 41 p. doi: 10.48550/arXiv.2501.11673
- Сидоров Ю.В. Итерационные методы регуляризации в регрессионном моделировании и обработке цифровых данных. Самара, 2022. 120 с. EDN: NVMJOI
- Esmaeili H., Erfanifar R., Rashidi M. A fourth-order iterative method for computing the moore-penrose inverse // Journal of Hyperstructures. 2017. Vol. 6, N 1. P. 52–67.
Arquivos suplementares





