Секция посвящена проблемам вероятности, статистики и оптимизация
В статье исследован универсальный метод градиентного типа для задач выпуклой минимизации с относительной точностью, а также получены новые результаты о линейной скорости сходимости специальных вариантов субградиентного метода для задач с острым минимумом и некоторыми обобщениями выпуклости.
В данном докладе авторы представляют первый неточный и ускоренный неточный тензорные методы, анализируют их скорости сходимости. При определенный предположениях на неточность эти методы сходятся как их точные версии. Как следствие, авторы предлагают стохастические тнзорные методы и анализируют размер мини-батча для производных каждого порядка.
Данная статья посвящена анализу метода оптимального субградиентого спуска, предлженного в статье [Lacoste-Julien et al., 2012]. Производится уточнение полученных оценок в адаптивной форме, также производится перенос результатов на случай вариацонных неравенств в относительно-ограниченных и относительно выпуклых требованиях к операторам.
В данной работе рассмотрен агрегированный моментный градиентный метод, который является простым обобщением классических моментных градиентных методов таких как метод Нестерова, метод тяжелого шарика Поляка. Данный метод является легко реализуемым, имеет незначительные вычислительные затраты и отлично подходит для задач глубокого обучения. Он значительно уменьшает колебания и остаётся стабильным даже при больших значениях $$\beta$$.
В работе изучается применение методов выпуклой оптимизации с целью решения задачи Коши для уравнения Гельмгольца. Некорректно поставленная задача Коши сводится к задаче выпуклой оптимизации в гильбертовом пространстве. Экспериментально исследуется сходимость применяемых быстрых градиентных методов и качество получаемого решения. Формулируется теорема о вычислительной сложности полученного алгоритма. Определяется, что неточность вычислений более адекватно описывается аддитивной концепцией шума.
Рассматривается задача выпуклой стохастической оптимизации относительно произвольной (не обязательно евклидовой) нормы. Проводится анализ существующих оценок сходимости по математическому ожиданию и в терминах
больших уклонений на предмет применимости для более широкого класса
норм. В рассматриваемых оценках скорости изучается, какие условия являются ключевыми для получения результата, а какие можно ослабить.
In this paper, we consider the formulation of the federated learning problem that is relevant to decentralized personalized federated learning. This formulation is widespread in the literature and represents the minimization of local losses with regularization taking into account the communication network. First of all, we give lower bounds for the considered problem in different regularization regimes. We also constructed an optimal algorithm that matches these lower bounds.
В данной работе исследуется метод максимальной энтропии (MAXENT) в байесовской системе, предполагая, что распределение неизвестных вероятностей задано по Дирихле. В частности, MAXENT сравнивался с регуляризованным методом максимального правдоподобия и с байесовской оценкой. Выяснилось, что MAXENT может дать хорошие результаты в случаях, когда он применяется к разреженным данным при условии, что есть определенные типы предварительной информации.
Хорошо известно, что ускоренные градиентные методы первого порядка достигают оптимальных оценок классе гладких выпуклых задач. Во многих практических задачах мы имеем дело с невыпуклыми классами задач. Также в некоторых ситуациях имеет смысл воспользоваться неточным градиентом. В данной работе мы представляем анализ некоторых градиентных методов с неточностью в градиенте для задач минимизации квазар-выпуклых функций.
В докладе рассматривается модификация случайных блужданий на графе, в которой к исходному графу добавляется новая вершина – резервуар, подсоединенный ребром к каждой вершине. Граф большого размера может быть рассмотрен как «атлас» из графов с резервуарами. Преимуществом графа с резеруаром является наличие на нем эвклидовой структуры. Это позволяет применять для приблизительного рассчета распределения при случайных блужданиях методы, известные из других теорий.
В работе выведено аналитическое представление одного страта экстремальных коположительных матриц размера 7 на 7, что является промежуточным результатом в исследовании алгоритма генерации экстремальных коположительных матриц произвольной размерности.
В данном исследовании мы произвели сравнение различных алгоритмов машинного обучения (как классических, так и более прогрессивных, высокоинтеллектуальных) для решения актуарной задачи по определению размеров премии по различным договорам страхования жизни.
В работе рассматривается вычисление функции надежности для модели системы с резервированием в общей ситуации, когда в системе производится резервирование в нагруженном режиме, а также дополнительное резервирование в ненагруженном режиме. Приведено точное аналитическое выражение для функции надежности для предлагаемой модели системы.
Исследование посвящено формульной характеризации свойств нетранзитивной логики знания с универсальной модальностью LTK.slU
Это и дальнейшие исследования могут быть полезны в актуальных вопросах проектирования и верификации информационных систем, задействующих компоненты времени и знаний.