Промышленные АСУ и контроллеры Аннотация к статье << Назад Метод выявления шаблонов проектирования с использованием языковой модели на архитектуре трансформера и контрастивного обучения Асаад Жамилех, Авксентьева Е.Ю. В данном исследовании предлагается метод обнаружения шаблонов проектирования программного обеспечения с использованием трансформерных языковых моделей, контрастивного обучения и классификации на основе пороговых значений. Набор данных формируется на основе корпуса DPDAtt и включает 1 645 размеченных файлов на языке Java, охватывающих 13 шаблонов проектирования GoF. Модель CodeT5 генерирует контекстуализированные векторные представления (эмбеддинги), которые фиксируют синтаксические и семантические свойства кода. Контрастивное обучение применяется для обучения этих эмбеддингов, обеспечивая сближение схожих шаблонов и разделение различных, с использованием ранней остановки для предотвращения переобучения. Были исследованы четыре методические вариации. В коде 1 использовалась простая проекционная сеть с генерацией пар «на лету». В коде 2 введена предварительная генерация пар и классификация на основе пороговых значений. Код 3 объединял шаблоны в категории «Поведенческие», «Порождающие», «Структурные» и «Неопределённые». Код 4 сочетал сбалансированную генерацию пар, раннюю остановку, пороговую классификацию и категориальное группирование, демонстрируя наилучшие результаты: точность 87,1 % и макро F1-метрика 81,7 %. Предложенный подход обеспечивает надежную классификацию основных шаблонов проектирования, эффективно обрабатывая неизвестные или неоднозначные шаблоны. Эмбеддинги трансформера предоставляют богатые контекстные представления, контрастивное обучение гарантирует осмысленное разделение шаблонов, а пороговая классификация позволяет выявлять редкие шаблоны. В целом данная методология повышает как точность, так и устойчивость обнаружения шаблонов проектирования программного обеспечения. В будущих исследованиях предполагается улучшение работы с редкими шаблонами с использованием полу-супервизированного обучения или адаптивных пороговых значений. Ключевые слова: выявление шаблонов проектирования, языковые модели, архитектура трансформера, контрастивное обучение, автоматический анализ кода, машинное обучение. DOI: 10.25791/asu.10.2025.1616 Стр. 20-23.