Zamonaviy dunyoda ilm-fan va texnologiya 5-jild logy-son (2026) · 52–54-betlar

НЕЙРОННЫЕ СЕТИ НА ОСНОВЕ АРХИТЕКТУРЫ TRANSFORMER В ЗАДАЧАХ ДИНАМИЧЕСКОГО КРЕДИТНОГО СКОРИНГА

Шухратова, М.И.

DOI: 10.5281/zenodo.20773021 · Manbada o'qish → · PDF (manba serverida)

Annotatsiya

Архитектура Transformer, первоначально разработанная для задач обработки естественного языка, демонстрирует высокую эффективность при анализе последовательных финансовых данных. В отличие от рекуррентных нейронных сетей (LSTM, GRU), механизм само-внимания (self-attention) позволяет модели одновременно учитывать зависимости между удалёнными во времени событиями без проблемы затухающего градиента. Применительно к кредитному скорингу это означает возможность анализа долгосрочных паттернов транзакционной активности: сезонности расходов, циклических изменений остатков на счетах и отклонений от типичного финансового поведения клиента. Специализированные архитектуры — TabTransformer и FT-Transformer — адаптированы для работы с табличными финансовыми данными и демонстрируют значения ROC-AUC в диапазоне 0.90–0.94 на стандартизированных банковских датасетах, превышая показатели LSTM на 4–7%.

Metadata manbasi: jurnal OAI-PMH arxivi · Sindex to'liq matnni saqlamaydi, manbaga havola beradi.