Реализовать редукцию Баррета в уместных местах.
https://en.wikipedia.org/wiki/Barrett_reduction
Нужно найти места где есть вычисление модуля и использовать Barret Reduction. Если нет тестов, для начала покрыть тестами, а только потом делать редукцию.