Проверка алгоритма на криптостойкость

[Utkin]

Показатели и оценки стойкости блочных шифров относительно статистических атак первого порядка
А.Н. Алексейчук, А.С. Шевцов

ОЦЕНКА СТОЙКОСТИ БЛОЧНЫХ АЛГОРИТМОВ ШИФРОВАНИЯ С ИСПОЛЬЗОВАНИЕМ ЛИНЕЙНОГО КРИПТОАНАЛИЗА Ищукова Е.А.

Intergal cryptanalysis. Интегральный криптоанализ — вид атак, особенно применимый к блочный шифрам, построенным на SP-сети. В отличие от дифференциального криптоанализа, использующего пару выбранного открытого текста с фиксированным разницей, вычисленной при помощи операции XOR, интегральный криптоанализ использует множества открытых текстов, в которых одни части удерживаются постоянными, в то время как другие варьируются среди всевозможных значений. Подобное множество с необходимостью имеет сумму по модулю 2 (XOR), равной 0, в то время, как соответствующая сумма шифротекста содержит информацию об операциях шифра.

Матан здесь: https://ru.wikipedia.org/wiki/Интегральный_криптоанализ

[Serge_Bliznykov]

Задача сложная и не тривиальная

Так как:
1) задача проверки математической модели требует и уровня знаний соответствующий и весьма-весьма затратна по силам/времени.

2) решения в виде готового алгоритма нет.
Это каждый раз уникальная творческая задача.

3) я ни разу не специалист, думаю, что в специальной литературе описываются методики криптоанализа. Вот их и нужно применить к вашему шифру.

p.s.
Utkin, браво!