アルゴリズムの実際の計算をもう少し詳しくみていきます。
が成り立つかどうかの計算をみていきます。
まず、この式はがreductionの最終結果がxのみの多項式で分母と分子があるということを意味します。
lは奇数なのでにはyは入らないです。
そして、で割り切れるかどうかを調べる場合、分母は必要なく、分子の多項式だけ調べればよいです。
は2つの点を加算したものです。点の加算公式で、の場合、
です。
1つめの点は
2つめの点は
したがって、 となります。
分母を揃えると、 となります。
残りはフロベニウス写像部分ですが、次のようになります。
したがって、
分母を揃えて分子だけを取り出すと次のようになります。
このx, yの多項式を計算して、でreductionしていくと、yの変数は消えるので、
それがで割り切れるかどうか、つまりgcdが1でないかどうかを計算します。