Code coverage tests

This page documents the degree to which the PARI/GP source code is tested by our public test suite, distributed with the source distribution in directory src/test/. This is measured by the gcov utility; we then process gcov output using the lcov frond-end.

We test a few variants depending on Configure flags on the pari.math.u-bordeaux1.fr machine (x86_64 architecture), and agregate them in the final report:

The target is 90% coverage for all mathematical modules (given that branches depending on DEBUGLEVEL or DEBUGMEM are not covered). This script is run to produce the results below.

LCOV - code coverage report
Current view: top level - modules - ellsea.c (source / functions) Hit Total Coverage
Test: PARI/GP v2.8.0 lcov report (development 16912-212c0f0) Lines: 950 1010 94.1 %
Date: 2014-10-20 Functions: 63 66 95.5 %
Legend: Lines: hit not hit | Branches: + taken - not taken # not executed Branches: 403 534 75.5 %

           Branch data     Line data    Source code
       1                 :            : /* Copyright (C) 2008  The PARI group.
       2                 :            : 
       3                 :            : This file is part of the PARI/GP package.
       4                 :            : 
       5                 :            : PARI/GP is free software; you can redistribute it and/or modify it under the
       6                 :            : terms of the GNU General Public License as published by the Free Software
       7                 :            : Foundation. It is distributed in the hope that it will be useful, but WITHOUT
       8                 :            : ANY WARRANTY WHATSOEVER.
       9                 :            : 
      10                 :            : Check the License for details. You should have received a copy of it, along
      11                 :            : with the package; see the file 'COPYING'. If not, write to the Free Software
      12                 :            : Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA. */
      13                 :            : 
      14                 :            : /* This file is a C version by Bill Allombert of the 'ellsea' GP package
      15                 :            :  * whose copyright statement is as follows:
      16                 :            : Authors:
      17                 :            :   Christophe Doche   <cdoche@math.u-bordeaux.fr>
      18                 :            :   Sylvain Duquesne <duquesne@math.u-bordeaux.fr>
      19                 :            : 
      20                 :            : Universite Bordeaux I, Laboratoire A2X
      21                 :            : For the AREHCC project, see http://www.arehcc.com/
      22                 :            : 
      23                 :            : Contributors:
      24                 :            :   Karim Belabas (code cleanup and package release, faster polynomial arithmetic)
      25                 :            : 
      26                 :            : 'ellsea' is free software; you can redistribute it and/or modify it under the
      27                 :            : terms of the GNU General Public License as published by the Free Software
      28                 :            : Foundation. It is distributed in the hope that it will be useful, but WITHOUT
      29                 :            : ANY WARRANTY WHATSOEVER. */
      30                 :            : 
      31                 :            : /* Extension to non prime finite fields by Bill Allombert 2012 */
      32                 :            : 
      33                 :            : #include "pari.h"
      34                 :            : #include "paripriv.h"
      35                 :            : 
      36                 :            : static GEN modular_eqn;
      37                 :            : 
      38                 :            : void
      39                 :       1218 : pari_init_seadata(void)  { modular_eqn = NULL; }
      40                 :            : void
      41         [ +  + ]:       1186 : pari_close_seadata(void) { if (modular_eqn) gunclone(modular_eqn); }
      42                 :            : 
      43                 :            : static int
      44                 :      24334 : FqX_equal(GEN x, GEN y) { return gequal(x,y); }
      45                 :            : 
      46                 :            : static int
      47                 :       1601 : FlxX_equal(GEN x, GEN y) { return gequal(x,y); }
      48                 :            : 
      49                 :            : static char *
      50                 :         21 : seadata_filename(ulong ell)
      51                 :         21 : { return stack_sprintf("%s/seadata/sea%ld", pari_datadir, ell); }
      52                 :            : 
      53                 :            : static GEN
      54                 :         21 : get_seadata(ulong ell)
      55                 :            : {
      56                 :         21 :   pari_sp av=avma;
      57                 :            :   GEN eqn;
      58                 :         21 :   char *s = seadata_filename(ell);
      59                 :         21 :   pariFILE *F = pari_fopengz(s);
      60         [ -  + ]:         21 :   if (!F) return NULL;
      61         [ +  - ]:         21 :   if (ell==0)
      62                 :            :   {
      63                 :         21 :     eqn = gp_readvec_stream(F->file);
      64                 :         21 :     pari_fclose(F);
      65                 :         21 :     modular_eqn = gclone(eqn);
      66                 :         21 :     avma=av;
      67                 :         21 :     return gen_0;
      68                 :            :   } else {
      69                 :          0 :     eqn = gp_read_stream(F->file);
      70                 :          0 :     pari_fclose(F);
      71                 :         21 :     return eqn;
      72                 :            :   }
      73                 :            : }
      74                 :            : 
      75                 :            : /*Builds the modular equation corresponding to the vector list. Shallow */
      76                 :            : static GEN
      77                 :       6209 : list_to_pol(GEN list, long vx, long vy)
      78                 :            : {
      79                 :       6209 :   long i, l = lg(list);
      80                 :       6209 :   GEN P = cgetg(l, t_VEC);
      81         [ +  + ]:     133784 :   for (i = 1; i < l; i++)
      82                 :            :   {
      83                 :     127575 :     GEN L = gel(list,i);
      84         [ +  + ]:     127575 :     if (typ(L) == t_VEC) L = RgV_to_RgX_reverse(L, vy);
      85                 :     127575 :     gel(P, i) = L;
      86                 :            :   }
      87                 :       6209 :   return RgV_to_RgX_reverse(P, vx);
      88                 :            : }
      89                 :            : 
      90                 :            : struct meqn { char type; GEN eq; };
      91                 :            : 
      92                 :            : static int
      93                 :       6209 : get_modular_eqn(struct meqn *M, ulong ell, long vx, long vy)
      94                 :            : {
      95                 :            :   GEN eqn;
      96                 :       6209 :   long idx = uprimepi(ell)-1;
      97 [ +  + ][ -  + ]:       6209 :   if (!modular_eqn && !get_seadata(0)) pari_err_PACKAGE("seadata");
      98 [ +  - ][ +  - ]:       6209 :   if (idx && idx<lg(modular_eqn))
      99                 :       6209 :     eqn = gel(modular_eqn, idx);
     100                 :            :   else
     101                 :          0 :     eqn = get_seadata(ell);
     102         [ -  + ]:       6209 :   if (!eqn) { M->type = 0; M->eq = NULL; return 0; }
     103                 :       6209 :   M->type = *GSTR(gel(eqn, 2));
     104                 :       6209 :   M->eq = list_to_pol(gel(eqn, 3), vx, vy);
     105                 :       6209 :   return 1;
     106                 :            : }
     107                 :            : 
     108                 :            : static void
     109                 :          0 : err_modular_eqn(long ell)
     110                 :          0 : { pari_err_FILE("seadata file", seadata_filename(ell)); }
     111                 :            : 
     112                 :            : GEN
     113                 :          7 : ellmodulareqn(long ell, long vx, long vy)
     114                 :            : {
     115                 :          7 :   pari_sp av = avma;
     116                 :            :   struct meqn meqn;
     117         [ +  - ]:          7 :   if (vx<0) vx=0;
     118         [ +  - ]:          7 :   if (vy<0) vy=fetch_user_var("y");
     119         [ -  + ]:          7 :   if (varncmp(vx,vy)>=0)
     120                 :          0 :     pari_err_PRIORITY("ellmodulareqn", pol_x(vx), ">=", vy);
     121 [ +  - ][ -  + ]:          7 :   if (ell < 0 || !uisprime(ell))
     122                 :          0 :     pari_err_PRIME("ellmodulareqn (level)", stoi(ell));
     123                 :            : 
     124         [ -  + ]:          7 :   if (!get_modular_eqn(&meqn, ell, vx, vy))
     125                 :          0 :     err_modular_eqn(ell);
     126                 :          7 :   return gerepilecopy(av,mkvec2(meqn.eq, stoi(meqn.type=='A')));
     127                 :            : }
     128                 :            : 
     129                 :            : static GEN
     130                 :       6705 : Fq_elldivpol2(GEN a4, GEN a6, GEN T, GEN p)
     131                 :            : {
     132                 :       6705 :   return mkpoln(4, utoi(4), gen_0, Fq_mulu(a4, 4, T, p), Fq_mulu(a6, 4, T, p));
     133                 :            : }
     134                 :            : 
     135                 :            : static GEN
     136                 :       6705 : Fq_elldivpol2d(GEN a4, GEN T, GEN p)
     137                 :            : {
     138                 :       6705 :   return mkpoln(3, utoi(6), gen_0, Fq_mulu(a4, 2, T, p));
     139                 :            : }
     140                 :            : 
     141                 :            : static GEN
     142                 :        980 : FqX_numer_isog_abscissa(GEN h, GEN a4, GEN a6, GEN T, GEN p, long vx)
     143                 :            : {
     144                 :            :   GEN mp1, dh, ddh, t, u, t1, t2, t3, t4, f0;
     145                 :        980 :   long m = degpol(h);
     146                 :        980 :   mp1 = gel(h, m + 1); /* negative of first power sum */
     147                 :        980 :   dh = FqX_deriv(h, T, p);
     148                 :        980 :   ddh = FqX_deriv(dh, T, p);
     149                 :        980 :   t  = Fq_elldivpol2(a4, a6, T, p);
     150                 :        980 :   u  = Fq_elldivpol2d(a4, T, p);
     151                 :        980 :   t1 = FqX_sub(FqX_sqr(dh, T, p), FqX_mul(ddh, h, T, p), T, p);
     152                 :        980 :   t2 = FqX_mul(u, FqX_mul(h, dh, T, p), T, p);
     153                 :        980 :   t3 = FqX_mul(FqX_sqr(h, T, p),
     154                 :            :                deg1pol_shallow(stoi(2*m), Fq_mulu(mp1, 2, T, p), vx), T, p);
     155                 :        980 :   f0 = FqX_add(FqX_sub(FqX_mul(t, t1, T, p), t2, T, p), t3, T, p);
     156                 :        980 :   t4 = FqX_mul(pol_x(vx),  FqX_sqr(h, T, p), T, p);
     157                 :        980 :   return FqX_add(t4, f0, T, p);
     158                 :            : }
     159                 :            : 
     160                 :            : static GEN
     161                 :       1463 : Zq_inv(GEN b, GEN T, GEN q, GEN p, long e)
     162                 :            : {
     163         [ -  + ]:       2926 :   return e==1 ? Fq_inv(b, T, p):
     164         [ +  + ]:       1463 :          typ(b)==t_INT ? Fp_inv(b, q):  ZpXQ_inv(b, T, p, e);
     165                 :            : }
     166                 :            : 
     167                 :            : static GEN
     168                 :     170119 : Zq_div(GEN a, GEN b, GEN T, GEN q, GEN p, long e)
     169                 :            : {
     170         [ +  + ]:     170119 :   if (e==1) return Fq_div(a, b, T, q);
     171                 :     170119 :   return Fq_mul(a, Zq_inv(b, T, q, p, e), T, q);
     172                 :            : }
     173                 :            : 
     174                 :            : static GEN
     175                 :          0 : Zq_sqrt(GEN b, GEN T, GEN q, GEN p, long e)
     176                 :            : {
     177         [ #  # ]:          0 :   return e==1 ? Fq_sqrt(b, T, q):
     178         [ #  # ]:          0 :          typ(b)==t_INT ? Zp_sqrt(b, p, e):  ZpXQ_sqrt(b, T, p, e);
     179                 :            : }
     180                 :            : 
     181                 :            : static GEN
     182                 :      63637 : Zq_divexact(GEN a, GEN b)
     183                 :            : {
     184         [ +  + ]:      63637 :   return typ(a)==t_INT ? diviiexact(a, b): ZX_Z_divexact(a, b);
     185                 :            : }
     186                 :            : 
     187                 :            : static long
     188                 :      63602 : Zq_pval(GEN a, GEN p)
     189                 :            : {
     190         [ +  + ]:      63602 :   return typ(a)==t_INT ? Z_pval(a, p): ZX_pval(a, p);
     191                 :            : }
     192                 :            : 
     193                 :            : static GEN
     194                 :     104304 : Zq_Z_div_safe(GEN a, GEN b, GEN T, GEN q, GEN p, long e)
     195                 :            : {
     196                 :            :   long v;
     197         [ +  + ]:     104304 :   if (e==1) return Fq_div(a, b, T, q);
     198                 :       1008 :   v = Z_pvalrem(b, p, &b);
     199         [ +  + ]:       1008 :   if (v>0)
     200                 :            :   {
     201                 :         35 :     long w = Z_pval(Q_content(a), p);
     202         [ -  + ]:         35 :     if (v>w) pari_err_INV("Zq_div",b);
     203                 :         35 :     a = Zq_divexact(a, powiu(p,v));
     204                 :            :   }
     205                 :     104304 :   return Fq_Fp_mul(a, Fp_inv(b, q), T, q);
     206                 :            : }
     207                 :            : 
     208                 :            : /*Gives the first precS terms of the Weierstrass series related to */
     209                 :            : /*E: y^2 = x^3 + a4x + a6.  Assumes (precS-2)*(2precS+3) < ULONG_MAX, i.e.
     210                 :            :  * precS < 46342 in 32-bit machines */
     211                 :            : static GEN
     212                 :      11450 : find_coeff(GEN a4, GEN a6, GEN T, GEN p, long precS, GEN pp, long e)
     213                 :            : {
     214                 :            :   GEN res, den;
     215                 :            :   long k, h;
     216         [ +  + ]:      11450 :   if (e > 1) { p = sqri(p); e *= 2; }
     217                 :      11450 :   res = cgetg(precS+1, t_VEC);
     218                 :      11450 :   den = cgetg(precS+1, t_VECSMALL);
     219         [ -  + ]:      11450 :   if (precS == 0) return res;
     220                 :      11450 :   gel(res, 1) = Fq_div(a4, stoi(-5), T, p);
     221                 :      11450 :   den[1] = 0;
     222         [ -  + ]:      11450 :   if (precS == 1) return res;
     223                 :      11450 :   gel(res, 2) = Fq_div(a6, stoi(-7), T, p);
     224                 :      11450 :   den[2] = 0;
     225         [ +  + ]:     115754 :   for (k = 3; k <= precS; ++k)
     226                 :            :   {
     227                 :     104304 :     pari_sp btop = avma;
     228                 :     104304 :     GEN a = gen_0, d;
     229                 :     104304 :     long v=0;
     230         [ +  + ]:     104304 :     if (e > 1)
     231         [ +  + ]:       9422 :       for (h = 1; h <= k-2; h++)
     232                 :       8414 :         v = maxss(v, den[h]+den[k-1-h]);
     233         [ +  + ]:     935176 :     for (h = 1; h <= k-2; h++)
     234                 :            :     {
     235                 :     830872 :       GEN b = Fq_mul(gel(res, h), gel(res, k-1-h), T, p);
     236         [ +  + ]:     830872 :       if (v)
     237                 :       1638 :         b = Fq_Fp_mul(b, powiu(pp, v-(den[h]+den[k-1-h])), T, p);
     238                 :     830872 :       a = Fq_add(a, b, T, p);
     239                 :            :     }
     240                 :     104304 :     v += Z_pvalrem(utoi((k-2) * (2*k + 3)), pp, &d);
     241                 :     104304 :     a = Zq_div(gmulgs(a, 3), d, T, p, pp, e);
     242                 :     104304 :     gel(res, k) = gerepileupto(btop, a);
     243                 :     104304 :     den[k] = v;
     244                 :            :   }
     245                 :      11450 :   return mkvec2(res, den);
     246                 :            : }
     247                 :            : 
     248                 :            : /****************************************************************************/
     249                 :            : /*               SIMPLE ELLIPTIC CURVE OVER Fq                              */
     250                 :            : /****************************************************************************/
     251                 :            : 
     252                 :            : static GEN
     253                 :       7182 : Fq_ellj(GEN a4, GEN a6, GEN T, GEN p)
     254                 :            : {
     255                 :       7182 :   pari_sp ltop=avma;
     256                 :       7182 :   GEN a43 = Fq_mulu(Fq_powu(a4, 3, T, p), 4, T, p);
     257                 :       7182 :   GEN j   = Fq_div(Fq_mulu(a43, 1728, T, p),
     258                 :            :                    Fq_add(a43, Fq_mulu(Fq_sqr(a6, T, p), 27, T, p), T, p), T, p);
     259                 :       7182 :   return gerepileupto(ltop, j);
     260                 :            : }
     261                 :            : 
     262                 :            : static GEN
     263                 :         35 : Zq_ellj(GEN a4, GEN a6, GEN T, GEN p, GEN pp, long e)
     264                 :            : {
     265                 :         35 :   pari_sp ltop=avma;
     266                 :         35 :   GEN a43 = Fq_mulu(Fq_powu(a4, 3, T, p), 4, T, p);
     267                 :         35 :   GEN j   = Zq_div(Fq_mulu(a43, 1728, T, p),
     268                 :            :                    Fq_add(a43, Fq_mulu(Fq_sqr(a6, T, p), 27, T, p), T, p), T, p, pp, e);
     269                 :         35 :   return gerepileupto(ltop, j);
     270                 :            : }
     271                 :            : /****************************************************************************/
     272                 :            : /*                              EIGENVALUE                                  */
     273                 :            : /****************************************************************************/
     274                 :            : 
     275                 :            : struct eigen_ellinit
     276                 :            : {
     277                 :            :   GEN a4, h, T, p;
     278                 :            :   GEN RHS, DRHS, X12, Gr, nGr,O;
     279                 :            :   ulong pp;
     280                 :            : };
     281                 :            : 
     282                 :            : static void
     283                 :       3972 : init_eigen(struct eigen_ellinit *Edat, GEN a4, GEN a6, GEN h, GEN T, GEN p)
     284                 :            : {
     285                 :       3972 :   pari_sp ltop = avma;
     286                 :       3972 :   GEN RHS  = FqX_rem(mkpoln(4, gen_1, gen_0, a4, a6), h, T, p);
     287                 :       3972 :   GEN DRHS = FqX_rem(mkpoln(3, utoi(3), gen_0, a4), h, T, p);
     288                 :       3972 :   GEN lambda = FqXQ_div(DRHS, FqX_mulu(RHS, 4, T, p), h, T, p);
     289                 :       3972 :   GEN C = FqX_sub(FqXQ_mul(lambda, DRHS, h, T, p), monomial(gen_2,1,0), T, p);
     290                 :       3972 :   GEN D = FqXQ_mul(FqX_mulu(lambda, 2, T, p),FqX_sub(pol_x(0), C, T, p), h, T, p);
     291                 :       3972 :   GEN X12 = mkvec2(C, FqX_Fq_add(D, gen_m1, T, p));
     292         [ +  + ]:       7871 :   GEN Gr = T ? FpXQXQ_halfFrobenius(RHS, h, T, p):
     293                 :       3899 :                FpXQ_pow(RHS, shifti(p, -1), h, p);
     294                 :       3972 :   GEN nGr = FqX_neg(Gr, T, p);
     295                 :       3972 :   gerepileall(ltop, 5, &RHS, &DRHS, &X12, &Gr, &nGr);
     296                 :       3972 :   Edat->a4    = gcopy(a4);
     297                 :       3972 :   Edat->h     = gcopy(h);
     298                 :       3972 :   Edat->T     = T;
     299                 :       3972 :   Edat->p     = p;
     300                 :       3972 :   Edat->pp    = 0;
     301                 :       3972 :   Edat->RHS   = RHS;
     302                 :       3972 :   Edat->DRHS  = DRHS;
     303                 :       3972 :   Edat->X12   = X12;
     304                 :       3972 :   Edat->Gr    = Gr;
     305                 :       3972 :   Edat->nGr   = nGr;
     306                 :       3972 :   Edat->O     = mkvec2(pol_x(0), pol_1(0));
     307                 :       3972 : }
     308                 :            : 
     309                 :            : static void
     310                 :        228 : init_eigenu(struct eigen_ellinit *Edat, GEN a4, GEN a6, GEN h, GEN T, ulong p)
     311                 :            : {
     312                 :        228 :   pari_sp ltop = avma;
     313                 :        228 :   long vT = get_Flx_var(T);
     314                 :        228 :   GEN g1 = pol1_Flx(vT), g0 = pol0_Flx(vT);
     315                 :        228 :   GEN RHS  = FlxqX_rem(mkpoln(4, g1, g0, a4, a6), h, T, p);
     316                 :        228 :   GEN DRHS = FlxqX_rem(mkpoln(3, Fl_to_Flx(3, T[1]), g0, a4), h, T, p);
     317                 :        228 :   GEN lambda = FlxqXQ_div(DRHS, FlxX_Fl_mul(RHS, 4, p), h, T, p);
     318                 :        228 :   GEN C = FlxX_sub(FlxqXQ_mul(lambda, DRHS, h, T, p), monomial(Fl_to_Flx(2,vT),1,0), p);
     319                 :        228 :   GEN D = FlxqXQ_mul(FlxX_double(lambda, p),FlxX_sub(pol_x(0), C, p), h, T, p);
     320                 :        228 :   GEN X12 = mkvec2(C, FlxX_Flx_add(D, Fl_to_Flx(p-1,vT), p));
     321                 :        228 :   GEN Gr = FlxqXQ_halfFrobenius(RHS,h,T,p);
     322                 :        228 :   GEN nGr = FlxX_neg(Gr, p);
     323                 :        228 :   GEN O = mkvec2(monomial(g1,1,0), monomial(g1,0,0));
     324                 :        228 :   gerepileall(ltop, 6, &RHS, &DRHS, &X12, &Gr, &nGr, &O);
     325                 :        228 :   Edat->a4    = gcopy(a4);
     326                 :        228 :   Edat->h     = gcopy(h);
     327                 :        228 :   Edat->T     = T;
     328                 :        228 :   Edat->p     = NULL;
     329                 :        228 :   Edat->pp    = p;
     330                 :        228 :   Edat->RHS   = RHS;
     331                 :        228 :   Edat->DRHS  = DRHS;
     332                 :        228 :   Edat->X12   = X12;
     333                 :        228 :   Edat->Gr    = Gr;
     334                 :        228 :   Edat->nGr   = nGr;
     335                 :        228 :   Edat->O     = O;
     336                 :        228 : }
     337                 :            : static GEN
     338                 :       5232 : eigen_elldbl(void *E, GEN P)
     339                 :            : {
     340                 :       5232 :   pari_sp ltop = avma;
     341                 :       5232 :   struct eigen_ellinit *Edat=(struct eigen_ellinit *)E;
     342                 :       5232 :   GEN T = Edat->T, p = Edat->p, h = Edat->h, x, y;
     343         [ -  + ]:       5232 :   if (ell_is_inf(P)) return gcopy(P);
     344                 :       5232 :   x = gel(P,1), y = gel(P,2);
     345 [ +  + ][ +  - ]:       5232 :   if (FqX_equal(x, pol_x(0)) && FqX_equal(y, pol_1(0)))
     346                 :       3713 :     return Edat->X12;
     347                 :            :   else
     348                 :            :   {
     349                 :       1519 :     GEN t1 = FqX_Fq_add(FqX_mulu(FqXQ_sqr(x,h,T,p),3,T, p), Edat->a4, T, p);
     350                 :       1519 :     GEN t2 = FqXQ_mul(FqX_mulu(y, 2, T, p), Edat->RHS, h, T, p);
     351                 :       1519 :     GEN lambda = FqXQ_div(t1, t2, h, T, p);
     352                 :       1519 :     GEN C = FqX_sub(FqXQ_mul(FqXQ_sqr(lambda, h, T, p), Edat->RHS, h, T, p),
     353                 :            :                     FqX_mulu(x, 2, T, p), T, p);
     354                 :       1519 :     GEN D = FqX_sub(FqXQ_mul(lambda, FqX_sub(x, C, T, p), h, T, p), y, T, p);
     355                 :       5232 :     return gerepilecopy(ltop, mkvec2(C,D));
     356                 :            :   }
     357                 :            : }
     358                 :            : 
     359                 :            : /* Returns the addition of [P[1], P[2]*Y] and of [Q[1], Q[2]*Y]
     360                 :            :  * Computations are done modulo Y^2 - (X^3 + a4X + a6)
     361                 :            :  * An inversion is equivalent to 4M, so that this function requires about 7M
     362                 :            :  * which is the same as with the method using ell-division polynomials
     363                 :            :  * Working in mixed projective coordinates would require 11M */
     364                 :            : static GEN
     365                 :      13284 : eigen_elladd(void *E, GEN P, GEN Q)
     366                 :            : {
     367                 :      13284 :   pari_sp ltop = avma;
     368                 :      13284 :   struct eigen_ellinit *Edat=(struct eigen_ellinit *)E;
     369                 :            :   GEN Px, Py, Qx, Qy;
     370                 :      13284 :   GEN T = Edat->T, p = Edat->p, h = Edat->h, lambda, C, D;
     371         [ -  + ]:      13284 :   if (ell_is_inf(P)) return gcopy(Q);
     372         [ -  + ]:      13284 :   if (ell_is_inf(Q)) return gcopy(P);
     373                 :      13284 :   Px = gel(P,1); Py = gel(P,2);
     374                 :      13284 :   Qx = gel(Q,1); Qy = gel(Q,2);
     375         [ +  + ]:      13284 :   if (FqX_equal(Px, Qx))
     376                 :            :   {
     377         [ +  - ]:       2105 :     if (FqX_equal(Py, Qy))
     378                 :       2105 :       return eigen_elldbl(E, P);
     379                 :            :     else
     380                 :          0 :       return ellinf();
     381                 :            :   }
     382                 :      11179 :   lambda = FqXQ_div(FqX_sub(Py, Qy, T, p), FqX_sub(Px, Qx, T, p), h, T, p);
     383                 :      11179 :   C = FqX_sub(FqX_sub(FqXQ_mul(FqXQ_sqr(lambda, h, T, p), Edat->RHS, h, T, p), Px, T, p), Qx, T, p);
     384                 :      11179 :   D = FqX_sub(FqXQ_mul(lambda, FqX_sub(Px, C, T, p), h, T, p), Py, T, p);
     385                 :      13284 :   return gerepilecopy(ltop, mkvec2(C,D));
     386                 :            : }
     387                 :            : 
     388                 :            : static GEN
     389                 :        291 : eigenu_elldbl(void *E, GEN P)
     390                 :            : {
     391                 :        291 :   pari_sp ltop = avma;
     392                 :        291 :   struct eigen_ellinit *Edat=(struct eigen_ellinit *)E;
     393                 :        291 :   GEN T = Edat->T, h = Edat->h, x, y;
     394                 :        291 :   long vT = get_Flx_var(T);
     395                 :        291 :   ulong p = Edat->pp;
     396         [ -  + ]:        291 :   if (ell_is_inf(P)) return gcopy(P);
     397                 :        291 :   x = gel(P,1), y = gel(P,2);
     398 [ +  + ][ +  - ]:        291 :   if (FlxX_equal(x, monomial(pol1_Flx(vT),1,0)) && FlxX_equal(y, monomial(pol1_Flx(vT),0,0)))
     399                 :        193 :     return Edat->X12;
     400                 :            :   else
     401                 :            :   {
     402                 :         98 :     GEN t1 = FlxX_Flx_add(FlxX_triple(FlxqXQ_sqr(x,h,T,p),p), Edat->a4, p);
     403                 :         98 :     GEN t2 = FlxqXQ_mul(FlxX_double(y, p), Edat->RHS, h, T, p);
     404                 :         98 :     GEN lambda = FlxqXQ_div(t1, t2, h, T, p);
     405                 :         98 :     GEN C = FlxX_sub(FlxqXQ_mul(FlxqXQ_sqr(lambda, h, T, p), Edat->RHS, h, T, p),
     406                 :            :                      FlxX_double(x, p), p);
     407                 :         98 :     GEN D = FlxX_sub(FlxqXQ_mul(lambda, FlxX_sub(x, C, p), h, T, p), y, p);
     408                 :        291 :     return gerepilecopy(ltop, mkvec2(C,D));
     409                 :            :   }
     410                 :            : }
     411                 :            : 
     412                 :            : /* Returns the addition of [P[1], P[2]*Y] and of [Q[1], Q[2]*Y]
     413                 :            :  * Computations are done modulo Y^2 - (X^3 + a4X + a6)
     414                 :            :  * An inversion is equivalent to 4M, so that this function requires about 7M
     415                 :            :  * which is the same as with the method using ell-division polynomials
     416                 :            :  * Working in mixed projective coordinates would require 11M */
     417                 :            : static GEN
     418                 :        996 : eigenu_elladd(void *E, GEN P, GEN Q)
     419                 :            : {
     420                 :        996 :   pari_sp ltop = avma;
     421                 :        996 :   struct eigen_ellinit *Edat=(struct eigen_ellinit *)E;
     422                 :            :   GEN Px, Py, Qx, Qy;
     423                 :        996 :   GEN T = Edat->T, h = Edat->h, lambda, C, D;
     424                 :        996 :   ulong p = Edat->pp;
     425         [ -  + ]:        996 :   if (ell_is_inf(P)) return gcopy(Q);
     426         [ -  + ]:        996 :   if (ell_is_inf(Q)) return gcopy(P);
     427                 :        996 :   Px = gel(P,1); Py = gel(P,2);
     428                 :        996 :   Qx = gel(Q,1); Qy = gel(Q,2);
     429         [ +  + ]:        996 :   if (FlxX_equal(Px, Qx))
     430                 :            :   {
     431         [ +  - ]:        121 :     if (FlxX_equal(Py, Qy))
     432                 :        121 :       return eigenu_elldbl(E, P);
     433                 :            :     else
     434                 :          0 :       return ellinf();
     435                 :            :   }
     436                 :        875 :   lambda = FlxqXQ_div(FlxX_sub(Py, Qy, p), FlxX_sub(Px, Qx, p), h, T, p);
     437                 :        875 :   C = FlxX_sub(FlxX_sub(FlxqXQ_mul(FlxqXQ_sqr(lambda, h, T, p), Edat->RHS, h, T, p), Px, p), Qx, p);
     438                 :        875 :   D = FlxX_sub(FlxqXQ_mul(lambda, FlxX_sub(Px, C, p), h, T, p), Py, p);
     439                 :        996 :   return gerepilecopy(ltop, mkvec2(C,D));
     440                 :            : }
     441                 :            : 
     442                 :            : static GEN
     443                 :       2289 : eigen_ellmulu(struct eigen_ellinit *E, GEN z, ulong n)
     444                 :            : {
     445                 :       2289 :   pari_sp av = avma;
     446 [ +  - ][ -  + ]:       2289 :   if (!n || ell_is_inf(z)) return mkvec(gen_0);
     447         [ +  + ]:       2289 :   if (n == 1) return gcopy(z);
     448         [ +  + ]:       1680 :   if (E->pp)
     449                 :         72 :     return gerepileupto(av, gen_powu(z, n, E, &eigenu_elldbl, &eigenu_elladd));
     450                 :            :   else
     451                 :       2289 :     return gerepileupto(av, gen_powu(z, n, E, &eigen_elldbl, &eigen_elladd));
     452                 :            : }
     453                 :            : 
     454                 :            : /*Finds the eigenvalue of the Frobenius given E, ell odd prime, h factor of the
     455                 :            :  *ell-division polynomial, p and tr the possible values for the trace
     456                 :            :  *(useful for primes with one root)*/
     457                 :            : static ulong
     458                 :       3227 : find_eigen_value(GEN a4, GEN a6, ulong ell, GEN h, GEN T, GEN p, GEN tr)
     459                 :            : {
     460                 :       3227 :   pari_sp ltop = avma;
     461                 :            :   GEN BP, Dr;
     462                 :            :   ulong t;
     463                 :            :   struct eigen_ellinit Edat;
     464         [ +  + ]:       3227 :   ulong pp = T ?itou_or_0(p): 0;
     465         [ +  + ]:       3227 :   if (pp)
     466                 :        215 :     init_eigenu(&Edat, ZX_to_Flx(a4,pp), ZX_to_Flx(a6,pp),
     467                 :            :                        ZXX_to_FlxX(h,pp, get_FpX_var(T)), ZXT_to_FlxT(T,pp), pp);
     468                 :            :   else
     469                 :       3012 :     init_eigen(&Edat, a4, a6, h, T, p);
     470                 :       3227 :   Dr = BP = Edat.O;
     471                 :            :   /*[0,Gr], BP, Dr are not points on the curve. */
     472                 :            :   /*To obtain the corresponding points, multiply the y-coordinates by Y */
     473         [ +  + ]:       3227 :   if (!tr)
     474                 :            :   {
     475                 :       2884 :     pari_sp btop = avma;
     476         [ +  - ]:      14364 :     for (t = 1; t <= (ell>>1); t++)
     477                 :            :     {
     478         [ +  + ]:      14364 :       if (gequal(gel(Dr,2), Edat.Gr))  { avma = ltop; return t; }
     479         [ +  + ]:      12376 :       if (gequal(gel(Dr,2), Edat.nGr)) { avma = ltop; return ell-t; }
     480         [ +  + ]:      11480 :       Dr = pp ? eigenu_elladd(&Edat, Dr, BP): eigen_elladd(&Edat, Dr, BP);
     481                 :      11480 :       Dr = gerepileupto(btop, Dr);
     482                 :            :     }
     483                 :            :   }
     484                 :            :   else
     485                 :            :   {
     486                 :        343 :     t = Fl_div(tr[1], 2, ell);
     487         [ +  + ]:        343 :     if (t < (ell>>1)) t = ell - t;
     488                 :        343 :     Dr = eigen_ellmulu(&Edat, BP, t);
     489         [ +  + ]:        343 :     if (gequal(gel(Dr,2), Edat.Gr)) { avma = ltop; return t; }
     490         [ +  - ]:        238 :     if (gequal(gel(Dr,2), Edat.nGr)) { avma = ltop; return ell - t; }
     491                 :            :   }
     492                 :       3227 :   pari_err_BUG("find_eigen_value"); return 0; /* NOT REACHED */
     493                 :            : }
     494                 :            : 
     495                 :            : /*Finds the eigenvalue of the Frobenius modulo ell^k given E, ell, k, h factor
     496                 :            :  *of the ell-division polynomial, lambda the previous eigen value and p */
     497                 :            : static ulong
     498                 :        973 : find_eigen_value_power(GEN a4, GEN a6, ulong ell, long k, GEN h, ulong lambda, GEN T, GEN p)
     499                 :            : {
     500                 :        973 :   pari_sp ltop = avma;
     501                 :            :   pari_sp btop;
     502                 :            :   struct eigen_ellinit Edat;
     503                 :            :   GEN BP, Dr, Gr, nGr;
     504                 :            :   /*[0,Gr], BP, Dr are not points on the curve. */
     505                 :            :   /*To obtain the corresponding points, multiply the y-coordinates by Y */
     506                 :        973 :   ulong t, ellk1 = upowuu(ell, k-1), ellk = ell*ellk1;
     507         [ +  + ]:        973 :   ulong pp = T ?itou_or_0(p): 0;
     508         [ +  + ]:        973 :   if (pp)
     509                 :         13 :     init_eigenu(&Edat, ZX_to_Flx(a4,pp), ZX_to_Flx(a6,pp),
     510                 :            :         ZXX_to_FlxX(h, pp, get_FpX_var(T)), ZXT_to_FlxT(T,pp), pp);
     511                 :            :   else
     512                 :        960 :     init_eigen(&Edat, a4, a6, h, T, p);
     513                 :        973 :   BP = eigen_ellmulu(&Edat, Edat.O, ellk1);
     514                 :        973 :   Dr = eigen_ellmulu(&Edat, Edat.O, lambda);
     515                 :        973 :   Gr = Edat.Gr; nGr = Edat.nGr;
     516                 :            : 
     517                 :        973 :   btop = avma;
     518         [ +  - ]:       1904 :   for (t = 0; t < ellk; t += ellk1)
     519                 :            :   {
     520         [ +  + ]:       1904 :     if (gequal(gel(Dr,2), Gr))  { avma = ltop; return t+lambda; }
     521         [ -  + ]:        931 :     if (gequal(gel(Dr,2), nGr)) { avma = ltop; return ellk-(t+lambda); }
     522         [ +  + ]:        931 :     Dr = pp ? eigenu_elladd(&Edat, Dr, BP): eigen_elladd(&Edat, Dr, BP);
     523         [ -  + ]:        931 :     if (gc_needed(btop, 1))
     524                 :          0 :       Dr = gerepileupto(btop, Dr);
     525                 :            :   }
     526                 :          0 :   pari_err_BUG("find_eigen_value_power");
     527                 :        973 :   return 0; /* NOT REACHED */
     528                 :            : }
     529                 :            : 
     530                 :            : /*Finds the kernel polynomial h, dividing the ell-division polynomial from the
     531                 :            :   isogenous curve Eb and trace term pp1. Uses CCR algorithm and returns h.
     532                 :            :   Return NULL if E and Eb are *not* isogenous. */
     533                 :            : static GEN
     534                 :       5725 : find_kernel(GEN a4, GEN a6, ulong ell, GEN a4t, GEN a6t, GEN pp1, GEN T, GEN p, GEN pp, long e)
     535                 :            : {
     536                 :       5725 :   const long ext = 2;
     537                 :       5725 :   pari_sp ltop = avma, btop;
     538                 :            :   GEN P, v, tlist, h;
     539                 :            :   long i, j, k;
     540                 :       5725 :   long deg = (ell - 1)/2, dim = 2 + deg + ext;
     541                 :       5725 :   GEN psi2 = Fq_elldivpol2(a4, a6, T, p);
     542                 :       5725 :   GEN Dpsi2 = Fq_elldivpol2d(a4, T, p);
     543                 :       5725 :   GEN C  = find_coeff(a4, a6, T, p, dim, pp, e);
     544                 :       5725 :   GEN Ct = find_coeff(a4t, a6t, T, p, dim, pp, e);
     545                 :       5725 :   GEN V = cgetg(dim+1, t_VEC);
     546         [ +  + ]:      69327 :   for (k = 1; k <= dim; k++)
     547                 :            :   {
     548                 :      63602 :     long v = mael(C,2,k);
     549                 :      63602 :     GEN z = gmul(gsub(gmael(Ct,1,k), gmael(C,1,k)), shifti(mpfact(2*k), -1));
     550 [ +  - ][ -  + ]:      63602 :     if (signe(z) && Zq_pval(z, pp) < v) return NULL;
     551                 :      63602 :     gel(V, k) = Zq_divexact(z, powiu(pp, v));
     552                 :            :   }
     553                 :       5725 :   btop = avma;
     554                 :       5725 :   v = zerovec(dim);
     555                 :       5725 :   gel(v, 1) = utoi(deg);
     556                 :       5725 :   gel(v, 2) = pp1;
     557                 :       5725 :   P = pol_x(0);
     558         [ +  + ]:      57877 :   for (k = 3; k <= dim; k++)
     559                 :            :   {
     560                 :      52152 :     GEN s, r = FqX_Fq_mul(Dpsi2, gel(P, 3), T, p);
     561         [ +  + ]:     415436 :     for (j = 4; j < lg(P); j++)
     562                 :            :     {
     563                 :     363284 :       long o = j - 2;
     564                 :     363284 :       GEN D = FqX_add(RgX_shift_shallow(Dpsi2, 1), FqX_mulu(psi2, o-1, T, p), T, p);
     565                 :     363284 :       GEN E = FqX_Fq_mul(D, Fq_mulu(gel(P, j), o, T, p), T, p);
     566                 :     363284 :       r = FqX_add(r, RgX_shift_shallow(E, o-2), T, p);
     567                 :            :     }
     568                 :      52152 :     P = r;
     569                 :      52152 :     s = Fq_mul(gel(P, 2), gel(v, 1), T, p);
     570         [ +  + ]:     467588 :     for (j = 3; j < lg(P)-1; j++)
     571                 :     415436 :       s = Fq_add(s, Fq_mul(gel(P, j), gel(v, j-1), T, p), T, p);
     572                 :      52152 :     gel(v, k) = Zq_Z_div_safe(Fq_sub(gel(V, k-2), s, T, p), gel(P, j), T, p, pp, e);
     573         [ -  + ]:      52152 :     if (gc_needed(btop, 1))
     574                 :            :     {
     575         [ #  # ]:          0 :       if(DEBUGMEM>1) pari_warn(warnmem,"find_kernel");
     576                 :          0 :       gerepileall(btop, 2, &v, &P);
     577                 :            :     }
     578                 :            :   }
     579                 :       5725 :   tlist = cgetg(dim, t_VEC);
     580                 :       5725 :   gel(tlist, dim-1) = gen_1;
     581         [ +  + ]:      57877 :   for (k = 1; k <= dim-2; k++)
     582                 :            :   {
     583                 :      52152 :     pari_sp btop = avma;
     584                 :      52152 :     GEN s = gel(v, k+1);
     585         [ +  + ]:     415436 :     for (i = 1; i < k; i++)
     586                 :     363284 :       s = Fq_add(s, Fq_mul(gel(tlist, dim-i-1), gel(v, k-i+1), T, p), T, p);
     587                 :      52152 :     gel(tlist, dim-k-1) = gerepileupto(btop, Zq_Z_div_safe(s, stoi(-k), T, p, pp, e));
     588                 :            :   }
     589         [ +  + ]:      15119 :   for (i = 1; i <= ext; i++)
     590         [ +  + ]:      10422 :     if (signe(Fq_red(gel(tlist, i),T, pp))) { avma = ltop; return NULL; }
     591                 :       4697 :   h = FqX_red(RgV_to_RgX(vecslice(tlist, ext+1, dim-1), 0),T,p);
     592         [ +  - ]:       5725 :   return signe(Fq_elldivpolmod(a4, a6, ell, h, T, pp)) ? NULL: h;
     593                 :            : }
     594                 :            : 
     595                 :            : static GEN
     596                 :       4318 : compute_u(GEN gprime, GEN Dxxg, GEN DxJg, GEN DJJg, GEN j, GEN pJ, GEN px, ulong q, GEN E4, GEN E6, GEN T, GEN p, GEN pp, long e)
     597                 :            : {
     598                 :       4318 :   pari_sp ltop = avma;
     599                 :       4318 :   GEN dxxgj = FqX_eval(Dxxg, j, T, p);
     600                 :       4318 :   GEN dxJgj = FqX_eval(DxJg, j, T, p);
     601                 :       4318 :   GEN dJJgj = FqX_eval(DJJg, j, T, p);
     602                 :       4318 :   GEN E42 = Fq_sqr(E4, T, p), E6ovE4 = Zq_div(E6, E4, T, p, pp, e);
     603                 :       4318 :   GEN a = Fq_mul(gprime, dxxgj, T, p);
     604                 :       4318 :   GEN b = Fq_mul(Fq_mul(Fq_mulu(j,2*q, T, p), dxJgj, T, p), E6ovE4, T, p);
     605                 :       4318 :   GEN c = Fq_mul(Zq_div(Fq_sqr(E6ovE4, T, p), gprime, T, p, pp, e), j, T, p);
     606                 :       4318 :   GEN d = Fq_mul(Fq_mul(c,sqru(q), T, p), Fq_add(pJ, Fq_mul(j, dJJgj, T, p), T, p), T, p);
     607                 :       4318 :   GEN f = Fq_sub(Fq_div(E6ovE4,utoi(3), T, p),
     608                 :            :                  Zq_div(E42, Fq_mulu(E6,2,T, p), T, p, pp, e), T, p);
     609                 :       4318 :   GEN g = Fq_sub(Fq_sub(b,a,T,p), d, T, p);
     610                 :       4318 :   return gerepileupto(ltop, Fq_add(Zq_div(g,px,T,p,pp,e), Fq_mulu(f,q,T,p), T, p));
     611                 :            : }
     612                 :            : 
     613                 :            : /* Finds the isogenous EC, and the sum of the x-coordinates of the points in
     614                 :            :  * the kernel of the isogeny E -> Eb
     615                 :            :  * E: elliptic curve, ell: a prime, meqn: Atkin modular equation
     616                 :            :  * g: root of meqn defining isogenous curve Eb. */
     617                 :            : static GEN
     618                 :       1680 : find_isogenous_from_Atkin(GEN a4, GEN a6, ulong ell, GEN meqn, GEN g, GEN T, GEN pp, long e)
     619                 :            : {
     620                 :       1680 :   pari_sp ltop = avma, btop;
     621                 :            :   GEN meqnx, Roots, gprime, u1;
     622                 :       1680 :   long k, vx = 0, vJ = MAXVARN;
     623         [ +  + ]:       1680 :   GEN p = e==1 ? pp: powiu(pp, e);
     624                 :       1680 :   GEN E4 = Fq_div(a4, stoi(-3), T, p);
     625                 :       1680 :   GEN E6 = Fq_neg(Fq_halve(a6, T, p), T, p);
     626                 :       1680 :   GEN E42 = Fq_sqr(E4, T, p);
     627                 :       1680 :   GEN E43 = Fq_mul(E4, E42, T, p);
     628                 :       1680 :   GEN E62 = Fq_sqr(E6, T, p);
     629                 :       1680 :   GEN delta = Fq_div(Fq_sub(E43, E62, T, p), utoi(1728), T, p);
     630                 :       1680 :   GEN j = Zq_div(E43, delta, T, p, pp, e);
     631                 :       1680 :   GEN Dx = deriv(meqn, vx);
     632                 :       1680 :   GEN DJ = deriv(meqn, vJ);
     633                 :       1680 :   GEN Dxg = FpXY_Fq_evaly(Dx, g, T, p, vJ);
     634                 :       1680 :   GEN px = FqX_eval(Dxg, j, T, p), dx = Fq_mul(px, g, T, p);
     635                 :       1680 :   GEN DJg = FpXY_Fq_evaly(DJ, g, T, p, vJ);
     636                 :       1680 :   GEN pJ = FqX_eval(DJg, j, T, p), dJ = Fq_mul(pJ, j, T, p);
     637                 :       1680 :   GEN Dxx = deriv(Dx, vx);
     638                 :       1680 :   GEN DxJg = FqX_deriv(Dxg, T, p);
     639                 :            : 
     640                 :       1680 :   GEN Dxxg = FpXY_Fq_evaly(Dxx, g, T, p, vJ);
     641                 :       1680 :   GEN DJJg = FqX_deriv(DJg, T, p);
     642                 :            :   GEN a, b;
     643 [ +  + ][ +  + ]:       1680 :   if (!signe(dJ) || !signe(dx))
     644                 :            :   {
     645 [ -  + ][ #  # ]:         28 :     if (DEBUGLEVEL>0) err_printf("[A: d%c=0]",signe(dJ)? 'x': 'J');
     646                 :         28 :     avma = ltop; return NULL;
     647                 :            :   }
     648                 :       1652 :   a = Fq_mul(dJ, Fq_mul(g, E6, T, p), T, p);
     649                 :       1652 :   b = Fq_mul(E4, dx, T, p);
     650                 :       1652 :   gprime = Zq_div(a, b, T, p, pp, e);
     651                 :            : 
     652                 :       1652 :   u1 = compute_u(gprime, Dxxg, DxJg, DJJg, j, pJ, px, 1, E4, E6, T, p, pp, e);
     653                 :       1652 :   meqnx = FpXY_Fq_evaly(meqn, g, T, p, vJ);
     654                 :       1652 :   Roots = FqX_roots(meqnx, T, pp);
     655                 :            : 
     656                 :       1652 :   btop = avma;
     657         [ +  - ]:       2680 :   for (k = lg(Roots)-1; k >= 1; k--, avma = btop)
     658                 :            :   {
     659         [ +  + ]:       2680 :     GEN jt = e==1 ? gel(Roots, k): ZpXQX_liftroot(meqnx, gel(Roots, k), T, pp, e);
     660 [ +  + ][ +  + ]:       2680 :     if (signe(jt) == 0 || signe(Fq_sub(jt, utoi(1728), T, p)) == 0)
     661                 :            :     {
     662 [ -  + ][ #  # ]:         14 :       if (DEBUGLEVEL>0) err_printf("[A: jt=%ld]",signe(jt)? 1728: 0);
     663                 :         14 :       avma = ltop; return NULL;
     664                 :            :     }
     665                 :            :     else
     666                 :            :     {
     667                 :       2666 :       GEN pxstar = FqX_eval(Dxg, jt, T, p);
     668                 :       2666 :       GEN dxstar = Fq_mul(pxstar, g, T, p);
     669                 :       2666 :       GEN pJstar = FqX_eval(DJg, jt, T, p);
     670                 :       2666 :       GEN dJstar = Fq_mul(Fq_mulu(jt, ell, T, p), pJstar, T, p);
     671                 :       2666 :       GEN u = Fq_mul(Fq_mul(dxstar, dJ, T, p), E6, T, p);
     672                 :       2666 :       GEN v = Fq_mul(Fq_mul(dJstar, dx, T, p), E4, T, p);
     673                 :       2666 :       GEN E4t = Zq_div(Fq_mul(Fq_sqr(u, T, p), jt, T, p), Fq_mul(Fq_sqr(v, T, p), Fq_sub(jt, utoi(1728), T, p), T, p), T, p, pp, e);
     674                 :       2666 :       GEN E6t = Zq_div(Fq_mul(u, E4t, T, p), v, T, p, pp, e);
     675                 :       2666 :       GEN u2 = compute_u(gprime, Dxxg, DxJg, DJJg, jt, pJstar, pxstar, ell, E4t, E6t, T, p, pp, e);
     676                 :       2666 :       GEN pp1 = Fq_mulu(Fq_sub(u1, u2, T, p), 3*ell, T, p);
     677                 :       2666 :       GEN a4t = Fq_mul(mulsi(-3, powuu(ell,4)), E4t, T, p);
     678                 :       2666 :       GEN a6t = Fq_mul(mulsi(-2, powuu(ell,6)), E6t, T, p);
     679                 :       2666 :       GEN h = find_kernel(a4, a6, ell, a4t, a6t, pp1, T, p, pp, e);
     680         [ +  + ]:       2666 :       if (h) return gerepilecopy(ltop, mkvec3(a4t, a6t, h));
     681                 :            :     }
     682                 :            :   }
     683                 :          0 :   pari_err_BUG("find_isogenous_from_Atkin, kernel not found");
     684                 :       1680 :   return NULL;
     685                 :            : }
     686                 :            : 
     687                 :            : /* Finds E' ell-isogenous to E and the trace term p1 from canonical modular
     688                 :            :  *   equation meqn
     689                 :            :  * E: elliptic curve, ell: a prime, meqn: canonical modular equation
     690                 :            :  * g: root of meqn defining isogenous curve Eb. */
     691                 :            : static GEN
     692                 :       3073 : find_isogenous_from_canonical(GEN a4, GEN a6, ulong ell, GEN meqn, GEN g, GEN T, GEN pp, long e)
     693                 :            : {
     694                 :       3073 :   pari_sp ltop = avma;
     695                 :       3073 :   long vx = 0, vJ = MAXVARN;
     696         [ -  + ]:       3073 :   GEN p = e==1 ? pp: powiu(pp, e);
     697                 :            :   GEN h;
     698                 :       3073 :   GEN E4 = Fq_div(a4, stoi(-3), T, p);
     699                 :       3073 :   GEN E6 = Fq_neg(Fq_halve(a6, T, p), T, p);
     700                 :       3073 :   GEN E42 = Fq_sqr(E4, T, p);
     701                 :       3073 :   GEN E43 = Fq_mul(E4, E42, T, p);
     702                 :       3073 :   GEN E62 = Fq_sqr(E6, T, p);
     703                 :       3073 :   GEN delta = Fq_div(Fq_sub(E43, E62, T, p), utoi(1728), T, p);
     704                 :       3073 :   GEN j = Zq_div(E43, delta, T, p, pp, e);
     705                 :       3073 :   GEN Dx = deriv(meqn, vx);
     706                 :       3073 :   GEN DJ = deriv(meqn, vJ);
     707                 :       3073 :   GEN Dxg = FpXY_Fq_evaly(Dx, g, T, p, vJ);
     708                 :       3073 :   GEN px  = FqX_eval(Dxg, j, T, p), dx  = Fq_mul(px, g, T, p);
     709                 :       3073 :   GEN DJg = FpXY_Fq_evaly(DJ, g, T, p, vJ);
     710                 :       3073 :   GEN pJ = FqX_eval(DJg, j, T, p), dJ = Fq_mul(j, pJ, T, p);
     711                 :       3073 :   GEN Dxx = deriv(Dx, vx);
     712                 :       3073 :   GEN DxJg = FqX_deriv(Dxg, T, p);
     713                 :            : 
     714                 :       3073 :   GEN ExJ = FqX_eval(DxJg, j, T, p);
     715                 :       3073 :   ulong tis = ugcd(12, ell-1), is = 12 / tis;
     716                 :       3073 :   GEN itis = Fq_inv(stoi(-tis), T, p);
     717                 :       3073 :   GEN deltal = Fq_div(Fq_mul(delta, Fq_powu(g, tis, T, p), T, p), powuu(ell, 12), T, p);
     718                 :            :   GEN E4l, E6l, a4tilde, a6tilde, p_1;
     719         [ +  + ]:       3073 :   if (signe(dx)==0)
     720                 :            :   {
     721         [ -  + ]:          7 :     if (DEBUGLEVEL>0) err_printf("[C: dx=0]");
     722                 :          7 :     avma = ltop; return NULL;
     723                 :            :   }
     724         [ -  + ]:       3066 :   if (signe(dJ)==0)
     725                 :            :   {
     726                 :            :     GEN jl;
     727         [ #  # ]:          0 :     if (DEBUGLEVEL>0) err_printf("[C: dJ=0]");
     728                 :          0 :     E4l = Fq_div(E4, sqru(ell), T, p);
     729                 :          0 :     jl  = Zq_div(Fq_powu(E4l, 3, T, p), deltal, T, p, pp, e);
     730                 :          0 :     E6l = Zq_sqrt(Fq_mul(Fq_sub(jl, utoi(1728), T, p), deltal, T, p), T, p, pp, e);
     731                 :          0 :     p_1 = gen_0;
     732                 :            :   }
     733                 :            :   else
     734                 :            :   {
     735                 :            :     GEN jl, f, fd, Dgs, Djs, jld;
     736                 :       3066 :     GEN E2s = Zq_div(Fq_mul(Fq_neg(Fq_mulu(E6, 12, T, p), T, p), dJ, T, p), Fq_mul(Fq_mulu(E4, is, T, p), dx, T, p), T, p, pp, e);
     737                 :       3066 :     GEN gd = Fq_mul(Fq_mul(E2s, itis, T, p), g, T, p);
     738                 :       3066 :     GEN jd = Zq_div(Fq_mul(Fq_neg(E42, T, p), E6, T, p), delta, T, p, pp, e);
     739                 :       3066 :     GEN E0b = Zq_div(E6, Fq_mul(E4, E2s, T, p), T, p, pp, e);
     740                 :       3066 :     GEN Dxxgj = FqXY_eval(Dxx, g, j, T, p);
     741                 :       3066 :     GEN Dgd = Fq_add(Fq_mul(gd, px, T, p), Fq_mul(g, Fq_add(Fq_mul(gd, Dxxgj, T, p), Fq_mul(jd, ExJ, T, p), T, p), T, p), T, p);
     742                 :       3066 :     GEN DJgJj = FqX_eval(FqX_deriv(DJg, T, p), j, T, p);
     743                 :       3066 :     GEN Djd = Fq_add(Fq_mul(jd, pJ, T, p), Fq_mul(j, Fq_add(Fq_mul(jd, DJgJj, T, p), Fq_mul(gd, ExJ, T, p), T, p), T, p), T, p);
     744                 :       3066 :     GEN E0bd = Zq_div(Fq_sub(Fq_mul(Dgd, itis, T, p), Fq_mul(E0b, Djd, T, p), T, p), dJ, T, p, pp, e);
     745                 :       3066 :     E4l = Zq_div(Fq_sub(E4, Fq_mul(E2s, Fq_sub(Fq_sub(Fq_add(Zq_div(Fq_mulu(E0bd, 12, T, p), E0b, T, p, pp, e), Zq_div(Fq_mulu(E42, 6, T, p), E6, T, p, pp, e), T, p), Zq_div(Fq_mulu(E6, 4, T, p), E4, T, p, pp, e), T, p), E2s, T, p), T, p), T, p), sqru(ell), T, p, pp, e);
     746                 :       3066 :     jl = Zq_div(Fq_powu(E4l, 3, T, p), deltal, T, p, pp, e);
     747         [ +  + ]:       3066 :     if (signe(jl)==0)
     748                 :            :     {
     749         [ -  + ]:          7 :       if (DEBUGLEVEL>0) err_printf("[C: jl=0]");
     750                 :          7 :       avma = ltop; return NULL;
     751                 :            :     }
     752                 :       3059 :     f =  Zq_div(powuu(ell, is), g, T, p, pp, e);
     753                 :       3059 :     fd = Fq_neg(Fq_mul(Fq_mul(E2s, f, T, p), itis, T, p), T, p);
     754                 :       3059 :     Dgs = FqXY_eval(Dx, f, jl, T, p);
     755                 :       3059 :     Djs = FqXY_eval(DJ, f, jl, T, p);
     756                 :       3059 :     jld = Zq_div(Fq_mul(Fq_neg(fd, T, p), Dgs, T, p), Fq_mulu(Djs, ell, T, p), T, p, pp, e);
     757                 :       3059 :     E6l = Zq_div(Fq_mul(Fq_neg(E4l, T, p), jld, T, p), jl, T, p, pp, e);
     758                 :       3059 :     p_1 = Fq_neg(Fq_halve(Fq_mulu(E2s, ell, T, p), T, p),T,p);
     759                 :            :   }
     760                 :       3059 :   a4tilde = Fq_mul(Fq_mul(stoi(-3), powuu(ell,4), T, p), E4l, T, p);
     761                 :       3059 :   a6tilde = Fq_mul(Fq_mul(stoi(-2), powuu(ell,6), T, p), E6l, T, p);
     762                 :       3059 :   h = find_kernel(a4, a6, ell, a4tilde, a6tilde, p_1, T, p, pp, e);
     763         [ -  + ]:       3059 :   if (!h) return NULL;
     764                 :       3073 :   return gerepilecopy(ltop, mkvec3(a4tilde, a6tilde, h));
     765                 :            : }
     766                 :            : 
     767                 :            : static GEN
     768                 :       4753 : find_isogenous(GEN a4,GEN a6, ulong ell, struct meqn *MEQN, GEN g, GEN T,GEN p)
     769                 :            : {
     770                 :       4753 :   ulong pp = itou_or_0(p);
     771 [ +  + ][ +  + ]:       4753 :   long e = (pp && pp <= 2*ell+3) ? 2+factorial_lval(ell, pp): 1;
     772         [ +  + ]:       4753 :   if (e > 1)
     773                 :            :   {
     774                 :         35 :     GEN pe = powiu(p, e);
     775                 :         35 :     GEN meqnj = FqXY_evalx(MEQN->eq, Zq_ellj(a4, a6, T, pe, p, e), T, pe);
     776                 :         35 :     g = ZpXQX_liftroot(meqnj, g, T, p, e);
     777                 :            :   }
     778                 :       4753 :   return (MEQN->type == 'C')
     779                 :       3073 :     ? find_isogenous_from_canonical(a4, a6, ell, MEQN->eq, g, T, p, e)
     780         [ +  + ]:       4753 :     : find_isogenous_from_Atkin(a4, a6, ell, MEQN->eq, g, T, p, e);
     781                 :            : }
     782                 :            : 
     783                 :            : static GEN
     784                 :       4389 : FqX_homogenous_eval(GEN P, GEN A, GEN B, GEN T, GEN p)
     785                 :            : {
     786                 :       4389 :   long d = degpol(P), i, v = varn(A);
     787                 :       4389 :   GEN s =  scalar_ZX_shallow(gel(P, d+2), v), Bn = pol_1(v);
     788         [ +  + ]:      17115 :   for (i = d-1; i >= 0; i--)
     789                 :            :   {
     790                 :      12726 :     Bn = FqX_mul(Bn, B, T, p);
     791                 :      12726 :     s = FqX_add(FqX_mul(s, A, T, p), FqX_Fq_mul(Bn, gel(P,i+2), T, p), T, p);
     792                 :            :   }
     793                 :       4389 :   return s;
     794                 :            : }
     795                 :            : 
     796                 :            : static GEN
     797                 :        973 : FqX_homogenous_div(GEN P, GEN Q, GEN A, GEN B, GEN T, GEN p)
     798                 :            : {
     799                 :        973 :   GEN z = cgetg(3, t_RFRAC);
     800                 :        973 :   long d = degpol(Q)-degpol(P);
     801                 :        973 :   gel(z, 1) = FqX_homogenous_eval(P, A, B, T, p);
     802                 :        973 :   gel(z, 2) = FqX_homogenous_eval(Q, A, B, T, p);
     803         [ -  + ]:        973 :   if (d > 0)
     804                 :          0 :     gel(z, 1) = FqX_mul(gel(z, 1), FqX_powu(B, d, T, p), T, p);
     805         [ +  - ]:        973 :   else if (d < 0)
     806                 :        973 :     gel(z, 2) = FqX_mul(gel(z, 2), FqX_powu(B, -d, T, p), T, p);
     807                 :        973 :   return z;
     808                 :            : }
     809                 :            : 
     810                 :            : static GEN
     811                 :        980 : find_kernel_power(GEN Eba4, GEN Eba6, GEN Eca4, GEN Eca6, ulong ell, struct meqn *MEQN, GEN kpoly, GEN Ib, GEN T, GEN p)
     812                 :            : {
     813                 :        980 :   pari_sp ltop = avma, btop;
     814                 :            :   GEN a4t, a6t, gtmp;
     815                 :        980 :   GEN num_iso = FqX_numer_isog_abscissa(kpoly, Eba4, Eba6, T, p, 0);
     816                 :        980 :   GEN mpoly = FqXY_evalx(MEQN->eq, Fq_ellj(Eca4, Eca6, T, p), T, p);
     817                 :        980 :   GEN mroots = FqX_roots(mpoly, T, p);
     818                 :        980 :   GEN kpoly2 = FqX_sqr(kpoly, T, p);
     819                 :        980 :   long i, l1 = lg(mroots);
     820                 :        980 :   btop = avma;
     821         [ +  - ]:       1477 :   for (i = 1; i < l1; i++)
     822                 :            :   {
     823                 :            :     GEN h;
     824                 :       1477 :     GEN tmp = find_isogenous(Eca4, Eca6, ell, MEQN, gel(mroots, i), T, p);
     825         [ +  + ]:       1477 :     if (!tmp) { avma = ltop; return NULL; }
     826                 :       1470 :     a4t =  gel(tmp, 1);
     827                 :       1470 :     a6t =  gel(tmp, 2);
     828                 :       1470 :     gtmp = gel(tmp, 3);
     829                 :            : 
     830                 :            :     /*check that the kernel kpoly is the good one */
     831                 :       1470 :     h = FqX_homogenous_eval(gtmp, num_iso, kpoly2, T, p);
     832         [ +  + ]:       1470 :     if (signe(Fq_elldivpolmod(Eba4, Eba6, ell, h, T, p)))
     833                 :            :     {
     834                 :        973 :       GEN Ic = FqX_homogenous_div(num_iso, kpoly2, numer(Ib), denom(Ib), T, p);
     835                 :        973 :       GEN kpoly_new = FqX_homogenous_eval(gtmp, numer(Ic), denom(Ic), T, p);
     836                 :        973 :       return gerepilecopy(ltop, mkvecn(5, a4t, a6t, kpoly_new, gtmp, Ic));
     837                 :            :     }
     838                 :        497 :     avma = btop;
     839                 :            :   }
     840                 :          0 :   pari_err_BUG("failed to find kernel polynomial");
     841                 :        980 :   return NULL; /*NOT REACHED*/
     842                 :            : }
     843                 :            : 
     844                 :            : /****************************************************************************/
     845                 :            : /*                                  TRACE                                   */
     846                 :            : /****************************************************************************/
     847                 :            : enum mod_type {MTpathological, MTAtkin, MTElkies, MTone_root, MTroots};
     848                 :            : 
     849                 :            : static GEN
     850                 :        306 : Flxq_study_eqn(long ell, GEN mpoly, GEN T, ulong p, long *pt_dG, long *pt_r)
     851                 :            : {
     852                 :        306 :   GEN Xq = FlxqX_Frobenius(mpoly, T, p);
     853                 :        306 :   GEN G  = FlxqX_gcd(FlxX_sub(Xq, pol_x(0), p), mpoly, T, p);
     854                 :        306 :   *pt_dG = degpol(G);
     855         [ +  + ]:        306 :   if (!*pt_dG)
     856                 :            :   {
     857                 :         84 :     GEN L = FlxqXQ_matrix_pow(Xq, ell+1, ell+1, mpoly, T, p);
     858                 :         84 :     long vT = get_Flx_var(T);
     859                 :         84 :     long s = ell + 1 - FlxqM_rank(FlxM_Flx_add_shallow(L, Fl_to_Flx(p-1, vT), p), T, p);
     860                 :         84 :     *pt_r = (ell + 1)/s;
     861                 :         84 :     return NULL;
     862                 :            :   }
     863                 :        306 :   return G;
     864                 :            : }
     865                 :            : 
     866                 :            : static GEN
     867                 :       5768 : Fp_study_eqn(long ell, GEN mpoly, GEN p, long *pt_dG, long *pt_r)
     868                 :            : {
     869                 :       5768 :   GEN XP = FpX_Frobenius(mpoly, p);
     870                 :       5768 :   GEN G  = FpX_gcd(FpX_sub(XP, pol_x(0), p), mpoly, p);
     871                 :       5768 :   *pt_dG = degpol(G);
     872         [ +  + ]:       5768 :   if (!*pt_dG)
     873                 :            :   {
     874                 :       2716 :     GEN L = FpXQ_matrix_pow(XP, ell+1, ell+1, mpoly, p);
     875                 :       2716 :     long s = ell + 1 - FpM_rank(RgM_Rg_add_shallow(L, gen_m1), p);
     876                 :       2716 :     *pt_r = (ell + 1)/s;
     877                 :       2716 :     return NULL;
     878                 :            :   }
     879                 :       5768 :   return FpX_oneroot(G, p);
     880                 :            : }
     881                 :            : 
     882                 :            : static GEN
     883                 :        427 : FpXQ_study_eqn(long ell, GEN mpoly, GEN T, GEN p, long *pt_dG, long *pt_r)
     884                 :            : {
     885                 :            :   GEN G;
     886         [ +  + ]:        427 :   if (lgefint(p)==3)
     887                 :            :   {
     888                 :        306 :     ulong pp = p[2];
     889                 :        306 :     GEN Tp = ZXT_to_FlxT(T,pp);
     890                 :        306 :     GEN mpolyp = ZXX_to_FlxX(mpoly,pp,get_FpX_var(T));
     891                 :        306 :     G = Flxq_study_eqn(ell, mpolyp, Tp, pp, pt_dG, pt_r);
     892         [ +  + ]:        306 :     if (!G) return NULL;
     893                 :        222 :     G = FlxX_to_ZXX(G);
     894                 :            :   }
     895                 :            :   else
     896                 :            :   {
     897                 :        121 :     GEN Xq = FpXQX_Frobenius(mpoly, T, p);
     898                 :        121 :     G  = FpXQX_gcd(FpXX_sub(Xq, pol_x(0), p), mpoly, T, p);
     899                 :        121 :     *pt_dG = degpol(G);
     900         [ +  + ]:        121 :     if (!*pt_dG)
     901                 :            :     {
     902                 :         49 :       GEN L = FpXQXQ_matrix_pow(Xq, ell+1, ell+1, mpoly, T, p);
     903                 :         49 :       long s = ell + 1 - FqM_rank(RgM_Rg_add(L, gen_m1), T, p);
     904                 :         49 :       *pt_r = (ell + 1)/s;
     905                 :         49 :       return NULL;
     906                 :            :     }
     907                 :            :   }
     908                 :        427 :   return gel(FqX_roots(G, T, p), 1);
     909                 :            : }
     910                 :            : 
     911                 :            : /* Berlekamp variant */
     912                 :            : static GEN
     913                 :       6202 : study_modular_eqn(long ell, GEN mpoly, GEN T, GEN p, enum mod_type *mt, long *ptr_r)
     914                 :            : {
     915                 :       6202 :   pari_sp ltop = avma;
     916                 :       6202 :   GEN g = gen_0;
     917                 :       6202 :   *ptr_r = 0; /*gcc -Wall*/
     918         [ +  + ]:       6202 :   if (degpol(FqX_gcd(mpoly, FqX_deriv(mpoly, T, p), T, p)) > 0)
     919                 :          7 :     *mt = MTpathological;
     920                 :            :   else
     921                 :            :   {
     922                 :            :     long dG;
     923                 :       6195 :     g = T ? FpXQ_study_eqn(ell, mpoly, T, p, &dG, ptr_r)
     924         [ +  + ]:       6195 :             : Fp_study_eqn(ell, mpoly, p, &dG, ptr_r);
     925   [ +  +  +  + ]:       6195 :     switch(dG)
     926                 :            :     {
     927                 :       2849 :       case 0:  *mt = MTAtkin; break;
     928                 :        378 :       case 1:  *mt = MTone_root; break;
     929                 :       2898 :       case 2:  *mt = MTElkies;   break;
     930         [ +  - ]:       6195 :       default: *mt = (dG == ell + 1)? MTroots: MTpathological;
     931                 :            :     }
     932                 :            :   }
     933 [ -  + ][ #  #  :       6202 :   if (DEBUGLEVEL) switch(*mt)
             #  #  #  # ]
     934                 :            :   {
     935                 :          0 :     case MTone_root: err_printf("One root\t"); break;
     936                 :          0 :     case MTElkies: err_printf("Elkies\t"); break;
     937                 :          0 :     case MTroots: err_printf("l+1 roots\t"); break;
     938                 :          0 :     case MTAtkin: err_printf("Atkin\t"); break;
     939                 :          0 :     case MTpathological: err_printf("Pathological\n"); break;
     940                 :            :   }
     941         [ +  + ]:       6202 :   return g ? gerepilecopy(ltop, g): NULL;
     942                 :            : }
     943                 :            : 
     944                 :            : /*Returns the trace modulo ell^k when ell is an Elkies prime */
     945                 :            : static GEN
     946                 :       3276 : find_trace_Elkies_power(GEN a4, GEN a6, ulong ell, long k, struct meqn *MEQN, GEN g, GEN tr, GEN q, GEN T, GEN p, ulong smallfact, pari_timer *ti)
     947                 :            : {
     948                 :       3276 :   pari_sp ltop = avma, btop;
     949                 :            :   GEN tmp, Eba4, Eba6, Eca4, Eca6, Ib, kpoly;
     950                 :       3276 :   ulong lambda, ellk = upowuu(ell, k), pellk = umodiu(q, ellk);
     951                 :            :   long cnt;
     952                 :            : 
     953         [ -  + ]:       3276 :   if (DEBUGLEVEL) { err_printf("Trace mod %ld", ell); }
     954                 :       3276 :   Eba4 = a4;
     955                 :       3276 :   Eba6 = a6;
     956                 :       3276 :   tmp = find_isogenous(a4,a6, ell, MEQN, g, T, p);
     957         [ +  + ]:       3276 :   if (!tmp) { avma = ltop; return NULL; }
     958                 :       3227 :   Eca4 =  gel(tmp, 1);
     959                 :       3227 :   Eca6 =  gel(tmp, 2);
     960                 :       3227 :   kpoly = gel(tmp, 3);
     961                 :       3227 :   Ib = pol_x(0);
     962                 :       3227 :   lambda = find_eigen_value(a4, a6, ell, kpoly, T, p, tr);
     963         [ -  + ]:       3227 :   if (DEBUGLEVEL>1) err_printf(" [%ld ms]", timer_delay(ti));
     964 [ -  + ][ #  # ]:       3227 :   if (smallfact && ell>smallfact)
     965                 :            :   {
     966                 :          0 :     ulong pell = pellk%ell;
     967                 :          0 :     ulong ap = Fl_add(lambda, Fl_div(pell, lambda, ell), ell);
     968         [ #  # ]:          0 :     if (Fl_sub(pell, ap, ell)==ell-1) { avma = ltop; return mkvecsmall(ap); }
     969                 :            :   }
     970                 :       3227 :   btop = avma;
     971         [ +  + ]:       4200 :   for (cnt = 2; cnt <= k; cnt++)
     972                 :            :   {
     973                 :            :     GEN tmp;
     974         [ -  + ]:        980 :     if (DEBUGLEVEL) err_printf(", %Ps", powuu(ell, cnt));
     975                 :        980 :     tmp = find_kernel_power(Eba4, Eba6, Eca4, Eca6, ell, MEQN, kpoly, Ib, T, p);
     976         [ +  + ]:        980 :     if (!tmp) { avma = ltop; return NULL; }
     977                 :        973 :     lambda = find_eigen_value_power(a4, a6, ell, cnt, gel(tmp,3), lambda, T, p);
     978                 :        973 :     Eba4 = Eca4;
     979                 :        973 :     Eba6 = Eca6;
     980                 :        973 :     Eca4 = gel(tmp,1);
     981                 :        973 :     Eca6 = gel(tmp,2);
     982                 :        973 :     kpoly = gel(tmp,4);
     983                 :        973 :     Ib = gel(tmp, 5);
     984         [ -  + ]:        973 :     if (gc_needed(btop, 1))
     985                 :            :     {
     986         [ #  # ]:          0 :       if(DEBUGMEM>1) pari_warn(warnmem,"find_trace_Elkies_power");
     987                 :          0 :       gerepileall(btop, 6, &Eba4, &Eba6, &Eca4, &Eca6, &kpoly, &Ib);
     988                 :            :     }
     989         [ -  + ]:        973 :     if (DEBUGLEVEL>1) err_printf(" [%ld ms]", timer_delay(ti));
     990                 :            :   }
     991                 :       3220 :   avma = ltop;
     992                 :       3276 :   return mkvecsmall(Fl_add(lambda, Fl_div(pellk, lambda, ellk), ellk));
     993                 :            : }
     994                 :            : 
     995                 :            : /*Returns the possible values of the trace when ell is an Atkin prime, */
     996                 :            : /*given r the splitting degree of the modular equation at J = E.j */
     997                 :            : static GEN
     998                 :       2849 : find_trace_Atkin(ulong ell, long r, GEN q)
     999                 :            : {
    1000                 :       2849 :   pari_sp ltop = avma;
    1001                 :       2849 :   long nval = 0;
    1002                 :       2849 :   ulong teta, pell = umodiu(q, ell), invp = Fl_inv(pell, ell);
    1003                 :       2849 :   GEN val_pos = cgetg(1+ell, t_VECSMALL), P = gel(factoru(r), 1);
    1004                 :       2849 :   GEN S = mkvecsmall4(0, pell, 0, 1);
    1005                 :       2849 :   GEN U = mkvecsmall3(0, ell-1, 0);
    1006                 :       2849 :   pari_sp btop = avma;
    1007 [ +  + ][ +  - ]:       2849 :   if (r==2 && krouu(ell-pell, ell) < 0)
    1008                 :        532 :     val_pos[++nval] = 0;
    1009         [ +  + ]:      58597 :   for (teta = 1; teta < ell; teta++, avma = btop)
    1010                 :            :   {
    1011                 :      55748 :     ulong disc = Fl_sub(Fl_sqr(teta,ell), Fl_mul(4UL,pell,ell), ell);
    1012                 :            :     GEN a;
    1013         [ +  + ]:      55748 :     if (krouu(disc, ell) >= 0) continue;
    1014                 :      27398 :     S[3] = Fl_neg(teta, ell);
    1015                 :      27398 :     U[3] = Fl_mul(invp, teta, ell);
    1016                 :      27398 :     a = Flxq_powu(U, r/P[1], S, ell);
    1017 [ +  + ][ +  + ]:      27398 :     if (!Flx_equal1(a) && Flx_equal1(Flxq_powu(a, P[1], S, ell)))
    1018                 :            :     {
    1019                 :      17458 :       pari_sp av = avma;
    1020                 :      17458 :       long i, l=lg(P);
    1021         [ +  + ]:      29400 :       for (i = 2; i < l; i++, avma = av)
    1022         [ +  + ]:      15232 :         if (Flx_equal1(Flxq_powu(U, r/P[i], S, ell))) break;
    1023         [ +  + ]:      17458 :       if (i==l) val_pos[++nval] = teta;
    1024                 :            :     }
    1025                 :            :   }
    1026                 :       2849 :   return gerepileupto(ltop, vecsmall_shorten(val_pos, nval));
    1027                 :            : }
    1028                 :            : 
    1029                 :            : /*Returns the possible traces when there is only one root */
    1030                 :            : static GEN
    1031                 :        378 : find_trace_one_root(ulong ell, GEN q)
    1032                 :            : {
    1033                 :        378 :   ulong a = Fl_double(Fl_sqrt(umodiu(q,ell), ell), ell);
    1034                 :        378 :   return mkvecsmall2(a, ell - a);
    1035                 :            : }
    1036                 :            : 
    1037                 :            : static GEN
    1038                 :         70 : find_trace_lp1_roots(long ell, GEN q)
    1039                 :            : {
    1040                 :         70 :   ulong ell2 = ell * ell, pell = umodiu(q, ell2);
    1041                 :         70 :   ulong a  = Fl_sqrt(pell%ell, ell);
    1042                 :         70 :   ulong pa = Fl_add(Fl_div(pell, a, ell2), a, ell2);
    1043                 :         70 :   return mkvecsmall2(pa, ell2 - pa);
    1044                 :            : }
    1045                 :            : 
    1046                 :            : /*trace modulo ell^k: [], [t] or [t1,...,td] */
    1047                 :            : static GEN
    1048                 :       6202 : find_trace(GEN a4, GEN a6, ulong ell, GEN q, GEN T, GEN p, long *ptr_kt, ulong smallfact)
    1049                 :            : {
    1050                 :       6202 :   pari_sp ltop = avma;
    1051                 :            :   GEN g, meqnj, tr, tr2;
    1052                 :       6202 :   long k = 1, kt, r;
    1053                 :            :   enum mod_type mt;
    1054                 :            :   struct meqn MEQN;
    1055                 :            :   pari_timer ti;
    1056                 :            : 
    1057         [ +  + ]:       6202 :   if (ell <= 13)
    1058                 :            :   {
    1059                 :       3010 :     long lp = expi(q);
    1060   [ +  +  +  + ]:       3010 :     switch(ell)
    1061                 :            :     {
    1062         [ +  + ]:        602 :       case 3: k = 3 + (lp > 160) + (lp > 350); break;
    1063         [ -  + ]:        602 :       case 5: k = 2 + (lp > 260); break;
    1064         [ -  + ]:        602 :       case 7: k = 2 + (lp > 390); break;
    1065         [ -  + ]:       1204 :       default:k = 1 + (lp > 260);
    1066                 :            :     }
    1067                 :            :   }
    1068                 :       6202 :   kt = k;
    1069         [ -  + ]:       6202 :   if (!get_modular_eqn(&MEQN, ell, 0, MAXVARN)) err_modular_eqn(ell);
    1070         [ -  + ]:       6202 :   if (DEBUGLEVEL)
    1071                 :          0 :   { err_printf("Process prime %5ld. ", ell); timer_start(&ti); }
    1072                 :       6202 :   meqnj = FqXY_evalx(MEQN.eq, Fq_ellj(a4, a6, T, p), T, p);
    1073                 :       6202 :   g = study_modular_eqn(ell, meqnj, T, p, &mt, &r);
    1074                 :            :   /* If l is an Elkies prime, search for a factor of the l-division polynomial.
    1075                 :            :   * Then deduce the trace by looking for eigenvalues of the Frobenius by
    1076                 :            :   * computing modulo this factor */
    1077   [ +  +  +  +  :       6202 :   switch (mt)
                      + ]
    1078                 :            :   {
    1079                 :            :   case MTone_root:
    1080                 :        378 :     tr2 = find_trace_one_root(ell, q);
    1081                 :        378 :     kt = k = 1;
    1082                 :            :     /* Must take k = 1 because we can't apply Hensel: no guarantee that a
    1083                 :            :      * root mod ell^2 exists */
    1084                 :        378 :     tr = find_trace_Elkies_power(a4,a6,ell, k, &MEQN, g, tr2, q, T, p, smallfact, &ti);
    1085         [ +  + ]:        378 :     if (!tr) tr = tr2;
    1086                 :        378 :     break;
    1087                 :            :   case MTElkies:
    1088                 :            :     /* Contrary to MTone_root, may look mod higher powers of ell */
    1089         [ +  + ]:       2898 :     if (cmpiu(p, 2*ell+3) <= 0)
    1090                 :         28 :       kt = k = 1; /* Not implemented in this case */
    1091                 :       2898 :     tr = find_trace_Elkies_power(a4,a6,ell, k, &MEQN, g, NULL, q, T, p, smallfact, &ti);
    1092         [ +  + ]:       2898 :     if (!tr)
    1093                 :            :     {
    1094         [ -  + ]:         21 :       if (DEBUGLEVEL) err_printf("[fail]\n");
    1095                 :         21 :       avma = ltop; return NULL;
    1096                 :            :     }
    1097                 :       2877 :     break;
    1098                 :            :   case MTroots:
    1099                 :         70 :     tr = find_trace_lp1_roots(ell, q);
    1100                 :         70 :     kt = 2;
    1101                 :         70 :     break;
    1102                 :            :   case MTAtkin:
    1103                 :       2849 :     tr = find_trace_Atkin(ell, r, q);
    1104         [ -  + ]:       2849 :     if (lg(tr)==1) pari_err_PRIME("ellsea",p);
    1105                 :       2849 :     kt = 1;
    1106                 :       2849 :     break;
    1107                 :            :   default: /* case MTpathological: */
    1108                 :          7 :     avma = ltop; return NULL;
    1109                 :            :   }
    1110         [ -  + ]:       6174 :   if (DEBUGLEVEL) {
    1111                 :          0 :     long n = lg(tr)-1;
    1112 [ #  # ][ #  # ]:          0 :     if (n > 1 || mt == MTAtkin)
    1113                 :            :     {
    1114                 :          0 :       err_printf("%3ld trace(s)",n);
    1115         [ #  # ]:          0 :       if (DEBUGLEVEL>1) err_printf(" [%ld ms]", timer_delay(&ti));
    1116                 :            :     }
    1117                 :          0 :     err_printf("\n");
    1118                 :            :   }
    1119                 :       6174 :   *ptr_kt = kt;
    1120                 :       6202 :   return gerepileupto(ltop, tr);
    1121                 :            : }
    1122                 :            : 
    1123                 :            : /* A partition of compile_atkin in baby and giant is represented as the binary
    1124                 :            :    developpement of an integer; if the i-th bit is 1, the i-th prime in
    1125                 :            :    compile-atkin is a baby. The optimum is obtained when the ratio between
    1126                 :            :    the number of possibilities for traces modulo giants (p_g) and babies (p_b)
    1127                 :            :    is near 3/4. */
    1128                 :            : static long
    1129                 :        567 : separation(GEN cnt)
    1130                 :            : {
    1131                 :            :   pari_sp btop;
    1132                 :        567 :   long k = lg(cnt)-1, l = (1L<<k)-1, best_i, i, j;
    1133                 :            :   GEN best_r, P, P3, r;
    1134                 :            : 
    1135                 :        567 :   P = gen_1;
    1136         [ +  + ]:       2779 :   for (j = 1; j <= k; ++j) P = mulis(P, cnt[j]);
    1137                 :            :   /* p_b * p_g = P is constant */
    1138                 :        567 :   P3 = mulsi(3, P);
    1139                 :        567 :   btop = avma;
    1140                 :        567 :   best_i = 0;
    1141                 :        567 :   best_r = P3;
    1142         [ +  + ]:      25557 :   for (i = 1; i < l; i++)
    1143                 :            :   {
    1144                 :            :     /* scan all possibilities */
    1145                 :      25032 :     GEN p_b = gen_1;
    1146         [ +  + ]:     224798 :     for (j = 0; j < k; j++)
    1147         [ +  + ]:     199766 :       if (i & (1L<<j)) p_b = mulis(p_b, cnt[1+j]);
    1148                 :      25032 :     r = subii(shifti(sqri(p_b), 2), P3); /* (p_b/p_g - 3/4)*4*P */
    1149         [ +  + ]:      25032 :     if (!signe(r)) { best_i = i; break; }
    1150         [ +  + ]:      24990 :     if (absi_cmp(r, best_r) < 0) { best_i = i; best_r = r; }
    1151         [ -  + ]:      24990 :     if (gc_needed(btop, 1))
    1152                 :          0 :       best_r = gerepileuptoint(btop, best_r);
    1153                 :            :   }
    1154                 :        567 :   return best_i;
    1155                 :            : }
    1156                 :            : 
    1157                 :            : /* x VEC defined modulo P (= *P), y VECSMALL modulo q, (q,P) = 1. */
    1158                 :            : /* Update in place:
    1159                 :            :  *   x to vector mod q P congruent to x mod P (resp. y mod q). */
    1160                 :            : /*   P ( <-- qP ) */
    1161                 :            : static void
    1162                 :       1078 : multiple_crt(GEN x, GEN y, GEN q, GEN P)
    1163                 :            : {
    1164                 :       1078 :   pari_sp ltop = avma, av;
    1165                 :       1078 :   long i, j, k, lx = lg(x)-1, ly = lg(y)-1;
    1166                 :            :   GEN  a1, a2, u, v, A2X;
    1167                 :       1078 :   (void)bezout(P,q,&u,&v);
    1168                 :       1078 :   a1 = mulii(P,u);
    1169                 :       1078 :   a2 = mulii(q,v); A2X = ZC_Z_mul(x, a2);
    1170                 :       1078 :   av = avma; affii(mulii(P,q), P);
    1171         [ +  + ]:      56938 :   for (i = 1, k = 1; i <= lx; i++, avma = av)
    1172                 :            :   {
    1173                 :      55860 :     GEN a2x = gel(A2X,i);
    1174         [ +  + ]:     983164 :     for (j = 1; j <= ly; ++j)
    1175                 :            :     {
    1176                 :     927304 :       GEN t = Fp_add(Fp_mulu(a1, y[j], P), a2x, P);
    1177                 :     927304 :       affii(t, gel(x, k++));
    1178                 :            :     }
    1179                 :            :   }
    1180                 :       1078 :   setlg(x, k); avma = ltop;
    1181                 :       1078 : }
    1182                 :            : 
    1183                 :            : /****************************************************************************/
    1184                 :            : /*                              MATCH AND SORT                              */
    1185                 :            : /****************************************************************************/
    1186                 :            : 
    1187                 :            : static GEN
    1188                 :       1134 : possible_traces(GEN compile, GEN mask, GEN *P, int larger)
    1189                 :            : {
    1190                 :       1134 :   GEN V, Pfinal = gen_1, C = shallowextract(compile, mask);
    1191                 :       1134 :   long i, lfinal = 1, lC = lg(C), lP;
    1192                 :       1134 :   pari_sp av = avma;
    1193                 :            : 
    1194         [ +  + ]:       3346 :   for (i = 1; i < lC; i++)
    1195                 :            :   {
    1196                 :       2212 :     GEN c = gel(C,i), t;
    1197                 :       2212 :     Pfinal = mulii(Pfinal, gel(c,1));
    1198                 :       2212 :     t = muluu(lfinal, lg(gel(c,2))-1);
    1199                 :       2212 :     lfinal = itou(t);
    1200                 :            :   }
    1201                 :       1134 :   Pfinal = gerepileuptoint(av, Pfinal);
    1202         [ +  + ]:       1134 :   if (larger)
    1203                 :        567 :     lP = lgefint(shifti(Pfinal,1));
    1204                 :            :   else
    1205                 :        567 :     lP = lgefint(Pfinal);
    1206                 :       1134 :   lfinal++;
    1207                 :            :   /* allocate room for final result */
    1208                 :       1134 :   V = cgetg(lfinal, t_VEC);
    1209         [ +  + ]:     877100 :   for (i = 1; i < lfinal; i++) gel(V,i) = cgeti(lP);
    1210                 :            : 
    1211                 :            :   {
    1212                 :       1134 :     GEN c = gel(C,1), v = gel(c,2);
    1213                 :       1134 :     long l = lg(v);
    1214         [ +  + ]:       5656 :     for (i = 1; i < l; i++) affsi(v[i], gel(V,i));
    1215                 :       1134 :     setlg(V, l); affii(gel(c,1), Pfinal); /* reset Pfinal */
    1216                 :            :   }
    1217         [ +  + ]:       2212 :   for (i = 2; i < lC; i++)
    1218                 :            :   {
    1219                 :       1078 :     GEN c = gel(C,i);
    1220                 :       1078 :     multiple_crt(V, gel(c,2), gel(c,1), Pfinal); /* Pfinal updated! */
    1221                 :            :   }
    1222                 :       1134 :   *P = Pfinal; return V;
    1223                 :            : }
    1224                 :            : 
    1225                 :            : static GEN
    1226                 :     163996 : cost(long mask, GEN cost_vec)
    1227                 :            : {
    1228                 :     163996 :   pari_sp ltop = avma;
    1229                 :            :   long i;
    1230                 :     163996 :   GEN c = gen_1;
    1231         [ +  + ]:    1853089 :   for (i = 1; i < lg(cost_vec); i++)
    1232         [ +  + ]:    1689093 :     if (mask&(1L<<(i-1)))
    1233                 :     732886 :       c = mulis(c, cost_vec[i]);
    1234                 :     163996 :   return gerepileuptoint(ltop, c);
    1235                 :            : }
    1236                 :            : 
    1237                 :            : static GEN
    1238                 :     132258 : value(long mask, GEN atkin, long k)
    1239                 :            : {
    1240                 :     132258 :   pari_sp ltop = avma;
    1241                 :            :   long i;
    1242                 :     132258 :   GEN c = gen_1;
    1243         [ +  + ]:    1493793 :   for (i = 1; i <= k; i++)
    1244         [ +  + ]:    1361535 :     if (mask&(1L<<(i-1)))
    1245                 :     591066 :       c = mulii(c, gmael(atkin, i, 1));
    1246                 :     132258 :   return gerepileuptoint(ltop, c);
    1247                 :            : }
    1248                 :            : 
    1249                 :            : static void
    1250                 :      64932 : set_cost(GEN B, long b, GEN cost_vec, long *pi)
    1251                 :            : {
    1252                 :      64932 :   pari_sp av = avma;
    1253                 :      64932 :   GEN costb = cost(b, cost_vec);
    1254                 :      64932 :   long i = *pi;
    1255         [ +  + ]:      86352 :   while (cmpii(costb, cost(B[i], cost_vec)) < 0) --i;
    1256                 :      64932 :   B[++i] = b;
    1257                 :      64932 :   *pi = i; avma = av;
    1258                 :      64932 : }
    1259                 :            : 
    1260                 :            : static GEN
    1261                 :       1169 : get_lgatkin(GEN compile_atkin, long k)
    1262                 :            : {
    1263                 :       1169 :   GEN v = cgetg(k+1, t_VECSMALL);
    1264                 :            :   long j;
    1265         [ +  + ]:       6125 :   for (j = 1; j <= k; ++j) v[j] = lg(gmael(compile_atkin, j, 2))-1;
    1266                 :       1169 :   return v;
    1267                 :            : }
    1268                 :            : 
    1269                 :            : static GEN
    1270                 :        602 : champion(GEN atkin, long k, GEN bound_champ)
    1271                 :            : {
    1272                 :        602 :   const long two_k = 1L<<k;
    1273                 :        602 :   pari_sp ltop = avma;
    1274                 :            :   long i, j, n, i1, i2;
    1275                 :        602 :   GEN B, Bp, cost_vec, res = NULL;
    1276                 :            : 
    1277                 :        602 :   cost_vec = get_lgatkin(atkin, k);
    1278         [ +  + ]:        602 :   if (k == 1) return mkvec2(gen_1, utoipos(cost_vec[1]));
    1279                 :            : 
    1280                 :        595 :   B  = zero_zv(two_k);
    1281                 :        595 :   Bp = zero_zv(two_k);
    1282                 :        595 :   Bp[2] = 1;
    1283         [ +  + ]:       2737 :   for (n = 2, j = 2; j <= k; j++)
    1284                 :            :   {
    1285                 :            :     long b;
    1286                 :       2142 :     i = 1;
    1287         [ +  + ]:      60704 :     for (i1 = 2, i2 = 1; i1 <= n; )
    1288                 :            :     {
    1289                 :      58562 :       pari_sp av = avma;
    1290                 :      58562 :       long b1 = Bp[i1], b2 = Bp[i2]|(1L<<(j-1));
    1291         [ +  + ]:      58562 :       if (cmpii(value(b1, atkin, k), value(b2, atkin, k)) < 0)
    1292                 :      58562 :         { b = b1; i1++; } else { b = b2; i2++; }
    1293                 :      58562 :       avma = av;
    1294                 :      58562 :       set_cost(B, b, cost_vec, &i);
    1295                 :            :     }
    1296         [ +  + ]:       8512 :     for ( ; i2 <= n; i2++)
    1297                 :            :     {
    1298                 :       6370 :       b = Bp[i2]|(1L<<(j-1));
    1299                 :       6370 :       set_cost(B, b, cost_vec, &i);
    1300                 :            :     }
    1301                 :       2142 :     n = i;
    1302         [ +  + ]:      47796 :     for (i = 1; i <= n; i++)
    1303                 :      45654 :       Bp[i] = B[i];
    1304                 :            :   }
    1305         [ +  + ]:     224679 :   for (i = 1; i <= two_k; i++)
    1306         [ +  + ]:     224084 :     if (B[i])
    1307                 :            :     {
    1308                 :      12712 :       GEN b = cost (B[i], cost_vec);
    1309                 :      12712 :       GEN v = value(B[i], atkin, k);
    1310         [ +  + ]:      12712 :       if (cmpii(v, bound_champ) <=0) continue;
    1311 [ +  + ][ +  - ]:       1484 :       if (res && gcmp(b, gel(res, 2)) >=0) continue;
    1312                 :        595 :       res = mkvec2(utoi(B[i]), b);
    1313                 :            :     }
    1314                 :        602 :   return gerepilecopy(ltop, res);
    1315                 :            : }
    1316                 :            : 
    1317                 :            : static GEN
    1318                 :       1134 : compute_diff(GEN v)
    1319                 :            : {
    1320                 :       1134 :   pari_sp av = avma;
    1321                 :       1134 :   long i, l = lg(v) - 1;
    1322                 :       1134 :   GEN diff = cgetg(l, t_VEC);
    1323         [ +  + ]:     875966 :   for (i = 1; i < l; i++) gel(diff, i) = subii(gel(v, i+1), gel(v, i));
    1324                 :       1134 :   return gerepileupto(av, ZV_sort_uniq(diff));
    1325                 :            : }
    1326                 :            : 
    1327                 :            : static int
    1328                 :      10192 : cmp_atkin(void*E, GEN a, GEN b)
    1329                 :            : {
    1330                 :      10192 :   long ta=typ(a)==t_INT, tb=typ(b)==t_INT, c;
    1331                 :            :   (void) E;
    1332 [ +  - ][ +  + ]:      10192 :   if (ta || tb) return ta-tb;
    1333                 :       3395 :   c = lg(gel(a,2)) - lg(gel(b,2));
    1334         [ +  + ]:       3395 :   if (c) return c;
    1335                 :      10192 :   return cmpii(gel(b,1), gel(a,1));
    1336                 :            : }
    1337                 :            : 
    1338                 :            : static void
    1339                 :       2422 : add_atkin(GEN atkin, GEN trace, long *nb)
    1340                 :            : {
    1341                 :       2422 :   long l = lg(atkin)-1;
    1342                 :       2422 :   long i, k = gen_search(atkin, trace, 1, NULL, cmp_atkin);
    1343 [ +  - ][ -  + ]:       4844 :   if (k==0 || k > l) return;
    1344         [ +  + ]:      47054 :   for (i = l; i > k; i--)
    1345                 :      44632 :     gel(atkin,i) = gel(atkin,i-1);
    1346         [ +  - ]:       2422 :   if (typ(gel(atkin,l))==t_INT) (*nb)++;
    1347                 :       2422 :   gel(atkin,k) = trace;
    1348                 :            : }
    1349                 :            : 
    1350                 :            : /* V = baby / giant, P = Pb / Pg */
    1351                 :            : static GEN
    1352                 :       1134 : BSGS_pre(GEN *pdiff, GEN V, GEN P, void *E, const struct bb_group *grp)
    1353                 :            : {
    1354                 :       1134 :   GEN diff = compute_diff(V);
    1355                 :       1134 :   GEN pre = cgetg(lg(diff), t_VEC);
    1356                 :       1134 :   long i, l = lg(diff);
    1357                 :       1134 :   gel(pre, 1) = grp->pow(E, P, gel(diff, 1));
    1358                 :            :   /* what we'd _really_ want here is a hashtable diff[i] -> pre[i]  */
    1359         [ +  + ]:      28609 :   for (i = 2; i < l; i++)
    1360                 :            :   {
    1361                 :      27475 :     pari_sp av = avma;
    1362                 :      27475 :     GEN d = subii(gel(diff, i), gel(diff, i-1));
    1363                 :      27475 :     GEN Q = grp->mul(E, gel(pre, i-1), grp->pow(E, P, d));
    1364                 :      27475 :     gel(pre, i) = gerepilecopy(av, Q);
    1365                 :            :   }
    1366                 :       1134 :   *pdiff = diff; return pre;
    1367                 :            : }
    1368                 :            : 
    1369                 :            : /* u = trace_elkies, Mu = prod_elkies. Let caller collect garbage */
    1370                 :            : /* Match & sort: variant from Lercier's thesis, section 11.2.3 */
    1371                 :            : /* baby/giant/table updated in place: this routines uses
    1372                 :            :  *   size(baby)+size(giant)+size(table)+size(table_ind) + O(log p)
    1373                 :            :  * bits of stack */
    1374                 :            : static GEN
    1375                 :        574 : match_and_sort(GEN compile_atkin, GEN Mu, GEN u, GEN q, void *E, const struct bb_group *grp)
    1376                 :            : {
    1377                 :            :   pari_sp av1, av2;
    1378                 :        574 :   GEN baby, giant, SgMb, Mb, Mg, den, Sg, dec_inf, div, pp1 = addis(q,1);
    1379                 :            :   GEN P, Pb, Pg, point, diff, pre, table, table_ind;
    1380                 :        574 :   long best_i, i, lbaby, lgiant, k = lg(compile_atkin)-1;
    1381                 :        574 :   GEN bound = sqrti(shifti(q, 2)), card;
    1382                 :        574 :   const long lcard = 100;
    1383                 :        574 :   long lq = lgefint(q), nbcard;
    1384                 :            :   pari_timer ti;
    1385                 :            : 
    1386         [ +  + ]:        574 :   if (k == 1)
    1387                 :            :   { /*only one Atkin prime, check the cardinality with random points */
    1388                 :          7 :     GEN r = gel(compile_atkin, 1), r1 = gel(r,1), r2 = gel(r,2);
    1389                 :          7 :     long l = lg(r2), j;
    1390                 :          7 :     GEN card = cgetg(l, t_VEC), Cs2, C, U;
    1391                 :          7 :     Z_chinese_pre(Mu, r1, &C,&U, NULL);
    1392                 :          7 :     Cs2 = shifti(C, -1);
    1393         [ +  + ]:         21 :     for (j = 1, i = 1; i < l; i++)
    1394                 :            :     {
    1395                 :         14 :       GEN t = Z_chinese_post(u, stoi(r2[i]), C, U, NULL);
    1396                 :         14 :       t = Fp_center(t, C, Cs2);
    1397         [ +  - ]:         14 :       if (absi_cmp(t, bound) <= 0)
    1398                 :         14 :         gel(card, j++) = subii(pp1, t);
    1399                 :            :     }
    1400                 :          7 :     setlg(card, j);
    1401                 :          7 :     return gen_select_order(card, E, grp);
    1402                 :            :   }
    1403         [ -  + ]:        567 :   if (DEBUGLEVEL>=2) timer_start(&ti);
    1404                 :        567 :   av1 = avma;
    1405                 :        567 :   best_i = separation( get_lgatkin(compile_atkin, k) );
    1406                 :        567 :   avma = av1;
    1407                 :            : 
    1408                 :        567 :   baby  = possible_traces(compile_atkin, stoi(best_i), &Mb, 1);
    1409                 :        567 :   giant = possible_traces(compile_atkin, subis(int2n(k), best_i+1), &Mg, 0);
    1410                 :        567 :   lbaby = lg(baby);
    1411                 :        567 :   lgiant = lg(giant);
    1412                 :        567 :   den = Fp_inv(Fp_mul(Mu, Mb, Mg), Mg);
    1413                 :        567 :   av2 = avma;
    1414         [ +  + ]:     511245 :   for (i = 1; i < lgiant; i++, avma = av2)
    1415                 :     510678 :     affii(Fp_mul(gel(giant,i), den, Mg), gel(giant,i));
    1416                 :        567 :   gen_sort_inplace(giant, (void*)&cmpii, &cmp_nodata, NULL);
    1417                 :        567 :   Sg = Fp_mul(negi(u), den, Mg);
    1418                 :        567 :   den = Fp_inv(Fp_mul(Mu, Mg, Mb), Mb);
    1419                 :        567 :   dec_inf = divii(mulii(Mb,addii(Mg,shifti(Sg,1))), shifti(Mg,1));
    1420                 :        567 :   togglesign(dec_inf); /* now, dec_inf = ceil(- (Mb/2 + Sg Mb/Mg) ) */
    1421                 :        567 :   div = mulii(truedivii(dec_inf, Mb), Mb);
    1422                 :        567 :   av2 = avma;
    1423         [ +  + ]:     365855 :   for (i = 1; i < lbaby; i++, avma = av2)
    1424                 :            :   {
    1425                 :     365288 :     GEN b = addii(Fp_mul(Fp_sub(gel(baby,i), u, Mb), den, Mb), div);
    1426         [ +  + ]:     365288 :     if (cmpii(b, dec_inf) < 0) b = addii(b, Mb);
    1427                 :     365288 :     affii(b, gel(baby,i));
    1428                 :            :   }
    1429                 :        567 :   gen_sort_inplace(baby, (void*)&cmpii, &cmp_nodata, NULL);
    1430                 :            : 
    1431                 :        567 :   SgMb = mulii(Sg, Mb);
    1432                 :        567 :   card = cgetg(lcard+1,t_VEC);
    1433         [ +  + ]:      57267 :   for (i = 1; i <= lcard; i++) gel(card,i) = cgetipos(lq+1);
    1434                 :            : 
    1435                 :        567 :   av2 = avma;
    1436                 :            : MATCH_RESTART:
    1437                 :        567 :   avma = av2;
    1438                 :        567 :   nbcard = 0;
    1439                 :        567 :   P = grp->rand(E);
    1440                 :        567 :   point = grp->pow(E,P, Mu);
    1441                 :        567 :   Pb = grp->pow(E,point, Mg);
    1442                 :        567 :   Pg = grp->pow(E,point, Mb);
    1443                 :            :   /* Precomputation for babies */
    1444                 :        567 :   pre = BSGS_pre(&diff, baby, Pb, E, grp);
    1445                 :            : 
    1446                 :            :   /*Now we compute the table of babies, this table contains only the */
    1447                 :            :   /*lifted x-coordinate of the points in order to use less memory */
    1448                 :        567 :   table = cgetg(lbaby, t_VECSMALL);
    1449                 :        567 :   av1 = avma;
    1450                 :            :   /* (p+1 - u - Mu*Mb*Sg) P - (baby[1]) Pb */
    1451                 :        567 :   point = grp->pow(E,P, subii(subii(pp1, u), mulii(Mu, addii(SgMb, mulii(Mg, gel(baby,1))))));
    1452                 :        567 :   table[1] = grp->hash(gel(point,1));
    1453         [ +  + ]:     365288 :   for (i = 2; i < lbaby; i++)
    1454                 :            :   {
    1455                 :     364721 :     GEN d = subii(gel(baby, i), gel(baby, i-1));
    1456                 :     364721 :     point =  grp->mul(E, point, grp->pow(E, gel(pre, ZV_search(diff, d)), gen_m1));
    1457                 :     364721 :     table[i] = grp->hash(gel(point,1));
    1458         [ +  + ]:     364721 :     if (gc_needed(av1,3))
    1459                 :            :     {
    1460         [ -  + ]:         22 :       if(DEBUGMEM>1) pari_warn(warnmem,"match_and_sort, baby = %ld", i);
    1461                 :         22 :       point = gerepileupto(av1, point);
    1462                 :            :     }
    1463                 :            :   }
    1464                 :        567 :   avma = av1;
    1465                 :            :   /* Precomputations for giants */
    1466                 :        567 :   pre = BSGS_pre(&diff, giant, Pg, E, grp);
    1467                 :            : 
    1468                 :            :   /* Look for a collision among the x-coordinates */
    1469                 :        567 :   table_ind = vecsmall_indexsort(table);
    1470                 :        567 :   table = perm_mul(table,table_ind);
    1471                 :            : 
    1472                 :        567 :   av1 = avma;
    1473                 :        567 :   point = grp->pow(E, Pg, gel(giant, 1));
    1474                 :        567 :   for (i = 1; ; i++)
    1475                 :            :   {
    1476                 :            :     GEN d;
    1477                 :     510678 :     long h = grp->hash(gel(point, 1));
    1478                 :     510678 :     long s = zv_search(table, h);
    1479         [ +  + ]:     510678 :     if (s) {
    1480 [ +  + ][ +  - ]:       1134 :       while (table[s] == h && s) s--;
    1481 [ +  + ][ +  + ]:       1134 :       for (s++; s < lbaby && table[s] == h; s++)
    1482                 :            :       {
    1483                 :        567 :         GEN B = gel(baby,table_ind[s]), G = gel(giant,i);
    1484                 :        567 :         GEN GMb = mulii(G, Mb), BMg = mulii(B, Mg);
    1485                 :        567 :         GEN Be = subii(subii(pp1, u), mulii(Mu, addii(SgMb, BMg)));
    1486                 :        567 :         GEN Bp = grp->pow(E,P, Be);
    1487                 :            :         /* p+1 - u - Mu (Sg Mb + GIANT Mb + BABY Mg) */
    1488         [ +  - ]:        567 :         if (gequal(gel(Bp,1),gel(point,1)))
    1489                 :            :         {
    1490                 :        567 :           GEN card1 = subii(Be, mulii(Mu, GMb));
    1491                 :        567 :           GEN card2 = addii(card1, mulii(mulsi(2,Mu), GMb));
    1492         [ -  + ]:        567 :           if (DEBUGLEVEL>=2) timer_printf(&ti,"match_and_sort");
    1493         [ +  + ]:        567 :           if (absi_cmp(subii(pp1, card1), bound) <= 0)
    1494                 :        490 :             affii(card1, gel(card, ++nbcard));
    1495         [ -  + ]:        567 :           if (nbcard >= lcard) goto MATCH_RESTART;
    1496         [ +  + ]:        567 :           if (absi_cmp(subii(pp1, card2), bound) <= 0)
    1497                 :        154 :             affii(card2, gel(card, ++nbcard));
    1498         [ -  + ]:        567 :           if (nbcard >= lcard) goto MATCH_RESTART;
    1499                 :            :         }
    1500                 :            :       }
    1501                 :            :     }
    1502         [ +  + ]:     510678 :     if (i==lgiant-1) break;
    1503                 :     510111 :     d = subii(gel(giant, i+1), gel(giant, i));
    1504                 :     510111 :     point = grp->mul(E,point, gel(pre, ZV_search(diff, d)));
    1505         [ +  + ]:     510111 :     if (gc_needed(av1,3))
    1506                 :            :     {
    1507         [ -  + ]:         22 :       if(DEBUGMEM>1) pari_warn(warnmem,"match_and_sort, giant = %ld", i);
    1508                 :         22 :       point = gerepileupto(av1, point);
    1509                 :            :     }
    1510                 :     510111 :   }
    1511                 :        567 :   setlg(card, nbcard+1);
    1512                 :        574 :   return gen_select_order(card, E, grp);
    1513                 :            : }
    1514                 :            : 
    1515                 :            : static GEN
    1516                 :        602 : get_bound_bsgs(long lp)
    1517                 :            : {
    1518                 :            :   GEN B;
    1519         [ +  + ]:        602 :   if (lp <= 160)
    1520                 :        574 :     B = divru(powru(dbltor(1.048), lp), 9);
    1521         [ +  + ]:         28 :   else if (lp <= 192)
    1522                 :         21 :     B = divrr(powru(dbltor(1.052), lp), dbltor(16.65));
    1523                 :            :   else
    1524                 :          7 :     B = mulrr(powru(dbltor(1.035), minss(lp,307)), dbltor(1.35));
    1525                 :        602 :   return mulru(B, 1000000);
    1526                 :            : }
    1527                 :            : 
    1528                 :            : /*FIXME: the name of the function does not quite match what it does*/
    1529                 :            : static const struct bb_group *
    1530                 :        574 : get_FqE_group(void ** pt_E, GEN a4, GEN a6, GEN T, GEN p)
    1531                 :            : {
    1532         [ +  + ]:        574 :   if (!T) return get_FpE_group(pt_E,a4,a6,p);
    1533         [ +  + ]:         28 :   else if (lgefint(p)==3)
    1534                 :            :   {
    1535                 :         21 :     ulong pp = uel(p,2);
    1536                 :         21 :     return get_FlxqE_group(pt_E, ZX_to_Flx(a4,pp),ZX_to_Flx(a6,pp),ZXT_to_FlxT(T,pp),pp);
    1537                 :            :   }
    1538                 :        574 :   return get_FpXQE_group(pt_E,a4,a6,T,p);
    1539                 :            : }
    1540                 :            : 
    1541                 :            : /* E is an elliptic curve defined over Z or over Fp in ellinit format, defined
    1542                 :            :  * by the equation E: y^2 + a1*x*y + a2*y = x^3 + a2*x^2 + a4*x + a6
    1543                 :            :  * p is a prime number
    1544                 :            :  * set smallfact to stop whenever a small factor > smallfact of the order is
    1545                 :            :  * detected. Useful when searching for a good curve for cryptographic
    1546                 :            :  * applications */
    1547                 :            : GEN
    1548                 :        602 : Fq_ellcard_SEA(GEN a4, GEN a6, GEN q, GEN T, GEN p, long smallfact)
    1549                 :            : {
    1550                 :        602 :   const long MAX_ATKIN = 21;
    1551                 :        602 :   pari_sp ltop = avma, btop;
    1552                 :            :   long ell, i, nb_atkin;
    1553                 :            :   GEN TR, TR_mod, compile_atkin, bound, bound_bsgs, champ;
    1554                 :        602 :   GEN prod_atkin = gen_1, max_traces = gen_0;
    1555                 :        602 :   double bound_gr = 1.;
    1556                 :        602 :   const double growth_factor = 1.26;
    1557                 :            :   forprime_t TT;
    1558                 :            :   void *E;
    1559                 :            : 
    1560 [ +  + ][ -  + ]:        602 :   if (!modular_eqn && !get_seadata(0)) return NULL;
    1561 [ +  + ][ +  + ]:        602 :   if (T && get_FpX_var(T)==0) /* 0 is used by the modular polynomial */
    1562                 :            :   {
    1563         [ +  - ]:         14 :     if (typ(T)==t_POL) { T  = shallowcopy(T); setvarn(T,1); }
    1564                 :          0 :     else T = gsubst(T,0,pol_x(1));
    1565                 :         14 :     a4 = shallowcopy(a4); setvarn(a4,1);
    1566                 :         14 :     a6 = shallowcopy(a6); setvarn(a6,1);
    1567                 :            :   }
    1568                 :            :   /*First compute the trace modulo 2 */
    1569      [ +  +  + ]:        602 :   switch(FqX_nbroots(mkpoln(4, gen_1, gen_0, a4, a6), T, p))
    1570                 :            :   {
    1571                 :            :   case 3: /* bonus time: 4 | #E(Fq) = q+1 - t */
    1572         [ +  + ]:         56 :     i = mod4(q)+1; if (i > 2) i -= 4;
    1573                 :         56 :     TR_mod = utoipos(4);
    1574                 :         56 :     TR = stoi(i); break;
    1575                 :            :   case 1:
    1576                 :        315 :     TR_mod = gen_2;
    1577                 :        315 :     TR = gen_0; break;
    1578                 :            :   default : /* 0 */
    1579                 :        231 :     TR_mod = gen_2;
    1580                 :        231 :     TR = gen_1; break;
    1581                 :            :   }
    1582 [ -  + ][ #  # ]:        602 :   if (smallfact == 1 && !mpodd(TR))
    1583                 :            :   {
    1584         [ #  # ]:          0 :     if (DEBUGLEVEL) err_printf("Aborting: #E(Fq) divisible by 2\n");
    1585                 :          0 :     avma = ltop; return gen_0;
    1586                 :            :   }
    1587                 :            : 
    1588                 :            :   /* compile_atkin is a vector containing informations about Atkin primes,
    1589                 :            :    * informations about Elkies primes lie in Mod(TR, TR_mod). */
    1590                 :        602 :   u_forprime_init(&TT, 3, 1000); /* way beyond what seadata provides */
    1591                 :        602 :   bound = sqrti(shifti(q, 4));
    1592                 :        602 :   bound_bsgs = get_bound_bsgs(expi(q));
    1593                 :        602 :   compile_atkin = zerovec(MAX_ATKIN); nb_atkin = 0;
    1594                 :        602 :   btop = avma;
    1595         [ +  - ]:       6209 :   while ( (ell = u_forprime_next(&TT)) )
    1596                 :            :   {
    1597                 :       6209 :     long ellkt, kt = 1, nbtrace;
    1598                 :            :     GEN trace_mod;
    1599         [ +  + ]:       6209 :     if (equalui(ell, p)) continue;
    1600                 :       6202 :     trace_mod = find_trace(a4, a6, ell, q, T, p, &kt, smallfact);
    1601         [ +  + ]:       6202 :     if (!trace_mod) continue;
    1602                 :            : 
    1603                 :       6174 :     nbtrace = lg(trace_mod) - 1;
    1604                 :       6174 :     ellkt = (long)upowuu(ell, kt);
    1605         [ +  + ]:       6174 :     if (nbtrace == 1)
    1606                 :            :     {
    1607                 :       3752 :       long t_mod_ellkt = trace_mod[1];
    1608 [ -  + ][ #  # ]:       3752 :       if (smallfact && ell > smallfact)
    1609                 :            :       { /* does ell divide q + 1 - t ? */
    1610                 :          0 :         long card_mod_ell = (umodiu(q,ell) + 1 - t_mod_ellkt) % ell ;
    1611         [ #  # ]:          0 :         if (!card_mod_ell)
    1612                 :            :         {
    1613         [ #  # ]:          0 :           if (DEBUGLEVEL)
    1614                 :          0 :             err_printf("\nAborting: #E(Fq) divisible by %ld\n",ell);
    1615                 :          0 :           avma = ltop; return gen_0;
    1616                 :            :         }
    1617                 :            :       }
    1618                 :       3752 :       (void)Z_incremental_CRT(&TR, t_mod_ellkt, &TR_mod, ellkt);
    1619                 :            :     }
    1620                 :            :     else
    1621                 :            :     {
    1622                 :       2422 :       add_atkin(compile_atkin, mkvec2(utoipos(ellkt), trace_mod), &nb_atkin);
    1623                 :       2422 :       prod_atkin = value(-1, compile_atkin, nb_atkin);
    1624                 :            :     }
    1625         [ +  + ]:       6174 :     if (cmpii(mulii(TR_mod, prod_atkin), bound) > 0)
    1626                 :            :     {
    1627                 :            :       GEN bound_tr;
    1628         [ +  + ]:        644 :       if (!nb_atkin) return gerepileuptoint(ltop, subii(addis(q, 1), TR));
    1629                 :        616 :       bound_tr = mulrr(bound_bsgs, dbltor(bound_gr));
    1630                 :        616 :       bound_gr *= growth_factor;
    1631         [ +  + ]:        616 :       if (signe(max_traces))
    1632                 :            :       {
    1633                 :         42 :         max_traces = divis(muliu(max_traces,nbtrace), ellkt);
    1634         [ -  + ]:         42 :         if (DEBUGLEVEL>=3)
    1635                 :          0 :           err_printf("At least %Ps remaining possibilities.\n",max_traces);
    1636                 :            :       }
    1637         [ +  + ]:        616 :       if (cmpir(max_traces, bound_tr) < 0)
    1638                 :            :       {
    1639                 :        602 :         GEN bound_atkin = truedivii(bound, TR_mod);
    1640                 :        602 :         champ = champion(compile_atkin, nb_atkin, bound_atkin);
    1641                 :        602 :         max_traces = gel(champ,2);
    1642         [ -  + ]:        602 :         if (DEBUGLEVEL>=2)
    1643                 :          0 :           err_printf("%Ps remaining possibilities.\n", max_traces);
    1644         [ +  + ]:        602 :         if (cmpir(max_traces, bound_tr) < 0)
    1645                 :            :         {
    1646                 :        574 :           GEN res, cat = shallowextract(compile_atkin, gel(champ,1));
    1647                 :            :           const struct bb_group *grp;
    1648         [ -  + ]:        574 :           if (DEBUGLEVEL)
    1649                 :          0 :             err_printf("Match and sort for %Ps possibilities.\n", max_traces);
    1650                 :        574 :           grp = get_FqE_group(&E,a4,a6,T,p);
    1651                 :        574 :           res = match_and_sort(cat, TR_mod, TR, q, E, grp);
    1652                 :        574 :           return gerepileuptoint(ltop, res);
    1653                 :            :         }
    1654                 :            :       }
    1655                 :            :     }
    1656         [ -  + ]:       5572 :     if (gc_needed(btop, 1))
    1657                 :       6209 :       gerepileall(btop,5, &TR,&TR_mod, &compile_atkin, &max_traces, &prod_atkin);
    1658                 :            :   }
    1659                 :        602 :   return NULL;/*not reached*/
    1660                 :            : }
    1661                 :            : 
    1662                 :            : GEN
    1663                 :        567 : Fp_ellcard_SEA(GEN a4, GEN a6, GEN p, long smallfact)
    1664                 :            : {
    1665                 :        567 :   return Fq_ellcard_SEA(a4, a6, p, NULL, p, smallfact);
    1666                 :            : }
    1667                 :            : 
    1668                 :            : GEN
    1669                 :          0 : ellsea(GEN E, GEN p, long smallfact)
    1670                 :            : {
    1671                 :          0 :   pari_sp av = avma;
    1672                 :          0 :   GEN a4 = modii(mulis(Rg_to_Fp(gel(E,10), p), -27), p);
    1673                 :          0 :   GEN a6 = modii(mulis(Rg_to_Fp(gel(E,11), p), -54), p);
    1674                 :          0 :   GEN card = Fp_ellcard_SEA(a4, a6, p, smallfact);
    1675         [ #  # ]:          0 :   if (!card) pari_err_PACKAGE("seadata");
    1676                 :          0 :   return gerepileuptoint(av, subii(addis(p,1),card));
    1677                 :            : }

Generated by: LCOV version 1.9