Code coverage tests

This page documents the degree to which the PARI/GP source code is tested by our public test suite, distributed with the source distribution in directory src/test/. This is measured by the gcov utility; we then process gcov output using the lcov frond-end.

We test a few variants depending on Configure flags on the pari.math.u-bordeaux1.fr machine (x86_64 architecture), and agregate them in the final report:

The target is 90% coverage for all mathematical modules (given that branches depending on DEBUGLEVEL or DEBUGMEM are not covered). This script is run to produce the results below.

LCOV - code coverage report
Current view: top level - modules - ellsea.c (source / functions) Hit Total Coverage
Test: PARI/GP v2.8.0 lcov report (development 16741-1378b1c) Lines: 870 929 93.6 %
Date: 2014-08-17 Functions: 55 57 96.5 %
Legend: Lines: hit not hit | Branches: + taken - not taken # not executed Branches: 331 446 74.2 %

           Branch data     Line data    Source code
       1                 :            : /* Copyright (C) 2008  The PARI group.
       2                 :            : 
       3                 :            : This file is part of the PARI/GP package.
       4                 :            : 
       5                 :            : PARI/GP is free software; you can redistribute it and/or modify it under the
       6                 :            : terms of the GNU General Public License as published by the Free Software
       7                 :            : Foundation. It is distributed in the hope that it will be useful, but WITHOUT
       8                 :            : ANY WARRANTY WHATSOEVER.
       9                 :            : 
      10                 :            : Check the License for details. You should have received a copy of it, along
      11                 :            : with the package; see the file 'COPYING'. If not, write to the Free Software
      12                 :            : Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA. */
      13                 :            : 
      14                 :            : /* This file is a C version by Bill Allombert of the 'ellsea' GP package
      15                 :            :  * whose copyright statement is as follows:
      16                 :            : Authors:
      17                 :            :   Christophe Doche   <cdoche@math.u-bordeaux.fr>
      18                 :            :   Sylvain Duquesne <duquesne@math.u-bordeaux.fr>
      19                 :            : 
      20                 :            : Universite Bordeaux I, Laboratoire A2X
      21                 :            : For the AREHCC project, see http://www.arehcc.com/
      22                 :            : 
      23                 :            : Contributors:
      24                 :            :   Karim Belabas (code cleanup and package release, faster polynomial arithmetic)
      25                 :            : 
      26                 :            : 'ellsea' is free software; you can redistribute it and/or modify it under the
      27                 :            : terms of the GNU General Public License as published by the Free Software
      28                 :            : Foundation. It is distributed in the hope that it will be useful, but WITHOUT
      29                 :            : ANY WARRANTY WHATSOEVER. */
      30                 :            : 
      31                 :            : /* Extension to non prime finite fields by Bill Allombert 2012 */
      32                 :            : 
      33                 :            : #include "pari.h"
      34                 :            : #include "paripriv.h"
      35                 :            : 
      36                 :            : static GEN modular_eqn;
      37                 :            : 
      38                 :            : void
      39                 :        862 : pari_init_seadata(void)  { modular_eqn = NULL; }
      40                 :            : void
      41         [ +  + ]:        850 : pari_close_seadata(void) { if (modular_eqn) gunclone(modular_eqn); }
      42                 :            : 
      43                 :            : static int
      44                 :      16240 : FqX_equal(GEN x, GEN y) { return gequal(x,y); }
      45                 :            : 
      46                 :            : static int
      47                 :        670 : FlxX_equal(GEN x, GEN y) { return gequal(x,y); }
      48                 :            : 
      49                 :            : static char *
      50                 :         15 : seadata_filename(ulong ell)
      51                 :         15 : { return stack_sprintf("%s/seadata/sea%ld", pari_datadir, ell); }
      52                 :            : 
      53                 :            : static GEN
      54                 :         15 : get_seadata(ulong ell)
      55                 :            : {
      56                 :         15 :   pari_sp av=avma;
      57                 :            :   GEN eqn;
      58                 :         15 :   char *s = seadata_filename(ell);
      59                 :         15 :   pariFILE *F = pari_fopengz(s);
      60         [ -  + ]:         15 :   if (!F) return NULL;
      61         [ +  - ]:         15 :   if (ell==0)
      62                 :            :   {
      63                 :         15 :     eqn = gp_readvec_stream(F->file);
      64                 :         15 :     pari_fclose(F);
      65                 :         15 :     modular_eqn = gclone(eqn);
      66                 :         15 :     avma=av;
      67                 :         15 :     return gen_0;
      68                 :            :   } else {
      69                 :          0 :     eqn = gp_read_stream(F->file);
      70                 :          0 :     pari_fclose(F);
      71                 :         15 :     return eqn;
      72                 :            :   }
      73                 :            : }
      74                 :            : 
      75                 :            : /*Builds the modular equation corresponding to the vector list. Shallow */
      76                 :            : static GEN
      77                 :       3965 : list_to_pol(GEN list, long vx, long vy)
      78                 :            : {
      79                 :       3965 :   long i, l = lg(list);
      80                 :       3965 :   GEN P = cgetg(l, t_VEC);
      81         [ +  + ]:      84970 :   for (i = 1; i < l; i++)
      82                 :            :   {
      83                 :      81005 :     GEN L = gel(list,i);
      84         [ +  + ]:      81005 :     if (typ(L) == t_VEC) L = RgV_to_RgX_reverse(L, vy);
      85                 :      81005 :     gel(P, i) = L;
      86                 :            :   }
      87                 :       3965 :   return RgV_to_RgX_reverse(P, vx);
      88                 :            : }
      89                 :            : 
      90                 :            : struct meqn { char type; GEN eq; };
      91                 :            : 
      92                 :            : static int
      93                 :       3965 : get_modular_eqn(struct meqn *M, ulong ell, long vx, long vy)
      94                 :            : {
      95                 :            :   GEN eqn;
      96                 :       3965 :   long idx = uprimepi(ell)-1;
      97 [ +  + ][ -  + ]:       3965 :   if (!modular_eqn && !get_seadata(0)) pari_err_PACKAGE("seadata");
      98 [ +  - ][ +  - ]:       3965 :   if (idx && idx<lg(modular_eqn))
      99                 :       3965 :     eqn = gel(modular_eqn, idx);
     100                 :            :   else
     101                 :          0 :     eqn = get_seadata(ell);
     102         [ -  + ]:       3965 :   if (!eqn) { M->type = 0; M->eq = NULL; return 0; }
     103                 :       3965 :   M->type = *GSTR(gel(eqn, 2));
     104                 :       3965 :   M->eq = list_to_pol(gel(eqn, 3), vx, vy);
     105                 :       3965 :   return 1;
     106                 :            : }
     107                 :            : 
     108                 :            : static void
     109                 :          0 : err_modular_eqn(long ell)
     110                 :          0 : { pari_err_FILE("seadata file", seadata_filename(ell)); }
     111                 :            : 
     112                 :            : GEN
     113                 :          5 : ellmodulareqn(long ell, long vx, long vy)
     114                 :            : {
     115                 :          5 :   pari_sp av = avma;
     116                 :            :   struct meqn meqn;
     117         [ +  - ]:          5 :   if (vx<0) vx=0;
     118         [ +  - ]:          5 :   if (vy<0) vy=fetch_user_var("y");
     119         [ -  + ]:          5 :   if (varncmp(vx,vy)>=0)
     120                 :          0 :     pari_err_PRIORITY("ellmodulareqn", pol_x(vx), ">=", vy);
     121 [ +  - ][ -  + ]:          5 :   if (ell < 0 || !uisprime(ell))
     122                 :          0 :     pari_err_PRIME("ellmodulareqn (level)", stoi(ell));
     123                 :            : 
     124         [ -  + ]:          5 :   if (!get_modular_eqn(&meqn, ell, vx, vy))
     125                 :          0 :     err_modular_eqn(ell);
     126                 :          5 :   return gerepilecopy(av,mkvec2(meqn.eq, stoi(meqn.type=='A')));
     127                 :            : }
     128                 :            : 
     129                 :            : /*Gives the first precS terms of the Weierstrass series related to */
     130                 :            : /*E: y^2 = x^3 + a4x + a6.  Assumes (precS-2)*(2precS+3) < ULONG_MAX, i.e.
     131                 :            :  * precS < 46342 in 32-bit machines */
     132                 :            : static GEN
     133                 :       8942 : find_coeff(GEN a4, GEN a6, GEN T, GEN p, long precS)
     134                 :            : {
     135                 :       8942 :   GEN res = cgetg(precS+1, t_VEC);
     136                 :            :   long k, h;
     137         [ -  + ]:       8942 :   if (precS == 0) return res;
     138                 :       8942 :   gel(res, 1) = Fq_div(a4, stoi(-5), T, p);
     139         [ -  + ]:       8942 :   if (precS == 1) return res;
     140                 :       8942 :   gel(res, 2) = Fq_div(a6, stoi(-7), T, p);
     141         [ +  + ]:      67142 :   for (k = 3; k <= precS; ++k)
     142                 :            :   {
     143                 :      58200 :     pari_sp btop = avma;
     144                 :      58200 :     GEN a = gen_0;
     145         [ +  + ]:     490464 :     for (h = 1; h <= k-2; h++)
     146                 :     432264 :       a = Fq_add(a, Fq_mul(gel(res, h), gel(res, k-1-h), T, p), T, p);
     147                 :      58200 :     a = Fq_div(Fq_mulu(a, 3, T, p), utoi((k-2) * (2*k + 3)), T, p);
     148                 :      58200 :     gel(res, k) = gerepileupto(btop, a);
     149                 :            :   }
     150                 :       8942 :   return res;
     151                 :            : }
     152                 :            : 
     153                 :            : /* Given power series s1 and s2, finds a polynomial P such that s2 = P(s1) */
     154                 :            : static GEN
     155                 :        665 : find_transformation(GEN s2, GEN s1)
     156                 :            : {
     157                 :        665 :   pari_sp ltop = avma, btop, st_lim;
     158                 :        665 :   long i, vx = varn(s1), vs1 = valp(s1), vs2 = valp(s2), degP = vs2/vs1;
     159                 :        665 :   GEN invs1coeff = ginv(gel(s1, 2)), P = gen_0, s1pl = cgetg(degP+1, t_VEC);
     160                 :            : 
     161                 :        665 :   gel(s1pl, 1) = s1;
     162         [ +  + ]:       3085 :   for (i = 2; i <= degP; i++) gel(s1pl, i) = gmul(s1, gel(s1pl, i-1));
     163                 :        665 :   btop = avma; st_lim = stack_lim(btop, 1);
     164         [ +  + ]:       3750 :   for (i = 0; i < degP; i++)
     165                 :            :   {
     166                 :       3085 :     GEN Pcoeff = gmul(gel(s2,2), invs1coeff);
     167                 :       3085 :     P = gadd(P, gmul(Pcoeff, monomial(gen_1, degP-i, vx)));
     168                 :       3085 :     s2 = gsub(s2, gmul(Pcoeff, gel(s1pl, degP-i)));
     169         [ -  + ]:       3085 :     if (low_stack(st_lim, stack_lim(btop, 1))) gerepileall(btop, 2, &P, &s2);
     170                 :            :   }
     171                 :        665 :   P = gadd(P, gmul(gel(s2,2), invs1coeff));
     172                 :        665 :   return gerepileupto(ltop, P);
     173                 :            : }
     174                 :            : 
     175                 :            : static GEN
     176                 :       1330 : compute_W(GEN a4, GEN a6, GEN T, GEN p, long vx, long precS)
     177                 :            : {
     178                 :       1330 :   pari_sp ltop = avma;
     179                 :       1330 :   GEN c  = find_coeff(a4, a6, T, p, precS);
     180                 :       1330 :   GEN s  = RgX_inflate(RgV_to_RgX(c,vx), 2);
     181                 :       1330 :   GEN z2 = monomial(gen_1, 2, vx);
     182                 :       1330 :   s = gadd(gadd(ginv(z2), gmul(s, z2)), zeroser(vx, 2*precS));
     183                 :       1330 :   return gerepileupto(ltop, s);
     184                 :            : }
     185                 :            : 
     186                 :            : /*Finds numerator phi of the isogeny between Eb and Ec whose denominator is h*/
     187                 :            : static GEN
     188                 :        665 : find_numerator_isogeny(GEN Eba4, GEN Eba6, GEN Eca4, GEN Eca6, GEN h, GEN T, GEN p,
     189                 :            :                        long precS)
     190                 :            : {
     191                 :        665 :   pari_sp ltop = avma;
     192                 :        665 :   GEN mod1p = gmodulsg(1,p);
     193         [ +  + ]:        665 :   GEN mod = T ? gmodulo(mod1p, gmul(get_FpX_mod(T), mod1p)): mod1p;
     194                 :        665 :   GEN WEb = gmul(compute_W(Eba4, Eba6, T, p, varn(h), precS), mod);
     195                 :        665 :   GEN WEc = gmul(compute_W(Eca4, Eca6, T, p, varn(h), precS), mod);
     196                 :        665 :   GEN den = poleval(h, WEb);
     197                 :        665 :   return gerepileupto(ltop, find_transformation(gmul(gsqr(den), WEc), WEb));
     198                 :            : }
     199                 :            : 
     200                 :            : /****************************************************************************/
     201                 :            : /*               SIMPLE ELLIPTIC CURVE OVER Fq                              */
     202                 :            : /****************************************************************************/
     203                 :            : 
     204                 :            : static GEN
     205                 :       4625 : Fq_ellj(GEN a4, GEN a6, GEN T, GEN p)
     206                 :            : {
     207                 :       4625 :   pari_sp ltop=avma;
     208                 :       4625 :   GEN a43 = Fq_mulu(Fq_powu(a4, 3, T, p), 4, T, p);
     209                 :       4625 :   GEN j   = Fq_div(Fq_mulu(a43, 1728, T, p),
     210                 :            :                    Fq_add(a43, Fq_mulu(Fq_sqr(a6, T, p), 27, T, p), T, p), T, p);
     211                 :       4625 :   return gerepileupto(ltop, j);
     212                 :            : }
     213                 :            : 
     214                 :            : /****************************************************************************/
     215                 :            : /*                              EIGENVALUE                                  */
     216                 :            : /****************************************************************************/
     217                 :            : 
     218                 :            : struct eigen_ellinit
     219                 :            : {
     220                 :            :   GEN a4, h, T, p;
     221                 :            :   GEN RHS, DRHS, X12, Gr, nGr,O;
     222                 :            :   ulong pp;
     223                 :            : };
     224                 :            : 
     225                 :            : static void
     226                 :       2670 : init_eigen(struct eigen_ellinit *Edat, GEN a4, GEN a6, GEN h, GEN T, GEN p)
     227                 :            : {
     228                 :       2670 :   pari_sp ltop = avma;
     229                 :       2670 :   GEN RHS  = FqX_rem(mkpoln(4, gen_1, gen_0, a4, a6), h, T, p);
     230                 :       2670 :   GEN DRHS = FqX_rem(mkpoln(3, utoi(3), gen_0, a4), h, T, p);
     231                 :       2670 :   GEN lambda = FqXQ_div(DRHS, FqX_mulu(RHS, 4, T, p), h, T, p);
     232                 :       2670 :   GEN C = FqX_sub(FqXQ_mul(lambda, DRHS, h, T, p), monomial(gen_2,1,0), T, p);
     233                 :       2670 :   GEN D = FqXQ_mul(FqX_mulu(lambda, 2, T, p),FqX_sub(pol_x(0), C, T, p), h, T, p);
     234                 :       2670 :   GEN X12 = mkvec2(C, FqX_Fq_add(D, gen_m1, T, p));
     235         [ +  + ]:       5295 :   GEN Gr = T ? FpXQXQ_halfFrobenius(RHS, h, T, p):
     236                 :       2625 :                FpXQ_pow(RHS, shifti(p, -1), h, p);
     237                 :       2670 :   GEN nGr = FqX_neg(Gr, T, p);
     238                 :       2670 :   gerepileall(ltop, 5, &RHS, &DRHS, &X12, &Gr, &nGr);
     239                 :       2670 :   Edat->a4    = gcopy(a4);
     240                 :       2670 :   Edat->h     = gcopy(h);
     241                 :       2670 :   Edat->T     = T;
     242                 :       2670 :   Edat->p     = p;
     243                 :       2670 :   Edat->pp    = 0;
     244                 :       2670 :   Edat->RHS   = RHS;
     245                 :       2670 :   Edat->DRHS  = DRHS;
     246                 :       2670 :   Edat->X12   = X12;
     247                 :       2670 :   Edat->Gr    = Gr;
     248                 :       2670 :   Edat->nGr   = nGr;
     249                 :       2670 :   Edat->O     = mkvec2(pol_x(0), pol_1(0));
     250                 :       2670 : }
     251                 :            : 
     252                 :            : static void
     253                 :         90 : init_eigenu(struct eigen_ellinit *Edat, GEN a4, GEN a6, GEN h, GEN T, ulong p)
     254                 :            : {
     255                 :         90 :   pari_sp ltop = avma;
     256                 :         90 :   long vT = get_Flx_var(T);
     257                 :         90 :   GEN g1 = pol1_Flx(vT), g0 = pol0_Flx(vT);
     258                 :         90 :   GEN RHS  = FlxqX_rem(mkpoln(4, g1, g0, a4, a6), h, T, p);
     259                 :         90 :   GEN DRHS = FlxqX_rem(mkpoln(3, Fl_to_Flx(3, T[1]), g0, a4), h, T, p);
     260                 :         90 :   GEN lambda = FlxqXQ_div(DRHS, FlxX_Fl_mul(RHS, 4, p), h, T, p);
     261                 :         90 :   GEN C = FlxX_sub(FlxqXQ_mul(lambda, DRHS, h, T, p), monomial(Fl_to_Flx(2,vT),1,0), p);
     262                 :         90 :   GEN D = FlxqXQ_mul(FlxX_double(lambda, p),FlxX_sub(pol_x(0), C, p), h, T, p);
     263                 :         90 :   GEN X12 = mkvec2(C, FlxX_Flx_add(D, Fl_to_Flx(p-1,vT), p));
     264                 :         90 :   GEN Gr = FlxqXQ_halfFrobenius(RHS,h,T,p);
     265                 :         90 :   GEN nGr = FlxX_neg(Gr, p);
     266                 :         90 :   GEN O = mkvec2(monomial(g1,1,0), monomial(g1,0,0));
     267                 :         90 :   gerepileall(ltop, 6, &RHS, &DRHS, &X12, &Gr, &nGr, &O);
     268                 :         90 :   Edat->a4    = gcopy(a4);
     269                 :         90 :   Edat->h     = gcopy(h);
     270                 :         90 :   Edat->T     = T;
     271                 :         90 :   Edat->p     = NULL;
     272                 :         90 :   Edat->pp    = p;
     273                 :         90 :   Edat->RHS   = RHS;
     274                 :         90 :   Edat->DRHS  = DRHS;
     275                 :         90 :   Edat->X12   = X12;
     276                 :         90 :   Edat->Gr    = Gr;
     277                 :         90 :   Edat->nGr   = nGr;
     278                 :         90 :   Edat->O     = O;
     279                 :         90 : }
     280                 :            : static GEN
     281                 :       3520 : eigen_elldbl(void *E, GEN P)
     282                 :            : {
     283                 :       3520 :   pari_sp ltop = avma;
     284                 :       3520 :   struct eigen_ellinit *Edat=(struct eigen_ellinit *)E;
     285                 :       3520 :   GEN T = Edat->T, p = Edat->p, h = Edat->h, x, y;
     286         [ -  + ]:       3520 :   if (ell_is_inf(P)) return gcopy(P);
     287                 :       3520 :   x = gel(P,1), y = gel(P,2);
     288 [ +  + ][ +  - ]:       3520 :   if (FqX_equal(x, pol_x(0)) && FqX_equal(y, pol_1(0)))
     289                 :       2485 :     return Edat->X12;
     290                 :            :   else
     291                 :            :   {
     292                 :       1035 :     GEN t1 = FqX_Fq_add(FqX_mulu(FqXQ_sqr(x,h,T,p),3,T, p), Edat->a4, T, p);
     293                 :       1035 :     GEN t2 = FqXQ_mul(FqX_mulu(y, 2, T, p), Edat->RHS, h, T, p);
     294                 :       1035 :     GEN lambda = FqXQ_div(t1, t2, h, T, p);
     295                 :       1035 :     GEN C = FqX_sub(FqXQ_mul(FqXQ_sqr(lambda, h, T, p), Edat->RHS, h, T, p),
     296                 :            :                     FqX_mulu(x, 2, T, p), T, p);
     297                 :       1035 :     GEN D = FqX_sub(FqXQ_mul(lambda, FqX_sub(x, C, T, p), h, T, p), y, T, p);
     298                 :       3520 :     return gerepilecopy(ltop, mkvec2(C,D));
     299                 :            :   }
     300                 :            : }
     301                 :            : 
     302                 :            : /* Returns the addition of [P[1], P[2]*Y] and of [Q[1], Q[2]*Y]
     303                 :            :  * Computations are done modulo Y^2 - (X^3 + a4X + a6)
     304                 :            :  * An inversion is equivalent to 4M, so that this function requires about 7M
     305                 :            :  * which is the same as with the method using ell-division polynomials
     306                 :            :  * Working in mixed projective coordinates would require 11M */
     307                 :            : static GEN
     308                 :       8845 : eigen_elladd(void *E, GEN P, GEN Q)
     309                 :            : {
     310                 :       8845 :   pari_sp ltop = avma;
     311                 :       8845 :   struct eigen_ellinit *Edat=(struct eigen_ellinit *)E;
     312                 :            :   GEN Px, Py, Qx, Qy;
     313                 :       8845 :   GEN T = Edat->T, p = Edat->p, h = Edat->h, lambda, C, D;
     314         [ -  + ]:       8845 :   if (ell_is_inf(P)) return gcopy(Q);
     315         [ -  + ]:       8845 :   if (ell_is_inf(Q)) return gcopy(P);
     316                 :       8845 :   Px = gel(P,1); Py = gel(P,2);
     317                 :       8845 :   Qx = gel(Q,1); Qy = gel(Q,2);
     318         [ +  + ]:       8845 :   if (FqX_equal(Px, Qx))
     319                 :            :   {
     320         [ +  - ]:       1390 :     if (FqX_equal(Py, Qy))
     321                 :       1390 :       return eigen_elldbl(E, P);
     322                 :            :     else
     323                 :          0 :       return ellinf();
     324                 :            :   }
     325                 :       7455 :   lambda = FqXQ_div(FqX_sub(Py, Qy, T, p), FqX_sub(Px, Qx, T, p), h, T, p);
     326                 :       7455 :   C = FqX_sub(FqX_sub(FqXQ_mul(FqXQ_sqr(lambda, h, T, p), Edat->RHS, h, T, p), Px, T, p), Qx, T, p);
     327                 :       7455 :   D = FqX_sub(FqXQ_mul(lambda, FqX_sub(Px, C, T, p), h, T, p), Py, T, p);
     328                 :       8845 :   return gerepilecopy(ltop, mkvec2(C,D));
     329                 :            : }
     330                 :            : 
     331                 :            : static GEN
     332                 :        100 : eigenu_elldbl(void *E, GEN P)
     333                 :            : {
     334                 :        100 :   pari_sp ltop = avma;
     335                 :        100 :   struct eigen_ellinit *Edat=(struct eigen_ellinit *)E;
     336                 :        100 :   GEN T = Edat->T, h = Edat->h, x, y;
     337                 :        100 :   long vT = get_Flx_var(T);
     338                 :        100 :   ulong p = Edat->pp;
     339         [ -  + ]:        100 :   if (ell_is_inf(P)) return gcopy(P);
     340                 :        100 :   x = gel(P,1), y = gel(P,2);
     341 [ +  + ][ +  - ]:        100 :   if (FlxX_equal(x, monomial(pol1_Flx(vT),1,0)) && FlxX_equal(y, monomial(pol1_Flx(vT),0,0)))
     342                 :         70 :     return Edat->X12;
     343                 :            :   else
     344                 :            :   {
     345                 :         30 :     GEN t1 = FlxX_Flx_add(FlxX_triple(FlxqXQ_sqr(x,h,T,p),p), Edat->a4, p);
     346                 :         30 :     GEN t2 = FlxqXQ_mul(FlxX_double(y, p), Edat->RHS, h, T, p);
     347                 :         30 :     GEN lambda = FlxqXQ_div(t1, t2, h, T, p);
     348                 :         30 :     GEN C = FlxX_sub(FlxqXQ_mul(FlxqXQ_sqr(lambda, h, T, p), Edat->RHS, h, T, p),
     349                 :            :                      FlxX_double(x, p), p);
     350                 :         30 :     GEN D = FlxX_sub(FlxqXQ_mul(lambda, FlxX_sub(x, C, p), h, T, p), y, p);
     351                 :        100 :     return gerepilecopy(ltop, mkvec2(C,D));
     352                 :            :   }
     353                 :            : }
     354                 :            : 
     355                 :            : /* Returns the addition of [P[1], P[2]*Y] and of [Q[1], Q[2]*Y]
     356                 :            :  * Computations are done modulo Y^2 - (X^3 + a4X + a6)
     357                 :            :  * An inversion is equivalent to 4M, so that this function requires about 7M
     358                 :            :  * which is the same as with the method using ell-division polynomials
     359                 :            :  * Working in mixed projective coordinates would require 11M */
     360                 :            : static GEN
     361                 :        450 : eigenu_elladd(void *E, GEN P, GEN Q)
     362                 :            : {
     363                 :        450 :   pari_sp ltop = avma;
     364                 :        450 :   struct eigen_ellinit *Edat=(struct eigen_ellinit *)E;
     365                 :            :   GEN Px, Py, Qx, Qy;
     366                 :        450 :   GEN T = Edat->T, h = Edat->h, lambda, C, D;
     367                 :        450 :   ulong p = Edat->pp;
     368         [ -  + ]:        450 :   if (ell_is_inf(P)) return gcopy(Q);
     369         [ -  + ]:        450 :   if (ell_is_inf(Q)) return gcopy(P);
     370                 :        450 :   Px = gel(P,1); Py = gel(P,2);
     371                 :        450 :   Qx = gel(Q,1); Qy = gel(Q,2);
     372         [ +  + ]:        450 :   if (FlxX_equal(Px, Qx))
     373                 :            :   {
     374         [ +  - ]:         50 :     if (FlxX_equal(Py, Qy))
     375                 :         50 :       return eigenu_elldbl(E, P);
     376                 :            :     else
     377                 :          0 :       return ellinf();
     378                 :            :   }
     379                 :        400 :   lambda = FlxqXQ_div(FlxX_sub(Py, Qy, p), FlxX_sub(Px, Qx, p), h, T, p);
     380                 :        400 :   C = FlxX_sub(FlxX_sub(FlxqXQ_mul(FlxqXQ_sqr(lambda, h, T, p), Edat->RHS, h, T, p), Px, p), Qx, p);
     381                 :        400 :   D = FlxX_sub(FlxqXQ_mul(lambda, FlxX_sub(Px, C, p), h, T, p), Py, p);
     382                 :        450 :   return gerepilecopy(ltop, mkvec2(C,D));
     383                 :            : }
     384                 :            : 
     385                 :            : static GEN
     386                 :       1535 : eigen_ellmulu(struct eigen_ellinit *E, GEN z, ulong n)
     387                 :            : {
     388                 :       1535 :   pari_sp av = avma;
     389 [ +  - ][ -  + ]:       1535 :   if (!n || ell_is_inf(z)) return mkvec(gen_0);
     390         [ +  + ]:       1535 :   if (n == 1) return gcopy(z);
     391         [ +  + ]:       1115 :   if (E->pp)
     392                 :         20 :     return gerepileupto(av, gen_powu(z, n, E, &eigenu_elldbl, &eigenu_elladd));
     393                 :            :   else
     394                 :       1535 :     return gerepileupto(av, gen_powu(z, n, E, &eigen_elldbl, &eigen_elladd));
     395                 :            : }
     396                 :            : 
     397                 :            : /*Finds the eigenvalue of the Frobenius given E, ell odd prime, h factor of the
     398                 :            :  *ell-division polynomial, p and tr the possible values for the trace
     399                 :            :  *(useful for primes with one root)*/
     400                 :            : static ulong
     401                 :       2095 : find_eigen_value(GEN a4, GEN a6, ulong ell, GEN h, GEN T, GEN p, GEN tr)
     402                 :            : {
     403                 :       2095 :   pari_sp ltop = avma;
     404                 :            :   GEN BP, Dr;
     405                 :            :   ulong t;
     406                 :            :   struct eigen_ellinit Edat;
     407         [ +  + ]:       2095 :   ulong pp = T ?itou_or_0(p): 0;
     408         [ +  + ]:       2095 :   if (pp)
     409                 :         85 :     init_eigenu(&Edat, ZX_to_Flx(a4,pp), ZX_to_Flx(a6,pp),
     410                 :            :                        ZXX_to_FlxX(h,pp, get_FpX_var(T)), ZXT_to_FlxT(T,pp), pp);
     411                 :            :   else
     412                 :       2010 :     init_eigen(&Edat, a4, a6, h, T, p);
     413                 :       2095 :   Dr = BP = Edat.O;
     414                 :            :   /*[0,Gr], BP, Dr are not points on the curve. */
     415                 :            :   /*To obtain the corresponding points, multiply the y-coordinates by Y */
     416 [ +  + ][ -  + ]:       2095 :   if (!tr || lg(tr)==1)
     417                 :            :   {
     418                 :       1890 :     pari_sp btop = avma;
     419         [ +  - ]:       9350 :     for (t = 1; t <= (ell>>1); t++)
     420                 :            :     {
     421         [ +  + ]:       9350 :       if (gequal(gel(Dr,2), Edat.Gr))  { avma = ltop; return t; }
     422         [ +  + ]:       8010 :       if (gequal(gel(Dr,2), Edat.nGr)) { avma = ltop; return ell-t; }
     423         [ +  + ]:       7460 :       Dr = pp ? eigenu_elladd(&Edat, Dr, BP): eigen_elladd(&Edat, Dr, BP);
     424                 :       7460 :       Dr = gerepileupto(btop, Dr);
     425                 :            :     }
     426                 :          0 :     pari_err_BUG("find_eigen_value");
     427                 :          0 :     return 0; /* NOT REACHED */
     428                 :            :   }
     429                 :            :   else
     430                 :            :   {
     431                 :        205 :     t = Fl_div(tr[1], 2, ell);
     432         [ +  + ]:        205 :     if (t < (ell>>1)) t = ell - t;
     433                 :        205 :     Dr = eigen_ellmulu(&Edat, BP, t);
     434         [ +  + ]:        205 :     if (!gequal(gel(Dr,2), Edat.Gr)) t = ell - t;
     435                 :       2095 :     avma = ltop; return t;
     436                 :            :   }
     437                 :            : }
     438                 :            : 
     439                 :            : /*Finds the eigenvalue of the Frobenius modulo ell^k given E, ell, k, h factor
     440                 :            :  *of the ell-division polynomial, lambda the previous eigen value and p */
     441                 :            : static ulong
     442                 :        665 : find_eigen_value_power(GEN a4, GEN a6, ulong ell, long k, GEN h, ulong lambda, GEN T, GEN p)
     443                 :            : {
     444                 :        665 :   pari_sp ltop = avma;
     445                 :            :   pari_sp btop, st_lim;
     446                 :            :   struct eigen_ellinit Edat;
     447                 :            :   GEN BP, Dr, Gr, nGr;
     448                 :            :   /*[0,Gr], BP, Dr are not points on the curve. */
     449                 :            :   /*To obtain the corresponding points, multiply the y-coordinates by Y */
     450                 :        665 :   ulong t, ellk1 = upowuu(ell, k-1), ellk = ell*ellk1;
     451         [ +  + ]:        665 :   ulong pp = T ?itou_or_0(p): 0;
     452         [ +  + ]:        665 :   if (pp)
     453                 :          5 :     init_eigenu(&Edat, ZX_to_Flx(a4,pp), ZX_to_Flx(a6,pp),
     454                 :            :         ZXX_to_FlxX(h, pp, get_FpX_var(T)), ZXT_to_FlxT(T,pp), pp);
     455                 :            :   else
     456                 :        660 :     init_eigen(&Edat, a4, a6, h, T, p);
     457                 :        665 :   BP = eigen_ellmulu(&Edat, Edat.O, ellk1);
     458                 :        665 :   Dr = eigen_ellmulu(&Edat, Edat.O, lambda);
     459                 :        665 :   Gr = Edat.Gr; nGr = Edat.nGr;
     460                 :            : 
     461                 :        665 :   btop = avma; st_lim = stack_lim(btop, 1);
     462         [ +  - ]:       1235 :   for (t = 0; t < ellk; t += ellk1)
     463                 :            :   {
     464         [ +  + ]:       1235 :     if (gequal(gel(Dr,2), Gr))  { avma = ltop; return t+lambda; }
     465         [ -  + ]:        570 :     if (gequal(gel(Dr,2), nGr)) { avma = ltop; return ellk-(t+lambda); }
     466         [ -  + ]:        570 :     Dr = pp ? eigenu_elladd(&Edat, Dr, BP): eigen_elladd(&Edat, Dr, BP);
     467         [ -  + ]:        570 :     if (low_stack(st_lim, stack_lim(btop, 1)))
     468                 :          0 :       Dr = gerepileupto(btop, Dr);
     469                 :            :   }
     470                 :          0 :   pari_err_BUG("find_eigen_value_power");
     471                 :        665 :   return 0; /* NOT REACHED */
     472                 :            : }
     473                 :            : 
     474                 :            : /*Finds the kernel polynomial h, dividing the ell-division polynomial from the
     475                 :            :   isogenous curve Eb and trace term pp1. Uses CCR algorithm and returns h.
     476                 :            :   Return NULL if E and Eb are *not* isogenous. */
     477                 :            : static GEN
     478                 :       3806 : find_kernel(GEN a4, GEN a6, ulong ell, GEN a4t, GEN a6t, GEN pp1, GEN T, GEN p)
     479                 :            : {
     480                 :       3806 :   const long ext = 2;
     481                 :       3806 :   pari_sp ltop = avma;
     482                 :            :   GEN M, N, V, K, K1, K2, v, tlist, res;
     483                 :            :   long i, j, k;
     484                 :       3806 :   long deg = (ell - 1)/2, dim = deg + ext;
     485                 :       3806 :   GEN Coeff  = find_coeff(a4, a6, T, p, dim);
     486                 :       3806 :   GEN Coefft = find_coeff(a4t, a6t, T, p, dim);
     487                 :       3806 :   GEN psi2  = mkpoln(4, utoi(4), gen_0, Fq_mulu(a4, 4, T, p), Fq_mulu(a6, 4, T, p));
     488                 :       3806 :   GEN list  = cgetg(dim+1, t_VEC);
     489                 :       3806 :   GEN Dpsi2 = mkpoln(3, utoi(6), gen_0, Fq_mulu(a4, 2, T, p));
     490                 :       3806 :   gel(list, 1) = Dpsi2;
     491         [ +  + ]:      34292 :   for (k = 2; k <= dim; k++)
     492                 :            :   {
     493                 :      30486 :     pari_sp btop = avma;
     494                 :      30486 :     GEN tsil = gel(list, k-1);
     495                 :      30486 :     GEN r = FqX_Fq_mul(Dpsi2, gel(tsil,3), T, p);
     496         [ +  + ]:     270554 :     for (j = 4; j < lg(tsil); j++)
     497                 :            :     {
     498                 :     240068 :       long o = j - 2;
     499                 :     240068 :       GEN D = FqX_add(RgX_shift_shallow(Dpsi2, 1), FqX_mulu(psi2, o-1, T, p), T, p);
     500                 :     240068 :       GEN E = FqX_Fq_mul(D, Fq_mulu(gel(tsil, j), o, T, p), T, p);
     501                 :     240068 :       r = FqX_add(r, RgX_shift_shallow(E, o-2), T, p);
     502                 :            :     }
     503                 :      30486 :     gel(list, k) = gerepileupto(btop, r);
     504                 :            :   }
     505         [ +  + ]:      34292 :   for (k = 2; k <= dim; k++)
     506                 :            :   {
     507                 :      30486 :      GEN C = Fq_inv(shifti(mpfact(2*k),-1), T, p);
     508                 :      30486 :      gel(list, k) = FqX_Fq_mul(gel(list, k), C, T, p);
     509                 :            :   }
     510                 :       3806 :   M = shallowtrans(RgXV_to_RgM(list, dim+2));
     511                 :       3806 :   N = vecslice(M, 1, dim);
     512                 :       3806 :   V = FqC_sub(Coefft, Coeff, T, p);
     513                 :       3806 :   v = shallowconcat(FqM_FqC_gauss(N, V, T, p), mkcol2(gen_0, gen_0));
     514                 :       3806 :   K = FqM_ker(M, T, p);
     515         [ -  + ]:       3806 :   if (lg(K) != 3) pari_err_BUG("trace not determined in a unique way");
     516                 :       3806 :   K1 = FqC_Fq_mul(gel(K,1), Fq_inv(gcoeff(K,1,1), T, p), T, p);
     517                 :       3806 :   K2 = FqC_sub(gel(K,2), FqC_Fq_mul(K1, gcoeff(K,1,2), T, p), T, p);
     518                 :       3806 :   K2 = FqC_Fq_mul(K2, Fq_inv(gel(K2,2), T, p), T, p);
     519                 :       3806 :   K1 = FqC_sub(K1, FqC_Fq_mul(K2, gel(K1,2), T, p), T, p);
     520                 :       3806 :   v = FqC_add(v, FqC_Fq_mul(K1, Fq_sub(utoi(deg), gel(v,1), T, p), T, p), T, p);
     521                 :       3806 :   v = FqC_add(v, FqC_Fq_mul(K2, Fq_sub(pp1, gel(v,2), T, p), T, p), T, p);
     522                 :       3806 :   tlist = cgetg(dim+2, t_VEC);
     523                 :       3806 :   gel(tlist, dim+1) = gen_1;
     524         [ +  + ]:      38098 :   for (k = 1; k <= dim; k++)
     525                 :            :   {
     526                 :      34292 :     pari_sp btop = avma;
     527                 :      34292 :     GEN s = gel(v, k+1);
     528         [ +  + ]:     274360 :     for (i = 1; i < k; i++)
     529                 :     240068 :       s = Fq_add(s, Fq_mul(gel(tlist, dim-i+1), gel(v, k-i+1), T, p), T, p);
     530                 :      34292 :     gel(tlist, dim-k+1) = gerepileupto(btop, Fq_div(s, stoi(-k), T, p));
     531                 :            :   }
     532         [ +  + ]:       9996 :   for (i = 1; i <= ext; i++)
     533         [ +  + ]:       6901 :     if (signe(gel(tlist, i))) { avma = ltop; return NULL; }
     534                 :       3095 :   res = vecslice(tlist, ext+1, dim+1);
     535                 :            : 
     536                 :       3806 :   return RgV_to_RgX(res, 0);
     537                 :            : }
     538                 :            : 
     539                 :            : static GEN
     540                 :       2831 : compute_u(GEN gprime, GEN Dxxg, GEN DxJg, GEN DJJg, GEN j, GEN pJ, GEN px, ulong q, GEN E4, GEN E6, GEN T, GEN p)
     541                 :            : {
     542                 :       2831 :   pari_sp ltop = avma;
     543                 :       2831 :   GEN dxxgj = FqX_eval(Dxxg, j, T, p);
     544                 :       2831 :   GEN dxJgj = FqX_eval(DxJg, j, T, p);
     545                 :       2831 :   GEN dJJgj = FqX_eval(DJJg, j, T, p);
     546                 :       2831 :   GEN E42 = Fq_sqr(E4, T, p), E6ovE4 = Fq_div(E6, E4, T, p);
     547                 :       2831 :   GEN a = Fq_mul(gprime, dxxgj, T, p);
     548                 :       2831 :   GEN b = Fq_mul(Fq_mul(Fq_mulu(j,2*q, T, p), dxJgj, T, p), E6ovE4, T, p);
     549                 :       2831 :   GEN c = Fq_mul(Fq_div(Fq_sqr(E6ovE4, T, p), gprime, T, p), j, T, p);
     550                 :       2831 :   GEN d = Fq_mul(Fq_mul(c,sqru(q), T, p), Fq_add(pJ, Fq_mul(j, dJJgj, T, p), T, p), T, p);
     551                 :       2831 :   GEN e = Fq_sub(Fq_div(E6ovE4,utoi(3), T, p), Fq_div(E42, Fq_mulu(E6,2,T, p), T, p), T, p);
     552                 :       2831 :   GEN f = Fq_sub(Fq_sub(b,a,T,p), d, T, p);
     553                 :       2831 :   return gerepileupto(ltop, Fq_add(Fq_div(f,px,T,p), Fq_mulu(e,q,T,p), T, p));
     554                 :            : }
     555                 :            : 
     556                 :            : /* Finds the isogenous EC, and the sum of the x-coordinates of the points in
     557                 :            :  * the kernel of the isogeny E -> Eb
     558                 :            :  * E: elliptic curve, ell: a prime, meqn: Atkin modular equation
     559                 :            :  * g: root of meqn defining isogenous curve Eb. */
     560                 :            : static GEN
     561                 :       1070 : find_isogenous_from_Atkin(GEN a4, GEN a6, long ell, GEN meqn, GEN g, GEN T, GEN p)
     562                 :            : {
     563                 :       1070 :   pari_sp ltop = avma, btop;
     564                 :            :   GEN Roots, gprime, u1;
     565                 :       1070 :   long k, vx = 0, vJ = MAXVARN;
     566                 :       1070 :   GEN E4 = Fq_div(a4, stoi(-3), T, p);
     567                 :       1070 :   GEN E6 = Fq_neg(Fq_halve(a6, T, p), T, p);
     568                 :       1070 :   GEN E42 = Fq_sqr(E4, T, p);
     569                 :       1070 :   GEN E43 = Fq_mul(E4, E42, T, p);
     570                 :       1070 :   GEN E62 = Fq_sqr(E6, T, p);
     571                 :       1070 :   GEN delta = Fq_div(Fq_sub(E43, E62, T, p), utoi(1728), T, p);
     572                 :       1070 :   GEN j = Fq_div(E43, delta, T, p);
     573                 :       1070 :   GEN Dx = deriv(meqn, vx);
     574                 :       1070 :   GEN DJ = deriv(meqn, vJ);
     575                 :       1070 :   GEN Dxg = FpXY_Fq_evaly(Dx, g, T, p, vJ);
     576                 :       1070 :   GEN px = FqX_eval(Dxg, j, T, p), dx = Fq_mul(px, g, T, p);
     577                 :       1070 :   GEN DJg = FpXY_Fq_evaly(DJ, g, T, p, vJ);
     578                 :       1070 :   GEN pJ = FqX_eval(DJg, j, T, p), dJ = Fq_mul(pJ, j, T, p);
     579                 :       1070 :   GEN Dxx = deriv(Dx, vx);
     580                 :       1070 :   GEN DxJg = FqX_deriv(Dxg, T, p);
     581                 :            : 
     582                 :       1070 :   GEN Dxxg = FpXY_Fq_evaly(Dxx, g, T, p, vJ);
     583                 :       1070 :   GEN DJJg = FqX_deriv(DJg, T, p);
     584                 :            : 
     585                 :       1070 :   GEN a = Fq_mul(dJ, Fq_mul(g, E6, T, p), T, p);
     586                 :       1070 :   GEN b = Fq_mul(E4, dx, T, p);
     587 [ +  + ][ -  + ]:       1070 :   if (!signe(a) || !signe(b))
     588                 :            :   { /* TODO: understand what this means and use the information */
     589         [ -  + ]:         10 :     if (DEBUGLEVEL)
     590                 :          0 :       err_printf("find_isogenous_from_Atkin: division by zero at prime %ld", ell);
     591                 :         10 :     avma = ltop; return NULL;
     592                 :            :   }
     593                 :       1060 :   gprime = Fq_div(a, b, T, p);
     594                 :            : 
     595                 :       1060 :   u1 = compute_u(gprime, Dxxg, DxJg, DJJg, j, pJ, px, 1, E4, E6, T, p);
     596                 :       1060 :   Roots = FqX_roots(FpXY_Fq_evaly(meqn, g, T, p, vJ), T, p);
     597                 :       1060 :   btop = avma;
     598         [ +  - ]:       1771 :   for (k = lg(Roots)-1; k >= 1; k--, avma = btop)
     599                 :            :   {
     600                 :       1771 :     GEN jt = gel(Roots, k);
     601                 :       1771 :     GEN pxstar = FqX_eval(Dxg, jt, T, p);
     602                 :       1771 :     GEN dxstar = Fq_mul(pxstar, g, T, p);
     603                 :       1771 :     GEN pJstar = FqX_eval(DJg, jt, T, p);
     604                 :       1771 :     GEN dJstar = Fq_mul(Fq_mulu(jt, ell, T, p), pJstar, T, p);
     605                 :       1771 :     GEN u = Fq_mul(Fq_mul(dxstar, dJ, T, p), E6, T, p);
     606                 :       1771 :     GEN v = Fq_mul(Fq_mul(dJstar, dx, T, p), E4, T, p);
     607                 :       1771 :     GEN E4t = Fq_div(Fq_mul(Fq_sqr(u, T, p), jt, T, p), Fq_mul(Fq_sqr(v, T, p), Fq_sub(jt, utoi(1728), T, p), T, p), T, p);
     608                 :       1771 :     GEN E6t = Fq_div(Fq_mul(u, E4t, T, p), v, T, p);
     609                 :       1771 :     GEN u2 = compute_u(gprime, Dxxg, DxJg, DJJg, jt, pJstar, pxstar, ell, E4t, E6t, T, p);
     610                 :       1771 :     GEN pp1 = Fq_mulu(Fq_sub(u1, u2, T, p), 3*ell, T, p);
     611                 :       1771 :     GEN a4t = Fq_mul(mulsi(-3, powuu(ell,4)), E4t, T, p);
     612                 :       1771 :     GEN a6t = Fq_mul(mulsi(-2, powuu(ell,6)), E6t, T, p);
     613                 :       1771 :     GEN h = find_kernel(a4, a6, ell, a4t, a6t, pp1, T, p);
     614         [ +  + ]:       1771 :     if (h) return gerepilecopy(ltop, mkvec3(a4t, a6t, h));
     615                 :            :   }
     616                 :          0 :   pari_err_BUG("find_isogenous_from_Atkin, kernel not found");
     617                 :       1070 :   return NULL;
     618                 :            : }
     619                 :            : 
     620                 :            : /* Finds E' ell-isogenous to E and the trace term p1 from canonical modular
     621                 :            :  *   equation meqn
     622                 :            :  * E: elliptic curve, ell: a prime, meqn: canonical modular equation
     623                 :            :  * g: root of meqn defining isogenous curve Eb. */
     624                 :            : static GEN
     625                 :       2035 : find_isogenous_from_canonical(GEN a4, GEN a6, long ell, GEN meqn, GEN g, GEN T, GEN p)
     626                 :            : {
     627                 :       2035 :   pari_sp ltop = avma;
     628                 :       2035 :   long vx = 0, vJ = MAXVARN;
     629                 :            :   GEN h;
     630                 :       2035 :   GEN E4 = Fq_div(a4, stoi(-3), T, p);
     631                 :       2035 :   GEN E6 = Fq_neg(Fq_halve(a6, T, p), T, p);
     632                 :       2035 :   GEN E42 = Fq_sqr(E4, T, p);
     633                 :       2035 :   GEN E43 = Fq_mul(E4, E42, T, p);
     634                 :       2035 :   GEN E62 = Fq_sqr(E6, T, p);
     635                 :       2035 :   GEN delta = Fq_div(Fq_sub(E43, E62, T, p), utoi(1728), T, p);
     636                 :       2035 :   GEN j = Fq_div(E43, delta, T, p);
     637                 :       2035 :   GEN Dx = deriv(meqn, vx);
     638                 :       2035 :   GEN DJ = deriv(meqn, vJ);
     639                 :       2035 :   GEN Dxg = FpXY_Fq_evaly(Dx, g, T, p, vJ);
     640                 :       2035 :   GEN px  = FqX_eval(Dxg, j, T, p), dx  = Fq_mul(px, g, T, p);
     641                 :       2035 :   GEN DJg = FpXY_Fq_evaly(DJ, g, T, p, vJ);
     642                 :       2035 :   GEN pJ = FqX_eval(DJg, j, T, p), dJ = Fq_mul(j, pJ, T, p);
     643                 :       2035 :   GEN Dxx = deriv(Dx, vx);
     644                 :       2035 :   GEN DxJg = FqX_deriv(Dxg, T, p);
     645                 :            : 
     646                 :       2035 :   GEN ExJ = FqX_eval(DxJg, j, T, p);
     647                 :       2035 :   ulong tis = ugcd(12, ell-1), is = 12 / tis;
     648                 :       2035 :   GEN itis = Fq_inv(stoi(-tis), T, p);
     649                 :       2035 :   GEN deltal = Fq_div(Fq_mul(delta, Fq_powu(g, tis, T, p), T, p), powuu(ell, 12), T, p);
     650                 :            :   GEN E4l, E6l, a4tilde, a6tilde, p_1;
     651         [ -  + ]:       2035 :   if (signe(dJ)==0)
     652                 :            :   {
     653                 :            :     GEN jl;
     654         [ #  # ]:          0 :     if (DEBUGLEVEL) err_printf("Division by zero for prime %Ps\n", T, p);
     655                 :          0 :     E4l = Fq_div(E4, sqru(ell), T, p);
     656                 :          0 :     jl  = Fq_div(Fq_powu(E4l, 3, T, p), deltal, T, p);
     657                 :          0 :     E6l = Fq_sqrt(Fq_mul(Fq_sub(jl, utoi(1728), T, p), deltal, T, p), T, p);
     658                 :          0 :     p_1 = gen_0;
     659                 :            :   }
     660                 :            :   else
     661                 :            :   {
     662                 :            :     GEN jl, f, fd, Dgs, Djs, jld;
     663                 :       2035 :     GEN E2s = Fq_div(Fq_mul(Fq_neg(Fq_mulu(E6, 12, T, p), T, p), dJ, T, p), Fq_mul(Fq_mulu(E4, is, T, p), dx, T, p), T, p);
     664                 :       2035 :     GEN gd = Fq_mul(Fq_mul(E2s, itis, T, p), g, T, p);
     665                 :       2035 :     GEN jd = Fq_div(Fq_mul(Fq_neg(E42, T, p), E6, T, p), delta, T, p);
     666                 :       2035 :     GEN E0b = Fq_div(E6, Fq_mul(E4, E2s, T, p), T, p);
     667                 :       2035 :     GEN Dxxgj = FqXY_eval(Dxx, g, j, T, p);
     668                 :       2035 :     GEN Dgd = Fq_add(Fq_mul(gd, px, T, p), Fq_mul(g, Fq_add(Fq_mul(gd, Dxxgj, T, p), Fq_mul(jd, ExJ, T, p), T, p), T, p), T, p);
     669                 :       2035 :     GEN DJgJj = FqX_eval(FqX_deriv(DJg, T, p), j, T, p);
     670                 :       2035 :     GEN Djd = Fq_add(Fq_mul(jd, pJ, T, p), Fq_mul(j, Fq_add(Fq_mul(jd, DJgJj, T, p), Fq_mul(gd, ExJ, T, p), T, p), T, p), T, p);
     671                 :       2035 :     GEN E0bd = Fq_div(Fq_sub(Fq_mul(Dgd, itis, T, p), Fq_mul(E0b, Djd, T, p), T, p), dJ, T, p);
     672                 :       2035 :     E4l = Fq_div(Fq_sub(E4, Fq_mul(E2s, Fq_sub(Fq_sub(Fq_add(Fq_div(Fq_mulu(E0bd, 12, T, p), E0b, T, p), Fq_div(Fq_mulu(E42, 6, T, p), E6, T, p), T, p), Fq_div(Fq_mulu(E6, 4, T, p), E4, T, p), T, p), E2s, T, p), T, p), T, p), sqru(ell), T, p);
     673                 :       2035 :     jl = Fq_div(Fq_powu(E4l, 3, T, p), deltal, T, p);
     674                 :       2035 :     f =  Fq_div(powuu(ell, is), g, T, p);
     675                 :       2035 :     fd = Fq_neg(Fq_mul(Fq_mul(E2s, f, T, p), itis, T, p), T, p);
     676                 :       2035 :     Dgs = FqXY_eval(Dx, f, jl, T, p);
     677                 :       2035 :     Djs = FqXY_eval(DJ, f, jl, T, p);
     678                 :       2035 :     jld = Fq_div(Fq_mul(Fq_neg(fd, T, p), Dgs, T, p), Fq_mulu(Djs, ell, T, p), T, p);
     679                 :       2035 :     E6l = Fq_div(Fq_mul(Fq_neg(E4l, T, p), jld, T, p), jl, T, p);
     680                 :       2035 :     p_1 = Fq_neg(Fq_halve(Fq_mulu(E2s, ell, T, p), T, p),T,p);
     681                 :            :   }
     682                 :       2035 :   a4tilde = Fq_mul(Fq_mul(stoi(-3), powuu(ell,4), T, p), E4l, T, p);
     683                 :       2035 :   a6tilde = Fq_mul(Fq_mul(stoi(-2), powuu(ell,6), T, p), E6l, T, p);
     684                 :       2035 :   h = find_kernel(a4, a6, ell, a4tilde, a6tilde, p_1, T, p);
     685                 :       2035 :   return gerepilecopy(ltop, mkvec3(a4tilde, a6tilde, h));
     686                 :            : }
     687                 :            : 
     688                 :            : static GEN
     689                 :       3105 : find_isogenous(GEN a4, GEN a6, long ell, struct meqn *MEQN, GEN g, GEN T, GEN p)
     690                 :            : {
     691                 :       3105 :   return (MEQN->type == 'C')
     692                 :       2035 :     ? find_isogenous_from_canonical(a4, a6, ell, MEQN->eq, g, T, p)
     693         [ +  + ]:       3105 :     : find_isogenous_from_Atkin(a4, a6, ell, MEQN->eq, g, T, p);
     694                 :            : }
     695                 :            : 
     696                 :            : static GEN
     697                 :        665 : find_kernel_power(GEN Eba4, GEN Eba6, GEN Eca4, GEN Eca6, ulong ell, struct meqn *MEQN, GEN kpoly, GEN Ib, GEN T, GEN p)
     698                 :            : {
     699                 :        665 :   pari_sp ltop = avma, btop;
     700                 :            :   GEN a4t, a6t, gtmp;
     701                 :        665 :   GEN num_iso = find_numerator_isogeny(Eba4, Eba6, Eca4, Eca6, kpoly, T, p, ell+1);
     702                 :        665 :   GEN mpoly = FqXY_evalx(MEQN->eq, Fq_ellj(Eca4, Eca6, T, p), T, p);
     703                 :        665 :   GEN tmp, mroots = FqX_roots(mpoly, T, p);
     704                 :        665 :   long i, vx = 0, l1 = lg(mroots);
     705                 :        665 :   btop = avma;
     706         [ +  - ]:       1000 :   for (i = 1; i < l1; i++)
     707                 :            :   {
     708                 :            :     GEN kpoly2, h;
     709                 :       1000 :     tmp = find_isogenous(Eca4, Eca6, ell, MEQN, gel(mroots, i), T, p);
     710         [ -  + ]:       1000 :     if (!tmp) { avma = ltop; return NULL; }
     711                 :       1000 :     a4t =  gel(tmp, 1);
     712                 :       1000 :     a6t =  gel(tmp, 2);
     713                 :       1000 :     gtmp = gel(tmp, 3);
     714                 :            : 
     715                 :            :     /*check that the kernel kpoly is the good one */
     716                 :       1000 :     kpoly2 = FqX_sqr(kpoly, T, p);
     717                 :       1000 :     h = liftall_shallow(numer(gsubst(gtmp, vx, gdiv(num_iso, kpoly2))));
     718         [ +  + ]:       1000 :     if (signe(Fq_elldivpolmod(Eba4, Eba6, ell, h, T, p)))
     719                 :            :     {
     720                 :        665 :       GEN Ic = gdiv(gsubst(num_iso, vx, Ib), gsqr(gsubst(kpoly, vx, Ib)));
     721                 :        665 :       GEN kpoly_new = liftall_shallow(numer(gsubst(gtmp, vx, Ic)));
     722                 :        665 :       return gerepilecopy(ltop, mkvecn(5, a4t, a6t, kpoly_new, gtmp, Ic));
     723                 :            :     }
     724                 :        335 :     avma = btop;
     725                 :            :   }
     726                 :          0 :   pari_err_BUG("failed to find kernel polynomial");
     727                 :        665 :   return NULL; /*NOT REACHED*/
     728                 :            : }
     729                 :            : 
     730                 :            : /****************************************************************************/
     731                 :            : /*                                  TRACE                                   */
     732                 :            : /****************************************************************************/
     733                 :            : enum mod_type {MTpathological, MTAtkin, MTElkies, MTone_root, MTroots};
     734                 :            : 
     735                 :            : static GEN
     736                 :        120 : Flxq_study_eqn(long ell, GEN mpoly, GEN T, ulong p, long *pt_dG, long *pt_r)
     737                 :            : {
     738                 :        120 :   GEN Xq = FlxqX_Frobenius(mpoly, T, p);
     739                 :        120 :   GEN G  = FlxqX_gcd(FlxX_sub(Xq, pol_x(0), p), mpoly, T, p);
     740                 :        120 :   *pt_dG = degpol(G);
     741         [ +  + ]:        120 :   if (!*pt_dG)
     742                 :            :   {
     743                 :         35 :     GEN L = FlxqXQ_matrix_pow(Xq, ell+1, ell+1, mpoly, T, p);
     744                 :         35 :     long vT = get_Flx_var(T);
     745                 :         35 :     long s = ell + 1 - FlxqM_rank(FlxM_Flx_add_shallow(L, Fl_to_Flx(p-1, vT), p), T, p);
     746                 :         35 :     *pt_r = (ell + 1)/s;
     747                 :         35 :     return NULL;
     748                 :            :   }
     749                 :        120 :   return G;
     750                 :            : }
     751                 :            : 
     752                 :            : static GEN
     753                 :       3755 : Fp_study_eqn(long ell, GEN mpoly, GEN p, long *pt_dG, long *pt_r)
     754                 :            : {
     755                 :       3755 :   GEN XP = FpX_Frobenius(mpoly, p);
     756                 :       3755 :   GEN G  = FpX_gcd(FpX_sub(XP, pol_x(0), p), mpoly, p);
     757                 :       3755 :   *pt_dG = degpol(G);
     758         [ +  + ]:       3755 :   if (!*pt_dG)
     759                 :            :   {
     760                 :       1765 :     GEN L = FpXQ_matrix_pow(XP, ell+1, ell+1, mpoly, p);
     761                 :       1765 :     long s = ell + 1 - FpM_rank(RgM_Rg_add_shallow(L, gen_m1), p);
     762                 :       1765 :     *pt_r = (ell + 1)/s;
     763                 :       1765 :     return NULL;
     764                 :            :   }
     765                 :       3755 :   return FpX_oneroot(G, p);
     766                 :            : }
     767                 :            : 
     768                 :            : static GEN
     769                 :        200 : FpXQ_study_eqn(long ell, GEN mpoly, GEN T, GEN p, long *pt_dG, long *pt_r)
     770                 :            : {
     771                 :            :   GEN G;
     772         [ +  + ]:        200 :   if (lgefint(p)==3)
     773                 :            :   {
     774                 :        120 :     ulong pp = p[2];
     775                 :        120 :     GEN Tp = ZXT_to_FlxT(T,pp);
     776                 :        120 :     GEN mpolyp = ZXX_to_FlxX(mpoly,pp,get_FpX_var(T));
     777                 :        120 :     G = Flxq_study_eqn(ell, mpolyp, Tp, pp, pt_dG, pt_r);
     778         [ +  + ]:        120 :     if (!G) return NULL;
     779                 :         85 :     G = FlxX_to_ZXX(G);
     780                 :            :   }
     781                 :            :   else
     782                 :            :   {
     783                 :         80 :     GEN Xq = FpXQX_Frobenius(mpoly, T, p);
     784                 :         80 :     G  = FpXQX_gcd(FpXX_sub(Xq, pol_x(0), p), mpoly, T, p);
     785                 :         80 :     *pt_dG = degpol(G);
     786         [ +  + ]:         80 :     if (!*pt_dG)
     787                 :            :     {
     788                 :         35 :       GEN L = FpXQXQ_matrix_pow(Xq, ell+1, ell+1, mpoly, T, p);
     789                 :         35 :       long s = ell + 1 - FqM_rank(RgM_Rg_add(L, gen_m1), T, p);
     790                 :         35 :       *pt_r = (ell + 1)/s;
     791                 :         35 :       return NULL;
     792                 :            :     }
     793                 :            :   }
     794                 :        200 :   return gel(FqX_roots(G, T, p), 1);
     795                 :            : }
     796                 :            : 
     797                 :            : /* Berlekamp variant */
     798                 :            : static GEN
     799                 :       3960 : study_modular_eqn(long ell, GEN mpoly, GEN T, GEN p, enum mod_type *mt, long *ptr_r)
     800                 :            : {
     801                 :       3960 :   pari_sp ltop = avma;
     802                 :       3960 :   GEN g = gen_0;
     803                 :       3960 :   *ptr_r = 0; /*gcc -Wall*/
     804         [ +  + ]:       3960 :   if (degpol(FqX_gcd(mpoly, FqX_deriv(mpoly, T, p), T, p)) > 0)
     805                 :          5 :     *mt = MTpathological;
     806                 :            :   else
     807                 :            :   {
     808                 :            :     long dG;
     809                 :       3955 :     g = T ? FpXQ_study_eqn(ell, mpoly, T, p, &dG, ptr_r)
     810         [ +  + ]:       3955 :             : Fp_study_eqn(ell, mpoly, p, &dG, ptr_r);
     811   [ +  +  +  + ]:       3955 :     switch(dG)
     812                 :            :     {
     813                 :       1835 :       case 0:  *mt = MTAtkin; break;
     814                 :        215 :       case 1:  *mt = MTone_root; break;
     815                 :       1890 :       case 2:  *mt = MTElkies;   break;
     816         [ +  - ]:       3955 :       default: *mt = (dG == ell + 1)? MTroots: MTpathological;
     817                 :            :     }
     818                 :            :   }
     819 [ -  + ][ #  #  :       3960 :   if (DEBUGLEVEL) switch(*mt)
             #  #  #  # ]
     820                 :            :   {
     821                 :          0 :     case MTone_root: err_printf("One root\t"); break;
     822                 :          0 :     case MTElkies: err_printf("Elkies\t"); break;
     823                 :          0 :     case MTroots: err_printf("l+1 roots\t"); break;
     824                 :          0 :     case MTAtkin: err_printf("Atkin\t"); break;
     825                 :          0 :     case MTpathological: err_printf("Pathological\n"); break;
     826                 :            :   }
     827         [ +  + ]:       3960 :   return g ? gerepilecopy(ltop, g): NULL;
     828                 :            : }
     829                 :            : 
     830                 :            : /*Returns the trace modulo ell^k when ell is an Elkies prime */
     831                 :            : static GEN
     832                 :       2105 : find_trace_Elkies_power(GEN a4, GEN a6, ulong ell, long k, struct meqn *MEQN, GEN g, GEN tr, GEN q, GEN T, GEN p, ulong smallfact, pari_timer *ti)
     833                 :            : {
     834                 :       2105 :   pari_sp ltop = avma, btop, st_lim;
     835                 :            :   GEN tmp, Eba4, Eba6, Eca4, Eca6, Ib, kpoly;
     836                 :       2105 :   ulong lambda, ellk = upowuu(ell, k), pellk = umodiu(q, ellk);
     837                 :            :   long cnt;
     838                 :            : 
     839         [ -  + ]:       2105 :   if (DEBUGLEVEL) { err_printf("Trace mod %ld", ell); }
     840                 :       2105 :   Eba4 = a4;
     841                 :       2105 :   Eba6 = a6;
     842                 :       2105 :   tmp = find_isogenous(a4,a6, ell, MEQN, g, T, p);
     843         [ +  + ]:       2105 :   if (!tmp) { avma = ltop; return NULL; }
     844                 :       2095 :   Eca4 =  gel(tmp, 1);
     845                 :       2095 :   Eca6 =  gel(tmp, 2);
     846                 :       2095 :   kpoly = gel(tmp, 3);
     847                 :       2095 :   Ib = pol_x(0);
     848                 :       2095 :   lambda = find_eigen_value(a4, a6, ell, kpoly, T, p, tr);
     849         [ -  + ]:       2095 :   if (DEBUGLEVEL>1) err_printf(" [%ld ms]", timer_delay(ti));
     850 [ -  + ][ #  # ]:       2095 :   if (smallfact && ell>smallfact)
     851                 :            :   {
     852                 :          0 :     ulong pell = pellk%ell;
     853                 :          0 :     ulong ap = Fl_add(lambda, Fl_div(pell, lambda, ell), ell);
     854         [ #  # ]:          0 :     if (Fl_sub(pell, ap, ell)==ell-1) { avma = ltop; return mkvecsmall(ap); }
     855                 :            :   }
     856                 :       2095 :   btop = avma; st_lim = stack_lim(btop, 1);
     857         [ +  + ]:       2760 :   for (cnt = 2; cnt <= k; cnt++)
     858                 :            :   {
     859                 :            :     GEN tmp;
     860         [ -  + ]:        665 :     if (DEBUGLEVEL) err_printf(", %Ps", powuu(ell, cnt));
     861                 :        665 :     tmp = find_kernel_power(Eba4, Eba6, Eca4, Eca6, ell, MEQN, kpoly, Ib, T, p);
     862         [ -  + ]:        665 :     if (!tmp) { avma = ltop; return NULL; }
     863                 :        665 :     lambda = find_eigen_value_power(a4, a6, ell, cnt, gel(tmp,3), lambda, T, p);
     864                 :        665 :     Eba4 = Eca4;
     865                 :        665 :     Eba6 = Eca6;
     866                 :        665 :     Eca4 = gel(tmp,1);
     867                 :        665 :     Eca6 = gel(tmp,2);
     868                 :        665 :     kpoly = gel(tmp,4);
     869                 :        665 :     Ib = gel(tmp, 5);
     870         [ -  + ]:        665 :     if (low_stack(st_lim, stack_lim(btop, 1)))
     871                 :          0 :       gerepileall(btop, 6, &Eba4, &Eba6, &Eca4, &Eca6, &kpoly, &Ib);
     872         [ -  + ]:        665 :     if (DEBUGLEVEL>1) err_printf(" [%ld ms]", timer_delay(ti));
     873                 :            :   }
     874                 :       2095 :   avma = ltop;
     875                 :       2105 :   return mkvecsmall(Fl_add(lambda, Fl_div(pellk, lambda, ellk), ellk));
     876                 :            : }
     877                 :            : 
     878                 :            : /*Returns the possible values of the trace when ell is an Atkin prime, */
     879                 :            : /*given r the splitting degree of the modular equation at J = E.j */
     880                 :            : static GEN
     881                 :       1835 : find_trace_Atkin(ulong ell, long r, GEN q)
     882                 :            : {
     883                 :       1835 :   pari_sp ltop = avma;
     884                 :       1835 :   long nval = 0;
     885                 :       1835 :   ulong teta, pell = umodiu(q, ell), invp = Fl_inv(pell, ell);
     886                 :       1835 :   GEN val_pos = cgetg(1+ell, t_VECSMALL), P = gel(factoru(r), 1);
     887                 :       1835 :   GEN S = mkvecsmall4(0, pell, 0, 1);
     888                 :       1835 :   GEN U = mkvecsmall3(0, ell-1, 0);
     889                 :       1835 :   pari_sp btop = avma;
     890 [ +  + ][ +  - ]:       1835 :   if (r==2 && krouu(ell-pell, ell) < 0)
     891                 :        280 :     val_pos[++nval] = 0;
     892         [ +  + ]:      37715 :   for (teta = 1; teta < ell; teta++, avma = btop)
     893                 :            :   {
     894                 :      35880 :     ulong disc = Fl_sub(Fl_sqr(teta,ell), Fl_mul(4UL,pell,ell), ell);
     895                 :            :     GEN a;
     896         [ +  + ]:      35880 :     if (krouu(disc, ell) >= 0) continue;
     897                 :      17640 :     S[3] = Fl_neg(teta, ell);
     898                 :      17640 :     U[3] = Fl_mul(invp, teta, ell);
     899                 :      17640 :     a = Flxq_powu(U, r/P[1], S, ell);
     900 [ +  + ][ +  + ]:      17640 :     if (!Flx_equal1(a) && Flx_equal1(Flxq_powu(a, P[1], S, ell)))
     901                 :            :     {
     902                 :      11750 :       pari_sp av = avma;
     903                 :      11750 :       long i, l=lg(P);
     904         [ +  + ]:      19900 :       for (i = 2; i < l; i++, avma = av)
     905         [ +  + ]:      10420 :         if (Flx_equal1(Flxq_powu(U, r/P[i], S, ell))) break;
     906         [ +  + ]:      11750 :       if (i==l) val_pos[++nval] = teta;
     907                 :            :     }
     908                 :            :   }
     909                 :       1835 :   return gerepileupto(ltop, vecsmall_shorten(val_pos, nval));
     910                 :            : }
     911                 :            : 
     912                 :            : /*Returns the possible traces when there is only one root */
     913                 :            : static GEN
     914                 :        215 : find_trace_one_root(ulong ell, GEN q)
     915                 :            : {
     916                 :        215 :   ulong a = Fl_double(Fl_sqrt(umodiu(q,ell), ell), ell);
     917                 :        215 :   return mkvecsmall2(a, ell - a);
     918                 :            : }
     919                 :            : 
     920                 :            : static GEN
     921                 :         15 : find_trace_lp1_roots(long ell, GEN q)
     922                 :            : {
     923                 :         15 :   ulong ell2 = ell * ell, pell = umodiu(q, ell2);
     924                 :         15 :   ulong a  = Fl_sqrt(pell%ell, ell);
     925                 :         15 :   ulong pa = Fl_add(Fl_div(pell, a, ell2), a, ell2);
     926                 :         15 :   return mkvecsmall2(pa, ell2 - pa);
     927                 :            : }
     928                 :            : 
     929                 :            : /*trace modulo ell^k: [], [t] or [t1,...,td] */
     930                 :            : static GEN
     931                 :       3960 : find_trace(GEN a4, GEN a6, ulong ell, GEN q, GEN T, GEN p, long *ptr_kt, ulong smallfact)
     932                 :            : {
     933                 :       3960 :   pari_sp ltop = avma;
     934                 :            :   GEN g, meqnj, tr, tr2;
     935                 :       3960 :   long k = 1, kt, r;
     936                 :            :   enum mod_type mt;
     937                 :            :   struct meqn MEQN;
     938                 :            :   pari_timer ti;
     939                 :            : 
     940         [ +  + ]:       3960 :   if (ell <= 13)
     941                 :            :   {
     942                 :       1950 :     long lp = expi(q);
     943   [ +  +  +  + ]:       1950 :     switch(ell)
     944                 :            :     {
     945         [ +  + ]:        390 :       case 3: k = 3 + (lp > 160) + (lp > 350); break;
     946         [ -  + ]:        390 :       case 5: k = 2 + (lp > 260); break;
     947         [ -  + ]:        390 :       case 7: k = 2 + (lp > 390); break;
     948         [ -  + ]:        780 :       default:k = 1 + (lp > 260);
     949                 :            :     }
     950                 :            :   }
     951                 :       3960 :   kt = k;
     952         [ -  + ]:       3960 :   if (!get_modular_eqn(&MEQN, ell, 0, MAXVARN)) err_modular_eqn(ell);
     953                 :       3960 :   MEQN.eq = FpXX_red(MEQN.eq, p);
     954         [ -  + ]:       3960 :   if (DEBUGLEVEL)
     955                 :          0 :   { err_printf("Process prime %5ld. ", ell); timer_start(&ti); }
     956                 :       3960 :   meqnj = FqXY_evalx(MEQN.eq, Fq_ellj(a4, a6, T, p), T, p);
     957                 :       3960 :   g = study_modular_eqn(ell, meqnj, T, p, &mt, &r);
     958                 :            :   /* If l is an Elkies prime, search for a factor of the l-division polynomial.
     959                 :            :   * Then deduce the trace by looking for eigenvalues of the Frobenius by
     960                 :            :   * computing modulo this factor */
     961   [ +  +  +  +  :       3960 :   switch (mt)
                      + ]
     962                 :            :   {
     963                 :            :   case MTone_root:
     964                 :        215 :     tr2 = find_trace_one_root(ell, q);
     965                 :        215 :     kt = k = 1;
     966                 :            :     /* Must take k = 1 because we can't apply Hensel: no guarantee that a
     967                 :            :      * root mod ell^2 exists */
     968                 :        215 :     tr = find_trace_Elkies_power(a4,a6,ell, k, &MEQN, g, tr2, q, T, p, smallfact, &ti);
     969         [ +  + ]:        215 :     if (!tr) tr = tr2;
     970                 :        215 :     break;
     971                 :            :   case MTElkies:
     972                 :            :     /* Contrary to MTone_root, may look mod higher powers of ell */
     973                 :       1890 :     tr = find_trace_Elkies_power(a4,a6,ell, k, &MEQN, g, NULL, q, T, p, smallfact, &ti);
     974         [ -  + ]:       1890 :     if (!tr) { avma = ltop; return NULL; }
     975                 :       1890 :     break;
     976                 :            :   case MTroots:
     977                 :         15 :     tr = find_trace_lp1_roots(ell, q);
     978                 :         15 :     kt = 2;
     979                 :         15 :     break;
     980                 :            :   case MTAtkin:
     981                 :       1835 :     tr = find_trace_Atkin(ell, r, q);
     982         [ -  + ]:       1835 :     if (lg(tr)==1) pari_err_PRIME("ellsea",p);
     983                 :       1835 :     kt = 1;
     984                 :       1835 :     break;
     985                 :            :   default: /* case MTpathological: */
     986                 :          5 :     avma = ltop; return NULL;
     987                 :            :   }
     988         [ -  + ]:       3955 :   if (DEBUGLEVEL) {
     989                 :          0 :     long n = lg(tr)-1;
     990 [ #  # ][ #  # ]:          0 :     if (n > 1 || mt == MTAtkin)
     991                 :            :     {
     992                 :          0 :       err_printf("%3ld trace(s)",n);
     993         [ #  # ]:          0 :       if (DEBUGLEVEL>1) err_printf(" [%ld ms]", timer_delay(&ti));
     994                 :            :     }
     995                 :          0 :     err_printf("\n");
     996                 :            :   }
     997                 :       3955 :   *ptr_kt = kt;
     998                 :       3960 :   return gerepileupto(ltop, tr);
     999                 :            : }
    1000                 :            : 
    1001                 :            : /* A partition of compile_atkin in baby and giant is represented as the binary
    1002                 :            :    developpement of an integer; if the i-th bit is 1, the i-th prime in
    1003                 :            :    compile-atkin is a baby. The optimum is obtained when the ratio between
    1004                 :            :    the number of possibilities for traces modulo giants (p_g) and babies (p_b)
    1005                 :            :    is near 3/4. */
    1006                 :            : static long
    1007                 :        380 : separation(GEN cnt)
    1008                 :            : {
    1009                 :            :   pari_sp btop, st_lim;
    1010                 :        380 :   long k = lg(cnt)-1, l = (1L<<k)-1, best_i, i, j;
    1011                 :            :   GEN best_r, P, P3, r;
    1012                 :            : 
    1013                 :        380 :   P = gen_1;
    1014         [ +  + ]:       1815 :   for (j = 1; j <= k; ++j) P = mulis(P, cnt[j]);
    1015                 :            :   /* p_b * p_g = P is constant */
    1016                 :        380 :   P3 = mulsi(3, P);
    1017                 :        380 :   btop = avma; st_lim = stack_lim(btop, 1);
    1018                 :        380 :   best_i = 0;
    1019                 :        380 :   best_r = P3;
    1020         [ +  + ]:      16120 :   for (i = 1; i < l; i++)
    1021                 :            :   {
    1022                 :            :     /* scan all possibilities */
    1023                 :      15770 :     GEN p_b = gen_1;
    1024         [ +  + ]:     143550 :     for (j = 0; j < k; j++)
    1025         [ +  + ]:     127780 :       if (i & (1L<<j)) p_b = mulis(p_b, cnt[1+j]);
    1026                 :      15770 :     r = subii(shifti(sqri(p_b), 2), P3); /* (p_b/p_g - 3/4)*4*P */
    1027         [ +  + ]:      15770 :     if (!signe(r)) { best_i = i; break; }
    1028         [ +  + ]:      15740 :     if (absi_cmp(r, best_r) < 0) { best_i = i; best_r = r; }
    1029         [ -  + ]:      15740 :     if (low_stack(st_lim, stack_lim(btop, 1)))
    1030                 :          0 :       best_r = gerepileuptoint(btop, best_r);
    1031                 :            :   }
    1032                 :        380 :   return best_i;
    1033                 :            : }
    1034                 :            : 
    1035                 :            : /* x VEC defined modulo P (= *P), y VECSMALL modulo q, (q,P) = 1. */
    1036                 :            : /* Update in place:
    1037                 :            :  *   x to vector mod q P congruent to x mod P (resp. y mod q). */
    1038                 :            : /*   P ( <-- qP ) */
    1039                 :            : static void
    1040                 :        675 : multiple_crt(GEN x, GEN y, GEN q, GEN P)
    1041                 :            : {
    1042                 :        675 :   pari_sp ltop = avma, av;
    1043                 :        675 :   long i, j, k, lx = lg(x)-1, ly = lg(y)-1;
    1044                 :            :   GEN  a1, a2, u, v, A2X;
    1045                 :        675 :   (void)bezout(P,q,&u,&v);
    1046                 :        675 :   a1 = mulii(P,u);
    1047                 :        675 :   a2 = mulii(q,v); A2X = ZC_Z_mul(x, a2);
    1048                 :        675 :   av = avma; affii(mulii(P,q), P);
    1049         [ +  + ]:      39805 :   for (i = 1, k = 1; i <= lx; i++, avma = av)
    1050                 :            :   {
    1051                 :      39130 :     GEN a2x = gel(A2X,i);
    1052         [ +  + ]:     696590 :     for (j = 1; j <= ly; ++j)
    1053                 :            :     {
    1054                 :     657460 :       GEN t = Fp_add(Fp_mulu(a1, y[j], P), a2x, P);
    1055                 :     657460 :       affii(t, gel(x, k++));
    1056                 :            :     }
    1057                 :            :   }
    1058                 :        675 :   setlg(x, k); avma = ltop;
    1059                 :        675 : }
    1060                 :            : 
    1061                 :            : /****************************************************************************/
    1062                 :            : /*                              MATCH AND SORT                              */
    1063                 :            : /****************************************************************************/
    1064                 :            : 
    1065                 :            : static GEN
    1066                 :        760 : possible_traces(GEN compile, GEN mask, GEN *P, int larger)
    1067                 :            : {
    1068                 :        760 :   GEN V, Pfinal = gen_1, C = shallowextract(compile, mask);
    1069                 :        760 :   long i, lfinal = 1, lC = lg(C), lP;
    1070                 :        760 :   pari_sp av = avma;
    1071                 :            : 
    1072         [ +  + ]:       2195 :   for (i = 1; i < lC; i++)
    1073                 :            :   {
    1074                 :       1435 :     GEN c = gel(C,i), t;
    1075                 :       1435 :     Pfinal = mulii(Pfinal, gel(c,1));
    1076                 :       1435 :     t = muluu(lfinal, lg(gel(c,2))-1);
    1077                 :       1435 :     lfinal = itou(t);
    1078                 :            :   }
    1079                 :        760 :   Pfinal = gerepileuptoint(av, Pfinal);
    1080         [ +  + ]:        760 :   if (larger)
    1081                 :        380 :     lP = lgefint(shifti(Pfinal,1));
    1082                 :            :   else
    1083                 :        380 :     lP = lgefint(Pfinal);
    1084                 :        760 :   lfinal++;
    1085                 :            :   /* allocate room for final result */
    1086                 :        760 :   V = cgetg(lfinal, t_VEC);
    1087         [ +  + ]:     622210 :   for (i = 1; i < lfinal; i++) gel(V,i) = cgeti(lP);
    1088                 :            : 
    1089                 :            :   {
    1090                 :        760 :     GEN c = gel(C,1), v = gel(c,2);
    1091                 :        760 :     long l = lg(v);
    1092         [ +  + ]:       3880 :     for (i = 1; i < l; i++) affsi(v[i], gel(V,i));
    1093                 :        760 :     setlg(V, l); affii(gel(c,1), Pfinal); /* reset Pfinal */
    1094                 :            :   }
    1095         [ +  + ]:       1435 :   for (i = 2; i < lC; i++)
    1096                 :            :   {
    1097                 :        675 :     GEN c = gel(C,i);
    1098                 :        675 :     multiple_crt(V, gel(c,2), gel(c,1), Pfinal); /* Pfinal updated! */
    1099                 :            :   }
    1100                 :        760 :   *P = Pfinal; return V;
    1101                 :            : }
    1102                 :            : 
    1103                 :            : static GEN
    1104                 :     110790 : cost(long mask, GEN cost_vec)
    1105                 :            : {
    1106                 :     110790 :   pari_sp ltop = avma;
    1107                 :            :   long i;
    1108                 :     110790 :   GEN c = gen_1;
    1109         [ +  + ]:    1273265 :   for (i = 1; i < lg(cost_vec); i++)
    1110         [ +  + ]:    1162475 :     if (mask&(1L<<(i-1)))
    1111                 :     505055 :       c = mulis(c, cost_vec[i]);
    1112                 :     110790 :   return gerepileuptoint(ltop, c);
    1113                 :            : }
    1114                 :            : 
    1115                 :            : static GEN
    1116                 :      89285 : value(long mask, GEN atkin, long k)
    1117                 :            : {
    1118                 :      89285 :   pari_sp ltop = avma;
    1119                 :            :   long i;
    1120                 :      89285 :   GEN c = gen_1;
    1121         [ +  + ]:    1026195 :   for (i = 1; i <= k; i++)
    1122         [ +  + ]:     936910 :     if (mask&(1L<<(i-1)))
    1123                 :     406915 :       c = mulii(c, gmael(atkin, i, 1));
    1124                 :      89285 :   return gerepileuptoint(ltop, c);
    1125                 :            : }
    1126                 :            : 
    1127                 :            : static void
    1128                 :      43875 : set_cost(GEN B, long b, GEN cost_vec, long *pi)
    1129                 :            : {
    1130                 :      43875 :   pari_sp av = avma;
    1131                 :      43875 :   GEN costb = cost(b, cost_vec);
    1132                 :      43875 :   long i = *pi;
    1133         [ +  + ]:      58430 :   while (cmpii(costb, cost(B[i], cost_vec)) < 0) --i;
    1134                 :      43875 :   B[++i] = b;
    1135                 :      43875 :   *pi = i; avma = av;
    1136                 :      43875 : }
    1137                 :            : 
    1138                 :            : static GEN
    1139                 :        785 : get_lgatkin(GEN compile_atkin, long k)
    1140                 :            : {
    1141                 :        785 :   GEN v = cgetg(k+1, t_VECSMALL);
    1142                 :            :   long j;
    1143         [ +  + ]:       4030 :   for (j = 1; j <= k; ++j) v[j] = lg(gmael(compile_atkin, j, 2))-1;
    1144                 :        785 :   return v;
    1145                 :            : }
    1146                 :            : 
    1147                 :            : static GEN
    1148                 :        405 : champion(GEN atkin, long k, GEN bound_champ)
    1149                 :            : {
    1150                 :        405 :   const long two_k = 1L<<k;
    1151                 :        405 :   pari_sp ltop = avma;
    1152                 :            :   long i, j, n, i1, i2;
    1153                 :        405 :   GEN B, Bp, cost_vec, res = NULL;
    1154                 :            : 
    1155                 :        405 :   cost_vec = get_lgatkin(atkin, k);
    1156         [ +  + ]:        405 :   if (k == 1) return mkvec2(gen_1, utoipos(cost_vec[1]));
    1157                 :            : 
    1158                 :        400 :   B  = zero_zv(two_k);
    1159                 :        400 :   Bp = zero_zv(two_k);
    1160                 :        400 :   Bp[2] = 1;
    1161         [ +  + ]:       1805 :   for (n = 2, j = 2; j <= k; j++)
    1162                 :            :   {
    1163                 :            :     long b;
    1164                 :       1405 :     i = 1;
    1165         [ +  + ]:      41015 :     for (i1 = 2, i2 = 1; i1 <= n; )
    1166                 :            :     {
    1167                 :      39610 :       pari_sp av = avma;
    1168                 :      39610 :       long b1 = Bp[i1], b2 = Bp[i2]|(1L<<(j-1));
    1169         [ +  + ]:      39610 :       if (cmpii(value(b1, atkin, k), value(b2, atkin, k)) < 0)
    1170                 :      39610 :         { b = b1; i1++; } else { b = b2; i2++; }
    1171                 :      39610 :       avma = av;
    1172                 :      39610 :       set_cost(B, b, cost_vec, &i);
    1173                 :            :     }
    1174         [ +  + ]:       5670 :     for ( ; i2 <= n; i2++)
    1175                 :            :     {
    1176                 :       4265 :       b = Bp[i2]|(1L<<(j-1));
    1177                 :       4265 :       set_cost(B, b, cost_vec, &i);
    1178                 :            :     }
    1179                 :       1405 :     n = i;
    1180         [ +  + ]:      32130 :     for (i = 1; i <= n; i++)
    1181                 :      30725 :       Bp[i] = B[i];
    1182                 :            :   }
    1183         [ +  + ]:     158140 :   for (i = 1; i <= two_k; i++)
    1184         [ +  + ]:     157740 :     if (B[i])
    1185                 :            :     {
    1186                 :       8485 :       GEN b = cost (B[i], cost_vec);
    1187                 :       8485 :       GEN v = value(B[i], atkin, k);
    1188         [ +  + ]:       8485 :       if (cmpii(v, bound_champ) <=0) continue;
    1189 [ +  + ][ +  - ]:       1015 :       if (res && gcmp(b, gel(res, 2)) >=0) continue;
    1190                 :        400 :       res = mkvec2(utoi(B[i]), b);
    1191                 :            :     }
    1192                 :        405 :   return gerepilecopy(ltop, res);
    1193                 :            : }
    1194                 :            : 
    1195                 :            : static GEN
    1196                 :        760 : compute_diff(GEN v)
    1197                 :            : {
    1198                 :        760 :   pari_sp av = avma;
    1199                 :        760 :   long i, l = lg(v) - 1;
    1200                 :        760 :   GEN diff = cgetg(l, t_VEC);
    1201         [ +  + ]:     621450 :   for (i = 1; i < l; i++) gel(diff, i) = subii(gel(v, i+1), gel(v, i));
    1202                 :        760 :   return gerepileupto(av, ZV_sort_uniq(diff));
    1203                 :            : }
    1204                 :            : 
    1205                 :            : static int
    1206                 :       6635 : cmp_atkin(void*E, GEN a, GEN b)
    1207                 :            : {
    1208                 :       6635 :   long ta=typ(a)==t_INT, tb=typ(b)==t_INT, c;
    1209                 :            :   (void) E;
    1210 [ +  - ][ +  + ]:       6635 :   if (ta || tb) return ta-tb;
    1211                 :       2165 :   c = lg(gel(a,2)) - lg(gel(b,2));
    1212         [ +  + ]:       2165 :   if (c) return c;
    1213                 :       6635 :   return cmpii(gel(b,1), gel(a,1));
    1214                 :            : }
    1215                 :            : 
    1216                 :            : static void
    1217                 :       1580 : add_atkin(GEN atkin, GEN trace, long *nb)
    1218                 :            : {
    1219                 :       1580 :   long l = lg(atkin)-1;
    1220                 :       1580 :   long i, k = gen_search(atkin, trace, 1, NULL, cmp_atkin);
    1221 [ +  - ][ -  + ]:       3160 :   if (k==0 || k > l) return;
    1222         [ +  + ]:      30700 :   for (i = l; i > k; i--)
    1223                 :      29120 :     gel(atkin,i) = gel(atkin,i-1);
    1224         [ +  - ]:       1580 :   if (typ(gel(atkin,l))==t_INT) (*nb)++;
    1225                 :       1580 :   gel(atkin,k) = trace;
    1226                 :            : }
    1227                 :            : 
    1228                 :            : /* V = baby / giant, P = Pb / Pg */
    1229                 :            : static GEN
    1230                 :        760 : BSGS_pre(GEN *pdiff, GEN V, GEN P, void *E, const struct bb_group *grp)
    1231                 :            : {
    1232                 :        760 :   GEN diff = compute_diff(V);
    1233                 :        760 :   GEN pre = cgetg(lg(diff), t_VEC);
    1234                 :        760 :   long i, l = lg(diff);
    1235                 :        760 :   gel(pre, 1) = grp->pow(E, P, gel(diff, 1));
    1236                 :            :   /* what we'd _really_ want here is a hashtable diff[i] -> pre[i]  */
    1237         [ +  + ]:      19790 :   for (i = 2; i < l; i++)
    1238                 :            :   {
    1239                 :      19030 :     pari_sp av = avma;
    1240                 :      19030 :     GEN d = subii(gel(diff, i), gel(diff, i-1));
    1241                 :      19030 :     GEN Q = grp->mul(E, gel(pre, i-1), grp->pow(E, P, d));
    1242                 :      19030 :     gel(pre, i) = gerepilecopy(av, Q);
    1243                 :            :   }
    1244                 :        760 :   *pdiff = diff; return pre;
    1245                 :            : }
    1246                 :            : 
    1247                 :            : /* u = trace_elkies, Mu = prod_elkies. Let caller collect garbage */
    1248                 :            : /* Match & sort: variant from Lercier's thesis, section 11.2.3 */
    1249                 :            : /* baby/giant/table updated in place: this routines uses
    1250                 :            :  *   size(baby)+size(giant)+size(table)+size(table_ind) + O(log p)
    1251                 :            :  * bits of stack */
    1252                 :            : static GEN
    1253                 :        385 : match_and_sort(GEN compile_atkin, GEN Mu, GEN u, GEN q, void *E, const struct bb_group *grp)
    1254                 :            : {
    1255                 :            :   pari_sp av1, av2, lim;
    1256                 :        385 :   GEN baby, giant, SgMb, Mb, Mg, den, Sg, dec_inf, div, pp1 = addis(q,1);
    1257                 :            :   GEN P, Pb, Pg, point, diff, pre, table, table_ind;
    1258                 :        385 :   long best_i, i, lbaby, lgiant, k = lg(compile_atkin)-1;
    1259                 :            :   pari_timer ti;
    1260                 :            : 
    1261         [ +  + ]:        385 :   if (k == 1)
    1262                 :            :   { /*only one Atkin prime, check the cardinality with random points */
    1263                 :          5 :     GEN r = gel(compile_atkin, 1), r1 = gel(r,1), r2 = gel(r,2);
    1264                 :          5 :     long l = lg(r2);
    1265                 :          5 :     GEN card = cgetg(l, t_VEC), Cs2, C, U;
    1266                 :          5 :     Z_chinese_pre(Mu, r1, &C,&U, NULL);
    1267                 :          5 :     Cs2 = shifti(C, -1);
    1268         [ +  + ]:         15 :     for (i = 1; i < l; i++)
    1269                 :            :     {
    1270                 :         10 :       GEN t = Z_chinese_post(u, stoi(r2[i]), C, U, NULL);
    1271                 :         10 :       gel(card, i) = subii(pp1, Fp_center(t, C, Cs2));
    1272                 :            :     }
    1273                 :          5 :     return gen_select_order(card, E, grp);
    1274                 :            :   }
    1275         [ -  + ]:        380 :   if (DEBUGLEVEL>=2) timer_start(&ti);
    1276                 :        380 :   av1 = avma;
    1277                 :        380 :   best_i = separation( get_lgatkin(compile_atkin, k) );
    1278                 :        380 :   avma = av1;
    1279                 :            : 
    1280                 :        380 :   baby  = possible_traces(compile_atkin, stoi(best_i), &Mb, 1);
    1281                 :        380 :   giant = possible_traces(compile_atkin, subis(int2n(k), best_i+1), &Mg, 0);
    1282                 :        380 :   lbaby = lg(baby);
    1283                 :        380 :   lgiant = lg(giant);
    1284                 :        380 :   den = Fp_inv(Fp_mul(Mu, Mb, Mg), Mg);
    1285                 :        380 :   av2 = avma;
    1286         [ +  + ]:     362650 :   for (i = 1; i < lgiant; i++, avma = av2)
    1287                 :     362270 :     affii(Fp_mul(gel(giant,i), den, Mg), gel(giant,i));
    1288                 :        380 :   gen_sort_inplace(giant, (void*)&cmpii, &cmp_nodata, NULL);
    1289                 :        380 :   Sg = Fp_mul(negi(u), den, Mg);
    1290                 :        380 :   den = Fp_inv(Fp_mul(Mu, Mg, Mb), Mb);
    1291                 :        380 :   dec_inf = divii(mulii(Mb,addii(Mg,shifti(Sg,1))), shifti(Mg,1));
    1292                 :        380 :   togglesign(dec_inf); /* now, dec_inf = ceil(- (Mb/2 + Sg Mb/Mg) ) */
    1293                 :        380 :   div = mulii(truedivii(dec_inf, Mb), Mb);
    1294                 :        380 :   av2 = avma;
    1295         [ +  + ]:     259560 :   for (i = 1; i < lbaby; i++, avma = av2)
    1296                 :            :   {
    1297                 :     259180 :     GEN b = addii(Fp_mul(Fp_sub(gel(baby,i), u, Mb), den, Mb), div);
    1298         [ +  + ]:     259180 :     if (cmpii(b, dec_inf) < 0) b = addii(b, Mb);
    1299                 :     259180 :     affii(b, gel(baby,i));
    1300                 :            :   }
    1301                 :        380 :   gen_sort_inplace(baby, (void*)&cmpii, &cmp_nodata, NULL);
    1302                 :            : 
    1303                 :        380 :   SgMb = mulii(Sg, Mb);
    1304                 :        380 :   P = grp->rand(E);
    1305                 :        380 :   point = grp->pow(E,P, Mu);
    1306                 :        380 :   Pb = grp->pow(E,point, Mg);
    1307                 :        380 :   Pg = grp->pow(E,point, Mb);
    1308                 :            :   /* Precomputation for babies */
    1309                 :        380 :   pre = BSGS_pre(&diff, baby, Pb, E, grp);
    1310                 :            : 
    1311                 :            :   /*Now we compute the table of babies, this table contains only the */
    1312                 :            :   /*lifted x-coordinate of the points in order to use less memory */
    1313                 :        380 :   table = cgetg(lbaby, t_VECSMALL);
    1314                 :        380 :   av1 = avma; lim = stack_lim(av1,3);
    1315                 :            :   /* (p+1 - u - Mu*Mb*Sg) P - (baby[1]) Pb */
    1316                 :        380 :   point = grp->pow(E,P, subii(subii(pp1, u), mulii(Mu, addii(SgMb, mulii(Mg, gel(baby,1))))));
    1317                 :        380 :   table[1] = grp->hash(gel(point,1));
    1318         [ +  + ]:     259180 :   for (i = 2; i < lbaby; i++)
    1319                 :            :   {
    1320                 :     258800 :     GEN d = subii(gel(baby, i), gel(baby, i-1));
    1321                 :     258800 :     point =  grp->mul(E, point, grp->pow(E, gel(pre, ZV_search(diff, d)), gen_m1));
    1322                 :     258800 :     table[i] = grp->hash(gel(point,1));
    1323         [ +  + ]:     258800 :     if (low_stack(lim, stack_lim(av1,3)))
    1324                 :            :     {
    1325         [ -  + ]:         16 :       if(DEBUGMEM>1) pari_warn(warnmem,"match_and_sort, baby = %ld", i);
    1326                 :         16 :       point = gerepileupto(av1, point);
    1327                 :            :     }
    1328                 :            :   }
    1329                 :        380 :   avma = av1;
    1330                 :            :   /* Precomputations for giants */
    1331                 :        380 :   pre = BSGS_pre(&diff, giant, Pg, E, grp);
    1332                 :            : 
    1333                 :            :   /* Look for a collision among the x-coordinates */
    1334                 :        380 :   table_ind = vecsmall_indexsort(table);
    1335                 :        380 :   table = perm_mul(table,table_ind);
    1336                 :            : 
    1337                 :        380 :   av1 = avma; lim = stack_lim(av1,3);
    1338                 :        380 :   point = grp->pow(E, Pg, gel(giant, 1));
    1339                 :        380 :   for (i = 1; ; i++)
    1340                 :            :   {
    1341                 :            :     GEN d;
    1342                 :      95230 :     long h = grp->hash(gel(point, 1));
    1343                 :      95230 :     long s = zv_search(table, h);
    1344         [ +  + ]:      95230 :     if (s) {
    1345 [ +  + ][ +  - ]:        760 :       while (table[s] == h && s) s--;
    1346 [ +  - ][ +  - ]:        380 :       for (s++; s < lbaby && table[s] == h; s++)
    1347                 :            :       {
    1348                 :        380 :         GEN B = gel(baby,table_ind[s]), G = gel(giant,i);
    1349                 :        380 :         GEN GMb = mulii(G, Mb), BMg = mulii(B, Mg);
    1350                 :        380 :         GEN Be = subii(subii(pp1, u), mulii(Mu, addii(SgMb, BMg)));
    1351                 :        380 :         GEN Bp = grp->pow(E,P, Be);
    1352                 :            :         /* p+1 - u - Mu (Sg Mb + GIANT Mb + BABY Mg) */
    1353         [ +  - ]:        380 :         if (gequal(gel(Bp,1),gel(point,1)))
    1354                 :            :         {
    1355                 :        380 :           GEN card = subii(Be, mulii(Mu, GMb));
    1356                 :        380 :           card = mkvec2(card, addii(card, mulii(mulsi(2,Mu), GMb)));
    1357         [ -  + ]:        380 :           if (DEBUGLEVEL>=2) timer_printf(&ti,"match_and_sort");
    1358                 :        380 :           return gen_select_order(card, E, grp);
    1359                 :            :         }
    1360                 :            :       }
    1361                 :            :     }
    1362         [ -  + ]:      94850 :     if (i==lgiant-1) break;
    1363                 :      94850 :     d = subii(gel(giant, i+1), gel(giant, i));
    1364                 :      94850 :     point = grp->mul(E,point, gel(pre, ZV_search(diff, d)));
    1365         [ -  + ]:      94850 :     if (low_stack(lim, stack_lim(av1,3)))
    1366                 :            :     {
    1367         [ #  # ]:          0 :       if(DEBUGMEM>1) pari_warn(warnmem,"match_and_sort, giant = %ld", i);
    1368                 :          0 :       point = gerepileupto(av1, point);
    1369                 :            :     }
    1370                 :      94850 :   }
    1371                 :            :   /* no match ? */
    1372                 :          0 :   pari_err_BUG("match_and_sort");
    1373                 :        385 :   return NULL; /* not reached */
    1374                 :            : }
    1375                 :            : 
    1376                 :            : static GEN
    1377                 :        390 : get_bound_bsgs(long lp)
    1378                 :            : {
    1379                 :            :   GEN B;
    1380         [ +  + ]:        390 :   if (lp <= 160)
    1381                 :        370 :     B = divru(powru(dbltor(1.048), lp), 9);
    1382         [ +  + ]:         20 :   else if (lp <= 192)
    1383                 :         15 :     B = divrr(powru(dbltor(1.052), lp), dbltor(16.65));
    1384                 :            :   else
    1385                 :          5 :     B = mulrr(powru(dbltor(1.035), minss(lp,307)), dbltor(1.35));
    1386                 :        390 :   return mulru(B, 1000000);
    1387                 :            : }
    1388                 :            : 
    1389                 :            : /*FIXME: the name of the function does not quite match what it does*/
    1390                 :            : static const struct bb_group *
    1391                 :        385 : get_FqE_group(void ** pt_E, GEN a4, GEN a6, GEN T, GEN p)
    1392                 :            : {
    1393         [ +  + ]:        385 :   if (!T) return get_FpE_group(pt_E,a4,a6,p);
    1394         [ +  + ]:         15 :   else if (lgefint(p)==3)
    1395                 :            :   {
    1396                 :         10 :     ulong pp = uel(p,2);
    1397                 :         10 :     return get_FlxqE_group(pt_E, ZX_to_Flx(a4,pp),ZX_to_Flx(a6,pp),ZXT_to_FlxT(T,pp),pp);
    1398                 :            :   }
    1399                 :        385 :   return get_FpXQE_group(pt_E,a4,a6,T,p);
    1400                 :            : }
    1401                 :            : 
    1402                 :            : /* E is an elliptic curve defined over Z or over Fp in ellinit format, defined
    1403                 :            :  * by the equation E: y^2 + a1*x*y + a2*y = x^3 + a2*x^2 + a4*x + a6
    1404                 :            :  * p is a prime number
    1405                 :            :  * set smallfact to stop whenever a small factor > smallfact of the order is
    1406                 :            :  * detected. Useful when searching for a good curve for cryptographic
    1407                 :            :  * applications */
    1408                 :            : GEN
    1409                 :        390 : Fq_ellcard_SEA(GEN a4, GEN a6, GEN q, GEN T, GEN p, long smallfact)
    1410                 :            : {
    1411                 :        390 :   const long MAX_ATKIN = 21;
    1412                 :        390 :   pari_sp ltop = avma, btop, st_lim;
    1413                 :            :   long ell, i, nb_atkin;
    1414                 :            :   GEN TR, TR_mod, compile_atkin, bound, bound_bsgs, champ;
    1415                 :        390 :   GEN prod_atkin = gen_1, max_traces = gen_0;
    1416                 :        390 :   double bound_gr = 1.;
    1417                 :        390 :   const double growth_factor = 1.26;
    1418                 :            :   forprime_t TT;
    1419                 :            :   void *E;
    1420                 :            : 
    1421 [ +  + ][ -  + ]:        390 :   if (!modular_eqn && !get_seadata(0)) return NULL;
    1422 [ +  + ][ +  + ]:        390 :   if (T && get_FpX_var(T)==0) /* 0 is used by the modular polynomial */
    1423                 :            :   {
    1424         [ +  - ]:          5 :     if (typ(T)==t_POL) { T  = shallowcopy(T); setvarn(T,1); }
    1425                 :          0 :     else T = gsubst(T,0,pol_x(1));
    1426                 :          5 :     a4 = shallowcopy(a4); setvarn(a4,1);
    1427                 :          5 :     a6 = shallowcopy(a6); setvarn(a6,1);
    1428                 :            :   }
    1429                 :            :   /*First compute the trace modulo 2 */
    1430      [ +  +  + ]:        390 :   switch(FqX_nbroots(mkpoln(4, gen_1, gen_0, a4, a6), T, p))
    1431                 :            :   {
    1432                 :            :   case 3: /* bonus time: 4 | #E(Fq) = q+1 - t */
    1433         [ -  + ]:         30 :     i = mod4(q)+1; if (i > 2) i -= 4;
    1434                 :         30 :     TR_mod = utoipos(4);
    1435                 :         30 :     TR = stoi(i); break;
    1436                 :            :   case 1:
    1437                 :        205 :     TR_mod = gen_2;
    1438                 :        205 :     TR = gen_0; break;
    1439                 :            :   default : /* 0 */
    1440                 :        155 :     TR_mod = gen_2;
    1441                 :        155 :     TR = gen_1; break;
    1442                 :            :   }
    1443 [ -  + ][ #  # ]:        390 :   if (smallfact == 1 && !mpodd(TR))
    1444                 :            :   {
    1445         [ #  # ]:          0 :     if (DEBUGLEVEL) err_printf("Aborting: #E(Fq) divisible by 2\n");
    1446                 :          0 :     avma = ltop; return gen_0;
    1447                 :            :   }
    1448                 :            : 
    1449                 :            :   /* compile_atkin is a vector containing informations about Atkin primes,
    1450                 :            :    * informations about Elkies primes lie in Mod(TR, TR_mod). */
    1451                 :        390 :   u_forprime_init(&TT, 3, 1000); /* way beyond what seadata provides */
    1452                 :        390 :   bound = sqrti(shifti(q, 4));
    1453                 :        390 :   bound_bsgs = get_bound_bsgs(expi(q));
    1454                 :        390 :   compile_atkin = zerovec(MAX_ATKIN); nb_atkin = 0;
    1455                 :        390 :   btop = avma; st_lim = stack_lim(btop, 1);
    1456         [ +  - ]:       3960 :   while ( (ell = u_forprime_next(&TT)) )
    1457                 :            :   {
    1458                 :       3960 :     long ellkt, kt = 1, nbtrace;
    1459                 :            :     GEN trace_mod;
    1460                 :       3960 :     trace_mod = find_trace(a4, a6, ell, q, T, p, &kt, smallfact);
    1461         [ +  + ]:       3960 :     if (!trace_mod) continue;
    1462                 :            : 
    1463                 :       3955 :     nbtrace = lg(trace_mod) - 1;
    1464                 :       3955 :     ellkt = (long)upowuu(ell, kt);
    1465         [ +  + ]:       3955 :     if (nbtrace == 1)
    1466                 :            :     {
    1467                 :       2375 :       long t_mod_ellkt = trace_mod[1];
    1468 [ -  + ][ #  # ]:       2375 :       if (smallfact && ell > smallfact)
    1469                 :            :       { /* does ell divide q + 1 - t ? */
    1470                 :          0 :         long card_mod_ell = (umodiu(q,ell) + 1 - t_mod_ellkt) % ell ;
    1471         [ #  # ]:          0 :         if (!card_mod_ell)
    1472                 :            :         {
    1473         [ #  # ]:          0 :           if (DEBUGLEVEL)
    1474                 :          0 :             err_printf("\nAborting: #E(Fq) divisible by %ld\n",ell);
    1475                 :          0 :           avma = ltop; return gen_0;
    1476                 :            :         }
    1477                 :            :       }
    1478                 :       2375 :       (void)Z_incremental_CRT(&TR, t_mod_ellkt, &TR_mod, ellkt);
    1479                 :            :     }
    1480                 :            :     else
    1481                 :            :     {
    1482                 :       1580 :       add_atkin(compile_atkin, mkvec2(utoipos(ellkt), trace_mod), &nb_atkin);
    1483                 :       1580 :       prod_atkin = value(-1, compile_atkin, nb_atkin);
    1484                 :            :     }
    1485         [ +  + ]:       3955 :     if (cmpii(mulii(TR_mod, prod_atkin), bound) > 0)
    1486                 :            :     {
    1487                 :            :       GEN bound_tr;
    1488         [ +  + ]:        420 :       if (!nb_atkin) return gerepileuptoint(ltop, subii(addis(p,1),TR));
    1489                 :        415 :       bound_tr = mulrr(bound_bsgs, dbltor(bound_gr));
    1490                 :        415 :       bound_gr *= growth_factor;
    1491         [ +  + ]:        415 :       if (signe(max_traces))
    1492                 :            :       {
    1493                 :         30 :         max_traces = divis(muliu(max_traces,nbtrace), ellkt);
    1494         [ -  + ]:         30 :         if (DEBUGLEVEL>=3)
    1495                 :          0 :           err_printf("At least %Ps remaining possibilities.\n",max_traces);
    1496                 :            :       }
    1497         [ +  + ]:        415 :       if (cmpir(max_traces, bound_tr) < 0)
    1498                 :            :       {
    1499                 :        405 :         GEN bound_atkin = truedivii(bound, TR_mod);
    1500                 :        405 :         champ = champion(compile_atkin, nb_atkin, bound_atkin);
    1501                 :        405 :         max_traces = gel(champ,2);
    1502         [ -  + ]:        405 :         if (DEBUGLEVEL>=2)
    1503                 :          0 :           err_printf("%Ps remaining possibilities.\n", max_traces);
    1504         [ +  + ]:        405 :         if (cmpir(max_traces, bound_tr) < 0)
    1505                 :            :         {
    1506                 :        385 :           GEN res, cat = shallowextract(compile_atkin, gel(champ,1));
    1507                 :            :           const struct bb_group *grp;
    1508         [ -  + ]:        385 :           if (DEBUGLEVEL)
    1509                 :          0 :             err_printf("Match and sort for %Ps possibilities.\n", max_traces);
    1510                 :        385 :           grp = get_FqE_group(&E,a4,a6,T,p);
    1511                 :        385 :           res = match_and_sort(cat, TR_mod, TR, q, E, grp);
    1512                 :        385 :           return gerepileuptoint(ltop, res);
    1513                 :            :         }
    1514                 :            :       }
    1515                 :            :     }
    1516         [ -  + ]:       3565 :     if (low_stack(st_lim, stack_lim(btop, 1)))
    1517                 :       3955 :       gerepileall(btop,5, &TR,&TR_mod, &compile_atkin, &max_traces, &prod_atkin);
    1518                 :            :   }
    1519                 :        390 :   return NULL;/*not reached*/
    1520                 :            : }
    1521                 :            : 
    1522                 :            : GEN
    1523                 :        375 : Fp_ellcard_SEA(GEN a4, GEN a6, GEN p, long smallfact)
    1524                 :            : {
    1525                 :        375 :   return Fq_ellcard_SEA(a4, a6, p, NULL, p, smallfact);
    1526                 :            : }
    1527                 :            : 
    1528                 :            : GEN
    1529                 :          0 : ellsea(GEN E, GEN p, long smallfact)
    1530                 :            : {
    1531                 :          0 :   pari_sp av = avma;
    1532                 :          0 :   GEN a4 = modii(mulis(Rg_to_Fp(gel(E,10), p), -27), p);
    1533                 :          0 :   GEN a6 = modii(mulis(Rg_to_Fp(gel(E,11), p), -54), p);
    1534                 :          0 :   GEN card = Fp_ellcard_SEA(a4, a6, p, smallfact);
    1535         [ #  # ]:          0 :   if (!card) pari_err_PACKAGE("seadata");
    1536                 :          0 :   return gerepileuptoint(av, subii(addis(p,1),card));
    1537                 :            : }

Generated by: LCOV version 1.9