Code coverage tests

This page documents the degree to which the PARI/GP source code is tested by our public test suite, distributed with the source distribution in directory src/test/. This is measured by the gcov utility; we then process gcov output using the lcov frond-end.

We test a few variants depending on Configure flags on the pari.math.u-bordeaux1.fr machine (x86_64 architecture), and agregate them in the final report:

The target is 90% coverage for all mathematical modules (given that branches depending on DEBUGLEVEL or DEBUGMEM are not covered). This script is run to produce the results below.

LCOV - code coverage report
Current view: top level - basemath - FpX_factor.c (source / functions) Hit Total Coverage
Test: PARI/GP v2.8.0 lcov report (development 18616-fe48336) Lines: 1853 2013 92.1 %
Date: 2016-02-14 Functions: 157 170 92.4 %
Legend: Lines: hit not hit | Branches: + taken - not taken # not executed Branches: 978 1279 76.5 %

           Branch data     Line data    Source code
       1                 :            : /* Copyright (C) 2012  The PARI group.
       2                 :            : 
       3                 :            : This file is part of the PARI/GP package.
       4                 :            : 
       5                 :            : PARI/GP is free software; you can redistribute it and/or modify it under the
       6                 :            : terms of the GNU General Public License as published by the Free Software
       7                 :            : Foundation. It is distributed in the hope that it will be useful, but WITHOUT
       8                 :            : ANY WARRANTY WHATSOEVER.
       9                 :            : 
      10                 :            : Check the License for details. You should have received a copy of it, along
      11                 :            : with the package; see the file 'COPYING'. If not, write to the Free Software
      12                 :            : Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA. */
      13                 :            : 
      14                 :            : #include "pari.h"
      15                 :            : #include "paripriv.h"
      16                 :            : 
      17                 :            : /***********************************************************************/
      18                 :            : /**                                                                   **/
      19                 :            : /**               Factorisation over finite field                     **/
      20                 :            : /**                                                                   **/
      21                 :            : /***********************************************************************/
      22                 :            : 
      23                 :            : /*******************************************************************/
      24                 :            : /*                                                                 */
      25                 :            : /*           ROOTS MODULO a prime p (no multiplicities)            */
      26                 :            : /*                                                                 */
      27                 :            : /*******************************************************************/
      28                 :            : /* Check types and replace F by a monic normalized FpX having the same roots
      29                 :            :  * Don't bother to make constant polynomials monic */
      30                 :            : static void
      31                 :        224 : factmod_init(GEN *F, GEN p)
      32                 :            : {
      33         [ -  + ]:        224 :   if (typ(p)!=t_INT) pari_err_TYPE("factmod",p);
      34         [ -  + ]:        224 :   if (signe(p) < 0) pari_err_PRIME("factmod",p);
      35         [ -  + ]:        224 :   if (typ(*F)!=t_POL) pari_err_TYPE("factmod",*F);
      36         [ +  + ]:        224 :   if (lgefint(p) == 3)
      37                 :            :   {
      38                 :        126 :     ulong pp = p[2];
      39         [ -  + ]:        126 :     if (pp < 2) pari_err_PRIME("factmod", p);
      40                 :        126 :     *F = RgX_to_Flx(*F, pp);
      41         [ +  + ]:        126 :     if (lg(*F) > 3) *F = Flx_normalize(*F, pp);
      42                 :            :   }
      43                 :            :   else
      44                 :            :   {
      45                 :         98 :     *F = RgX_to_FpX(*F, p);
      46         [ +  + ]:         98 :     if (lg(*F) > 3) *F = FpX_normalize(*F, p);
      47                 :            :   }
      48                 :        224 : }
      49                 :            : /* as above, assume p prime and *F a ZX */
      50                 :            : static void
      51                 :     606877 : ZX_factmod_init(GEN *F, GEN p)
      52                 :            : {
      53         [ +  + ]:     606877 :   if (lgefint(p) == 3)
      54                 :            :   {
      55                 :     600355 :     ulong pp = p[2];
      56                 :     600355 :     *F = ZX_to_Flx(*F, pp);
      57         [ +  + ]:     600355 :     if (lg(*F) > 3) *F = Flx_normalize(*F, pp);
      58                 :            :   }
      59                 :            :   else
      60                 :            :   {
      61                 :       6522 :     *F = FpX_red(*F, p);
      62         [ +  + ]:       6522 :     if (lg(*F) > 3) *F = FpX_normalize(*F, p);
      63                 :            :   }
      64                 :     606877 : }
      65                 :            : 
      66                 :            : /* return 1,...,p-1 [not_0 = 1] or 0,...,p [not_0 = 0] */
      67                 :            : static GEN
      68                 :         35 : all_roots_mod_p(ulong p, int not_0)
      69                 :            : {
      70                 :            :   GEN r;
      71                 :            :   ulong i;
      72         [ +  + ]:         35 :   if (not_0) {
      73                 :         21 :     r = cgetg(p, t_VECSMALL);
      74         [ +  + ]:         63 :     for (i = 1; i < p; i++) r[i] = i;
      75                 :            :   } else {
      76                 :         14 :     r = cgetg(p+1, t_VECSMALL);
      77         [ +  + ]:         84 :     for (i = 0; i < p; i++) r[i+1] = i;
      78                 :            :   }
      79                 :         35 :   return r;
      80                 :            : }
      81                 :            : 
      82                 :            : /* X^n - 1 */
      83                 :            : static GEN
      84                 :         20 : Flx_Xnm1(long sv, long n, ulong p)
      85                 :            : {
      86                 :         20 :   GEN t = cgetg(n+3, t_VECSMALL);
      87                 :            :   long i;
      88                 :         20 :   t[1] = sv;
      89                 :         20 :   t[2] = p - 1;
      90         [ +  + ]:         81 :   for (i = 3; i <= n+1; i++) t[i] = 0;
      91                 :         20 :   t[i] = 1; return t;
      92                 :            : }
      93                 :            : /* X^n + 1 */
      94                 :            : static GEN
      95                 :         13 : Flx_Xn1(long sv, long n, ulong p)
      96                 :            : {
      97                 :         13 :   GEN t = cgetg(n+3, t_VECSMALL);
      98                 :            :   long i;
      99                 :            :   (void) p;
     100                 :         13 :   t[1] = sv;
     101                 :         13 :   t[2] = 1;
     102         [ +  + ]:         53 :   for (i = 3; i <= n+1; i++) t[i] = 0;
     103                 :         13 :   t[i] = 1; return t;
     104                 :            : }
     105                 :            : 
     106                 :            : static ulong
     107                 :          6 : Fl_nonsquare(ulong p)
     108                 :            : {
     109                 :          6 :   long k = 2;
     110                 :          6 :   for (;; k++)
     111                 :            :   {
     112                 :         12 :     long i = krouu(k, p);
     113         [ -  + ]:         12 :     if (!i) pari_err_PRIME("Fl_nonsquare",utoipos(p));
     114         [ +  + ]:         12 :     if (i < 0) return k;
     115                 :          6 :   }
     116                 :            : }
     117                 :            : 
     118                 :            : /* f monic Flx, f(0) != 0. Return a monic squarefree g with the same
     119                 :            :  * roots as f */
     120                 :            : static GEN
     121                 :         14 : Flx_cut_out_roots(GEN f, ulong p)
     122                 :            : {
     123                 :         14 :   GEN g = Flx_mod_Xnm1(f, p-1, p); /* f mod x^(p-1) - 1 */
     124 [ +  + ][ +  - ]:         14 :   if (g != f && degpol(g) >= 0) {
     125                 :          7 :     (void)Flx_valrem(g, &g); /* reduction may introduce 0 root */
     126                 :          7 :     g = Flx_gcd(g, Flx_Xnm1(g[1], p-1, p), p);
     127                 :          7 :     g = Flx_normalize(g, p);
     128                 :            :   }
     129                 :         14 :   return g;
     130                 :            : }
     131                 :            : 
     132                 :            : /* by checking f(0..p-1) */
     133                 :            : GEN
     134                 :         14 : Flx_roots_naive(GEN f, ulong p)
     135                 :            : {
     136                 :         14 :   long d, n = 0;
     137                 :         14 :   ulong s = 1UL, r;
     138                 :         14 :   GEN q, y = cgetg(degpol(f) + 1, t_VECSMALL);
     139                 :         14 :   pari_sp av2, av = avma;
     140                 :            : 
     141         [ -  + ]:         14 :   if (Flx_valrem(f, &f)) y[++n] = 0;
     142                 :         14 :   f = Flx_cut_out_roots(f, p);
     143                 :         14 :   d = degpol(f);
     144         [ -  + ]:         14 :   if (d < 0) return all_roots_mod_p(p, n == 0);
     145                 :         14 :   av2 = avma;
     146         [ +  + ]:        294 :   while (d > 1) /* d = current degree of f */
     147                 :            :   {
     148                 :        287 :     q = Flx_div_by_X_x(f, s, p, &r); /* TODO: FFT-type multi-evaluation */
     149         [ +  + ]:        287 :     if (r) avma = av2; else { y[++n] = s; d--; f = q; av2 = avma; }
     150         [ +  + ]:        287 :     if (++s == p) break;
     151                 :            :   }
     152         [ +  + ]:         14 :   if (d == 1)
     153                 :            :   { /* -f[2]/f[3], root of deg 1 polynomial */
     154                 :          7 :     r = Fl_mul(p - Fl_inv(f[3], p), f[2], p);
     155         [ +  - ]:          7 :     if (r >= s) y[++n] = r; /* otherwise double root */
     156                 :            :   }
     157                 :         14 :   avma = av; fixlg(y, n+1); return y;
     158                 :            : }
     159                 :            : static GEN
     160                 :       6237 : Flx_root_mod_2(GEN f)
     161                 :            : {
     162                 :       6237 :   int z1, z0 = !(f[2] & 1);
     163                 :            :   long i,n;
     164                 :            :   GEN y;
     165                 :            : 
     166         [ +  + ]:      24143 :   for (i=2, n=1; i < lg(f); i++) n += f[i];
     167                 :       6237 :   z1 = n & 1;
     168                 :       6237 :   y = cgetg(z0+z1+1, t_VECSMALL); i = 1;
     169         [ +  + ]:       6237 :   if (z0) y[i++] = 0;
     170         [ +  + ]:       6237 :   if (z1) y[i  ] = 1;
     171                 :       6237 :   return y;
     172                 :            : }
     173                 :            : static ulong
     174                 :         14 : Flx_oneroot_mod_2(GEN f)
     175                 :            : {
     176                 :            :   long i,n;
     177         [ -  + ]:         14 :   if (!(f[2] & 1)) return 0;
     178         [ +  + ]:         56 :   for (i=2, n=1; i < lg(f); i++) n += f[i];
     179         [ +  + ]:         14 :   if (n & 1) return 1;
     180                 :         14 :   return 2;
     181                 :            : }
     182                 :            : 
     183                 :            : static GEN FpX_roots_i(GEN f, GEN p);
     184                 :            : static GEN Flx_roots_i(GEN f, ulong p);
     185                 :            : static GEN FpX_Berlekamp_i(GEN f, GEN pp, long flag);
     186                 :            : 
     187                 :            : static int
     188         [ +  + ]:    1858486 : cmpGuGu(GEN a, GEN b) { return (ulong)a < (ulong)b? -1: (a == b? 0: 1); }
     189                 :            : 
     190                 :            : /* Generic driver to computes the roots of f modulo pp, using 'Roots' when
     191                 :            :  * pp is a small prime.
     192                 :            :  * if (gpwrap), check types thoroughly and return t_INTMODs, otherwise
     193                 :            :  * assume that f is an FpX, pp a prime and return t_INTs */
     194                 :            : static GEN
     195                 :      60564 : rootmod_aux(GEN f, GEN pp, GEN (*Roots)(GEN,ulong), int gpwrap)
     196                 :            : {
     197                 :      60564 :   pari_sp av = avma;
     198                 :            :   GEN y;
     199         [ +  + ]:      60564 :   if (gpwrap)
     200                 :         70 :     factmod_init(&f, pp);
     201                 :            :   else
     202                 :      60494 :     ZX_factmod_init(&f, pp);
     203      [ +  +  + ]:      60564 :   switch(lg(f))
     204                 :            :   {
     205                 :         14 :     case 2: pari_err_ROOTS0("rootmod");
     206                 :         35 :     case 3: avma = av; return cgetg(1,t_COL);
     207                 :            :   }
     208         [ +  + ]:      60515 :   if (typ(f) == t_VECSMALL)
     209                 :            :   {
     210                 :      57725 :     ulong p = pp[2];
     211         [ +  + ]:      57725 :     if (p == 2)
     212                 :       6237 :       y = Flx_root_mod_2(f);
     213                 :            :     else
     214                 :            :     {
     215         [ -  + ]:      51488 :       if (!odd(p)) pari_err_PRIME("rootmod",utoi(p));
     216                 :      51488 :       y = Roots(f, p);
     217                 :            :     }
     218                 :      57725 :     y = Flc_to_ZC(y);
     219                 :            :   }
     220                 :            :   else
     221                 :       2790 :     y = FpX_roots_i(f, pp);
     222         [ +  + ]:      60515 :   if (gpwrap) y = FpC_to_mod(y, pp);
     223                 :      60550 :   return gerepileupto(av, y);
     224                 :            : }
     225                 :            : /* assume that f is a ZX an pp a prime */
     226                 :            : GEN
     227                 :      60494 : FpX_roots(GEN f, GEN pp)
     228                 :      60494 : { return rootmod_aux(f, pp, Flx_roots_i, 0); }
     229                 :            : /* no assumptions on f and pp */
     230                 :            : GEN
     231                 :         14 : rootmod2(GEN f, GEN pp) { return rootmod_aux(f, pp, &Flx_roots_naive, 1); }
     232                 :            : GEN
     233                 :         56 : rootmod(GEN f, GEN pp) { return rootmod_aux(f, pp, &Flx_roots_i, 1); }
     234                 :            : GEN
     235                 :         70 : rootmod0(GEN f, GEN p, long flag)
     236                 :            : {
     237      [ +  +  - ]:         70 :   switch(flag)
     238                 :            :   {
     239                 :         56 :     case 0: return rootmod(f,p);
     240                 :         14 :     case 1: return rootmod2(f,p);
     241                 :          0 :     default: pari_err_FLAG("polrootsmod");
     242                 :            :   }
     243                 :         56 :   return NULL; /* not reached */
     244                 :            : }
     245                 :            : 
     246                 :            : /* assume x reduced mod p > 2, monic. */
     247                 :            : static int
     248                 :         21 : FpX_quad_factortype(GEN x, GEN p)
     249                 :            : {
     250                 :         21 :   GEN b = gel(x,3), c = gel(x,2);
     251                 :         21 :   GEN D = subii(sqri(b), shifti(c,2));
     252                 :         21 :   return kronecker(D,p);
     253                 :            : }
     254                 :            : /* assume x reduced mod p, monic. Return one root, or NULL if irreducible */
     255                 :            : GEN
     256                 :       6474 : FpX_quad_root(GEN x, GEN p, int unknown)
     257                 :            : {
     258                 :       6474 :   GEN s, D, b = gel(x,3), c = gel(x,2);
     259                 :            : 
     260         [ -  + ]:       6474 :   if (equaliu(p, 2)) {
     261         [ #  # ]:          0 :     if (!signe(b)) return c;
     262         [ #  # ]:          0 :     return signe(c)? NULL: gen_1;
     263                 :            :   }
     264                 :       6474 :   D = subii(sqri(b), shifti(c,2));
     265                 :       6474 :   D = remii(D,p);
     266 [ +  + ][ +  + ]:       6474 :   if (unknown && kronecker(D,p) == -1) return NULL;
     267                 :            : 
     268                 :       6466 :   s = Fp_sqrt(D,p);
     269                 :            :   /* p is not prime, go on and give e.g. maxord a chance to recover */
     270         [ +  + ]:       6466 :   if (!s) return NULL;
     271                 :       6474 :   return Fp_halve(Fp_sub(s,b, p), p);
     272                 :            : }
     273                 :            : static GEN
     274                 :       2870 : FpX_otherroot(GEN x, GEN r, GEN p)
     275                 :       2870 : { return Fp_neg(Fp_add(gel(x,3), r, p), p); }
     276                 :            : 
     277                 :            : /* disc(x^2+bx+c) = b^2 - 4c */
     278                 :            : static ulong
     279                 :    5970637 : Fl_disc_bc(ulong b, ulong c, ulong p)
     280                 :    5970637 : { return Fl_sub(Fl_sqr(b,p), Fl_double(Fl_double(c,p),p), p); }
     281                 :            : /* p > 2 */
     282                 :            : static ulong
     283                 :    5898435 : Flx_quad_root(GEN x, ulong p, int unknown)
     284                 :            : {
     285                 :    5898435 :   ulong s, b = x[3], c = x[2];
     286                 :    5898435 :   ulong D = Fl_disc_bc(b, c, p);
     287 [ +  + ][ +  + ]:    5898510 :   if (unknown && krouu(D,p) == -1) return p;
     288                 :    5788329 :   s = Fl_sqrt(D,p);
     289         [ +  + ]:    5775856 :   if (s==~0UL) return p;
     290                 :    5888223 :   return Fl_halve(Fl_sub(s,b, p), p);
     291                 :            : }
     292                 :            : static ulong
     293                 :    5250090 : Flx_otherroot(GEN x, ulong r, ulong p)
     294                 :    5250090 : { return Fl_neg(Fl_add(x[3], r, p), p); }
     295                 :            : 
     296                 :            : 
     297                 :            : /* 'todo' contains the list of factors to be split.
     298                 :            :  * 'done' the list of finished factors, no longer touched */
     299                 :            : struct split_t { GEN todo, done; };
     300                 :            : static void
     301                 :     614045 : split_init(struct split_t *S, long max)
     302                 :            : {
     303                 :     614045 :   S->todo = vectrunc_init(max);
     304                 :     614045 :   S->done = vectrunc_init(max);
     305                 :     614044 : }
     306                 :            : #if 0
     307                 :            : /* move todo[i] to done */
     308                 :            : static void
     309                 :            : split_convert(struct split_t *S, long i)
     310                 :            : {
     311                 :            :   long n = lg(S->todo)-1;
     312                 :            :   vectrunc_append(S->done, gel(S->todo,i));
     313                 :            :   if (n) gel(S->todo,i) = gel(S->todo, n);
     314                 :            :   setlg(S->todo, n);
     315                 :            : }
     316                 :            : #endif
     317                 :            : /* append t to todo */
     318                 :            : static void
     319                 :     671898 : split_add(struct split_t *S, GEN t) { vectrunc_append(S->todo, t); }
     320                 :            : /* delete todo[i], add t to done */
     321                 :            : static void
     322                 :     671889 : split_moveto_done(struct split_t *S, long i, GEN t)
     323                 :            : {
     324                 :     671889 :   long n = lg(S->todo)-1;
     325                 :     671889 :   vectrunc_append(S->done, t);
     326         [ +  - ]:     671890 :   if (n) gel(S->todo,i) = gel(S->todo, n);
     327                 :     671890 :   setlg(S->todo, n);
     328                 :            : 
     329                 :     671888 : }
     330                 :            : /* append t to done */
     331                 :            : static void
     332                 :      99904 : split_add_done(struct split_t *S, GEN t)
     333                 :      99904 : { vectrunc_append(S->done, t); }
     334                 :            : /* split todo[i] into a and b */
     335                 :            : static void
     336                 :      75043 : split_todo(struct split_t *S, long i, GEN a, GEN b)
     337                 :            : {
     338                 :      75043 :   gel(S->todo, i) = a;
     339                 :      75043 :   split_add(S, b);
     340                 :      75042 : }
     341                 :            : /* split todo[i] into a and b, moved to done */
     342                 :            : static void
     343                 :      81016 : split_done(struct split_t *S, long i, GEN a, GEN b)
     344                 :            : {
     345                 :      81016 :   split_moveto_done(S, i, a);
     346                 :      81017 :   split_add_done(S, b);
     347                 :      81016 : }
     348                 :            : 
     349                 :            : /* by splitting, assume p > 2 prime, deg(f) > 0, and f monic */
     350                 :            : static GEN
     351                 :       2790 : FpX_roots_i(GEN f, GEN p)
     352                 :            : {
     353                 :            :   GEN pol, pol0, a, q;
     354                 :            :   struct split_t S;
     355                 :            : 
     356                 :       2790 :   split_init(&S, lg(f)-1);
     357                 :       2790 :   settyp(S.done, t_COL);
     358         [ +  + ]:       2790 :   if (ZX_valrem(f, &f)) split_add_done(&S, gen_0);
     359   [ +  +  +  + ]:       2790 :   switch(degpol(f))
     360                 :            :   {
     361                 :          7 :     case 0: return ZC_copy(S.done);
     362                 :         14 :     case 1: split_add_done(&S, subii(p, gel(f,2))); return ZC_copy(S.done);
     363                 :            :     case 2: {
     364                 :       1603 :       GEN s, r = FpX_quad_root(f, p, 1);
     365         [ +  - ]:       1603 :       if (r) {
     366                 :       1603 :         split_add_done(&S, r);
     367                 :       1603 :         s = FpX_otherroot(f,r, p);
     368                 :            :         /* f not known to be square free yet */
     369         [ +  - ]:       1603 :         if (!equalii(r, s)) split_add_done(&S, s);
     370                 :            :       }
     371                 :       1603 :       return sort(S.done);
     372                 :            :     }
     373                 :            :   }
     374                 :            : 
     375                 :       1166 :   a = FpXQ_pow(pol_x(varn(f)), subiu(p,1), f,p);
     376         [ -  + ]:       1166 :   if (lg(a) < 3) pari_err_PRIME("rootmod",p);
     377                 :       1166 :   a = FpX_Fp_sub_shallow(a, gen_1, p); /* a = x^(p-1) - 1 mod f */
     378                 :       1166 :   a = FpX_gcd(f,a, p);
     379         [ -  + ]:       1166 :   if (!degpol(a)) return ZC_copy(S.done);
     380                 :       1166 :   split_add(&S, FpX_normalize(a,p));
     381                 :            : 
     382                 :       1166 :   q = shifti(p,-1);
     383                 :       1166 :   pol0 = icopy(gen_1); /* constant term, will vary in place */
     384                 :       1166 :   pol = deg1pol_shallow(gen_1, pol0, varn(f));
     385                 :       1166 :   for (pol0[2] = 1;; pol0[2]++)
     386                 :            :   {
     387                 :       2430 :     long j, l = lg(S.todo);
     388         [ +  + ]:       2430 :     if (l == 1) return sort(S.done);
     389 [ -  + ][ #  # ]:       1264 :     if (pol0[2] == 100 && !BPSW_psp(p)) pari_err_PRIME("polrootsmod",p);
     390         [ +  + ]:       2619 :     for (j = 1; j < l; j++)
     391                 :            :     {
     392                 :       1355 :       GEN c = gel(S.todo,j);
     393      [ +  +  + ]:       1355 :       switch(degpol(c))
     394                 :            :       { /* convert linear and quadratics to roots, try to split the rest */
     395                 :            :         case 1:
     396                 :         56 :           split_moveto_done(&S, j, subii(p, gel(c,2)));
     397                 :         56 :           j--; l--; break;
     398                 :            :         case 2: {
     399                 :       1201 :           GEN r = FpX_quad_root(c, p, 0), s = FpX_otherroot(c,r, p);
     400                 :       1201 :           split_done(&S, j, r, s);
     401                 :       1201 :           j--; l--; break;
     402                 :            :         }
     403                 :            :         default: {
     404                 :            :           /* b = pol^(p-1)/2 - 1 */
     405                 :         98 :           GEN b = FpX_Fp_sub_shallow(FpXQ_pow(pol,q, c,p), gen_1, p);
     406                 :            :           long db;
     407                 :         98 :           b = FpX_gcd(c,b, p); db = degpol(b);
     408 [ +  - ][ +  + ]:         98 :           if (db && db < degpol(c))
     409                 :            :           {
     410                 :         91 :             b = FpX_normalize(b, p);
     411                 :         91 :             c = FpX_div(c,b, p);
     412                 :         91 :             split_todo(&S, j, b, c);
     413                 :            :           }
     414                 :            :         }
     415                 :            :       }
     416                 :            :     }
     417                 :       4054 :   }
     418                 :            : }
     419                 :            : 
     420                 :            : /* Assume f is normalized */
     421                 :            : static ulong
     422                 :      53913 : Flx_cubic_root(GEN ff, ulong p)
     423                 :            : {
     424                 :      53913 :   GEN f = Flx_normalize(ff,p);
     425                 :      53914 :   ulong pi = get_Fl_red(p);
     426         [ +  + ]:      53913 :   ulong a = f[4], b=f[3], c=f[2], p3 = p%3==1 ? (2*p+1)/3 :(p+1)/3;
     427                 :      53913 :   ulong t = Fl_mul_pre(a, p3, p, pi), t2 = Fl_sqr_pre(t, p, pi);
     428                 :      53913 :   ulong A = Fl_sub(b, Fl_triple(t2, p), p);
     429                 :      53913 :   ulong B = Fl_addmul_pre(t, Fl_sub(Fl_double(t2, p), b, p), c, p, pi);
     430                 :      53914 :   ulong A3 =  Fl_mul_pre(A, p3, p, pi);
     431                 :      53914 :   ulong A32 = Fl_sqr_pre(A3, p, pi), A33 = Fl_mul_pre(A3, A32, p, pi);
     432                 :      53913 :   ulong S = Fl_neg(B,p), P = Fl_neg(A3,p);
     433                 :      53913 :   ulong D = Fl_add(Fl_sqr_pre(S, p, pi), Fl_double(Fl_double(A33, p), p), p);
     434                 :      53913 :   ulong s = Fl_sqrt_pre(D, p, pi), vS1, vS2;
     435         [ +  + ]:      53914 :   if (s!=~0UL)
     436                 :            :   {
     437         [ +  + ]:      33391 :     ulong S1 = S==s ? S: Fl_halve(Fl_sub(S, s, p), p);
     438         [ +  + ]:      33391 :     if (p%3==2) /* 1 solutions */
     439                 :       5167 :       vS1 = Fl_powu_pre(S1, (2*p-1)/3, p, pi);
     440                 :            :     else
     441                 :            :     {
     442                 :      28224 :       vS1 = Fl_sqrtl_pre(S1, 3, p, pi);
     443         [ +  + ]:      28224 :       if (vS1==~0UL) return p; /*0 solutions*/
     444                 :            :       /*3 solutions*/
     445                 :            :     }
     446         [ +  + ]:      22676 :     vS2 = P? Fl_mul_pre(P, Fl_inv(vS1, p), p, pi): 0;
     447                 :      22676 :     return Fl_sub(Fl_add(vS1,vS2, p), t, p);
     448                 :            :   }
     449                 :            :   else
     450                 :            :   {
     451                 :      20523 :     pari_sp av = avma;
     452                 :      20523 :     GEN S1 = mkvecsmall2(Fl_halve(S, p), Fl_halve(1UL, p));
     453                 :      20523 :     GEN vS1 = Fl2_sqrtn_pre(S1, utoi(3), D, p, pi, NULL);
     454                 :            :     ulong Sa;
     455         [ +  + ]:      20523 :     if (!vS1) return p; /*0 solutions, p%3==2*/
     456                 :      19583 :     Sa = vS1[1];
     457         [ +  + ]:      19583 :     if (p%3==1) /*1 solutions*/
     458                 :            :     {
     459                 :      14134 :       ulong Fa = Fl2_norm_pre(vS1, D, p, pi);
     460         [ +  + ]:      14134 :       if (Fa!=P)
     461                 :       9545 :         Sa = Fl_mul(Sa, Fl_div(Fa, P, p),p);
     462                 :            :     }
     463                 :      19583 :     avma = av;
     464                 :      53914 :     return Fl_sub(Fl_double(Sa,p),t,p);
     465                 :            :   }
     466                 :            : }
     467                 :            : 
     468                 :            : /* assume p > 2 prime */
     469                 :            : static ulong
     470                 :     694221 : Flx_oneroot_i(GEN f, ulong p, long fl)
     471                 :            : {
     472                 :            :   GEN pol, a;
     473                 :            :   ulong q;
     474                 :            :   long da;
     475                 :            : 
     476         [ +  + ]:     694221 :   if (Flx_val(f)) return 0;
     477   [ +  +  +  + ]:     694069 :   switch(degpol(f))
     478                 :            :   {
     479                 :        190 :     case 1: return Fl_neg(f[2], p);
     480                 :     540277 :     case 2: return Flx_quad_root(f, p, 1);
     481         [ +  - ]:      50102 :     case 3: if (p>3) return Flx_cubic_root(f, p); /*FALL THROUGH*/
     482                 :            :   }
     483                 :            : 
     484         [ +  + ]:     103478 :   if (!fl)
     485                 :            :   {
     486                 :      93122 :     a = Flxq_powu(polx_Flx(f[1]), p - 1, f,p);
     487         [ -  + ]:      93122 :     if (lg(a) < 3) pari_err_PRIME("rootmod",utoipos(p));
     488                 :      93122 :     a = Flx_Fl_add(a, p-1, p); /* a = x^(p-1) - 1 mod f */
     489                 :      93122 :     a = Flx_gcd(f,a, p);
     490                 :      10356 :   } else a = f;
     491                 :     103478 :   da = degpol(a);
     492         [ +  + ]:     103474 :   if (!da) return p;
     493                 :      53563 :   a = Flx_normalize(a,p);
     494                 :            : 
     495                 :      53575 :   q = p >> 1;
     496                 :      53575 :   pol = polx_Flx(f[1]);
     497                 :      53571 :   for(pol[2] = 1;; pol[2]++)
     498                 :            :   {
     499 [ -  + ][ #  # ]:      90739 :     if (pol[2] == 1000 && !uisprime(p)) pari_err_PRIME("Flx_oneroot",utoipos(p));
     500   [ +  +  +  + ]:      90732 :     switch(da)
     501                 :            :     {
     502                 :      22176 :       case 1: return Fl_neg(a[2], p);
     503                 :      27608 :       case 2: return Flx_quad_root(a, p, 0);
     504         [ +  - ]:       3811 :       case 3: if (p>3) return Flx_cubic_root(a, p); /*FALL THROUGH*/
     505                 :            :       default: {
     506                 :      37137 :         GEN b = Flx_Fl_add(Flxq_powu(pol,q, a,p), p-1, p);
     507                 :            :         long db;
     508                 :      37168 :         b = Flx_gcd(a,b, p); db = degpol(b);
     509 [ +  + ][ +  + ]:      37167 :         if (db && db < da)
     510                 :            :         {
     511                 :      35378 :           b = Flx_normalize(b, p);
     512         [ +  + ]:      35380 :           if (db <= (da >> 1)) {
     513                 :      21890 :             a = b;
     514                 :      21890 :             da = db;
     515                 :            :           } else {
     516                 :      13490 :             a = Flx_div(a,b, p);
     517                 :      13489 :             da -= db;
     518                 :            :           }
     519                 :            :         }
     520                 :            :       }
     521                 :            :     }
     522                 :     731416 :   }
     523                 :            : }
     524                 :            : 
     525                 :            : /* assume p > 2 prime */
     526                 :            : static GEN
     527                 :       3649 : FpX_oneroot_i(GEN f, GEN p)
     528                 :            : {
     529                 :            :   GEN pol, pol0, a, q;
     530                 :            :   long da;
     531                 :            : 
     532         [ +  + ]:       3649 :   if (ZX_val(f)) return gen_0;
     533      [ +  +  + ]:       3642 :   switch(degpol(f))
     534                 :            :   {
     535                 :        140 :     case 1: return subii(p, gel(f,2));
     536                 :       3432 :     case 2: return FpX_quad_root(f, p, 1);
     537                 :            :   }
     538                 :            : 
     539                 :         70 :   a = FpXQ_pow(pol_x(varn(f)), subiu(p,1), f,p);
     540         [ -  + ]:         70 :   if (lg(a) < 3) pari_err_PRIME("rootmod",p);
     541                 :         70 :   a = FpX_Fp_sub_shallow(a, gen_1, p); /* a = x^(p-1) - 1 mod f */
     542                 :         70 :   a = FpX_gcd(f,a, p);
     543                 :         70 :   da = degpol(a);
     544         [ -  + ]:         70 :   if (!da) return NULL;
     545                 :         70 :   a = FpX_normalize(a,p);
     546                 :            : 
     547                 :         70 :   q = shifti(p,-1);
     548                 :         70 :   pol0 = icopy(gen_1); /* constant term, will vary in place */
     549                 :         70 :   pol = deg1pol_shallow(gen_1, pol0, varn(f));
     550                 :         70 :   for (pol0[2]=1; ; pol0[2]++)
     551                 :            :   {
     552 [ -  + ][ #  # ]:        224 :     if (pol0[2] == 1000 && !BPSW_psp(p)) pari_err_PRIME("FpX_oneroot",p);
     553      [ +  +  + ]:        224 :     switch(da)
     554                 :            :     {
     555                 :         42 :       case 1: return subii(p, gel(a,2));
     556                 :         28 :       case 2: return FpX_quad_root(a, p, 0);
     557                 :            :       default: {
     558                 :        154 :         GEN b = FpX_Fp_sub_shallow(FpXQ_pow(pol,q, a,p), gen_1, p);
     559                 :            :         long db;
     560                 :        154 :         b = FpX_gcd(a,b, p); db = degpol(b);
     561 [ +  + ][ +  - ]:        154 :         if (db && db < da)
     562                 :            :         {
     563                 :        147 :           b = FpX_normalize(b, p);
     564         [ +  + ]:        147 :           if (db <= (da >> 1)) {
     565                 :        105 :             a = b;
     566                 :        105 :             da = db;
     567                 :            :           } else {
     568                 :         42 :             a = FpX_div(a,b, p);
     569                 :         42 :             da -= db;
     570                 :            :           }
     571                 :            :         }
     572                 :            :       }
     573                 :            :     }
     574                 :       3803 :   }
     575                 :            : }
     576                 :            : 
     577                 :            : ulong
     578                 :     676437 : Flx_oneroot(GEN f, ulong p)
     579                 :            : {
     580                 :     676437 :   pari_sp av = avma;
     581                 :            :   ulong r;
     582      [ -  -  + ]:     676437 :   switch(lg(f))
     583                 :            :   {
     584                 :          0 :     case 2: return 0;
     585                 :          0 :     case 3: avma = av; return p;
     586                 :            :   }
     587         [ -  + ]:     676437 :   if (p == 2) return Flx_oneroot_mod_2(f);
     588                 :     676437 :   r = Flx_oneroot_i(Flx_normalize(f, p), p, 0);
     589                 :     676437 :   avma = av; return r;
     590                 :            : }
     591                 :            : 
     592                 :            : ulong
     593                 :      10444 : Flx_oneroot_split(GEN f, ulong p)
     594                 :            : {
     595                 :      10444 :   pari_sp av = avma;
     596                 :            :   ulong r;
     597      [ -  -  + ]:      10444 :   switch(lg(f))
     598                 :            :   {
     599                 :          0 :     case 2: return 0;
     600                 :          0 :     case 3: avma = av; return p;
     601                 :            :   }
     602         [ -  + ]:      10444 :   if (p == 2) return Flx_oneroot_mod_2(f);
     603                 :      10444 :   r = Flx_oneroot_i(Flx_normalize(f, p), p, 1);
     604                 :      10470 :   avma = av; return r;
     605                 :            : }
     606                 :            : 
     607                 :            : /* assume that p is prime */
     608                 :            : GEN
     609                 :      11004 : FpX_oneroot(GEN f, GEN pp) {
     610                 :      11004 :   pari_sp av = avma;
     611                 :      11004 :   ZX_factmod_init(&f, pp);
     612      [ -  -  + ]:      11004 :   switch(lg(f))
     613                 :            :   {
     614                 :          0 :     case 2: avma = av; return gen_0;
     615                 :          0 :     case 3: avma = av; return NULL;
     616                 :            :   }
     617         [ +  + ]:      11004 :   if (typ(f) == t_VECSMALL)
     618                 :            :   {
     619                 :       7355 :     ulong r, p = pp[2];
     620         [ +  + ]:       7355 :     if (p == 2)
     621                 :         14 :       r = Flx_oneroot_mod_2(f);
     622                 :            :     else
     623                 :       7341 :       r = Flx_oneroot_i(f, p, 0);
     624                 :       7355 :     avma = av;
     625         [ +  + ]:       7355 :     return (r == p)? NULL: utoi(r);
     626                 :            :   }
     627                 :       3649 :   f = FpX_oneroot_i(f, pp);
     628         [ -  + ]:       3649 :   if (!f) { avma = av; return NULL; }
     629                 :      11004 :   return gerepileuptoint(av, f);
     630                 :            : }
     631                 :            : 
     632                 :            : /*******************************************************************/
     633                 :            : /*                                                                 */
     634                 :            : /*                     FACTORISATION MODULO p                      */
     635                 :            : /*                                                                 */
     636                 :            : /*******************************************************************/
     637                 :            : 
     638                 :            : /* Functions giving information on the factorisation. */
     639                 :            : 
     640                 :            : /* u in Z[X], return kernel of (Frob - Id) over Fp[X] / u */
     641                 :            : GEN
     642                 :         55 : FpX_Berlekamp_ker(GEN u, GEN p)
     643                 :            : {
     644                 :         55 :   pari_sp ltop=avma;
     645                 :         55 :   long j,N = degpol(u);
     646                 :         55 :   GEN Q  = FpX_matFrobenius(u, p);
     647         [ +  + ]:       2139 :   for (j=1; j<=N; j++)
     648                 :       2084 :     gcoeff(Q,j,j) = Fp_sub(gcoeff(Q,j,j), gen_1, p);
     649                 :         55 :   return gerepileupto(ltop, FpM_ker(Q,p));
     650                 :            : }
     651                 :            : 
     652                 :            : GEN
     653                 :      21000 : F2x_Berlekamp_ker(GEN u)
     654                 :            : {
     655                 :      21000 :   pari_sp ltop=avma;
     656                 :      21000 :   long j,N = F2x_degree(u);
     657                 :            :   GEN Q, XP;
     658                 :            :   pari_timer T;
     659                 :      21000 :   timer_start(&T);
     660                 :      21000 :   XP = F2xq_sqr(polx_F2x(u[1]),u);
     661                 :      21000 :   Q  = F2xq_matrix_pow(XP,N,N,u);
     662         [ +  + ]:     109711 :   for (j=1; j<=N; j++)
     663                 :      88711 :     F2m_flip(Q,j,j);
     664         [ -  + ]:      21000 :   if(DEBUGLEVEL>=9) timer_printf(&T,"Berlekamp matrix");
     665                 :      21000 :   Q = F2m_ker_sp(Q,0);
     666         [ -  + ]:      21000 :   if(DEBUGLEVEL>=9) timer_printf(&T,"kernel");
     667                 :      21000 :   return gerepileupto(ltop,Q);
     668                 :            : }
     669                 :            : 
     670                 :            : GEN
     671                 :     207003 : Flx_Berlekamp_ker(GEN u, ulong l)
     672                 :            : {
     673                 :     207003 :   pari_sp ltop=avma;
     674                 :     207003 :   long j,N = degpol(u);
     675                 :            :   GEN Q;
     676                 :            :   pari_timer T;
     677                 :     207003 :   timer_start(&T);
     678                 :     207003 :   Q  = Flx_matFrobenius(u, l);
     679         [ +  + ]:     976929 :   for (j=1; j<=N; j++)
     680                 :     769926 :     coeff(Q,j,j) = Fl_sub(coeff(Q,j,j),1,l);
     681         [ -  + ]:     207003 :   if(DEBUGLEVEL>=9) timer_printf(&T,"Berlekamp matrix");
     682                 :     207003 :   Q = Flm_ker_sp(Q,l,0);
     683         [ -  + ]:     207003 :   if(DEBUGLEVEL>=9) timer_printf(&T,"kernel");
     684                 :     207003 :   return gerepileupto(ltop,Q);
     685                 :            : }
     686                 :            : 
     687                 :            : /* product of terms of degree 1 in factorization of f */
     688                 :            : GEN
     689                 :      60032 : FpX_split_part(GEN f, GEN p)
     690                 :            : {
     691                 :      60032 :   long n = degpol(f);
     692                 :      60032 :   GEN z, X = pol_x(varn(f));
     693         [ +  + ]:      60032 :   if (n <= 1) return f;
     694                 :      60004 :   f = FpX_red(f, p);
     695                 :      60004 :   z = FpX_sub(FpX_Frobenius(f, p), X, p);
     696                 :      60032 :   return FpX_gcd(z,f,p);
     697                 :            : }
     698                 :            : 
     699                 :            : /* Compute the number of roots in Fp without counting multiplicity
     700                 :            :  * return -1 for 0 polynomial. lc(f) must be prime to p. */
     701                 :            : long
     702                 :      18396 : FpX_nbroots(GEN f, GEN p)
     703                 :            : {
     704                 :      18396 :   pari_sp av = avma;
     705                 :      18396 :   GEN z = FpX_split_part(f, p);
     706                 :      18396 :   avma = av; return degpol(z);
     707                 :            : }
     708                 :            : 
     709                 :            : int
     710                 :          0 : FpX_is_totally_split(GEN f, GEN p)
     711                 :            : {
     712                 :          0 :   long n=degpol(f);
     713                 :          0 :   pari_sp av = avma;
     714         [ #  # ]:          0 :   if (n <= 1) return 1;
     715         [ #  # ]:          0 :   if (cmpui(n, p) > 0) return 0;
     716                 :          0 :   f = FpX_red(f, p);
     717                 :          0 :   avma = av; return gequalX(FpX_Frobenius(f, p));
     718                 :            : }
     719                 :            : 
     720                 :            : long
     721                 :    8115692 : Flx_nbroots(GEN f, ulong p)
     722                 :            : {
     723                 :    8115692 :   long n = degpol(f);
     724                 :    8114928 :   pari_sp av = avma;
     725                 :            :   GEN z;
     726         [ +  + ]:    8114928 :   if (n <= 1) return n;
     727         [ +  + ]:    8114753 :   if (n == 2)
     728                 :            :   {
     729                 :            :     ulong D;
     730         [ +  + ]:    4895010 :     if (p==2) return (f[2]==0) + (f[2]!=f[3]);
     731                 :    4894177 :     D = Fl_sub(Fl_sqr(f[3], p), Fl_mul(Fl_mul(f[4], f[2], p), 4%p, p), p);
     732                 :    4900187 :     return 1 + krouu(D,p);
     733                 :            :   }
     734                 :    3219743 :   z = Flx_sub(Flx_Frobenius(f, p), polx_Flx(f[1]), p);
     735                 :    3219690 :   z = Flx_gcd(z, f, p);
     736                 :    8121551 :   avma = av; return degpol(z);
     737                 :            : }
     738                 :            : 
     739                 :            : /* See <http://www.shoup.net/papers/factorimpl.pdf> */
     740                 :            : static GEN
     741                 :       4102 : FpX_ddf(GEN T, GEN XP, GEN p)
     742                 :            : {
     743                 :       4102 :   pari_sp av = avma;
     744                 :            :   GEN b, g, h, F, f, Tr, xq;
     745                 :            :   long i, j, n, v;
     746                 :            :   long B, l, m;
     747                 :            :   pari_timer ti;
     748                 :       4102 :   n = get_FpX_degree(T); v = get_FpX_var(T);
     749         [ -  + ]:       4102 :   if (n == 0) return cgetg(1, t_VEC);
     750         [ +  + ]:       4102 :   if (n == 1) return mkvec(get_FpX_mod(T));
     751                 :       4095 :   B = n/2;
     752                 :       4095 :   l = usqrt(B);
     753                 :       4095 :   m = (B+l-1)/l;
     754                 :       4095 :   T = FpX_get_red(T, p);
     755                 :       4095 :   b = cgetg(l+2, t_VEC);
     756                 :       4095 :   gel(b, 1) = pol_x(v);
     757                 :       4095 :   gel(b, 2) = XP;
     758         [ -  + ]:       4095 :   if (DEBUGLEVEL>=7) timer_start(&ti);
     759                 :       4095 :   xq = FpXQ_powers(gel(b, 2), brent_kung_optpow(n, l-1, 1),  T, p);
     760         [ -  + ]:       4095 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FpX_ddf: xq baby");
     761         [ +  + ]:      10661 :   for (i = 3; i <= l+1; i++)
     762                 :       6566 :     gel(b, i) = FpX_FpXQV_eval(gel(b, i-1), xq, T, p);
     763         [ -  + ]:       4095 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FpX_ddf: baby");
     764                 :       4095 :   xq = FpXQ_powers(gel(b, l+1), brent_kung_optpow(n, m-1, 1),  T, p);
     765         [ -  + ]:       4095 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FpX_ddf: xq giant");
     766                 :       4095 :   g = cgetg(m+1, t_VEC);
     767                 :       4095 :   gel(g, 1) = gel(xq, 2);
     768         [ +  + ]:      14931 :   for(i = 2; i <= m; i++)
     769                 :      10836 :     gel(g, i) = FpX_FpXQV_eval(gel(g, i-1), xq, T, p);
     770         [ -  + ]:       4095 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FpX_ddf: giant");
     771                 :       4095 :   h = cgetg(m+1, t_VEC);
     772         [ +  + ]:      19026 :   for (j = 1; j <= m; j++)
     773                 :            :   {
     774                 :      14931 :     pari_sp av = avma;
     775                 :      14931 :     GEN gj = gel(g, j);
     776                 :      14931 :     GEN e = FpX_sub(gj, gel(b, 1), p);
     777         [ +  + ]:      42938 :     for (i = 2; i <= l; i++)
     778                 :      28007 :       e = FpXQ_mul(e, FpX_sub(gj, gel(b, i), p), T, p);
     779                 :      14931 :     gel(h, j) = gerepileupto(av, e);
     780                 :            :   }
     781         [ -  + ]:       4095 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FpX_ddf: diff");
     782                 :       4095 :   Tr = get_FpX_mod(T);
     783                 :       4095 :   F = cgetg(m+1, t_VEC);
     784         [ +  + ]:      19026 :   for (j = 1; j <= m; j++)
     785                 :            :   {
     786                 :      14931 :     gel(F, j) = FpX_gcd(Tr, gel(h, j), p);
     787                 :      14931 :     Tr = FpX_div(Tr, gel(F,j), p);
     788                 :            :   }
     789         [ -  + ]:       4095 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FpX_ddf: F");
     790                 :       4095 :   f = const_vec(n, pol_1(v));
     791         [ +  + ]:      19026 :   for (j = 1; j <= m; j++)
     792                 :            :   {
     793                 :      14931 :     GEN e = gel(F, j);
     794         [ +  - ]:      16919 :     for (i=l-1; i >= 0; i--)
     795                 :            :     {
     796                 :      16919 :       GEN u = FpX_gcd(e, FpX_sub(gel(g, j), gel(b, i+1), p), p);
     797         [ +  + ]:      16919 :       if (degpol(u))
     798                 :            :       {
     799                 :       2709 :         gel(f, l*j-i) = u;
     800                 :       2709 :         e = FpX_div(e, u, p);
     801                 :            :       }
     802         [ +  + ]:      16919 :       if (!degpol(e)) break;
     803                 :            :     }
     804                 :            :   }
     805         [ -  + ]:       4095 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"FpX_ddf: f");
     806         [ +  + ]:       4095 :   if (degpol(Tr)) gel(f, degpol(Tr)) = Tr;
     807                 :       4102 :   return gerepilecopy(av, f);
     808                 :            : }
     809                 :            : 
     810                 :            : static void
     811                 :          0 : FpX_edf_simple(GEN Tp, GEN XP, long d, GEN p, GEN V, long idx)
     812                 :            : {
     813                 :          0 :   long n = degpol(Tp), r = n/d;
     814                 :            :   GEN T, f, ff;
     815                 :            :   GEN p2;
     816         [ #  # ]:          0 :   if (r==1) { gel(V, idx) = Tp; return; }
     817                 :          0 :   p2 = shifti(p,-1);
     818                 :          0 :   T = FpX_get_red(Tp, p);
     819                 :          0 :   XP = FpX_rem(XP, T, p);
     820                 :            :   while (1)
     821                 :            :   {
     822                 :          0 :     pari_sp btop = avma;
     823                 :            :     long i;
     824                 :          0 :     GEN g = random_FpX(n, varn(Tp), p);
     825                 :          0 :     GEN t = gel(FpXQ_auttrace(mkvec2(XP, g), d, T, p), 2);
     826         [ #  # ]:          0 :     if (signe(t) == 0) continue;
     827         [ #  # ]:          0 :     for(i=1; i<=10; i++)
     828                 :            :     {
     829                 :          0 :       pari_sp btop2 = avma;
     830                 :          0 :       GEN R = FpXQ_pow(FpX_Fp_add(t, randomi(p), p), p2, T, p);
     831                 :          0 :       f = FpX_gcd(FpX_Fp_sub(R, gen_1, p), Tp, p);
     832 [ #  # ][ #  # ]:          0 :       if (degpol(f) > 0 && degpol(f) < n) break;
     833                 :          0 :       avma = btop2;
     834                 :            :     }
     835 [ #  # ][ #  # ]:          0 :     if (degpol(f) > 0 && degpol(f) < n) break;
     836                 :          0 :     avma = btop;
     837                 :          0 :   }
     838                 :          0 :   f = FpX_normalize(f, p);
     839                 :          0 :   ff = FpX_div(Tp, f ,p);
     840                 :          0 :   FpX_edf_simple(f, XP, d, p, V, idx);
     841                 :          0 :   FpX_edf_simple(ff, XP, d, p, V, idx+degpol(f)/d);
     842                 :            : }
     843                 :            : 
     844                 :            : static void
     845                 :        210 : FpX_edf_rec(GEN T, GEN hp, GEN t, long d, GEN p2, GEN p, GEN V, long idx)
     846                 :            : {
     847                 :            :   pari_sp av;
     848                 :        210 :   GEN Tp = get_FpX_mod(T);
     849                 :        210 :   long n = degpol(hp), vT = varn(Tp);
     850                 :            :   GEN u1, u2, f1, f2;
     851                 :            :   GEN R, h;
     852                 :        210 :   h = FpX_get_red(hp, p);
     853                 :        210 :   t = FpX_rem(t, T, p);
     854                 :        210 :   av = avma;
     855                 :            :   do
     856                 :            :   {
     857                 :        322 :     avma = av;
     858                 :        322 :     R = FpXQ_pow(deg1pol(gen_1, randomi(p), vT), p2, h, p);
     859                 :        322 :     u1 = FpX_gcd(FpX_Fp_sub(R, gen_1, p), hp, p);
     860 [ +  + ][ +  + ]:        322 :   } while (degpol(u1)==0 || degpol(u1)==n);
     861                 :        210 :   f1 = FpX_gcd(FpX_FpXQ_eval(u1, t, T, p), Tp, p);
     862                 :        210 :   f1 = FpX_normalize(f1, p);
     863                 :        210 :   u2 = FpX_div(hp, u1, p);
     864                 :        210 :   f2 = FpX_div(Tp, f1, p);
     865         [ +  + ]:        210 :   if (degpol(u1)==1)
     866                 :        126 :     gel(V, idx) = f1;
     867                 :            :   else
     868                 :         84 :     FpX_edf_rec(FpX_get_red(f1, p), u1, t, d, p2, p, V, idx);
     869                 :        210 :   idx += degpol(f1)/d;
     870         [ +  + ]:        210 :   if (degpol(u2)==1)
     871                 :         98 :     gel(V, idx) = f2;
     872                 :            :   else
     873                 :        112 :     FpX_edf_rec(FpX_get_red(f2, p), u2, t, d, p2, p, V, idx);
     874                 :        210 : }
     875                 :            : 
     876                 :            : static void
     877                 :         14 : FpX_edf(GEN Tp, GEN XP, long d, GEN p, GEN V, long idx)
     878                 :            : {
     879                 :         14 :   long n = degpol(Tp), r = n/d, vT = varn(Tp);
     880                 :            :   GEN T, h, t;
     881                 :            :   pari_timer ti;
     882         [ -  + ]:         28 :   if (r==1) { gel(V, idx) = Tp; return; }
     883                 :         14 :   T = FpX_get_red(Tp, p);
     884                 :         14 :   XP = FpX_rem(XP, T, p);
     885         [ -  + ]:         14 :   if (DEBUGLEVEL>=7) timer_start(&ti);
     886                 :            :   do
     887                 :            :   {
     888                 :         14 :     GEN g = random_FpX(n, vT, p);
     889                 :         14 :     t = gel(FpXQ_auttrace(mkvec2(XP, g), d, T, p), 2);
     890         [ -  + ]:         14 :     if (DEBUGLEVEL>=7) timer_printf(&ti,"FpX_edf: FpXQ_auttrace");
     891                 :         14 :     h = FpXQ_minpoly(t, T, p);
     892         [ -  + ]:         14 :     if (DEBUGLEVEL>=7) timer_printf(&ti,"FpX_edf: FpXQ_minpoly");
     893         [ -  + ]:         14 :   } while (degpol(h) != r);
     894                 :         14 :   FpX_edf_rec(T, h, t, d, shifti(p, -1), p, V, idx);
     895                 :            : }
     896                 :            : 
     897                 :            : static GEN
     898                 :         14 : FpX_factor_Shoup(GEN T, GEN p)
     899                 :            : {
     900                 :         14 :   long i, n, s = 0;
     901                 :            :   GEN XP, D, V;
     902                 :         14 :   long e = expi(p);
     903                 :            :   pari_timer ti;
     904                 :         14 :   n = get_FpX_degree(T);
     905                 :         14 :   T = FpX_get_red(T, p);
     906         [ -  + ]:         14 :   if (DEBUGLEVEL>=6) timer_start(&ti);
     907                 :         14 :   XP = FpX_Frobenius(T, p);
     908         [ -  + ]:         14 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"FpX_Frobenius");
     909                 :         14 :   D = FpX_ddf(T, XP, p);
     910         [ -  + ]:         14 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"FpX_ddf");
     911         [ +  + ]:        301 :   for (i = 1; i <= n; i++)
     912                 :        287 :     s += degpol(gel(D,i))/i;
     913                 :         14 :   V = cgetg(s+1, t_COL);
     914         [ +  + ]:        301 :   for (i = 1, s = 1; i <= n; i++)
     915                 :            :   {
     916                 :        287 :     GEN Di = gel(D,i);
     917                 :        287 :     long ni = degpol(Di), ri = ni/i;
     918         [ +  + ]:        287 :     if (ni == 0) continue;
     919                 :         21 :     Di = FpX_normalize(Di, p);
     920         [ +  + ]:         21 :     if (ni == i) { gel(V, s++) = Di; continue; }
     921         [ +  - ]:         14 :     if (ri <= e*expu(e))
     922                 :         14 :       FpX_edf(Di, XP, i, p, V, s);
     923                 :            :     else
     924                 :          0 :       FpX_edf_simple(Di, XP, i, p, V, s);
     925         [ -  + ]:         14 :     if (DEBUGLEVEL>=6) timer_printf(&ti,"FpX_edf(%ld)",i);
     926                 :         14 :     s += ri;
     927                 :            :   }
     928                 :         14 :   return V;
     929                 :            : }
     930                 :            : 
     931                 :            : static GEN
     932                 :          0 : FpX_simplefact_Shoup(GEN T, GEN p)
     933                 :            : {
     934                 :          0 :   long i, n, s = 0, j = 1, k;
     935                 :            :   GEN XP, D, V;
     936                 :            :   pari_timer ti;
     937                 :          0 :   n = get_FpX_degree(T);
     938                 :          0 :   T = FpX_get_red(T, p);
     939         [ #  # ]:          0 :   if (DEBUGLEVEL>=6) timer_start(&ti);
     940                 :          0 :   XP = FpX_Frobenius(T, p);
     941         [ #  # ]:          0 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"FpX_Frobenius");
     942                 :          0 :   D = FpX_ddf(T, XP, p);
     943         [ #  # ]:          0 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"FpX_ddf");
     944         [ #  # ]:          0 :   for (i = 1; i <= n; i++)
     945                 :          0 :     s += degpol(gel(D,i))/i;
     946                 :          0 :   V = cgetg(s+1, t_VEC);
     947         [ #  # ]:          0 :   for (i = 1; i <= n; i++)
     948                 :            :   {
     949                 :          0 :     long ni = degpol(gel(D,i)), ri = ni/i;
     950         [ #  # ]:          0 :     if (ni == 0) continue;
     951         [ #  # ]:          0 :     for (k = 1; k <= ri; k++)
     952                 :          0 :       gel(V, j++) = utoi(i);
     953                 :            :   }
     954                 :          0 :   return V;
     955                 :            : }
     956                 :            : 
     957                 :            : /* Yun algorithm: Assume p > degpol(T) */
     958                 :            : 
     959                 :            : static GEN
     960                 :          7 : FpX_factor_Yun(GEN T, GEN p)
     961                 :            : {
     962                 :          7 :   pari_sp av = avma;
     963                 :          7 :   long n = degpol(T);
     964                 :          7 :   long i = 1;
     965                 :          7 :   GEN d = FpX_deriv(T, p);
     966                 :            :   GEN a, b, c;
     967                 :          7 :   GEN V = cgetg(n+1,t_VEC);
     968                 :          7 :   a = FpX_gcd(T, d, p);
     969         [ -  + ]:          7 :   if (degpol(a) == 0) return mkvec(T);
     970                 :          7 :   b = FpX_div(T, a, p);
     971                 :            :   do
     972                 :            :   {
     973                 :         14 :     c = FpX_div(d, a, p);
     974                 :         14 :     d = FpX_sub(c, FpX_deriv(b, p), p);
     975                 :         14 :     a = FpX_normalize(FpX_gcd(b, d, p), p);
     976                 :         14 :     gel(V, i++) = a;
     977                 :         14 :     b = FpX_div(b, a, p);
     978         [ +  + ]:         14 :   } while (degpol(b));
     979                 :          7 :   setlg(V, i);
     980                 :          7 :   return gerepilecopy(av, V);
     981                 :            : }
     982                 :            : 
     983                 :            : static GEN
     984                 :          7 : FpX_factor_Cantor(GEN T, GEN p)
     985                 :            : {
     986                 :            :   GEN E, F, M, V;
     987                 :            :   long i, j, s, l;
     988                 :          7 :   V = FpX_factor_Yun(T, p);
     989                 :          7 :   l = lg(V);
     990         [ +  + ]:         21 :   for (s=0, i=1; i < l; i++)
     991                 :         14 :     s += !!degpol(gel(V,i));
     992                 :          7 :   F = cgetg(s+1, t_VEC);
     993                 :          7 :   E = cgetg(s+1, t_VEC);
     994         [ +  + ]:         21 :   for (i=1, j=1; i < l; i++)
     995         [ +  - ]:         14 :     if (degpol(gel(V,i)))
     996                 :            :     {
     997                 :         14 :       GEN Fj = FpX_factor_Shoup(gel(V,i), p);
     998                 :         14 :       gel(F, j) = Fj;
     999                 :         14 :       gel(E, j) = const_vecsmall(lg(Fj)-1, i);
    1000                 :         14 :       j++;
    1001                 :            :     }
    1002                 :          7 :   M = mkvec2(shallowconcat1(F), shallowconcat1(E));
    1003                 :          7 :   return sort_factor_pol(M, cmpii);
    1004                 :            : }
    1005                 :            : 
    1006                 :            : static GEN
    1007                 :          0 : FpX_simplefact_Cantor(GEN T, GEN p)
    1008                 :            : {
    1009                 :            :   GEN E, F, M, V;
    1010                 :            :   long i, j, s, l;
    1011                 :          0 :   V = FpX_factor_Yun(get_FpX_mod(T), p);
    1012                 :          0 :   l = lg(V);
    1013         [ #  # ]:          0 :   for (s=0, i=1; i < l; i++)
    1014                 :          0 :     s += !!degpol(gel(V,i));
    1015                 :          0 :   F = cgetg(s+1, t_VEC);
    1016                 :          0 :   E = cgetg(s+1, t_VEC);
    1017         [ #  # ]:          0 :   for (i=1, j=1; i < l; i++)
    1018         [ #  # ]:          0 :     if (degpol(gel(V,i)))
    1019                 :            :     {
    1020                 :          0 :       GEN Fj = FpX_simplefact_Shoup(gel(V,i), p);
    1021                 :          0 :       gel(F, j) = Fj;
    1022                 :          0 :       gel(E, j) = const_vecsmall(lg(Fj)-1, i);
    1023                 :          0 :       j++;
    1024                 :            :     }
    1025                 :          0 :   M = mkvec2(shallowconcat1(F), shallowconcat1(E));
    1026                 :          0 :   return sort_factor(M, (void*)&cmpGuGu, cmp_nodata);
    1027                 :            : }
    1028                 :            : 
    1029                 :            : static int
    1030                 :          0 : FpX_isirred_Cantor(GEN Tp, GEN p)
    1031                 :            : {
    1032                 :          0 :   pari_sp av = avma;
    1033                 :            :   pari_timer ti;
    1034                 :            :   long n, d;
    1035                 :          0 :   GEN T = get_FpX_mod(Tp);
    1036                 :          0 :   GEN dT = FpX_deriv(T, p);
    1037                 :            :   GEN XP, D;
    1038         [ #  # ]:          0 :   if (degpol(FpX_gcd(T, dT, p)) != 0) { avma = av; return 0; }
    1039                 :          0 :   n = get_FpX_degree(T);
    1040                 :          0 :   T = FpX_get_red(Tp, p);
    1041         [ #  # ]:          0 :   if (DEBUGLEVEL>=6) timer_start(&ti);
    1042                 :          0 :   XP = FpX_Frobenius(T, p);
    1043         [ #  # ]:          0 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"FpX_Frobenius");
    1044                 :          0 :   D = FpX_ddf(T, XP, p);
    1045         [ #  # ]:          0 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"FpX_ddf");
    1046                 :          0 :   d = degpol(gel(D, n));
    1047                 :          0 :   avma = av; return d==n;
    1048                 :            : }
    1049                 :            : 
    1050                 :            : static GEN FpX_factor_deg2(GEN f, GEN p, long d, long flag);
    1051                 :            : 
    1052                 :            : /*Assume that p is large and odd*/
    1053                 :            : static GEN
    1054                 :         35 : FpX_factcantor_i(GEN f, GEN pp, long flag)
    1055                 :            : {
    1056                 :         35 :   long d = degpol(f);
    1057         [ +  + ]:         35 :   if (d <= 2) return FpX_factor_deg2(f,pp,d,flag);
    1058      [ +  -  - ]:          7 :   switch(flag)
    1059                 :            :   {
    1060                 :          7 :     default: return FpX_factor_Cantor(f, pp);
    1061                 :          0 :     case 1: return FpX_simplefact_Cantor(f, pp);
    1062         [ #  # ]:         35 :     case 2: return FpX_isirred_Cantor(f, pp)? gen_1: NULL;
    1063                 :            :   }
    1064                 :            : }
    1065                 :            : 
    1066                 :            : long
    1067                 :       4088 : FpX_nbfact_Frobenius(GEN T, GEN XP, GEN p)
    1068                 :            : {
    1069                 :       4088 :   pari_sp av = avma;
    1070                 :       4088 :   GEN ddf = FpX_ddf(T, XP, p);
    1071                 :       4088 :   long l = lg(ddf), i, s=0;
    1072         [ +  + ]:      86716 :   for(i = 1; i < l; i++)
    1073                 :      82628 :     s += degpol(gel(ddf,i))/i;
    1074                 :       4088 :   avma = av; return s;
    1075                 :            : }
    1076                 :            : 
    1077                 :            : long
    1078                 :         28 : FpX_nbfact(GEN T, GEN p)
    1079                 :            : {
    1080                 :         28 :   pari_sp av = avma;
    1081                 :         28 :   GEN XP = FpX_Frobenius(T, p);
    1082                 :         28 :   long n = FpX_nbfact_Frobenius(T, XP, p);
    1083                 :         28 :   avma = av; return n;
    1084                 :            : }
    1085                 :            : 
    1086                 :            : /* INPUT:
    1087                 :            :  *  m integer (converted to polynomial w in Z[X] by stoFpX)
    1088                 :            :  *  p prime; q = (p^d-1) / 2^r
    1089                 :            :  *  t[0] polynomial of degree k*d product of k irreducible factors of degree d
    1090                 :            :  *  t[0] is expected to be normalized (leading coeff = 1)
    1091                 :            :  * OUTPUT:
    1092                 :            :  *  t[0],t[1]...t[k-1] the k factors, normalized */
    1093                 :            : 
    1094                 :            : static void
    1095                 :      20307 : F2x_split(ulong m, GEN *t, long d)
    1096                 :            : {
    1097                 :            :   long l, v, dv;
    1098                 :            :   pari_sp av0, av;
    1099                 :            :   GEN w;
    1100                 :            : 
    1101         [ +  + ]:      22526 :   dv = F2x_degree(*t); if (dv==d) return;
    1102                 :       2219 :   v=(*t)[1]; av0=avma;
    1103                 :       2219 :   for(av=avma;;avma=av)
    1104                 :            :   {
    1105                 :       3822 :     GEN w0 = w = F2xq_powu(polx_F2x(v), m-1, *t); m += 2;
    1106         [ +  + ]:      26887 :     for (l=1; l<d; l++) w = F2x_add(w0, F2xq_sqr(w, *t));
    1107                 :       3822 :     w = F2x_gcd(*t,w);
    1108 [ +  + ][ +  + ]:       3822 :     l = F2x_degree(w); if (l && l!=dv) break;
    1109                 :       1603 :   }
    1110                 :       2219 :   w = gerepileupto(av0, w);
    1111                 :       2219 :   l /= d; t[l]=F2x_div(*t,w); *t=w;
    1112                 :       2219 :   F2x_split(m,t+l,d);
    1113                 :       2219 :   F2x_split(m,t,  d);
    1114                 :            : }
    1115                 :            : 
    1116                 :            : /* p > 2 */
    1117                 :            : static GEN
    1118                 :          7 : FpX_is_irred_2(GEN f, GEN p, long d)
    1119                 :            : {
    1120      [ -  -  + ]:          7 :   switch(d)
    1121                 :            :   {
    1122                 :            :     case -1:
    1123                 :          0 :     case 0: return NULL;
    1124                 :          0 :     case 1: return gen_1;
    1125                 :            :   }
    1126         [ -  + ]:          7 :   return FpX_quad_factortype(f, p) == -1? gen_1: NULL;
    1127                 :            : }
    1128                 :            : /* p > 2 */
    1129                 :            : static GEN
    1130                 :         14 : FpX_degfact_2(GEN f, GEN p, long d)
    1131                 :            : {
    1132   [ -  -  -  + ]:         14 :   switch(d)
    1133                 :            :   {
    1134                 :          0 :     case -1:retmkvec2(mkvecsmall(-1),mkvecsmall(1));
    1135                 :          0 :     case 0: return trivial_fact();
    1136                 :          0 :     case 1: retmkvec2(mkvecsmall(1), mkvecsmall(1));
    1137                 :            :   }
    1138      [ +  +  - ]:         14 :   switch(FpX_quad_factortype(f, p)) {
    1139                 :          7 :     case  1: retmkvec2(mkvecsmall2(1,1), mkvecsmall2(1,1));
    1140                 :          7 :     case -1: retmkvec2(mkvecsmall(2), mkvecsmall(1));
    1141                 :         14 :     default: retmkvec2(mkvecsmall(1), mkvecsmall(2));
    1142                 :            :   }
    1143                 :            : }
    1144                 :            : 
    1145                 :            : GEN
    1146                 :         63 : prime_fact(GEN x) { retmkmat2(mkcolcopy(x), mkcol(gen_1)); }
    1147                 :            : GEN
    1148                 :        742 : trivial_fact(void) { retmkmat2(cgetg(1,t_COL), cgetg(1,t_COL)); }
    1149                 :            : 
    1150                 :            : /* Mod(0,p) * x, where x is f's main variable */
    1151                 :            : static GEN
    1152                 :         14 : Mod0pX(GEN f, GEN p)
    1153                 :         14 : { return scalarpol(mkintmod(gen_0, p), varn(f)); }
    1154                 :            : static GEN
    1155                 :         14 : zero_fact_intmod(GEN f, GEN p) { return prime_fact(Mod0pX(f,p)); }
    1156                 :            : 
    1157                 :            : /* not gerepile safe */
    1158                 :            : static GEN
    1159                 :         67 : FpX_factor_2(GEN f, GEN p, long d)
    1160                 :            : {
    1161                 :            :   GEN r, s, R, S;
    1162                 :            :   long v;
    1163                 :            :   int sgn;
    1164   [ -  +  +  + ]:         67 :   switch(d)
    1165                 :            :   {
    1166                 :          0 :     case -1: retmkvec2(mkcol(pol_0(varn(f))), mkvecsmall(1));
    1167                 :          2 :     case  0: retmkvec2(cgetg(1,t_COL), cgetg(1,t_VECSMALL));
    1168                 :          3 :     case  1: retmkvec2(mkcol(f), mkvecsmall(1));
    1169                 :            :   }
    1170                 :         62 :   r = FpX_quad_root(f, p, 1);
    1171         [ +  + ]:         62 :   if (!r) return mkvec2(mkcol(f), mkvecsmall(1));
    1172                 :         53 :   v = varn(f);
    1173                 :         53 :   s = FpX_otherroot(f, r, p);
    1174         [ +  - ]:         53 :   if (signe(r)) r = subii(p, r);
    1175         [ +  - ]:         53 :   if (signe(s)) s = subii(p, s);
    1176         [ +  + ]:         53 :   sgn = cmpii(s, r); if (sgn < 0) swap(s,r);
    1177                 :         53 :   R = deg1pol_shallow(gen_1, r, v);
    1178         [ +  + ]:         53 :   if (!sgn) return mkvec2(mkcol(R), mkvecsmall(2));
    1179                 :         46 :   S = deg1pol_shallow(gen_1, s, v);
    1180                 :         67 :   return mkvec2(mkcol2(R,S), mkvecsmall2(1,1));
    1181                 :            : }
    1182                 :            : static GEN
    1183                 :         88 : FpX_factor_deg2(GEN f, GEN p, long d, long flag)
    1184                 :            : {
    1185      [ +  +  + ]:         88 :   switch(flag) {
    1186                 :          7 :     case 2: return FpX_is_irred_2(f, p, d);
    1187                 :         14 :     case 1: return FpX_degfact_2(f, p, d);
    1188                 :         88 :     default: return FpX_factor_2(f, p, d);
    1189                 :            :   }
    1190                 :            : }
    1191                 :            : 
    1192                 :            : static int
    1193                 :      26201 : F2x_quad_factortype(GEN x)
    1194         [ +  + ]:      26201 : { return x[2] == 7 ? -1: x[2] == 6 ? 1 :0; }
    1195                 :            : 
    1196                 :            : static GEN
    1197                 :          7 : F2x_is_irred_2(GEN f, long d)
    1198 [ +  - ][ +  - ]:          7 : { return d == 1 || (d==2 && F2x_quad_factortype(f) == -1)? gen_1: NULL; }
                 [ +  - ]
    1199                 :            : 
    1200                 :            : static GEN
    1201                 :        707 : F2x_degfact_2(GEN f, long d)
    1202                 :            : {
    1203         [ -  + ]:        707 :   if (!d) return trivial_fact();
    1204         [ -  + ]:        707 :   if (d == 1) return mkvec2(mkvecsmall(1), mkvecsmall(1));
    1205      [ +  +  + ]:        707 :   switch(F2x_quad_factortype(f)) {
    1206                 :        133 :     case 1: return mkvec2(mkvecsmall2(1,1), mkvecsmall2(1,1));
    1207                 :        154 :     case -1:return mkvec2(mkvecsmall(2), mkvecsmall(1));
    1208                 :        707 :     default: return mkvec2(mkvecsmall(1), mkvecsmall(2));
    1209                 :            :   }
    1210                 :            : }
    1211                 :            : 
    1212                 :            : static GEN
    1213                 :      33698 : F2x_factor_2(GEN f, long d)
    1214                 :            : {
    1215                 :      33698 :   long v = f[1];
    1216         [ -  + ]:      33698 :   if (d < 0) pari_err(e_ROOTS0,"Flx_factor_2");
    1217         [ +  + ]:      33698 :   if (!d) return mkvec2(cgetg(1,t_COL), cgetg(1,t_VECSMALL));
    1218         [ +  + ]:      26012 :   if (d == 1) return mkvec2(mkcol(f), mkvecsmall(1));
    1219      [ +  +  + ]:      18186 :   switch(F2x_quad_factortype(f))
    1220                 :            :   {
    1221                 :       3115 :   case -1: return mkvec2(mkcol(f), mkvecsmall(1));
    1222                 :      13342 :   case 0:  return mkvec2(mkcol(mkvecsmall2(v,2+F2x_coeff(f,0))), mkvecsmall(2));
    1223                 :      33698 :   default: return mkvec2(mkcol2(mkvecsmall2(v,2),mkvecsmall2(v,3)), mkvecsmall2(1,1));
    1224                 :            :   }
    1225                 :            : }
    1226                 :            : static GEN
    1227                 :      34412 : F2x_factor_deg2(GEN f, long d, long flag)
    1228                 :            : {
    1229      [ +  +  + ]:      34412 :   switch(flag) {
    1230                 :          7 :     case 2: return F2x_is_irred_2(f, d);
    1231                 :        707 :     case 1: return F2x_degfact_2(f, d);
    1232                 :      34412 :     default: return F2x_factor_2(f, d);
    1233                 :            :   }
    1234                 :            : }
    1235                 :            : 
    1236                 :            : static void
    1237                 :         19 : split_squares(struct split_t *S, GEN g, ulong p)
    1238                 :            : {
    1239                 :         19 :   ulong q = p >> 1;
    1240                 :         19 :   GEN a = Flx_mod_Xnm1(g, q, p); /* mod x^(p-1)/2 - 1 */
    1241         [ +  + ]:         19 :   if (degpol(a) < 0)
    1242                 :            :   {
    1243                 :            :     ulong i;
    1244                 :          6 :     split_add_done(S, (GEN)1);
    1245         [ +  + ]:         18 :     for (i = 2; i <= q; i++) split_add_done(S, (GEN)Fl_sqr(i,p));
    1246                 :            :   } else {
    1247                 :         13 :     (void)Flx_valrem(a, &a);
    1248         [ +  - ]:         13 :     if (degpol(a))
    1249                 :            :     {
    1250                 :         13 :       a = Flx_gcd(a, Flx_Xnm1(g[1], q, p), p);
    1251         [ +  - ]:         13 :       if (degpol(a)) split_add(S, Flx_normalize(a, p));
    1252                 :            :     }
    1253                 :            :   }
    1254                 :         19 : }
    1255                 :            : static void
    1256                 :         19 : split_nonsquares(struct split_t *S, GEN g, ulong p)
    1257                 :            : {
    1258                 :         19 :   ulong q = p >> 1;
    1259                 :         19 :   GEN a = Flx_mod_Xn1(g, q, p); /* mod x^(p-1)/2 + 1 */
    1260         [ +  + ]:         19 :   if (degpol(a) < 0)
    1261                 :            :   {
    1262                 :          6 :     ulong i, z = Fl_nonsquare(p);
    1263                 :          6 :     split_add_done(S, (GEN)z);
    1264         [ +  + ]:         18 :     for (i = 2; i <= q; i++) split_add_done(S, (GEN)Fl_mul(z, Fl_sqr(i,p), p));
    1265                 :            :   } else {
    1266                 :         13 :     (void)Flx_valrem(a, &a);
    1267         [ +  - ]:         13 :     if (degpol(a))
    1268                 :            :     {
    1269                 :         13 :       a = Flx_gcd(a, Flx_Xn1(g[1], q, p), p);
    1270         [ +  - ]:         13 :       if (degpol(a)) split_add(S, Flx_normalize(a, p));
    1271                 :            :     }
    1272                 :            :   }
    1273                 :         19 : }
    1274                 :            : /* p > 2. f monic Flx, f(0) != 0. Add to split_t structs coprime factors
    1275                 :            :  * of g = \prod_{f(a) = 0} (X - a). Return 0 when f(x) = 0 for all x in Fp* */
    1276                 :            : static int
    1277                 :     611252 : split_Flx_cut_out_roots(struct split_t *S, GEN f, ulong p)
    1278                 :            : {
    1279                 :     611252 :   GEN a, g = Flx_mod_Xnm1(f, p-1, p); /* f mod x^(p-1) - 1 */
    1280                 :     611249 :   long d = degpol(g);
    1281         [ +  + ]:     611246 :   if (d < 0) return 0;
    1282         [ -  + ]:     611211 :   if (g != f) { (void)Flx_valrem(g, &g); d = degpol(g); } /*kill powers of x*/
    1283         [ +  + ]:     611209 :   if (!d) return 1;
    1284         [ +  + ]:     595676 :   if (p <= 1.4 * (ulong)d) {
    1285                 :            :     /* small p; split further using x^((p-1)/2) +/- 1.
    1286                 :            :      * 30% degree drop makes the extra gcd worth it. */
    1287                 :         19 :     split_squares(S, g, p);
    1288                 :         19 :     split_nonsquares(S, g, p);
    1289                 :            :   } else { /* large p; use x^(p-1) - 1 directly */
    1290                 :     595657 :     a = Flxq_powu(polx_Flx(f[1]), p-1, g,p);
    1291         [ -  + ]:     595667 :     if (lg(a) < 3) pari_err_PRIME("rootmod",utoipos(p));
    1292                 :     595667 :     a = Flx_Fl_add(a, p-1, p); /* a = x^(p-1) - 1 mod g */
    1293                 :     595625 :     g = Flx_gcd(g,a, p);
    1294         [ +  - ]:     595646 :     if (degpol(g)) split_add(S, Flx_normalize(g,p));
    1295                 :            :   }
    1296                 :     611258 :   return 1;
    1297                 :            : }
    1298                 :            : 
    1299                 :            : /* by splitting, assume p > 2 prime, deg(f) > 0, and f monic */
    1300                 :            : static GEN
    1301                 :    5646829 : Flx_roots_i(GEN f, ulong p)
    1302                 :            : {
    1303                 :            :   GEN pol, g;
    1304                 :    5646829 :   long v = Flx_valrem(f, &g);
    1305                 :            :   ulong q;
    1306                 :            :   struct split_t S;
    1307                 :            : 
    1308                 :            :   /* optimization: test for small degree first */
    1309      [ +  +  + ]:    5646407 :   switch(degpol(g))
    1310                 :            :   {
    1311                 :            :     case 1: {
    1312                 :      23450 :       ulong r = p - g[2];
    1313         [ +  + ]:      23450 :       return v? mkvecsmall2(0, r): mkvecsmall(r);
    1314                 :            :     }
    1315                 :            :     case 2: {
    1316                 :    5011581 :       ulong r = Flx_quad_root(g, p, 1), s;
    1317 [ +  + ][ +  + ]:    5006966 :       if (r == p) return v? mkvecsmall(0): cgetg(1,t_VECSMALL);
    1318                 :    5006944 :       s = Flx_otherroot(g,r, p);
    1319         [ +  + ]:    5010875 :       if (r < s)
    1320         [ +  + ]:    1252115 :         return v? mkvecsmall3(0, r, s): mkvecsmall2(r, s);
    1321         [ +  + ]:    3758760 :       else if (r > s)
    1322         [ +  + ]:    3758697 :         return v? mkvecsmall3(0, s, r): mkvecsmall2(s, r);
    1323                 :            :       else
    1324         [ -  + ]:         63 :         return v? mkvecsmall2(0, s): mkvecsmall(s);
    1325                 :            :     }
    1326                 :            :   }
    1327                 :     611264 :   q = p >> 1;
    1328                 :     611264 :   split_init(&S, lg(f)-1);
    1329                 :     611253 :   settyp(S.done, t_VECSMALL);
    1330         [ +  + ]:     611253 :   if (v) split_add_done(&S, (GEN)0);
    1331         [ +  + ]:     611253 :   if (! split_Flx_cut_out_roots(&S, g, p))
    1332                 :         35 :     return all_roots_mod_p(p, lg(S.done) == 1);
    1333                 :     611220 :   pol = polx_Flx(f[1]);
    1334                 :     611222 :   for (pol[2]=1; ; pol[2]++)
    1335                 :            :   {
    1336                 :    1296109 :     long j, l = lg(S.todo);
    1337         [ +  + ]:    1296109 :     if (l == 1) { vecsmall_sort(S.done); return S.done; }
    1338 [ -  + ][ #  # ]:     684908 :     if (pol[2] == 100 && !uisprime(p)) pari_err_PRIME("polrootsmod",utoipos(p));
    1339         [ +  + ]:    1452440 :     for (j = 1; j < l; j++)
    1340                 :            :     {
    1341                 :     767553 :       GEN c = gel(S.todo,j);
    1342      [ +  +  + ]:     767553 :       switch(degpol(c))
    1343                 :            :       {
    1344                 :            :         case 1:
    1345                 :     590820 :           split_moveto_done(&S, j, (GEN)(p - c[2]));
    1346                 :     590812 :           j--; l--; break;
    1347                 :            :         case 2: {
    1348                 :      79813 :           ulong r = Flx_quad_root(c, p, 0), s = Flx_otherroot(c,r, p);
    1349                 :      79815 :           split_done(&S, j, (GEN)r, (GEN)s);
    1350                 :      79814 :           j--; l--; break;
    1351                 :            :         }
    1352                 :            :         default: {
    1353                 :      96921 :           GEN b = Flx_Fl_add(Flxq_powu(pol,q, c,p), p-1, p); /* pol^(p-1)/2 */
    1354                 :            :           long db;
    1355                 :      96921 :           b = Flx_gcd(c,b, p); db = degpol(b);
    1356 [ +  + ][ +  + ]:      96922 :           if (db && db < degpol(c))
    1357                 :            :           {
    1358                 :      74954 :             b = Flx_normalize(b, p);
    1359                 :      74954 :             c = Flx_div(c,b, p);
    1360                 :      74952 :             split_todo(&S, j, b, c);
    1361                 :            :           }
    1362                 :            :         }
    1363                 :            :       }
    1364                 :            :     }
    1365                 :    6324747 :   }
    1366                 :            : }
    1367                 :            : 
    1368                 :            : GEN
    1369                 :    5596493 : Flx_roots(GEN f, ulong p)
    1370                 :            : {
    1371                 :    5596493 :   pari_sp av = avma;
    1372      [ -  +  + ]:    5596493 :   switch(lg(f))
    1373                 :            :   {
    1374                 :          0 :     case 2: pari_err_ROOTS0("Flx_roots");
    1375                 :       1958 :     case 3: avma = av; return cgetg(1, t_VECSMALL);
    1376                 :            :   }
    1377         [ -  + ]:    5594535 :   if (p == 2) return Flx_root_mod_2(f);
    1378                 :    5594535 :   return gerepileuptoleaf(av, Flx_roots_i(Flx_normalize(f, p), p));
    1379                 :            : }
    1380                 :            : 
    1381                 :            : /* assume x reduced mod p, monic. */
    1382                 :            : static int
    1383                 :      72765 : Flx_quad_factortype(GEN x, ulong p)
    1384                 :            : {
    1385                 :      72765 :   ulong b = x[3], c = x[2];
    1386                 :      72765 :   return krouu(Fl_disc_bc(b, c, p), p);
    1387                 :            : }
    1388                 :            : static GEN
    1389                 :          0 : Flx_is_irred_2(GEN f, ulong p, long d)
    1390                 :            : {
    1391         [ #  # ]:          0 :   if (!d) return NULL;
    1392         [ #  # ]:          0 :   if (d == 1) return gen_1;
    1393         [ #  # ]:          0 :   return Flx_quad_factortype(f, p) == -1? gen_1: NULL;
    1394                 :            : }
    1395                 :            : static GEN
    1396                 :      72765 : Flx_degfact_2(GEN f, ulong p, long d)
    1397                 :            : {
    1398         [ -  + ]:      72765 :   if (!d) return trivial_fact();
    1399         [ -  + ]:      72765 :   if (d == 1) return mkvec2(mkvecsmall(1), mkvecsmall(1));
    1400      [ +  +  + ]:      72765 :   switch(Flx_quad_factortype(f, p)) {
    1401                 :      34013 :     case 1: return mkvec2(mkvecsmall2(1,1), mkvecsmall2(1,1));
    1402                 :      37849 :     case -1:return mkvec2(mkvecsmall(2), mkvecsmall(1));
    1403                 :      72765 :     default: return mkvec2(mkvecsmall(1), mkvecsmall(2));
    1404                 :            :   }
    1405                 :            : }
    1406                 :            : /* p > 2 */
    1407                 :            : static GEN
    1408                 :     246046 : Flx_factor_2(GEN f, ulong p, long d)
    1409                 :            : {
    1410                 :            :   ulong r, s;
    1411                 :            :   GEN R,S;
    1412                 :     246046 :   long v = f[1];
    1413         [ -  + ]:     246046 :   if (d < 0) pari_err(e_ROOTS0,"Flx_factor_2");
    1414         [ +  + ]:     246046 :   if (!d) return mkvec2(cgetg(1,t_COL), cgetg(1,t_VECSMALL));
    1415         [ +  + ]:     232216 :   if (d == 1) return mkvec2(mkcol(f), mkvecsmall(1));
    1416                 :     162203 :   r = Flx_quad_root(f, p, 1);
    1417         [ +  + ]:     162203 :   if (r==p) return mkvec2(mkcol(f), mkvecsmall(1));
    1418                 :     103391 :   s = Flx_otherroot(f, r, p);
    1419                 :     103391 :   r = Fl_neg(r, p);
    1420                 :     103391 :   s = Fl_neg(s, p);
    1421         [ +  + ]:     103391 :   if (s < r) lswap(s,r);
    1422                 :     103391 :   R = mkvecsmall3(v,r,1);
    1423         [ +  + ]:     103391 :   if (s == r) return mkvec2(mkcol(R), mkvecsmall(2));
    1424                 :      89174 :   S = mkvecsmall3(v,s,1);
    1425                 :     246046 :   return mkvec2(mkcol2(R,S), mkvecsmall2(1,1));
    1426                 :            : }
    1427                 :            : static GEN
    1428                 :     318811 : Flx_factor_deg2(GEN f, ulong p, long d, long flag)
    1429                 :            : {
    1430      [ -  +  + ]:     318811 :   switch(flag) {
    1431                 :          0 :     case 2: return Flx_is_irred_2(f, p, d);
    1432                 :      72765 :     case 1: return Flx_degfact_2(f, p, d);
    1433                 :     318811 :     default: return Flx_factor_2(f, p, d);
    1434                 :            :   }
    1435                 :            : }
    1436                 :            : 
    1437                 :            : static GEN
    1438                 :      11025 : F2x_factcantor_i(GEN f, long flag)
    1439                 :            : {
    1440                 :      11025 :   long j, e, nbfact, d = F2x_degree(f);
    1441                 :            :   ulong k;
    1442                 :            :   GEN X, E, f2, g, g1, u, v, y, t;
    1443                 :            : 
    1444         [ +  + ]:      11025 :   if (d <= 2) return F2x_factor_deg2(f, d, flag);
    1445                 :            :   /* to hold factors and exponents */
    1446         [ +  + ]:      10227 :   t = flag ? cgetg(d+1,t_VECSMALL): cgetg(d+1,t_VEC);
    1447                 :      10227 :   E = cgetg(d+1, t_VECSMALL);
    1448                 :      10227 :   X = polx_F2x(f[1]);
    1449                 :      10227 :   e = nbfact = 1;
    1450                 :            :   for(;;)
    1451                 :            :   {
    1452                 :      13811 :     f2 = F2x_gcd(f,F2x_deriv(f));
    1453 [ +  + ][ +  + ]:      13811 :     if (flag == 2 && F2x_degree(f2) > 0) return NULL;
    1454                 :      13769 :     g1 = F2x_div(f,f2);
    1455                 :      13769 :     k = 0;
    1456         [ +  + ]:      27510 :     while (F2x_degree(g1)>0)
    1457                 :            :     {
    1458                 :            :       pari_sp av;
    1459                 :            :       long du, dg, dg1;
    1460         [ +  + ]:      13832 :       k++; if (k%2==0) { k++; f2 = F2x_div(f2,g1); }
    1461                 :      13832 :       u = g1; g1 = F2x_gcd(f2,g1);
    1462                 :      13832 :       du = F2x_degree(u);
    1463                 :      13832 :       dg1 = F2x_degree(g1);
    1464         [ +  + ]:      13832 :       if (dg1>0)
    1465                 :            :       {
    1466                 :        938 :         f2= F2x_div(f2,g1);
    1467         [ +  + ]:        938 :         if (du == dg1) continue;
    1468                 :        553 :         u = F2x_div( u,g1);
    1469                 :        553 :         du -= dg1;
    1470                 :            :       }
    1471                 :            :       /* here u is square-free (product of irred. of multiplicity e * k) */
    1472                 :      13447 :       v = X;
    1473                 :      13447 :       av = avma;
    1474         [ +  + ]:      70217 :       for (d=1; d <= du>>1; d++)
    1475                 :            :       {
    1476                 :      56861 :         v = F2xq_sqr(v, u);
    1477                 :      56861 :         g = F2x_gcd(F2x_add(v, X), u);
    1478                 :      56861 :         dg = F2x_degree(g);
    1479         [ +  + ]:      56861 :         if (dg <= 0) {avma = (pari_sp)v; v = gerepileuptoleaf(av,v); continue;}
    1480                 :            :         /* g is a product of irred. pols, all of which have degree d */
    1481                 :      16394 :         j = nbfact+dg/d;
    1482         [ +  + ]:      16394 :         if (flag)
    1483                 :            :         {
    1484         [ +  + ]:        525 :           if (flag == 2) return NULL;
    1485         [ +  + ]:        987 :           for ( ; nbfact<j; nbfact++) { t[nbfact]=d; E[nbfact]=e*k; }
    1486                 :            :         }
    1487                 :            :         else
    1488                 :            :         {
    1489                 :      15869 :           gel(t,nbfact) = g;
    1490                 :      15869 :           F2x_split(2,&gel(t,nbfact),d);
    1491         [ +  + ]:      33957 :           for (; nbfact<j; nbfact++) E[nbfact]=e*k;
    1492                 :            :         }
    1493                 :      16303 :         du -= dg;
    1494                 :      16303 :         u = F2x_div(u,g);
    1495                 :      16303 :         v = F2x_rem(v,u);
    1496                 :      16303 :         av = avma;
    1497                 :            :       }
    1498         [ +  + ]:      13356 :       if (du)
    1499                 :            :       {
    1500         [ +  + ]:      12054 :         if (flag) t[nbfact] = du;
    1501                 :      10479 :         else  gel(t,nbfact) = u;
    1502                 :      12054 :         E[nbfact++]=e*k;
    1503                 :            :       }
    1504                 :            :     }
    1505         [ +  + ]:      13678 :     if (F2x_degree(f2)==0) break;
    1506                 :       3584 :     e <<=1; f = F2x_sqrt(f2);
    1507                 :       3584 :   }
    1508         [ +  + ]:      10094 :   if (flag == 2) return gen_1; /* irreducible */
    1509                 :      10087 :   setlg(t, nbfact);
    1510                 :      10087 :   setlg(E, nbfact); y = mkvec2(t, E);
    1511                 :      11025 :   return flag ? sort_factor(y, (void*)cmpGuGu, cmp_nodata)
    1512         [ +  + ]:      10087 :               : sort_factor_pol(y, cmpGuGu);
    1513                 :            : }
    1514                 :            : GEN
    1515                 :       7504 : F2x_factcantor(GEN f, long flag)
    1516                 :            : {
    1517                 :       7504 :   pari_sp av = avma;
    1518                 :       7504 :   GEN z = F2x_factcantor_i(f, flag);
    1519         [ -  + ]:       7504 :   if (flag == 2) { avma = av; return z; }
    1520                 :       7504 :   return gerepilecopy(av, z);
    1521                 :            : }
    1522                 :            : 
    1523                 :            : int
    1524                 :        140 : F2x_is_irred(GEN f) { return !!F2x_factcantor_i(f,2); }
    1525                 :            : 
    1526                 :            : void
    1527                 :       1015 : F2xV_to_FlxV_inplace(GEN v)
    1528                 :            : {
    1529                 :            :   long i;
    1530         [ +  + ]:       2905 :   for(i=1;i<lg(v);i++) gel(v,i)= F2x_to_Flx(gel(v,i));
    1531                 :       1015 : }
    1532                 :            : void
    1533                 :     458186 : FlxV_to_ZXV_inplace(GEN v)
    1534                 :            : {
    1535                 :            :   long i;
    1536         [ +  + ]:    1226027 :   for(i=1;i<lg(v);i++) gel(v,i)= Flx_to_ZX(gel(v,i));
    1537                 :     458186 : }
    1538                 :            : void
    1539                 :      79259 : F2xV_to_ZXV_inplace(GEN v)
    1540                 :            : {
    1541                 :            :   long i;
    1542         [ +  + ]:     165985 :   for(i=1;i<lg(v);i++) gel(v,i)= F2x_to_ZX(gel(v,i));
    1543                 :      79259 : }
    1544                 :            : 
    1545                 :            : /* Adapted from Shoup NTL */
    1546                 :            : static GEN
    1547                 :     347161 : Flx_factor_squarefree(GEN f, ulong p)
    1548                 :            : {
    1549                 :     347161 :   pari_sp av = avma;
    1550                 :            :   GEN r, t, v, tv;
    1551                 :     347161 :   long q, n = degpol(f);
    1552                 :     347161 :   GEN u = const_vec(n+1, pol1_Flx(f[1]));
    1553                 :     347161 :   for(q = 1;;q *= p)
    1554                 :            :   {
    1555                 :     347489 :     r = Flx_gcd(f, Flx_deriv(f, p), p);
    1556                 :     347489 :     t = Flx_div(f, r, p);
    1557         [ +  + ]:     347489 :     if (degpol(t) > 0)
    1558                 :            :     {
    1559                 :            :       long j;
    1560                 :     347307 :       for(j = 1;;j++)
    1561                 :            :       {
    1562                 :     353145 :         v = Flx_gcd(r, t, p);
    1563                 :     353145 :         tv = Flx_div(t, v, p);
    1564         [ +  + ]:     353145 :         if (degpol(tv) > 0)
    1565                 :     351004 :           gel(u, j*q) = tv;
    1566         [ +  + ]:     353145 :         if (degpol(v) <= 0) break;
    1567                 :       5838 :         r = Flx_div(r, v, p);
    1568                 :       5838 :         t = v;
    1569                 :       5838 :       }
    1570         [ +  + ]:     347307 :       if (degpol(r) == 0) break;
    1571                 :            :     }
    1572                 :        328 :     f = Flx_deflate(r, p);
    1573                 :        328 :   }
    1574                 :     347161 :   return gerepilecopy(av, u);
    1575                 :            : }
    1576                 :            : 
    1577                 :            : /* See <http://www.shoup.net/papers/factorimpl.pdf> */
    1578                 :            : static GEN
    1579                 :     456799 : Flx_ddf(GEN T, GEN XP, ulong p)
    1580                 :            : {
    1581                 :     456799 :   pari_sp av = avma;
    1582                 :            :   GEN b, g, h, F, f, Tr, xq;
    1583                 :            :   long i, j, n, v, bo, ro;
    1584                 :            :   long B, l, m;
    1585                 :            :   pari_timer ti;
    1586                 :     456799 :   n = get_Flx_degree(T); v = get_Flx_var(T);
    1587         [ -  + ]:     456799 :   if (n == 0) return cgetg(1, t_VEC);
    1588         [ +  + ]:     456799 :   if (n == 1) return mkvec(get_Flx_mod(T));
    1589                 :     449818 :   B = n/2;
    1590                 :     449818 :   l = usqrt(B);
    1591                 :     449818 :   m = (B+l-1)/l;
    1592                 :     449818 :   T = Flx_get_red(T, p);
    1593                 :     449818 :   b = cgetg(l+2, t_VEC);
    1594                 :     449818 :   gel(b, 1) = polx_Flx(v);
    1595                 :     449818 :   gel(b, 2) = XP;
    1596                 :     449818 :   bo = brent_kung_optpow(n, l-1, 1);
    1597                 :     449818 :   ro = (bo-1) + (l-1)*((n-1)/bo);
    1598         [ -  + ]:     449818 :   if (DEBUGLEVEL>=7) timer_start(&ti);
    1599         [ +  + ]:     449818 :   if (expu(p) <= ro)
    1600         [ +  + ]:     177477 :     for (i = 3; i <= l+1; i++)
    1601                 :     109287 :       gel(b, i) = Flxq_powu(gel(b, i-1), p, T, p);
    1602                 :            :   else
    1603                 :            :   {
    1604                 :     381628 :     xq = Flxq_powers(gel(b, 2), bo,  T, p);
    1605         [ -  + ]:     381628 :     if (DEBUGLEVEL>=7) timer_printf(&ti,"Flx_ddf: xq baby");
    1606         [ +  + ]:     421969 :     for (i = 3; i <= l+1; i++)
    1607                 :      40341 :       gel(b, i) = Flx_FlxqV_eval(gel(b, i-1), xq, T, p);
    1608                 :            :   }
    1609         [ -  + ]:     449818 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"Flx_ddf: baby");
    1610                 :     449818 :   xq = Flxq_powers(gel(b, l+1), brent_kung_optpow(n, m-1, 1),  T, p);
    1611         [ -  + ]:     449818 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"Flx_ddf: xq giant");
    1612                 :     449818 :   g = cgetg(m+1, t_VEC);
    1613                 :     449818 :   gel(g, 1) = gel(xq, 2);
    1614         [ +  + ]:     958301 :   for(i = 2; i <= m; i++)
    1615                 :     508483 :     gel(g, i) = Flx_FlxqV_eval(gel(g, i-1), xq, T, p);
    1616         [ -  + ]:     449818 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"Flx_ddf: giant");
    1617                 :     449818 :   h = cgetg(m+1, t_VEC);
    1618         [ +  + ]:    1408119 :   for (j = 1; j <= m; j++)
    1619                 :            :   {
    1620                 :     958301 :     pari_sp av = avma;
    1621                 :     958301 :     GEN gj = gel(g, j);
    1622                 :     958301 :     GEN e = Flx_sub(gj, gel(b, 1), p);
    1623         [ +  + ]:    1540324 :     for (i = 2; i <= l; i++)
    1624                 :     582023 :       e = Flxq_mul(e, Flx_sub(gj, gel(b, i), p), T, p);
    1625                 :     958301 :     gel(h, j) = gerepileupto(av, e);
    1626                 :            :   }
    1627         [ -  + ]:     449818 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"Flx_ddf: diff");
    1628                 :     449818 :   Tr = get_Flx_mod(T);
    1629                 :     449818 :   F = cgetg(m+1, t_VEC);
    1630         [ +  + ]:    1408119 :   for (j = 1; j <= m; j++)
    1631                 :            :   {
    1632                 :     958301 :     gel(F, j) = Flx_gcd(Tr, gel(h, j), p);
    1633                 :     958301 :     Tr = Flx_div(Tr, gel(F,j), p);
    1634                 :            :   }
    1635         [ -  + ]:     449818 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"Flx_ddf: F");
    1636                 :     449818 :   f = const_vec(n, pol1_Flx(v));
    1637         [ +  + ]:    1408119 :   for (j = 1; j <= m; j++)
    1638                 :            :   {
    1639                 :     958301 :     GEN e = gel(F, j);
    1640         [ +  - ]:    1063636 :     for (i=l-1; i >= 0; i--)
    1641                 :            :     {
    1642                 :    1063636 :       GEN u = Flx_gcd(e, Flx_sub(gel(g, j), gel(b, i+1), p), p);
    1643         [ +  + ]:    1063636 :       if (degpol(u))
    1644                 :            :       {
    1645                 :     405946 :         gel(f, l*j-i) = u;
    1646                 :     405946 :         e = Flx_div(e, u, p);
    1647                 :            :       }
    1648         [ +  + ]:    1063636 :       if (!degpol(e)) break;
    1649                 :            :     }
    1650                 :            :   }
    1651         [ -  + ]:     449818 :   if (DEBUGLEVEL>=7) timer_printf(&ti,"Flx_ddf: f");
    1652         [ +  + ]:     449818 :   if (degpol(Tr)) gel(f, degpol(Tr)) = Tr;
    1653                 :     456799 :   return gerepilecopy(av, f);
    1654                 :            : }
    1655                 :            : 
    1656                 :            : static void
    1657                 :      45596 : Flx_edf_simple(GEN Tp, GEN XP, long d, ulong p, GEN V, long idx)
    1658                 :            : {
    1659                 :      45596 :   long n = degpol(Tp), r = n/d;
    1660                 :            :   GEN T, f, ff;
    1661                 :            :   ulong p2;
    1662         [ +  + ]:      66341 :   if (r==1) { gel(V, idx) = Tp; return; }
    1663                 :      20745 :   p2 = p>>1;
    1664                 :      20745 :   T = Flx_get_red(Tp, p);
    1665                 :      20745 :   XP = Flx_rem(XP, T, p);
    1666                 :            :   while (1)
    1667                 :            :   {
    1668                 :      22461 :     pari_sp btop = avma;
    1669                 :            :     long i;
    1670                 :      22461 :     GEN g = random_Flx(n, Tp[1], p);
    1671                 :      22461 :     GEN t = gel(Flxq_auttrace(mkvec2(XP, g), d, T, p), 2);
    1672         [ +  + ]:      22461 :     if (lgpol(t) == 0) continue;
    1673         [ +  + ]:      45465 :     for(i=1; i<=10; i++)
    1674                 :            :     {
    1675                 :      44136 :       pari_sp btop2 = avma;
    1676                 :      44136 :       GEN R = Flxq_powu(Flx_Fl_add(t, random_Fl(p), p), p2, T, p);
    1677                 :      44136 :       f = Flx_gcd(Flx_Fl_add(R, p-1, p), Tp, p);
    1678 [ +  + ][ +  + ]:      44136 :       if (degpol(f) > 0 && degpol(f) < n) break;
    1679                 :      23391 :       avma = btop2;
    1680                 :            :     }
    1681 [ +  + ][ +  + ]:      22074 :     if (degpol(f) > 0 && degpol(f) < n) break;
    1682                 :       1329 :     avma = btop;
    1683                 :       1716 :   }
    1684                 :      20745 :   f = Flx_normalize(f, p);
    1685                 :      20745 :   ff = Flx_div(Tp, f ,p);
    1686                 :      20745 :   Flx_edf_simple(f, XP, d, p, V, idx);
    1687                 :      20745 :   Flx_edf_simple(ff, XP, d, p, V, idx+degpol(f)/d);
    1688                 :            : }
    1689                 :            : static void
    1690                 :            : Flx_edf(GEN Tp, GEN XP, long d, ulong p, GEN V, long idx);
    1691                 :            : 
    1692                 :            : static void
    1693                 :      33599 : Flx_edf_rec(GEN T, GEN XP, GEN hp, GEN t, long d, ulong p, GEN V, long idx)
    1694                 :            : {
    1695                 :            :   pari_sp av;
    1696                 :      33599 :   GEN Tp = get_Flx_mod(T);
    1697                 :      33599 :   long n = degpol(hp), vT = Tp[1];
    1698                 :            :   GEN u1, u2, f1, f2;
    1699                 :      33599 :   ulong p2 = p>>1;
    1700                 :            :   GEN R, h;
    1701                 :      33599 :   h = Flx_get_red(hp, p);
    1702                 :      33599 :   t = Flx_rem(t, T, p);
    1703                 :      33599 :   av = avma;
    1704                 :            :   do
    1705                 :            :   {
    1706                 :      56640 :     avma = av;
    1707                 :      56640 :     R = Flxq_powu(mkvecsmall3(vT, random_Fl(p), 1), p2, h, p);
    1708                 :      56640 :     u1 = Flx_gcd(Flx_Fl_add(R, p-1, p), hp, p);
    1709 [ +  + ][ +  + ]:      56640 :   } while (degpol(u1)==0 || degpol(u1)==n);
    1710                 :      33599 :   f1 = Flx_gcd(Flx_Flxq_eval(u1, t, T, p), Tp, p);
    1711                 :      33599 :   f1 = Flx_normalize(f1, p);
    1712                 :      33599 :   u2 = Flx_div(hp, u1, p);
    1713                 :      33599 :   f2 = Flx_div(Tp, f1, p);
    1714         [ +  + ]:      33599 :   if (degpol(u1)==1)
    1715                 :            :   {
    1716         [ +  + ]:      26375 :     if (degpol(f1)==d)
    1717                 :      25948 :       gel(V, idx) = f1;
    1718                 :            :     else
    1719                 :        427 :       Flx_edf(f1, XP, d, p, V, idx);
    1720                 :            :   }
    1721                 :            :   else
    1722                 :       7224 :     Flx_edf_rec(Flx_get_red(f1, p), XP, u1, t, d, p, V, idx);
    1723                 :      33599 :   idx += degpol(f1)/d;
    1724         [ +  + ]:      33599 :   if (degpol(u2)==1)
    1725                 :            :   {
    1726         [ +  + ]:      26137 :     if (degpol(f2)==d)
    1727                 :      25731 :       gel(V, idx) = f2;
    1728                 :            :     else
    1729                 :        406 :       Flx_edf(f2, XP, d, p, V, idx);
    1730                 :            :   }
    1731                 :            :   else
    1732                 :       7462 :     Flx_edf_rec(Flx_get_red(f2, p), XP, u2, t, d, p, V, idx);
    1733                 :      33599 : }
    1734                 :            : 
    1735                 :            : static void
    1736                 :      18913 : Flx_edf(GEN Tp, GEN XP, long d, ulong p, GEN V, long idx)
    1737                 :            : {
    1738                 :      18913 :   long n = degpol(Tp), r = n/d, vT = Tp[1];
    1739                 :            :   GEN T, h, t;
    1740                 :            :   pari_timer ti;
    1741         [ -  + ]:      37826 :   if (r==1) { gel(V, idx) = Tp; return; }
    1742                 :      18913 :   T = Flx_get_red(Tp, p);
    1743                 :      18913 :   XP = Flx_rem(XP, T, p);
    1744         [ -  + ]:      18913 :   if (DEBUGLEVEL>=7) timer_start(&ti);
    1745                 :            :   do
    1746                 :            :   {
    1747                 :      20761 :     GEN g = random_Flx(n, vT, p);
    1748                 :      20761 :     t = gel(Flxq_auttrace(mkvec2(XP, g), d, T, p), 2);
    1749         [ -  + ]:      20761 :     if (DEBUGLEVEL>=7) timer_printf(&ti,"Flx_edf: Flxq_auttrace");
    1750                 :      20761 :     h = Flxq_minpoly(t, T, p);
    1751         [ -  + ]:      20761 :     if (DEBUGLEVEL>=7) timer_printf(&ti,"Flx_edf: Flxq_minpoly");
    1752         [ +  + ]:      20761 :   } while (degpol(h) <= 1);
    1753                 :      18913 :   Flx_edf_rec(T, XP, h, t, d, p, V, idx);
    1754                 :            : }
    1755                 :            : 
    1756                 :            : static GEN
    1757                 :      31530 : Flx_factor_Shoup(GEN T, ulong p)
    1758                 :            : {
    1759                 :      31530 :   long i, n, s = 0;
    1760                 :            :   GEN XP, D, V;
    1761                 :      31530 :   long e = expu(p);
    1762                 :            :   pari_timer ti;
    1763                 :      31530 :   n = get_Flx_degree(T);
    1764                 :      31530 :   T = Flx_get_red(T, p);
    1765         [ -  + ]:      31530 :   if (DEBUGLEVEL>=6) timer_start(&ti);
    1766                 :      31530 :   XP = Flx_Frobenius(T, p);
    1767         [ -  + ]:      31530 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"Flx_Frobenius");
    1768                 :      31530 :   D = Flx_ddf(T, XP, p);
    1769         [ -  + ]:      31530 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"Flx_ddf");
    1770         [ +  + ]:     343042 :   for (i = 1; i <= n; i++)
    1771                 :     311512 :     s += degpol(gel(D,i))/i;
    1772                 :      31530 :   V = cgetg(s+1, t_COL);
    1773         [ +  + ]:     343042 :   for (i = 1, s = 1; i <= n; i++)
    1774                 :            :   {
    1775                 :     311512 :     GEN Di = gel(D,i);
    1776                 :     311512 :     long ni = degpol(Di), ri = ni/i;
    1777         [ +  + ]:     311512 :     if (ni == 0) continue;
    1778                 :      46834 :     Di = Flx_normalize(Di, p);
    1779         [ +  + ]:      46834 :     if (ni == i) { gel(V, s++) = Di; continue; }
    1780         [ +  + ]:      22186 :     if (ri <= e*expu(e))
    1781                 :      18080 :       Flx_edf(Di, XP, i, p, V, s);
    1782                 :            :     else
    1783                 :       4106 :       Flx_edf_simple(Di, XP, i, p, V, s);
    1784         [ -  + ]:      22186 :     if (DEBUGLEVEL>=6) timer_printf(&ti,"Flx_edf(%ld)",i);
    1785                 :      22186 :     s += ri;
    1786                 :            :   }
    1787                 :      31530 :   return V;
    1788                 :            : }
    1789                 :            : 
    1790                 :            : static GEN
    1791                 :     319474 : Flx_simplefact_Shoup(GEN T, ulong p)
    1792                 :            : {
    1793                 :     319474 :   long i, n, s = 0, j = 1, k;
    1794                 :            :   GEN XP, D, V;
    1795                 :            :   pari_timer ti;
    1796                 :     319474 :   n = get_Flx_degree(T);
    1797                 :     319474 :   T = Flx_get_red(T, p);
    1798         [ -  + ]:     319474 :   if (DEBUGLEVEL>=6) timer_start(&ti);
    1799                 :     319474 :   XP = Flx_Frobenius(T, p);
    1800         [ -  + ]:     319474 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"Flx_Frobenius");
    1801                 :     319474 :   D = Flx_ddf(T, XP, p);
    1802         [ -  + ]:     319474 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"Flx_ddf");
    1803         [ +  + ]:    1982950 :   for (i = 1; i <= n; i++)
    1804                 :    1663476 :     s += degpol(gel(D,i))/i;
    1805                 :     319474 :   V = cgetg(s+1, t_VECSMALL);
    1806         [ +  + ]:    1982950 :   for (i = 1; i <= n; i++)
    1807                 :            :   {
    1808                 :    1663476 :     long ni = degpol(gel(D,i)), ri = ni/i;
    1809         [ +  + ]:    1663476 :     if (ni == 0) continue;
    1810         [ +  + ]:    1196378 :     for (k = 1; k <= ri; k++)
    1811                 :     743177 :       V[j++] = i;
    1812                 :            :   }
    1813                 :     319474 :   return V;
    1814                 :            : }
    1815                 :            : 
    1816                 :            : static GEN
    1817                 :      28590 : Flx_factor_Cantor(GEN T, ulong p)
    1818                 :            : {
    1819                 :            :   GEN E, F, M, V;
    1820                 :            :   long i, j, s, l;
    1821                 :      28590 :   V = Flx_factor_squarefree(T, p);
    1822                 :      28590 :   l = lg(V);
    1823         [ +  + ]:     374119 :   for (s=0, i=1; i < l; i++)
    1824                 :     345529 :     s += !!degpol(gel(V,i));
    1825                 :      28590 :   F = cgetg(s+1, t_VEC);
    1826                 :      28590 :   E = cgetg(s+1, t_VEC);
    1827         [ +  + ]:     374119 :   for (i=1, j=1; i < l; i++)
    1828         [ +  + ]:     345529 :     if (degpol(gel(V,i)))
    1829                 :            :     {
    1830                 :      31530 :       GEN Fj = Flx_factor_Shoup(gel(V,i), p);
    1831                 :      31530 :       gel(F, j) = Fj;
    1832                 :      31530 :       gel(E, j) = const_vecsmall(lg(Fj)-1, i);
    1833                 :      31530 :       j++;
    1834                 :            :     }
    1835                 :      28590 :   M = mkvec2(shallowconcat1(F), shallowconcat1(E));
    1836                 :      28590 :   return sort_factor_pol(M, cmpGuGu);
    1837                 :            : }
    1838                 :            : 
    1839                 :            : static GEN
    1840                 :     318571 : Flx_simplefact_Cantor(GEN T, ulong p)
    1841                 :            : {
    1842                 :            :   GEN E, F, M, V;
    1843                 :            :   long i, j, s, l;
    1844                 :     318571 :   V = Flx_factor_squarefree(get_Flx_mod(T), p);
    1845                 :     318571 :   l = lg(V);
    1846         [ +  + ]:    2304321 :   for (s=0, i=1; i < l; i++)
    1847                 :    1985750 :     s += !!degpol(gel(V,i));
    1848                 :     318571 :   F = cgetg(s+1, t_VEC);
    1849                 :     318571 :   E = cgetg(s+1, t_VEC);
    1850         [ +  + ]:    2304321 :   for (i=1, j=1; i < l; i++)
    1851         [ +  + ]:    1985750 :     if (degpol(gel(V,i)))
    1852                 :            :     {
    1853                 :     319474 :       GEN Fj = Flx_simplefact_Shoup(gel(V,i), p);
    1854                 :     319474 :       gel(F, j) = Fj;
    1855                 :     319474 :       gel(E, j) = const_vecsmall(lg(Fj)-1, i);
    1856                 :     319474 :       j++;
    1857                 :            :     }
    1858                 :     318571 :   M = mkvec2(shallowconcat1(F), shallowconcat1(E));
    1859                 :     318571 :   return sort_factor(M, (void*)&cmpGuGu, cmp_nodata);
    1860                 :            : }
    1861                 :            : 
    1862                 :            : static int
    1863                 :        581 : Flx_isirred_Cantor(GEN Tp, ulong p)
    1864                 :            : {
    1865                 :        581 :   pari_sp av = avma;
    1866                 :            :   pari_timer ti;
    1867                 :            :   long n, d;
    1868                 :        581 :   GEN T = get_Flx_mod(Tp);
    1869                 :        581 :   GEN dT = Flx_deriv(T, p);
    1870                 :            :   GEN XP, D;
    1871         [ +  + ]:        581 :   if (degpol(Flx_gcd(T, dT, p)) != 0) { avma = av; return 0; }
    1872                 :        441 :   n = get_Flx_degree(T);
    1873                 :        441 :   T = Flx_get_red(Tp, p);
    1874         [ -  + ]:        441 :   if (DEBUGLEVEL>=6) timer_start(&ti);
    1875                 :        441 :   XP = Flx_Frobenius(T, p);
    1876         [ -  + ]:        441 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"Flx_Frobenius");
    1877                 :        441 :   D = Flx_ddf(T, XP, p);
    1878         [ -  + ]:        441 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"Flx_ddf");
    1879                 :        441 :   d = degpol(gel(D, n));
    1880                 :        581 :   avma = av; return d==n;
    1881                 :            : }
    1882                 :            : 
    1883                 :            : static GEN
    1884                 :     424527 : Flx_factcantor_i(GEN f, ulong pp, long flag)
    1885                 :            : {
    1886                 :            :   long d;
    1887         [ +  + ]:     424527 :   if (pp==2) { /*We need to handle 2 specially */
    1888                 :       3360 :     GEN F = F2x_factcantor_i(Flx_to_F2x(f),flag);
    1889         [ +  + ]:       3360 :     if (flag==0) F2xV_to_FlxV_inplace(gel(F,1));
    1890                 :       3360 :     return F;
    1891                 :            :   }
    1892                 :     421167 :   d = degpol(f);
    1893         [ +  + ]:     421167 :   if (d <= 2) return Flx_factor_deg2(f,pp,d,flag);
    1894      [ +  +  + ]:     347742 :   switch(flag)
    1895                 :            :   {
    1896                 :      28590 :     default: return Flx_factor_Cantor(f, pp);
    1897                 :     318571 :     case 1: return Flx_simplefact_Cantor(f, pp);
    1898         [ +  + ]:     424527 :     case 2: return Flx_isirred_Cantor(f, pp)? gen_1: NULL;
    1899                 :            :   }
    1900                 :            : }
    1901                 :            : 
    1902                 :            : GEN
    1903                 :       7256 : Flx_factcantor(GEN f, ulong p, long flag)
    1904                 :            : {
    1905                 :       7256 :   pari_sp av = avma;
    1906                 :       7256 :   GEN z = Flx_factcantor_i(Flx_normalize(f,p),p,flag);
    1907         [ -  + ]:       7256 :   if (flag == 2) { avma = av; return z; }
    1908                 :       7256 :   return gerepilecopy(av, z);
    1909                 :            : }
    1910                 :            : 
    1911                 :            : GEN
    1912                 :     393674 : Flx_degfact(GEN f, ulong p)
    1913                 :            : {
    1914                 :     393674 :   pari_sp av = avma;
    1915                 :     393674 :   GEN z = Flx_factcantor_i(Flx_normalize(f,p),p,1);
    1916                 :     393674 :   return gerepilecopy(av, z);
    1917                 :            : }
    1918                 :            : 
    1919                 :            : /* T must be squarefree mod p*/
    1920                 :            : GEN
    1921                 :      52399 : Flx_nbfact_by_degree(GEN T, long *nb, ulong p)
    1922                 :            : {
    1923                 :            :   GEN XP, D;
    1924                 :            :   pari_timer ti;
    1925                 :      52399 :   long i, s, n = get_Flx_degree(T);
    1926                 :      52399 :   GEN V = const_vecsmall(n, 0);
    1927                 :      52399 :   pari_sp av = avma;
    1928                 :      52399 :   T = Flx_get_red(T, p);
    1929         [ -  + ]:      52399 :   if (DEBUGLEVEL>=6) timer_start(&ti);
    1930                 :      52399 :   XP = Flx_Frobenius(T, p);
    1931         [ -  + ]:      52399 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"Flx_Frobenius");
    1932                 :      52399 :   D = Flx_ddf(T, XP, p);
    1933         [ -  + ]:      52399 :   if (DEBUGLEVEL>=6) timer_printf(&ti,"Flx_ddf");
    1934         [ +  + ]:     717628 :   for (i = 1, s = 0; i <= n; i++)
    1935                 :            :   {
    1936                 :     665229 :     V[i] = degpol(gel(D,i))/i;
    1937                 :     665229 :     s += V[i];
    1938                 :            :   }
    1939                 :      52399 :   *nb = s;
    1940                 :      52399 :   avma = av; return V;
    1941                 :            : }
    1942                 :            : 
    1943                 :            : long
    1944                 :      52955 : Flx_nbfact_Frobenius(GEN T, GEN XP, ulong p)
    1945                 :            : {
    1946                 :      52955 :   pari_sp av = avma;
    1947                 :      52955 :   GEN ddf = Flx_ddf(T, XP, p);
    1948                 :      52955 :   long l = lg(ddf), i, s=0;
    1949         [ +  + ]:     610806 :   for(i = 1; i < l; i++)
    1950                 :     557851 :     s += degpol(gel(ddf,i))/i;
    1951                 :      52955 :   avma = av; return s;
    1952                 :            : }
    1953                 :            : 
    1954                 :            : /* T must be squarefree mod p*/
    1955                 :            : long
    1956                 :      52955 : Flx_nbfact(GEN T, ulong p)
    1957                 :            : {
    1958                 :      52955 :   pari_sp av = avma;
    1959                 :      52955 :   GEN XP = Flx_Frobenius(T, p);
    1960                 :      52955 :   long n = Flx_nbfact_Frobenius(T, XP, p);
    1961                 :      52955 :   avma = av; return n;
    1962                 :            : }
    1963                 :            : 
    1964                 :            : int
    1965                 :        581 : Flx_is_irred(GEN f, ulong p) { return !!Flx_factcantor_i(f,p,2); }
    1966                 :            : 
    1967                 :            : /* factor f (FpX or Flx) mod pp.
    1968                 :            :  * flag = 1: return the degrees, not the factors
    1969                 :            :  * flag = 2: return NULL if f is not irreducible.
    1970                 :            :  * Not gerepile-safe */
    1971                 :            : static GEN
    1972                 :         77 : factcantor_i(GEN f, GEN pp, long flag)
    1973                 :            : {
    1974         [ +  + ]:         77 :   if (typ(f) == t_VECSMALL)
    1975                 :            :   { /* lgefint(pp) = 3 */
    1976                 :            :     GEN F;
    1977                 :         42 :     ulong p = pp[2];
    1978         [ +  + ]:         42 :     if (p==2) {
    1979                 :         21 :       F = F2x_factcantor_i(Flx_to_F2x(f),flag);
    1980         [ +  + ]:         21 :       if (flag==0) F2xV_to_ZXV_inplace(gel(F,1));
    1981                 :            :     } else {
    1982                 :         21 :       F = Flx_factcantor_i(f,p,flag);
    1983         [ +  + ]:         21 :       if (flag==0) FlxV_to_ZXV_inplace(gel(F,1));
    1984                 :            :     }
    1985                 :         42 :     return F;
    1986                 :            :   }
    1987                 :         77 :   return FpX_factcantor_i(f, pp, flag);
    1988                 :            : }
    1989                 :            : GEN
    1990                 :          0 : FpX_factcantor(GEN f, GEN pp, long flag)
    1991                 :            : {
    1992                 :          0 :   pari_sp av = avma;
    1993                 :            :   GEN z;
    1994                 :          0 :   ZX_factmod_init(&f,pp);
    1995                 :          0 :   z = factcantor_i(f,pp,flag);
    1996         [ #  # ]:          0 :   if (flag == 2) { avma = av; return z; }
    1997                 :          0 :   return gerepilecopy(av, z);
    1998                 :            : }
    1999                 :            : 
    2000                 :            : static GEN
    2001                 :        154 : factmod_aux(GEN f, GEN p, GEN (*Factor)(GEN,GEN,long), long flag)
    2002                 :            : {
    2003                 :        154 :   pari_sp av = avma;
    2004                 :            :   long j, nbfact;
    2005                 :            :   GEN z, y, t, E, u, v;
    2006                 :            : 
    2007                 :        154 :   factmod_init(&f, p);
    2008      [ +  +  + ]:        154 :   switch(lg(f))
    2009                 :            :   {
    2010                 :         14 :     case 3: avma = av; return trivial_fact();
    2011                 :         14 :     case 2: return gerepileupto(av, zero_fact_intmod(f, p));
    2012                 :            :   }
    2013                 :        126 :   z = Factor(f,p,flag); t = gel(z,1); E = gel(z,2);
    2014                 :        126 :   y = cgetg(3, t_MAT); nbfact = lg(t);
    2015                 :        126 :   u = cgetg(nbfact,t_COL); gel(y,1) = u;
    2016                 :        126 :   v = cgetg(nbfact,t_COL); gel(y,2) = v;
    2017         [ +  + ]:        126 :   if (flag)
    2018         [ +  + ]:         84 :     for (j=1; j<nbfact; j++)
    2019                 :            :     {
    2020                 :         56 :       gel(u,j) = utoi(uel(t,j));
    2021                 :         56 :       gel(v,j) = utoi(uel(E,j));
    2022                 :            :     }
    2023                 :            :   else
    2024         [ +  + ]:       7686 :     for (j=1; j<nbfact; j++)
    2025                 :            :     {
    2026                 :       7588 :       gel(u,j) = FpX_to_mod(gel(t,j), p);
    2027                 :       7588 :       gel(v,j) = utoi(uel(E,j));
    2028                 :            :     }
    2029                 :        154 :   return gerepileupto(av, y);
    2030                 :            : }
    2031                 :            : GEN
    2032                 :         77 : factcantor0(GEN f, GEN p, long flag)
    2033                 :         77 : { return factmod_aux(f, p, &factcantor_i, flag); }
    2034                 :            : GEN
    2035                 :         77 : factmod(GEN f, GEN p)
    2036                 :         77 : { return factmod_aux(f, p, &FpX_Berlekamp_i, 0); }
    2037                 :            : 
    2038                 :            : /* Use this function when you think f is reducible, and that there are lots of
    2039                 :            :  * factors. If you believe f has few factors, use FpX_nbfact(f,p)==1 instead */
    2040                 :            : int
    2041                 :         14 : FpX_is_irred(GEN f, GEN p) {
    2042                 :         14 :   ZX_factmod_init(&f,p);
    2043                 :         14 :   return !!factcantor_i(f,p,2);
    2044                 :            : }
    2045                 :            : GEN
    2046                 :          0 : FpX_degfact(GEN f, GEN p) {
    2047                 :          0 :   pari_sp av = avma;
    2048                 :            :   GEN z;
    2049                 :          0 :   ZX_factmod_init(&f,p);
    2050                 :          0 :   z = factcantor_i(f,p,1);
    2051                 :          0 :   return gerepilecopy(av, z);
    2052                 :            : }
    2053                 :            : GEN
    2054                 :         49 : factcantor(GEN f, GEN p) { return factcantor0(f,p,0); }
    2055                 :            : GEN
    2056                 :         28 : simplefactmod(GEN f, GEN p) { return factcantor0(f,p,1); }
    2057                 :            : 
    2058                 :            : /* set x <-- x + c*y mod p */
    2059                 :            : /* x is not required to be normalized.*/
    2060                 :            : static void
    2061                 :     603474 : Flx_addmul_inplace(GEN gx, GEN gy, ulong c, ulong p)
    2062                 :            : {
    2063                 :            :   long i, lx, ly;
    2064                 :     603474 :   ulong *x=(ulong *)gx;
    2065                 :     603474 :   ulong *y=(ulong *)gy;
    2066         [ +  + ]:    1187644 :   if (!c) return;
    2067                 :     584170 :   lx = lg(gx);
    2068                 :     584170 :   ly = lg(gy);
    2069         [ -  + ]:     584170 :   if (lx<ly) pari_err_BUG("lx<ly in Flx_addmul_inplace");
    2070         [ +  + ]:     584170 :   if (SMALL_ULONG(p))
    2071         [ +  + ]:    4080538 :     for (i=2; i<ly;  i++) x[i] = (x[i] + c*y[i]) % p;
    2072                 :            :   else
    2073         [ +  + ]:      17345 :     for (i=2; i<ly;  i++) x[i] = Fl_add(x[i], Fl_mul(c,y[i],p),p);
    2074                 :            : }
    2075                 :            : 
    2076                 :            : #define set_irred(i) { if ((i)>ir) swap(t[i],t[ir]); ir++;}
    2077                 :            : /* assume x1 != 0 */
    2078                 :            : static GEN
    2079                 :     119714 : deg1_Flx(ulong x1, ulong x0, ulong sv)
    2080                 :            : {
    2081                 :     119714 :   return mkvecsmall3(sv, x0, x1);
    2082                 :            : }
    2083                 :            : 
    2084                 :            : long
    2085                 :      44196 : F2x_split_Berlekamp(GEN *t)
    2086                 :            : {
    2087                 :      44196 :   GEN u = *t, a, b, vker;
    2088                 :      44196 :   long lb, d, i, ir, L, la, sv = u[1], du = F2x_degree(u);
    2089                 :            : 
    2090         [ +  + ]:      44196 :   if (du == 1) return 1;
    2091         [ +  + ]:      28294 :   if (du == 2)
    2092                 :            :   {
    2093         [ -  + ]:       7294 :     if (F2x_quad_factortype(u) == 1) /* 0 is a root: shouldn't occur */
    2094                 :            :     {
    2095                 :          0 :       t[0] = mkvecsmall2(sv, 2);
    2096                 :          0 :       t[1] = mkvecsmall2(sv, 3);
    2097                 :          0 :       return 2;
    2098                 :            :     }
    2099                 :       7294 :     return 1;
    2100                 :            :   }
    2101                 :            : 
    2102                 :      21000 :   vker = F2x_Berlekamp_ker(u);
    2103                 :      21000 :   lb = lgcols(vker);
    2104                 :      21000 :   d = lg(vker)-1;
    2105                 :      21000 :   ir = 0;
    2106                 :            :   /* t[i] irreducible for i < ir, still to be treated for i < L */
    2107         [ +  + ]:      26628 :   for (L=1; L<d; )
    2108                 :            :   {
    2109                 :            :     GEN pol;
    2110         [ +  + ]:       5628 :     if (d == 2)
    2111                 :       5348 :       pol = F2v_to_F2x(gel(vker,2), sv);
    2112                 :            :     else
    2113                 :            :     {
    2114                 :        280 :       GEN v = zero_zv(lb);
    2115                 :        280 :       v[1] = du;
    2116                 :        280 :       v[2] = random_Fl(2); /*Assume vker[1]=1*/
    2117         [ +  + ]:        882 :       for (i=2; i<=d; i++)
    2118         [ +  + ]:        602 :         if (random_Fl(2)) F2v_add_inplace(v, gel(vker,i));
    2119                 :        280 :       pol = F2v_to_F2x(v, sv);
    2120                 :            :     }
    2121 [ +  + ][ +  + ]:      11515 :     for (i=ir; i<L && L<d; i++)
    2122                 :            :     {
    2123                 :       5887 :       a = t[i]; la = F2x_degree(a);
    2124 [ +  + ][ +  + ]:       5887 :       if (la == 1) { set_irred(i); }
    2125         [ +  + ]:       5866 :       else if (la == 2)
    2126                 :            :       {
    2127         [ -  + ]:          7 :         if (F2x_quad_factortype(a) == 1) /* 0 is a root: shouldn't occur */
    2128                 :            :         {
    2129                 :          0 :           t[i] = mkvecsmall2(sv, 2);
    2130                 :          0 :           t[L] = mkvecsmall2(sv, 3); L++;
    2131                 :            :         }
    2132         [ -  + ]:          7 :         set_irred(i);
    2133                 :            :       }
    2134                 :            :       else
    2135                 :            :       {
    2136                 :       5859 :         pari_sp av = avma;
    2137                 :            :         long lb;
    2138                 :       5859 :         b = F2x_rem(pol, a);
    2139         [ +  + ]:       5859 :         if (F2x_degree(b) <= 0) { avma=av; continue; }
    2140                 :       5523 :         b = F2x_gcd(a,b); lb = F2x_degree(b);
    2141 [ +  - ][ +  - ]:       5523 :         if (lb && lb < la)
    2142                 :            :         {
    2143                 :       5523 :           t[L] = F2x_div(a,b);
    2144                 :       5523 :           t[i]= b; L++;
    2145                 :            :         }
    2146                 :          0 :         else avma = av;
    2147                 :            :       }
    2148                 :            :     }
    2149                 :            :   }
    2150                 :      44196 :   return d;
    2151                 :            : }
    2152                 :            : 
    2153                 :            : /* p != 2 */
    2154                 :            : long
    2155                 :     234538 : Flx_split_Berlekamp(GEN *t, ulong p)
    2156                 :            : {
    2157                 :     234538 :   GEN u = *t, a,b,vker;
    2158                 :     234538 :   long d, i, ir, L, la, lb, sv = u[1];
    2159                 :     234538 :   long l = lg(u);
    2160                 :            :   ulong po2;
    2161                 :            : 
    2162         [ -  + ]:     234538 :   if (p == 2)
    2163                 :            :   {
    2164                 :          0 :     *t = Flx_to_F2x(*t);
    2165                 :          0 :     d = F2x_split_Berlekamp(t);
    2166         [ #  # ]:          0 :     for (i = 1; i <= d; i++) t[i] = F2x_to_Flx(t[i]);
    2167                 :          0 :     return d;
    2168                 :            :   }
    2169                 :     234538 :   la = degpol(u);
    2170         [ +  + ]:     234538 :   if (la == 1) return 1;
    2171         [ +  + ]:     219097 :   if (la == 2)
    2172                 :            :   {
    2173                 :      12094 :     ulong r = Flx_quad_root(u,p,1);
    2174         [ +  + ]:      12094 :     if (r != p)
    2175                 :            :     {
    2176                 :       5460 :       t[0] = deg1_Flx(1, p - r, sv); r = Flx_otherroot(u,r,p);
    2177                 :       5460 :       t[1] = deg1_Flx(1, p - r, sv);
    2178                 :       5460 :       return 2;
    2179                 :            :     }
    2180                 :       6634 :     return 1;
    2181                 :            :   }
    2182                 :            : 
    2183                 :     207003 :   vker = Flx_Berlekamp_ker(u,p);
    2184                 :     207003 :   vker = Flm_to_FlxV(vker, sv);
    2185                 :     207003 :   d = lg(vker)-1;
    2186                 :     207003 :   po2 = p >> 1; /* (p-1) / 2 */
    2187                 :     207003 :   ir = 0;
    2188                 :            :   /* t[i] irreducible for i < ir, still to be treated for i < L */
    2189         [ +  + ]:     510276 :   for (L=1; L<d; )
    2190                 :            :   {
    2191                 :     303273 :     GEN pol = zero_zv(l-2);
    2192                 :     303273 :     pol[1] = sv;
    2193                 :     303273 :     pol[2] = random_Fl(p); /*Assume vker[1]=1*/
    2194         [ +  + ]:     906747 :     for (i=2; i<=d; i++)
    2195                 :     603474 :       Flx_addmul_inplace(pol, gel(vker,i), random_Fl(p), p);
    2196                 :     303273 :     (void)Flx_renormalize(pol,l-1);
    2197                 :            : 
    2198 [ +  + ][ +  + ]:     732083 :     for (i=ir; i<L && L<d; i++)
    2199                 :            :     {
    2200                 :     428810 :       a = t[i]; la = degpol(a);
    2201 [ +  + ][ +  + ]:     428810 :       if (la == 1) { set_irred(i); }
    2202         [ +  + ]:     386427 :       else if (la == 2)
    2203                 :            :       {
    2204                 :      66577 :         ulong r = Flx_quad_root(a,p,1);
    2205         [ +  + ]:      66577 :         if (r != p)
    2206                 :            :         {
    2207                 :      54397 :           t[i] = deg1_Flx(1, p - r, sv); r = Flx_otherroot(a,r,p);
    2208                 :      54397 :           t[L] = deg1_Flx(1, p - r, sv); L++;
    2209                 :            :         }
    2210         [ +  + ]:      66577 :         set_irred(i);
    2211                 :            :       }
    2212                 :            :       else
    2213                 :            :       {
    2214                 :     319850 :         pari_sp av = avma;
    2215                 :     319850 :         b = Flx_rem(pol, a, p);
    2216         [ +  + ]:     319850 :         if (degpol(b) <= 0) { avma=av; continue; }
    2217                 :     301477 :         b = Flx_Fl_add(Flxq_powu(b,po2, a,p), p-1, p);
    2218                 :     301477 :         b = Flx_gcd(a,b, p); lb = degpol(b);
    2219 [ +  + ][ +  + ]:     301477 :         if (lb && lb < la)
    2220                 :            :         {
    2221                 :     173946 :           b = Flx_normalize(b, p);
    2222                 :     173946 :           t[L] = Flx_div(a,b,p);
    2223                 :     173946 :           t[i]= b; L++;
    2224                 :            :         }
    2225                 :     127531 :         else avma = av;
    2226                 :            :       }
    2227                 :            :     }
    2228                 :            :   }
    2229                 :     234538 :   return d;
    2230                 :            : }
    2231                 :            : 
    2232                 :            : long
    2233                 :        636 : FpX_split_Berlekamp(GEN *t, GEN p)
    2234                 :            : {
    2235                 :        636 :   GEN u = *t, a,b,po2,vker;
    2236                 :        636 :   long d, i, ir, L, la, lb, vu = varn(u);
    2237         [ +  + ]:        636 :   if (lgefint(p) == 3)
    2238                 :            :   {
    2239                 :        574 :     ulong up = p[2];
    2240         [ -  + ]:        574 :     if (up == 2)
    2241                 :            :     {
    2242                 :          0 :       *t = ZX_to_F2x(*t);
    2243                 :          0 :       d = F2x_split_Berlekamp(t);
    2244         [ #  # ]:          0 :       for (i = 0; i < d; i++) t[i] = F2x_to_ZX(t[i]);
    2245                 :            :     }
    2246                 :            :     else
    2247                 :            :     {
    2248                 :        574 :       *t = ZX_to_Flx(*t, up);
    2249                 :        574 :       d = Flx_split_Berlekamp(t, up);
    2250         [ +  + ]:       3612 :       for (i = 0; i < d; i++) t[i] = Flx_to_ZX(t[i]);
    2251                 :            :     }
    2252                 :        574 :     return d;
    2253                 :            :   }
    2254                 :         62 :   la = degpol(u);
    2255         [ +  + ]:         62 :   if (la == 1) return 1;
    2256         [ +  + ]:         57 :   if (la == 2)
    2257                 :            :   {
    2258                 :          2 :     GEN r = FpX_quad_root(u,p,1);
    2259         [ -  + ]:          2 :     if (r)
    2260                 :            :     {
    2261                 :          0 :       t[0] = deg1pol_shallow(gen_1, subii(p,r), vu); r = FpX_otherroot(u,r,p);
    2262                 :          0 :       t[1] = deg1pol_shallow(gen_1, subii(p,r), vu);
    2263                 :          0 :       return 2;
    2264                 :            :     }
    2265                 :          2 :     return 1;
    2266                 :            :   }
    2267                 :         55 :   vker = FpX_Berlekamp_ker(u,p);
    2268                 :         55 :   vker = RgM_to_RgXV(vker,vu);
    2269                 :         55 :   d = lg(vker)-1;
    2270                 :         55 :   po2 = shifti(p, -1); /* (p-1) / 2 */
    2271                 :         55 :   ir = 0;
    2272                 :            :   /* t[i] irreducible for i < ir, still to be treated for i < L */
    2273         [ +  + ]:        103 :   for (L=1; L<d; )
    2274                 :            :   {
    2275                 :         48 :     GEN pol = scalar_ZX_shallow(randomi(p), vu);
    2276         [ +  + ]:        212 :     for (i=2; i<=d; i++)
    2277                 :        164 :       pol = ZX_add(pol, ZX_Z_mul(gel(vker,i), randomi(p)));
    2278                 :         48 :     pol = FpX_red(pol,p);
    2279 [ +  + ][ +  + ]:        154 :     for (i=ir; i<L && L<d; i++)
    2280                 :            :     {
    2281                 :        106 :       a = t[i]; la = degpol(a);
    2282 [ +  + ][ +  - ]:        106 :       if (la == 1) { set_irred(i); }
    2283         [ +  + ]:         95 :       else if (la == 2)
    2284                 :            :       {
    2285                 :         13 :         GEN r = FpX_quad_root(a,p,1);
    2286         [ +  - ]:         13 :         if (r)
    2287                 :            :         {
    2288                 :         13 :           t[i] = deg1pol_shallow(gen_1, subii(p,r), vu); r = FpX_otherroot(a,r,p);
    2289                 :         13 :           t[L] = deg1pol_shallow(gen_1, subii(p,r), vu); L++;
    2290                 :            :         }
    2291         [ +  + ]:         13 :         set_irred(i);
    2292                 :            :       }
    2293                 :            :       else
    2294                 :            :       {
    2295                 :         82 :         pari_sp av = avma;
    2296                 :         82 :         b = FpX_rem(pol, a, p);
    2297         [ +  + ]:         82 :         if (degpol(b) <= 0) { avma=av; continue; }
    2298                 :         61 :         b = FpX_Fp_sub_shallow(FpXQ_pow(b,po2, a,p), gen_1, p);
    2299                 :         61 :         b = FpX_gcd(a,b, p); lb = degpol(b);
    2300 [ +  + ][ +  + ]:         61 :         if (lb && lb < la)
    2301                 :            :         {
    2302                 :         44 :           b = FpX_normalize(b, p);
    2303                 :         44 :           t[L] = FpX_div(a,b,p);
    2304                 :         44 :           t[i]= b; L++;
    2305                 :            :         }
    2306                 :         17 :         else avma = av;
    2307                 :            :       }
    2308                 :            :     }
    2309                 :            :   }
    2310                 :        636 :   return d;
    2311                 :            : }
    2312                 :            : 
    2313                 :            : GEN
    2314                 :      32459 : FqX_deriv(GEN f, /*unused*/GEN T, GEN p) {
    2315                 :      32459 :   (void)T; return FpXX_red(RgX_deriv(f), p);
    2316                 :            : }
    2317                 :            : 
    2318                 :            : long
    2319                 :       7616 : FqX_is_squarefree(GEN P, GEN T, GEN p)
    2320                 :            : {
    2321                 :       7616 :   pari_sp av = avma;
    2322                 :       7616 :   GEN z = FqX_gcd(P, FqX_deriv(P, T, p), T, p);
    2323                 :       7616 :   avma = av;
    2324                 :       7616 :   return degpol(z)==0;
    2325                 :            : }
    2326                 :            : 
    2327                 :            : static GEN
    2328                 :      79252 : F2x_Berlekamp_i(GEN f, long flag)
    2329                 :            : {
    2330                 :      79252 :   long e, nbfact, val, d = F2x_degree(f);
    2331                 :            :   ulong k, j;
    2332                 :            :   GEN y, E, f2, g1, t;
    2333                 :            : 
    2334         [ +  + ]:      79252 :   if (d <= 2) return F2x_factor_deg2(f, d, flag);
    2335                 :            : 
    2336                 :            :   /* to hold factors and exponents */
    2337         [ -  + ]:      45638 :   t = cgetg(d+1, flag? t_VECSMALL: t_VEC);
    2338                 :      45638 :   E = cgetg(d+1,t_VECSMALL);
    2339                 :      45638 :   val = F2x_valrem(f, &f);
    2340                 :      45638 :   e = nbfact = 1;
    2341         [ +  + ]:      45638 :   if (val) {
    2342 [ -  + ][ #  # ]:       9364 :     if (flag == 2 && val > 1) return NULL;
    2343         [ -  + ]:       9364 :     if (flag == 1)
    2344                 :          0 :       t[1] = 1;
    2345                 :            :     else
    2346                 :       9364 :       gel(t,1) = polx_F2x(f[1]);
    2347                 :       9364 :     E[1] = val; nbfact++;
    2348                 :            :   }
    2349                 :            : 
    2350                 :            :   for(;;)
    2351                 :            :   {
    2352                 :      82808 :     f2 = F2x_gcd(f,F2x_deriv(f));
    2353 [ -  + ][ #  # ]:      82808 :     if (flag == 2 && F2x_degree(f2)) return NULL;
    2354         [ +  + ]:      82808 :     g1 = F2x_degree(f2)? F2x_div(f,f2): f; /* squarefree */
    2355                 :      82808 :     k = 0;
    2356         [ +  + ]:     138344 :     while (F2x_degree(g1)>0)
    2357                 :            :     {
    2358                 :            :       GEN u;
    2359         [ +  + ]:      55536 :       k++; if (k%2 == 0) { k++; f2 = F2x_div(f2,g1); }
    2360                 :      55536 :       u = g1; /* deg(u) > 0 */
    2361         [ +  + ]:      55536 :       if (!F2x_degree(f2)) g1 = pol1_F2x(0); /* only its degree (= 0) matters */
    2362                 :            :       else
    2363                 :            :       {
    2364                 :            :         long dg1;
    2365                 :      14280 :         g1 = F2x_gcd(f2,g1);
    2366                 :      14280 :         dg1 = F2x_degree(g1);
    2367         [ +  + ]:      14280 :         if (dg1)
    2368                 :            :         {
    2369                 :      12467 :           f2= F2x_div(f2,g1);
    2370         [ +  + ]:      12467 :           if (F2x_degree(u) == dg1) continue;
    2371                 :       1127 :           u = F2x_div( u,g1);
    2372                 :            :         }
    2373                 :            :       }
    2374                 :            :       /* u is square-free (product of irred. of multiplicity e * k) */
    2375                 :      44196 :       gel(t,nbfact) = u;
    2376                 :      44196 :       d = F2x_split_Berlekamp(&gel(t,nbfact));
    2377 [ -  + ][ #  # ]:      44196 :       if (flag == 2 && d != 1) return NULL;
    2378         [ -  + ]:      44196 :       if (flag == 1)
    2379         [ #  # ]:          0 :         for (j=0; j<(ulong)d; j++) t[nbfact+j] = F2x_degree(gel(t,nbfact+j));
    2380         [ +  + ]:      93915 :       for (j=0; j<(ulong)d; j++) E[nbfact+j] = e*k;
    2381                 :      44196 :       nbfact += d;
    2382                 :            :     }
    2383         [ +  + ]:      82808 :     j = F2x_degree(f2); if (!j) break;
    2384                 :      37170 :     e *= 2; f = F2x_deflate(f2, 2);
    2385                 :      37170 :   }
    2386         [ -  + ]:      45638 :   if (flag == 2) return gen_1; /* irreducible */
    2387                 :      45638 :   setlg(t, nbfact);
    2388                 :      45638 :   setlg(E, nbfact); y = mkvec2(t,E);
    2389                 :      79252 :   return flag ? sort_factor(y, (void*)&cmpGuGu, cmp_nodata)
    2390         [ -  + ]:      45638 :               : sort_factor_pol(y, cmpGuGu);
    2391                 :            : }
    2392                 :            : 
    2393                 :            : static GEN
    2394                 :     476064 : Flx_Berlekamp_i(GEN f, ulong p, long flag)
    2395                 :            : {
    2396                 :     476064 :   long e, nbfact, val, d = degpol(f);
    2397                 :            :   ulong k, j;
    2398                 :            :   GEN y, E, f2, g1, t;
    2399                 :            : 
    2400         [ -  + ]:     476064 :   if (p == 2)
    2401                 :            :   {
    2402                 :          0 :     GEN F = F2x_Berlekamp_i(Flx_to_F2x(f),flag);
    2403         [ #  # ]:          0 :     if (flag==0) F2xV_to_FlxV_inplace(gel(F,1));
    2404                 :          0 :     return F;
    2405                 :            :   }
    2406         [ +  + ]:     476064 :   if (d <= 2) return Flx_factor_deg2(f,p,d,flag);
    2407                 :            : 
    2408                 :            :   /* to hold factors and exponents */
    2409         [ -  + ]:     230678 :   t = cgetg(d+1, flag? t_VECSMALL: t_VEC);
    2410                 :     230678 :   E = cgetg(d+1,t_VECSMALL);
    2411                 :     230678 :   val = Flx_valrem(f, &f);
    2412                 :     230678 :   e = nbfact = 1;
    2413         [ +  + ]:     230678 :   if (val) {
    2414 [ -  + ][ #  # ]:       7589 :     if (flag == 2 && val > 1) return NULL;
    2415         [ -  + ]:       7589 :     if (flag == 1)
    2416                 :          0 :       t[1] = 1;
    2417                 :            :     else
    2418                 :       7589 :       gel(t,1) = polx_Flx(f[1]);
    2419                 :       7589 :     E[1] = val; nbfact++;
    2420                 :            :   }
    2421                 :            : 
    2422                 :            :   for(;;)
    2423                 :            :   {
    2424                 :     236404 :     f2 = Flx_gcd(f,Flx_deriv(f,p), p);
    2425 [ -  + ][ #  # ]:     236404 :     if (flag == 2 && degpol(f2)) return NULL;
    2426         [ +  + ]:     236404 :     g1 = degpol(f2)? Flx_div(f,f2,p): f; /* squarefree */
    2427                 :     236404 :     k = 0;
    2428         [ +  + ]:     512409 :     while (degpol(g1)>0)
    2429                 :            :     {
    2430                 :            :       GEN u;
    2431         [ +  + ]:     276005 :       k++; if (k%p == 0) { k++; f2 = Flx_div(f2,g1,p); }
    2432                 :     276005 :       u = g1; /* deg(u) > 0 */
    2433         [ +  + ]:     276005 :       if (!degpol(f2)) g1 = pol1_Flx(0); /* only its degree (= 0) matters */
    2434                 :            :       else
    2435                 :            :       {
    2436                 :      47874 :         g1 = Flx_gcd(f2,g1, p);
    2437         [ +  + ]:      47874 :         if (degpol(g1))
    2438                 :            :         {
    2439                 :      47727 :           f2= Flx_div(f2,g1,p);
    2440         [ +  + ]:      47727 :           if (lg(u) == lg(g1)) continue;
    2441                 :       5686 :           u = Flx_div( u,g1,p);
    2442                 :            :         }
    2443                 :            :       }
    2444                 :            :       /* u is square-free (product of irred. of multiplicity e * k) */
    2445                 :     233964 :       u = Flx_normalize(u,p);
    2446                 :     233964 :       gel(t,nbfact) = u;
    2447                 :     233964 :       d = Flx_split_Berlekamp(&gel(t,nbfact), p);
    2448 [ -  + ][ #  # ]:     233964 :       if (flag == 2 && d != 1) return NULL;
    2449         [ -  + ]:     233964 :       if (flag == 1)
    2450         [ #  # ]:          0 :         for (j=0; j<(ulong)d; j++) t[nbfact+j] = degpol(gel(t,nbfact+j));
    2451         [ +  + ]:     699267 :       for (j=0; j<(ulong)d; j++) E[nbfact+j] = e*k;
    2452                 :     233964 :       nbfact += d;
    2453                 :            :     }
    2454         [ -  + ]:     236404 :     if (!p) break;
    2455         [ +  + ]:     236404 :     j = degpol(f2); if (!j) break;
    2456         [ -  + ]:       5726 :     if (j % p) pari_err_PRIME("factmod",utoi(p));
    2457                 :       5726 :     e *= p; f = Flx_deflate(f2, p);
    2458                 :       5726 :   }
    2459         [ -  + ]:     230678 :   if (flag == 2) return gen_1; /* irreducible */
    2460                 :     230678 :   setlg(t, nbfact);
    2461                 :     230678 :   setlg(E, nbfact); y = mkvec2(t,E);
    2462                 :     476064 :   return flag ? sort_factor(y, (void*)&cmpGuGu, cmp_nodata)
    2463         [ -  + ]:     230678 :               : sort_factor_pol(y, cmpGuGu);
    2464                 :            : }
    2465                 :            : 
    2466                 :            : /* f an FpX or an Flx */
    2467                 :            : static GEN
    2468                 :     535428 : FpX_Berlekamp_i(GEN f, GEN pp, long flag)
    2469                 :            : {
    2470                 :     535428 :   long e, nbfact, val, d = degpol(f);
    2471                 :            :   ulong k, j;
    2472                 :            :   GEN y, E, f2, g1, t;
    2473                 :            : 
    2474         [ +  + ]:     535428 :   if (typ(f) == t_VECSMALL)
    2475                 :            :   {/* lgefint(pp) == 3 */
    2476                 :     535310 :     ulong p = pp[2];
    2477                 :            :     GEN F;
    2478         [ +  + ]:     535310 :     if (p == 2) {
    2479                 :      79252 :       F = F2x_Berlekamp_i(Flx_to_F2x(f), flag);
    2480         [ +  - ]:      79252 :       if (flag==0) F2xV_to_ZXV_inplace(gel(F,1));
    2481                 :            :     } else {
    2482                 :     456058 :       F = Flx_Berlekamp_i(f, p, flag);
    2483         [ +  - ]:     456058 :       if (flag==0) FlxV_to_ZXV_inplace(gel(F,1));
    2484                 :            :     }
    2485                 :     535310 :     return F;
    2486                 :            :   }
    2487                 :            :   /* p is large (and odd) */
    2488         [ +  + ]:        118 :   if (d <= 2) return FpX_factor_deg2(f,pp,d,flag);
    2489                 :            : 
    2490                 :            :   /* to hold factors and exponents */
    2491         [ -  + ]:         58 :   t = cgetg(d+1, flag? t_VECSMALL: t_VEC);
    2492                 :         58 :   E = cgetg(d+1,t_VECSMALL);
    2493                 :         58 :   val = ZX_valrem(f, &f);
    2494                 :         58 :   e = nbfact = 1;
    2495         [ +  + ]:         58 :   if (val) {
    2496 [ -  + ][ #  # ]:          3 :     if (flag == 2 && val > 1) return NULL;
    2497         [ -  + ]:          3 :     if (flag == 1)
    2498                 :          0 :       t[1] = 1;
    2499                 :            :     else
    2500                 :          3 :       gel(t,1) = pol_x(varn(f));
    2501                 :          3 :     E[1] = val; nbfact++;
    2502                 :            :   }
    2503                 :            : 
    2504                 :         58 :   f2 = FpX_gcd(f,ZX_deriv(f), pp);
    2505 [ -  + ][ #  # ]:         58 :   if (flag == 2 && degpol(f2)) return NULL;
    2506         [ +  + ]:         58 :   g1 = degpol(f2)? FpX_div(f,f2,pp): f; /* squarefree */
    2507                 :         58 :   k = 0;
    2508         [ +  + ]:        121 :   while (degpol(g1)>0)
    2509                 :            :   {
    2510                 :            :     GEN u;
    2511                 :         63 :     k++;
    2512                 :         63 :     u = g1; /* deg(u) > 0 */
    2513         [ +  + ]:         63 :     if (!degpol(f2)) g1 = pol_1(0); /* only its degree (= 0) matters */
    2514                 :            :     else
    2515                 :            :     {
    2516                 :          6 :       g1 = FpX_gcd(f2,g1, pp);
    2517         [ +  - ]:          6 :       if (degpol(g1))
    2518                 :            :       {
    2519                 :          6 :         f2= FpX_div(f2,g1,pp);
    2520         [ +  + ]:          6 :         if (lg(u) == lg(g1)) continue;
    2521                 :          5 :         u = FpX_div( u,g1,pp);
    2522                 :            :       }
    2523                 :            :     }
    2524                 :            :     /* u is square-free (product of irred. of multiplicity e * k) */
    2525                 :         62 :     u = FpX_normalize(u,pp);
    2526                 :         62 :     gel(t,nbfact) = u;
    2527                 :         62 :     d = FpX_split_Berlekamp(&gel(t,nbfact), pp);
    2528 [ -  + ][ #  # ]:         62 :     if (flag == 2 && d != 1) return NULL;
    2529         [ -  + ]:         62 :     if (flag == 1)
    2530         [ #  # ]:          0 :       for (j=0; j<(ulong)d; j++) t[nbfact+j] = degpol(gel(t,nbfact+j));
    2531         [ +  + ]:        181 :     for (j=0; j<(ulong)d; j++) E[nbfact+j] = e*k;
    2532                 :         62 :     nbfact += d;
    2533                 :            :   }
    2534         [ -  + ]:         58 :   if (flag == 2) return gen_1; /* irreducible */
    2535                 :         58 :   setlg(t, nbfact);
    2536                 :         58 :   setlg(E, nbfact); y = mkvec2(t,E);
    2537                 :     535428 :   return flag ? sort_factor(y, (void*)&cmpGuGu, cmp_nodata)
    2538         [ -  + ]:         58 :               : sort_factor_pol(y, cmpii);
    2539                 :            : }
    2540                 :            : GEN
    2541                 :     535365 : FpX_factor(GEN f, GEN p)
    2542                 :            : {
    2543                 :     535365 :   pari_sp av = avma;
    2544                 :     535365 :   ZX_factmod_init(&f, p);
    2545                 :     535365 :   return gerepilecopy(av, FpX_Berlekamp_i(f, p, 0));
    2546                 :            : }
    2547                 :            : GEN
    2548                 :      43001 : Flx_factor(GEN f, ulong p)
    2549                 :            : {
    2550                 :      43001 :   pari_sp av = avma;
    2551         [ +  + ]:      43001 :   GEN F = (degpol(f)>log2(p))? Flx_factcantor_i(f,p,0): Flx_Berlekamp_i(f,p,0);
    2552                 :      43001 :   return gerepilecopy(av, F);
    2553                 :            : }
    2554                 :            : GEN
    2555                 :          0 : F2x_factor(GEN f)
    2556                 :            : {
    2557                 :          0 :   pari_sp av = avma;
    2558                 :          0 :   return gerepilecopy(av, F2x_Berlekamp_i(f, 0));
    2559                 :            : }
    2560                 :            : 
    2561                 :            : GEN
    2562                 :         98 : factormod0(GEN f, GEN p, long flag)
    2563                 :            : {
    2564      [ +  +  - ]:         98 :   switch(flag)
    2565                 :            :   {
    2566                 :         70 :     case 0: return factmod(f,p);
    2567                 :         28 :     case 1: return simplefactmod(f,p);
    2568                 :          0 :     default: pari_err_FLAG("factormod");
    2569                 :            :   }
    2570                 :         98 :   return NULL; /* not reached */
    2571                 :            : }
    2572                 :            : 
    2573                 :            : /*******************************************************************/
    2574                 :            : /*                                                                 */
    2575                 :            : /*                     FACTORIZATION IN F_q                        */
    2576                 :            : /*                                                                 */
    2577                 :            : /*******************************************************************/
    2578                 :            : static GEN
    2579                 :       9520 : to_Fq(GEN x, GEN T, GEN p)
    2580                 :            : {
    2581                 :       9520 :   long i, lx, tx = typ(x);
    2582                 :            :   GEN y;
    2583                 :            : 
    2584         [ +  + ]:       9520 :   if (tx == t_INT)
    2585                 :       4382 :     y = mkintmod(x,p);
    2586                 :            :   else
    2587                 :            :   {
    2588         [ -  + ]:       5138 :     if (tx != t_POL) pari_err_TYPE("to_Fq",x);
    2589                 :       5138 :     lx = lg(x);
    2590                 :       5138 :     y = cgetg(lx,t_POL); y[1] = x[1];
    2591         [ +  + ]:     213983 :     for (i=2; i<lx; i++) gel(y,i) = mkintmod(gel(x,i), p);
    2592                 :            :   }
    2593                 :       9520 :   return mkpolmod(y, T);
    2594                 :            : }
    2595                 :            : 
    2596                 :            : static GEN
    2597                 :       4354 : to_Fq_pol(GEN x, GEN T, GEN p)
    2598                 :            : {
    2599                 :       4354 :   long i, lx = lg(x);
    2600         [ +  + ]:      13076 :   for (i=2; i<lx; i++) gel(x,i) = to_Fq(gel(x,i),T,p);
    2601                 :       4354 :   return x;
    2602                 :            : }
    2603                 :            : 
    2604                 :            : static GEN
    2605                 :        245 : to_Fq_fact(GEN P, GEN E, GEN T, GEN p, pari_sp av)
    2606                 :            : {
    2607                 :            :   GEN y, u, v;
    2608                 :        245 :   long j, l = lg(P), nbf = lg(P);
    2609                 :            : 
    2610                 :        245 :   u = cgetg(nbf,t_COL);
    2611                 :        245 :   v = cgetg(nbf,t_COL);
    2612         [ +  + ]:       4599 :   for (j=1; j<l; j++)
    2613                 :            :   {
    2614                 :       4354 :     gel(u,j) = simplify_shallow(gel(P,j)); /* may contain pols of degree 0 */
    2615                 :       4354 :     gel(v,j) = utoi(uel(E,j));
    2616                 :            :   }
    2617                 :        245 :   y = gerepilecopy(av, mkmat2(u, v));
    2618                 :        245 :   u = gel(y,1);
    2619                 :        245 :   p = icopy(p);
    2620                 :        245 :   T = FpX_to_mod(T, p);
    2621         [ +  + ]:       4599 :   for (j=1; j<nbf; j++) gel(u,j) = to_Fq_pol(gel(u,j), T,p);
    2622                 :        245 :   return y;
    2623                 :            : }
    2624                 :            : static GEN
    2625                 :         35 : to_FqC(GEN P, GEN T, GEN p, pari_sp av)
    2626                 :            : {
    2627                 :            :   GEN u;
    2628                 :         35 :   long j, l = lg(P), nbf = lg(P);
    2629                 :            : 
    2630                 :         35 :   u = cgetg(nbf,t_COL);
    2631         [ +  + ]:        833 :   for (j=1; j<l; j++)
    2632                 :        798 :     gel(u,j) = simplify_shallow(gel(P,j)); /* may contain pols of degree 0 */
    2633                 :         35 :   u = gerepilecopy(av, u);
    2634                 :         35 :   p = icopy(p);
    2635                 :         35 :   T = FpX_to_mod(T, p);
    2636         [ +  + ]:        833 :   for (j=1; j<nbf; j++) gel(u,j) = to_Fq(gel(u,j), T,p);
    2637                 :         35 :   return u;
    2638                 :            : }
    2639                 :            : 
    2640                 :            : GEN
    2641                 :      11534 : FlxqXQ_halfFrobenius(GEN a, GEN S, GEN T, ulong p)
    2642                 :            : {
    2643                 :      11534 :   long vT = get_Flx_var(T);
    2644                 :      11534 :   GEN xp = Flx_Frobenius(T, p);
    2645                 :      11534 :   GEN Xp = FlxqXQ_pow(polx_FlxX(get_FlxqX_var(S), vT), utoi(p), S, T, p);
    2646                 :      11534 :   GEN ap2 = FlxqXQ_pow(a,utoi(p>>1), S, T, p);
    2647                 :      11534 :   GEN V = FlxqXQV_autsum(mkvec3(xp, Xp, ap2), get_Flx_degree(T), S, T, p);
    2648                 :      11534 :   return gel(V,3);
    2649                 :            : }
    2650                 :            : 
    2651                 :            : GEN
    2652                 :      11337 : FpXQXQ_halfFrobenius(GEN a, GEN S, GEN T, GEN p)
    2653                 :            : {
    2654         [ +  + ]:      11337 :   if (lgefint(p)==3)
    2655                 :            :   {
    2656                 :      11263 :     ulong pp = p[2];
    2657                 :      11263 :     long v = get_FpX_var(T);
    2658                 :      11263 :     GEN Tp = ZXT_to_FlxT(T,pp), Sp = ZXXT_to_FlxXT(S, pp, v);
    2659                 :      11263 :     return FlxX_to_ZXX(FlxqXQ_halfFrobenius(ZXX_to_FlxX(a,pp,v),Sp,Tp,pp));
    2660                 :            :   }
    2661                 :            :   else
    2662                 :            :   {
    2663                 :            :     GEN xp, Xp, ap2, V;
    2664                 :         74 :     T = FpX_get_red(T, p);
    2665                 :         74 :     S = FpXQX_get_red(S, T, p);
    2666                 :         74 :     xp = FpX_Frobenius(T, p);
    2667                 :         74 :     Xp = FpXQXQ_pow(pol_x(get_FpXQX_var(S)), p, S, T, p);
    2668                 :         74 :     ap2 = FpXQXQ_pow(a,shifti(p,-1), S, T, p);
    2669                 :         74 :     V = FpXQXQV_autsum(mkvec3(xp,Xp,ap2), get_FpX_degree(T), S, T, p);
    2670                 :      11337 :     return gel(V,3);
    2671                 :            :   }
    2672                 :            : }
    2673                 :            : 
    2674                 :            : GEN
    2675                 :      27225 : FlxqX_Frobenius(GEN S, GEN T, ulong p)
    2676                 :            : {
    2677                 :      27225 :   pari_sp av = avma;
    2678                 :      27225 :   long n = get_Flx_degree(T), vT = get_Flx_var(T);
    2679                 :      27225 :   GEN X  = polx_FlxX(get_FlxqX_var(S), vT);
    2680                 :      27225 :   GEN xp = Flx_Frobenius(T, p);
    2681                 :      27225 :   GEN Xp = FlxqXQ_pow(X, utoi(p), S, T, p);
    2682                 :      27225 :   GEN Xq = gel(FlxqXQV_autpow(mkvec2(xp,Xp), n, S, T, p), 2);
    2683                 :      27225 :   return gerepilecopy(av, Xq);
    2684                 :            : }
    2685                 :            : 
    2686                 :            : GEN
    2687                 :        131 : FpXQX_Frobenius(GEN S, GEN T, GEN p)
    2688                 :            : {
    2689                 :        131 :   pari_sp av = avma;
    2690                 :        131 :   long n = get_FpX_degree(T);
    2691                 :        131 :   GEN X  = pol_x(get_FpXQX_var(S));
    2692                 :        131 :   GEN xp = FpX_Frobenius(T, p);
    2693                 :        131 :   GEN Xp = FpXQXQ_pow(X, p, S, T, p);
    2694                 :        131 :   GEN Xq = gel(FpXQXQV_autpow(mkvec2(xp,Xp), n, S, T, p), 2);
    2695                 :        131 :   return gerepilecopy(av, Xq);
    2696                 :            : }
    2697                 :            : 
    2698                 :            : static GEN
    2699                 :      14245 : FqX_Frobenius_powers(GEN S, GEN T, GEN p)
    2700                 :            : {
    2701                 :      14245 :   long N = get_FpXQX_degree(S);
    2702         [ +  - ]:      14245 :   if (lgefint(p)==3)
    2703                 :            :   {
    2704                 :      14245 :     ulong pp = p[2];
    2705                 :      14245 :     GEN Tp = ZXT_to_FlxT(T, pp), Sp = ZXXT_to_FlxXT(S, pp, get_FpX_var(T));
    2706                 :      14245 :     GEN Xq = FlxqX_Frobenius(Sp, Tp, pp);
    2707                 :      14245 :     return FlxqXQ_powers(Xq, N-1, Sp, Tp, pp);
    2708                 :            :   } else
    2709                 :            :   {
    2710                 :          0 :     GEN Xq = FpXQX_Frobenius(S, T, p);
    2711                 :      14245 :     return FpXQXQ_powers(Xq, N-1, S, T, p);
    2712                 :            :   }
    2713                 :            : }
    2714                 :            : 
    2715                 :            : static GEN
    2716                 :      16793 : FqX_Frobenius_eval(GEN x, GEN V, GEN S, GEN T, GEN p)
    2717                 :            : {
    2718         [ +  - ]:      16793 :   if (lgefint(p)==3)
    2719                 :            :   {
    2720                 :      16793 :     ulong pp = p[2];
    2721                 :      16793 :     long v = get_FpX_var(T);
    2722                 :      16793 :     GEN Tp = ZXT_to_FlxT(T, pp), Sp = ZXXT_to_FlxXT(S, pp, v);
    2723                 :      16793 :     GEN xp = ZXX_to_FlxX(x, pp, v);
    2724                 :      16793 :     return FlxX_to_ZXX(FlxqX_FlxqXQV_eval(xp, V, Sp, Tp, pp));
    2725                 :            :   }
    2726                 :            :   else
    2727                 :      16793 :     return FpXQX_FpXQXQV_eval(x, V, S, T, p);
    2728                 :            : }
    2729                 :            : 
    2730                 :            : static GEN
    2731                 :          8 : FpXQX_split_part(GEN f, GEN T, GEN p)
    2732                 :            : {
    2733                 :          8 :   long n = degpol(f);
    2734                 :          8 :   GEN z, X = pol_x(varn(f));
    2735         [ -  + ]:          8 :   if (n <= 1) return f;
    2736                 :          8 :   f = FpXQX_red(f, T, p);
    2737                 :          8 :   z = FpXQX_Frobenius(f, T, p);
    2738                 :          8 :   z = FpXX_sub(z, X , p);
    2739                 :          8 :   return FpXQX_gcd(z, f, T, p);
    2740                 :            : }
    2741                 :            : 
    2742                 :            : static GEN
    2743                 :      12536 : FlxqX_split_part(GEN f, GEN T, ulong p)
    2744                 :            : {
    2745                 :      12536 :   long n = degpol(f);
    2746                 :      12536 :   GEN z, Xq, X = polx_FlxX(varn(f),get_Flx_var(T));
    2747         [ -  + ]:      12536 :   if (n <= 1) return f;
    2748                 :      12536 :   f = FlxqX_red(f, T, p);
    2749                 :      12536 :   Xq = FlxqX_Frobenius(f, T, p);
    2750                 :      12536 :   z = FlxX_sub(Xq, X , p);
    2751                 :      12536 :   return FlxqX_gcd(z, f, T, p);
    2752                 :            : }
    2753                 :            : 
    2754                 :            : long
    2755                 :        315 : FpXQX_nbroots(GEN f, GEN T, GEN p)
    2756                 :            : {
    2757                 :        315 :   pari_sp av = avma;
    2758                 :            :   GEN z;
    2759         [ +  + ]:        315 :   if(lgefint(p)==3)
    2760                 :            :   {
    2761                 :        307 :     ulong pp=p[2];
    2762                 :        307 :     z = FlxqX_split_part(ZXX_to_FlxX(f,pp,varn(T)),ZXT_to_FlxT(T,pp),pp);
    2763                 :            :   }
    2764                 :            :   else
    2765                 :          8 :     z = FpXQX_split_part(f, T, p);
    2766                 :        315 :   avma = av; return degpol(z);
    2767                 :            : }
    2768                 :            : 
    2769                 :            : long
    2770                 :       1799 : FqX_nbroots(GEN f, GEN T, GEN p)
    2771         [ +  + ]:       1799 : { return T ? FpXQX_nbroots(f, T, p): FpX_nbroots(f, p); }
    2772                 :            : 
    2773                 :            : long
    2774                 :      12229 : FlxqX_nbroots(GEN f, GEN T, ulong p)
    2775                 :            : {
    2776                 :      12229 :   pari_sp av = avma;
    2777                 :      12229 :   GEN z = FlxqX_split_part(f, T, p);
    2778                 :      12229 :   avma = av; return degpol(z);
    2779                 :            : }
    2780                 :            : 
    2781                 :            : GEN
    2782                 :         48 : FlxqX_Berlekamp_ker(GEN S, GEN T, ulong p)
    2783                 :            : {
    2784                 :         48 :   pari_sp ltop=avma;
    2785                 :         48 :   long j, N = get_FlxqX_degree(S);
    2786                 :         48 :   GEN Xq = FlxqX_Frobenius(S,T,p);
    2787                 :         48 :   GEN Q  = FlxqXQ_matrix_pow(Xq,N,N,S,T,p);
    2788         [ +  + ]:        266 :   for (j=1; j<=N; j++)
    2789                 :        218 :     gcoeff(Q,j,j) = Flx_Fl_add(gcoeff(Q,j,j), p-1, p);
    2790                 :         48 :   return gerepileupto(ltop, FlxqM_ker(Q,T,p));
    2791                 :            : }
    2792                 :            : 
    2793                 :            : GEN
    2794                 :         49 : FpXQX_Berlekamp_ker(GEN S, GEN T, GEN p)
    2795                 :            : {
    2796         [ +  + ]:         49 :   if (lgefint(p)==3)
    2797                 :            :   {
    2798                 :         48 :     ulong pp=p[2];
    2799                 :         48 :     long v = get_FpX_var(T);
    2800                 :         48 :     GEN Tp = ZXT_to_FlxT(T,pp), Sp = ZXX_to_FlxX(S,pp,v);
    2801                 :         48 :     return FlxM_to_ZXM(FlxqX_Berlekamp_ker(Sp, Tp, pp));
    2802                 :            :   } else
    2803                 :            :   {
    2804                 :          1 :     pari_sp ltop=avma;
    2805                 :          1 :     long j,N = get_FpXQX_degree(S);
    2806                 :          1 :     GEN Xq = FpXQX_Frobenius(S,T,p);
    2807                 :          1 :     GEN Q  = FpXQXQ_matrix_pow(Xq,N,N,S,T,p);
    2808         [ +  + ]:          7 :     for (j=1; j<=N; j++)
    2809                 :          6 :       gcoeff(Q,j,j) = Fq_sub(gcoeff(Q,j,j), gen_1, T, p);
    2810                 :         49 :     return gerepileupto(ltop, FqM_ker(Q,T,p));
    2811                 :            :   }
    2812                 :            : }
    2813                 :            : 
    2814                 :            : long
    2815                 :          0 : FpXQX_nbfact(GEN u, GEN T, GEN p)
    2816                 :            : {
    2817                 :          0 :   pari_sp av = avma;
    2818                 :          0 :   GEN vker = FpXQX_Berlekamp_ker(u, T, p);
    2819                 :          0 :   avma = av; return lg(vker)-1;
    2820                 :            : }
    2821                 :            : 
    2822                 :            : long
    2823                 :          0 : FqX_nbfact(GEN u, GEN T, GEN p)
    2824                 :            : {
    2825         [ #  # ]:          0 :   return T ? FpX_nbfact(u, p): FpXQX_nbfact(u, T, p);
    2826                 :            : }
    2827                 :            : 
    2828                 :            : long
    2829                 :         49 : FqX_split_Berlekamp(GEN *t, GEN T, GEN p)
    2830                 :            : {
    2831                 :         49 :   GEN u = *t, a,b,vker,pol;
    2832                 :         49 :   long vu = varn(u), vT = varn(T), dT = degpol(T);
    2833                 :            :   long d, i, ir, L, la, lb;
    2834                 :         49 :   T = FpX_get_red(T, p);
    2835                 :         49 :   vker = FpXQX_Berlekamp_ker(u,T,p);
    2836                 :         49 :   vker = RgM_to_RgXV(vker,vu);
    2837                 :         49 :   d = lg(vker)-1;
    2838                 :         49 :   ir = 0;
    2839                 :            :   /* t[i] irreducible for i < ir, still to be treated for i < L */
    2840         [ +  + ]:        186 :   for (L=1; L<d; )
    2841                 :            :   {
    2842                 :        137 :     pol= scalarpol(random_FpX(dT,vT,p),vu);
    2843         [ +  + ]:        453 :     for (i=2; i<=d; i++)
    2844                 :        316 :       pol = FqX_add(pol, FqX_Fq_mul(gel(vker,i),
    2845                 :            :                                     random_FpX(dT,vT,p), T, p), T, p);
    2846                 :        137 :     pol = FpXQX_red(pol,T,p);
    2847 [ +  + ][ +  + ]:        344 :     for (i=ir; i<L && L<d; i++)
    2848                 :            :     {
    2849                 :        207 :       a = t[i]; la = degpol(a);
    2850 [ +  + ][ +  + ]:        207 :       if (la == 1) { set_irred(i); }
    2851                 :            :       else
    2852                 :            :       {
    2853                 :        179 :         pari_sp av = avma;
    2854                 :        179 :         b = FqX_rem(pol, a, T,p);
    2855         [ +  + ]:        179 :         if (degpol(b)<=0) { avma=av; continue; }
    2856                 :        165 :         b = FpXQXQ_halfFrobenius(b, a,T,p);
    2857         [ +  + ]:        165 :         if (degpol(b)<=0) { avma=av; continue; }
    2858                 :         98 :         gel(b,2) = Fq_sub(gel(b,2), gen_1,T,p);
    2859                 :         98 :         b = FqX_gcd(a,b, T,p); lb = degpol(b);
    2860 [ +  - ][ +  - ]:         98 :         if (lb && lb < la)
    2861                 :            :         {
    2862                 :         98 :           b = FqX_normalize(b, T,p);
    2863                 :         98 :           t[L] = FqX_div(a,b,T,p);
    2864                 :         98 :           t[i]= b; L++;
    2865                 :            :         }
    2866                 :          0 :         else avma = av;
    2867                 :            :       }
    2868                 :            :     }
    2869                 :            :   }
    2870                 :         49 :   return d;
    2871                 :            : }
    2872                 :            : 
    2873                 :            : /* split into r factors of degree d */
    2874                 :            : static void
    2875                 :      23457 : FqX_split(GEN *t, long d, GEN q, GEN S, GEN T, GEN p)
    2876                 :            : {
    2877                 :      23457 :   GEN u = *t;
    2878                 :      23457 :   long l, v, is2, cnt, dt = degpol(u), dT = degpol(T);
    2879                 :            :   pari_sp av;
    2880                 :            :   pari_timer ti;
    2881                 :            :   GEN w,w0;
    2882                 :            : 
    2883         [ +  + ]:      46914 :   if (dt == d) return;
    2884                 :       7091 :   v = varn(*t);
    2885         [ -  + ]:       7091 :   if (DEBUGLEVEL > 6) timer_start(&ti);
    2886                 :       7091 :   av = avma; is2 = equaliu(p, 2);
    2887                 :       7091 :   for(cnt = 1;;cnt++, avma = av)
    2888                 :            :   { /* splits *t with probability ~ 1 - 2^(1-r) */
    2889                 :      11261 :     w = w0 = random_FpXQX(dt,v, T,p);
    2890         [ +  + ]:      11261 :     if (degpol(w) <= 0) continue;
    2891         [ +  + ]:      13536 :     for (l=1; l<d; l++) /* sum_{0<i<d} w^(q^i), result in (F_q)^r */
    2892                 :       2324 :       w = RgX_add(w0, FqX_Frobenius_eval(w, S, u, T, p));
    2893                 :      11212 :     w = FpXQX_red(w, T,p);
    2894         [ +  + ]:      11212 :     if (is2)
    2895                 :            :     {
    2896                 :        112 :       w0 = w;
    2897         [ +  + ]:        224 :       for (l=1; l<dT; l++) /* sum_{0<i<k} w^(2^i), result in (F_2)^r */
    2898                 :            :       {
    2899                 :        112 :         w = FqX_rem(FqX_sqr(w,T,p), *t, T,p);
    2900                 :        112 :         w = FpXX_red(RgX_add(w0,w), p);
    2901                 :            :       }
    2902                 :            :     }
    2903                 :            :     else
    2904                 :            :     {
    2905                 :      11100 :       w = FpXQXQ_halfFrobenius(w, *t, T, p);
    2906                 :            :       /* w in {-1,0,1}^r */
    2907         [ +  + ]:      11100 :       if (degpol(w) <= 0) continue;
    2908                 :       7035 :       gel(w,2) = gadd(gel(w,2), gen_1);
    2909                 :            :     }
    2910                 :       7147 :     w = FqX_gcd(*t,w, T,p); l = degpol(w);
    2911 [ +  + ][ +  + ]:       7147 :     if (l && l != dt) break;
    2912                 :       4170 :   }
    2913                 :       7091 :   w = gerepileupto(av,FqX_normalize(w,T,p));
    2914         [ -  + ]:       7091 :   if (DEBUGLEVEL > 6)
    2915                 :          0 :     err_printf("[FqX_split] splitting time: %ld (%ld trials)\n",
    2916                 :            :                timer_delay(&ti),cnt);
    2917                 :       7091 :   l /= d; t[l] = FqX_div(*t,w, T,p); *t = w;
    2918                 :       7091 :   FqX_split(t+l,d,q,S,T,p);
    2919                 :      23457 :   FqX_split(t  ,d,q,S,T,p);
    2920                 :            : }
    2921                 :            : 
    2922                 :            : /*******************************************************************/
    2923                 :            : /*                                                                 */
    2924                 :            : /*                  FACTOR USING TRAGER'S TRICK                    */
    2925                 :            : /*                                                                 */
    2926                 :            : /*******************************************************************/
    2927                 :            : static GEN
    2928                 :         56 : FqX_frob_deflate(GEN f, GEN T, GEN p)
    2929                 :            : {
    2930                 :         56 :   GEN F = RgX_deflate(f, itos(p)), frobinv = powiu(p, degpol(T)-1);
    2931                 :         56 :   long i, l = lg(F);
    2932         [ +  + ]:        231 :   for (i=2; i<l; i++) gel(F,i) = Fq_pow(gel(F,i), frobinv, T,p);
    2933                 :         56 :   return F;
    2934                 :            : }
    2935                 :            : /* Factor _sqfree_ polynomial a on the finite field Fp[X]/(T). Assumes
    2936                 :            :  * varncmp (varn(T), varn(A)) > 0 */
    2937                 :            : static GEN
    2938                 :         28 : FqX_split_Trager(GEN A, GEN T, GEN p)
    2939                 :            : {
    2940                 :         28 :   GEN c = NULL, P, u, fa, n;
    2941                 :            :   long lx, i, k;
    2942                 :            : 
    2943                 :         28 :   u = A;
    2944                 :         28 :   n = NULL;
    2945         [ +  + ]:         63 :   for (k = 0; cmpui(k, p) < 0; k++)
    2946                 :            :   {
    2947                 :            :     GEN U;
    2948                 :         49 :     c = deg1pol_shallow(stoi(k) , gen_0, varn(T));
    2949                 :         49 :     U = FqX_translate(u, c, T, p);
    2950                 :         49 :     n = FpX_FpXY_resultant(T, U, p);
    2951         [ +  + ]:         49 :     if (FpX_is_squarefree(n, p)) break;
    2952                 :         35 :     n = NULL;
    2953                 :            :   }
    2954         [ +  + ]:         28 :   if (!n) return NULL;
    2955         [ -  + ]:         14 :   if (DEBUGLEVEL>4) err_printf("FqX_split_Trager: choosing k = %ld\n",k);
    2956                 :            :   /* n guaranteed to be squarefree */
    2957                 :         14 :   fa = FpX_factor(n, p); fa = gel(fa,1); lx = lg(fa);
    2958         [ -  + ]:         14 :   if (lx == 2) return mkcol(A); /* P^k, P irreducible */
    2959                 :            : 
    2960                 :         14 :   P = cgetg(lx,t_COL);
    2961                 :         14 :   c = FpX_neg(c,p);
    2962         [ +  + ]:         28 :   for (i=lx-1; i>1; i--)
    2963                 :            :   {
    2964                 :         14 :     GEN F = FqX_translate(gel(fa,i), c, T, p);
    2965                 :         14 :     F = FqX_normalize(FqX_gcd(u, F, T, p), T, p);
    2966 [ +  - ][ -  + ]:         14 :     if (typ(F) != t_POL || degpol(F) == 0)
    2967                 :          0 :       pari_err_IRREDPOL("FqX_split_Trager [modulus]",T);
    2968                 :         14 :     u = FqX_div(u, F, T, p);
    2969                 :         14 :     gel(P,i) = F;
    2970                 :            :   }
    2971                 :         28 :   gel(P,1) = u; return P;
    2972                 :            : }
    2973                 :            : 
    2974                 :            : static long
    2975                 :      17486 : isabsolutepol(GEN f)
    2976                 :            : {
    2977                 :      17486 :   long i, l = lg(f);
    2978         [ +  + ]:      28770 :   for(i=2; i<l; i++)
    2979                 :            :   {
    2980                 :      27209 :     GEN c = gel(f,i);
    2981 [ +  + ][ +  + ]:      27209 :     if (typ(c) == t_POL && degpol(c) > 0) return 0;
    2982                 :            :   }
    2983                 :      17486 :   return 1;
    2984                 :            : }
    2985                 :            : 
    2986                 :            : static void
    2987                 :       9835 : add(GEN z, GEN g, long d) { vectrunc_append(z, mkvec2(utoipos(d), g)); }
    2988                 :            : /* return number of roots of u; assume deg u >= 0 */
    2989                 :            : long
    2990                 :      13755 : FqX_split_deg1(GEN *pz, GEN u, GEN T, GEN p)
    2991                 :            : {
    2992                 :      13755 :   long dg, N = degpol(u);
    2993                 :      13755 :   GEN v, S, g, X, z = vectrunc_init(N+1);
    2994                 :            : 
    2995                 :      13755 :   *pz = z;
    2996         [ -  + ]:      13755 :   if (N == 0) return 0;
    2997         [ +  + ]:      13755 :   if (N == 1) return 1;
    2998                 :      13678 :   v = X = pol_x(varn(u));
    2999                 :      13678 :   S = FqX_Frobenius_powers(u, T, p);
    3000                 :      13678 :   vectrunc_append(z, S);
    3001                 :      13678 :   v = FqX_Frobenius_eval(v, S, u, T, p);
    3002                 :      13678 :   g = FqX_gcd(FpXX_sub(v,X,p),u, T,p);
    3003                 :      13678 :   dg = degpol(g);
    3004         [ +  + ]:      13678 :   if (dg > 0) add(z, FqX_normalize(g,T,p), dg);
    3005                 :      13755 :   return dg;
    3006                 :            : }
    3007                 :            : 
    3008                 :            : /* return number of factors; z not properly initialized if deg(u) <= 1 */
    3009                 :            : long
    3010                 :        553 : FqX_split_by_degree(GEN *pz, GEN u, GEN T, GEN p)
    3011                 :            : {
    3012                 :        553 :   long nb = 0, d, dg, N = degpol(u);
    3013                 :        553 :   GEN v, S, g, X, z = vectrunc_init(N+1);
    3014                 :            : 
    3015                 :        553 :   *pz = z;
    3016         [ -  + ]:        553 :   if (N <= 1) return 1;
    3017                 :        553 :   v = X = pol_x(varn(u));
    3018                 :        553 :   S = FqX_Frobenius_powers(u, T, p);
    3019                 :        553 :   vectrunc_append(z, S);
    3020         [ +  + ]:       1330 :   for (d=1; d <= N>>1; d++)
    3021                 :            :   {
    3022                 :        777 :     v = FqX_Frobenius_eval(v, S, u, T, p);
    3023                 :        777 :     g = FqX_gcd(FpXX_sub(v,X,p),u, T,p);
    3024         [ +  + ]:        777 :     dg = degpol(g); if (dg <= 0) continue;
    3025                 :            :     /* all factors of g have degree d */
    3026                 :        623 :     add(z, FqX_normalize(g, T,p), dg / d); nb += dg / d;
    3027                 :        623 :     N -= dg;
    3028         [ +  + ]:        623 :     if (N)
    3029                 :            :     {
    3030                 :         70 :       u = FqX_div(u,g, T,p);
    3031                 :         70 :       v = FqX_rem(v,u, T,p);
    3032                 :            :     }
    3033                 :            :   }
    3034         [ -  + ]:        553 :   if (N) { add(z, FqX_normalize(u, T,p), 1); nb++; }
    3035                 :        553 :   return nb;
    3036                 :            : }
    3037                 :            : 
    3038                 :            : /* see roots_from_deg1() */
    3039                 :            : static GEN
    3040                 :       9142 : FqXC_roots_from_deg1(GEN x, GEN T, GEN p)
    3041                 :            : {
    3042                 :       9142 :   long i,l = lg(x);
    3043                 :       9142 :   GEN r = cgetg(l,t_COL);
    3044         [ +  + ]:      22442 :   for (i=1; i<l; i++) { GEN P = gel(x,i); gel(r,i) = Fq_neg(gel(P,2), T, p); }
    3045                 :       9142 :   return r;
    3046                 :            : }
    3047                 :            : 
    3048                 :            : static GEN
    3049                 :       9261 : FqX_split_equal(GEN L, GEN S, GEN T, GEN p)
    3050                 :            : {
    3051                 :       9261 :   long n = itos(gel(L,1));
    3052                 :       9261 :   GEN u = gel(L,2), z = cgetg(n + 1, t_COL);
    3053                 :       9261 :   gel(z,1) = u;
    3054                 :       9261 :   FqX_split((GEN*)(z+1), degpol(u) / n, powiu(p, degpol(T)), S, T, p);
    3055                 :       9261 :   return z;
    3056                 :            : }
    3057                 :            : GEN
    3058                 :       9128 : FqX_split_roots(GEN z, GEN T, GEN p, GEN pol)
    3059                 :            : {
    3060                 :       9128 :   GEN S = gel(z,1), L = gel(z,2), rep = FqX_split_equal(L, S, T, p);
    3061         [ +  + ]:       9128 :   if (pol) rep = shallowconcat(rep, FqX_div(pol, gel(L,2), T,p));
    3062                 :       9128 :   return rep;
    3063                 :            : }
    3064                 :            : GEN
    3065                 :        119 : FqX_split_all(GEN z, GEN T, GEN p)
    3066                 :            : {
    3067                 :        119 :   GEN S = gel(z,1), rep = cgetg(1, t_VEC);
    3068                 :        119 :   long i, l = lg(z);
    3069         [ +  + ]:        252 :   for (i = 2; i < l; i++)
    3070                 :        133 :     rep = shallowconcat(rep, FqX_split_equal(gel(z,i), S, T, p));
    3071                 :        119 :   return rep;
    3072                 :            : }
    3073                 :            : 
    3074                 :            : /* not memory-clean, as FpX_factorff_i, returning only linear factors */
    3075                 :            : static GEN
    3076                 :       1134 : FpX_rootsff_i(GEN P, GEN T, GEN p)
    3077                 :            : {
    3078                 :       1134 :   GEN V, F = gel(FpX_factor(P,p), 1);
    3079                 :       1134 :   long i, lfact = 1, nmax = lgpol(P), n = lg(F), dT = degpol(T);
    3080                 :            : 
    3081                 :       1134 :   V = cgetg(nmax,t_COL);
    3082         [ +  + ]:       2877 :   for(i=1;i<n;i++)
    3083                 :            :   {
    3084                 :       1743 :     GEN R, Fi = gel(F,i);
    3085                 :       1743 :     long di = degpol(Fi), j, r;
    3086         [ +  + ]:       1743 :     if (dT % di) continue;
    3087                 :       1442 :     R = FpX_factorff_irred(gel(F,i),T,p);
    3088                 :       1442 :     r = lg(R);
    3089         [ +  + ]:       4018 :     for (j=1; j<r; j++,lfact++)
    3090                 :       2576 :       gel(V,lfact) = Fq_neg(gmael(R,j, 2), T, p);
    3091                 :            :   }
    3092                 :       1134 :   setlg(V,lfact);
    3093                 :       1134 :   gen_sort_inplace(V, (void*) &cmp_RgX, &cmp_nodata, NULL);
    3094                 :       1134 :   return V;
    3095                 :            : }
    3096                 :            : GEN
    3097                 :          0 : FpX_rootsff(GEN P, GEN T, GEN p)
    3098                 :            : {
    3099                 :          0 :   pari_sp av = avma;
    3100                 :          0 :   return gerepilecopy(av, FpX_rootsff_i(P, T, p));
    3101                 :            : }
    3102                 :            : 
    3103                 :            : static GEN
    3104                 :       1673 : F2xqX_quad_roots(GEN P, GEN T)
    3105                 :            : {
    3106                 :       1673 :   GEN b= gel(P,3), c = gel(P,2);
    3107         [ +  + ]:       1673 :   if (lgpol(b))
    3108                 :            :   {
    3109                 :        924 :     GEN z, d = F2xq_div(c, F2xq_sqr(b,T),T);
    3110         [ +  + ]:        924 :     if (F2xq_trace(d,T))
    3111                 :        385 :       return cgetg(1, t_COL);
    3112                 :        539 :     z = F2xq_mul(b, F2xq_Artin_Schreier(d, T), T);
    3113                 :        539 :     return mkcol2(z, F2x_add(b, z));
    3114                 :            :   }
    3115                 :            :   else
    3116                 :       1673 :     return mkcol(F2xq_sqrt(c, T));
    3117                 :            : }
    3118                 :            : 
    3119                 :            : static GEN
    3120                 :       2219 : FqX_quad_roots(GEN x, GEN T, GEN p)
    3121                 :            : {
    3122                 :       2219 :   GEN s, D, nb, b = gel(x,3), c = gel(x,2);
    3123         [ +  + ]:       2219 :   if (equaliu(p, 2))
    3124                 :            :   {
    3125                 :       1673 :     GEN f2 = ZXX_to_F2xX(x, get_FpX_var(T));
    3126                 :       1673 :     s = F2xqX_quad_roots(f2, ZX_to_F2x(get_FpX_mod(T)));
    3127                 :       1673 :     return F2xC_to_ZXC(s);
    3128                 :            :   }
    3129                 :        546 :   D = Fq_sub(Fq_sqr(b,T,p), Fq_Fp_mul(c,utoi(4),T,p), T,p);
    3130                 :        546 :   nb = Fq_neg(b,T,p);
    3131         [ -  + ]:        546 :   if (signe(D)==0)
    3132                 :          0 :     return mkcol(Fq_halve(nb,T, p));
    3133                 :        546 :   s = Fq_sqrt(D,T,p);
    3134         [ +  + ]:        546 :   if (!s) return cgetg(1, t_COL);
    3135                 :        532 :   s = Fq_halve(Fq_add(s,nb,T,p),T, p);
    3136                 :       2219 :   return mkcol2(s,Fq_sub(nb,s,T,p));
    3137                 :            : }
    3138                 :            : 
    3139                 :            : static GEN
    3140                 :      16884 : FqX_roots_i(GEN f, GEN T, GEN p)
    3141                 :            : {
    3142                 :            :   GEN R;
    3143                 :      16884 :   f = FqX_normalize(f, T, p);
    3144         [ -  + ]:      16884 :   if (!signe(f)) pari_err_ROOTS0("FqX_roots");
    3145         [ +  + ]:      16884 :   if (isabsolutepol(f))
    3146                 :            :   {
    3147                 :       1148 :     f = simplify_shallow(f);
    3148         [ +  + ]:       1148 :     if (typ(f) == t_INT) return cgetg(1, t_COL);
    3149                 :       1134 :     return FpX_rootsff_i(f, T, p);
    3150                 :            :   }
    3151         [ +  + ]:      15736 :   if (degpol(f)==2)
    3152                 :       2128 :     return gen_sort(FqX_quad_roots(f,T,p), (void*) &cmp_RgX, &cmp_nodata);
    3153      [ +  +  + ]:      13608 :   switch( FqX_split_deg1(&R, f, T, p) )
    3154                 :            :   {
    3155                 :       4466 :   case 0: return cgetg(1, t_COL);
    3156         [ +  + ]:       7014 :   case 1: if (lg(R) == 1) { R = mkvec(f); break; }
    3157                 :            :             /* fall through */
    3158                 :       9065 :   default: R = FqX_split_roots(R, T, p, NULL);
    3159                 :            :   }
    3160                 :       9142 :   R = FqXC_roots_from_deg1(R, T, p);
    3161                 :       9142 :   gen_sort_inplace(R, (void*) &cmp_RgX, &cmp_nodata, NULL);
    3162                 :      16884 :   return R;
    3163                 :            : }
    3164                 :            : 
    3165                 :            : GEN
    3166                 :      20104 : FqX_roots(GEN x, GEN T, GEN p)
    3167                 :            : {
    3168                 :      20104 :   pari_sp av = avma;
    3169         [ +  + ]:      20104 :   if (!T) return FpX_roots(x, p);
    3170                 :      20104 :   return gerepileupto(av, FqX_roots_i(x, T, p));
    3171                 :            : }
    3172                 :            : 
    3173                 :            : static long
    3174                 :         14 : FqX_sqf_split(GEN *t0, GEN q, GEN T, GEN p)
    3175                 :            : {
    3176                 :         14 :   GEN *t = t0, u = *t, v, S, g, X;
    3177                 :         14 :   long d, dg, N = degpol(u);
    3178                 :            : 
    3179         [ -  + ]:         14 :   if (N == 1) return 1;
    3180                 :         14 :   v = X = pol_x(varn(u));
    3181                 :         14 :   S = FqX_Frobenius_powers(u, T, p);
    3182         [ +  + ]:         28 :   for (d=1; d <= N>>1; d++)
    3183                 :            :   {
    3184                 :         14 :     v = FqX_Frobenius_eval(v, S, u, T, p);
    3185                 :         14 :     g = FqX_normalize(FqX_gcd(FpXX_sub(v,X,p),u, T,p),T,p);
    3186         [ -  + ]:         14 :     dg = degpol(g); if (dg <= 0) continue;
    3187                 :            : 
    3188                 :            :     /* all factors of g have degree d */
    3189                 :         14 :     *t = g;
    3190                 :         14 :     FqX_split(t, d, q, S, T, p);
    3191                 :         14 :     t += dg / d;
    3192                 :         14 :     N -= dg;
    3193         [ -  + ]:         14 :     if (N)
    3194                 :            :     {
    3195                 :          0 :       u = FqX_div(u,g, T,p);
    3196                 :          0 :       v = FqX_rem(v,u, T,p);
    3197                 :            :     }
    3198                 :            :   }
    3199         [ -  + ]:         14 :   if (N) *t++ = u;
    3200                 :         14 :   return t - t0;
    3201                 :            : }
    3202                 :            : 
    3203                 :            : /* not memory-clean */
    3204                 :            : static GEN
    3205                 :        413 : FpX_factorff_i(GEN P, GEN T, GEN p)
    3206                 :            : {
    3207                 :        413 :   GEN V, E, F = FpX_factor(P,p);
    3208                 :        413 :   long i, lfact = 1, nmax = lgpol(P), n = lgcols(F);
    3209                 :            : 
    3210                 :        413 :   V = cgetg(nmax,t_VEC);
    3211                 :        413 :   E = cgetg(nmax,t_VECSMALL);
    3212         [ +  + ]:       1015 :   for(i=1;i<n;i++)
    3213                 :            :   {
    3214                 :        602 :     GEN R = FpX_factorff_irred(gmael(F,1,i),T,p), e = gmael(F,2,i);
    3215                 :        602 :     long j, r = lg(R);
    3216         [ +  + ]:       5446 :     for (j=1; j<r; j++,lfact++)
    3217                 :            :     {
    3218                 :       4844 :       gel(V,lfact) = gel(R,j);
    3219                 :       4844 :       gel(E,lfact) = e;
    3220                 :            :     }
    3221                 :            :   }
    3222                 :        413 :   setlg(V,lfact);
    3223                 :        413 :   setlg(E,lfact); return sort_factor_pol(mkvec2(V,E), cmp_RgX);
    3224                 :            : }
    3225                 :            : GEN
    3226                 :          0 : FpX_factorff(GEN P, GEN T, GEN p)
    3227                 :            : {
    3228                 :          0 :   pari_sp av = avma;
    3229                 :          0 :   return gerepilecopy(av, FpX_factorff_i(P, T, p));
    3230                 :            : }
    3231                 :            : 
    3232                 :            : /* assumes varncmp (varn(T), varn(f)) > 0 */
    3233                 :            : static GEN
    3234                 :        616 : FqX_factor_i(GEN f, GEN T, GEN p)
    3235                 :            : {
    3236                 :        616 :   long pg, j, k, e, N, lfact, pk, d = degpol(f);
    3237                 :            :   GEN E, f2, f3, df1, df2, g1, u, q, t;
    3238                 :            : 
    3239      [ +  +  + ]:        616 :   switch(d)
    3240                 :            :   {
    3241                 :          7 :     case -1: retmkmat2(mkcolcopy(f), mkvecsmall(1));
    3242                 :          7 :     case 0: return trivial_fact();
    3243                 :            :   }
    3244                 :        602 :   T = FpX_normalize(T, p);
    3245                 :        602 :   f = FqX_normalize(f, T, p);
    3246         [ +  + ]:        602 :   if (isabsolutepol(f)) return FpX_factorff_i(simplify_shallow(f), T, p);
    3247         [ +  + ]:        189 :   if (degpol(f)==2)
    3248                 :            :   {
    3249                 :         91 :     long v = varn(f);
    3250                 :         91 :     GEN r = FqX_quad_roots(f,T,p);
    3251   [ +  +  +  - ]:         91 :     switch(lg(r)-1)
    3252                 :            :     {
    3253                 :            :     case 0:
    3254                 :          7 :       return mkvec2(mkcolcopy(f), mkvecsmall(1));
    3255                 :            :     case 1:
    3256                 :         42 :       return mkvec2(mkcol(deg1pol_shallow(gen_1, Fq_neg(gel(r,1), T, p), v)),
    3257                 :            :                     mkvecsmall(2));
    3258                 :            :     case 2:
    3259                 :            :       {
    3260                 :         42 :         GEN f1 = deg1pol_shallow(gen_1, Fq_neg(gel(r,1), T, p), v);
    3261                 :         42 :         GEN f2 = deg1pol_shallow(gen_1, Fq_neg(gel(r,2), T, p), v);
    3262                 :         42 :         t = mkcol2(f1, f2); E = mkvecsmall2(1, 1);
    3263                 :         42 :         sort_factor_pol(mkvec2(t, E), cmp_RgX);
    3264                 :         42 :         return mkvec2(t, E);
    3265                 :            :       }
    3266                 :            :     }
    3267                 :            :   }
    3268                 :            : 
    3269                 :         98 :   pg = itos_or_0(p);
    3270                 :         98 :   df2  = NULL; /* gcc -Wall */
    3271                 :         98 :   t = cgetg(d+1,t_VEC);
    3272                 :         98 :   E = cgetg(d+1, t_VECSMALL);
    3273                 :            : 
    3274                 :         98 :   q = powiu(p, degpol(T));
    3275                 :         98 :   e = lfact = 1;
    3276                 :         98 :   pk = 1;
    3277                 :         98 :   f3 = NULL;
    3278                 :         98 :   df1 = FqX_deriv(f, T, p);
    3279                 :            :   for(;;)
    3280                 :            :   {
    3281                 :            :     long nb0;
    3282         [ +  + ]:        245 :     while (!signe(df1))
    3283                 :            :     { /* needs d >= p: pg = 0 can't happen  */
    3284                 :         56 :       pk *= pg; e = pk;
    3285                 :         56 :       f = FqX_frob_deflate(f, T, p);
    3286                 :         56 :       df1 = FqX_deriv(f, T, p); f3 = NULL;
    3287                 :            :     }
    3288         [ +  + ]:        189 :     f2 = f3? f3: FqX_gcd(f,df1, T,p);
    3289         [ +  + ]:        189 :     if (!degpol(f2)) u = f;
    3290                 :            :     else
    3291                 :            :     {
    3292                 :         91 :       g1 = FqX_div(f,f2, T,p);
    3293                 :         91 :       df2 = FqX_deriv(f2, T,p);
    3294         [ +  + ]:         91 :       if (gequal0(df2)) { u = g1; f3 = f2; }
    3295                 :            :       else
    3296                 :            :       {
    3297                 :         70 :         f3 = FqX_gcd(f2,df2, T,p);
    3298         [ +  + ]:         70 :         u = degpol(f3)? FqX_div(f2, f3, T,p): f2;
    3299                 :         70 :         u = FqX_div(g1, u, T,p);
    3300                 :            :       }
    3301                 :            :     }
    3302                 :            :     /* u is square-free (product of irreducibles of multiplicity e) */
    3303                 :        189 :     N = degpol(u);
    3304         [ +  + ]:        189 :     if (N) {
    3305                 :        140 :       nb0 = lfact;
    3306                 :        140 :       gel(t,lfact) = FqX_normalize(u, T,p);
    3307         [ +  + ]:        140 :       if (N == 1) lfact++;
    3308                 :            :       else
    3309                 :            :       {
    3310         [ +  + ]:         77 :         if (!equaliu(p,2))
    3311                 :         49 :           lfact += FqX_split_Berlekamp(&gel(t,lfact), T, p);
    3312                 :            :         else
    3313                 :            :         {
    3314                 :         28 :           GEN P = FqX_split_Trager(gel(t,lfact), T, p);
    3315         [ +  + ]:         28 :           if (P) {
    3316         [ +  + ]:         42 :             for (j = 1; j < lg(P); j++) gel(t,lfact++) = gel(P,j);
    3317                 :            :           } else {
    3318         [ -  + ]:         14 :             if (DEBUGLEVEL) pari_warn(warner, "FqX_split_Trager failed!");
    3319                 :         14 :             lfact += FqX_sqf_split(&gel(t,lfact), q, T, p);
    3320                 :            :           }
    3321                 :            :         }
    3322                 :            :       }
    3323         [ +  + ]:        406 :       for (j = nb0; j < lfact; j++) E[j] = e;
    3324                 :            :     }
    3325                 :            : 
    3326         [ +  + ]:        189 :     if (!degpol(f2)) break;
    3327                 :         91 :     f = f2; df1 = df2; e += pk;
    3328                 :         91 :   }
    3329                 :         98 :   setlg(t, lfact);
    3330                 :         98 :   setlg(E, lfact);
    3331         [ +  + ]:        364 :   for (j=1; j<lfact; j++) gel(t,j) = FqX_normalize(gel(t,j), T,p);
    3332                 :         98 :   (void)sort_factor_pol(mkvec2(t, E), cmp_RgX);
    3333                 :         98 :   k = 1;
    3334         [ +  + ]:        266 :   for (j = 2; j < lfact; j++)
    3335                 :            :   {
    3336         [ +  + ]:        168 :     if (RgX_equal(gel(t,j), gel(t,k)))
    3337                 :         21 :       E[k] += E[j];
    3338                 :            :     else
    3339                 :            :     { /* new factor */
    3340                 :        147 :       k++;
    3341                 :        147 :       E[k] = E[j];
    3342                 :        147 :       gel(t,k) = gel(t,j);
    3343                 :            :     }
    3344                 :            :   }
    3345                 :         98 :   setlg(t, k+1);
    3346                 :        616 :   setlg(E, k+1); return mkvec2(t, E);
    3347                 :            : }
    3348                 :            : 
    3349                 :            : static void
    3350                 :        280 : ffcheck(pari_sp *av, GEN *f, GEN *T, GEN p)
    3351                 :            : {
    3352                 :            :   long v;
    3353         [ -  + ]:        280 :   if (typ(*T)!=t_POL) pari_err_TYPE("factorff",*T);
    3354         [ -  + ]:        280 :   if (typ(*f)!=t_POL) pari_err_TYPE("factorff",*f);
    3355         [ -  + ]:        280 :   if (typ(p)!=t_INT) pari_err_TYPE("factorff",p);
    3356                 :        280 :   v = varn(*T);
    3357         [ -  + ]:        280 :   if (varncmp(v, varn(*f)) <= 0)
    3358                 :          0 :     pari_err_PRIORITY("factorff", *T, "<=", varn(*f));
    3359                 :        280 :   *T = RgX_to_FpX(*T, p); *av = avma;
    3360                 :        280 :   *f = RgX_to_FqX(*f, *T,p);
    3361                 :        280 : }
    3362                 :            : GEN
    3363                 :        280 : factorff(GEN f, GEN p, GEN T)
    3364                 :            : {
    3365                 :            :   pari_sp av;
    3366                 :            :   GEN z;
    3367 [ +  + ][ -  + ]:        280 :   if (!p || !T)
    3368                 :            :   {
    3369                 :            :     long pa, t;
    3370         [ -  + ]:         35 :     if (typ(f) != t_POL) pari_err_TYPE("factorff",f);
    3371                 :         35 :     T = p = NULL;
    3372                 :         35 :     t = RgX_type(f, &p, &T, &pa);
    3373         [ -  + ]:         35 :     if (t != t_FFELT) pari_err_TYPE("factorff",f);
    3374                 :         35 :     return FFX_factor(f,T);
    3375                 :            :   }
    3376                 :        245 :   ffcheck(&av, &f, &T, p); z = FqX_factor_i(f, T, p);
    3377                 :        280 :   return to_Fq_fact(gel(z,1),gel(z,2), T,p, av);
    3378                 :            : }
    3379                 :            : GEN
    3380                 :         70 : polrootsff(GEN f, GEN p, GEN T)
    3381                 :            : {
    3382                 :            :   pari_sp av;
    3383                 :            :   GEN z;
    3384 [ +  + ][ -  + ]:         70 :   if (!p || !T)
    3385                 :            :   {
    3386                 :            :     long pa, t;
    3387         [ -  + ]:         35 :     if (typ(f) != t_POL) pari_err_TYPE("polrootsff",f);
    3388                 :         35 :     T = p = NULL;
    3389                 :         35 :     t = RgX_type(f, &p, &T, &pa);
    3390         [ -  + ]:         35 :     if (t != t_FFELT) pari_err_TYPE("polrootsff",f);
    3391                 :         35 :     return FFX_roots(f,T);
    3392                 :            :   }
    3393                 :         35 :   ffcheck(&av, &f, &T, p); z = FqX_roots_i(f, T, p);
    3394                 :         70 :   return to_FqC(z, T,p, av);
    3395                 :            : }
    3396                 :            : 
    3397                 :            : /* factorization of x modulo (T,p). Assume x already reduced */
    3398                 :            : GEN
    3399                 :       1582 : FqX_factor(GEN x, GEN T, GEN p)
    3400                 :            : {
    3401                 :       1582 :   pari_sp av = avma;
    3402         [ +  + ]:       1582 :   if (!T) return FpX_factor(x, p);
    3403                 :       1582 :   return gerepilecopy(av, FqX_factor_i(x, T, p));
    3404                 :            : }
    3405                 :            : /* See also: Isomorphisms between finite field and relative
    3406                 :            :  * factorization in polarit3.c */

Generated by: LCOV version 1.9