Code coverage tests

This page documents the degree to which the PARI/GP source code is tested by our public test suite, distributed with the source distribution in directory src/test/. This is measured by the gcov utility; we then process gcov output using the lcov frond-end.

We test a few variants depending on Configure flags on the pari.math.u-bordeaux1.fr machine (x86_64 architecture), and agregate them in the final report:

The target is 90% coverage for all mathematical modules (given that branches depending on DEBUGLEVEL or DEBUGMEM are not covered). This script is run to produce the results below.

LCOV - code coverage report
Current view: top level - basemath - FpX_factor.c (source / functions) Hit Total Coverage
Test: PARI/GP v2.8.0 lcov report (development 17234-4181bc5) Lines: 1630 1730 94.2 %
Date: 2014-12-18 Functions: 144 153 94.1 %
Legend: Lines: hit not hit | Branches: + taken - not taken # not executed Branches: 903 1149 78.6 %

           Branch data     Line data    Source code
       1                 :            : /* Copyright (C) 2012  The PARI group.
       2                 :            : 
       3                 :            : This file is part of the PARI/GP package.
       4                 :            : 
       5                 :            : PARI/GP is free software; you can redistribute it and/or modify it under the
       6                 :            : terms of the GNU General Public License as published by the Free Software
       7                 :            : Foundation. It is distributed in the hope that it will be useful, but WITHOUT
       8                 :            : ANY WARRANTY WHATSOEVER.
       9                 :            : 
      10                 :            : Check the License for details. You should have received a copy of it, along
      11                 :            : with the package; see the file 'COPYING'. If not, write to the Free Software
      12                 :            : Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA. */
      13                 :            : 
      14                 :            : #include "pari.h"
      15                 :            : #include "paripriv.h"
      16                 :            : 
      17                 :            : /***********************************************************************/
      18                 :            : /**                                                                   **/
      19                 :            : /**               Factorisation over finite field                     **/
      20                 :            : /**                                                                   **/
      21                 :            : /***********************************************************************/
      22                 :            : 
      23                 :            : /*******************************************************************/
      24                 :            : /*                                                                 */
      25                 :            : /*           ROOTS MODULO a prime p (no multiplicities)            */
      26                 :            : /*                                                                 */
      27                 :            : /*******************************************************************/
      28                 :            : /* Check types and replace F by a monic normalized FpX having the same roots
      29                 :            :  * Don't bother to make constant polynomials monic */
      30                 :            : static void
      31                 :        217 : factmod_init(GEN *F, GEN p)
      32                 :            : {
      33         [ -  + ]:        217 :   if (typ(p)!=t_INT) pari_err_TYPE("factmod",p);
      34         [ -  + ]:        217 :   if (signe(p) < 0) pari_err_PRIME("factmod",p);
      35         [ -  + ]:        217 :   if (typ(*F)!=t_POL) pari_err_TYPE("factmod",*F);
      36         [ +  + ]:        217 :   if (lgefint(p) == 3)
      37                 :            :   {
      38                 :        126 :     ulong pp = p[2];
      39         [ -  + ]:        126 :     if (pp < 2) pari_err_PRIME("factmod", p);
      40                 :        126 :     *F = RgX_to_Flx(*F, pp);
      41         [ +  + ]:        126 :     if (lg(*F) > 3) *F = Flx_normalize(*F, pp);
      42                 :            :   }
      43                 :            :   else
      44                 :            :   {
      45                 :         91 :     *F = RgX_to_FpX(*F, p);
      46         [ +  + ]:         91 :     if (lg(*F) > 3) *F = FpX_normalize(*F, p);
      47                 :            :   }
      48                 :        217 : }
      49                 :            : /* as above, assume p prime and *F a ZX */
      50                 :            : static void
      51                 :     538846 : ZX_factmod_init(GEN *F, GEN p)
      52                 :            : {
      53         [ +  + ]:     538846 :   if (lgefint(p) == 3)
      54                 :            :   {
      55                 :     534490 :     ulong pp = p[2];
      56                 :     534490 :     *F = ZX_to_Flx(*F, pp);
      57         [ +  + ]:     534490 :     if (lg(*F) > 3) *F = Flx_normalize(*F, pp);
      58                 :            :   }
      59                 :            :   else
      60                 :            :   {
      61                 :       4356 :     *F = FpX_red(*F, p);
      62         [ +  + ]:       4356 :     if (lg(*F) > 3) *F = FpX_normalize(*F, p);
      63                 :            :   }
      64                 :     538846 : }
      65                 :            : 
      66                 :            : /* return 1,...,p-1 [not_0 = 1] or 0,...,p [not_0 = 0] */
      67                 :            : static GEN
      68                 :         35 : all_roots_mod_p(ulong p, int not_0)
      69                 :            : {
      70                 :            :   GEN r;
      71                 :            :   ulong i;
      72         [ +  + ]:         35 :   if (not_0) {
      73                 :         21 :     r = cgetg(p, t_VECSMALL);
      74         [ +  + ]:         63 :     for (i = 1; i < p; i++) r[i] = i;
      75                 :            :   } else {
      76                 :         14 :     r = cgetg(p+1, t_VECSMALL);
      77         [ +  + ]:         84 :     for (i = 0; i < p; i++) r[i+1] = i;
      78                 :            :   }
      79                 :         35 :   return r;
      80                 :            : }
      81                 :            : 
      82                 :            : /* X^n - 1 */
      83                 :            : static GEN
      84                 :         20 : Flx_Xnm1(long sv, long n, ulong p)
      85                 :            : {
      86                 :         20 :   GEN t = cgetg(n+3, t_VECSMALL);
      87                 :            :   long i;
      88                 :         20 :   t[1] = sv;
      89                 :         20 :   t[2] = p - 1;
      90         [ +  + ]:         81 :   for (i = 3; i <= n+1; i++) t[i] = 0;
      91                 :         20 :   t[i] = 1; return t;
      92                 :            : }
      93                 :            : /* X^n + 1 */
      94                 :            : static GEN
      95                 :         13 : Flx_Xn1(long sv, long n, ulong p)
      96                 :            : {
      97                 :         13 :   GEN t = cgetg(n+3, t_VECSMALL);
      98                 :            :   long i;
      99                 :            :   (void) p;
     100                 :         13 :   t[1] = sv;
     101                 :         13 :   t[2] = 1;
     102         [ +  + ]:         53 :   for (i = 3; i <= n+1; i++) t[i] = 0;
     103                 :         13 :   t[i] = 1; return t;
     104                 :            : }
     105                 :            : 
     106                 :            : static ulong
     107                 :          6 : Fl_nonsquare(ulong p)
     108                 :            : {
     109                 :          6 :   long k = 2;
     110                 :          6 :   for (;; k++)
     111                 :            :   {
     112                 :         12 :     long i = krouu(k, p);
     113         [ -  + ]:         12 :     if (!i) pari_err_PRIME("Fl_nonsquare",utoipos(p));
     114         [ +  + ]:         12 :     if (i < 0) return k;
     115                 :          6 :   }
     116                 :            : }
     117                 :            : 
     118                 :            : /* f monic Flx, f(0) != 0. Return a monic squarefree g with the same
     119                 :            :  * roots as f */
     120                 :            : static GEN
     121                 :         14 : Flx_cut_out_roots(GEN f, ulong p)
     122                 :            : {
     123                 :         14 :   GEN g = Flx_mod_Xnm1(f, p-1, p); /* f mod x^(p-1) - 1 */
     124 [ +  + ][ +  - ]:         14 :   if (g != f && degpol(g) >= 0) {
     125                 :          7 :     (void)Flx_valrem(g, &g); /* reduction may introduce 0 root */
     126                 :          7 :     g = Flx_gcd(g, Flx_Xnm1(g[1], p-1, p), p);
     127                 :          7 :     g = Flx_normalize(g, p);
     128                 :            :   }
     129                 :         14 :   return g;
     130                 :            : }
     131                 :            : 
     132                 :            : /* by checking f(0..p-1) */
     133                 :            : GEN
     134                 :         14 : Flx_roots_naive(GEN f, ulong p)
     135                 :            : {
     136                 :         14 :   long d, n = 0;
     137                 :         14 :   ulong s = 1UL, r;
     138                 :         14 :   GEN q, y = cgetg(degpol(f) + 1, t_VECSMALL);
     139                 :         14 :   pari_sp av2, av = avma;
     140                 :            : 
     141         [ -  + ]:         14 :   if (Flx_valrem(f, &f)) y[++n] = 0;
     142                 :         14 :   f = Flx_cut_out_roots(f, p);
     143                 :         14 :   d = degpol(f);
     144         [ -  + ]:         14 :   if (d < 0) return all_roots_mod_p(p, n == 0);
     145                 :         14 :   av2 = avma;
     146         [ +  + ]:        294 :   while (d > 1) /* d = current degree of f */
     147                 :            :   {
     148                 :        287 :     q = Flx_div_by_X_x(f, s, p, &r); /* TODO: FFT-type multi-evaluation */
     149         [ +  + ]:        287 :     if (r) avma = av2; else { y[++n] = s; d--; f = q; av2 = avma; }
     150         [ +  + ]:        287 :     if (++s == p) break;
     151                 :            :   }
     152         [ +  + ]:         14 :   if (d == 1)
     153                 :            :   { /* -f[2]/f[3], root of deg 1 polynomial */
     154                 :          7 :     r = Fl_mul(p - Fl_inv(f[3], p), f[2], p);
     155         [ +  - ]:          7 :     if (r >= s) y[++n] = r; /* otherwise double root */
     156                 :            :   }
     157                 :         14 :   avma = av; fixlg(y, n+1); return y;
     158                 :            : }
     159                 :            : static GEN
     160                 :       5894 : Flx_root_mod_2(GEN f)
     161                 :            : {
     162                 :       5894 :   int z1, z0 = !(f[2] & 1);
     163                 :            :   long i,n;
     164                 :            :   GEN y;
     165                 :            : 
     166         [ +  + ]:      22869 :   for (i=2, n=1; i < lg(f); i++) n += f[i];
     167                 :       5894 :   z1 = n & 1;
     168                 :       5894 :   y = cgetg(z0+z1+1, t_VECSMALL); i = 1;
     169         [ +  + ]:       5894 :   if (z0) y[i++] = 0;
     170         [ +  + ]:       5894 :   if (z1) y[i  ] = 1;
     171                 :       5894 :   return y;
     172                 :            : }
     173                 :            : static ulong
     174                 :         14 : Flx_oneroot_mod_2(GEN f)
     175                 :            : {
     176                 :            :   long i,n;
     177         [ -  + ]:         14 :   if (!(f[2] & 1)) return 0;
     178         [ +  + ]:         56 :   for (i=2, n=1; i < lg(f); i++) n += f[i];
     179         [ +  + ]:         14 :   if (n & 1) return 1;
     180                 :         14 :   return 2;
     181                 :            : }
     182                 :            : 
     183                 :            : static GEN FpX_roots_i(GEN f, GEN p);
     184                 :            : static GEN Flx_roots_i(GEN f, ulong p);
     185                 :            : static GEN FpX_Berlekamp_i(GEN f, GEN pp, long flag);
     186                 :            : 
     187                 :            : /* Generic driver to computes the roots of f modulo pp, using 'Roots' when
     188                 :            :  * pp is a small prime.
     189                 :            :  * if (gpwrap), check types thoroughly and return t_INTMODs, otherwise
     190                 :            :  * assume that f is an FpX, pp a prime and return t_INTs */
     191                 :            : static GEN
     192                 :      58163 : rootmod_aux(GEN f, GEN pp, GEN (*Roots)(GEN,ulong), int gpwrap)
     193                 :            : {
     194                 :      58163 :   pari_sp av = avma;
     195                 :            :   GEN y;
     196         [ +  + ]:      58163 :   if (gpwrap)
     197                 :         70 :     factmod_init(&f, pp);
     198                 :            :   else
     199                 :      58093 :     ZX_factmod_init(&f, pp);
     200      [ +  +  + ]:      58163 :   switch(lg(f))
     201                 :            :   {
     202                 :         14 :     case 2: pari_err_ROOTS0("rootmod");
     203                 :         35 :     case 3: avma = av; return cgetg(1,t_COL);
     204                 :            :   }
     205         [ +  + ]:      58114 :   if (typ(f) == t_VECSMALL)
     206                 :            :   {
     207                 :      56189 :     ulong p = pp[2];
     208         [ +  + ]:      56189 :     if (p == 2)
     209                 :       5894 :       y = Flx_root_mod_2(f);
     210                 :            :     else
     211                 :            :     {
     212         [ -  + ]:      50295 :       if (!odd(p)) pari_err_PRIME("rootmod",utoi(p));
     213                 :      50295 :       y = Roots(f, p);
     214                 :            :     }
     215                 :      56189 :     y = Flc_to_ZC(y);
     216                 :            :   }
     217                 :            :   else
     218                 :       1925 :     y = FpX_roots_i(f, pp);
     219         [ +  + ]:      58114 :   if (gpwrap) y = FpC_to_mod(y, pp);
     220                 :      58149 :   return gerepileupto(av, y);
     221                 :            : }
     222                 :            : /* assume that f is a ZX an pp a prime */
     223                 :            : GEN
     224                 :      58093 : FpX_roots(GEN f, GEN pp)
     225                 :      58093 : { return rootmod_aux(f, pp, Flx_roots_i, 0); }
     226                 :            : /* no assumptions on f and pp */
     227                 :            : GEN
     228                 :         14 : rootmod2(GEN f, GEN pp) { return rootmod_aux(f, pp, &Flx_roots_naive, 1); }
     229                 :            : GEN
     230                 :         56 : rootmod(GEN f, GEN pp) { return rootmod_aux(f, pp, &Flx_roots_i, 1); }
     231                 :            : GEN
     232                 :         70 : rootmod0(GEN f, GEN p, long flag)
     233                 :            : {
     234      [ +  +  - ]:         70 :   switch(flag)
     235                 :            :   {
     236                 :         56 :     case 0: return rootmod(f,p);
     237                 :         14 :     case 1: return rootmod2(f,p);
     238                 :          0 :     default: pari_err_FLAG("polrootsmod");
     239                 :            :   }
     240                 :         56 :   return NULL; /* not reached */
     241                 :            : }
     242                 :            : 
     243                 :            : /* assume x reduced mod p > 2, monic. */
     244                 :            : static int
     245                 :         21 : FpX_quad_factortype(GEN x, GEN p)
     246                 :            : {
     247                 :         21 :   GEN b = gel(x,3), c = gel(x,2);
     248                 :         21 :   GEN D = subii(sqri(b), shifti(c,2));
     249                 :         21 :   return kronecker(D,p);
     250                 :            : }
     251                 :            : /* assume x reduced mod p, monic. Return one root, or NULL if irreducible */
     252                 :            : GEN
     253                 :       4302 : FpX_quad_root(GEN x, GEN p, int unknown)
     254                 :            : {
     255                 :       4302 :   GEN s, D, b = gel(x,3), c = gel(x,2);
     256                 :            : 
     257         [ -  + ]:       4302 :   if (equaliu(p, 2)) {
     258         [ #  # ]:          0 :     if (!signe(b)) return c;
     259         [ #  # ]:          0 :     return signe(c)? NULL: gen_1;
     260                 :            :   }
     261                 :       4302 :   D = subii(sqri(b), shifti(c,2));
     262                 :       4302 :   D = remii(D,p);
     263 [ +  + ][ +  + ]:       4302 :   if (unknown && kronecker(D,p) == -1) return NULL;
     264                 :            : 
     265                 :       4294 :   s = Fp_sqrt(D,p);
     266                 :            :   /* p is not prime, go on and give e.g. maxord a chance to recover */
     267         [ +  + ]:       4294 :   if (!s) return NULL;
     268                 :       4302 :   return Fp_halve(subii(s,b), p);
     269                 :            : }
     270                 :            : static GEN
     271                 :       1996 : FpX_otherroot(GEN x, GEN r, GEN p)
     272                 :            : {
     273                 :       1996 :   GEN s = addii(gel(x,3), r);
     274         [ -  + ]:       1996 :   if (!signe(s)) return s;
     275         [ +  + ]:       1996 :   s = subii(p, s); if (signe(s) < 0) s = addii(s,p);
     276                 :       1996 :   return s;
     277                 :            : }
     278                 :            : 
     279                 :            : /* disc(x^2+bx+c) = b^2 - 4c */
     280                 :            : static ulong
     281                 :    2036148 : Fl_disc_bc(ulong b, ulong c, ulong p)
     282                 :    2036148 : { return Fl_sub(Fl_sqr(b,p), Fl_double(Fl_double(c,p),p), p); }
     283                 :            : /* p > 2 */
     284                 :            : static ulong
     285                 :    2011263 : Flx_quad_root(GEN x, ulong p, int unknown)
     286                 :            : {
     287                 :    2011263 :   ulong s, b = x[3], c = x[2];
     288                 :    2011263 :   ulong D = Fl_disc_bc(b, c, p);
     289 [ +  + ][ +  + ]:    2011263 :   if (unknown && krouu(D,p) == -1) return p;
     290                 :    1926125 :   s = Fl_sqrt(D,p);
     291         [ +  + ]:    1926125 :   if (s==~0UL) return p;
     292                 :    2011263 :   return Fl_halve(Fl_sub(s,b, p), p);
     293                 :            : }
     294                 :            : static ulong
     295                 :    1664612 : Flx_otherroot(GEN x, ulong r, ulong p)
     296                 :    1664612 : { return Fl_neg(Fl_add(x[3], r, p), p); }
     297                 :            : 
     298                 :            : 
     299                 :            : /* 'todo' contains the list of factors to be split.
     300                 :            :  * 'done' the list of finished factors, no longer touched */
     301                 :            : struct split_t { GEN todo, done; };
     302                 :            : static void
     303                 :      95039 : split_init(struct split_t *S, long max)
     304                 :            : {
     305                 :      95039 :   S->todo = vectrunc_init(max);
     306                 :      95039 :   S->done = vectrunc_init(max);
     307                 :      95039 : }
     308                 :            : #if 0
     309                 :            : /* move todo[i] to done */
     310                 :            : static void
     311                 :            : split_convert(struct split_t *S, long i)
     312                 :            : {
     313                 :            :   long n = lg(S->todo)-1;
     314                 :            :   vectrunc_append(S->done, gel(S->todo,i));
     315                 :            :   if (n) gel(S->todo,i) = gel(S->todo, n);
     316                 :            :   setlg(S->todo, n);
     317                 :            : }
     318                 :            : #endif
     319                 :            : /* append t to todo */
     320                 :            : static void
     321                 :     131547 : split_add(struct split_t *S, GEN t) { vectrunc_append(S->todo, t); }
     322                 :            : /* delete todo[i], add t to done */
     323                 :            : static void
     324                 :     131547 : split_moveto_done(struct split_t *S, long i, GEN t)
     325                 :            : {
     326                 :     131547 :   long n = lg(S->todo)-1;
     327                 :     131547 :   vectrunc_append(S->done, t);
     328         [ +  - ]:     131547 :   if (n) gel(S->todo,i) = gel(S->todo, n);
     329                 :     131547 :   setlg(S->todo, n);
     330                 :            : 
     331                 :     131547 : }
     332                 :            : /* append t to done */
     333                 :            : static void
     334                 :      73970 : split_add_done(struct split_t *S, GEN t)
     335                 :      73970 : { vectrunc_append(S->done, t); }
     336                 :            : /* split todo[i] into a and b */
     337                 :            : static void
     338                 :      53117 : split_todo(struct split_t *S, long i, GEN a, GEN b)
     339                 :            : {
     340                 :      53117 :   gel(S->todo, i) = a;
     341                 :      53117 :   split_add(S, b);
     342                 :      53117 : }
     343                 :            : /* split todo[i] into a and b, moved to done */
     344                 :            : static void
     345                 :      56236 : split_done(struct split_t *S, long i, GEN a, GEN b)
     346                 :            : {
     347                 :      56236 :   split_moveto_done(S, i, a);
     348                 :      56236 :   split_add_done(S, b);
     349                 :      56236 : }
     350                 :            : 
     351                 :            : /* by splitting, assume p > 2 prime, deg(f) > 0, and f monic */
     352                 :            : static GEN
     353                 :       1925 : FpX_roots_i(GEN f, GEN p)
     354                 :            : {
     355                 :            :   GEN pol, pol0, a, q;
     356                 :            :   struct split_t S;
     357                 :            : 
     358                 :       1925 :   split_init(&S, lg(f)-1);
     359                 :       1925 :   settyp(S.done, t_COL);
     360         [ +  + ]:       1925 :   if (ZX_valrem(f, &f)) split_add_done(&S, gen_0);
     361   [ +  +  +  + ]:       1925 :   switch(degpol(f))
     362                 :            :   {
     363                 :          7 :     case 0: return S.done;
     364                 :         14 :     case 1: split_add_done(&S, subii(p, gel(f,2))); return ZC_copy(S.done);
     365                 :            :     case 2: {
     366                 :       1020 :       GEN s, r = FpX_quad_root(f, p, 1);
     367         [ +  - ]:       1020 :       if (r) {
     368                 :       1020 :         split_add_done(&S, r);
     369                 :       1020 :         s = FpX_otherroot(f,r, p);
     370                 :            :         /* f not known to be square free yet */
     371         [ +  - ]:       1020 :         if (!equalii(r, s)) split_add_done(&S, s);
     372                 :            :       }
     373                 :       1020 :       return sort(S.done);
     374                 :            :     }
     375                 :            :   }
     376                 :            : 
     377                 :        884 :   a = FpXQ_pow(pol_x(varn(f)), subiu(p,1), f,p);
     378         [ -  + ]:        884 :   if (lg(a) < 3) pari_err_PRIME("rootmod",p);
     379                 :        884 :   a = FpX_Fp_sub_shallow(a, gen_1, p); /* a = x^(p-1) - 1 mod f */
     380                 :        884 :   a = FpX_gcd(f,a, p);
     381         [ -  + ]:        884 :   if (!degpol(a)) return S.done;
     382                 :        884 :   split_add(&S, FpX_normalize(a,p));
     383                 :            : 
     384                 :        884 :   q = shifti(p,-1);
     385                 :        884 :   pol0 = icopy(gen_1); /* constant term, will vary in place */
     386                 :        884 :   pol = deg1pol_shallow(gen_1, pol0, varn(f));
     387                 :        884 :   for (pol0[2] = 1;; pol0[2]++)
     388                 :            :   {
     389                 :       1866 :     long j, l = lg(S.todo);
     390         [ +  + ]:       1866 :     if (l == 1) return sort(S.done);
     391 [ -  + ][ #  # ]:        982 :     if (pol0[2] == 100 && !BPSW_psp(p)) pari_err_PRIME("polrootsmod",p);
     392         [ +  + ]:       2055 :     for (j = 1; j < l; j++)
     393                 :            :     {
     394                 :       1073 :       GEN c = gel(S.todo,j);
     395      [ +  +  + ]:       1073 :       switch(degpol(c))
     396                 :            :       { /* convert linear and quadratics to roots, try to split the rest */
     397                 :            :         case 1:
     398                 :         56 :           split_moveto_done(&S, j, subii(p, gel(c,2)));
     399                 :         56 :           j--; l--; break;
     400                 :            :         case 2: {
     401                 :        919 :           GEN r = FpX_quad_root(c, p, 0), s = FpX_otherroot(c,r, p);
     402                 :        919 :           split_done(&S, j, r, s);
     403                 :        919 :           j--; l--; break;
     404                 :            :         }
     405                 :            :         default: {
     406                 :            :           /* b = pol^(p-1)/2 - 1 */
     407                 :         98 :           GEN b = FpX_Fp_sub_shallow(FpXQ_pow(pol,q, c,p), gen_1, p);
     408                 :            :           long db;
     409                 :         98 :           b = FpX_gcd(c,b, p); db = degpol(b);
     410 [ +  - ][ +  + ]:         98 :           if (db && db < degpol(c))
     411                 :            :           {
     412                 :         91 :             b = FpX_normalize(b, p);
     413                 :         91 :             c = FpX_div(c,b, p);
     414                 :         91 :             split_todo(&S, j, b, c);
     415                 :            :           }
     416                 :            :         }
     417                 :            :       }
     418                 :            :     }
     419                 :       2907 :   }
     420                 :            : }
     421                 :            : 
     422                 :            : /* Assume f is normalized */
     423                 :            : static ulong
     424                 :      30211 : Flx_cubic_root(GEN ff, ulong p)
     425                 :            : {
     426                 :      30211 :   GEN f = Flx_normalize(ff,p);
     427                 :      30211 :   ulong pi = get_Fl_red(p);
     428         [ +  + ]:      30211 :   ulong a = f[4], b=f[3], c=f[2], p3 = p%3==1 ? (2*p+1)/3 :(p+1)/3;
     429                 :      30211 :   ulong t = Fl_mul_pre(a, p3, p, pi), t2 = Fl_sqr_pre(t, p, pi);
     430                 :      30211 :   ulong A = Fl_sub(b, Fl_triple(t2, p), p);
     431                 :      30211 :   ulong B = Fl_add(Fl_mul_pre(t, Fl_sub(Fl_double(t2, p), b, p), p ,pi), c, p);
     432                 :      30211 :   ulong A3 =  Fl_mul_pre(A, p3, p, pi);
     433                 :      30211 :   ulong A32 = Fl_sqr_pre(A3, p, pi), A33 = Fl_mul_pre(A3, A32, p, pi);
     434                 :      30211 :   ulong S = Fl_neg(B,p), P = Fl_neg(A3,p);
     435                 :      30211 :   ulong D = Fl_add(Fl_sqr_pre(S, p, pi), Fl_double(Fl_double(A33, p), p), p);
     436                 :      30211 :   ulong s = Fl_sqrt_pre(D, p, pi), vS1, vS2;
     437         [ +  + ]:      30211 :   if (s!=~0UL)
     438                 :            :   {
     439         [ +  + ]:      18937 :     ulong S1 = S==s ? S: Fl_halve(Fl_sub(S, s, p), p);
     440         [ +  + ]:      18937 :     if (p%3==2) /* 1 solutions */
     441                 :       2867 :       vS1 = Fl_powu_pre(S1, (2*p-1)/3, p, pi);
     442                 :            :     else
     443                 :            :     {
     444                 :      16070 :       vS1 = Fl_sqrtl_pre(S1, 3, p, pi);
     445         [ +  + ]:      16070 :       if (vS1==~0UL) return p; /*0 solutions*/
     446                 :            :       /*3 solutions*/
     447                 :            :     }
     448         [ +  + ]:      12824 :     vS2 = P? Fl_mul_pre(P, Fl_inv(vS1, p), p, pi): 0;
     449                 :      12824 :     return Fl_sub(Fl_add(vS1,vS2, p), t, p);
     450                 :            :   }
     451                 :            :   else
     452                 :            :   {
     453                 :      11274 :     pari_sp av = avma;
     454                 :      11274 :     GEN S1 = mkvecsmall2(Fl_halve(S, p), Fl_halve(1UL, p));
     455                 :      11274 :     GEN vS1 = Fl2_sqrtn_pre(S1, utoi(3), D, p, pi, NULL);
     456                 :            :     ulong Sa;
     457         [ +  + ]:      11274 :     if (!vS1) return p; /*0 solutions, p%3==2*/
     458                 :      11066 :     Sa = vS1[1];
     459         [ +  + ]:      11066 :     if (p%3==1) /*1 solutions*/
     460                 :            :     {
     461                 :       7193 :       ulong Fa = Fl2_norm_pre(vS1, D, p, pi);
     462         [ +  + ]:       7193 :       if (Fa!=P)
     463                 :       4820 :         Sa = Fl_mul(Sa, Fl_div(Fa, P, p),p);
     464                 :            :     }
     465                 :      11066 :     avma = av;
     466                 :      30211 :     return Fl_sub(Fl_double(Sa,p),t,p);
     467                 :            :   }
     468                 :            : }
     469                 :            : 
     470                 :            : /* assume p > 2 prime */
     471                 :            : static ulong
     472                 :     372506 : Flx_oneroot_i(GEN f, ulong p, long fl)
     473                 :            : {
     474                 :            :   GEN pol, a;
     475                 :            :   ulong q;
     476                 :            :   long da;
     477                 :            : 
     478         [ +  + ]:     372506 :   if (Flx_val(f)) return 0;
     479   [ +  +  +  + ]:     372431 :   switch(degpol(f))
     480                 :            :   {
     481                 :        162 :     case 1: return Fl_neg(f[2], p);
     482                 :     269933 :     case 2: return Flx_quad_root(f, p, 1);
     483         [ +  - ]:      28116 :     case 3: if (p>3) return Flx_cubic_root(f, p); /*FALL THROUGH*/
     484                 :            :   }
     485                 :            : 
     486         [ +  + ]:      74220 :   if (!fl)
     487                 :            :   {
     488                 :      68452 :     a = Flxq_powu(polx_Flx(f[1]), p - 1, f,p);
     489         [ -  + ]:      68452 :     if (lg(a) < 3) pari_err_PRIME("rootmod",utoipos(p));
     490                 :      68452 :     a = Flx_Fl_add(a, p-1, p); /* a = x^(p-1) - 1 mod f */
     491                 :      68452 :     a = Flx_gcd(f,a, p);
     492                 :       5768 :   } else a = f;
     493                 :      74220 :   da = degpol(a);
     494         [ +  + ]:      74220 :   if (!da) return p;
     495                 :      36565 :   a = Flx_normalize(a,p);
     496                 :            : 
     497                 :      36565 :   q = p >> 1;
     498                 :      36565 :   pol = polx_Flx(f[1]);
     499                 :      36565 :   for(pol[2] = 1;; pol[2]++)
     500                 :            :   {
     501 [ -  + ][ #  # ]:      60987 :     if (pol[2] == 1000 && !uisprime(p)) pari_err_PRIME("Flx_oneroot",utoipos(p));
     502   [ +  +  +  + ]:      60987 :     switch(da)
     503                 :            :     {
     504                 :      15583 :       case 1: return Fl_neg(a[2], p);
     505                 :      18887 :       case 2: return Flx_quad_root(a, p, 0);
     506         [ +  - ]:       2095 :       case 3: if (p>3) return Flx_cubic_root(a, p); /*FALL THROUGH*/
     507                 :            :       default: {
     508                 :      24422 :         GEN b = Flx_Fl_add(Flxq_powu(pol,q, a,p), p-1, p);
     509                 :            :         long db;
     510                 :      24422 :         b = Flx_gcd(a,b, p); db = degpol(b);
     511 [ +  + ][ +  + ]:      24422 :         if (db && db < da)
     512                 :            :         {
     513                 :      22928 :           b = Flx_normalize(b, p);
     514         [ +  + ]:      22928 :           if (db <= (da >> 1)) {
     515                 :      14281 :             a = b;
     516                 :      14281 :             da = db;
     517                 :            :           } else {
     518                 :       8647 :             a = Flx_div(a,b, p);
     519                 :       8647 :             da -= db;
     520                 :            :           }
     521                 :            :         }
     522                 :            :       }
     523                 :            :     }
     524                 :     396928 :   }
     525                 :            : }
     526                 :            : 
     527                 :            : /* assume p > 2 prime */
     528                 :            : static GEN
     529                 :       2350 : FpX_oneroot_i(GEN f, GEN p)
     530                 :            : {
     531                 :            :   GEN pol, pol0, a, q;
     532                 :            :   long da;
     533                 :            : 
     534         [ +  + ]:       2350 :   if (ZX_val(f)) return gen_0;
     535      [ +  +  + ]:       2343 :   switch(degpol(f))
     536                 :            :   {
     537                 :        139 :     case 1: return subii(p, gel(f,2));
     538                 :       2141 :     case 2: return FpX_quad_root(f, p, 1);
     539                 :            :   }
     540                 :            : 
     541                 :         63 :   a = FpXQ_pow(pol_x(varn(f)), subiu(p,1), f,p);
     542         [ -  + ]:         63 :   if (lg(a) < 3) pari_err_PRIME("rootmod",p);
     543                 :         63 :   a = FpX_Fp_sub_shallow(a, gen_1, p); /* a = x^(p-1) - 1 mod f */
     544                 :         63 :   a = FpX_gcd(f,a, p);
     545                 :         63 :   da = degpol(a);
     546         [ -  + ]:         63 :   if (!da) return NULL;
     547                 :         63 :   a = FpX_normalize(a,p);
     548                 :            : 
     549                 :         63 :   q = shifti(p,-1);
     550                 :         63 :   pol0 = icopy(gen_1); /* constant term, will vary in place */
     551                 :         63 :   pol = deg1pol_shallow(gen_1, pol0, varn(f));
     552                 :         63 :   for (pol0[2]=1; ; pol0[2]++)
     553                 :            :   {
     554 [ -  + ][ #  # ]:        210 :     if (pol0[2] == 1000 && !BPSW_psp(p)) pari_err_PRIME("FpX_oneroot",p);
     555      [ +  +  + ]:        210 :     switch(da)
     556                 :            :     {
     557                 :         35 :       case 1: return subii(p, gel(a,2));
     558                 :         28 :       case 2: return FpX_quad_root(a, p, 0);
     559                 :            :       default: {
     560                 :        147 :         GEN b = FpX_Fp_sub_shallow(FpXQ_pow(pol,q, a,p), gen_1, p);
     561                 :            :         long db;
     562                 :        147 :         b = FpX_gcd(a,b, p); db = degpol(b);
     563 [ +  + ][ +  - ]:        147 :         if (db && db < da)
     564                 :            :         {
     565                 :        140 :           b = FpX_normalize(b, p);
     566         [ +  + ]:        140 :           if (db <= (da >> 1)) {
     567                 :        105 :             a = b;
     568                 :        105 :             da = db;
     569                 :            :           } else {
     570                 :         35 :             a = FpX_div(a,b, p);
     571                 :         35 :             da -= db;
     572                 :            :           }
     573                 :            :         }
     574                 :            :       }
     575                 :            :     }
     576                 :       2497 :   }
     577                 :            : }
     578                 :            : 
     579                 :            : ulong
     580                 :     359463 : Flx_oneroot(GEN f, ulong p)
     581                 :            : {
     582                 :     359463 :   pari_sp av = avma;
     583                 :            :   ulong r;
     584      [ -  -  + ]:     359463 :   switch(lg(f))
     585                 :            :   {
     586                 :          0 :     case 2: return 0;
     587                 :          0 :     case 3: avma = av; return p;
     588                 :            :   }
     589         [ -  + ]:     359463 :   if (p == 2) return Flx_oneroot_mod_2(f);
     590                 :     359463 :   r = Flx_oneroot_i(Flx_normalize(f, p), p, 0);
     591                 :     359463 :   avma = av; return r;
     592                 :            : }
     593                 :            : 
     594                 :            : ulong
     595                 :       5768 : Flx_oneroot_split(GEN f, ulong p)
     596                 :            : {
     597                 :       5768 :   pari_sp av = avma;
     598                 :            :   ulong r;
     599      [ -  -  + ]:       5768 :   switch(lg(f))
     600                 :            :   {
     601                 :          0 :     case 2: return 0;
     602                 :          0 :     case 3: avma = av; return p;
     603                 :            :   }
     604         [ -  + ]:       5768 :   if (p == 2) return Flx_oneroot_mod_2(f);
     605                 :       5768 :   r = Flx_oneroot_i(Flx_normalize(f, p), p, 1);
     606                 :       5768 :   avma = av; return r;
     607                 :            : }
     608                 :            : 
     609                 :            : /* assume that p is prime */
     610                 :            : GEN
     611                 :       9639 : FpX_oneroot(GEN f, GEN pp) {
     612                 :       9639 :   pari_sp av = avma;
     613                 :       9639 :   ZX_factmod_init(&f, pp);
     614      [ -  -  + ]:       9639 :   switch(lg(f))
     615                 :            :   {
     616                 :          0 :     case 2: avma = av; return gen_0;
     617                 :          0 :     case 3: avma = av; return NULL;
     618                 :            :   }
     619         [ +  + ]:       9639 :   if (typ(f) == t_VECSMALL)
     620                 :            :   {
     621                 :       7289 :     ulong r, p = pp[2];
     622         [ +  + ]:       7289 :     if (p == 2)
     623                 :         14 :       r = Flx_oneroot_mod_2(f);
     624                 :            :     else
     625                 :       7275 :       r = Flx_oneroot_i(f, p, 0);
     626                 :       7289 :     avma = av;
     627         [ +  + ]:       7289 :     return (r == p)? NULL: utoi(r);
     628                 :            :   }
     629                 :       2350 :   f = FpX_oneroot_i(f, pp);
     630         [ -  + ]:       2350 :   if (!f) { avma = av; return NULL; }
     631                 :       9639 :   return gerepileuptoint(av, f);
     632                 :            : }
     633                 :            : 
     634                 :            : /*******************************************************************/
     635                 :            : /*                                                                 */
     636                 :            : /*                     FACTORISATION MODULO p                      */
     637                 :            : /*                                                                 */
     638                 :            : /*******************************************************************/
     639                 :            : 
     640                 :            : /* Functions giving information on the factorisation. */
     641                 :            : 
     642                 :            : /* u in Z[X], return kernel of (Frob - Id) over Fp[X] / u */
     643                 :            : GEN
     644                 :         82 : FpX_Berlekamp_ker(GEN u, GEN p)
     645                 :            : {
     646                 :         82 :   pari_sp ltop=avma;
     647                 :         82 :   long j,N = degpol(u);
     648                 :         82 :   GEN Q  = FpX_matFrobenius(u, p);
     649         [ +  + ]:       2216 :   for (j=1; j<=N; j++)
     650                 :       2134 :     gcoeff(Q,j,j) = Fp_sub(gcoeff(Q,j,j), gen_1, p);
     651                 :         82 :   return gerepileupto(ltop, FpM_ker(Q,p));
     652                 :            : }
     653                 :            : 
     654                 :            : GEN
     655                 :      20839 : F2x_Berlekamp_ker(GEN u)
     656                 :            : {
     657                 :      20839 :   pari_sp ltop=avma;
     658                 :      20839 :   long j,N = F2x_degree(u);
     659                 :            :   GEN Q, XP;
     660                 :            :   pari_timer T;
     661                 :      20839 :   timer_start(&T);
     662                 :      20839 :   XP = F2xq_sqr(polx_F2x(u[1]),u);
     663                 :      20839 :   Q  = F2xq_matrix_pow(XP,N,N,u);
     664         [ +  + ]:     108766 :   for (j=1; j<=N; j++)
     665                 :      87927 :     F2m_flip(Q,j,j);
     666         [ -  + ]:      20839 :   if(DEBUGLEVEL>=9) timer_printf(&T,"Berlekamp matrix");
     667                 :      20839 :   Q = F2m_ker_sp(Q,0);
     668         [ -  + ]:      20839 :   if(DEBUGLEVEL>=9) timer_printf(&T,"kernel");
     669                 :      20839 :   return gerepileupto(ltop,Q);
     670                 :            : }
     671                 :            : 
     672                 :            : GEN
     673                 :     174539 : Flx_Berlekamp_ker(GEN u, ulong l)
     674                 :            : {
     675                 :     174539 :   pari_sp ltop=avma;
     676                 :     174539 :   long j,N = degpol(u);
     677                 :            :   GEN Q;
     678                 :            :   pari_timer T;
     679                 :     174539 :   timer_start(&T);
     680                 :     174539 :   Q  = Flx_matFrobenius(u, l);
     681         [ +  + ]:     824968 :   for (j=1; j<=N; j++)
     682                 :     650429 :     coeff(Q,j,j) = Fl_sub(coeff(Q,j,j),1,l);
     683         [ -  + ]:     174539 :   if(DEBUGLEVEL>=9) timer_printf(&T,"Berlekamp matrix");
     684                 :     174539 :   Q = Flm_ker_sp(Q,l,0);
     685         [ -  + ]:     174539 :   if(DEBUGLEVEL>=9) timer_printf(&T,"kernel");
     686                 :     174539 :   return gerepileupto(ltop,Q);
     687                 :            : }
     688                 :            : 
     689                 :            : /* product of terms of degree 1 in factorization of f */
     690                 :            : GEN
     691                 :      58527 : FpX_split_part(GEN f, GEN p)
     692                 :            : {
     693                 :      58527 :   long n = degpol(f);
     694                 :      58527 :   GEN z, X = pol_x(varn(f));
     695         [ +  + ]:      58527 :   if (n <= 1) return f;
     696                 :      58513 :   f = FpX_red(f, p);
     697                 :      58513 :   z = FpX_sub(FpX_Frobenius(f, p), X, p);
     698                 :      58527 :   return FpX_gcd(z,f,p);
     699                 :            : }
     700                 :            : 
     701                 :            : /* Compute the number of roots in Fp without counting multiplicity
     702                 :            :  * return -1 for 0 polynomial. lc(f) must be prime to p. */
     703                 :            : long
     704                 :      17717 : FpX_nbroots(GEN f, GEN p)
     705                 :            : {
     706                 :      17717 :   pari_sp av = avma;
     707                 :      17717 :   GEN z = FpX_split_part(f, p);
     708                 :      17717 :   avma = av; return degpol(z);
     709                 :            : }
     710                 :            : 
     711                 :            : int
     712                 :          0 : FpX_is_totally_split(GEN f, GEN p)
     713                 :            : {
     714                 :          0 :   long n=degpol(f);
     715                 :          0 :   pari_sp av = avma;
     716         [ #  # ]:          0 :   if (n <= 1) return 1;
     717         [ #  # ]:          0 :   if (cmpui(n, p) > 0) return 0;
     718                 :          0 :   f = FpX_red(f, p);
     719                 :          0 :   avma = av; return gequalX(FpX_Frobenius(f, p));
     720                 :            : }
     721                 :            : 
     722                 :            : /* Flv_Flx( Flm_Flc_mul(x, Flx_Flv(y), p) ) */
     723                 :            : static GEN
     724                 :     254944 : Flm_Flx_mul(GEN x, GEN y, ulong p)
     725                 :            : {
     726                 :     254944 :   long i,k,l, ly = lg(y)-1;
     727                 :            :   GEN z;
     728                 :     254944 :   long vs=y[1];
     729         [ -  + ]:     254944 :   if (ly==1) return zero_Flx(vs);
     730                 :     254944 :   l = lgcols(x);
     731                 :     254944 :   y++;
     732                 :     254944 :   z = zero_zv(l) + 1;
     733         [ +  - ]:     254944 :   if (SMALL_ULONG(p))
     734                 :            :   {
     735         [ +  + ]:    5349636 :     for (k=1; k<ly; k++)
     736                 :            :     {
     737                 :            :       GEN c;
     738         [ +  + ]:    5094692 :       if (!y[k]) continue;
     739                 :    2289613 :       c = gel(x,k);
     740         [ +  + ]:    2289613 :       if (y[k] == 1)
     741         [ +  + ]:    9342440 :         for (i=1; i<l; i++)
     742                 :            :         {
     743                 :    9105633 :           z[i] += c[i];
     744         [ -  + ]:    9105633 :           if (z[i] & HIGHBIT) z[i] %= p;
     745                 :            :         }
     746                 :            :       else
     747         [ +  + ]:  117767986 :         for (i=1; i<l; i++)
     748                 :            :         {
     749                 :  115715180 :           z[i] += c[i] * y[k];
     750         [ -  + ]:  115715180 :           if (z[i] & HIGHBIT) z[i] %= p;
     751                 :            :         }
     752                 :            :     }
     753         [ +  + ]:    6332972 :     for (i=1; i<l; i++) z[i] %= p;
     754                 :            :   }
     755                 :            :   else
     756                 :            :   {
     757         [ #  # ]:          0 :     for (k=1; k<ly; k++)
     758                 :            :     {
     759                 :            :       GEN c;
     760         [ #  # ]:          0 :       if (!y[k]) continue;
     761                 :          0 :       c = gel(x,k);
     762         [ #  # ]:          0 :       if (y[k] == 1)
     763         [ #  # ]:          0 :         for (i=1; i<l; i++)
     764                 :          0 :           z[i] = Fl_add(z[i], c[i], p);
     765                 :            :       else
     766         [ #  # ]:          0 :         for (i=1; i<l; i++)
     767                 :          0 :           z[i] = Fl_add(z[i], Fl_mul(c[i],y[k],p), p);
     768                 :            :     }
     769                 :            :   }
     770 [ +  - ][ +  + ]:    1715653 :   while (--l && !z[l]);
     771         [ -  + ]:     254944 :   if (!l) return zero_Flx(vs);
     772                 :     254944 :   *z-- = vs; return z;
     773                 :            : }
     774                 :            : 
     775                 :            : /* z must be squarefree mod p*/
     776                 :            : GEN
     777                 :      92432 : Flx_nbfact_by_degree(GEN z, long *nb, ulong p)
     778                 :            : {
     779                 :      92432 :   long lgg, d = 0, e = degpol(z);
     780                 :      92432 :   GEN D = zero_zv(e);
     781                 :      92432 :   pari_sp av = avma;
     782                 :      92432 :   GEN g, w, PolX = polx_Flx(z[1]);
     783                 :      92432 :   GEN MP = Flx_matFrobenius(z, p);
     784                 :            : 
     785                 :      92432 :   w = PolX; *nb = 0;
     786         [ +  + ]:     285804 :   while (d < (e>>1))
     787                 :            :   { /* here e = degpol(z) */
     788                 :     254944 :     d++;
     789                 :     254944 :     w = Flm_Flx_mul(MP, w, p); /* w^p mod (z,p) */
     790                 :     254944 :     g = Flx_gcd(z, Flx_sub(w, PolX, p), p);
     791         [ +  + ]:     254944 :     lgg = degpol(g); if (!lgg) continue;
     792                 :            : 
     793                 :      82521 :     e -= lgg;
     794                 :      82521 :     D[d] = lgg/d; *nb += D[d];
     795         [ -  + ]:      82521 :     if (DEBUGLEVEL>5) err_printf("   %3ld fact. of degree %3ld\n", D[d], d);
     796         [ +  + ]:      82521 :     if (!e) break;
     797                 :      20949 :     z = Flx_div(z, g, p);
     798                 :      20949 :     w = Flx_rem(w, z, p);
     799                 :            :   }
     800         [ +  + ]:      92432 :   if (e)
     801                 :            :   {
     802         [ -  + ]:      30860 :     if (DEBUGLEVEL>5) err_printf("   %3ld fact. of degree %3ld\n",1,e);
     803                 :      30860 :     D[e] = 1; (*nb)++;
     804                 :            :   }
     805                 :      92432 :   avma = av; return D;
     806                 :            : }
     807                 :            : 
     808                 :            : /* z must be squarefree mod p*/
     809                 :            : long
     810                 :      44506 : Flx_nbfact(GEN z, ulong p)
     811                 :            : {
     812                 :      44506 :   pari_sp av = avma;
     813                 :      44506 :   long nb; (void)Flx_nbfact_by_degree(z, &nb, p);
     814                 :      44506 :   avma = av; return nb;
     815                 :            : }
     816                 :            : 
     817                 :            : long
     818                 :    3781106 : Flx_nbroots(GEN f, ulong p)
     819                 :            : {
     820                 :    3781106 :   long n = degpol(f);
     821                 :    3781106 :   pari_sp av = avma;
     822                 :            :   GEN z;
     823         [ +  + ]:    3781106 :   if (n <= 1) return n;
     824         [ +  + ]:    3781029 :   if (n == 2)
     825                 :            :   {
     826                 :            :     ulong D;
     827         [ +  + ]:    1422979 :     if (p==2) return (f[2]==0) + (f[2]!=f[3]);
     828                 :    1422146 :     D = Fl_sub(Fl_sqr(f[3], p), Fl_mul(Fl_mul(f[4], f[2], p), 4%p, p), p);
     829                 :    1422146 :     return 1 + krouu(D,p);
     830                 :            :   }
     831                 :    2358050 :   z = Flx_sub(Flx_Frobenius(f, p), polx_Flx(f[1]), p);
     832                 :    2358050 :   z = Flx_gcd(z, f, p);
     833                 :    3781106 :   avma = av; return degpol(z);
     834                 :            : }
     835                 :            : 
     836                 :            : long
     837                 :         28 : FpX_nbfact(GEN u, GEN p)
     838                 :            : {
     839                 :         28 :   pari_sp av = avma;
     840                 :         28 :   GEN vker = FpX_Berlekamp_ker(u, p);
     841                 :         28 :   avma = av; return lg(vker)-1;
     842                 :            : }
     843                 :            : 
     844                 :            : static GEN
     845                 :        259 : try_pow(GEN w0, GEN pol, GEN p, GEN q, long r)
     846                 :            : {
     847                 :        259 :   GEN w2, w = FpXQ_pow(w0,q, pol,p);
     848                 :            :   long s;
     849         [ -  + ]:        259 :   if (gequal1(w)) return w0;
     850         [ +  + ]:        511 :   for (s=1; s<r; s++,w=w2)
     851                 :            :   {
     852                 :        308 :     w2 = gsqr(w);
     853                 :        308 :     w2 = FpX_rem(w2, pol, p);
     854         [ +  + ]:        308 :     if (gequal1(w2)) break;
     855                 :            :   }
     856         [ +  - ]:        259 :   return gequalm1(w)? NULL: w;
     857                 :            : }
     858                 :            : 
     859                 :            : static GEN
     860                 :      72982 : Flx_try_pow(GEN w0, GEN pol, ulong p, GEN q, long r)
     861                 :            : {
     862                 :      72982 :   GEN w2, w = Flxq_pow(w0,q, pol,p);
     863                 :            :   long s;
     864         [ +  + ]:      72982 :   if (Flx_equal1(w)) return w0;
     865         [ +  + ]:     280329 :   for (s=1; s<r; s++,w=w2)
     866                 :            :   {
     867                 :     220549 :     w2 = Flxq_sqr(w,pol,p);
     868         [ +  + ]:     220549 :     if (Flx_equal1(w2)) break;
     869                 :            :   }
     870 [ +  + ][ -  + ]:      72982 :   return degpol(w)==0 && uel(w,2) == p-1 ? NULL: w;
     871                 :            : }
     872                 :            : 
     873                 :            : /* INPUT:
     874                 :            :  *  m integer (converted to polynomial w in Z[X] by stoFpX)
     875                 :            :  *  p prime; q = (p^d-1) / 2^r
     876                 :            :  *  t[0] polynomial of degree k*d product of k irreducible factors of degree d
     877                 :            :  *  t[0] is expected to be normalized (leading coeff = 1)
     878                 :            :  * OUTPUT:
     879                 :            :  *  t[0],t[1]...t[k-1] the k factors, normalized */
     880                 :            : 
     881                 :            : static void
     882                 :      19887 : F2x_split(ulong m, GEN *t, long d)
     883                 :            : {
     884                 :            :   long l, v, dv;
     885                 :            :   pari_sp av0, av;
     886                 :            :   GEN w;
     887                 :            : 
     888         [ +  + ]:      22092 :   dv = F2x_degree(*t); if (dv==d) return;
     889                 :       2205 :   v=(*t)[1]; av0=avma;
     890                 :       2205 :   for(av=avma;;avma=av)
     891                 :            :   {
     892                 :       3836 :     GEN w0 = w = F2xq_powu(polx_F2x(v), m-1, *t); m += 2;
     893         [ +  + ]:      27216 :     for (l=1; l<d; l++) w = F2x_add(w0, F2xq_sqr(w, *t));
     894                 :       3836 :     w = F2x_gcd(*t,w);
     895 [ +  + ][ +  + ]:       3836 :     l = F2x_degree(w); if (l && l!=dv) break;
     896                 :       1631 :   }
     897                 :       2205 :   w = gerepileupto(av0, w);
     898                 :       2205 :   l /= d; t[l]=F2x_div(*t,w); *t=w;
     899                 :       2205 :   F2x_split(m,t+l,d);
     900                 :       2205 :   F2x_split(m,t,  d);
     901                 :            : }
     902                 :            : 
     903                 :            : static void
     904                 :     136171 : Flx_split(GEN *t, long d, ulong p, GEN q, long r)
     905                 :            : {
     906                 :            :   long l, v, dv;
     907                 :            :   pari_sp av0, av;
     908                 :            :   GEN w;
     909                 :            : 
     910         [ +  + ]:     188650 :   dv=degpol(*t); if (dv==d) return;
     911                 :      52479 :   v=(*t)[1]; av0=avma;
     912                 :      52479 :   for(av=avma;;avma=av)
     913                 :            :   {
     914                 :      72982 :     w = random_Flx(dv,v,p);
     915                 :      72982 :     w = Flx_try_pow(w,*t,p,q,r);
     916         [ +  + ]:      72982 :     if (!w) continue;
     917                 :      56945 :     w = Flx_Fl_add(w, p-1, p);
     918                 :      56945 :     w = Flx_gcd(*t,w, p);
     919 [ +  + ][ +  + ]:      56945 :     l = degpol(w); if (l && l!=dv) break;
     920                 :      20503 :   }
     921                 :      52479 :   w = Flx_normalize(w, p);
     922                 :      52479 :   w = gerepileupto(av0, w);
     923                 :      52479 :   l /= d; t[l]=Flx_div(*t,w,p); *t=w;
     924                 :      52479 :   Flx_split(t+l,d,p,q,r);
     925                 :      52479 :   Flx_split(t,  d,p,q,r);
     926                 :            : }
     927                 :            : 
     928                 :            : 
     929                 :            : static void
     930                 :        434 : FpX_split(GEN *t, long d, GEN  p, GEN q, long r)
     931                 :            : {
     932                 :        434 :   long l, v, dv = degpol(*t);
     933                 :            :   pari_sp av;
     934                 :            :   GEN w;
     935                 :            : 
     936         [ +  + ]:        644 :   if (dv==d) return;
     937                 :        210 :   v = varn(*t);
     938                 :        210 :   av = avma;
     939                 :         49 :   for(;; avma = av)
     940                 :            :   {
     941                 :        259 :     w = random_FpX(dv, v, p);
     942                 :        259 :     w = try_pow(w,*t,p,q,r);
     943         [ -  + ]:        259 :     if (!w) continue;
     944                 :        259 :     w = FpX_Fp_sub_shallow(w, gen_1, p);
     945                 :        259 :     w = FpX_gcd(*t,w, p); l=degpol(w);
     946 [ +  + ][ +  - ]:        259 :     if (l && l!=dv) break;
     947                 :         49 :   }
     948                 :        210 :   w = FpX_normalize(w, p);
     949                 :        210 :   w = gerepileupto(av, w);
     950                 :        210 :   l /= d; t[l]=FpX_div(*t,w,p); *t=w;
     951                 :        210 :   FpX_split(t+l,d,p,q,r);
     952                 :        210 :   FpX_split(t,  d,p,q,r);
     953                 :            : }
     954                 :            : 
     955                 :            : static int
     956         [ +  + ]:    1421314 : cmpGuGu(GEN a, GEN b) { return (ulong)a < (ulong)b? -1: (a == b? 0: 1); }
     957                 :            : 
     958                 :            : /* p > 2 */
     959                 :            : static GEN
     960                 :          7 : FpX_is_irred_2(GEN f, GEN p, long d)
     961                 :            : {
     962      [ -  -  + ]:          7 :   switch(d)
     963                 :            :   {
     964                 :            :     case -1:
     965                 :          0 :     case 0: return NULL;
     966                 :          0 :     case 1: return gen_1;
     967                 :            :   }
     968         [ -  + ]:          7 :   return FpX_quad_factortype(f, p) == -1? gen_1: NULL;
     969                 :            : }
     970                 :            : /* p > 2 */
     971                 :            : static GEN
     972                 :         14 : FpX_degfact_2(GEN f, GEN p, long d)
     973                 :            : {
     974   [ -  -  -  + ]:         14 :   switch(d)
     975                 :            :   {
     976                 :          0 :     case -1:retmkvec2(mkvecsmall(-1),mkvecsmall(1));
     977                 :          0 :     case 0: return trivial_fact();
     978                 :          0 :     case 1: retmkvec2(mkvecsmall(1), mkvecsmall(1));
     979                 :            :   }
     980      [ +  +  - ]:         14 :   switch(FpX_quad_factortype(f, p)) {
     981                 :          7 :     case  1: retmkvec2(mkvecsmall2(1,1), mkvecsmall2(1,1));
     982                 :          7 :     case -1: retmkvec2(mkvecsmall(2), mkvecsmall(1));
     983                 :         14 :     default: retmkvec2(mkvecsmall(1), mkvecsmall(2));
     984                 :            :   }
     985                 :            : }
     986                 :            : 
     987                 :            : GEN
     988                 :         35 : prime_fact(GEN x) { retmkmat2(mkcolcopy(x), mkcol(gen_1)); }
     989                 :            : GEN
     990                 :        490 : trivial_fact(void) { retmkmat2(cgetg(1,t_COL), cgetg(1,t_COL)); }
     991                 :            : 
     992                 :            : /* Mod(0,p) * x, where x is f's main variable */
     993                 :            : static GEN
     994                 :         14 : Mod0pX(GEN f, GEN p)
     995                 :         14 : { return scalarpol(mkintmod(gen_0, p), varn(f)); }
     996                 :            : static GEN
     997                 :         14 : zero_fact_intmod(GEN f, GEN p) { return prime_fact(Mod0pX(f,p)); }
     998                 :            : 
     999                 :            : /* not gerepile safe */
    1000                 :            : static GEN
    1001                 :         60 : FpX_factor_2(GEN f, GEN p, long d)
    1002                 :            : {
    1003                 :            :   GEN r, s, R, S;
    1004                 :            :   long v;
    1005                 :            :   int sgn;
    1006   [ -  +  +  + ]:         60 :   switch(d)
    1007                 :            :   {
    1008                 :          0 :     case -1: retmkvec2(mkcol(pol_0(varn(f))), mkvecsmall(1));
    1009                 :          2 :     case  0: retmkvec2(cgetg(1,t_COL), cgetg(1,t_VECSMALL));
    1010                 :          3 :     case  1: retmkvec2(mkcol(f), mkvecsmall(1));
    1011                 :            :   }
    1012                 :         55 :   r = FpX_quad_root(f, p, 1);
    1013         [ +  + ]:         55 :   if (!r) return mkvec2(mkcol(f), mkvecsmall(1));
    1014                 :         46 :   v = varn(f);
    1015                 :         46 :   s = FpX_otherroot(f, r, p);
    1016         [ +  - ]:         46 :   if (signe(r)) r = subii(p, r);
    1017         [ +  - ]:         46 :   if (signe(s)) s = subii(p, s);
    1018         [ +  + ]:         46 :   sgn = cmpii(s, r); if (sgn < 0) swap(s,r);
    1019                 :         46 :   R = deg1pol_shallow(gen_1, r, v);
    1020         [ -  + ]:         46 :   if (!sgn) return mkvec2(mkcol(R), mkvecsmall(2));
    1021                 :         46 :   S = deg1pol_shallow(gen_1, s, v);
    1022                 :         60 :   return mkvec2(mkcol2(R,S), mkvecsmall2(1,1));
    1023                 :            : }
    1024                 :            : static GEN
    1025                 :         81 : FpX_factor_deg2(GEN f, GEN p, long d, long flag)
    1026                 :            : {
    1027      [ +  +  + ]:         81 :   switch(flag) {
    1028                 :          7 :     case 2: return FpX_is_irred_2(f, p, d);
    1029                 :         14 :     case 1: return FpX_degfact_2(f, p, d);
    1030                 :         81 :     default: return FpX_factor_2(f, p, d);
    1031                 :            :   }
    1032                 :            : }
    1033                 :            : 
    1034                 :            : static int
    1035                 :      25165 : F2x_quad_factortype(GEN x)
    1036         [ +  + ]:      25165 : { return x[2] == 7 ? -1: x[2] == 6 ? 1 :0; }
    1037                 :            : 
    1038                 :            : static GEN
    1039                 :          7 : F2x_is_irred_2(GEN f, long d)
    1040 [ +  - ][ +  - ]:          7 : { return d == 1 || (d==2 && F2x_quad_factortype(f) == -1)? gen_1: NULL; }
                 [ +  - ]
    1041                 :            : 
    1042                 :            : static GEN
    1043                 :        609 : F2x_degfact_2(GEN f, long d)
    1044                 :            : {
    1045         [ -  + ]:        609 :   if (!d) return trivial_fact();
    1046         [ +  + ]:        609 :   if (d == 1) return mkvec2(mkvecsmall(1), mkvecsmall(1));
    1047      [ +  +  + ]:        602 :   switch(F2x_quad_factortype(f)) {
    1048                 :        133 :     case 1: return mkvec2(mkvecsmall2(1,1), mkvecsmall2(1,1));
    1049                 :        133 :     case -1:return mkvec2(mkvecsmall(2), mkvecsmall(1));
    1050                 :        609 :     default: return mkvec2(mkvecsmall(1), mkvecsmall(2));
    1051                 :            :   }
    1052                 :            : }
    1053                 :            : 
    1054                 :            : static GEN
    1055                 :      31619 : F2x_factor_2(GEN f, long d)
    1056                 :            : {
    1057                 :      31619 :   long v = f[1];
    1058         [ -  + ]:      31619 :   if (d < 0) pari_err(e_ROOTS0,"Flx_factor_2");
    1059         [ +  + ]:      31619 :   if (!d) return mkvec2(cgetg(1,t_COL), cgetg(1,t_VECSMALL));
    1060         [ +  + ]:      24073 :   if (d == 1) return mkvec2(mkcol(f), mkvecsmall(1));
    1061      [ +  +  + ]:      17283 :   switch(F2x_quad_factortype(f))
    1062                 :            :   {
    1063                 :       3045 :   case -1: return mkvec2(mkcol(f), mkvecsmall(1));
    1064                 :      12628 :   case 0:  return mkvec2(mkcol(mkvecsmall2(v,2+F2x_coeff(f,0))), mkvecsmall(2));
    1065                 :      31619 :   default: return mkvec2(mkcol2(mkvecsmall2(v,2),mkvecsmall2(v,3)), mkvecsmall2(1,1));
    1066                 :            :   }
    1067                 :            : }
    1068                 :            : static GEN
    1069                 :      32235 : F2x_factor_deg2(GEN f, long d, long flag)
    1070                 :            : {
    1071      [ +  +  + ]:      32235 :   switch(flag) {
    1072                 :          7 :     case 2: return F2x_is_irred_2(f, d);
    1073                 :        609 :     case 1: return F2x_degfact_2(f, d);
    1074                 :      32235 :     default: return F2x_factor_2(f, d);
    1075                 :            :   }
    1076                 :            : }
    1077                 :            : 
    1078                 :            : static void
    1079                 :         19 : split_squares(struct split_t *S, GEN g, ulong p)
    1080                 :            : {
    1081                 :         19 :   ulong q = p >> 1;
    1082                 :         19 :   GEN a = Flx_mod_Xnm1(g, q, p); /* mod x^(p-1)/2 - 1 */
    1083         [ +  + ]:         19 :   if (degpol(a) < 0)
    1084                 :            :   {
    1085                 :            :     ulong i;
    1086                 :          6 :     split_add_done(S, (GEN)1);
    1087         [ +  + ]:         18 :     for (i = 2; i <= q; i++) split_add_done(S, (GEN)Fl_sqr(i,p));
    1088                 :            :   } else {
    1089                 :         13 :     (void)Flx_valrem(a, &a);
    1090         [ +  - ]:         13 :     if (degpol(a))
    1091                 :            :     {
    1092                 :         13 :       a = Flx_gcd(a, Flx_Xnm1(g[1], q, p), p);
    1093         [ +  - ]:         13 :       if (degpol(a)) split_add(S, Flx_normalize(a, p));
    1094                 :            :     }
    1095                 :            :   }
    1096                 :         19 : }
    1097                 :            : static void
    1098                 :         19 : split_nonsquares(struct split_t *S, GEN g, ulong p)
    1099                 :            : {
    1100                 :         19 :   ulong q = p >> 1;
    1101                 :         19 :   GEN a = Flx_mod_Xn1(g, q, p); /* mod x^(p-1)/2 + 1 */
    1102         [ +  + ]:         19 :   if (degpol(a) < 0)
    1103                 :            :   {
    1104                 :          6 :     ulong i, z = Fl_nonsquare(p);
    1105                 :          6 :     split_add_done(S, (GEN)z);
    1106         [ +  + ]:         18 :     for (i = 2; i <= q; i++) split_add_done(S, (GEN)Fl_mul(z, Fl_sqr(i,p), p));
    1107                 :            :   } else {
    1108                 :         13 :     (void)Flx_valrem(a, &a);
    1109         [ +  - ]:         13 :     if (degpol(a))
    1110                 :            :     {
    1111                 :         13 :       a = Flx_gcd(a, Flx_Xn1(g[1], q, p), p);
    1112         [ +  - ]:         13 :       if (degpol(a)) split_add(S, Flx_normalize(a, p));
    1113                 :            :     }
    1114                 :            :   }
    1115                 :         19 : }
    1116                 :            : /* p > 2. f monic Flx, f(0) != 0. Add to split_t structs coprime factors
    1117                 :            :  * of g = \prod_{f(a) = 0} (X - a). Return 0 when f(x) = 0 for all x in Fp* */
    1118                 :            : static int
    1119                 :      93114 : split_Flx_cut_out_roots(struct split_t *S, GEN f, ulong p)
    1120                 :            : {
    1121                 :      93114 :   GEN a, g = Flx_mod_Xnm1(f, p-1, p); /* f mod x^(p-1) - 1 */
    1122                 :      93114 :   long d = degpol(g);
    1123         [ +  + ]:      93114 :   if (d < 0) return 0;
    1124         [ -  + ]:      93079 :   if (g != f) { (void)Flx_valrem(g, &g); d = degpol(g); } /*kill powers of x*/
    1125         [ +  + ]:      93079 :   if (!d) return 1;
    1126         [ +  + ]:      77546 :   if (p <= 1.4 * (ulong)d) {
    1127                 :            :     /* small p; split further using x^((p-1)/2) +/- 1.
    1128                 :            :      * 30% degree drop makes the extra gcd worth it. */
    1129                 :         19 :     split_squares(S, g, p);
    1130                 :         19 :     split_nonsquares(S, g, p);
    1131                 :            :   } else { /* large p; use x^(p-1) - 1 directly */
    1132                 :      77527 :     a = Flxq_powu(polx_Flx(f[1]), p-1, g,p);
    1133         [ -  + ]:      77527 :     if (lg(a) < 3) pari_err_PRIME("rootmod",utoipos(p));
    1134                 :      77527 :     a = Flx_Fl_add(a, p-1, p); /* a = x^(p-1) - 1 mod g */
    1135                 :      77527 :     g = Flx_gcd(g,a, p);
    1136         [ +  + ]:      77527 :     if (degpol(g)) split_add(S, Flx_normalize(g,p));
    1137                 :            :   }
    1138                 :      93114 :   return 1;
    1139                 :            : }
    1140                 :            : 
    1141                 :            : /* by splitting, assume p > 2 prime, deg(f) > 0, and f monic */
    1142                 :            : static GEN
    1143                 :    1587304 : Flx_roots_i(GEN f, ulong p)
    1144                 :            : {
    1145                 :            :   GEN pol, g;
    1146                 :    1587304 :   long v = Flx_valrem(f, &g);
    1147                 :            :   ulong q;
    1148                 :            :   struct split_t S;
    1149                 :            : 
    1150                 :            :   /* optimization: test for small degree first */
    1151      [ +  +  + ]:    1587304 :   switch(degpol(g))
    1152                 :            :   {
    1153                 :            :     case 1: {
    1154                 :      23023 :       ulong r = p - g[2];
    1155         [ +  + ]:      23023 :       return v? mkvecsmall2(0, r): mkvecsmall(r);
    1156                 :            :     }
    1157                 :            :     case 2: {
    1158                 :    1471167 :       ulong r = Flx_quad_root(g, p, 1), s;
    1159 [ +  + ][ +  + ]:    1471167 :       if (r == p) return v? mkvecsmall(0): cgetg(1,t_VECSMALL);
    1160                 :    1471140 :       s = Flx_otherroot(g,r, p);
    1161         [ +  + ]:    1471140 :       if (r < s)
    1162         [ +  + ]:     371875 :         return v? mkvecsmall3(0, r, s): mkvecsmall2(r, s);
    1163         [ +  + ]:    1099265 :       else if (r > s)
    1164         [ +  + ]:    1099202 :         return v? mkvecsmall3(0, s, r): mkvecsmall2(s, r);
    1165                 :            :       else
    1166         [ -  + ]:         63 :         return v? mkvecsmall2(0, s): mkvecsmall(s);
    1167                 :            :     }
    1168                 :            :   }
    1169                 :      93114 :   q = p >> 1;
    1170                 :      93114 :   split_init(&S, lg(f)-1);
    1171                 :      93114 :   settyp(S.done, t_VECSMALL);
    1172         [ +  + ]:      93114 :   if (v) split_add_done(&S, (GEN)0);
    1173         [ +  + ]:      93114 :   if (! split_Flx_cut_out_roots(&S, g, p))
    1174                 :         35 :     return all_roots_mod_p(p, lg(S.done) == 1);
    1175                 :      93079 :   pol = polx_Flx(f[1]);
    1176                 :      93079 :   for (pol[2]=1; ; pol[2]++)
    1177                 :            :   {
    1178                 :     230098 :     long j, l = lg(S.todo);
    1179         [ +  + ]:     230098 :     if (l == 1) { vecsmall_sort(S.done); return S.done; }
    1180 [ -  + ][ #  # ]:     137019 :     if (pol[2] == 100 && !uisprime(p)) pari_err_PRIME("polrootsmod",utoipos(p));
    1181         [ +  + ]:     335056 :     for (j = 1; j < l; j++)
    1182                 :            :     {
    1183                 :     198037 :       GEN c = gel(S.todo,j);
    1184      [ +  +  + ]:     198037 :       switch(degpol(c))
    1185                 :            :       {
    1186                 :            :         case 1:
    1187                 :      75255 :           split_moveto_done(&S, j, (GEN)(p - c[2]));
    1188                 :      75255 :           j--; l--; break;
    1189                 :            :         case 2: {
    1190                 :      55317 :           ulong r = Flx_quad_root(c, p, 0), s = Flx_otherroot(c,r, p);
    1191                 :      55317 :           split_done(&S, j, (GEN)r, (GEN)s);
    1192                 :      55317 :           j--; l--; break;
    1193                 :            :         }
    1194                 :            :         default: {
    1195                 :      67465 :           GEN b = Flx_Fl_add(Flxq_powu(pol,q, c,p), p-1, p); /* pol^(p-1)/2 */
    1196                 :            :           long db;
    1197                 :      67465 :           b = Flx_gcd(c,b, p); db = degpol(b);
    1198 [ +  + ][ +  + ]:      67465 :           if (db && db < degpol(c))
    1199                 :            :           {
    1200                 :      53026 :             b = Flx_normalize(b, p);
    1201                 :      53026 :             c = Flx_div(c,b, p);
    1202                 :      53026 :             split_todo(&S, j, b, c);
    1203                 :            :           }
    1204                 :            :         }
    1205                 :            :       }
    1206                 :            :     }
    1207                 :    1724323 :   }
    1208                 :            : }
    1209                 :            : 
    1210                 :            : GEN
    1211                 :    1537023 : Flx_roots(GEN f, ulong p)
    1212                 :            : {
    1213                 :    1537023 :   pari_sp av = avma;
    1214      [ -  -  + ]:    1537023 :   switch(lg(f))
    1215                 :            :   {
    1216                 :          0 :     case 2: pari_err_ROOTS0("Flx_roots");
    1217                 :          0 :     case 3: avma = av; return cgetg(1, t_VECSMALL);
    1218                 :            :   }
    1219         [ -  + ]:    1537023 :   if (p == 2) return Flx_root_mod_2(f);
    1220                 :    1537023 :   return gerepileuptoleaf(av, Flx_roots_i(Flx_normalize(f, p), p));
    1221                 :            : }
    1222                 :            : 
    1223                 :            : /* assume x reduced mod p, monic. */
    1224                 :            : static int
    1225                 :      24885 : Flx_quad_factortype(GEN x, ulong p)
    1226                 :            : {
    1227                 :      24885 :   ulong b = x[3], c = x[2];
    1228                 :      24885 :   return krouu(Fl_disc_bc(b, c, p), p);
    1229                 :            : }
    1230                 :            : static GEN
    1231                 :          0 : Flx_is_irred_2(GEN f, ulong p, long d)
    1232                 :            : {
    1233         [ #  # ]:          0 :   if (!d) return NULL;
    1234         [ #  # ]:          0 :   if (d == 1) return gen_1;
    1235         [ #  # ]:          0 :   return Flx_quad_factortype(f, p) == -1? gen_1: NULL;
    1236                 :            : }
    1237                 :            : static GEN
    1238                 :      24899 : Flx_degfact_2(GEN f, ulong p, long d)
    1239                 :            : {
    1240         [ -  + ]:      24899 :   if (!d) return trivial_fact();
    1241         [ +  + ]:      24899 :   if (d == 1) return mkvec2(mkvecsmall(1), mkvecsmall(1));
    1242      [ +  +  + ]:      24885 :   switch(Flx_quad_factortype(f, p)) {
    1243                 :      11452 :     case 1: return mkvec2(mkvecsmall2(1,1), mkvecsmall2(1,1));
    1244                 :      12719 :     case -1:return mkvec2(mkvecsmall(2), mkvecsmall(1));
    1245                 :      24899 :     default: return mkvec2(mkvecsmall(1), mkvecsmall(2));
    1246                 :            :   }
    1247                 :            : }
    1248                 :            : /* p > 2 */
    1249                 :            : static GEN
    1250                 :     213284 : Flx_factor_2(GEN f, ulong p, long d)
    1251                 :            : {
    1252                 :            :   ulong r, s;
    1253                 :            :   GEN R,S;
    1254                 :     213284 :   long v = f[1];
    1255         [ -  + ]:     213284 :   if (d < 0) pari_err(e_ROOTS0,"Flx_factor_2");
    1256         [ +  + ]:     213284 :   if (!d) return mkvec2(cgetg(1,t_COL), cgetg(1,t_VECSMALL));
    1257         [ +  + ]:     199524 :   if (d == 1) return mkvec2(mkcol(f), mkvecsmall(1));
    1258                 :     130535 :   r = Flx_quad_root(f, p, 1);
    1259         [ +  + ]:     130535 :   if (r==p) return mkvec2(mkcol(f), mkvecsmall(1));
    1260                 :      89286 :   s = Flx_otherroot(f, r, p);
    1261                 :      89286 :   r = Fl_neg(r, p);
    1262                 :      89286 :   s = Fl_neg(s, p);
    1263         [ +  + ]:      89286 :   if (s < r) lswap(s,r);
    1264                 :      89286 :   R = mkvecsmall3(v,r,1);
    1265         [ +  + ]:      89286 :   if (s == r) return mkvec2(mkcol(R), mkvecsmall(2));
    1266                 :      75461 :   S = mkvecsmall3(v,s,1);
    1267                 :     213284 :   return mkvec2(mkcol2(R,S), mkvecsmall2(1,1));
    1268                 :            : }
    1269                 :            : static GEN
    1270                 :     238183 : Flx_factor_deg2(GEN f, ulong p, long d, long flag)
    1271                 :            : {
    1272      [ -  +  + ]:     238183 :   switch(flag) {
    1273                 :          0 :     case 2: return Flx_is_irred_2(f, p, d);
    1274                 :      24899 :     case 1: return Flx_degfact_2(f, p, d);
    1275                 :     238183 :     default: return Flx_factor_2(f, p, d);
    1276                 :            :   }
    1277                 :            : }
    1278                 :            : 
    1279                 :            : static GEN
    1280                 :       9856 : F2x_factcantor_i(GEN f, long flag)
    1281                 :            : {
    1282                 :       9856 :   long j, e, nbfact, d = F2x_degree(f);
    1283                 :            :   ulong k;
    1284                 :            :   GEN X, E, f2, g, g1, u, v, y, t;
    1285                 :            : 
    1286         [ +  + ]:       9856 :   if (d <= 2) return F2x_factor_deg2(f, d, flag);
    1287                 :            :   /* to hold factors and exponents */
    1288         [ +  + ]:       9184 :   t = flag ? cgetg(d+1,t_VECSMALL): cgetg(d+1,t_VEC);
    1289                 :       9184 :   E = cgetg(d+1, t_VECSMALL);
    1290                 :       9184 :   X = polx_F2x(f[1]);
    1291                 :       9184 :   e = nbfact = 1;
    1292                 :            :   for(;;)
    1293                 :            :   {
    1294                 :      12348 :     f2 = F2x_gcd(f,F2x_deriv(f));
    1295 [ +  + ][ +  + ]:      12348 :     if (flag == 2 && F2x_degree(f2) > 0) return NULL;
    1296                 :      12306 :     g1 = F2x_div(f,f2);
    1297                 :      12306 :     k = 0;
    1298         [ +  + ]:      24766 :     while (F2x_degree(g1)>0)
    1299                 :            :     {
    1300                 :            :       pari_sp av;
    1301                 :            :       long du, dg, dg1;
    1302         [ +  + ]:      12551 :       k++; if (k%2==0) { k++; f2 = F2x_div(f2,g1); }
    1303                 :      12551 :       u = g1; g1 = F2x_gcd(f2,g1);
    1304                 :      12551 :       du = F2x_degree(u);
    1305                 :      12551 :       dg1 = F2x_degree(g1);
    1306         [ +  + ]:      12551 :       if (dg1>0)
    1307                 :            :       {
    1308                 :        770 :         f2= F2x_div(f2,g1);
    1309         [ +  + ]:        770 :         if (du == dg1) continue;
    1310                 :        462 :         u = F2x_div( u,g1);
    1311                 :        462 :         du -= dg1;
    1312                 :            :       }
    1313                 :            :       /* here u is square-free (product of irred. of multiplicity e * k) */
    1314                 :      12243 :       v = X;
    1315                 :      12243 :       av = avma;
    1316         [ +  + ]:      66458 :       for (d=1; d <= du>>1; d++)
    1317                 :            :       {
    1318                 :      54306 :         v = F2xq_sqr(v, u);
    1319                 :      54306 :         g = F2x_gcd(F2x_add(v, X), u);
    1320                 :      54306 :         dg = F2x_degree(g);
    1321         [ +  + ]:      54306 :         if (dg <= 0) {avma = (pari_sp)v; v = gerepileuptoleaf(av,v); continue;}
    1322                 :            :         /* g is a product of irred. pols, all of which have degree d */
    1323                 :      16037 :         j = nbfact+dg/d;
    1324         [ +  + ]:      16037 :         if (flag)
    1325                 :            :         {
    1326         [ +  + ]:        560 :           if (flag == 2) return NULL;
    1327         [ +  + ]:       1064 :           for ( ; nbfact<j; nbfact++) { t[nbfact]=d; E[nbfact]=e*k; }
    1328                 :            :         }
    1329                 :            :         else
    1330                 :            :         {
    1331                 :      15477 :           gel(t,nbfact) = g;
    1332                 :      15477 :           F2x_split(2,&gel(t,nbfact),d);
    1333         [ +  + ]:      33159 :           for (; nbfact<j; nbfact++) E[nbfact]=e*k;
    1334                 :            :         }
    1335                 :      15946 :         du -= dg;
    1336                 :      15946 :         u = F2x_div(u,g);
    1337                 :      15946 :         v = F2x_rem(v,u);
    1338                 :      15946 :         av = avma;
    1339                 :            :       }
    1340         [ +  + ]:      12152 :       if (du)
    1341                 :            :       {
    1342         [ +  + ]:      10871 :         if (flag) t[nbfact] = du;
    1343                 :       9954 :         else  gel(t,nbfact) = u;
    1344                 :      10871 :         E[nbfact++]=e*k;
    1345                 :            :       }
    1346                 :            :     }
    1347         [ +  + ]:      12215 :     if (F2x_degree(f2)==0) break;
    1348                 :       3164 :     e <<=1; f = F2x_sqrt(f2);
    1349                 :       3164 :   }
    1350         [ +  + ]:       9051 :   if (flag == 2) return gen_1; /* irreducible */
    1351                 :       9044 :   setlg(t, nbfact);
    1352                 :       9044 :   setlg(E, nbfact); y = mkvec2(t, E);
    1353                 :       9856 :   return flag ? sort_factor(y, (void*)cmpGuGu, cmp_nodata)
    1354         [ +  + ]:       9044 :               : sort_factor_pol(y, cmpGuGu);
    1355                 :            : }
    1356                 :            : GEN
    1357                 :       7322 : F2x_factcantor(GEN f, long flag)
    1358                 :            : {
    1359                 :       7322 :   pari_sp av = avma;
    1360                 :       7322 :   GEN z = F2x_factcantor_i(f, flag);
    1361         [ -  + ]:       7322 :   if (flag == 2) { avma = av; return z; }
    1362                 :       7322 :   return gerepilecopy(av, z);
    1363                 :            : }
    1364                 :            : 
    1365                 :            : int
    1366                 :        140 : F2x_is_irred(GEN f) { return !!F2x_factcantor_i(f,2); }
    1367                 :            : 
    1368                 :            : void
    1369                 :        777 : F2xV_to_FlxV_inplace(GEN v)
    1370                 :            : {
    1371                 :            :   long i;
    1372         [ +  + ]:       2366 :   for(i=1;i<lg(v);i++) gel(v,i)= F2x_to_Flx(gel(v,i));
    1373                 :        777 : }
    1374                 :            : void
    1375                 :     396100 : FlxV_to_ZXV_inplace(GEN v)
    1376                 :            : {
    1377                 :            :   long i;
    1378         [ +  + ]:    1050421 :   for(i=1;i<lg(v);i++) gel(v,i)= Flx_to_ZX(gel(v,i));
    1379                 :     396100 : }
    1380                 :            : void
    1381                 :      76830 : F2xV_to_ZXV_inplace(GEN v)
    1382                 :            : {
    1383                 :            :   long i;
    1384         [ +  + ]:     161302 :   for(i=1;i<lg(v);i++) gel(v,i)= F2x_to_ZX(gel(v,i));
    1385                 :      76830 : }
    1386                 :            : 
    1387                 :            : /* factor f mod pp.
    1388                 :            :  * flag = 1: return the degrees, not the factors
    1389                 :            :  * flag = 2: return NULL if f is not irreducible */
    1390                 :            : static GEN
    1391                 :     189125 : Flx_factcantor_i(GEN f, ulong p, long flag)
    1392                 :            : {
    1393                 :     189125 :   long j, e, nbfact, d = degpol(f);
    1394                 :            :   ulong k;
    1395                 :            :   GEN X, E, f2, g, g1, u, v, q, y, t;
    1396         [ +  + ]:     189125 :   if (p==2) { /*We need to handle 2 specially */
    1397                 :       2373 :     GEN F = F2x_factcantor_i(Flx_to_F2x(f),flag);
    1398         [ +  + ]:       2373 :     if (flag==0) F2xV_to_FlxV_inplace(gel(F,1));
    1399                 :       2373 :     return F;
    1400                 :            :   }
    1401                 :            :   /* Now we assume p odd */
    1402         [ +  + ]:     186752 :   if (d <= 2) return Flx_factor_deg2(f, p, d, flag);
    1403                 :            : 
    1404                 :            :   /* to hold factors and exponents */
    1405         [ +  + ]:     161510 :   t = cgetg(d+1, flag? t_VECSMALL: t_VEC);
    1406                 :     161510 :   E = cgetg(d+1, t_VECSMALL);
    1407                 :     161510 :   X = polx_Flx(f[1]);
    1408                 :     161510 :   e = nbfact = 1;
    1409                 :            :   for(;;)
    1410                 :            :   {
    1411                 :     161846 :     f2 = Flx_gcd(f,Flx_deriv(f,p), p);
    1412 [ +  + ][ +  + ]:     161846 :     if (flag == 2 && degpol(f2) > 0) return NULL;
    1413                 :     161706 :     g1 = Flx_div(f,f2,p);
    1414                 :     161706 :     k = 0;
    1415         [ +  + ]:     327703 :     while (degpol(g1)>0)
    1416                 :            :     {
    1417                 :            :       pari_sp av;
    1418                 :            :       long du,dg;
    1419         [ +  + ]:     166417 :       k++; if (k%p==0) { k++; f2 = Flx_div(f2,g1,p); }
    1420                 :     166417 :       u = g1; g1 = Flx_gcd(f2,g1, p);
    1421         [ +  + ]:     166417 :       if (degpol(g1)>0)
    1422                 :            :       {
    1423                 :       4900 :         u = Flx_div( u,g1,p);
    1424                 :       4900 :         f2= Flx_div(f2,g1,p);
    1425                 :            :       }
    1426                 :     166417 :       du = degpol(u);
    1427         [ +  + ]:     166417 :       if (du <= 0) continue;
    1428                 :            : 
    1429                 :            :       /* here u is square-free (product of irred. of multiplicity e * k) */
    1430                 :     164639 :       v=X;
    1431                 :     164639 :       av = avma;
    1432         [ +  + ]:     557548 :       for (d=1; d <= du>>1; d++)
    1433                 :            :       {
    1434                 :     393329 :         v = Flxq_powu(v, p, u, p);
    1435                 :     393329 :         g = Flx_gcd(Flx_sub(v, X, p), u, p);
    1436                 :     393329 :         dg = degpol(g);
    1437         [ +  + ]:     393329 :         if (dg <= 0) {avma = (pari_sp)v; v = gerepileuptoleaf(av,v); continue;}
    1438                 :            :         /* g is a product of irred. pols, all of which have degree d */
    1439                 :     156564 :         j = nbfact+dg/d;
    1440         [ +  + ]:     156564 :         if (flag)
    1441                 :            :         {
    1442         [ +  + ]:     125351 :           if (flag == 2) return NULL;
    1443         [ +  + ]:     419746 :           for ( ; nbfact<j; nbfact++) { t[nbfact]=d; E[nbfact]=e*k; }
    1444                 :            :         }
    1445                 :            :         else
    1446                 :            :         {
    1447                 :      31213 :           GEN pd = powuu(p, d);
    1448                 :            :           long r;
    1449                 :      31213 :           g = Flx_normalize(g, p);
    1450                 :      31213 :           gel(t,nbfact) = g; q = subis(pd,1);
    1451                 :      31213 :           r = vali(q); q = shifti(pd,-r);
    1452                 :      31213 :           Flx_split(&gel(t,nbfact),d,p,q,r);
    1453         [ +  + ]:     114905 :           for (; nbfact<j; nbfact++) E[nbfact]=e*k;
    1454                 :            :         }
    1455                 :     156144 :         du -= dg;
    1456                 :     156144 :         u = Flx_div(u,g,p);
    1457                 :     156144 :         v = Flx_rem(v,u,p);
    1458                 :     156144 :         av = avma;
    1459                 :            :       }
    1460         [ +  + ]:     164219 :       if (du)
    1461                 :            :       {
    1462         [ +  + ]:      74195 :         if (flag) t[nbfact] = du;
    1463                 :      12810 :         else  gel(t,nbfact) = Flx_normalize(u, p);
    1464                 :      74195 :         E[nbfact++]=e*k;
    1465                 :            :       }
    1466                 :            :     }
    1467         [ +  + ]:     161286 :     if (degpol(f2)==0) break;
    1468                 :        336 :     e *= p; f = Flx_deflate(f2, p);
    1469                 :        336 :   }
    1470         [ +  + ]:     160950 :   if (flag == 2) return gen_1; /* irreducible */
    1471                 :     160929 :   setlg(t, nbfact);
    1472                 :     160929 :   setlg(E, nbfact); y = mkvec2(t, E);
    1473                 :     189125 :   return flag ? sort_factor(y, (void*)cmpGuGu, cmp_nodata)
    1474         [ +  + ]:     160929 :               : sort_factor_pol(y, cmpGuGu);
    1475                 :            : }
    1476                 :            : GEN
    1477                 :       7280 : Flx_factcantor(GEN f, ulong p, long flag)
    1478                 :            : {
    1479                 :       7280 :   pari_sp av = avma;
    1480                 :       7280 :   GEN z = Flx_factcantor_i(Flx_normalize(f,p),p,flag);
    1481         [ -  + ]:       7280 :   if (flag == 2) { avma = av; return z; }
    1482                 :       7280 :   return gerepilecopy(av, z);
    1483                 :            : }
    1484                 :            : GEN
    1485                 :     161237 : Flx_degfact(GEN f, ulong p)
    1486                 :            : {
    1487                 :     161237 :   pari_sp av = avma;
    1488                 :     161237 :   GEN z = Flx_factcantor_i(Flx_normalize(f,p),p,1);
    1489                 :     161237 :   return gerepilecopy(av, z);
    1490                 :            : }
    1491                 :            : int
    1492                 :        581 : Flx_is_irred(GEN f, ulong p) { return !!Flx_factcantor_i(f,p,2); }
    1493                 :            : 
    1494                 :            : /* factor f (FpX or Flx) mod pp.
    1495                 :            :  * flag = 1: return the degrees, not the factors
    1496                 :            :  * flag = 2: return NULL if f is not irreducible.
    1497                 :            :  * Not gerepile-safe */
    1498                 :            : static GEN
    1499                 :         77 : FpX_factcantor_i(GEN f, GEN pp, long flag)
    1500                 :            : {
    1501                 :         77 :   long j, nbfact, d = degpol(f);
    1502                 :            :   ulong k;
    1503                 :            :   GEN X, E,y,f2,g,g1,v,q;
    1504                 :            :   GEN t;
    1505         [ +  + ]:         77 :   if (typ(f) == t_VECSMALL)
    1506                 :            :   { /* lgefint(pp) = 3 */
    1507                 :            :     GEN F;
    1508                 :         42 :     ulong p = pp[2];
    1509         [ +  + ]:         42 :     if (p==2) {
    1510                 :         21 :       F = F2x_factcantor_i(Flx_to_F2x(f),flag);
    1511         [ +  + ]:         21 :       if (flag==0) F2xV_to_ZXV_inplace(gel(F,1));
    1512                 :            :     } else {
    1513                 :         21 :       F = Flx_factcantor_i(f,p,flag);
    1514         [ +  + ]:         21 :       if (flag==0) FlxV_to_ZXV_inplace(gel(F,1));
    1515                 :            :     }
    1516                 :         42 :     return F;
    1517                 :            :   }
    1518                 :            :   /*Now, we can assume that p is large and odd*/
    1519         [ +  + ]:         35 :   if (d <= 2) return FpX_factor_deg2(f,pp,d,flag);
    1520                 :            : 
    1521                 :            :   /* to hold factors and exponents */
    1522         [ -  + ]:          7 :   t = cgetg(d+1, flag? t_VECSMALL: t_VEC);
    1523                 :          7 :   E = cgetg(d+1, t_VECSMALL);
    1524                 :          7 :   X = pol_x(varn(f)); nbfact = 1;
    1525                 :          7 :   f2 = FpX_gcd(f,ZX_deriv(f), pp);
    1526 [ -  + ][ #  # ]:          7 :   if (flag == 2 && degpol(f2)) return NULL;
    1527         [ +  - ]:          7 :   g1 = degpol(f2)? FpX_div(f,f2,pp): f; /* squarefree */
    1528                 :          7 :   k = 0;
    1529         [ +  + ]:         21 :   while (degpol(g1)>0)
    1530                 :            :   {
    1531                 :            :     long du,dg;
    1532                 :            :     GEN u, S;
    1533                 :         14 :     k++;
    1534                 :         14 :     u = g1; g1 = FpX_gcd(f2,g1, pp);
    1535         [ +  + ]:         14 :     if (degpol(g1)>0)
    1536                 :            :     {
    1537                 :          7 :       u = FpX_div( u,g1,pp);
    1538                 :          7 :       f2= FpX_div(f2,g1,pp);
    1539                 :            :     }
    1540                 :         14 :     du = degpol(u);
    1541         [ -  + ]:         14 :     if (du <= 0) continue;
    1542                 :            : 
    1543                 :            :     /* here u is square-free (product of irred. of multiplicity e * k) */
    1544                 :         14 :     v=X;
    1545         [ +  + ]:         14 :     S = du==1 ?  cgetg(1, t_VEC): FpXQ_powers(FpX_Frobenius(u, pp), du-1, u, pp);
    1546         [ +  + ]:         28 :     for (d=1; d <= du>>1; d++)
    1547                 :            :     {
    1548                 :         14 :       v = FpX_FpXQV_eval(v, S, u, pp);
    1549                 :         14 :       g = FpX_gcd(ZX_sub(v, X), u, pp);
    1550                 :         14 :       dg = degpol(g);
    1551         [ -  + ]:         14 :       if (dg <= 0) continue;
    1552                 :            : 
    1553                 :            :       /* g is a product of irred. pols, all of which have degree d */
    1554                 :         14 :       j = nbfact+dg/d;
    1555         [ -  + ]:         14 :       if (flag)
    1556                 :            :       {
    1557         [ #  # ]:          0 :         if (flag == 2) return NULL;
    1558         [ #  # ]:          0 :         for ( ; nbfact<j; nbfact++) { t[nbfact]=d; E[nbfact]=k; }
    1559                 :            :       }
    1560                 :            :       else
    1561                 :            :       {
    1562                 :         14 :         GEN pd = powiu(pp,d);
    1563                 :            :         long r;
    1564                 :         14 :         g = FpX_normalize(g, pp);
    1565                 :         14 :         gel(t,nbfact) = g; q = subis(pd,1);
    1566                 :         14 :         r = vali(q); q = shifti(q,-r);
    1567                 :         14 :         FpX_split(&gel(t,nbfact),d,pp,q,r);
    1568         [ +  + ]:        238 :         for (; nbfact<j; nbfact++) E[nbfact]=k;
    1569                 :            :       }
    1570                 :         14 :       du -= dg;
    1571                 :         14 :       u = FpX_div(u,g,pp);
    1572                 :         14 :       v = FpX_rem(v,u,pp);
    1573                 :            :     }
    1574         [ +  + ]:         14 :     if (du)
    1575                 :            :     {
    1576         [ -  + ]:          7 :       if (flag) t[nbfact] = du;
    1577                 :          7 :       else gel(t,nbfact) = FpX_normalize(u, pp);
    1578                 :          7 :       E[nbfact++]=k;
    1579                 :            :     }
    1580                 :            :   }
    1581         [ -  + ]:          7 :   if (flag == 2) return gen_1; /* irreducible */
    1582                 :          7 :   setlg(t, nbfact);
    1583                 :          7 :   setlg(E, nbfact); y = mkvec2(t, E);
    1584                 :         77 :   return flag ? sort_factor(y, (void*)&cmpGuGu, cmp_nodata)
    1585         [ -  + ]:          7 :               : sort_factor_pol(y, cmpii);
    1586                 :            : }
    1587                 :            : GEN
    1588                 :          0 : FpX_factcantor(GEN f, GEN pp, long flag)
    1589                 :            : {
    1590                 :          0 :   pari_sp av = avma;
    1591                 :            :   GEN z;
    1592                 :          0 :   ZX_factmod_init(&f,pp);
    1593                 :          0 :   z = FpX_factcantor_i(f,pp,flag);
    1594         [ #  # ]:          0 :   if (flag == 2) { avma = av; return z; }
    1595                 :          0 :   return gerepilecopy(av, z);
    1596                 :            : }
    1597                 :            : 
    1598                 :            : static GEN
    1599                 :        147 : factmod_aux(GEN f, GEN p, GEN (*Factor)(GEN,GEN,long), long flag)
    1600                 :            : {
    1601                 :        147 :   pari_sp av = avma;
    1602                 :            :   long j, nbfact;
    1603                 :            :   GEN z, y, t, E, u, v;
    1604                 :            : 
    1605                 :        147 :   factmod_init(&f, p);
    1606      [ +  +  + ]:        147 :   switch(lg(f))
    1607                 :            :   {
    1608                 :         14 :     case 3: avma = av; return trivial_fact();
    1609                 :         14 :     case 2: return gerepileupto(av, zero_fact_intmod(f, p));
    1610                 :            :   }
    1611                 :        119 :   z = Factor(f,p,flag); t = gel(z,1); E = gel(z,2);
    1612                 :        119 :   y = cgetg(3, t_MAT); nbfact = lg(t);
    1613                 :        119 :   u = cgetg(nbfact,t_COL); gel(y,1) = u;
    1614                 :        119 :   v = cgetg(nbfact,t_COL); gel(y,2) = v;
    1615         [ +  + ]:        119 :   if (flag)
    1616         [ +  + ]:         84 :     for (j=1; j<nbfact; j++)
    1617                 :            :     {
    1618                 :         56 :       gel(u,j) = utoi(uel(t,j));
    1619                 :         56 :       gel(v,j) = utoi(uel(E,j));
    1620                 :            :     }
    1621                 :            :   else
    1622         [ +  + ]:       7672 :     for (j=1; j<nbfact; j++)
    1623                 :            :     {
    1624                 :       7581 :       gel(u,j) = FpX_to_mod(gel(t,j), p);
    1625                 :       7581 :       gel(v,j) = utoi(uel(E,j));
    1626                 :            :     }
    1627                 :        147 :   return gerepileupto(av, y);
    1628                 :            : }
    1629                 :            : GEN
    1630                 :         77 : factcantor0(GEN f, GEN p, long flag)
    1631                 :         77 : { return factmod_aux(f, p, &FpX_factcantor_i, flag); }
    1632                 :            : GEN
    1633                 :         70 : factmod(GEN f, GEN p)
    1634                 :         70 : { return factmod_aux(f, p, &FpX_Berlekamp_i, 0); }
    1635                 :            : 
    1636                 :            : /* Use this function when you think f is reducible, and that there are lots of
    1637                 :            :  * factors. If you believe f has few factors, use FpX_nbfact(f,p)==1 instead */
    1638                 :            : int
    1639                 :         14 : FpX_is_irred(GEN f, GEN p) {
    1640                 :         14 :   ZX_factmod_init(&f,p);
    1641                 :         14 :   return !!FpX_factcantor_i(f,p,2);
    1642                 :            : }
    1643                 :            : GEN
    1644                 :          0 : FpX_degfact(GEN f, GEN p) {
    1645                 :          0 :   pari_sp av = avma;
    1646                 :            :   GEN z;
    1647                 :          0 :   ZX_factmod_init(&f,p);
    1648                 :          0 :   z = FpX_factcantor_i(f,p,1);
    1649                 :          0 :   return gerepilecopy(av, z);
    1650                 :            : }
    1651                 :            : GEN
    1652                 :         49 : factcantor(GEN f, GEN p) { return factcantor0(f,p,0); }
    1653                 :            : GEN
    1654                 :         28 : simplefactmod(GEN f, GEN p) { return factcantor0(f,p,1); }
    1655                 :            : 
    1656                 :            : /* set x <-- x + c*y mod p */
    1657                 :            : /* x is not required to be normalized.*/
    1658                 :            : static void
    1659                 :     504527 : Flx_addmul_inplace(GEN gx, GEN gy, ulong c, ulong p)
    1660                 :            : {
    1661                 :            :   long i, lx, ly;
    1662                 :     504527 :   ulong *x=(ulong *)gx;
    1663                 :     504527 :   ulong *y=(ulong *)gy;
    1664         [ +  + ]:     991107 :   if (!c) return;
    1665                 :     486580 :   lx = lg(gx);
    1666                 :     486580 :   ly = lg(gy);
    1667         [ -  + ]:     486580 :   if (lx<ly) pari_err_BUG("lx<ly in Flx_addmul_inplace");
    1668         [ +  + ]:     486580 :   if (SMALL_ULONG(p))
    1669         [ +  + ]:    3562483 :     for (i=2; i<ly;  i++) x[i] = (x[i] + c*y[i]) % p;
    1670                 :            :   else
    1671         [ +  + ]:      16423 :     for (i=2; i<ly;  i++) x[i] = Fl_add(x[i], Fl_mul(c,y[i],p),p);
    1672                 :            : }
    1673                 :            : 
    1674                 :            : /* return a random polynomial in F_q[v], degree < d1 */
    1675                 :            : GEN
    1676                 :      11412 : FqX_rand(long d1, long v, GEN T, GEN p)
    1677                 :            : {
    1678                 :      11412 :   long i, d = d1+2, k = get_FpX_degree(T), w = get_FpX_var(T);
    1679                 :      11412 :   GEN y = cgetg(d,t_POL); y[1] = evalsigne(1) | evalvarn(v);
    1680         [ +  + ]:      55594 :   for (i=2; i<d; i++) gel(y,i) = random_FpX(k, w, p);
    1681                 :      11412 :   (void)normalizepol_lg(y,d); return y;
    1682                 :            : }
    1683                 :            : 
    1684                 :            : #define set_irred(i) { if ((i)>ir) swap(t[i],t[ir]); ir++;}
    1685                 :            : /* assume x1 != 0 */
    1686                 :            : static GEN
    1687                 :      97738 : deg1_Flx(ulong x1, ulong x0, ulong sv)
    1688                 :            : {
    1689                 :      97738 :   return mkvecsmall3(sv, x0, x1);
    1690                 :            : }
    1691                 :            : 
    1692                 :            : long
    1693                 :      43853 : F2x_split_Berlekamp(GEN *t)
    1694                 :            : {
    1695                 :      43853 :   GEN u = *t, a, b, vker;
    1696                 :      43853 :   long lb, d, i, ir, L, la, sv = u[1], du = F2x_degree(u);
    1697                 :            : 
    1698         [ +  + ]:      43853 :   if (du == 1) return 1;
    1699         [ +  + ]:      28112 :   if (du == 2)
    1700                 :            :   {
    1701         [ -  + ]:       7273 :     if (F2x_quad_factortype(u) == 1) /* 0 is a root: shouldn't occur */
    1702                 :            :     {
    1703                 :          0 :       t[0] = mkvecsmall2(sv, 2);
    1704                 :          0 :       t[1] = mkvecsmall2(sv, 3);
    1705                 :          0 :       return 2;
    1706                 :            :     }
    1707                 :       7273 :     return 1;
    1708                 :            :   }
    1709                 :            : 
    1710                 :      20839 :   vker = F2x_Berlekamp_ker(u);
    1711                 :      20839 :   lb = lgcols(vker);
    1712                 :      20839 :   d = lg(vker)-1;
    1713                 :      20839 :   ir = 0;
    1714                 :            :   /* t[i] irreducible for i < ir, still to be treated for i < L */
    1715         [ +  + ]:      26432 :   for (L=1; L<d; )
    1716                 :            :   {
    1717                 :            :     GEN pol;
    1718         [ +  + ]:       5593 :     if (d == 2)
    1719                 :       5306 :       pol = F2v_to_F2x(gel(vker,2), sv);
    1720                 :            :     else
    1721                 :            :     {
    1722                 :        287 :       GEN v = zero_zv(lb);
    1723                 :        287 :       v[1] = du;
    1724                 :        287 :       v[2] = random_Fl(2); /*Assume vker[1]=1*/
    1725         [ +  + ]:        903 :       for (i=2; i<=d; i++)
    1726         [ +  + ]:        616 :         if (random_Fl(2)) F2v_add_inplace(v, gel(vker,i));
    1727                 :        287 :       pol = F2v_to_F2x(v, sv);
    1728                 :            :     }
    1729 [ +  + ][ +  + ]:      11424 :     for (i=ir; i<L && L<d; i++)
    1730                 :            :     {
    1731                 :       5831 :       a = t[i]; la = F2x_degree(a);
    1732 [ +  + ][ +  + ]:       5831 :       if (la == 1) { set_irred(i); }
    1733         [ -  + ]:       5810 :       else if (la == 2)
    1734                 :            :       {
    1735         [ #  # ]:          0 :         if (F2x_quad_factortype(a) == 1) /* 0 is a root: shouldn't occur */
    1736                 :            :         {
    1737                 :          0 :           t[i] = mkvecsmall2(sv, 2);
    1738                 :          0 :           t[L] = mkvecsmall2(sv, 3); L++;
    1739                 :            :         }
    1740         [ #  # ]:          0 :         set_irred(i);
    1741                 :            :       }
    1742                 :            :       else
    1743                 :            :       {
    1744                 :       5810 :         pari_sp av = avma;
    1745                 :            :         long lb;
    1746                 :       5810 :         b = F2x_rem(pol, a);
    1747         [ +  + ]:       5810 :         if (F2x_degree(b) <= 0) { avma=av; continue; }
    1748                 :       5481 :         b = F2x_gcd(a,b); lb = F2x_degree(b);
    1749 [ +  - ][ +  - ]:       5481 :         if (lb && lb < la)
    1750                 :            :         {
    1751                 :       5481 :           t[L] = F2x_div(a,b);
    1752                 :       5481 :           t[i]= b; L++;
    1753                 :            :         }
    1754                 :          0 :         else avma = av;
    1755                 :            :       }
    1756                 :            :     }
    1757                 :            :   }
    1758                 :      43853 :   return d;
    1759                 :            : }
    1760                 :            : 
    1761                 :            : /* p != 2 */
    1762                 :            : long
    1763                 :     200626 : Flx_split_Berlekamp(GEN *t, ulong p)
    1764                 :            : {
    1765                 :     200626 :   GEN u = *t, a,b,vker;
    1766                 :     200626 :   long d, i, ir, L, la, lb, sv = u[1];
    1767                 :     200626 :   long l = lg(u);
    1768                 :            :   ulong po2;
    1769                 :            : 
    1770         [ -  + ]:     200626 :   if (p == 2)
    1771                 :            :   {
    1772                 :          0 :     *t = Flx_to_F2x(*t);
    1773                 :          0 :     d = F2x_split_Berlekamp(t);
    1774         [ #  # ]:          0 :     for (i = 1; i <= d; i++) t[i] = F2x_to_Flx(t[i]);
    1775                 :          0 :     return d;
    1776                 :            :   }
    1777                 :     200626 :   la = degpol(u);
    1778         [ +  + ]:     200626 :   if (la == 1) return 1;
    1779         [ +  + ]:     186144 :   if (la == 2)
    1780                 :            :   {
    1781                 :      11605 :     ulong r = Flx_quad_root(u,p,1);
    1782         [ +  + ]:      11605 :     if (r != p)
    1783                 :            :     {
    1784                 :       5321 :       t[0] = deg1_Flx(1, p - r, sv); r = Flx_otherroot(u,r,p);
    1785                 :       5321 :       t[1] = deg1_Flx(1, p - r, sv);
    1786                 :       5321 :       return 2;
    1787                 :            :     }
    1788                 :       6284 :     return 1;
    1789                 :            :   }
    1790                 :            : 
    1791                 :     174539 :   vker = Flx_Berlekamp_ker(u,p);
    1792                 :     174539 :   vker = Flm_to_FlxV(vker, sv);
    1793                 :     174539 :   d = lg(vker)-1;
    1794                 :     174539 :   po2 = p >> 1; /* (p-1) / 2 */
    1795                 :     174539 :   ir = 0;
    1796                 :            :   /* t[i] irreducible for i < ir, still to be treated for i < L */
    1797         [ +  + ]:     425566 :   for (L=1; L<d; )
    1798                 :            :   {
    1799                 :     251027 :     GEN pol = zero_zv(l-2);
    1800                 :     251027 :     pol[1] = sv;
    1801                 :     251027 :     pol[2] = random_Fl(p); /*Assume vker[1]=1*/
    1802         [ +  + ]:     755554 :     for (i=2; i<=d; i++)
    1803                 :     504527 :       Flx_addmul_inplace(pol, gel(vker,i), random_Fl(p), p);
    1804                 :     251027 :     (void)Flx_renormalize(pol,l-1);
    1805                 :            : 
    1806 [ +  + ][ +  + ]:     606899 :     for (i=ir; i<L && L<d; i++)
    1807                 :            :     {
    1808                 :     355872 :       a = t[i]; la = degpol(a);
    1809 [ +  + ][ +  + ]:     355872 :       if (la == 1) { set_irred(i); }
    1810         [ +  + ]:     322216 :       else if (la == 2)
    1811                 :            :       {
    1812                 :      53819 :         ulong r = Flx_quad_root(a,p,1);
    1813         [ +  + ]:      53819 :         if (r != p)
    1814                 :            :         {
    1815                 :      43548 :           t[i] = deg1_Flx(1, p - r, sv); r = Flx_otherroot(a,r,p);
    1816                 :      43548 :           t[L] = deg1_Flx(1, p - r, sv); L++;
    1817                 :            :         }
    1818         [ +  + ]:      53819 :         set_irred(i);
    1819                 :            :       }
    1820                 :            :       else
    1821                 :            :       {
    1822                 :     268397 :         pari_sp av = avma;
    1823                 :     268397 :         b = Flx_rem(pol, a, p);
    1824         [ +  + ]:     268397 :         if (degpol(b) <= 0) { avma=av; continue; }
    1825                 :     250805 :         b = Flx_Fl_add(Flxq_powu(b,po2, a,p), p-1, p);
    1826                 :     250805 :         b = Flx_gcd(a,b, p); lb = degpol(b);
    1827 [ +  + ][ +  + ]:     250805 :         if (lb && lb < la)
    1828                 :            :         {
    1829                 :     144763 :           b = Flx_normalize(b, p);
    1830                 :     144763 :           t[L] = Flx_div(a,b,p);
    1831                 :     144763 :           t[i]= b; L++;
    1832                 :            :         }
    1833                 :     106042 :         else avma = av;
    1834                 :            :       }
    1835                 :            :     }
    1836                 :            :   }
    1837                 :     200626 :   return d;
    1838                 :            : }
    1839                 :            : 
    1840                 :            : long
    1841                 :        565 : FpX_split_Berlekamp(GEN *t, GEN p)
    1842                 :            : {
    1843                 :        565 :   GEN u = *t, a,b,po2,vker;
    1844                 :        565 :   long d, i, ir, L, la, lb, vu = varn(u);
    1845         [ +  + ]:        565 :   if (lgefint(p) == 3)
    1846                 :            :   {
    1847                 :        504 :     ulong up = p[2];
    1848         [ -  + ]:        504 :     if (up == 2)
    1849                 :            :     {
    1850                 :          0 :       *t = ZX_to_F2x(*t);
    1851                 :          0 :       d = F2x_split_Berlekamp(t);
    1852         [ #  # ]:          0 :       for (i = 0; i < d; i++) t[i] = F2x_to_ZX(t[i]);
    1853                 :            :     }
    1854                 :            :     else
    1855                 :            :     {
    1856                 :        504 :       *t = ZX_to_Flx(*t, up);
    1857                 :        504 :       d = Flx_split_Berlekamp(t, up);
    1858         [ +  + ]:       3346 :       for (i = 0; i < d; i++) t[i] = Flx_to_ZX(t[i]);
    1859                 :            :     }
    1860                 :        504 :     return d;
    1861                 :            :   }
    1862                 :         61 :   la = degpol(u);
    1863         [ +  + ]:         61 :   if (la == 1) return 1;
    1864         [ +  + ]:         56 :   if (la == 2)
    1865                 :            :   {
    1866                 :          2 :     GEN r = FpX_quad_root(u,p,1);
    1867         [ -  + ]:          2 :     if (r)
    1868                 :            :     {
    1869                 :          0 :       t[0] = deg1pol_shallow(gen_1, subii(p,r), vu); r = FpX_otherroot(u,r,p);
    1870                 :          0 :       t[1] = deg1pol_shallow(gen_1, subii(p,r), vu);
    1871                 :          0 :       return 2;
    1872                 :            :     }
    1873                 :          2 :     return 1;
    1874                 :            :   }
    1875                 :         54 :   vker = FpX_Berlekamp_ker(u,p);
    1876                 :         54 :   vker = RgM_to_RgXV(vker,vu);
    1877                 :         54 :   d = lg(vker)-1;
    1878                 :         54 :   po2 = shifti(p, -1); /* (p-1) / 2 */
    1879                 :         54 :   ir = 0;
    1880                 :            :   /* t[i] irreducible for i < ir, still to be treated for i < L */
    1881         [ +  + ]:        106 :   for (L=1; L<d; )
    1882                 :            :   {
    1883                 :         52 :     GEN pol = scalar_ZX_shallow(randomi(p), vu);
    1884         [ +  + ]:        219 :     for (i=2; i<=d; i++)
    1885                 :        167 :       pol = ZX_add(pol, ZX_Z_mul(gel(vker,i), randomi(p)));
    1886                 :         52 :     pol = FpX_red(pol,p);
    1887 [ +  + ][ +  + ]:        149 :     for (i=ir; i<L && L<d; i++)
    1888                 :            :     {
    1889                 :         97 :       a = t[i]; la = degpol(a);
    1890 [ +  + ][ +  - ]:         97 :       if (la == 1) { set_irred(i); }
    1891         [ +  + ]:         88 :       else if (la == 2)
    1892                 :            :       {
    1893                 :         11 :         GEN r = FpX_quad_root(a,p,1);
    1894         [ +  - ]:         11 :         if (r)
    1895                 :            :         {
    1896                 :         11 :           t[i] = deg1pol_shallow(gen_1, subii(p,r), vu); r = FpX_otherroot(a,r,p);
    1897                 :         11 :           t[L] = deg1pol_shallow(gen_1, subii(p,r), vu); L++;
    1898                 :            :         }
    1899         [ +  + ]:         11 :         set_irred(i);
    1900                 :            :       }
    1901                 :            :       else
    1902                 :            :       {
    1903                 :         77 :         pari_sp av = avma;
    1904                 :         77 :         b = FpX_rem(pol, a, p);
    1905         [ -  + ]:         77 :         if (degpol(b) <= 0) { avma=av; continue; }
    1906                 :         77 :         b = FpX_Fp_sub_shallow(FpXQ_pow(b,po2, a,p), gen_1, p);
    1907                 :         77 :         b = FpX_gcd(a,b, p); lb = degpol(b);
    1908 [ +  + ][ +  + ]:         77 :         if (lb && lb < la)
    1909                 :            :         {
    1910                 :         41 :           b = FpX_normalize(b, p);
    1911                 :         41 :           t[L] = FpX_div(a,b,p);
    1912                 :         41 :           t[i]= b; L++;
    1913                 :            :         }
    1914                 :         36 :         else avma = av;
    1915                 :            :       }
    1916                 :            :     }
    1917                 :            :   }
    1918                 :        565 :   return d;
    1919                 :            : }
    1920                 :            : 
    1921                 :            : GEN
    1922                 :      25550 : FqX_deriv(GEN f, /*unused*/GEN T, GEN p) {
    1923                 :      25550 :   (void)T; return FpXX_red(RgX_deriv(f), p);
    1924                 :            : }
    1925                 :            : 
    1926                 :            : long
    1927                 :       7616 : FqX_is_squarefree(GEN P, GEN T, GEN p)
    1928                 :            : {
    1929                 :       7616 :   pari_sp av = avma;
    1930                 :       7616 :   GEN z = FqX_gcd(P, FqX_deriv(P, T, p), T, p);
    1931                 :       7616 :   avma = av;
    1932                 :       7616 :   return degpol(z)==0;
    1933                 :            : }
    1934                 :            : 
    1935                 :            : static GEN
    1936                 :      76823 : F2x_Berlekamp_i(GEN f, long flag)
    1937                 :            : {
    1938                 :      76823 :   long e, nbfact, val, d = F2x_degree(f);
    1939                 :            :   ulong k, j;
    1940                 :            :   GEN y, E, f2, g1, t;
    1941                 :            : 
    1942         [ +  + ]:      76823 :   if (d <= 2) return F2x_factor_deg2(f, d, flag);
    1943                 :            : 
    1944                 :            :   /* to hold factors and exponents */
    1945         [ -  + ]:      45260 :   t = cgetg(d+1, flag? t_VECSMALL: t_VEC);
    1946                 :      45260 :   E = cgetg(d+1,t_VECSMALL);
    1947                 :      45260 :   val = F2x_valrem(f, &f);
    1948                 :      45260 :   e = nbfact = 1;
    1949         [ +  + ]:      45260 :   if (val) {
    1950 [ -  + ][ #  # ]:       9504 :     if (flag == 2 && val > 1) return NULL;
    1951         [ -  + ]:       9504 :     if (flag == 1)
    1952                 :          0 :       t[1] = 1;
    1953                 :            :     else
    1954                 :       9504 :       gel(t,1) = polx_F2x(f[1]);
    1955                 :       9504 :     E[1] = val; nbfact++;
    1956                 :            :   }
    1957                 :            : 
    1958                 :            :   for(;;)
    1959                 :            :   {
    1960                 :      82136 :     f2 = F2x_gcd(f,F2x_deriv(f));
    1961 [ -  + ][ #  # ]:      82136 :     if (flag == 2 && F2x_degree(f2)) return NULL;
    1962         [ +  + ]:      82136 :     g1 = F2x_degree(f2)? F2x_div(f,f2): f; /* squarefree */
    1963                 :      82136 :     k = 0;
    1964         [ +  + ]:     137280 :     while (F2x_degree(g1)>0)
    1965                 :            :     {
    1966                 :            :       GEN u;
    1967         [ +  + ]:      55144 :       k++; if (k%2 == 0) { k++; f2 = F2x_div(f2,g1); }
    1968                 :      55144 :       u = g1; /* deg(u) > 0 */
    1969         [ +  + ]:      55144 :       if (!F2x_degree(f2)) g1 = pol1_F2x(0); /* only its degree (= 0) matters */
    1970                 :            :       else
    1971                 :            :       {
    1972                 :            :         long dg1;
    1973                 :      14231 :         g1 = F2x_gcd(f2,g1);
    1974                 :      14231 :         dg1 = F2x_degree(g1);
    1975         [ +  + ]:      14231 :         if (dg1)
    1976                 :            :         {
    1977                 :      12418 :           f2= F2x_div(f2,g1);
    1978         [ +  + ]:      12418 :           if (F2x_degree(u) == dg1) continue;
    1979                 :       1127 :           u = F2x_div( u,g1);
    1980                 :            :         }
    1981                 :            :       }
    1982                 :            :       /* u is square-free (product of irred. of multiplicity e * k) */
    1983                 :      43853 :       gel(t,nbfact) = u;
    1984                 :      43853 :       d = F2x_split_Berlekamp(&gel(t,nbfact));
    1985 [ -  + ][ #  # ]:      43853 :       if (flag == 2 && d != 1) return NULL;
    1986         [ -  + ]:      43853 :       if (flag == 1)
    1987         [ #  # ]:          0 :         for (j=0; j<(ulong)d; j++) t[nbfact+j] = F2x_degree(gel(t,nbfact+j));
    1988         [ +  + ]:      93187 :       for (j=0; j<(ulong)d; j++) E[nbfact+j] = e*k;
    1989                 :      43853 :       nbfact += d;
    1990                 :            :     }
    1991         [ +  + ]:      82136 :     j = F2x_degree(f2); if (!j) break;
    1992                 :      36876 :     e *= 2; f = F2x_deflate(f2, 2);
    1993                 :      36876 :   }
    1994         [ -  + ]:      45260 :   if (flag == 2) return gen_1; /* irreducible */
    1995                 :      45260 :   setlg(t, nbfact);
    1996                 :      45260 :   setlg(E, nbfact); y = mkvec2(t,E);
    1997                 :      76823 :   return flag ? sort_factor(y, (void*)&cmpGuGu, cmp_nodata)
    1998         [ -  + ]:      45260 :               : sort_factor_pol(y, cmpGuGu);
    1999                 :            : }
    2000                 :            : 
    2001                 :            : static GEN
    2002                 :     410023 : Flx_Berlekamp_i(GEN f, ulong p, long flag)
    2003                 :            : {
    2004                 :     410023 :   long e, nbfact, val, d = degpol(f);
    2005                 :            :   ulong k, j;
    2006                 :            :   GEN y, E, f2, g1, t;
    2007                 :            : 
    2008         [ -  + ]:     410023 :   if (p == 2)
    2009                 :            :   {
    2010                 :          0 :     GEN F = F2x_Berlekamp_i(Flx_to_F2x(f),flag);
    2011         [ #  # ]:          0 :     if (flag==0) F2xV_to_FlxV_inplace(gel(F,1));
    2012                 :          0 :     return F;
    2013                 :            :   }
    2014         [ +  + ]:     410023 :   if (d <= 2) return Flx_factor_deg2(f,p,d,flag);
    2015                 :            : 
    2016                 :            :   /* to hold factors and exponents */
    2017         [ -  + ]:     197082 :   t = cgetg(d+1, flag? t_VECSMALL: t_VEC);
    2018                 :     197082 :   E = cgetg(d+1,t_VECSMALL);
    2019                 :     197082 :   val = Flx_valrem(f, &f);
    2020                 :     197082 :   e = nbfact = 1;
    2021         [ +  + ]:     197082 :   if (val) {
    2022 [ -  + ][ #  # ]:       6953 :     if (flag == 2 && val > 1) return NULL;
    2023         [ -  + ]:       6953 :     if (flag == 1)
    2024                 :          0 :       t[1] = 1;
    2025                 :            :     else
    2026                 :       6953 :       gel(t,1) = polx_Flx(f[1]);
    2027                 :       6953 :     E[1] = val; nbfact++;
    2028                 :            :   }
    2029                 :            : 
    2030                 :            :   for(;;)
    2031                 :            :   {
    2032                 :     202787 :     f2 = Flx_gcd(f,Flx_deriv(f,p), p);
    2033 [ -  + ][ #  # ]:     202787 :     if (flag == 2 && degpol(f2)) return NULL;
    2034         [ +  + ]:     202787 :     g1 = degpol(f2)? Flx_div(f,f2,p): f; /* squarefree */
    2035                 :     202787 :     k = 0;
    2036         [ +  + ]:     443826 :     while (degpol(g1)>0)
    2037                 :            :     {
    2038                 :            :       GEN u;
    2039         [ +  + ]:     241039 :       k++; if (k%p == 0) { k++; f2 = Flx_div(f2,g1,p); }
    2040                 :     241039 :       u = g1; /* deg(u) > 0 */
    2041         [ +  + ]:     241039 :       if (!degpol(f2)) g1 = pol1_Flx(0); /* only its degree (= 0) matters */
    2042                 :            :       else
    2043                 :            :       {
    2044                 :      46190 :         g1 = Flx_gcd(f2,g1, p);
    2045         [ +  + ]:      46190 :         if (degpol(g1))
    2046                 :            :         {
    2047                 :      46050 :           f2= Flx_div(f2,g1,p);
    2048         [ +  + ]:      46050 :           if (lg(u) == lg(g1)) continue;
    2049                 :       5133 :           u = Flx_div( u,g1,p);
    2050                 :            :         }
    2051                 :            :       }
    2052                 :            :       /* u is square-free (product of irred. of multiplicity e * k) */
    2053                 :     200122 :       u = Flx_normalize(u,p);
    2054                 :     200122 :       gel(t,nbfact) = u;
    2055                 :     200122 :       d = Flx_split_Berlekamp(&gel(t,nbfact), p);
    2056 [ -  + ][ #  # ]:     200122 :       if (flag == 2 && d != 1) return NULL;
    2057         [ -  + ]:     200122 :       if (flag == 1)
    2058         [ #  # ]:          0 :         for (j=0; j<(ulong)d; j++) t[nbfact+j] = degpol(gel(t,nbfact+j));
    2059         [ +  + ]:     591538 :       for (j=0; j<(ulong)d; j++) E[nbfact+j] = e*k;
    2060                 :     200122 :       nbfact += d;
    2061                 :            :     }
    2062         [ -  + ]:     202787 :     if (!p) break;
    2063         [ +  + ]:     202787 :     j = degpol(f2); if (!j) break;
    2064         [ -  + ]:       5705 :     if (j % p) pari_err_PRIME("factmod",utoi(p));
    2065                 :       5705 :     e *= p; f = Flx_deflate(f2, p);
    2066                 :       5705 :   }
    2067         [ -  + ]:     197082 :   if (flag == 2) return gen_1; /* irreducible */
    2068                 :     197082 :   setlg(t, nbfact);
    2069                 :     197082 :   setlg(E, nbfact); y = mkvec2(t,E);
    2070                 :     410023 :   return flag ? sort_factor(y, (void*)&cmpGuGu, cmp_nodata)
    2071         [ -  + ]:     197082 :               : sort_factor_pol(y, cmpGuGu);
    2072                 :            : }
    2073                 :            : 
    2074                 :            : /* f an FpX or an Flx */
    2075                 :            : static GEN
    2076                 :     471156 : FpX_Berlekamp_i(GEN f, GEN pp, long flag)
    2077                 :            : {
    2078                 :     471156 :   long e, nbfact, val, d = degpol(f);
    2079                 :            :   ulong k, j;
    2080                 :            :   GEN y, E, f2, g1, t;
    2081                 :            : 
    2082         [ +  + ]:     471156 :   if (typ(f) == t_VECSMALL)
    2083                 :            :   {/* lgefint(pp) == 3 */
    2084                 :     471047 :     ulong p = pp[2];
    2085                 :            :     GEN F;
    2086         [ +  + ]:     471047 :     if (p == 2) {
    2087                 :      76823 :       F = F2x_Berlekamp_i(Flx_to_F2x(f), flag);
    2088         [ +  - ]:      76823 :       if (flag==0) F2xV_to_ZXV_inplace(gel(F,1));
    2089                 :            :     } else {
    2090                 :     394224 :       F = Flx_Berlekamp_i(f, p, flag);
    2091         [ +  - ]:     394224 :       if (flag==0) FlxV_to_ZXV_inplace(gel(F,1));
    2092                 :            :     }
    2093                 :     471047 :     return F;
    2094                 :            :   }
    2095                 :            :   /* p is large (and odd) */
    2096         [ +  + ]:        109 :   if (d <= 2) return FpX_factor_deg2(f,pp,d,flag);
    2097                 :            : 
    2098                 :            :   /* to hold factors and exponents */
    2099         [ -  + ]:         56 :   t = cgetg(d+1, flag? t_VECSMALL: t_VEC);
    2100                 :         56 :   E = cgetg(d+1,t_VECSMALL);
    2101                 :         56 :   val = ZX_valrem(f, &f);
    2102                 :         56 :   e = nbfact = 1;
    2103         [ +  + ]:         56 :   if (val) {
    2104 [ -  + ][ #  # ]:          2 :     if (flag == 2 && val > 1) return NULL;
    2105         [ -  + ]:          2 :     if (flag == 1)
    2106                 :          0 :       t[1] = 1;
    2107                 :            :     else
    2108                 :          2 :       gel(t,1) = pol_x(varn(f));
    2109                 :          2 :     E[1] = val; nbfact++;
    2110                 :            :   }
    2111                 :            : 
    2112                 :         56 :   f2 = FpX_gcd(f,ZX_deriv(f), pp);
    2113 [ -  + ][ #  # ]:         56 :   if (flag == 2 && degpol(f2)) return NULL;
    2114         [ +  + ]:         56 :   g1 = degpol(f2)? FpX_div(f,f2,pp): f; /* squarefree */
    2115                 :         56 :   k = 0;
    2116         [ +  + ]:        118 :   while (degpol(g1)>0)
    2117                 :            :   {
    2118                 :            :     GEN u;
    2119                 :         62 :     k++;
    2120                 :         62 :     u = g1; /* deg(u) > 0 */
    2121         [ +  + ]:         62 :     if (!degpol(f2)) g1 = pol_1(0); /* only its degree (= 0) matters */
    2122                 :            :     else
    2123                 :            :     {
    2124                 :          6 :       g1 = FpX_gcd(f2,g1, pp);
    2125         [ +  - ]:          6 :       if (degpol(g1))
    2126                 :            :       {
    2127                 :          6 :         f2= FpX_div(f2,g1,pp);
    2128         [ +  + ]:          6 :         if (lg(u) == lg(g1)) continue;
    2129                 :          5 :         u = FpX_div( u,g1,pp);
    2130                 :            :       }
    2131                 :            :     }
    2132                 :            :     /* u is square-free (product of irred. of multiplicity e * k) */
    2133                 :         61 :     u = FpX_normalize(u,pp);
    2134                 :         61 :     gel(t,nbfact) = u;
    2135                 :         61 :     d = FpX_split_Berlekamp(&gel(t,nbfact), pp);
    2136 [ -  + ][ #  # ]:         61 :     if (flag == 2 && d != 1) return NULL;
    2137         [ -  + ]:         61 :     if (flag == 1)
    2138         [ #  # ]:          0 :       for (j=0; j<(ulong)d; j++) t[nbfact+j] = degpol(gel(t,nbfact+j));
    2139         [ +  + ]:        174 :     for (j=0; j<(ulong)d; j++) E[nbfact+j] = e*k;
    2140                 :         61 :     nbfact += d;
    2141                 :            :   }
    2142         [ -  + ]:         56 :   if (flag == 2) return gen_1; /* irreducible */
    2143                 :         56 :   setlg(t, nbfact);
    2144                 :         56 :   setlg(E, nbfact); y = mkvec2(t,E);
    2145                 :     471156 :   return flag ? sort_factor(y, (void*)&cmpGuGu, cmp_nodata)
    2146         [ -  + ]:         56 :               : sort_factor_pol(y, cmpii);
    2147                 :            : }
    2148                 :            : GEN
    2149                 :     471100 : FpX_factor(GEN f, GEN p)
    2150                 :            : {
    2151                 :     471100 :   pari_sp av = avma;
    2152                 :     471100 :   ZX_factmod_init(&f, p);
    2153                 :     471100 :   return gerepilecopy(av, FpX_Berlekamp_i(f, p, 0));
    2154                 :            : }
    2155                 :            : GEN
    2156                 :      35805 : Flx_factor(GEN f, ulong p)
    2157                 :            : {
    2158                 :      35805 :   pari_sp av = avma;
    2159         [ +  + ]:      35805 :   GEN F = (degpol(f)>log2(p))? Flx_factcantor_i(f,p,0): Flx_Berlekamp_i(f,p,0);
    2160                 :      35805 :   return gerepilecopy(av, F);
    2161                 :            : }
    2162                 :            : GEN
    2163                 :          0 : F2x_factor(GEN f)
    2164                 :            : {
    2165                 :          0 :   pari_sp av = avma;
    2166                 :          0 :   return gerepilecopy(av, F2x_Berlekamp_i(f, 0));
    2167                 :            : }
    2168                 :            : 
    2169                 :            : GEN
    2170                 :         91 : factormod0(GEN f, GEN p, long flag)
    2171                 :            : {
    2172      [ +  +  - ]:         91 :   switch(flag)
    2173                 :            :   {
    2174                 :         63 :     case 0: return factmod(f,p);
    2175                 :         28 :     case 1: return simplefactmod(f,p);
    2176                 :          0 :     default: pari_err_FLAG("factormod");
    2177                 :            :   }
    2178                 :         91 :   return NULL; /* not reached */
    2179                 :            : }
    2180                 :            : 
    2181                 :            : /*******************************************************************/
    2182                 :            : /*                                                                 */
    2183                 :            : /*                     FACTORIZATION IN F_q                        */
    2184                 :            : /*                                                                 */
    2185                 :            : /*******************************************************************/
    2186                 :            : static GEN
    2187                 :       9520 : to_Fq(GEN x, GEN T, GEN p)
    2188                 :            : {
    2189                 :       9520 :   long i, lx, tx = typ(x);
    2190                 :            :   GEN y;
    2191                 :            : 
    2192         [ +  + ]:       9520 :   if (tx == t_INT)
    2193                 :       4382 :     y = mkintmod(x,p);
    2194                 :            :   else
    2195                 :            :   {
    2196         [ -  + ]:       5138 :     if (tx != t_POL) pari_err_TYPE("to_Fq",x);
    2197                 :       5138 :     lx = lg(x);
    2198                 :       5138 :     y = cgetg(lx,t_POL); y[1] = x[1];
    2199         [ +  + ]:     213983 :     for (i=2; i<lx; i++) gel(y,i) = mkintmod(gel(x,i), p);
    2200                 :            :   }
    2201                 :       9520 :   return mkpolmod(y, T);
    2202                 :            : }
    2203                 :            : 
    2204                 :            : static GEN
    2205                 :       4354 : to_Fq_pol(GEN x, GEN T, GEN p)
    2206                 :            : {
    2207                 :       4354 :   long i, lx = lg(x);
    2208         [ +  + ]:      13076 :   for (i=2; i<lx; i++) gel(x,i) = to_Fq(gel(x,i),T,p);
    2209                 :       4354 :   return x;
    2210                 :            : }
    2211                 :            : 
    2212                 :            : static GEN
    2213                 :        245 : to_Fq_fact(GEN P, GEN E, GEN T, GEN p, pari_sp av)
    2214                 :            : {
    2215                 :            :   GEN y, u, v;
    2216                 :        245 :   long j, l = lg(P), nbf = lg(P);
    2217                 :            : 
    2218                 :        245 :   u = cgetg(nbf,t_COL);
    2219                 :        245 :   v = cgetg(nbf,t_COL);
    2220         [ +  + ]:       4599 :   for (j=1; j<l; j++)
    2221                 :            :   {
    2222                 :       4354 :     gel(u,j) = simplify_shallow(gel(P,j)); /* may contain pols of degree 0 */
    2223                 :       4354 :     gel(v,j) = utoi(uel(E,j));
    2224                 :            :   }
    2225                 :        245 :   y = gerepilecopy(av, mkmat2(u, v));
    2226                 :        245 :   u = gel(y,1);
    2227                 :        245 :   p = icopy(p);
    2228                 :        245 :   T = FpX_to_mod(T, p);
    2229         [ +  + ]:       4599 :   for (j=1; j<nbf; j++) gel(u,j) = to_Fq_pol(gel(u,j), T,p);
    2230                 :        245 :   return y;
    2231                 :            : }
    2232                 :            : static GEN
    2233                 :         35 : to_FqC(GEN P, GEN T, GEN p, pari_sp av)
    2234                 :            : {
    2235                 :            :   GEN u;
    2236                 :         35 :   long j, l = lg(P), nbf = lg(P);
    2237                 :            : 
    2238                 :         35 :   u = cgetg(nbf,t_COL);
    2239         [ +  + ]:        833 :   for (j=1; j<l; j++)
    2240                 :        798 :     gel(u,j) = simplify_shallow(gel(P,j)); /* may contain pols of degree 0 */
    2241                 :         35 :   u = gerepilecopy(av, u);
    2242                 :         35 :   p = icopy(p);
    2243                 :         35 :   T = FpX_to_mod(T, p);
    2244         [ +  + ]:        833 :   for (j=1; j<nbf; j++) gel(u,j) = to_Fq(gel(u,j), T,p);
    2245                 :         35 :   return u;
    2246                 :            : }
    2247                 :            : 
    2248                 :            : GEN
    2249                 :      11612 : FlxqXQ_halfFrobenius(GEN a, GEN S, GEN T, ulong p)
    2250                 :            : {
    2251                 :      11612 :   long vT = get_Flx_var(T);
    2252                 :      11612 :   GEN xp = Flx_Frobenius(T, p);
    2253                 :      11612 :   GEN Xp = FlxqXQ_pow(polx_FlxX(varn(S), vT), utoi(p), S, T, p);
    2254                 :      11612 :   GEN ap2 = FlxqXQ_pow(a,utoi(p>>1), S, T, p);
    2255                 :      11612 :   GEN V = FlxqXQV_autsum(mkvec3(xp, Xp, ap2), get_Flx_degree(T), S, T, p);
    2256                 :      11612 :   return gel(V,3);
    2257                 :            : }
    2258                 :            : 
    2259                 :            : GEN
    2260                 :      11460 : FpXQXQ_halfFrobenius(GEN a, GEN S, GEN T, GEN p)
    2261                 :            : {
    2262         [ +  + ]:      11460 :   if (lgefint(p)==3)
    2263                 :            :   {
    2264                 :      11384 :     ulong pp = p[2];
    2265                 :      11384 :     long v = get_FpX_var(T);
    2266                 :      11384 :     GEN Tp = ZXT_to_FlxT(T,pp), Sp = ZXX_to_FlxX(S, pp, v);
    2267                 :      11384 :     return FlxX_to_ZXX(FlxqXQ_halfFrobenius(ZXX_to_FlxX(a,pp,v),Sp,Tp,pp));
    2268                 :            :   }
    2269                 :            :   else
    2270                 :            :   {
    2271                 :         76 :     GEN xp = FpX_Frobenius(T, p);
    2272                 :         76 :     GEN Xp = FpXQXQ_pow(pol_x(varn(S)), p, S, T, p);
    2273                 :         76 :     GEN ap2 = FpXQXQ_pow(a,shifti(p,-1), S, T, p);
    2274                 :         76 :     GEN V = FpXQXQV_autsum(mkvec3(xp,Xp,ap2), get_FpX_degree(T), S, T, p);
    2275                 :      11460 :     return gel(V,3);
    2276                 :            :   }
    2277                 :            : }
    2278                 :            : 
    2279                 :            : GEN
    2280                 :      14905 : FlxqX_Frobenius(GEN S, GEN T, ulong p)
    2281                 :            : {
    2282                 :      14905 :   pari_sp av = avma;
    2283                 :      14905 :   long n = get_Flx_degree(T), vT = get_Flx_var(T);
    2284                 :      14905 :   GEN X  = polx_FlxX(varn(S), vT);
    2285                 :      14905 :   GEN xp = Flx_Frobenius(T, p);
    2286                 :      14905 :   GEN Xp = FlxqXQ_pow(X, utoi(p), S, T, p);
    2287                 :      14905 :   GEN Xq = gel(FlxqXQV_autpow(mkvec2(xp,Xp), n, S, T, p), 2);
    2288                 :      14905 :   return gerepilecopy(av, Xq);
    2289                 :            : }
    2290                 :            : 
    2291                 :            : GEN
    2292                 :        131 : FpXQX_Frobenius(GEN S, GEN T, GEN p)
    2293                 :            : {
    2294                 :        131 :   pari_sp av = avma;
    2295                 :        131 :   long n = get_FpX_degree(T);
    2296                 :        131 :   GEN X  = pol_x(varn(S));
    2297                 :        131 :   GEN xp = FpX_Frobenius(T, p);
    2298                 :        131 :   GEN Xp = FpXQXQ_pow(X, p, S, T, p);
    2299                 :        131 :   GEN Xq = gel(FpXQXQV_autpow(mkvec2(xp,Xp), n, S, T, p), 2);
    2300                 :        131 :   return gerepilecopy(av, Xq);
    2301                 :            : }
    2302                 :            : 
    2303                 :            : static GEN
    2304                 :      14245 : FqX_Frobenius_powers(GEN S, GEN T, GEN p)
    2305                 :            : {
    2306                 :      14245 :   long N = degpol(S);
    2307         [ +  + ]:      14245 :   if (lgefint(p)==3)
    2308                 :            :   {
    2309                 :      14244 :     ulong pp = p[2];
    2310                 :      14244 :     GEN Tp = ZXT_to_FlxT(T, pp), Sp = ZXX_to_FlxX(S, pp, get_FpX_var(T));
    2311                 :      14244 :     GEN Xq = FlxqX_Frobenius(Sp, Tp, pp);
    2312                 :      14244 :     return FlxqXQ_powers(Xq, N-1, Sp, Tp, pp);
    2313                 :            :   } else
    2314                 :            :   {
    2315                 :          1 :     GEN Xq = FpXQX_Frobenius(S, T, p);
    2316                 :      14245 :     return FpXQXQ_powers(Xq, N-1, S, T, p);
    2317                 :            :   }
    2318                 :            : }
    2319                 :            : 
    2320                 :            : static GEN
    2321                 :      16821 : FqX_Frobenius_eval(GEN x, GEN V, GEN S, GEN T, GEN p)
    2322                 :            : {
    2323         [ +  + ]:      16821 :   if (lgefint(p)==3)
    2324                 :            :   {
    2325                 :      16820 :     ulong pp = p[2];
    2326                 :      16820 :     long v = get_FpX_var(T);
    2327                 :      16820 :     GEN Tp = ZXT_to_FlxT(T, pp), Sp = ZXX_to_FlxX(S, pp, v);
    2328                 :      16820 :     GEN xp = ZXX_to_FlxX(x, pp, v);
    2329                 :      16820 :     return FlxX_to_ZXX(FlxqX_FlxqXQV_eval(xp, V, Sp, Tp, pp));
    2330                 :            :   }
    2331                 :            :   else
    2332                 :      16821 :     return FpXQX_FpXQXQV_eval(x, V, S, T, p);
    2333                 :            : }
    2334                 :            : 
    2335                 :            : static GEN
    2336                 :          8 : FpXQX_split_part(GEN f, GEN T, GEN p)
    2337                 :            : {
    2338                 :          8 :   long n = degpol(f);
    2339                 :          8 :   GEN z, X = pol_x(varn(f));
    2340         [ -  + ]:          8 :   if (n <= 1) return f;
    2341                 :          8 :   f = FpXQX_red(f, T, p);
    2342                 :          8 :   z = FpXQX_Frobenius(f, T, p);
    2343                 :          8 :   z = FpXX_sub(z, X , p);
    2344                 :          8 :   return FpXQX_gcd(z, f, T, p);
    2345                 :            : }
    2346                 :            : 
    2347                 :            : static GEN
    2348                 :        307 : FlxqX_split_part(GEN f, GEN T, ulong p)
    2349                 :            : {
    2350                 :        307 :   long n = degpol(f);
    2351                 :        307 :   GEN z, Xq, X = polx_FlxX(varn(f),get_Flx_var(T));
    2352         [ -  + ]:        307 :   if (n <= 1) return f;
    2353                 :        307 :   f = FlxqX_red(f, T, p);
    2354                 :        307 :   Xq = FlxqX_Frobenius(f, T, p);
    2355                 :        307 :   z = FlxX_sub(Xq, X , p);
    2356                 :        307 :   return FlxqX_gcd(z, f, T, p);
    2357                 :            : }
    2358                 :            : 
    2359                 :            : long
    2360                 :        301 : FpXQX_nbroots(GEN f, GEN T, GEN p)
    2361                 :            : {
    2362                 :        301 :   pari_sp av = avma;
    2363                 :            :   GEN z;
    2364         [ +  + ]:        301 :   if(lgefint(p)==3)
    2365                 :            :   {
    2366                 :        293 :     ulong pp=p[2];
    2367                 :        293 :     z = FlxqX_split_part(ZXX_to_FlxX(f,pp,varn(T)),ZXT_to_FlxT(T,pp),pp);
    2368                 :            :   }
    2369                 :            :   else
    2370                 :          8 :     z = FpXQX_split_part(f, T, p);
    2371                 :        301 :   avma = av; return degpol(z);
    2372                 :            : }
    2373                 :            : 
    2374                 :            : long
    2375                 :       1484 : FqX_nbroots(GEN f, GEN T, GEN p)
    2376         [ +  + ]:       1484 : { return T ? FpXQX_nbroots(f, T, p): FpX_nbroots(f, p); }
    2377                 :            : 
    2378                 :            : long
    2379                 :         14 : FlxqX_nbroots(GEN f, GEN T, ulong p)
    2380                 :            : {
    2381                 :         14 :   pari_sp av = avma;
    2382                 :         14 :   GEN z = FlxqX_split_part(f, T, p);
    2383                 :         14 :   avma = av; return degpol(z);
    2384                 :            : }
    2385                 :            : 
    2386                 :            : GEN
    2387                 :         48 : FlxqX_Berlekamp_ker(GEN u, GEN T, ulong p)
    2388                 :            : {
    2389                 :         48 :   pari_sp ltop=avma;
    2390                 :         48 :   long j,N = degpol(u);
    2391                 :         48 :   GEN Xq = FlxqX_Frobenius(u,T,p);
    2392                 :         48 :   GEN Q  = FlxqXQ_matrix_pow(Xq,N,N,u,T,p);
    2393         [ +  + ]:        266 :   for (j=1; j<=N; j++)
    2394                 :        218 :     gcoeff(Q,j,j) = Flx_Fl_add(gcoeff(Q,j,j), p-1, p);
    2395                 :         48 :   return gerepileupto(ltop, FlxqM_ker(Q,T,p));
    2396                 :            : }
    2397                 :            : 
    2398                 :            : GEN
    2399                 :         49 : FpXQX_Berlekamp_ker(GEN u, GEN T, GEN p)
    2400                 :            : {
    2401         [ +  + ]:         49 :   if (lgefint(p)==3)
    2402                 :            :   {
    2403                 :         48 :     ulong pp=p[2];
    2404                 :         48 :     long v = get_FpX_var(T);
    2405                 :         48 :     GEN Tp = ZXT_to_FlxT(T,pp), Sp = ZXX_to_FlxX(u,pp,v);
    2406                 :         48 :     return FlxM_to_ZXM(FlxqX_Berlekamp_ker(Sp, Tp, pp));
    2407                 :            :   } else
    2408                 :            :   {
    2409                 :          1 :     pari_sp ltop=avma;
    2410                 :          1 :     long j,N = degpol(u);
    2411                 :          1 :     GEN Xq = FpXQX_Frobenius(u,T,p);
    2412                 :          1 :     GEN Q  = FpXQXQ_matrix_pow(Xq,N,N,u,T,p);
    2413         [ +  + ]:          7 :     for (j=1; j<=N; j++)
    2414                 :          6 :       gcoeff(Q,j,j) = Fq_sub(gcoeff(Q,j,j), gen_1, T, p);
    2415                 :         49 :     return gerepileupto(ltop, FqM_ker(Q,T,p));
    2416                 :            :   }
    2417                 :            : }
    2418                 :            : 
    2419                 :            : long
    2420                 :          0 : FpXQX_nbfact(GEN u, GEN T, GEN p)
    2421                 :            : {
    2422                 :          0 :   pari_sp av = avma;
    2423                 :          0 :   GEN vker = FpXQX_Berlekamp_ker(u, T, p);
    2424                 :          0 :   avma = av; return lg(vker)-1;
    2425                 :            : }
    2426                 :            : 
    2427                 :            : long
    2428                 :          0 : FqX_nbfact(GEN u, GEN T, GEN p)
    2429                 :            : {
    2430         [ #  # ]:          0 :   return T ? FpX_nbfact(u, p): FpXQX_nbfact(u, T, p);
    2431                 :            : }
    2432                 :            : 
    2433                 :            : long
    2434                 :         49 : FqX_split_Berlekamp(GEN *t, GEN T, GEN p)
    2435                 :            : {
    2436                 :         49 :   GEN u = *t, a,b,vker,pol;
    2437                 :         49 :   long vu = varn(u), vT = varn(T), dT = degpol(T);
    2438                 :            :   long d, i, ir, L, la, lb;
    2439                 :         49 :   T = FpX_get_red(T, p);
    2440                 :         49 :   vker = FpXQX_Berlekamp_ker(u,T,p);
    2441                 :         49 :   vker = RgM_to_RgXV(vker,vu);
    2442                 :         49 :   d = lg(vker)-1;
    2443                 :         49 :   ir = 0;
    2444                 :            :   /* t[i] irreducible for i < ir, still to be treated for i < L */
    2445         [ +  + ]:        179 :   for (L=1; L<d; )
    2446                 :            :   {
    2447                 :        130 :     pol= scalarpol(random_FpX(dT,vT,p),vu);
    2448         [ +  + ]:        446 :     for (i=2; i<=d; i++)
    2449                 :        316 :       pol = FqX_add(pol, FqX_Fq_mul(gel(vker,i),
    2450                 :            :                                     random_FpX(dT,vT,p), T, p), T, p);
    2451                 :        130 :     pol = FpXQX_red(pol,T,p);
    2452 [ +  + ][ +  + ]:        343 :     for (i=ir; i<L && L<d; i++)
    2453                 :            :     {
    2454                 :        213 :       a = t[i]; la = degpol(a);
    2455 [ +  + ][ +  + ]:        213 :       if (la == 1) { set_irred(i); }
    2456                 :            :       else
    2457                 :            :       {
    2458                 :        178 :         pari_sp av = avma;
    2459                 :        178 :         b = FqX_rem(pol, a, T,p);
    2460         [ +  + ]:        178 :         if (degpol(b)<=0) { avma=av; continue; }
    2461                 :        157 :         b = FpXQXQ_halfFrobenius(b, a,T,p);
    2462         [ +  + ]:        157 :         if (degpol(b)<=0) { avma=av; continue; }
    2463                 :         98 :         gel(b,2) = Fq_sub(gel(b,2), gen_1,T,p);
    2464                 :         98 :         b = FqX_gcd(a,b, T,p); lb = degpol(b);
    2465 [ +  - ][ +  - ]:         98 :         if (lb && lb < la)
    2466                 :            :         {
    2467                 :         98 :           b = FqX_normalize(b, T,p);
    2468                 :         98 :           t[L] = FqX_div(a,b,T,p);
    2469                 :         98 :           t[i]= b; L++;
    2470                 :            :         }
    2471                 :          0 :         else avma = av;
    2472                 :            :       }
    2473                 :            :     }
    2474                 :            :   }
    2475                 :         49 :   return d;
    2476                 :            : }
    2477                 :            : 
    2478                 :            : /* split into r factors of degree d */
    2479                 :            : static void
    2480                 :      23457 : FqX_split(GEN *t, long d, GEN q, GEN S, GEN T, GEN p)
    2481                 :            : {
    2482                 :      23457 :   GEN u = *t;
    2483                 :      23457 :   long l, v, is2, cnt, dt = degpol(u), dT = degpol(T);
    2484                 :            :   pari_sp av;
    2485                 :            :   pari_timer ti;
    2486                 :            :   GEN w,w0;
    2487                 :            : 
    2488         [ +  + ]:      46914 :   if (dt == d) return;
    2489                 :       7091 :   v = varn(*t);
    2490         [ -  + ]:       7091 :   if (DEBUGLEVEL > 6) timer_start(&ti);
    2491                 :       7091 :   av = avma; is2 = equaliu(p, 2);
    2492                 :       7091 :   for(cnt = 1;;cnt++, avma = av)
    2493                 :            :   { /* splits *t with probability ~ 1 - 2^(1-r) */
    2494                 :      11412 :     w = w0 = FqX_rand(dt,v, T,p);
    2495         [ +  + ]:      11412 :     if (degpol(w) <= 0) continue;
    2496         [ +  + ]:      13701 :     for (l=1; l<d; l++) /* sum_{0<i<d} w^(q^i), result in (F_q)^r */
    2497                 :       2352 :       w = RgX_add(w0, FqX_Frobenius_eval(w, S, u, T, p));
    2498                 :      11349 :     w = FpXQX_red(w, T,p);
    2499         [ +  + ]:      11349 :     if (is2)
    2500                 :            :     {
    2501                 :        119 :       w0 = w;
    2502         [ +  + ]:        238 :       for (l=1; l<dT; l++) /* sum_{0<i<k} w^(2^i), result in (F_2)^r */
    2503                 :            :       {
    2504                 :        119 :         w = FqX_rem(FqX_sqr(w,T,p), *t, T,p);
    2505                 :        119 :         w = FpXX_red(RgX_add(w0,w), p);
    2506                 :            :       }
    2507                 :            :     }
    2508                 :            :     else
    2509                 :            :     {
    2510                 :      11230 :       w = FpXQXQ_halfFrobenius(w, *t, T, p);
    2511                 :            :       /* w in {-1,0,1}^r */
    2512         [ +  + ]:      11230 :       if (degpol(w) <= 0) continue;
    2513                 :       7007 :       gel(w,2) = gadd(gel(w,2), gen_1);
    2514                 :            :     }
    2515                 :       7126 :     w = FqX_gcd(*t,w, T,p); l = degpol(w);
    2516 [ +  + ][ +  + ]:       7126 :     if (l && l != dt) break;
    2517                 :       4321 :   }
    2518                 :       7091 :   w = gerepileupto(av,FqX_normalize(w,T,p));
    2519         [ -  + ]:       7091 :   if (DEBUGLEVEL > 6)
    2520                 :          0 :     err_printf("[FqX_split] splitting time: %ld (%ld trials)\n",
    2521                 :            :                timer_delay(&ti),cnt);
    2522                 :       7091 :   l /= d; t[l] = FqX_div(*t,w, T,p); *t = w;
    2523                 :       7091 :   FqX_split(t+l,d,q,S,T,p);
    2524                 :      23457 :   FqX_split(t  ,d,q,S,T,p);
    2525                 :            : }
    2526                 :            : 
    2527                 :            : /*******************************************************************/
    2528                 :            : /*                                                                 */
    2529                 :            : /*                  FACTOR USING TRAGER'S TRICK                    */
    2530                 :            : /*                                                                 */
    2531                 :            : /*******************************************************************/
    2532                 :            : static GEN
    2533                 :         56 : FqX_frob_deflate(GEN f, GEN T, GEN p)
    2534                 :            : {
    2535                 :         56 :   GEN F = RgX_deflate(f, itos(p)), frobinv = powiu(p, degpol(T)-1);
    2536                 :         56 :   long i, l = lg(F);
    2537         [ +  + ]:        231 :   for (i=2; i<l; i++) gel(F,i) = Fq_pow(gel(F,i), frobinv, T,p);
    2538                 :         56 :   return F;
    2539                 :            : }
    2540                 :            : /* Factor _sqfree_ polynomial a on the finite field Fp[X]/(T). Assumes
    2541                 :            :  * varncmp (varn(T), varn(A)) > 0 */
    2542                 :            : static GEN
    2543                 :         28 : FqX_split_Trager(GEN A, GEN T, GEN p)
    2544                 :            : {
    2545                 :         28 :   GEN c = NULL, P, u, fa, n;
    2546                 :            :   long lx, i, k;
    2547                 :            : 
    2548                 :         28 :   u = A;
    2549                 :         28 :   n = NULL;
    2550         [ +  + ]:         63 :   for (k = 0; cmpui(k, p) < 0; k++)
    2551                 :            :   {
    2552                 :            :     GEN U;
    2553                 :         49 :     c = deg1pol_shallow(stoi(k) , gen_0, varn(T));
    2554                 :         49 :     U = FqX_translate(u, c, T, p);
    2555                 :         49 :     n = FpX_FpXY_resultant(T, U, p);
    2556         [ +  + ]:         49 :     if (FpX_is_squarefree(n, p)) break;
    2557                 :         35 :     n = NULL;
    2558                 :            :   }
    2559         [ +  + ]:         28 :   if (!n) return NULL;
    2560         [ -  + ]:         14 :   if (DEBUGLEVEL>4) err_printf("FqX_split_Trager: choosing k = %ld\n",k);
    2561                 :            :   /* n guaranteed to be squarefree */
    2562                 :         14 :   fa = FpX_factor(n, p); fa = gel(fa,1); lx = lg(fa);
    2563         [ -  + ]:         14 :   if (lx == 2) return mkcol(A); /* P^k, P irreducible */
    2564                 :            : 
    2565                 :         14 :   P = cgetg(lx,t_COL);
    2566                 :         14 :   c = FpX_neg(c,p);
    2567         [ +  + ]:         28 :   for (i=lx-1; i>1; i--)
    2568                 :            :   {
    2569                 :         14 :     GEN F = FqX_translate(gel(fa,i), c, T, p);
    2570                 :         14 :     F = FqX_normalize(FqX_gcd(u, F, T, p), T, p);
    2571 [ +  - ][ -  + ]:         14 :     if (typ(F) != t_POL || degpol(F) == 0)
    2572                 :          0 :       pari_err_IRREDPOL("FqX_split_Trager [modulus]",T);
    2573                 :         14 :     u = FqX_div(u, F, T, p);
    2574                 :         14 :     gel(P,i) = F;
    2575                 :            :   }
    2576                 :         28 :   gel(P,1) = u; return P;
    2577                 :            : }
    2578                 :            : 
    2579                 :            : static long
    2580                 :      17283 : isabsolutepol(GEN f)
    2581                 :            : {
    2582                 :      17283 :   long i, l = lg(f);
    2583         [ +  + ]:      28147 :   for(i=2; i<l; i++)
    2584                 :            :   {
    2585                 :      26705 :     GEN c = gel(f,i);
    2586 [ +  + ][ +  + ]:      26705 :     if (typ(c) == t_POL && degpol(c) > 0) return 0;
    2587                 :            :   }
    2588                 :      17283 :   return 1;
    2589                 :            : }
    2590                 :            : 
    2591                 :            : static void
    2592                 :       9835 : add(GEN z, GEN g, long d) { vectrunc_append(z, mkvec2(utoipos(d), g)); }
    2593                 :            : /* return number of roots of u; assume deg u >= 0 */
    2594                 :            : long
    2595                 :      13755 : FqX_split_deg1(GEN *pz, GEN u, GEN T, GEN p)
    2596                 :            : {
    2597                 :      13755 :   long dg, N = degpol(u);
    2598                 :      13755 :   GEN v, S, g, X, z = vectrunc_init(N+1);
    2599                 :            : 
    2600                 :      13755 :   *pz = z;
    2601         [ -  + ]:      13755 :   if (N == 0) return 0;
    2602         [ +  + ]:      13755 :   if (N == 1) return 1;
    2603                 :      13678 :   v = X = pol_x(varn(u));
    2604                 :      13678 :   S = FqX_Frobenius_powers(u, T, p);
    2605                 :      13678 :   vectrunc_append(z, S);
    2606                 :      13678 :   v = FqX_Frobenius_eval(v, S, u, T, p);
    2607                 :      13678 :   g = FqX_gcd(FpXX_sub(v,X,p),u, T,p);
    2608                 :      13678 :   dg = degpol(g);
    2609         [ +  + ]:      13678 :   if (dg > 0) add(z, FqX_normalize(g,T,p), dg);
    2610                 :      13755 :   return dg;
    2611                 :            : }
    2612                 :            : 
    2613                 :            : /* return number of factors; z not properly initialized if deg(u) <= 1 */
    2614                 :            : long
    2615                 :        553 : FqX_split_by_degree(GEN *pz, GEN u, GEN T, GEN p)
    2616                 :            : {
    2617                 :        553 :   long nb = 0, d, dg, N = degpol(u);
    2618                 :        553 :   GEN v, S, g, X, z = vectrunc_init(N+1);
    2619                 :            : 
    2620                 :        553 :   *pz = z;
    2621         [ -  + ]:        553 :   if (N <= 1) return 1;
    2622                 :        553 :   v = X = pol_x(varn(u));
    2623                 :        553 :   S = FqX_Frobenius_powers(u, T, p);
    2624                 :        553 :   vectrunc_append(z, S);
    2625         [ +  + ]:       1330 :   for (d=1; d <= N>>1; d++)
    2626                 :            :   {
    2627                 :        777 :     v = FqX_Frobenius_eval(v, S, u, T, p);
    2628                 :        777 :     g = FqX_gcd(FpXX_sub(v,X,p),u, T,p);
    2629         [ +  + ]:        777 :     dg = degpol(g); if (dg <= 0) continue;
    2630                 :            :     /* all factors of g have degree d */
    2631                 :        623 :     add(z, FqX_normalize(g, T,p), dg / d); nb += dg / d;
    2632                 :        623 :     N -= dg;
    2633         [ +  + ]:        623 :     if (N)
    2634                 :            :     {
    2635                 :         70 :       u = FqX_div(u,g, T,p);
    2636                 :         70 :       v = FqX_rem(v,u, T,p);
    2637                 :            :     }
    2638                 :            :   }
    2639         [ -  + ]:        553 :   if (N) { add(z, FqX_normalize(u, T,p), 1); nb++; }
    2640                 :        553 :   return nb;
    2641                 :            : }
    2642                 :            : 
    2643                 :            : /* see roots_from_deg1() */
    2644                 :            : static GEN
    2645                 :       9142 : FqXC_roots_from_deg1(GEN x, GEN T, GEN p)
    2646                 :            : {
    2647                 :       9142 :   long i,l = lg(x);
    2648                 :       9142 :   GEN r = cgetg(l,t_COL);
    2649         [ +  + ]:      22442 :   for (i=1; i<l; i++) { GEN P = gel(x,i); gel(r,i) = Fq_neg(gel(P,2), T, p); }
    2650                 :       9142 :   return r;
    2651                 :            : }
    2652                 :            : 
    2653                 :            : static GEN
    2654                 :       9261 : FqX_split_equal(GEN L, GEN S, GEN T, GEN p)
    2655                 :            : {
    2656                 :       9261 :   long n = itos(gel(L,1));
    2657                 :       9261 :   GEN u = gel(L,2), z = cgetg(n + 1, t_COL);
    2658                 :       9261 :   gel(z,1) = u;
    2659                 :       9261 :   FqX_split((GEN*)(z+1), degpol(u) / n, powiu(p, degpol(T)), S, T, p);
    2660                 :       9261 :   return z;
    2661                 :            : }
    2662                 :            : GEN
    2663                 :       9128 : FqX_split_roots(GEN z, GEN T, GEN p, GEN pol)
    2664                 :            : {
    2665                 :       9128 :   GEN S = gel(z,1), L = gel(z,2), rep = FqX_split_equal(L, S, T, p);
    2666         [ +  + ]:       9128 :   if (pol) rep = shallowconcat(rep, FqX_div(pol, gel(L,2), T,p));
    2667                 :       9128 :   return rep;
    2668                 :            : }
    2669                 :            : GEN
    2670                 :        119 : FqX_split_all(GEN z, GEN T, GEN p)
    2671                 :            : {
    2672                 :        119 :   GEN S = gel(z,1), rep = cgetg(1, t_VEC);
    2673                 :        119 :   long i, l = lg(z);
    2674         [ +  + ]:        252 :   for (i = 2; i < l; i++)
    2675                 :        133 :     rep = shallowconcat(rep, FqX_split_equal(gel(z,i), S, T, p));
    2676                 :        119 :   return rep;
    2677                 :            : }
    2678                 :            : 
    2679                 :            : /* not memory-clean, as FpX_factorff_i, returning only linear factors */
    2680                 :            : static GEN
    2681                 :       1085 : FpX_rootsff_i(GEN P, GEN T, GEN p)
    2682                 :            : {
    2683                 :       1085 :   GEN V, F = gel(FpX_factor(P,p), 1);
    2684                 :       1085 :   long i, lfact = 1, nmax = lgpol(P), n = lg(F), dT = degpol(T);
    2685                 :            : 
    2686                 :       1085 :   V = cgetg(nmax,t_COL);
    2687         [ +  + ]:       2744 :   for(i=1;i<n;i++)
    2688                 :            :   {
    2689                 :       1659 :     GEN R, Fi = gel(F,i);
    2690                 :       1659 :     long di = degpol(Fi), j, r;
    2691         [ +  + ]:       1659 :     if (dT % di) continue;
    2692                 :       1372 :     R = FpX_factorff_irred(gel(F,i),T,p);
    2693                 :       1372 :     r = lg(R);
    2694         [ +  + ]:       3843 :     for (j=1; j<r; j++,lfact++)
    2695                 :       2471 :       gel(V,lfact) = Fq_neg(gmael(R,j, 2), T, p);
    2696                 :            :   }
    2697                 :       1085 :   setlg(V,lfact);
    2698                 :       1085 :   gen_sort_inplace(V, (void*) &cmp_RgX, &cmp_nodata, NULL);
    2699                 :       1085 :   return V;
    2700                 :            : }
    2701                 :            : GEN
    2702                 :          0 : FpX_rootsff(GEN P, GEN T, GEN p)
    2703                 :            : {
    2704                 :          0 :   pari_sp av = avma;
    2705                 :          0 :   return gerepilecopy(av, FpX_rootsff_i(P, T, p));
    2706                 :            : }
    2707                 :            : 
    2708                 :            : static GEN
    2709                 :       1659 : F2xqX_quad_roots(GEN P, GEN T)
    2710                 :            : {
    2711                 :       1659 :   GEN b= gel(P,3), c = gel(P,2);
    2712         [ +  + ]:       1659 :   if (degpol(b)>=0)
    2713                 :            :   {
    2714                 :        924 :     GEN z, d = F2xq_div(c, F2xq_sqr(b,T),T);
    2715         [ +  + ]:        924 :     if (F2xq_trace(d,T))
    2716                 :        385 :       return cgetg(1, t_COL);
    2717                 :        539 :     z = F2xq_mul(b, F2xq_Artin_Schreier(d, T), T);
    2718                 :        539 :     return mkcol2(z, F2x_add(b, z));
    2719                 :            :   }
    2720                 :            :   else
    2721                 :       1659 :     return mkcol(F2xq_sqrt(c, T));
    2722                 :            : }
    2723                 :            : 
    2724                 :            : static GEN
    2725                 :       2135 : FqX_quad_roots(GEN x, GEN T, GEN p)
    2726                 :            : {
    2727                 :       2135 :   GEN s, D, nb, b = gel(x,3), c = gel(x,2);
    2728         [ +  + ]:       2135 :   if (equaliu(p, 2))
    2729                 :            :   {
    2730                 :       1659 :     GEN f2 = ZXX_to_F2xX(x, get_FpX_var(T));
    2731                 :       1659 :     s = F2xqX_quad_roots(f2, ZX_to_F2x(get_FpX_mod(T)));
    2732                 :       1659 :     return F2xC_to_ZXC(s);
    2733                 :            :   }
    2734                 :        476 :   D = Fq_sub(Fq_sqr(b,T,p), Fq_Fp_mul(c,utoi(4),T,p), T,p);
    2735                 :        476 :   nb = Fq_neg(b,T,p);
    2736         [ -  + ]:        476 :   if (signe(D)==0)
    2737                 :          0 :     return mkcol(Fq_halve(nb,T, p));
    2738                 :        476 :   s = Fq_sqrt(D,T,p);
    2739         [ +  + ]:        476 :   if (!s) return cgetg(1, t_COL);
    2740                 :        462 :   s = Fq_halve(Fq_add(s,nb,T,p),T, p);
    2741                 :       2135 :   return mkcol2(s,Fq_sub(nb,s,T,p));
    2742                 :            : }
    2743                 :            : 
    2744                 :            : static GEN
    2745                 :      16758 : FqX_roots_i(GEN f, GEN T, GEN p)
    2746                 :            : {
    2747                 :            :   GEN R;
    2748                 :      16758 :   f = FqX_normalize(f, T, p);
    2749         [ -  + ]:      16758 :   if (!signe(f)) pari_err_ROOTS0("FqX_roots");
    2750         [ +  + ]:      16758 :   if (isabsolutepol(f))
    2751                 :            :   {
    2752                 :       1092 :     f = simplify_shallow(f);
    2753         [ +  + ]:       1092 :     if (typ(f) == t_INT) return cgetg(1, t_COL);
    2754                 :       1085 :     return FpX_rootsff_i(f, T, p);
    2755                 :            :   }
    2756         [ +  + ]:      15666 :   if (degpol(f)==2)
    2757                 :       2058 :     return gen_sort(FqX_quad_roots(f,T,p), (void*) &cmp_RgX, &cmp_nodata);
    2758      [ +  +  + ]:      13608 :   switch( FqX_split_deg1(&R, f, T, p) )
    2759                 :            :   {
    2760                 :       4466 :   case 0: return cgetg(1, t_COL);
    2761         [ +  + ]:       7014 :   case 1: if (lg(R) == 1) { R = mkvec(f); break; }
    2762                 :            :             /* fall through */
    2763                 :       9065 :   default: R = FqX_split_roots(R, T, p, NULL);
    2764                 :            :   }
    2765                 :       9142 :   R = FqXC_roots_from_deg1(R, T, p);
    2766                 :       9142 :   gen_sort_inplace(R, (void*) &cmp_RgX, &cmp_nodata, NULL);
    2767                 :      16758 :   return R;
    2768                 :            : }
    2769                 :            : 
    2770                 :            : GEN
    2771                 :      19138 : FqX_roots(GEN x, GEN T, GEN p)
    2772                 :            : {
    2773                 :      19138 :   pari_sp av = avma;
    2774         [ +  + ]:      19138 :   if (!T) return FpX_roots(x, p);
    2775                 :      19138 :   return gerepileupto(av, FqX_roots_i(x, T, p));
    2776                 :            : }
    2777                 :            : 
    2778                 :            : static long
    2779                 :         14 : FqX_sqf_split(GEN *t0, GEN q, GEN T, GEN p)
    2780                 :            : {
    2781                 :         14 :   GEN *t = t0, u = *t, v, S, g, X;
    2782                 :         14 :   long d, dg, N = degpol(u);
    2783                 :            : 
    2784         [ -  + ]:         14 :   if (N == 1) return 1;
    2785                 :         14 :   v = X = pol_x(varn(u));
    2786                 :         14 :   S = FqX_Frobenius_powers(u, T, p);
    2787         [ +  + ]:         28 :   for (d=1; d <= N>>1; d++)
    2788                 :            :   {
    2789                 :         14 :     v = FqX_Frobenius_eval(v, S, u, T, p);
    2790                 :         14 :     g = FqX_normalize(FqX_gcd(FpXX_sub(v,X,p),u, T,p),T,p);
    2791         [ -  + ]:         14 :     dg = degpol(g); if (dg <= 0) continue;
    2792                 :            : 
    2793                 :            :     /* all factors of g have degree d */
    2794                 :         14 :     *t = g;
    2795                 :         14 :     FqX_split(t, d, q, S, T, p);
    2796                 :         14 :     t += dg / d;
    2797                 :         14 :     N -= dg;
    2798         [ -  + ]:         14 :     if (N)
    2799                 :            :     {
    2800                 :          0 :       u = FqX_div(u,g, T,p);
    2801                 :          0 :       v = FqX_rem(v,u, T,p);
    2802                 :            :     }
    2803                 :            :   }
    2804         [ -  + ]:         14 :   if (N) *t++ = u;
    2805                 :         14 :   return t - t0;
    2806                 :            : }
    2807                 :            : 
    2808                 :            : /* not memory-clean */
    2809                 :            : static GEN
    2810                 :        350 : FpX_factorff_i(GEN P, GEN T, GEN p)
    2811                 :            : {
    2812                 :        350 :   GEN V, E, F = FpX_factor(P,p);
    2813                 :        350 :   long i, lfact = 1, nmax = lgpol(P), n = lgcols(F);
    2814                 :            : 
    2815                 :        350 :   V = cgetg(nmax,t_VEC);
    2816                 :        350 :   E = cgetg(nmax,t_VECSMALL);
    2817         [ +  + ]:        889 :   for(i=1;i<n;i++)
    2818                 :            :   {
    2819                 :        539 :     GEN R = FpX_factorff_irred(gmael(F,1,i),T,p), e = gmael(F,2,i);
    2820                 :        539 :     long j, r = lg(R);
    2821         [ +  + ]:       5320 :     for (j=1; j<r; j++,lfact++)
    2822                 :            :     {
    2823                 :       4781 :       gel(V,lfact) = gel(R,j);
    2824                 :       4781 :       gel(E,lfact) = e;
    2825                 :            :     }
    2826                 :            :   }
    2827                 :        350 :   setlg(V,lfact);
    2828                 :        350 :   setlg(E,lfact); return sort_factor_pol(mkvec2(V,E), cmp_RgX);
    2829                 :            : }
    2830                 :            : GEN
    2831                 :          0 : FpX_factorff(GEN P, GEN T, GEN p)
    2832                 :            : {
    2833                 :          0 :   pari_sp av = avma;
    2834                 :          0 :   return gerepilecopy(av, FpX_factorff_i(P, T, p));
    2835                 :            : }
    2836                 :            : 
    2837                 :            : /* assumes varncmp (varn(T), varn(f)) > 0 */
    2838                 :            : static GEN
    2839                 :        539 : FqX_factor_i(GEN f, GEN T, GEN p)
    2840                 :            : {
    2841                 :        539 :   long pg, j, k, e, N, lfact, pk, d = degpol(f);
    2842                 :            :   GEN E, f2, f3, df1, df2, g1, u, q, t;
    2843                 :            : 
    2844      [ +  +  + ]:        539 :   switch(d)
    2845                 :            :   {
    2846                 :          7 :     case -1: retmkmat2(mkcolcopy(f), mkvecsmall(1));
    2847                 :          7 :     case 0: return trivial_fact();
    2848                 :            :   }
    2849                 :        525 :   T = FpX_normalize(T, p);
    2850                 :        525 :   f = FqX_normalize(f, T, p);
    2851         [ +  + ]:        525 :   if (isabsolutepol(f)) return FpX_factorff_i(simplify_shallow(f), T, p);
    2852         [ +  + ]:        175 :   if (degpol(f)==2)
    2853                 :            :   {
    2854                 :         77 :     long v = varn(f);
    2855                 :         77 :     GEN r = FqX_quad_roots(f,T,p);
    2856   [ +  +  +  - ]:         77 :     switch(lg(r)-1)
    2857                 :            :     {
    2858                 :            :     case 0:
    2859                 :          7 :       return mkvec2(mkcolcopy(f), mkvecsmall(1));
    2860                 :            :     case 1:
    2861                 :         28 :       return mkvec2(mkcol(deg1pol_shallow(gen_1, Fq_neg(gel(r,1), T, p), v)),
    2862                 :            :                     mkvecsmall(2));
    2863                 :            :     case 2:
    2864                 :            :       {
    2865                 :         42 :         GEN f1 = deg1pol_shallow(gen_1, Fq_neg(gel(r,1), T, p), v);
    2866                 :         42 :         GEN f2 = deg1pol_shallow(gen_1, Fq_neg(gel(r,2), T, p), v);
    2867                 :         42 :         t = mkcol2(f1, f2); E = mkvecsmall2(1, 1);
    2868                 :         42 :         sort_factor_pol(mkvec2(t, E), cmp_RgX);
    2869                 :         42 :         return mkvec2(t, E);
    2870                 :            :       }
    2871                 :            :     }
    2872                 :            :   }
    2873                 :            : 
    2874                 :         98 :   pg = itos_or_0(p);
    2875                 :         98 :   df2  = NULL; /* gcc -Wall */
    2876                 :         98 :   t = cgetg(d+1,t_VEC);
    2877                 :         98 :   E = cgetg(d+1, t_VECSMALL);
    2878                 :            : 
    2879                 :         98 :   q = powiu(p, degpol(T));
    2880                 :         98 :   e = lfact = 1;
    2881                 :         98 :   pk = 1;
    2882                 :         98 :   f3 = NULL;
    2883                 :         98 :   df1 = FqX_deriv(f, T, p);
    2884                 :            :   for(;;)
    2885                 :            :   {
    2886                 :            :     long nb0;
    2887         [ +  + ]:        245 :     while (!signe(df1))
    2888                 :            :     { /* needs d >= p: pg = 0 can't happen  */
    2889                 :         56 :       pk *= pg; e = pk;
    2890                 :         56 :       f = FqX_frob_deflate(f, T, p);
    2891                 :         56 :       df1 = FqX_deriv(f, T, p); f3 = NULL;
    2892                 :            :     }
    2893         [ +  + ]:        189 :     f2 = f3? f3: FqX_gcd(f,df1, T,p);
    2894         [ +  + ]:        189 :     if (!degpol(f2)) u = f;
    2895                 :            :     else
    2896                 :            :     {
    2897                 :         91 :       g1 = FqX_div(f,f2, T,p);
    2898                 :         91 :       df2 = FqX_deriv(f2, T,p);
    2899         [ +  + ]:         91 :       if (gequal0(df2)) { u = g1; f3 = f2; }
    2900                 :            :       else
    2901                 :            :       {
    2902                 :         70 :         f3 = FqX_gcd(f2,df2, T,p);
    2903         [ +  + ]:         70 :         u = degpol(f3)? FqX_div(f2, f3, T,p): f2;
    2904                 :         70 :         u = FqX_div(g1, u, T,p);
    2905                 :            :       }
    2906                 :            :     }
    2907                 :            :     /* u is square-free (product of irreducibles of multiplicity e) */
    2908                 :        189 :     N = degpol(u);
    2909         [ +  + ]:        189 :     if (N) {
    2910                 :        140 :       nb0 = lfact;
    2911                 :        140 :       gel(t,lfact) = FqX_normalize(u, T,p);
    2912         [ +  + ]:        140 :       if (N == 1) lfact++;
    2913                 :            :       else
    2914                 :            :       {
    2915         [ +  + ]:         77 :         if (!equaliu(p,2))
    2916                 :         49 :           lfact += FqX_split_Berlekamp(&gel(t,lfact), T, p);
    2917                 :            :         else
    2918                 :            :         {
    2919                 :         28 :           GEN P = FqX_split_Trager(gel(t,lfact), T, p);
    2920         [ +  + ]:         28 :           if (P) {
    2921         [ +  + ]:         42 :             for (j = 1; j < lg(P); j++) gel(t,lfact++) = gel(P,j);
    2922                 :            :           } else {
    2923         [ -  + ]:         14 :             if (DEBUGLEVEL) pari_warn(warner, "FqX_split_Trager failed!");
    2924                 :         14 :             lfact += FqX_sqf_split(&gel(t,lfact), q, T, p);
    2925                 :            :           }
    2926                 :            :         }
    2927                 :            :       }
    2928         [ +  + ]:        406 :       for (j = nb0; j < lfact; j++) E[j] = e;
    2929                 :            :     }
    2930                 :            : 
    2931         [ +  + ]:        189 :     if (!degpol(f2)) break;
    2932                 :         91 :     f = f2; df1 = df2; e += pk;
    2933                 :         91 :   }
    2934                 :         98 :   setlg(t, lfact);
    2935                 :         98 :   setlg(E, lfact);
    2936         [ +  + ]:        364 :   for (j=1; j<lfact; j++) gel(t,j) = FqX_normalize(gel(t,j), T,p);
    2937                 :         98 :   (void)sort_factor_pol(mkvec2(t, E), cmp_RgX);
    2938                 :         98 :   k = 1;
    2939         [ +  + ]:        266 :   for (j = 2; j < lfact; j++)
    2940                 :            :   {
    2941         [ +  + ]:        168 :     if (RgX_equal(gel(t,j), gel(t,k)))
    2942                 :         21 :       E[k] += E[j];
    2943                 :            :     else
    2944                 :            :     { /* new factor */
    2945                 :        147 :       k++;
    2946                 :        147 :       E[k] = E[j];
    2947                 :        147 :       gel(t,k) = gel(t,j);
    2948                 :            :     }
    2949                 :            :   }
    2950                 :         98 :   setlg(t, k+1);
    2951                 :        539 :   setlg(E, k+1); return mkvec2(t, E);
    2952                 :            : }
    2953                 :            : 
    2954                 :            : static void
    2955                 :        280 : ffcheck(pari_sp *av, GEN *f, GEN *T, GEN p)
    2956                 :            : {
    2957                 :            :   long v;
    2958         [ -  + ]:        280 :   if (typ(*T)!=t_POL) pari_err_TYPE("factorff",*T);
    2959         [ -  + ]:        280 :   if (typ(*f)!=t_POL) pari_err_TYPE("factorff",*f);
    2960         [ -  + ]:        280 :   if (typ(p)!=t_INT) pari_err_TYPE("factorff",p);
    2961                 :        280 :   v = varn(*T);
    2962         [ -  + ]:        280 :   if (varncmp(v, varn(*f)) <= 0)
    2963                 :          0 :     pari_err_PRIORITY("factorff", *T, "<=", varn(*f));
    2964                 :        280 :   *T = RgX_to_FpX(*T, p); *av = avma;
    2965                 :        280 :   *f = RgX_to_FqX(*f, *T,p);
    2966                 :        280 : }
    2967                 :            : GEN
    2968                 :        280 : factorff(GEN f, GEN p, GEN T)
    2969                 :            : {
    2970                 :            :   pari_sp av;
    2971                 :            :   GEN z;
    2972 [ +  + ][ -  + ]:        280 :   if (!p || !T)
    2973                 :            :   {
    2974                 :            :     long pa, t;
    2975         [ -  + ]:         35 :     if (typ(f) != t_POL) pari_err_TYPE("factorff",f);
    2976                 :         35 :     T = p = NULL;
    2977                 :         35 :     t = RgX_type(f, &p, &T, &pa);
    2978         [ -  + ]:         35 :     if (t != t_FFELT) pari_err_TYPE("factorff",f);
    2979                 :         35 :     return FFX_factor(f,T);
    2980                 :            :   }
    2981                 :        245 :   ffcheck(&av, &f, &T, p); z = FqX_factor_i(f, T, p);
    2982                 :        280 :   return to_Fq_fact(gel(z,1),gel(z,2), T,p, av);
    2983                 :            : }
    2984                 :            : GEN
    2985                 :         70 : polrootsff(GEN f, GEN p, GEN T)
    2986                 :            : {
    2987                 :            :   pari_sp av;
    2988                 :            :   GEN z;
    2989 [ +  + ][ -  + ]:         70 :   if (!p || !T)
    2990                 :            :   {
    2991                 :            :     long pa, t;
    2992         [ -  + ]:         35 :     if (typ(f) != t_POL) pari_err_TYPE("polrootsff",f);
    2993                 :         35 :     T = p = NULL;
    2994                 :         35 :     t = RgX_type(f, &p, &T, &pa);
    2995         [ -  + ]:         35 :     if (t != t_FFELT) pari_err_TYPE("polrootsff",f);
    2996                 :         35 :     return FFX_roots(f,T);
    2997                 :            :   }
    2998                 :         35 :   ffcheck(&av, &f, &T, p); z = FqX_roots_i(f, T, p);
    2999                 :         70 :   return to_FqC(z, T,p, av);
    3000                 :            : }
    3001                 :            : 
    3002                 :            : /* factorization of x modulo (T,p). Assume x already reduced */
    3003                 :            : GEN
    3004                 :       1127 : FqX_factor(GEN x, GEN T, GEN p)
    3005                 :            : {
    3006                 :       1127 :   pari_sp av = avma;
    3007         [ +  + ]:       1127 :   if (!T) return FpX_factor(x, p);
    3008                 :       1127 :   return gerepilecopy(av, FqX_factor_i(x, T, p));
    3009                 :            : }
    3010                 :            : /* See also: Isomorphisms between finite field and relative
    3011                 :            :  * factorization in polarit3.c */

Generated by: LCOV version 1.9