Code coverage tests

This page documents the degree to which the PARI/GP source code is tested by our public test suite, distributed with the source distribution in directory src/test/. This is measured by the gcov utility; we then process gcov output using the lcov frond-end.

We test a few variants depending on Configure flags on the pari.math.u-bordeaux1.fr machine (x86_64 architecture), and agregate them in the final report:

The target is 90% coverage for all mathematical modules (given that branches depending on DEBUGLEVEL or DEBUGMEM are not covered). This script is run to produce the results below.

LCOV - code coverage report
Current view: top level - basemath - FpX_factor.c (source / functions) Hit Total Coverage
Test: PARI/GP v2.8.0 lcov report (development 17932-6fdb233) Lines: 1627 1727 94.2 %
Date: 2015-08-03 Functions: 144 153 94.1 %
Legend: Lines: hit not hit | Branches: + taken - not taken # not executed Branches: 901 1145 78.7 %

           Branch data     Line data    Source code
       1                 :            : /* Copyright (C) 2012  The PARI group.
       2                 :            : 
       3                 :            : This file is part of the PARI/GP package.
       4                 :            : 
       5                 :            : PARI/GP is free software; you can redistribute it and/or modify it under the
       6                 :            : terms of the GNU General Public License as published by the Free Software
       7                 :            : Foundation. It is distributed in the hope that it will be useful, but WITHOUT
       8                 :            : ANY WARRANTY WHATSOEVER.
       9                 :            : 
      10                 :            : Check the License for details. You should have received a copy of it, along
      11                 :            : with the package; see the file 'COPYING'. If not, write to the Free Software
      12                 :            : Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA. */
      13                 :            : 
      14                 :            : #include "pari.h"
      15                 :            : #include "paripriv.h"
      16                 :            : 
      17                 :            : /***********************************************************************/
      18                 :            : /**                                                                   **/
      19                 :            : /**               Factorisation over finite field                     **/
      20                 :            : /**                                                                   **/
      21                 :            : /***********************************************************************/
      22                 :            : 
      23                 :            : /*******************************************************************/
      24                 :            : /*                                                                 */
      25                 :            : /*           ROOTS MODULO a prime p (no multiplicities)            */
      26                 :            : /*                                                                 */
      27                 :            : /*******************************************************************/
      28                 :            : /* Check types and replace F by a monic normalized FpX having the same roots
      29                 :            :  * Don't bother to make constant polynomials monic */
      30                 :            : static void
      31                 :        224 : factmod_init(GEN *F, GEN p)
      32                 :            : {
      33         [ -  + ]:        224 :   if (typ(p)!=t_INT) pari_err_TYPE("factmod",p);
      34         [ -  + ]:        224 :   if (signe(p) < 0) pari_err_PRIME("factmod",p);
      35         [ -  + ]:        224 :   if (typ(*F)!=t_POL) pari_err_TYPE("factmod",*F);
      36         [ +  + ]:        224 :   if (lgefint(p) == 3)
      37                 :            :   {
      38                 :        126 :     ulong pp = p[2];
      39         [ -  + ]:        126 :     if (pp < 2) pari_err_PRIME("factmod", p);
      40                 :        126 :     *F = RgX_to_Flx(*F, pp);
      41         [ +  + ]:        126 :     if (lg(*F) > 3) *F = Flx_normalize(*F, pp);
      42                 :            :   }
      43                 :            :   else
      44                 :            :   {
      45                 :         98 :     *F = RgX_to_FpX(*F, p);
      46         [ +  + ]:         98 :     if (lg(*F) > 3) *F = FpX_normalize(*F, p);
      47                 :            :   }
      48                 :        224 : }
      49                 :            : /* as above, assume p prime and *F a ZX */
      50                 :            : static void
      51                 :     544180 : ZX_factmod_init(GEN *F, GEN p)
      52                 :            : {
      53         [ +  + ]:     544180 :   if (lgefint(p) == 3)
      54                 :            :   {
      55                 :     537424 :     ulong pp = p[2];
      56                 :     537424 :     *F = ZX_to_Flx(*F, pp);
      57         [ +  + ]:     537424 :     if (lg(*F) > 3) *F = Flx_normalize(*F, pp);
      58                 :            :   }
      59                 :            :   else
      60                 :            :   {
      61                 :       6756 :     *F = FpX_red(*F, p);
      62         [ +  + ]:       6756 :     if (lg(*F) > 3) *F = FpX_normalize(*F, p);
      63                 :            :   }
      64                 :     544180 : }
      65                 :            : 
      66                 :            : /* return 1,...,p-1 [not_0 = 1] or 0,...,p [not_0 = 0] */
      67                 :            : static GEN
      68                 :         35 : all_roots_mod_p(ulong p, int not_0)
      69                 :            : {
      70                 :            :   GEN r;
      71                 :            :   ulong i;
      72         [ +  + ]:         35 :   if (not_0) {
      73                 :         21 :     r = cgetg(p, t_VECSMALL);
      74         [ +  + ]:         63 :     for (i = 1; i < p; i++) r[i] = i;
      75                 :            :   } else {
      76                 :         14 :     r = cgetg(p+1, t_VECSMALL);
      77         [ +  + ]:         84 :     for (i = 0; i < p; i++) r[i+1] = i;
      78                 :            :   }
      79                 :         35 :   return r;
      80                 :            : }
      81                 :            : 
      82                 :            : /* X^n - 1 */
      83                 :            : static GEN
      84                 :         20 : Flx_Xnm1(long sv, long n, ulong p)
      85                 :            : {
      86                 :         20 :   GEN t = cgetg(n+3, t_VECSMALL);
      87                 :            :   long i;
      88                 :         20 :   t[1] = sv;
      89                 :         20 :   t[2] = p - 1;
      90         [ +  + ]:         81 :   for (i = 3; i <= n+1; i++) t[i] = 0;
      91                 :         20 :   t[i] = 1; return t;
      92                 :            : }
      93                 :            : /* X^n + 1 */
      94                 :            : static GEN
      95                 :         13 : Flx_Xn1(long sv, long n, ulong p)
      96                 :            : {
      97                 :         13 :   GEN t = cgetg(n+3, t_VECSMALL);
      98                 :            :   long i;
      99                 :            :   (void) p;
     100                 :         13 :   t[1] = sv;
     101                 :         13 :   t[2] = 1;
     102         [ +  + ]:         53 :   for (i = 3; i <= n+1; i++) t[i] = 0;
     103                 :         13 :   t[i] = 1; return t;
     104                 :            : }
     105                 :            : 
     106                 :            : static ulong
     107                 :          6 : Fl_nonsquare(ulong p)
     108                 :            : {
     109                 :          6 :   long k = 2;
     110                 :          6 :   for (;; k++)
     111                 :            :   {
     112                 :         12 :     long i = krouu(k, p);
     113         [ -  + ]:         12 :     if (!i) pari_err_PRIME("Fl_nonsquare",utoipos(p));
     114         [ +  + ]:         12 :     if (i < 0) return k;
     115                 :          6 :   }
     116                 :            : }
     117                 :            : 
     118                 :            : /* f monic Flx, f(0) != 0. Return a monic squarefree g with the same
     119                 :            :  * roots as f */
     120                 :            : static GEN
     121                 :         14 : Flx_cut_out_roots(GEN f, ulong p)
     122                 :            : {
     123                 :         14 :   GEN g = Flx_mod_Xnm1(f, p-1, p); /* f mod x^(p-1) - 1 */
     124 [ +  + ][ +  - ]:         14 :   if (g != f && degpol(g) >= 0) {
     125                 :          7 :     (void)Flx_valrem(g, &g); /* reduction may introduce 0 root */
     126                 :          7 :     g = Flx_gcd(g, Flx_Xnm1(g[1], p-1, p), p);
     127                 :          7 :     g = Flx_normalize(g, p);
     128                 :            :   }
     129                 :         14 :   return g;
     130                 :            : }
     131                 :            : 
     132                 :            : /* by checking f(0..p-1) */
     133                 :            : GEN
     134                 :         14 : Flx_roots_naive(GEN f, ulong p)
     135                 :            : {
     136                 :         14 :   long d, n = 0;
     137                 :         14 :   ulong s = 1UL, r;
     138                 :         14 :   GEN q, y = cgetg(degpol(f) + 1, t_VECSMALL);
     139                 :         14 :   pari_sp av2, av = avma;
     140                 :            : 
     141         [ -  + ]:         14 :   if (Flx_valrem(f, &f)) y[++n] = 0;
     142                 :         14 :   f = Flx_cut_out_roots(f, p);
     143                 :         14 :   d = degpol(f);
     144         [ -  + ]:         14 :   if (d < 0) return all_roots_mod_p(p, n == 0);
     145                 :         14 :   av2 = avma;
     146         [ +  + ]:        294 :   while (d > 1) /* d = current degree of f */
     147                 :            :   {
     148                 :        287 :     q = Flx_div_by_X_x(f, s, p, &r); /* TODO: FFT-type multi-evaluation */
     149         [ +  + ]:        287 :     if (r) avma = av2; else { y[++n] = s; d--; f = q; av2 = avma; }
     150         [ +  + ]:        287 :     if (++s == p) break;
     151                 :            :   }
     152         [ +  + ]:         14 :   if (d == 1)
     153                 :            :   { /* -f[2]/f[3], root of deg 1 polynomial */
     154                 :          7 :     r = Fl_mul(p - Fl_inv(f[3], p), f[2], p);
     155         [ +  - ]:          7 :     if (r >= s) y[++n] = r; /* otherwise double root */
     156                 :            :   }
     157                 :         14 :   avma = av; fixlg(y, n+1); return y;
     158                 :            : }
     159                 :            : static GEN
     160                 :       5999 : Flx_root_mod_2(GEN f)
     161                 :            : {
     162                 :       5999 :   int z1, z0 = !(f[2] & 1);
     163                 :            :   long i,n;
     164                 :            :   GEN y;
     165                 :            : 
     166         [ +  + ]:      23219 :   for (i=2, n=1; i < lg(f); i++) n += f[i];
     167                 :       5999 :   z1 = n & 1;
     168                 :       5999 :   y = cgetg(z0+z1+1, t_VECSMALL); i = 1;
     169         [ +  + ]:       5999 :   if (z0) y[i++] = 0;
     170         [ +  + ]:       5999 :   if (z1) y[i  ] = 1;
     171                 :       5999 :   return y;
     172                 :            : }
     173                 :            : static ulong
     174                 :         14 : Flx_oneroot_mod_2(GEN f)
     175                 :            : {
     176                 :            :   long i,n;
     177         [ -  + ]:         14 :   if (!(f[2] & 1)) return 0;
     178         [ +  + ]:         56 :   for (i=2, n=1; i < lg(f); i++) n += f[i];
     179         [ +  + ]:         14 :   if (n & 1) return 1;
     180                 :         14 :   return 2;
     181                 :            : }
     182                 :            : 
     183                 :            : static GEN FpX_roots_i(GEN f, GEN p);
     184                 :            : static GEN Flx_roots_i(GEN f, ulong p);
     185                 :            : static GEN FpX_Berlekamp_i(GEN f, GEN pp, long flag);
     186                 :            : 
     187                 :            : /* Generic driver to computes the roots of f modulo pp, using 'Roots' when
     188                 :            :  * pp is a small prime.
     189                 :            :  * if (gpwrap), check types thoroughly and return t_INTMODs, otherwise
     190                 :            :  * assume that f is an FpX, pp a prime and return t_INTs */
     191                 :            : static GEN
     192                 :      59633 : rootmod_aux(GEN f, GEN pp, GEN (*Roots)(GEN,ulong), int gpwrap)
     193                 :            : {
     194                 :      59633 :   pari_sp av = avma;
     195                 :            :   GEN y;
     196         [ +  + ]:      59633 :   if (gpwrap)
     197                 :         70 :     factmod_init(&f, pp);
     198                 :            :   else
     199                 :      59563 :     ZX_factmod_init(&f, pp);
     200      [ +  +  + ]:      59633 :   switch(lg(f))
     201                 :            :   {
     202                 :         14 :     case 2: pari_err_ROOTS0("rootmod");
     203                 :         35 :     case 3: avma = av; return cgetg(1,t_COL);
     204                 :            :   }
     205         [ +  + ]:      59584 :   if (typ(f) == t_VECSMALL)
     206                 :            :   {
     207                 :      56526 :     ulong p = pp[2];
     208         [ +  + ]:      56526 :     if (p == 2)
     209                 :       5999 :       y = Flx_root_mod_2(f);
     210                 :            :     else
     211                 :            :     {
     212         [ -  + ]:      50527 :       if (!odd(p)) pari_err_PRIME("rootmod",utoi(p));
     213                 :      50527 :       y = Roots(f, p);
     214                 :            :     }
     215                 :      56526 :     y = Flc_to_ZC(y);
     216                 :            :   }
     217                 :            :   else
     218                 :       3058 :     y = FpX_roots_i(f, pp);
     219         [ +  + ]:      59584 :   if (gpwrap) y = FpC_to_mod(y, pp);
     220                 :      59619 :   return gerepileupto(av, y);
     221                 :            : }
     222                 :            : /* assume that f is a ZX an pp a prime */
     223                 :            : GEN
     224                 :      59563 : FpX_roots(GEN f, GEN pp)
     225                 :      59563 : { return rootmod_aux(f, pp, Flx_roots_i, 0); }
     226                 :            : /* no assumptions on f and pp */
     227                 :            : GEN
     228                 :         14 : rootmod2(GEN f, GEN pp) { return rootmod_aux(f, pp, &Flx_roots_naive, 1); }
     229                 :            : GEN
     230                 :         56 : rootmod(GEN f, GEN pp) { return rootmod_aux(f, pp, &Flx_roots_i, 1); }
     231                 :            : GEN
     232                 :         70 : rootmod0(GEN f, GEN p, long flag)
     233                 :            : {
     234      [ +  +  - ]:         70 :   switch(flag)
     235                 :            :   {
     236                 :         56 :     case 0: return rootmod(f,p);
     237                 :         14 :     case 1: return rootmod2(f,p);
     238                 :          0 :     default: pari_err_FLAG("polrootsmod");
     239                 :            :   }
     240                 :         56 :   return NULL; /* not reached */
     241                 :            : }
     242                 :            : 
     243                 :            : /* assume x reduced mod p > 2, monic. */
     244                 :            : static int
     245                 :         21 : FpX_quad_factortype(GEN x, GEN p)
     246                 :            : {
     247                 :         21 :   GEN b = gel(x,3), c = gel(x,2);
     248                 :         21 :   GEN D = subii(sqri(b), shifti(c,2));
     249                 :         21 :   return kronecker(D,p);
     250                 :            : }
     251                 :            : /* assume x reduced mod p, monic. Return one root, or NULL if irreducible */
     252                 :            : GEN
     253                 :       6708 : FpX_quad_root(GEN x, GEN p, int unknown)
     254                 :            : {
     255                 :       6708 :   GEN s, D, b = gel(x,3), c = gel(x,2);
     256                 :            : 
     257         [ -  + ]:       6708 :   if (equaliu(p, 2)) {
     258         [ #  # ]:          0 :     if (!signe(b)) return c;
     259         [ #  # ]:          0 :     return signe(c)? NULL: gen_1;
     260                 :            :   }
     261                 :       6708 :   D = subii(sqri(b), shifti(c,2));
     262                 :       6708 :   D = remii(D,p);
     263 [ +  + ][ +  + ]:       6708 :   if (unknown && kronecker(D,p) == -1) return NULL;
     264                 :            : 
     265                 :       6700 :   s = Fp_sqrt(D,p);
     266                 :            :   /* p is not prime, go on and give e.g. maxord a chance to recover */
     267         [ +  + ]:       6700 :   if (!s) return NULL;
     268                 :       6708 :   return Fp_halve(Fp_sub(s,b, p), p);
     269                 :            : }
     270                 :            : static GEN
     271                 :       3138 : FpX_otherroot(GEN x, GEN r, GEN p)
     272                 :       3138 : { return Fp_neg(Fp_add(gel(x,3), r, p), p); }
     273                 :            : 
     274                 :            : /* disc(x^2+bx+c) = b^2 - 4c */
     275                 :            : static ulong
     276                 :    2076431 : Fl_disc_bc(ulong b, ulong c, ulong p)
     277                 :    2076431 : { return Fl_sub(Fl_sqr(b,p), Fl_double(Fl_double(c,p),p), p); }
     278                 :            : /* p > 2 */
     279                 :            : static ulong
     280                 :    2012605 : Flx_quad_root(GEN x, ulong p, int unknown)
     281                 :            : {
     282                 :    2012605 :   ulong s, b = x[3], c = x[2];
     283                 :    2012605 :   ulong D = Fl_disc_bc(b, c, p);
     284 [ +  + ][ +  + ]:    2012605 :   if (unknown && krouu(D,p) == -1) return p;
     285                 :    1927062 :   s = Fl_sqrt(D,p);
     286         [ +  + ]:    1927062 :   if (s==~0UL) return p;
     287                 :    2012605 :   return Fl_halve(Fl_sub(s,b, p), p);
     288                 :            : }
     289                 :            : static ulong
     290                 :    1665385 : Flx_otherroot(GEN x, ulong r, ulong p)
     291                 :    1665385 : { return Fl_neg(Fl_add(x[3], r, p), p); }
     292                 :            : 
     293                 :            : 
     294                 :            : /* 'todo' contains the list of factors to be split.
     295                 :            :  * 'done' the list of finished factors, no longer touched */
     296                 :            : struct split_t { GEN todo, done; };
     297                 :            : static void
     298                 :      96211 : split_init(struct split_t *S, long max)
     299                 :            : {
     300                 :      96211 :   S->todo = vectrunc_init(max);
     301                 :      96211 :   S->done = vectrunc_init(max);
     302                 :      96211 : }
     303                 :            : #if 0
     304                 :            : /* move todo[i] to done */
     305                 :            : static void
     306                 :            : split_convert(struct split_t *S, long i)
     307                 :            : {
     308                 :            :   long n = lg(S->todo)-1;
     309                 :            :   vectrunc_append(S->done, gel(S->todo,i));
     310                 :            :   if (n) gel(S->todo,i) = gel(S->todo, n);
     311                 :            :   setlg(S->todo, n);
     312                 :            : }
     313                 :            : #endif
     314                 :            : /* append t to todo */
     315                 :            : static void
     316                 :     132199 : split_add(struct split_t *S, GEN t) { vectrunc_append(S->todo, t); }
     317                 :            : /* delete todo[i], add t to done */
     318                 :            : static void
     319                 :     132199 : split_moveto_done(struct split_t *S, long i, GEN t)
     320                 :            : {
     321                 :     132199 :   long n = lg(S->todo)-1;
     322                 :     132199 :   vectrunc_append(S->done, t);
     323         [ +  - ]:     132199 :   if (n) gel(S->todo,i) = gel(S->todo, n);
     324                 :     132199 :   setlg(S->todo, n);
     325                 :            : 
     326                 :     132199 : }
     327                 :            : /* append t to done */
     328                 :            : static void
     329                 :      75724 : split_add_done(struct split_t *S, GEN t)
     330                 :      75724 : { vectrunc_append(S->done, t); }
     331                 :            : /* split todo[i] into a and b */
     332                 :            : static void
     333                 :      53160 : split_todo(struct split_t *S, long i, GEN a, GEN b)
     334                 :            : {
     335                 :      53160 :   gel(S->todo, i) = a;
     336                 :      53160 :   split_add(S, b);
     337                 :      53160 : }
     338                 :            : /* split todo[i] into a and b, moved to done */
     339                 :            : static void
     340                 :      56864 : split_done(struct split_t *S, long i, GEN a, GEN b)
     341                 :            : {
     342                 :      56864 :   split_moveto_done(S, i, a);
     343                 :      56864 :   split_add_done(S, b);
     344                 :      56864 : }
     345                 :            : 
     346                 :            : /* by splitting, assume p > 2 prime, deg(f) > 0, and f monic */
     347                 :            : static GEN
     348                 :       3058 : FpX_roots_i(GEN f, GEN p)
     349                 :            : {
     350                 :            :   GEN pol, pol0, a, q;
     351                 :            :   struct split_t S;
     352                 :            : 
     353                 :       3058 :   split_init(&S, lg(f)-1);
     354                 :       3058 :   settyp(S.done, t_COL);
     355         [ +  + ]:       3058 :   if (ZX_valrem(f, &f)) split_add_done(&S, gen_0);
     356   [ +  +  +  + ]:       3058 :   switch(degpol(f))
     357                 :            :   {
     358                 :          7 :     case 0: return ZC_copy(S.done);
     359                 :         14 :     case 1: split_add_done(&S, subii(p, gel(f,2))); return ZC_copy(S.done);
     360                 :            :     case 2: {
     361                 :       1583 :       GEN s, r = FpX_quad_root(f, p, 1);
     362         [ +  - ]:       1583 :       if (r) {
     363                 :       1583 :         split_add_done(&S, r);
     364                 :       1583 :         s = FpX_otherroot(f,r, p);
     365                 :            :         /* f not known to be square free yet */
     366         [ +  - ]:       1583 :         if (!equalii(r, s)) split_add_done(&S, s);
     367                 :            :       }
     368                 :       1583 :       return sort(S.done);
     369                 :            :     }
     370                 :            :   }
     371                 :            : 
     372                 :       1454 :   a = FpXQ_pow(pol_x(varn(f)), subiu(p,1), f,p);
     373         [ -  + ]:       1454 :   if (lg(a) < 3) pari_err_PRIME("rootmod",p);
     374                 :       1454 :   a = FpX_Fp_sub_shallow(a, gen_1, p); /* a = x^(p-1) - 1 mod f */
     375                 :       1454 :   a = FpX_gcd(f,a, p);
     376         [ -  + ]:       1454 :   if (!degpol(a)) return ZC_copy(S.done);
     377                 :       1454 :   split_add(&S, FpX_normalize(a,p));
     378                 :            : 
     379                 :       1454 :   q = shifti(p,-1);
     380                 :       1454 :   pol0 = icopy(gen_1); /* constant term, will vary in place */
     381                 :       1454 :   pol = deg1pol_shallow(gen_1, pol0, varn(f));
     382                 :       1454 :   for (pol0[2] = 1;; pol0[2]++)
     383                 :            :   {
     384                 :       3006 :     long j, l = lg(S.todo);
     385         [ +  + ]:       3006 :     if (l == 1) return sort(S.done);
     386 [ -  + ][ #  # ]:       1552 :     if (pol0[2] == 100 && !BPSW_psp(p)) pari_err_PRIME("polrootsmod",p);
     387         [ +  + ]:       3195 :     for (j = 1; j < l; j++)
     388                 :            :     {
     389                 :       1643 :       GEN c = gel(S.todo,j);
     390      [ +  +  + ]:       1643 :       switch(degpol(c))
     391                 :            :       { /* convert linear and quadratics to roots, try to split the rest */
     392                 :            :         case 1:
     393                 :         56 :           split_moveto_done(&S, j, subii(p, gel(c,2)));
     394                 :         56 :           j--; l--; break;
     395                 :            :         case 2: {
     396                 :       1489 :           GEN r = FpX_quad_root(c, p, 0), s = FpX_otherroot(c,r, p);
     397                 :       1489 :           split_done(&S, j, r, s);
     398                 :       1489 :           j--; l--; break;
     399                 :            :         }
     400                 :            :         default: {
     401                 :            :           /* b = pol^(p-1)/2 - 1 */
     402                 :         98 :           GEN b = FpX_Fp_sub_shallow(FpXQ_pow(pol,q, c,p), gen_1, p);
     403                 :            :           long db;
     404                 :         98 :           b = FpX_gcd(c,b, p); db = degpol(b);
     405 [ +  - ][ +  + ]:         98 :           if (db && db < degpol(c))
     406                 :            :           {
     407                 :         91 :             b = FpX_normalize(b, p);
     408                 :         91 :             c = FpX_div(c,b, p);
     409                 :         91 :             split_todo(&S, j, b, c);
     410                 :            :           }
     411                 :            :         }
     412                 :            :       }
     413                 :            :     }
     414                 :       4610 :   }
     415                 :            : }
     416                 :            : 
     417                 :            : /* Assume f is normalized */
     418                 :            : static ulong
     419                 :      30224 : Flx_cubic_root(GEN ff, ulong p)
     420                 :            : {
     421                 :      30224 :   GEN f = Flx_normalize(ff,p);
     422                 :      30224 :   ulong pi = get_Fl_red(p);
     423         [ +  + ]:      30224 :   ulong a = f[4], b=f[3], c=f[2], p3 = p%3==1 ? (2*p+1)/3 :(p+1)/3;
     424                 :      30224 :   ulong t = Fl_mul_pre(a, p3, p, pi), t2 = Fl_sqr_pre(t, p, pi);
     425                 :      30224 :   ulong A = Fl_sub(b, Fl_triple(t2, p), p);
     426                 :      30224 :   ulong B = Fl_addmul_pre(t, Fl_sub(Fl_double(t2, p), b, p), c, p, pi);
     427                 :      30224 :   ulong A3 =  Fl_mul_pre(A, p3, p, pi);
     428                 :      30224 :   ulong A32 = Fl_sqr_pre(A3, p, pi), A33 = Fl_mul_pre(A3, A32, p, pi);
     429                 :      30224 :   ulong S = Fl_neg(B,p), P = Fl_neg(A3,p);
     430                 :      30224 :   ulong D = Fl_add(Fl_sqr_pre(S, p, pi), Fl_double(Fl_double(A33, p), p), p);
     431                 :      30224 :   ulong s = Fl_sqrt_pre(D, p, pi), vS1, vS2;
     432         [ +  + ]:      30224 :   if (s!=~0UL)
     433                 :            :   {
     434         [ +  + ]:      18942 :     ulong S1 = S==s ? S: Fl_halve(Fl_sub(S, s, p), p);
     435         [ +  + ]:      18942 :     if (p%3==2) /* 1 solutions */
     436                 :       2862 :       vS1 = Fl_powu_pre(S1, (2*p-1)/3, p, pi);
     437                 :            :     else
     438                 :            :     {
     439                 :      16080 :       vS1 = Fl_sqrtl_pre(S1, 3, p, pi);
     440         [ +  + ]:      16080 :       if (vS1==~0UL) return p; /*0 solutions*/
     441                 :            :       /*3 solutions*/
     442                 :            :     }
     443         [ +  + ]:      12828 :     vS2 = P? Fl_mul_pre(P, Fl_inv(vS1, p), p, pi): 0;
     444                 :      12828 :     return Fl_sub(Fl_add(vS1,vS2, p), t, p);
     445                 :            :   }
     446                 :            :   else
     447                 :            :   {
     448                 :      11282 :     pari_sp av = avma;
     449                 :      11282 :     GEN S1 = mkvecsmall2(Fl_halve(S, p), Fl_halve(1UL, p));
     450                 :      11282 :     GEN vS1 = Fl2_sqrtn_pre(S1, utoi(3), D, p, pi, NULL);
     451                 :            :     ulong Sa;
     452         [ +  + ]:      11282 :     if (!vS1) return p; /*0 solutions, p%3==2*/
     453                 :      11074 :     Sa = vS1[1];
     454         [ +  + ]:      11074 :     if (p%3==1) /*1 solutions*/
     455                 :            :     {
     456                 :       7195 :       ulong Fa = Fl2_norm_pre(vS1, D, p, pi);
     457         [ +  + ]:       7195 :       if (Fa!=P)
     458                 :       4821 :         Sa = Fl_mul(Sa, Fl_div(Fa, P, p),p);
     459                 :            :     }
     460                 :      11074 :     avma = av;
     461                 :      30224 :     return Fl_sub(Fl_double(Sa,p),t,p);
     462                 :            :   }
     463                 :            : }
     464                 :            : 
     465                 :            : /* assume p > 2 prime */
     466                 :            : static ulong
     467                 :     372989 : Flx_oneroot_i(GEN f, ulong p, long fl)
     468                 :            : {
     469                 :            :   GEN pol, a;
     470                 :            :   ulong q;
     471                 :            :   long da;
     472                 :            : 
     473         [ +  + ]:     372989 :   if (Flx_val(f)) return 0;
     474   [ +  +  +  + ]:     372914 :   switch(degpol(f))
     475                 :            :   {
     476                 :        168 :     case 1: return Fl_neg(f[2], p);
     477                 :     269965 :     case 2: return Flx_quad_root(f, p, 1);
     478         [ +  - ]:      28128 :     case 3: if (p>3) return Flx_cubic_root(f, p); /*FALL THROUGH*/
     479                 :            :   }
     480                 :            : 
     481         [ +  + ]:      74653 :   if (!fl)
     482                 :            :   {
     483                 :      68885 :     a = Flxq_powu(polx_Flx(f[1]), p - 1, f,p);
     484         [ -  + ]:      68885 :     if (lg(a) < 3) pari_err_PRIME("rootmod",utoipos(p));
     485                 :      68885 :     a = Flx_Fl_add(a, p-1, p); /* a = x^(p-1) - 1 mod f */
     486                 :      68885 :     a = Flx_gcd(f,a, p);
     487                 :       5768 :   } else a = f;
     488                 :      74653 :   da = degpol(a);
     489         [ +  + ]:      74653 :   if (!da) return p;
     490                 :      36720 :   a = Flx_normalize(a,p);
     491                 :            : 
     492                 :      36720 :   q = p >> 1;
     493                 :      36720 :   pol = polx_Flx(f[1]);
     494                 :      36720 :   for(pol[2] = 1;; pol[2]++)
     495                 :            :   {
     496 [ -  + ][ #  # ]:      61185 :     if (pol[2] == 1000 && !uisprime(p)) pari_err_PRIME("Flx_oneroot",utoipos(p));
     497   [ +  +  +  + ]:      61185 :     switch(da)
     498                 :            :     {
     499                 :      15620 :       case 1: return Fl_neg(a[2], p);
     500                 :      19004 :       case 2: return Flx_quad_root(a, p, 0);
     501         [ +  - ]:       2096 :       case 3: if (p>3) return Flx_cubic_root(a, p); /*FALL THROUGH*/
     502                 :            :       default: {
     503                 :      24465 :         GEN b = Flx_Fl_add(Flxq_powu(pol,q, a,p), p-1, p);
     504                 :            :         long db;
     505                 :      24465 :         b = Flx_gcd(a,b, p); db = degpol(b);
     506 [ +  + ][ +  + ]:      24465 :         if (db && db < da)
     507                 :            :         {
     508                 :      22963 :           b = Flx_normalize(b, p);
     509         [ +  + ]:      22963 :           if (db <= (da >> 1)) {
     510                 :      14306 :             a = b;
     511                 :      14306 :             da = db;
     512                 :            :           } else {
     513                 :       8657 :             a = Flx_div(a,b, p);
     514                 :       8657 :             da -= db;
     515                 :            :           }
     516                 :            :         }
     517                 :            :       }
     518                 :            :     }
     519                 :     397454 :   }
     520                 :            : }
     521                 :            : 
     522                 :            : /* assume p > 2 prime */
     523                 :            : static GEN
     524                 :       3615 : FpX_oneroot_i(GEN f, GEN p)
     525                 :            : {
     526                 :            :   GEN pol, pol0, a, q;
     527                 :            :   long da;
     528                 :            : 
     529         [ +  + ]:       3615 :   if (ZX_val(f)) return gen_0;
     530      [ +  +  + ]:       3608 :   switch(degpol(f))
     531                 :            :   {
     532                 :        140 :     case 1: return subii(p, gel(f,2));
     533                 :       3405 :     case 2: return FpX_quad_root(f, p, 1);
     534                 :            :   }
     535                 :            : 
     536                 :         63 :   a = FpXQ_pow(pol_x(varn(f)), subiu(p,1), f,p);
     537         [ -  + ]:         63 :   if (lg(a) < 3) pari_err_PRIME("rootmod",p);
     538                 :         63 :   a = FpX_Fp_sub_shallow(a, gen_1, p); /* a = x^(p-1) - 1 mod f */
     539                 :         63 :   a = FpX_gcd(f,a, p);
     540                 :         63 :   da = degpol(a);
     541         [ -  + ]:         63 :   if (!da) return NULL;
     542                 :         63 :   a = FpX_normalize(a,p);
     543                 :            : 
     544                 :         63 :   q = shifti(p,-1);
     545                 :         63 :   pol0 = icopy(gen_1); /* constant term, will vary in place */
     546                 :         63 :   pol = deg1pol_shallow(gen_1, pol0, varn(f));
     547                 :         63 :   for (pol0[2]=1; ; pol0[2]++)
     548                 :            :   {
     549 [ -  + ][ #  # ]:        210 :     if (pol0[2] == 1000 && !BPSW_psp(p)) pari_err_PRIME("FpX_oneroot",p);
     550      [ +  +  + ]:        210 :     switch(da)
     551                 :            :     {
     552                 :         35 :       case 1: return subii(p, gel(a,2));
     553                 :         28 :       case 2: return FpX_quad_root(a, p, 0);
     554                 :            :       default: {
     555                 :        147 :         GEN b = FpX_Fp_sub_shallow(FpXQ_pow(pol,q, a,p), gen_1, p);
     556                 :            :         long db;
     557                 :        147 :         b = FpX_gcd(a,b, p); db = degpol(b);
     558 [ +  + ][ +  - ]:        147 :         if (db && db < da)
     559                 :            :         {
     560                 :        140 :           b = FpX_normalize(b, p);
     561         [ +  + ]:        140 :           if (db <= (da >> 1)) {
     562                 :        105 :             a = b;
     563                 :        105 :             da = db;
     564                 :            :           } else {
     565                 :         35 :             a = FpX_div(a,b, p);
     566                 :         35 :             da -= db;
     567                 :            :           }
     568                 :            :         }
     569                 :            :       }
     570                 :            :     }
     571                 :       3762 :   }
     572                 :            : }
     573                 :            : 
     574                 :            : ulong
     575                 :     359916 : Flx_oneroot(GEN f, ulong p)
     576                 :            : {
     577                 :     359916 :   pari_sp av = avma;
     578                 :            :   ulong r;
     579      [ -  -  + ]:     359916 :   switch(lg(f))
     580                 :            :   {
     581                 :          0 :     case 2: return 0;
     582                 :          0 :     case 3: avma = av; return p;
     583                 :            :   }
     584         [ -  + ]:     359916 :   if (p == 2) return Flx_oneroot_mod_2(f);
     585                 :     359916 :   r = Flx_oneroot_i(Flx_normalize(f, p), p, 0);
     586                 :     359916 :   avma = av; return r;
     587                 :            : }
     588                 :            : 
     589                 :            : ulong
     590                 :       5768 : Flx_oneroot_split(GEN f, ulong p)
     591                 :            : {
     592                 :       5768 :   pari_sp av = avma;
     593                 :            :   ulong r;
     594      [ -  -  + ]:       5768 :   switch(lg(f))
     595                 :            :   {
     596                 :          0 :     case 2: return 0;
     597                 :          0 :     case 3: avma = av; return p;
     598                 :            :   }
     599         [ -  + ]:       5768 :   if (p == 2) return Flx_oneroot_mod_2(f);
     600                 :       5768 :   r = Flx_oneroot_i(Flx_normalize(f, p), p, 1);
     601                 :       5768 :   avma = av; return r;
     602                 :            : }
     603                 :            : 
     604                 :            : /* assume that p is prime */
     605                 :            : GEN
     606                 :      10934 : FpX_oneroot(GEN f, GEN pp) {
     607                 :      10934 :   pari_sp av = avma;
     608                 :      10934 :   ZX_factmod_init(&f, pp);
     609      [ -  -  + ]:      10934 :   switch(lg(f))
     610                 :            :   {
     611                 :          0 :     case 2: avma = av; return gen_0;
     612                 :          0 :     case 3: avma = av; return NULL;
     613                 :            :   }
     614         [ +  + ]:      10934 :   if (typ(f) == t_VECSMALL)
     615                 :            :   {
     616                 :       7319 :     ulong r, p = pp[2];
     617         [ +  + ]:       7319 :     if (p == 2)
     618                 :         14 :       r = Flx_oneroot_mod_2(f);
     619                 :            :     else
     620                 :       7305 :       r = Flx_oneroot_i(f, p, 0);
     621                 :       7319 :     avma = av;
     622         [ +  + ]:       7319 :     return (r == p)? NULL: utoi(r);
     623                 :            :   }
     624                 :       3615 :   f = FpX_oneroot_i(f, pp);
     625         [ -  + ]:       3615 :   if (!f) { avma = av; return NULL; }
     626                 :      10934 :   return gerepileuptoint(av, f);
     627                 :            : }
     628                 :            : 
     629                 :            : /*******************************************************************/
     630                 :            : /*                                                                 */
     631                 :            : /*                     FACTORISATION MODULO p                      */
     632                 :            : /*                                                                 */
     633                 :            : /*******************************************************************/
     634                 :            : 
     635                 :            : /* Functions giving information on the factorisation. */
     636                 :            : 
     637                 :            : /* u in Z[X], return kernel of (Frob - Id) over Fp[X] / u */
     638                 :            : GEN
     639                 :         83 : FpX_Berlekamp_ker(GEN u, GEN p)
     640                 :            : {
     641                 :         83 :   pari_sp ltop=avma;
     642                 :         83 :   long j,N = degpol(u);
     643                 :         83 :   GEN Q  = FpX_matFrobenius(u, p);
     644         [ +  + ]:       2223 :   for (j=1; j<=N; j++)
     645                 :       2140 :     gcoeff(Q,j,j) = Fp_sub(gcoeff(Q,j,j), gen_1, p);
     646                 :         83 :   return gerepileupto(ltop, FpM_ker(Q,p));
     647                 :            : }
     648                 :            : 
     649                 :            : GEN
     650                 :      20909 : F2x_Berlekamp_ker(GEN u)
     651                 :            : {
     652                 :      20909 :   pari_sp ltop=avma;
     653                 :      20909 :   long j,N = F2x_degree(u);
     654                 :            :   GEN Q, XP;
     655                 :            :   pari_timer T;
     656                 :      20909 :   timer_start(&T);
     657                 :      20909 :   XP = F2xq_sqr(polx_F2x(u[1]),u);
     658                 :      20909 :   Q  = F2xq_matrix_pow(XP,N,N,u);
     659         [ +  + ]:     109221 :   for (j=1; j<=N; j++)
     660                 :      88312 :     F2m_flip(Q,j,j);
     661         [ -  + ]:      20909 :   if(DEBUGLEVEL>=9) timer_printf(&T,"Berlekamp matrix");
     662                 :      20909 :   Q = F2m_ker_sp(Q,0);
     663         [ -  + ]:      20909 :   if(DEBUGLEVEL>=9) timer_printf(&T,"kernel");
     664                 :      20909 :   return gerepileupto(ltop,Q);
     665                 :            : }
     666                 :            : 
     667                 :            : GEN
     668                 :     175350 : Flx_Berlekamp_ker(GEN u, ulong l)
     669                 :            : {
     670                 :     175350 :   pari_sp ltop=avma;
     671                 :     175350 :   long j,N = degpol(u);
     672                 :            :   GEN Q;
     673                 :            :   pari_timer T;
     674                 :     175350 :   timer_start(&T);
     675                 :     175350 :   Q  = Flx_matFrobenius(u, l);
     676         [ +  + ]:     828615 :   for (j=1; j<=N; j++)
     677                 :     653265 :     coeff(Q,j,j) = Fl_sub(coeff(Q,j,j),1,l);
     678         [ -  + ]:     175350 :   if(DEBUGLEVEL>=9) timer_printf(&T,"Berlekamp matrix");
     679                 :     175350 :   Q = Flm_ker_sp(Q,l,0);
     680         [ -  + ]:     175350 :   if(DEBUGLEVEL>=9) timer_printf(&T,"kernel");
     681                 :     175350 :   return gerepileupto(ltop,Q);
     682                 :            : }
     683                 :            : 
     684                 :            : /* product of terms of degree 1 in factorization of f */
     685                 :            : GEN
     686                 :      58989 : FpX_split_part(GEN f, GEN p)
     687                 :            : {
     688                 :      58989 :   long n = degpol(f);
     689                 :      58989 :   GEN z, X = pol_x(varn(f));
     690         [ +  + ]:      58989 :   if (n <= 1) return f;
     691                 :      58968 :   f = FpX_red(f, p);
     692                 :      58968 :   z = FpX_sub(FpX_Frobenius(f, p), X, p);
     693                 :      58989 :   return FpX_gcd(z,f,p);
     694                 :            : }
     695                 :            : 
     696                 :            : /* Compute the number of roots in Fp without counting multiplicity
     697                 :            :  * return -1 for 0 polynomial. lc(f) must be prime to p. */
     698                 :            : long
     699                 :      17962 : FpX_nbroots(GEN f, GEN p)
     700                 :            : {
     701                 :      17962 :   pari_sp av = avma;
     702                 :      17962 :   GEN z = FpX_split_part(f, p);
     703                 :      17962 :   avma = av; return degpol(z);
     704                 :            : }
     705                 :            : 
     706                 :            : int
     707                 :          0 : FpX_is_totally_split(GEN f, GEN p)
     708                 :            : {
     709                 :          0 :   long n=degpol(f);
     710                 :          0 :   pari_sp av = avma;
     711         [ #  # ]:          0 :   if (n <= 1) return 1;
     712         [ #  # ]:          0 :   if (cmpui(n, p) > 0) return 0;
     713                 :          0 :   f = FpX_red(f, p);
     714                 :          0 :   avma = av; return gequalX(FpX_Frobenius(f, p));
     715                 :            : }
     716                 :            : 
     717                 :            : /* Flv_Flx( Flm_Flc_mul(x, Flx_Flv(y), p) ) */
     718                 :            : static GEN
     719                 :     261713 : Flm_Flx_mul(GEN x, GEN y, ulong p)
     720                 :            : {
     721                 :     261713 :   long i,k,l, ly = lg(y)-1;
     722                 :            :   GEN z;
     723                 :     261713 :   long vs=y[1];
     724         [ -  + ]:     261713 :   if (ly==1) return zero_Flx(vs);
     725                 :     261713 :   l = lgcols(x);
     726                 :     261713 :   y++;
     727                 :     261713 :   z = zero_zv(l) + 1;
     728         [ +  - ]:     261713 :   if (SMALL_ULONG(p))
     729                 :            :   {
     730         [ +  + ]:    5377468 :     for (k=1; k<ly; k++)
     731                 :            :     {
     732                 :            :       GEN c;
     733         [ +  + ]:    5115755 :       if (!y[k]) continue;
     734                 :    2299245 :       c = gel(x,k);
     735         [ +  + ]:    2299245 :       if (y[k] == 1)
     736         [ +  + ]:    9367241 :         for (i=1; i<l; i++)
     737                 :            :         {
     738                 :    9125415 :           z[i] += c[i];
     739         [ -  + ]:    9125415 :           if (z[i] & HIGHBIT) z[i] %= p;
     740                 :            :         }
     741                 :            :       else
     742         [ +  + ]:  117821725 :         for (i=1; i<l; i++)
     743                 :            :         {
     744                 :  115764306 :           z[i] += c[i] * y[k];
     745         [ -  + ]:  115764306 :           if (z[i] & HIGHBIT) z[i] %= p;
     746                 :            :         }
     747                 :            :     }
     748         [ +  + ]:    6370338 :     for (i=1; i<l; i++) z[i] %= p;
     749                 :            :   }
     750                 :            :   else
     751                 :            :   {
     752         [ #  # ]:          0 :     for (k=1; k<ly; k++)
     753                 :            :     {
     754                 :            :       GEN c;
     755         [ #  # ]:          0 :       if (!y[k]) continue;
     756                 :          0 :       c = gel(x,k);
     757         [ #  # ]:          0 :       if (y[k] == 1)
     758         [ #  # ]:          0 :         for (i=1; i<l; i++)
     759                 :          0 :           z[i] = Fl_add(z[i], c[i], p);
     760                 :            :       else
     761         [ #  # ]:          0 :         for (i=1; i<l; i++)
     762                 :          0 :           z[i] = Fl_add(z[i], Fl_mul(c[i],y[k],p), p);
     763                 :            :     }
     764                 :            :   }
     765 [ +  - ][ +  + ]:    1730150 :   while (--l && !z[l]);
     766         [ -  + ]:     261713 :   if (!l) return zero_Flx(vs);
     767                 :     261713 :   *z-- = vs; return z;
     768                 :            : }
     769                 :            : 
     770                 :            : /* z must be squarefree mod p*/
     771                 :            : GEN
     772                 :      97416 : Flx_nbfact_by_degree(GEN z, long *nb, ulong p)
     773                 :            : {
     774                 :      97416 :   long lgg, d = 0, e = degpol(z);
     775                 :      97416 :   GEN D = zero_zv(e);
     776                 :      97416 :   pari_sp av = avma;
     777                 :      97416 :   GEN g, w, PolX = polx_Flx(z[1]);
     778                 :      97416 :   GEN MP = Flx_matFrobenius(z, p);
     779                 :            : 
     780                 :      97416 :   w = PolX; *nb = 0;
     781         [ +  + ]:     294897 :   while (d < (e>>1))
     782                 :            :   { /* here e = degpol(z) */
     783                 :     261713 :     d++;
     784                 :     261713 :     w = Flm_Flx_mul(MP, w, p); /* w^p mod (z,p) */
     785                 :     261713 :     g = Flx_gcd(z, Flx_sub(w, PolX, p), p);
     786         [ +  + ]:     261713 :     lgg = degpol(g); if (!lgg) continue;
     787                 :            : 
     788                 :      86098 :     e -= lgg;
     789                 :      86098 :     D[d] = lgg/d; *nb += D[d];
     790         [ -  + ]:      86098 :     if (DEBUGLEVEL>5) err_printf("   %3ld fact. of degree %3ld\n", D[d], d);
     791         [ +  + ]:      86098 :     if (!e) break;
     792                 :      21866 :     z = Flx_div(z, g, p);
     793                 :      21866 :     w = Flx_rem(w, z, p);
     794                 :            :   }
     795         [ +  + ]:      97416 :   if (e)
     796                 :            :   {
     797         [ -  + ]:      33184 :     if (DEBUGLEVEL>5) err_printf("   %3ld fact. of degree %3ld\n",1,e);
     798                 :      33184 :     D[e] = 1; (*nb)++;
     799                 :            :   }
     800                 :      97416 :   avma = av; return D;
     801                 :            : }
     802                 :            : 
     803                 :            : /* z must be squarefree mod p*/
     804                 :            : long
     805                 :      48475 : Flx_nbfact(GEN z, ulong p)
     806                 :            : {
     807                 :      48475 :   pari_sp av = avma;
     808                 :      48475 :   long nb; (void)Flx_nbfact_by_degree(z, &nb, p);
     809                 :      48475 :   avma = av; return nb;
     810                 :            : }
     811                 :            : 
     812                 :            : long
     813                 :    3781668 : Flx_nbroots(GEN f, ulong p)
     814                 :            : {
     815                 :    3781668 :   long n = degpol(f);
     816                 :    3781668 :   pari_sp av = avma;
     817                 :            :   GEN z;
     818         [ +  + ]:    3781668 :   if (n <= 1) return n;
     819         [ +  + ]:    3781542 :   if (n == 2)
     820                 :            :   {
     821                 :            :     ulong D;
     822         [ +  + ]:    1423189 :     if (p==2) return (f[2]==0) + (f[2]!=f[3]);
     823                 :    1422356 :     D = Fl_sub(Fl_sqr(f[3], p), Fl_mul(Fl_mul(f[4], f[2], p), 4%p, p), p);
     824                 :    1422356 :     return 1 + krouu(D,p);
     825                 :            :   }
     826                 :    2358353 :   z = Flx_sub(Flx_Frobenius(f, p), polx_Flx(f[1]), p);
     827                 :    2358353 :   z = Flx_gcd(z, f, p);
     828                 :    3781668 :   avma = av; return degpol(z);
     829                 :            : }
     830                 :            : 
     831                 :            : long
     832                 :         28 : FpX_nbfact(GEN u, GEN p)
     833                 :            : {
     834                 :         28 :   pari_sp av = avma;
     835                 :         28 :   GEN vker = FpX_Berlekamp_ker(u, p);
     836                 :         28 :   avma = av; return lg(vker)-1;
     837                 :            : }
     838                 :            : 
     839                 :            : static GEN
     840                 :        287 : try_pow(GEN w0, GEN pol, GEN p, GEN q, long r)
     841                 :            : {
     842                 :        287 :   GEN w2, w = FpXQ_pow(w0,q, pol,p);
     843                 :            :   long s;
     844         [ -  + ]:        287 :   if (gequal1(w)) return w0;
     845         [ +  + ]:        630 :   for (s=1; s<r; s++,w=w2)
     846                 :            :   {
     847                 :        364 :     w2 = gsqr(w);
     848                 :        364 :     w2 = FpX_rem(w2, pol, p);
     849         [ +  + ]:        364 :     if (gequal1(w2)) break;
     850                 :            :   }
     851         [ +  - ]:        287 :   return gequalm1(w)? NULL: w;
     852                 :            : }
     853                 :            : 
     854                 :            : static GEN
     855                 :      73373 : Flx_try_pow(GEN w0, GEN pol, ulong p, GEN q, long r)
     856                 :            : {
     857                 :      73373 :   GEN w2, w = Flxq_pow(w0,q, pol,p);
     858                 :            :   long s;
     859         [ +  + ]:      73373 :   if (Flx_equal1(w)) return w0;
     860         [ +  + ]:     281367 :   for (s=1; s<r; s++,w=w2)
     861                 :            :   {
     862                 :     221422 :     w2 = Flxq_sqr(w,pol,p);
     863         [ +  + ]:     221422 :     if (Flx_equal1(w2)) break;
     864                 :            :   }
     865 [ +  + ][ -  + ]:      73373 :   return degpol(w)==0 && uel(w,2) == p-1 ? NULL: w;
     866                 :            : }
     867                 :            : 
     868                 :            : /* INPUT:
     869                 :            :  *  m integer (converted to polynomial w in Z[X] by stoFpX)
     870                 :            :  *  p prime; q = (p^d-1) / 2^r
     871                 :            :  *  t[0] polynomial of degree k*d product of k irreducible factors of degree d
     872                 :            :  *  t[0] is expected to be normalized (leading coeff = 1)
     873                 :            :  * OUTPUT:
     874                 :            :  *  t[0],t[1]...t[k-1] the k factors, normalized */
     875                 :            : 
     876                 :            : static void
     877                 :      20237 : F2x_split(ulong m, GEN *t, long d)
     878                 :            : {
     879                 :            :   long l, v, dv;
     880                 :            :   pari_sp av0, av;
     881                 :            :   GEN w;
     882                 :            : 
     883         [ +  + ]:      22435 :   dv = F2x_degree(*t); if (dv==d) return;
     884                 :       2198 :   v=(*t)[1]; av0=avma;
     885                 :       2198 :   for(av=avma;;avma=av)
     886                 :            :   {
     887                 :       3787 :     GEN w0 = w = F2xq_powu(polx_F2x(v), m-1, *t); m += 2;
     888         [ +  + ]:      26782 :     for (l=1; l<d; l++) w = F2x_add(w0, F2xq_sqr(w, *t));
     889                 :       3787 :     w = F2x_gcd(*t,w);
     890 [ +  + ][ +  + ]:       3787 :     l = F2x_degree(w); if (l && l!=dv) break;
     891                 :       1589 :   }
     892                 :       2198 :   w = gerepileupto(av0, w);
     893                 :       2198 :   l /= d; t[l]=F2x_div(*t,w); *t=w;
     894                 :       2198 :   F2x_split(m,t+l,d);
     895                 :       2198 :   F2x_split(m,t,  d);
     896                 :            : }
     897                 :            : 
     898                 :            : static void
     899                 :     137013 : Flx_split(GEN *t, long d, ulong p, GEN q, long r)
     900                 :            : {
     901                 :            :   long l, v, dv;
     902                 :            :   pari_sp av0, av;
     903                 :            :   GEN w;
     904                 :            : 
     905         [ +  + ]:     189792 :   dv=degpol(*t); if (dv==d) return;
     906                 :      52779 :   v=(*t)[1]; av0=avma;
     907                 :      52779 :   for(av=avma;;avma=av)
     908                 :            :   {
     909                 :      73373 :     w = random_Flx(dv,v,p);
     910                 :      73373 :     w = Flx_try_pow(w,*t,p,q,r);
     911         [ +  + ]:      73373 :     if (!w) continue;
     912                 :      57364 :     w = Flx_Fl_add(w, p-1, p);
     913                 :      57364 :     w = Flx_gcd(*t,w, p);
     914 [ +  + ][ +  + ]:      57364 :     l = degpol(w); if (l && l!=dv) break;
     915                 :      20594 :   }
     916                 :      52779 :   w = Flx_normalize(w, p);
     917                 :      52779 :   w = gerepileupto(av0, w);
     918                 :      52779 :   l /= d; t[l]=Flx_div(*t,w,p); *t=w;
     919                 :      52779 :   Flx_split(t+l,d,p,q,r);
     920                 :      52779 :   Flx_split(t,  d,p,q,r);
     921                 :            : }
     922                 :            : 
     923                 :            : 
     924                 :            : static void
     925                 :        434 : FpX_split(GEN *t, long d, GEN  p, GEN q, long r)
     926                 :            : {
     927                 :        434 :   long l, v, dv = degpol(*t);
     928                 :            :   pari_sp av;
     929                 :            :   GEN w;
     930                 :            : 
     931         [ +  + ]:        644 :   if (dv==d) return;
     932                 :        210 :   v = varn(*t);
     933                 :        210 :   av = avma;
     934                 :         77 :   for(;; avma = av)
     935                 :            :   {
     936                 :        287 :     w = random_FpX(dv, v, p);
     937                 :        287 :     w = try_pow(w,*t,p,q,r);
     938         [ -  + ]:        287 :     if (!w) continue;
     939                 :        287 :     w = FpX_Fp_sub_shallow(w, gen_1, p);
     940                 :        287 :     w = FpX_gcd(*t,w, p); l=degpol(w);
     941 [ +  + ][ +  - ]:        287 :     if (l && l!=dv) break;
     942                 :         77 :   }
     943                 :        210 :   w = FpX_normalize(w, p);
     944                 :        210 :   w = gerepileupto(av, w);
     945                 :        210 :   l /= d; t[l]=FpX_div(*t,w,p); *t=w;
     946                 :        210 :   FpX_split(t+l,d,p,q,r);
     947                 :        210 :   FpX_split(t,  d,p,q,r);
     948                 :            : }
     949                 :            : 
     950                 :            : static int
     951         [ +  + ]:    1441711 : cmpGuGu(GEN a, GEN b) { return (ulong)a < (ulong)b? -1: (a == b? 0: 1); }
     952                 :            : 
     953                 :            : /* p > 2 */
     954                 :            : static GEN
     955                 :          7 : FpX_is_irred_2(GEN f, GEN p, long d)
     956                 :            : {
     957      [ -  -  + ]:          7 :   switch(d)
     958                 :            :   {
     959                 :            :     case -1:
     960                 :          0 :     case 0: return NULL;
     961                 :          0 :     case 1: return gen_1;
     962                 :            :   }
     963         [ -  + ]:          7 :   return FpX_quad_factortype(f, p) == -1? gen_1: NULL;
     964                 :            : }
     965                 :            : /* p > 2 */
     966                 :            : static GEN
     967                 :         14 : FpX_degfact_2(GEN f, GEN p, long d)
     968                 :            : {
     969   [ -  -  -  + ]:         14 :   switch(d)
     970                 :            :   {
     971                 :          0 :     case -1:retmkvec2(mkvecsmall(-1),mkvecsmall(1));
     972                 :          0 :     case 0: return trivial_fact();
     973                 :          0 :     case 1: retmkvec2(mkvecsmall(1), mkvecsmall(1));
     974                 :            :   }
     975      [ +  +  - ]:         14 :   switch(FpX_quad_factortype(f, p)) {
     976                 :          7 :     case  1: retmkvec2(mkvecsmall2(1,1), mkvecsmall2(1,1));
     977                 :          7 :     case -1: retmkvec2(mkvecsmall(2), mkvecsmall(1));
     978                 :         14 :     default: retmkvec2(mkvecsmall(1), mkvecsmall(2));
     979                 :            :   }
     980                 :            : }
     981                 :            : 
     982                 :            : GEN
     983                 :         63 : prime_fact(GEN x) { retmkmat2(mkcolcopy(x), mkcol(gen_1)); }
     984                 :            : GEN
     985                 :        700 : trivial_fact(void) { retmkmat2(cgetg(1,t_COL), cgetg(1,t_COL)); }
     986                 :            : 
     987                 :            : /* Mod(0,p) * x, where x is f's main variable */
     988                 :            : static GEN
     989                 :         14 : Mod0pX(GEN f, GEN p)
     990                 :         14 : { return scalarpol(mkintmod(gen_0, p), varn(f)); }
     991                 :            : static GEN
     992                 :         14 : zero_fact_intmod(GEN f, GEN p) { return prime_fact(Mod0pX(f,p)); }
     993                 :            : 
     994                 :            : /* not gerepile safe */
     995                 :            : static GEN
     996                 :         67 : FpX_factor_2(GEN f, GEN p, long d)
     997                 :            : {
     998                 :            :   GEN r, s, R, S;
     999                 :            :   long v;
    1000                 :            :   int sgn;
    1001   [ -  +  +  + ]:         67 :   switch(d)
    1002                 :            :   {
    1003                 :          0 :     case -1: retmkvec2(mkcol(pol_0(varn(f))), mkvecsmall(1));
    1004                 :          2 :     case  0: retmkvec2(cgetg(1,t_COL), cgetg(1,t_VECSMALL));
    1005                 :          3 :     case  1: retmkvec2(mkcol(f), mkvecsmall(1));
    1006                 :            :   }
    1007                 :         62 :   r = FpX_quad_root(f, p, 1);
    1008         [ +  + ]:         62 :   if (!r) return mkvec2(mkcol(f), mkvecsmall(1));
    1009                 :         53 :   v = varn(f);
    1010                 :         53 :   s = FpX_otherroot(f, r, p);
    1011         [ +  - ]:         53 :   if (signe(r)) r = subii(p, r);
    1012         [ +  - ]:         53 :   if (signe(s)) s = subii(p, s);
    1013         [ +  + ]:         53 :   sgn = cmpii(s, r); if (sgn < 0) swap(s,r);
    1014                 :         53 :   R = deg1pol_shallow(gen_1, r, v);
    1015         [ +  + ]:         53 :   if (!sgn) return mkvec2(mkcol(R), mkvecsmall(2));
    1016                 :         46 :   S = deg1pol_shallow(gen_1, s, v);
    1017                 :         67 :   return mkvec2(mkcol2(R,S), mkvecsmall2(1,1));
    1018                 :            : }
    1019                 :            : static GEN
    1020                 :         88 : FpX_factor_deg2(GEN f, GEN p, long d, long flag)
    1021                 :            : {
    1022      [ +  +  + ]:         88 :   switch(flag) {
    1023                 :          7 :     case 2: return FpX_is_irred_2(f, p, d);
    1024                 :         14 :     case 1: return FpX_degfact_2(f, p, d);
    1025                 :         88 :     default: return FpX_factor_2(f, p, d);
    1026                 :            :   }
    1027                 :            : }
    1028                 :            : 
    1029                 :            : static int
    1030                 :      25690 : F2x_quad_factortype(GEN x)
    1031         [ +  + ]:      25690 : { return x[2] == 7 ? -1: x[2] == 6 ? 1 :0; }
    1032                 :            : 
    1033                 :            : static GEN
    1034                 :          7 : F2x_is_irred_2(GEN f, long d)
    1035 [ +  - ][ +  - ]:          7 : { return d == 1 || (d==2 && F2x_quad_factortype(f) == -1)? gen_1: NULL; }
                 [ +  - ]
    1036                 :            : 
    1037                 :            : static GEN
    1038                 :        623 : F2x_degfact_2(GEN f, long d)
    1039                 :            : {
    1040         [ -  + ]:        623 :   if (!d) return trivial_fact();
    1041         [ +  + ]:        623 :   if (d == 1) return mkvec2(mkvecsmall(1), mkvecsmall(1));
    1042      [ +  +  + ]:        616 :   switch(F2x_quad_factortype(f)) {
    1043                 :        133 :     case 1: return mkvec2(mkvecsmall2(1,1), mkvecsmall2(1,1));
    1044                 :        140 :     case -1:return mkvec2(mkvecsmall(2), mkvecsmall(1));
    1045                 :        623 :     default: return mkvec2(mkvecsmall(1), mkvecsmall(2));
    1046                 :            :   }
    1047                 :            : }
    1048                 :            : 
    1049                 :            : static GEN
    1050                 :      32221 : F2x_factor_2(GEN f, long d)
    1051                 :            : {
    1052                 :      32221 :   long v = f[1];
    1053         [ -  + ]:      32221 :   if (d < 0) pari_err(e_ROOTS0,"Flx_factor_2");
    1054         [ +  + ]:      32221 :   if (!d) return mkvec2(cgetg(1,t_COL), cgetg(1,t_VECSMALL));
    1055         [ +  + ]:      24759 :   if (d == 1) return mkvec2(mkcol(f), mkvecsmall(1));
    1056      [ +  +  + ]:      17787 :   switch(F2x_quad_factortype(f))
    1057                 :            :   {
    1058                 :       3024 :   case -1: return mkvec2(mkcol(f), mkvecsmall(1));
    1059                 :      13055 :   case 0:  return mkvec2(mkcol(mkvecsmall2(v,2+F2x_coeff(f,0))), mkvecsmall(2));
    1060                 :      32221 :   default: return mkvec2(mkcol2(mkvecsmall2(v,2),mkvecsmall2(v,3)), mkvecsmall2(1,1));
    1061                 :            :   }
    1062                 :            : }
    1063                 :            : static GEN
    1064                 :      32851 : F2x_factor_deg2(GEN f, long d, long flag)
    1065                 :            : {
    1066      [ +  +  + ]:      32851 :   switch(flag) {
    1067                 :          7 :     case 2: return F2x_is_irred_2(f, d);
    1068                 :        623 :     case 1: return F2x_degfact_2(f, d);
    1069                 :      32851 :     default: return F2x_factor_2(f, d);
    1070                 :            :   }
    1071                 :            : }
    1072                 :            : 
    1073                 :            : static void
    1074                 :         19 : split_squares(struct split_t *S, GEN g, ulong p)
    1075                 :            : {
    1076                 :         19 :   ulong q = p >> 1;
    1077                 :         19 :   GEN a = Flx_mod_Xnm1(g, q, p); /* mod x^(p-1)/2 - 1 */
    1078         [ +  + ]:         19 :   if (degpol(a) < 0)
    1079                 :            :   {
    1080                 :            :     ulong i;
    1081                 :          6 :     split_add_done(S, (GEN)1);
    1082         [ +  + ]:         18 :     for (i = 2; i <= q; i++) split_add_done(S, (GEN)Fl_sqr(i,p));
    1083                 :            :   } else {
    1084                 :         13 :     (void)Flx_valrem(a, &a);
    1085         [ +  - ]:         13 :     if (degpol(a))
    1086                 :            :     {
    1087                 :         13 :       a = Flx_gcd(a, Flx_Xnm1(g[1], q, p), p);
    1088         [ +  - ]:         13 :       if (degpol(a)) split_add(S, Flx_normalize(a, p));
    1089                 :            :     }
    1090                 :            :   }
    1091                 :         19 : }
    1092                 :            : static void
    1093                 :         19 : split_nonsquares(struct split_t *S, GEN g, ulong p)
    1094                 :            : {
    1095                 :         19 :   ulong q = p >> 1;
    1096                 :         19 :   GEN a = Flx_mod_Xn1(g, q, p); /* mod x^(p-1)/2 + 1 */
    1097         [ +  + ]:         19 :   if (degpol(a) < 0)
    1098                 :            :   {
    1099                 :          6 :     ulong i, z = Fl_nonsquare(p);
    1100                 :          6 :     split_add_done(S, (GEN)z);
    1101         [ +  + ]:         18 :     for (i = 2; i <= q; i++) split_add_done(S, (GEN)Fl_mul(z, Fl_sqr(i,p), p));
    1102                 :            :   } else {
    1103                 :         13 :     (void)Flx_valrem(a, &a);
    1104         [ +  - ]:         13 :     if (degpol(a))
    1105                 :            :     {
    1106                 :         13 :       a = Flx_gcd(a, Flx_Xn1(g[1], q, p), p);
    1107         [ +  - ]:         13 :       if (degpol(a)) split_add(S, Flx_normalize(a, p));
    1108                 :            :     }
    1109                 :            :   }
    1110                 :         19 : }
    1111                 :            : /* p > 2. f monic Flx, f(0) != 0. Add to split_t structs coprime factors
    1112                 :            :  * of g = \prod_{f(a) = 0} (X - a). Return 0 when f(x) = 0 for all x in Fp* */
    1113                 :            : static int
    1114                 :      93153 : split_Flx_cut_out_roots(struct split_t *S, GEN f, ulong p)
    1115                 :            : {
    1116                 :      93153 :   GEN a, g = Flx_mod_Xnm1(f, p-1, p); /* f mod x^(p-1) - 1 */
    1117                 :      93153 :   long d = degpol(g);
    1118         [ +  + ]:      93153 :   if (d < 0) return 0;
    1119         [ -  + ]:      93118 :   if (g != f) { (void)Flx_valrem(g, &g); d = degpol(g); } /*kill powers of x*/
    1120         [ +  + ]:      93118 :   if (!d) return 1;
    1121         [ +  + ]:      77585 :   if (p <= 1.4 * (ulong)d) {
    1122                 :            :     /* small p; split further using x^((p-1)/2) +/- 1.
    1123                 :            :      * 30% degree drop makes the extra gcd worth it. */
    1124                 :         19 :     split_squares(S, g, p);
    1125                 :         19 :     split_nonsquares(S, g, p);
    1126                 :            :   } else { /* large p; use x^(p-1) - 1 directly */
    1127                 :      77566 :     a = Flxq_powu(polx_Flx(f[1]), p-1, g,p);
    1128         [ -  + ]:      77566 :     if (lg(a) < 3) pari_err_PRIME("rootmod",utoipos(p));
    1129                 :      77566 :     a = Flx_Fl_add(a, p-1, p); /* a = x^(p-1) - 1 mod g */
    1130                 :      77566 :     g = Flx_gcd(g,a, p);
    1131         [ +  + ]:      77566 :     if (degpol(g)) split_add(S, Flx_normalize(g,p));
    1132                 :            :   }
    1133                 :      93153 :   return 1;
    1134                 :            : }
    1135                 :            : 
    1136                 :            : /* by splitting, assume p > 2 prime, deg(f) > 0, and f monic */
    1137                 :            : static GEN
    1138                 :    1587521 : Flx_roots_i(GEN f, ulong p)
    1139                 :            : {
    1140                 :            :   GEN pol, g;
    1141                 :    1587521 :   long v = Flx_valrem(f, &g);
    1142                 :            :   ulong q;
    1143                 :            :   struct split_t S;
    1144                 :            : 
    1145                 :            :   /* optimization: test for small degree first */
    1146      [ +  +  + ]:    1587521 :   switch(degpol(g))
    1147                 :            :   {
    1148                 :            :     case 1: {
    1149                 :      23100 :       ulong r = p - g[2];
    1150         [ +  + ]:      23100 :       return v? mkvecsmall2(0, r): mkvecsmall(r);
    1151                 :            :     }
    1152                 :            :     case 2: {
    1153                 :    1471268 :       ulong r = Flx_quad_root(g, p, 1), s;
    1154 [ +  + ][ +  + ]:    1471268 :       if (r == p) return v? mkvecsmall(0): cgetg(1,t_VECSMALL);
    1155                 :    1471241 :       s = Flx_otherroot(g,r, p);
    1156         [ +  + ]:    1471241 :       if (r < s)
    1157         [ +  + ]:     371919 :         return v? mkvecsmall3(0, r, s): mkvecsmall2(r, s);
    1158         [ +  + ]:    1099322 :       else if (r > s)
    1159         [ +  + ]:    1099259 :         return v? mkvecsmall3(0, s, r): mkvecsmall2(s, r);
    1160                 :            :       else
    1161         [ -  + ]:         63 :         return v? mkvecsmall2(0, s): mkvecsmall(s);
    1162                 :            :     }
    1163                 :            :   }
    1164                 :      93153 :   q = p >> 1;
    1165                 :      93153 :   split_init(&S, lg(f)-1);
    1166                 :      93153 :   settyp(S.done, t_VECSMALL);
    1167         [ +  + ]:      93153 :   if (v) split_add_done(&S, (GEN)0);
    1168         [ +  + ]:      93153 :   if (! split_Flx_cut_out_roots(&S, g, p))
    1169                 :         35 :     return all_roots_mod_p(p, lg(S.done) == 1);
    1170                 :      93118 :   pol = polx_Flx(f[1]);
    1171                 :      93118 :   for (pol[2]=1; ; pol[2]++)
    1172                 :            :   {
    1173                 :     230217 :     long j, l = lg(S.todo);
    1174         [ +  + ]:     230217 :     if (l == 1) { vecsmall_sort(S.done); return S.done; }
    1175 [ -  + ][ #  # ]:     137099 :     if (pol[2] == 100 && !uisprime(p)) pari_err_PRIME("polrootsmod",utoipos(p));
    1176         [ +  + ]:     335273 :     for (j = 1; j < l; j++)
    1177                 :            :     {
    1178                 :     198174 :       GEN c = gel(S.todo,j);
    1179      [ +  +  + ]:     198174 :       switch(degpol(c))
    1180                 :            :       {
    1181                 :            :         case 1:
    1182                 :      75279 :           split_moveto_done(&S, j, (GEN)(p - c[2]));
    1183                 :      75279 :           j--; l--; break;
    1184                 :            :         case 2: {
    1185                 :      55375 :           ulong r = Flx_quad_root(c, p, 0), s = Flx_otherroot(c,r, p);
    1186                 :      55375 :           split_done(&S, j, (GEN)r, (GEN)s);
    1187                 :      55375 :           j--; l--; break;
    1188                 :            :         }
    1189                 :            :         default: {
    1190                 :      67520 :           GEN b = Flx_Fl_add(Flxq_powu(pol,q, c,p), p-1, p); /* pol^(p-1)/2 */
    1191                 :            :           long db;
    1192                 :      67520 :           b = Flx_gcd(c,b, p); db = degpol(b);
    1193 [ +  + ][ +  + ]:      67520 :           if (db && db < degpol(c))
    1194                 :            :           {
    1195                 :      53069 :             b = Flx_normalize(b, p);
    1196                 :      53069 :             c = Flx_div(c,b, p);
    1197                 :      53069 :             split_todo(&S, j, b, c);
    1198                 :            :           }
    1199                 :            :         }
    1200                 :            :       }
    1201                 :            :     }
    1202                 :    1724620 :   }
    1203                 :            : }
    1204                 :            : 
    1205                 :            : GEN
    1206                 :    1537008 : Flx_roots(GEN f, ulong p)
    1207                 :            : {
    1208                 :    1537008 :   pari_sp av = avma;
    1209      [ -  -  + ]:    1537008 :   switch(lg(f))
    1210                 :            :   {
    1211                 :          0 :     case 2: pari_err_ROOTS0("Flx_roots");
    1212                 :          0 :     case 3: avma = av; return cgetg(1, t_VECSMALL);
    1213                 :            :   }
    1214         [ -  + ]:    1537008 :   if (p == 2) return Flx_root_mod_2(f);
    1215                 :    1537008 :   return gerepileuptoleaf(av, Flx_roots_i(Flx_normalize(f, p), p));
    1216                 :            : }
    1217                 :            : 
    1218                 :            : /* assume x reduced mod p, monic. */
    1219                 :            : static int
    1220                 :      63826 : Flx_quad_factortype(GEN x, ulong p)
    1221                 :            : {
    1222                 :      63826 :   ulong b = x[3], c = x[2];
    1223                 :      63826 :   return krouu(Fl_disc_bc(b, c, p), p);
    1224                 :            : }
    1225                 :            : static GEN
    1226                 :          0 : Flx_is_irred_2(GEN f, ulong p, long d)
    1227                 :            : {
    1228         [ #  # ]:          0 :   if (!d) return NULL;
    1229         [ #  # ]:          0 :   if (d == 1) return gen_1;
    1230         [ #  # ]:          0 :   return Flx_quad_factortype(f, p) == -1? gen_1: NULL;
    1231                 :            : }
    1232                 :            : static GEN
    1233                 :      63840 : Flx_degfact_2(GEN f, ulong p, long d)
    1234                 :            : {
    1235         [ -  + ]:      63840 :   if (!d) return trivial_fact();
    1236         [ +  + ]:      63840 :   if (d == 1) return mkvec2(mkvecsmall(1), mkvecsmall(1));
    1237      [ +  +  + ]:      63826 :   switch(Flx_quad_factortype(f, p)) {
    1238                 :      29995 :     case 1: return mkvec2(mkvecsmall2(1,1), mkvecsmall2(1,1));
    1239                 :      32949 :     case -1:return mkvec2(mkvecsmall(2), mkvecsmall(1));
    1240                 :      63840 :     default: return mkvec2(mkvecsmall(1), mkvecsmall(2));
    1241                 :            :   }
    1242                 :            : }
    1243                 :            : /* p > 2 */
    1244                 :            : static GEN
    1245                 :     214238 : Flx_factor_2(GEN f, ulong p, long d)
    1246                 :            : {
    1247                 :            :   ulong r, s;
    1248                 :            :   GEN R,S;
    1249                 :     214238 :   long v = f[1];
    1250         [ -  + ]:     214238 :   if (d < 0) pari_err(e_ROOTS0,"Flx_factor_2");
    1251         [ +  + ]:     214238 :   if (!d) return mkvec2(cgetg(1,t_COL), cgetg(1,t_VECSMALL));
    1252         [ +  + ]:     200541 :   if (d == 1) return mkvec2(mkcol(f), mkvecsmall(1));
    1253                 :     131396 :   r = Flx_quad_root(f, p, 1);
    1254         [ +  + ]:     131396 :   if (r==p) return mkvec2(mkcol(f), mkvecsmall(1));
    1255                 :      89839 :   s = Flx_otherroot(f, r, p);
    1256                 :      89839 :   r = Fl_neg(r, p);
    1257                 :      89839 :   s = Fl_neg(s, p);
    1258         [ +  + ]:      89839 :   if (s < r) lswap(s,r);
    1259                 :      89839 :   R = mkvecsmall3(v,r,1);
    1260         [ +  + ]:      89839 :   if (s == r) return mkvec2(mkcol(R), mkvecsmall(2));
    1261                 :      75811 :   S = mkvecsmall3(v,s,1);
    1262                 :     214238 :   return mkvec2(mkcol2(R,S), mkvecsmall2(1,1));
    1263                 :            : }
    1264                 :            : static GEN
    1265                 :     278078 : Flx_factor_deg2(GEN f, ulong p, long d, long flag)
    1266                 :            : {
    1267      [ -  +  + ]:     278078 :   switch(flag) {
    1268                 :          0 :     case 2: return Flx_is_irred_2(f, p, d);
    1269                 :      63840 :     case 1: return Flx_degfact_2(f, p, d);
    1270                 :     278078 :     default: return Flx_factor_2(f, p, d);
    1271                 :            :   }
    1272                 :            : }
    1273                 :            : 
    1274                 :            : static GEN
    1275                 :      10101 : F2x_factcantor_i(GEN f, long flag)
    1276                 :            : {
    1277                 :      10101 :   long j, e, nbfact, d = F2x_degree(f);
    1278                 :            :   ulong k;
    1279                 :            :   GEN X, E, f2, g, g1, u, v, y, t;
    1280                 :            : 
    1281         [ +  + ]:      10101 :   if (d <= 2) return F2x_factor_deg2(f, d, flag);
    1282                 :            :   /* to hold factors and exponents */
    1283         [ +  + ]:       9387 :   t = flag ? cgetg(d+1,t_VECSMALL): cgetg(d+1,t_VEC);
    1284                 :       9387 :   E = cgetg(d+1, t_VECSMALL);
    1285                 :       9387 :   X = polx_F2x(f[1]);
    1286                 :       9387 :   e = nbfact = 1;
    1287                 :            :   for(;;)
    1288                 :            :   {
    1289                 :      12628 :     f2 = F2x_gcd(f,F2x_deriv(f));
    1290 [ +  + ][ +  + ]:      12628 :     if (flag == 2 && F2x_degree(f2) > 0) return NULL;
    1291                 :      12586 :     g1 = F2x_div(f,f2);
    1292                 :      12586 :     k = 0;
    1293         [ +  + ]:      25431 :     while (F2x_degree(g1)>0)
    1294                 :            :     {
    1295                 :            :       pari_sp av;
    1296                 :            :       long du, dg, dg1;
    1297         [ +  + ]:      12936 :       k++; if (k%2==0) { k++; f2 = F2x_div(f2,g1); }
    1298                 :      12936 :       u = g1; g1 = F2x_gcd(f2,g1);
    1299                 :      12936 :       du = F2x_degree(u);
    1300                 :      12936 :       dg1 = F2x_degree(g1);
    1301         [ +  + ]:      12936 :       if (dg1>0)
    1302                 :            :       {
    1303                 :        882 :         f2= F2x_div(f2,g1);
    1304         [ +  + ]:        882 :         if (du == dg1) continue;
    1305                 :        553 :         u = F2x_div( u,g1);
    1306                 :        553 :         du -= dg1;
    1307                 :            :       }
    1308                 :            :       /* here u is square-free (product of irred. of multiplicity e * k) */
    1309                 :      12607 :       v = X;
    1310                 :      12607 :       av = avma;
    1311         [ +  + ]:      68565 :       for (d=1; d <= du>>1; d++)
    1312                 :            :       {
    1313                 :      56049 :         v = F2xq_sqr(v, u);
    1314                 :      56049 :         g = F2x_gcd(F2x_add(v, X), u);
    1315                 :      56049 :         dg = F2x_degree(g);
    1316         [ +  + ]:      56049 :         if (dg <= 0) {avma = (pari_sp)v; v = gerepileuptoleaf(av,v); continue;}
    1317                 :            :         /* g is a product of irred. pols, all of which have degree d */
    1318                 :      16401 :         j = nbfact+dg/d;
    1319         [ +  + ]:      16401 :         if (flag)
    1320                 :            :         {
    1321         [ +  + ]:        560 :           if (flag == 2) return NULL;
    1322         [ +  + ]:       1064 :           for ( ; nbfact<j; nbfact++) { t[nbfact]=d; E[nbfact]=e*k; }
    1323                 :            :         }
    1324                 :            :         else
    1325                 :            :         {
    1326                 :      15841 :           gel(t,nbfact) = g;
    1327                 :      15841 :           F2x_split(2,&gel(t,nbfact),d);
    1328         [ +  + ]:      33880 :           for (; nbfact<j; nbfact++) E[nbfact]=e*k;
    1329                 :            :         }
    1330                 :      16310 :         du -= dg;
    1331                 :      16310 :         u = F2x_div(u,g);
    1332                 :      16310 :         v = F2x_rem(v,u);
    1333                 :      16310 :         av = avma;
    1334                 :            :       }
    1335         [ +  + ]:      12516 :       if (du)
    1336                 :            :       {
    1337         [ +  + ]:      11228 :         if (flag) t[nbfact] = du;
    1338                 :      10304 :         else  gel(t,nbfact) = u;
    1339                 :      11228 :         E[nbfact++]=e*k;
    1340                 :            :       }
    1341                 :            :     }
    1342         [ +  + ]:      12495 :     if (F2x_degree(f2)==0) break;
    1343                 :       3241 :     e <<=1; f = F2x_sqrt(f2);
    1344                 :       3241 :   }
    1345         [ +  + ]:       9254 :   if (flag == 2) return gen_1; /* irreducible */
    1346                 :       9247 :   setlg(t, nbfact);
    1347                 :       9247 :   setlg(E, nbfact); y = mkvec2(t, E);
    1348                 :      10101 :   return flag ? sort_factor(y, (void*)cmpGuGu, cmp_nodata)
    1349         [ +  + ]:       9247 :               : sort_factor_pol(y, cmpGuGu);
    1350                 :            : }
    1351                 :            : GEN
    1352                 :       7504 : F2x_factcantor(GEN f, long flag)
    1353                 :            : {
    1354                 :       7504 :   pari_sp av = avma;
    1355                 :       7504 :   GEN z = F2x_factcantor_i(f, flag);
    1356         [ -  + ]:       7504 :   if (flag == 2) { avma = av; return z; }
    1357                 :       7504 :   return gerepilecopy(av, z);
    1358                 :            : }
    1359                 :            : 
    1360                 :            : int
    1361                 :        140 : F2x_is_irred(GEN f) { return !!F2x_factcantor_i(f,2); }
    1362                 :            : 
    1363                 :            : void
    1364                 :        819 : F2xV_to_FlxV_inplace(GEN v)
    1365                 :            : {
    1366                 :            :   long i;
    1367         [ +  + ]:       2492 :   for(i=1;i<lg(v);i++) gel(v,i)= F2x_to_Flx(gel(v,i));
    1368                 :        819 : }
    1369                 :            : void
    1370                 :     398051 : FlxV_to_ZXV_inplace(GEN v)
    1371                 :            : {
    1372                 :            :   long i;
    1373         [ +  + ]:    1055284 :   for(i=1;i<lg(v);i++) gel(v,i)= Flx_to_ZX(gel(v,i));
    1374                 :     398051 : }
    1375                 :            : void
    1376                 :      77474 : F2xV_to_ZXV_inplace(GEN v)
    1377                 :            : {
    1378                 :            :   long i;
    1379         [ +  + ]:     162730 :   for(i=1;i<lg(v);i++) gel(v,i)= F2x_to_ZX(gel(v,i));
    1380                 :      77474 : }
    1381                 :            : 
    1382                 :            : /* factor f mod pp.
    1383                 :            :  * flag = 1: return the degrees, not the factors
    1384                 :            :  * flag = 2: return NULL if f is not irreducible */
    1385                 :            : static GEN
    1386                 :     236356 : Flx_factcantor_i(GEN f, ulong p, long flag)
    1387                 :            : {
    1388                 :     236356 :   long j, e, nbfact, d = degpol(f);
    1389                 :            :   ulong k;
    1390                 :            :   GEN X, E, f2, g, g1, u, v, q, y, t;
    1391         [ +  + ]:     236356 :   if (p==2) { /*We need to handle 2 specially */
    1392                 :       2436 :     GEN F = F2x_factcantor_i(Flx_to_F2x(f),flag);
    1393         [ +  + ]:       2436 :     if (flag==0) F2xV_to_FlxV_inplace(gel(F,1));
    1394                 :       2436 :     return F;
    1395                 :            :   }
    1396                 :            :   /* Now we assume p odd */
    1397         [ +  + ]:     233920 :   if (d <= 2) return Flx_factor_deg2(f, p, d, flag);
    1398                 :            : 
    1399                 :            :   /* to hold factors and exponents */
    1400         [ +  + ]:     169707 :   t = cgetg(d+1, flag? t_VECSMALL: t_VEC);
    1401                 :     169707 :   E = cgetg(d+1, t_VECSMALL);
    1402                 :     169707 :   X = polx_Flx(f[1]);
    1403                 :     169707 :   e = nbfact = 1;
    1404                 :            :   for(;;)
    1405                 :            :   {
    1406                 :     170042 :     f2 = Flx_gcd(f,Flx_deriv(f,p), p);
    1407 [ +  + ][ +  + ]:     170042 :     if (flag == 2 && degpol(f2) > 0) return NULL;
    1408                 :     169902 :     g1 = Flx_div(f,f2,p);
    1409                 :     169902 :     k = 0;
    1410         [ +  + ]:     344169 :     while (degpol(g1)>0)
    1411                 :            :     {
    1412                 :            :       pari_sp av;
    1413                 :            :       long du,dg;
    1414         [ +  + ]:     174687 :       k++; if (k%p==0) { k++; f2 = Flx_div(f2,g1,p); }
    1415                 :     174687 :       u = g1; g1 = Flx_gcd(f2,g1, p);
    1416         [ +  + ]:     174687 :       if (degpol(g1)>0)
    1417                 :            :       {
    1418                 :       4974 :         u = Flx_div( u,g1,p);
    1419                 :       4974 :         f2= Flx_div(f2,g1,p);
    1420                 :            :       }
    1421                 :     174687 :       du = degpol(u);
    1422         [ +  + ]:     174687 :       if (du <= 0) continue;
    1423                 :            : 
    1424                 :            :       /* here u is square-free (product of irred. of multiplicity e * k) */
    1425                 :     172878 :       v=X;
    1426                 :     172878 :       av = avma;
    1427         [ +  + ]:     571456 :       for (d=1; d <= du>>1; d++)
    1428                 :            :       {
    1429                 :     398998 :         v = Flxq_powu(v, p, u, p);
    1430                 :     398998 :         g = Flx_gcd(Flx_sub(v, X, p), u, p);
    1431                 :     398998 :         dg = degpol(g);
    1432         [ +  + ]:     398998 :         if (dg <= 0) {avma = (pari_sp)v; v = gerepileuptoleaf(av,v); continue;}
    1433                 :            :         /* g is a product of irred. pols, all of which have degree d */
    1434                 :     159873 :         j = nbfact+dg/d;
    1435         [ +  + ]:     159873 :         if (flag)
    1436                 :            :         {
    1437         [ +  + ]:     128418 :           if (flag == 2) return NULL;
    1438         [ +  + ]:     426930 :           for ( ; nbfact<j; nbfact++) { t[nbfact]=d; E[nbfact]=e*k; }
    1439                 :            :         }
    1440                 :            :         else
    1441                 :            :         {
    1442                 :      31455 :           GEN pd = powuu(p, d);
    1443                 :            :           long r;
    1444                 :      31455 :           g = Flx_normalize(g, p);
    1445                 :      31455 :           gel(t,nbfact) = g; q = subis(pd,1);
    1446                 :      31455 :           r = vali(q); q = shifti(pd,-r);
    1447                 :      31455 :           Flx_split(&gel(t,nbfact),d,p,q,r);
    1448         [ +  + ]:     115689 :           for (; nbfact<j; nbfact++) E[nbfact]=e*k;
    1449                 :            :         }
    1450                 :     159453 :         du -= dg;
    1451                 :     159453 :         u = Flx_div(u,g,p);
    1452                 :     159453 :         v = Flx_rem(v,u,p);
    1453                 :     159453 :         av = avma;
    1454                 :            :       }
    1455         [ +  + ]:     172458 :       if (du)
    1456                 :            :       {
    1457         [ +  + ]:      85260 :         if (flag) t[nbfact] = du;
    1458                 :      12827 :         else  gel(t,nbfact) = Flx_normalize(u, p);
    1459                 :      85260 :         E[nbfact++]=e*k;
    1460                 :            :       }
    1461                 :            :     }
    1462         [ +  + ]:     169482 :     if (degpol(f2)==0) break;
    1463                 :        335 :     e *= p; f = Flx_deflate(f2, p);
    1464                 :        335 :   }
    1465         [ +  + ]:     169147 :   if (flag == 2) return gen_1; /* irreducible */
    1466                 :     169126 :   setlg(t, nbfact);
    1467                 :     169126 :   setlg(E, nbfact); y = mkvec2(t, E);
    1468                 :     236356 :   return flag ? sort_factor(y, (void*)cmpGuGu, cmp_nodata)
    1469         [ +  + ]:     169126 :               : sort_factor_pol(y, cmpGuGu);
    1470                 :            : }
    1471                 :            : GEN
    1472                 :       7280 : Flx_factcantor(GEN f, ulong p, long flag)
    1473                 :            : {
    1474                 :       7280 :   pari_sp av = avma;
    1475                 :       7280 :   GEN z = Flx_factcantor_i(Flx_normalize(f,p),p,flag);
    1476         [ -  + ]:       7280 :   if (flag == 2) { avma = av; return z; }
    1477                 :       7280 :   return gerepilecopy(av, z);
    1478                 :            : }
    1479                 :            : GEN
    1480                 :     208146 : Flx_degfact(GEN f, ulong p)
    1481                 :            : {
    1482                 :     208146 :   pari_sp av = avma;
    1483                 :     208146 :   GEN z = Flx_factcantor_i(Flx_normalize(f,p),p,1);
    1484                 :     208146 :   return gerepilecopy(av, z);
    1485                 :            : }
    1486                 :            : int
    1487                 :        581 : Flx_is_irred(GEN f, ulong p) { return !!Flx_factcantor_i(f,p,2); }
    1488                 :            : 
    1489                 :            : /* factor f (FpX or Flx) mod pp.
    1490                 :            :  * flag = 1: return the degrees, not the factors
    1491                 :            :  * flag = 2: return NULL if f is not irreducible.
    1492                 :            :  * Not gerepile-safe */
    1493                 :            : static GEN
    1494                 :         77 : FpX_factcantor_i(GEN f, GEN pp, long flag)
    1495                 :            : {
    1496                 :         77 :   long j, nbfact, d = degpol(f);
    1497                 :            :   ulong k;
    1498                 :            :   GEN X, E,y,f2,g,g1,v,q;
    1499                 :            :   GEN t;
    1500         [ +  + ]:         77 :   if (typ(f) == t_VECSMALL)
    1501                 :            :   { /* lgefint(pp) = 3 */
    1502                 :            :     GEN F;
    1503                 :         42 :     ulong p = pp[2];
    1504         [ +  + ]:         42 :     if (p==2) {
    1505                 :         21 :       F = F2x_factcantor_i(Flx_to_F2x(f),flag);
    1506         [ +  + ]:         21 :       if (flag==0) F2xV_to_ZXV_inplace(gel(F,1));
    1507                 :            :     } else {
    1508                 :         21 :       F = Flx_factcantor_i(f,p,flag);
    1509         [ +  + ]:         21 :       if (flag==0) FlxV_to_ZXV_inplace(gel(F,1));
    1510                 :            :     }
    1511                 :         42 :     return F;
    1512                 :            :   }
    1513                 :            :   /*Now, we can assume that p is large and odd*/
    1514         [ +  + ]:         35 :   if (d <= 2) return FpX_factor_deg2(f,pp,d,flag);
    1515                 :            : 
    1516                 :            :   /* to hold factors and exponents */
    1517         [ -  + ]:          7 :   t = cgetg(d+1, flag? t_VECSMALL: t_VEC);
    1518                 :          7 :   E = cgetg(d+1, t_VECSMALL);
    1519                 :          7 :   X = pol_x(varn(f)); nbfact = 1;
    1520                 :          7 :   f2 = FpX_gcd(f,ZX_deriv(f), pp);
    1521 [ -  + ][ #  # ]:          7 :   if (flag == 2 && degpol(f2)) return NULL;
    1522         [ +  - ]:          7 :   g1 = degpol(f2)? FpX_div(f,f2,pp): f; /* squarefree */
    1523                 :          7 :   k = 0;
    1524         [ +  + ]:         21 :   while (degpol(g1)>0)
    1525                 :            :   {
    1526                 :            :     long du,dg;
    1527                 :            :     GEN u, S;
    1528                 :         14 :     k++;
    1529                 :         14 :     u = g1; g1 = FpX_gcd(f2,g1, pp);
    1530         [ +  + ]:         14 :     if (degpol(g1)>0)
    1531                 :            :     {
    1532                 :          7 :       u = FpX_div( u,g1,pp);
    1533                 :          7 :       f2= FpX_div(f2,g1,pp);
    1534                 :            :     }
    1535                 :         14 :     du = degpol(u);
    1536         [ -  + ]:         14 :     if (du <= 0) continue;
    1537                 :            : 
    1538                 :            :     /* here u is square-free (product of irred. of multiplicity e * k) */
    1539                 :         14 :     v=X;
    1540         [ +  + ]:         14 :     S = du==1 ?  cgetg(1, t_VEC): FpXQ_powers(FpX_Frobenius(u, pp), du-1, u, pp);
    1541         [ +  + ]:         28 :     for (d=1; d <= du>>1; d++)
    1542                 :            :     {
    1543                 :         14 :       v = FpX_FpXQV_eval(v, S, u, pp);
    1544                 :         14 :       g = FpX_gcd(ZX_sub(v, X), u, pp);
    1545                 :         14 :       dg = degpol(g);
    1546         [ -  + ]:         14 :       if (dg <= 0) continue;
    1547                 :            : 
    1548                 :            :       /* g is a product of irred. pols, all of which have degree d */
    1549                 :         14 :       j = nbfact+dg/d;
    1550         [ -  + ]:         14 :       if (flag)
    1551                 :            :       {
    1552         [ #  # ]:          0 :         if (flag == 2) return NULL;
    1553         [ #  # ]:          0 :         for ( ; nbfact<j; nbfact++) { t[nbfact]=d; E[nbfact]=k; }
    1554                 :            :       }
    1555                 :            :       else
    1556                 :            :       {
    1557                 :         14 :         GEN pd = powiu(pp,d);
    1558                 :            :         long r;
    1559                 :         14 :         g = FpX_normalize(g, pp);
    1560                 :         14 :         gel(t,nbfact) = g; q = subis(pd,1);
    1561                 :         14 :         r = vali(q); q = shifti(q,-r);
    1562                 :         14 :         FpX_split(&gel(t,nbfact),d,pp,q,r);
    1563         [ +  + ]:        238 :         for (; nbfact<j; nbfact++) E[nbfact]=k;
    1564                 :            :       }
    1565                 :         14 :       du -= dg;
    1566                 :         14 :       u = FpX_div(u,g,pp);
    1567                 :         14 :       v = FpX_rem(v,u,pp);
    1568                 :            :     }
    1569         [ +  + ]:         14 :     if (du)
    1570                 :            :     {
    1571         [ -  + ]:          7 :       if (flag) t[nbfact] = du;
    1572                 :          7 :       else gel(t,nbfact) = FpX_normalize(u, pp);
    1573                 :          7 :       E[nbfact++]=k;
    1574                 :            :     }
    1575                 :            :   }
    1576         [ -  + ]:          7 :   if (flag == 2) return gen_1; /* irreducible */
    1577                 :          7 :   setlg(t, nbfact);
    1578                 :          7 :   setlg(E, nbfact); y = mkvec2(t, E);
    1579                 :         77 :   return flag ? sort_factor(y, (void*)&cmpGuGu, cmp_nodata)
    1580         [ -  + ]:          7 :               : sort_factor_pol(y, cmpii);
    1581                 :            : }
    1582                 :            : GEN
    1583                 :          0 : FpX_factcantor(GEN f, GEN pp, long flag)
    1584                 :            : {
    1585                 :          0 :   pari_sp av = avma;
    1586                 :            :   GEN z;
    1587                 :          0 :   ZX_factmod_init(&f,pp);
    1588                 :          0 :   z = FpX_factcantor_i(f,pp,flag);
    1589         [ #  # ]:          0 :   if (flag == 2) { avma = av; return z; }
    1590                 :          0 :   return gerepilecopy(av, z);
    1591                 :            : }
    1592                 :            : 
    1593                 :            : static GEN
    1594                 :        154 : factmod_aux(GEN f, GEN p, GEN (*Factor)(GEN,GEN,long), long flag)
    1595                 :            : {
    1596                 :        154 :   pari_sp av = avma;
    1597                 :            :   long j, nbfact;
    1598                 :            :   GEN z, y, t, E, u, v;
    1599                 :            : 
    1600                 :        154 :   factmod_init(&f, p);
    1601      [ +  +  + ]:        154 :   switch(lg(f))
    1602                 :            :   {
    1603                 :         14 :     case 3: avma = av; return trivial_fact();
    1604                 :         14 :     case 2: return gerepileupto(av, zero_fact_intmod(f, p));
    1605                 :            :   }
    1606                 :        126 :   z = Factor(f,p,flag); t = gel(z,1); E = gel(z,2);
    1607                 :        126 :   y = cgetg(3, t_MAT); nbfact = lg(t);
    1608                 :        126 :   u = cgetg(nbfact,t_COL); gel(y,1) = u;
    1609                 :        126 :   v = cgetg(nbfact,t_COL); gel(y,2) = v;
    1610         [ +  + ]:        126 :   if (flag)
    1611         [ +  + ]:         84 :     for (j=1; j<nbfact; j++)
    1612                 :            :     {
    1613                 :         56 :       gel(u,j) = utoi(uel(t,j));
    1614                 :         56 :       gel(v,j) = utoi(uel(E,j));
    1615                 :            :     }
    1616                 :            :   else
    1617         [ +  + ]:       7686 :     for (j=1; j<nbfact; j++)
    1618                 :            :     {
    1619                 :       7588 :       gel(u,j) = FpX_to_mod(gel(t,j), p);
    1620                 :       7588 :       gel(v,j) = utoi(uel(E,j));
    1621                 :            :     }
    1622                 :        154 :   return gerepileupto(av, y);
    1623                 :            : }
    1624                 :            : GEN
    1625                 :         77 : factcantor0(GEN f, GEN p, long flag)
    1626                 :         77 : { return factmod_aux(f, p, &FpX_factcantor_i, flag); }
    1627                 :            : GEN
    1628                 :         77 : factmod(GEN f, GEN p)
    1629                 :         77 : { return factmod_aux(f, p, &FpX_Berlekamp_i, 0); }
    1630                 :            : 
    1631                 :            : /* Use this function when you think f is reducible, and that there are lots of
    1632                 :            :  * factors. If you believe f has few factors, use FpX_nbfact(f,p)==1 instead */
    1633                 :            : int
    1634                 :         14 : FpX_is_irred(GEN f, GEN p) {
    1635                 :         14 :   ZX_factmod_init(&f,p);
    1636                 :         14 :   return !!FpX_factcantor_i(f,p,2);
    1637                 :            : }
    1638                 :            : GEN
    1639                 :          0 : FpX_degfact(GEN f, GEN p) {
    1640                 :          0 :   pari_sp av = avma;
    1641                 :            :   GEN z;
    1642                 :          0 :   ZX_factmod_init(&f,p);
    1643                 :          0 :   z = FpX_factcantor_i(f,p,1);
    1644                 :          0 :   return gerepilecopy(av, z);
    1645                 :            : }
    1646                 :            : GEN
    1647                 :         49 : factcantor(GEN f, GEN p) { return factcantor0(f,p,0); }
    1648                 :            : GEN
    1649                 :         28 : simplefactmod(GEN f, GEN p) { return factcantor0(f,p,1); }
    1650                 :            : 
    1651                 :            : /* set x <-- x + c*y mod p */
    1652                 :            : /* x is not required to be normalized.*/
    1653                 :            : static void
    1654                 :     505730 : Flx_addmul_inplace(GEN gx, GEN gy, ulong c, ulong p)
    1655                 :            : {
    1656                 :            :   long i, lx, ly;
    1657                 :     505730 :   ulong *x=(ulong *)gx;
    1658                 :     505730 :   ulong *y=(ulong *)gy;
    1659         [ +  + ]:     993539 :   if (!c) return;
    1660                 :     487809 :   lx = lg(gx);
    1661                 :     487809 :   ly = lg(gy);
    1662         [ -  + ]:     487809 :   if (lx<ly) pari_err_BUG("lx<ly in Flx_addmul_inplace");
    1663         [ +  + ]:     487809 :   if (SMALL_ULONG(p))
    1664         [ +  + ]:    3570835 :     for (i=2; i<ly;  i++) x[i] = (x[i] + c*y[i]) % p;
    1665                 :            :   else
    1666         [ +  + ]:      17047 :     for (i=2; i<ly;  i++) x[i] = Fl_add(x[i], Fl_mul(c,y[i],p),p);
    1667                 :            : }
    1668                 :            : 
    1669                 :            : /* return a random polynomial in F_q[v], degree < d1 */
    1670                 :            : GEN
    1671                 :      11409 : FqX_rand(long d1, long v, GEN T, GEN p)
    1672                 :            : {
    1673                 :      11409 :   long i, d = d1+2, k = get_FpX_degree(T), w = get_FpX_var(T);
    1674                 :      11409 :   GEN y = cgetg(d,t_POL); y[1] = evalsigne(1) | evalvarn(v);
    1675         [ +  + ]:      55585 :   for (i=2; i<d; i++) gel(y,i) = random_FpX(k, w, p);
    1676                 :      11409 :   (void)normalizepol_lg(y,d); return y;
    1677                 :            : }
    1678                 :            : 
    1679                 :            : #define set_irred(i) { if ((i)>ir) swap(t[i],t[ir]); ir++;}
    1680                 :            : /* assume x1 != 0 */
    1681                 :            : static GEN
    1682                 :      97860 : deg1_Flx(ulong x1, ulong x0, ulong sv)
    1683                 :            : {
    1684                 :      97860 :   return mkvecsmall3(sv, x0, x1);
    1685                 :            : }
    1686                 :            : 
    1687                 :            : long
    1688                 :      43846 : F2x_split_Berlekamp(GEN *t)
    1689                 :            : {
    1690                 :      43846 :   GEN u = *t, a, b, vker;
    1691                 :      43846 :   long lb, d, i, ir, L, la, sv = u[1], du = F2x_degree(u);
    1692                 :            : 
    1693         [ +  + ]:      43846 :   if (du == 1) return 1;
    1694         [ +  + ]:      28189 :   if (du == 2)
    1695                 :            :   {
    1696         [ -  + ]:       7280 :     if (F2x_quad_factortype(u) == 1) /* 0 is a root: shouldn't occur */
    1697                 :            :     {
    1698                 :          0 :       t[0] = mkvecsmall2(sv, 2);
    1699                 :          0 :       t[1] = mkvecsmall2(sv, 3);
    1700                 :          0 :       return 2;
    1701                 :            :     }
    1702                 :       7280 :     return 1;
    1703                 :            :   }
    1704                 :            : 
    1705                 :      20909 :   vker = F2x_Berlekamp_ker(u);
    1706                 :      20909 :   lb = lgcols(vker);
    1707                 :      20909 :   d = lg(vker)-1;
    1708                 :      20909 :   ir = 0;
    1709                 :            :   /* t[i] irreducible for i < ir, still to be treated for i < L */
    1710         [ +  + ]:      26502 :   for (L=1; L<d; )
    1711                 :            :   {
    1712                 :            :     GEN pol;
    1713         [ +  + ]:       5593 :     if (d == 2)
    1714                 :       5306 :       pol = F2v_to_F2x(gel(vker,2), sv);
    1715                 :            :     else
    1716                 :            :     {
    1717                 :        287 :       GEN v = zero_zv(lb);
    1718                 :        287 :       v[1] = du;
    1719                 :        287 :       v[2] = random_Fl(2); /*Assume vker[1]=1*/
    1720         [ +  + ]:        903 :       for (i=2; i<=d; i++)
    1721         [ +  + ]:        616 :         if (random_Fl(2)) F2v_add_inplace(v, gel(vker,i));
    1722                 :        287 :       pol = F2v_to_F2x(v, sv);
    1723                 :            :     }
    1724 [ +  + ][ +  + ]:      11424 :     for (i=ir; i<L && L<d; i++)
    1725                 :            :     {
    1726                 :       5831 :       a = t[i]; la = F2x_degree(a);
    1727 [ +  + ][ +  + ]:       5831 :       if (la == 1) { set_irred(i); }
    1728         [ -  + ]:       5810 :       else if (la == 2)
    1729                 :            :       {
    1730         [ #  # ]:          0 :         if (F2x_quad_factortype(a) == 1) /* 0 is a root: shouldn't occur */
    1731                 :            :         {
    1732                 :          0 :           t[i] = mkvecsmall2(sv, 2);
    1733                 :          0 :           t[L] = mkvecsmall2(sv, 3); L++;
    1734                 :            :         }
    1735         [ #  # ]:          0 :         set_irred(i);
    1736                 :            :       }
    1737                 :            :       else
    1738                 :            :       {
    1739                 :       5810 :         pari_sp av = avma;
    1740                 :            :         long lb;
    1741                 :       5810 :         b = F2x_rem(pol, a);
    1742         [ +  + ]:       5810 :         if (F2x_degree(b) <= 0) { avma=av; continue; }
    1743                 :       5481 :         b = F2x_gcd(a,b); lb = F2x_degree(b);
    1744 [ +  - ][ +  - ]:       5481 :         if (lb && lb < la)
    1745                 :            :         {
    1746                 :       5481 :           t[L] = F2x_div(a,b);
    1747                 :       5481 :           t[i]= b; L++;
    1748                 :            :         }
    1749                 :          0 :         else avma = av;
    1750                 :            :       }
    1751                 :            :     }
    1752                 :            :   }
    1753                 :      43846 :   return d;
    1754                 :            : }
    1755                 :            : 
    1756                 :            : /* p != 2 */
    1757                 :            : long
    1758                 :     201752 : Flx_split_Berlekamp(GEN *t, ulong p)
    1759                 :            : {
    1760                 :     201752 :   GEN u = *t, a,b,vker;
    1761                 :     201752 :   long d, i, ir, L, la, lb, sv = u[1];
    1762                 :     201752 :   long l = lg(u);
    1763                 :            :   ulong po2;
    1764                 :            : 
    1765         [ -  + ]:     201752 :   if (p == 2)
    1766                 :            :   {
    1767                 :          0 :     *t = Flx_to_F2x(*t);
    1768                 :          0 :     d = F2x_split_Berlekamp(t);
    1769         [ #  # ]:          0 :     for (i = 1; i <= d; i++) t[i] = F2x_to_Flx(t[i]);
    1770                 :          0 :     return d;
    1771                 :            :   }
    1772                 :     201752 :   la = degpol(u);
    1773         [ +  + ]:     201752 :   if (la == 1) return 1;
    1774         [ +  + ]:     187088 :   if (la == 2)
    1775                 :            :   {
    1776                 :      11738 :     ulong r = Flx_quad_root(u,p,1);
    1777         [ +  + ]:      11738 :     if (r != p)
    1778                 :            :     {
    1779                 :       5370 :       t[0] = deg1_Flx(1, p - r, sv); r = Flx_otherroot(u,r,p);
    1780                 :       5370 :       t[1] = deg1_Flx(1, p - r, sv);
    1781                 :       5370 :       return 2;
    1782                 :            :     }
    1783                 :       6368 :     return 1;
    1784                 :            :   }
    1785                 :            : 
    1786                 :     175350 :   vker = Flx_Berlekamp_ker(u,p);
    1787                 :     175350 :   vker = Flm_to_FlxV(vker, sv);
    1788                 :     175350 :   d = lg(vker)-1;
    1789                 :     175350 :   po2 = p >> 1; /* (p-1) / 2 */
    1790                 :     175350 :   ir = 0;
    1791                 :            :   /* t[i] irreducible for i < ir, still to be treated for i < L */
    1792         [ +  + ]:     427455 :   for (L=1; L<d; )
    1793                 :            :   {
    1794                 :     252105 :     GEN pol = zero_zv(l-2);
    1795                 :     252105 :     pol[1] = sv;
    1796                 :     252105 :     pol[2] = random_Fl(p); /*Assume vker[1]=1*/
    1797         [ +  + ]:     757835 :     for (i=2; i<=d; i++)
    1798                 :     505730 :       Flx_addmul_inplace(pol, gel(vker,i), random_Fl(p), p);
    1799                 :     252105 :     (void)Flx_renormalize(pol,l-1);
    1800                 :            : 
    1801 [ +  + ][ +  + ]:     609154 :     for (i=ir; i<L && L<d; i++)
    1802                 :            :     {
    1803                 :     357049 :       a = t[i]; la = degpol(a);
    1804 [ +  + ][ +  + ]:     357049 :       if (la == 1) { set_irred(i); }
    1805         [ +  + ]:     323451 :       else if (la == 2)
    1806                 :            :       {
    1807                 :      53859 :         ulong r = Flx_quad_root(a,p,1);
    1808         [ +  + ]:      53859 :         if (r != p)
    1809                 :            :         {
    1810                 :      43560 :           t[i] = deg1_Flx(1, p - r, sv); r = Flx_otherroot(a,r,p);
    1811                 :      43560 :           t[L] = deg1_Flx(1, p - r, sv); L++;
    1812                 :            :         }
    1813         [ +  + ]:      53859 :         set_irred(i);
    1814                 :            :       }
    1815                 :            :       else
    1816                 :            :       {
    1817                 :     269592 :         pari_sp av = avma;
    1818                 :     269592 :         b = Flx_rem(pol, a, p);
    1819         [ +  + ]:     269592 :         if (degpol(b) <= 0) { avma=av; continue; }
    1820                 :     251900 :         b = Flx_Fl_add(Flxq_powu(b,po2, a,p), p-1, p);
    1821                 :     251900 :         b = Flx_gcd(a,b, p); lb = degpol(b);
    1822 [ +  + ][ +  + ]:     251900 :         if (lb && lb < la)
    1823                 :            :         {
    1824                 :     145446 :           b = Flx_normalize(b, p);
    1825                 :     145446 :           t[L] = Flx_div(a,b,p);
    1826                 :     145446 :           t[i]= b; L++;
    1827                 :            :         }
    1828                 :     106454 :         else avma = av;
    1829                 :            :       }
    1830                 :            :     }
    1831                 :            :   }
    1832                 :     201752 :   return d;
    1833                 :            : }
    1834                 :            : 
    1835                 :            : long
    1836                 :        594 : FpX_split_Berlekamp(GEN *t, GEN p)
    1837                 :            : {
    1838                 :        594 :   GEN u = *t, a,b,po2,vker;
    1839                 :        594 :   long d, i, ir, L, la, lb, vu = varn(u);
    1840         [ +  + ]:        594 :   if (lgefint(p) == 3)
    1841                 :            :   {
    1842                 :        532 :     ulong up = p[2];
    1843         [ -  + ]:        532 :     if (up == 2)
    1844                 :            :     {
    1845                 :          0 :       *t = ZX_to_F2x(*t);
    1846                 :          0 :       d = F2x_split_Berlekamp(t);
    1847         [ #  # ]:          0 :       for (i = 0; i < d; i++) t[i] = F2x_to_ZX(t[i]);
    1848                 :            :     }
    1849                 :            :     else
    1850                 :            :     {
    1851                 :        532 :       *t = ZX_to_Flx(*t, up);
    1852                 :        532 :       d = Flx_split_Berlekamp(t, up);
    1853         [ +  + ]:       3444 :       for (i = 0; i < d; i++) t[i] = Flx_to_ZX(t[i]);
    1854                 :            :     }
    1855                 :        532 :     return d;
    1856                 :            :   }
    1857                 :         62 :   la = degpol(u);
    1858         [ +  + ]:         62 :   if (la == 1) return 1;
    1859         [ +  + ]:         57 :   if (la == 2)
    1860                 :            :   {
    1861                 :          2 :     GEN r = FpX_quad_root(u,p,1);
    1862         [ -  + ]:          2 :     if (r)
    1863                 :            :     {
    1864                 :          0 :       t[0] = deg1pol_shallow(gen_1, subii(p,r), vu); r = FpX_otherroot(u,r,p);
    1865                 :          0 :       t[1] = deg1pol_shallow(gen_1, subii(p,r), vu);
    1866                 :          0 :       return 2;
    1867                 :            :     }
    1868                 :          2 :     return 1;
    1869                 :            :   }
    1870                 :         55 :   vker = FpX_Berlekamp_ker(u,p);
    1871                 :         55 :   vker = RgM_to_RgXV(vker,vu);
    1872                 :         55 :   d = lg(vker)-1;
    1873                 :         55 :   po2 = shifti(p, -1); /* (p-1) / 2 */
    1874                 :         55 :   ir = 0;
    1875                 :            :   /* t[i] irreducible for i < ir, still to be treated for i < L */
    1876         [ +  + ]:        111 :   for (L=1; L<d; )
    1877                 :            :   {
    1878                 :         56 :     GEN pol = scalar_ZX_shallow(randomi(p), vu);
    1879         [ +  + ]:        243 :     for (i=2; i<=d; i++)
    1880                 :        187 :       pol = ZX_add(pol, ZX_Z_mul(gel(vker,i), randomi(p)));
    1881                 :         56 :     pol = FpX_red(pol,p);
    1882 [ +  + ][ +  + ]:        163 :     for (i=ir; i<L && L<d; i++)
    1883                 :            :     {
    1884                 :        107 :       a = t[i]; la = degpol(a);
    1885 [ +  + ][ +  - ]:        107 :       if (la == 1) { set_irred(i); }
    1886         [ +  + ]:         95 :       else if (la == 2)
    1887                 :            :       {
    1888                 :         13 :         GEN r = FpX_quad_root(a,p,1);
    1889         [ +  - ]:         13 :         if (r)
    1890                 :            :         {
    1891                 :         13 :           t[i] = deg1pol_shallow(gen_1, subii(p,r), vu); r = FpX_otherroot(a,r,p);
    1892                 :         13 :           t[L] = deg1pol_shallow(gen_1, subii(p,r), vu); L++;
    1893                 :            :         }
    1894         [ +  + ]:         13 :         set_irred(i);
    1895                 :            :       }
    1896                 :            :       else
    1897                 :            :       {
    1898                 :         82 :         pari_sp av = avma;
    1899                 :         82 :         b = FpX_rem(pol, a, p);
    1900         [ -  + ]:         82 :         if (degpol(b) <= 0) { avma=av; continue; }
    1901                 :         82 :         b = FpX_Fp_sub_shallow(FpXQ_pow(b,po2, a,p), gen_1, p);
    1902                 :         82 :         b = FpX_gcd(a,b, p); lb = degpol(b);
    1903 [ +  + ][ +  + ]:         82 :         if (lb && lb < la)
    1904                 :            :         {
    1905                 :         44 :           b = FpX_normalize(b, p);
    1906                 :         44 :           t[L] = FpX_div(a,b,p);
    1907                 :         44 :           t[i]= b; L++;
    1908                 :            :         }
    1909                 :         38 :         else avma = av;
    1910                 :            :       }
    1911                 :            :     }
    1912                 :            :   }
    1913                 :        594 :   return d;
    1914                 :            : }
    1915                 :            : 
    1916                 :            : GEN
    1917                 :      34153 : FqX_deriv(GEN f, /*unused*/GEN T, GEN p) {
    1918                 :      34153 :   (void)T; return FpXX_red(RgX_deriv(f), p);
    1919                 :            : }
    1920                 :            : 
    1921                 :            : long
    1922                 :       7616 : FqX_is_squarefree(GEN P, GEN T, GEN p)
    1923                 :            : {
    1924                 :       7616 :   pari_sp av = avma;
    1925                 :       7616 :   GEN z = FqX_gcd(P, FqX_deriv(P, T, p), T, p);
    1926                 :       7616 :   avma = av;
    1927                 :       7616 :   return degpol(z)==0;
    1928                 :            : }
    1929                 :            : 
    1930                 :            : static GEN
    1931                 :      77467 : F2x_Berlekamp_i(GEN f, long flag)
    1932                 :            : {
    1933                 :      77467 :   long e, nbfact, val, d = F2x_degree(f);
    1934                 :            :   ulong k, j;
    1935                 :            :   GEN y, E, f2, g1, t;
    1936                 :            : 
    1937         [ +  + ]:      77467 :   if (d <= 2) return F2x_factor_deg2(f, d, flag);
    1938                 :            : 
    1939                 :            :   /* to hold factors and exponents */
    1940         [ -  + ]:      45330 :   t = cgetg(d+1, flag? t_VECSMALL: t_VEC);
    1941                 :      45330 :   E = cgetg(d+1,t_VECSMALL);
    1942                 :      45330 :   val = F2x_valrem(f, &f);
    1943                 :      45330 :   e = nbfact = 1;
    1944         [ +  + ]:      45330 :   if (val) {
    1945 [ -  + ][ #  # ]:       9567 :     if (flag == 2 && val > 1) return NULL;
    1946         [ -  + ]:       9567 :     if (flag == 1)
    1947                 :          0 :       t[1] = 1;
    1948                 :            :     else
    1949                 :       9567 :       gel(t,1) = polx_F2x(f[1]);
    1950                 :       9567 :     E[1] = val; nbfact++;
    1951                 :            :   }
    1952                 :            : 
    1953                 :            :   for(;;)
    1954                 :            :   {
    1955                 :      82101 :     f2 = F2x_gcd(f,F2x_deriv(f));
    1956 [ -  + ][ #  # ]:      82101 :     if (flag == 2 && F2x_degree(f2)) return NULL;
    1957         [ +  + ]:      82101 :     g1 = F2x_degree(f2)? F2x_div(f,f2): f; /* squarefree */
    1958                 :      82101 :     k = 0;
    1959         [ +  + ]:     137175 :     while (F2x_degree(g1)>0)
    1960                 :            :     {
    1961                 :            :       GEN u;
    1962         [ +  + ]:      55074 :       k++; if (k%2 == 0) { k++; f2 = F2x_div(f2,g1); }
    1963                 :      55074 :       u = g1; /* deg(u) > 0 */
    1964         [ +  + ]:      55074 :       if (!F2x_degree(f2)) g1 = pol1_F2x(0); /* only its degree (= 0) matters */
    1965                 :            :       else
    1966                 :            :       {
    1967                 :            :         long dg1;
    1968                 :      14168 :         g1 = F2x_gcd(f2,g1);
    1969                 :      14168 :         dg1 = F2x_degree(g1);
    1970         [ +  + ]:      14168 :         if (dg1)
    1971                 :            :         {
    1972                 :      12355 :           f2= F2x_div(f2,g1);
    1973         [ +  + ]:      12355 :           if (F2x_degree(u) == dg1) continue;
    1974                 :       1127 :           u = F2x_div( u,g1);
    1975                 :            :         }
    1976                 :            :       }
    1977                 :            :       /* u is square-free (product of irred. of multiplicity e * k) */
    1978                 :      43846 :       gel(t,nbfact) = u;
    1979                 :      43846 :       d = F2x_split_Berlekamp(&gel(t,nbfact));
    1980 [ -  + ][ #  # ]:      43846 :       if (flag == 2 && d != 1) return NULL;
    1981         [ -  + ]:      43846 :       if (flag == 1)
    1982         [ #  # ]:          0 :         for (j=0; j<(ulong)d; j++) t[nbfact+j] = F2x_degree(gel(t,nbfact+j));
    1983         [ +  + ]:      93173 :       for (j=0; j<(ulong)d; j++) E[nbfact+j] = e*k;
    1984                 :      43846 :       nbfact += d;
    1985                 :            :     }
    1986         [ +  + ]:      82101 :     j = F2x_degree(f2); if (!j) break;
    1987                 :      36771 :     e *= 2; f = F2x_deflate(f2, 2);
    1988                 :      36771 :   }
    1989         [ -  + ]:      45330 :   if (flag == 2) return gen_1; /* irreducible */
    1990                 :      45330 :   setlg(t, nbfact);
    1991                 :      45330 :   setlg(E, nbfact); y = mkvec2(t,E);
    1992                 :      77467 :   return flag ? sort_factor(y, (void*)&cmpGuGu, cmp_nodata)
    1993         [ -  + ]:      45330 :               : sort_factor_pol(y, cmpGuGu);
    1994                 :            : }
    1995                 :            : 
    1996                 :            : static GEN
    1997                 :     412261 : Flx_Berlekamp_i(GEN f, ulong p, long flag)
    1998                 :            : {
    1999                 :     412261 :   long e, nbfact, val, d = degpol(f);
    2000                 :            :   ulong k, j;
    2001                 :            :   GEN y, E, f2, g1, t;
    2002                 :            : 
    2003         [ -  + ]:     412261 :   if (p == 2)
    2004                 :            :   {
    2005                 :          0 :     GEN F = F2x_Berlekamp_i(Flx_to_F2x(f),flag);
    2006         [ #  # ]:          0 :     if (flag==0) F2xV_to_FlxV_inplace(gel(F,1));
    2007                 :          0 :     return F;
    2008                 :            :   }
    2009         [ +  + ]:     412261 :   if (d <= 2) return Flx_factor_deg2(f,p,d,flag);
    2010                 :            : 
    2011                 :            :   /* to hold factors and exponents */
    2012         [ -  + ]:     198396 :   t = cgetg(d+1, flag? t_VECSMALL: t_VEC);
    2013                 :     198396 :   E = cgetg(d+1,t_VECSMALL);
    2014                 :     198396 :   val = Flx_valrem(f, &f);
    2015                 :     198396 :   e = nbfact = 1;
    2016         [ +  + ]:     198396 :   if (val) {
    2017 [ -  + ][ #  # ]:       7351 :     if (flag == 2 && val > 1) return NULL;
    2018         [ -  + ]:       7351 :     if (flag == 1)
    2019                 :          0 :       t[1] = 1;
    2020                 :            :     else
    2021                 :       7351 :       gel(t,1) = polx_Flx(f[1]);
    2022                 :       7351 :     E[1] = val; nbfact++;
    2023                 :            :   }
    2024                 :            : 
    2025                 :            :   for(;;)
    2026                 :            :   {
    2027                 :     204108 :     f2 = Flx_gcd(f,Flx_deriv(f,p), p);
    2028 [ -  + ][ #  # ]:     204108 :     if (flag == 2 && degpol(f2)) return NULL;
    2029         [ +  + ]:     204108 :     g1 = degpol(f2)? Flx_div(f,f2,p): f; /* squarefree */
    2030                 :     204108 :     k = 0;
    2031         [ +  + ]:     446546 :     while (degpol(g1)>0)
    2032                 :            :     {
    2033                 :            :       GEN u;
    2034         [ +  + ]:     242438 :       k++; if (k%p == 0) { k++; f2 = Flx_div(f2,g1,p); }
    2035                 :     242438 :       u = g1; /* deg(u) > 0 */
    2036         [ +  + ]:     242438 :       if (!degpol(f2)) g1 = pol1_Flx(0); /* only its degree (= 0) matters */
    2037                 :            :       else
    2038                 :            :       {
    2039                 :      46533 :         g1 = Flx_gcd(f2,g1, p);
    2040         [ +  + ]:      46533 :         if (degpol(g1))
    2041                 :            :         {
    2042                 :      46386 :           f2= Flx_div(f2,g1,p);
    2043         [ +  + ]:      46386 :           if (lg(u) == lg(g1)) continue;
    2044                 :       5168 :           u = Flx_div( u,g1,p);
    2045                 :            :         }
    2046                 :            :       }
    2047                 :            :       /* u is square-free (product of irred. of multiplicity e * k) */
    2048                 :     201220 :       u = Flx_normalize(u,p);
    2049                 :     201220 :       gel(t,nbfact) = u;
    2050                 :     201220 :       d = Flx_split_Berlekamp(&gel(t,nbfact), p);
    2051 [ -  + ][ #  # ]:     201220 :       if (flag == 2 && d != 1) return NULL;
    2052         [ -  + ]:     201220 :       if (flag == 1)
    2053         [ #  # ]:          0 :         for (j=0; j<(ulong)d; j++) t[nbfact+j] = degpol(gel(t,nbfact+j));
    2054         [ +  + ]:     594436 :       for (j=0; j<(ulong)d; j++) E[nbfact+j] = e*k;
    2055                 :     201220 :       nbfact += d;
    2056                 :            :     }
    2057         [ -  + ]:     204108 :     if (!p) break;
    2058         [ +  + ]:     204108 :     j = degpol(f2); if (!j) break;
    2059         [ -  + ]:       5712 :     if (j % p) pari_err_PRIME("factmod",utoi(p));
    2060                 :       5712 :     e *= p; f = Flx_deflate(f2, p);
    2061                 :       5712 :   }
    2062         [ -  + ]:     198396 :   if (flag == 2) return gen_1; /* irreducible */
    2063                 :     198396 :   setlg(t, nbfact);
    2064                 :     198396 :   setlg(E, nbfact); y = mkvec2(t,E);
    2065                 :     412261 :   return flag ? sort_factor(y, (void*)&cmpGuGu, cmp_nodata)
    2066         [ -  + ]:     198396 :               : sort_factor_pol(y, cmpGuGu);
    2067                 :            : }
    2068                 :            : 
    2069                 :            : /* f an FpX or an Flx */
    2070                 :            : static GEN
    2071                 :     473732 : FpX_Berlekamp_i(GEN f, GEN pp, long flag)
    2072                 :            : {
    2073                 :     473732 :   long e, nbfact, val, d = degpol(f);
    2074                 :            :   ulong k, j;
    2075                 :            :   GEN y, E, f2, g1, t;
    2076                 :            : 
    2077         [ +  + ]:     473732 :   if (typ(f) == t_VECSMALL)
    2078                 :            :   {/* lgefint(pp) == 3 */
    2079                 :     473614 :     ulong p = pp[2];
    2080                 :            :     GEN F;
    2081         [ +  + ]:     473614 :     if (p == 2) {
    2082                 :      77467 :       F = F2x_Berlekamp_i(Flx_to_F2x(f), flag);
    2083         [ +  - ]:      77467 :       if (flag==0) F2xV_to_ZXV_inplace(gel(F,1));
    2084                 :            :     } else {
    2085                 :     396147 :       F = Flx_Berlekamp_i(f, p, flag);
    2086         [ +  - ]:     396147 :       if (flag==0) FlxV_to_ZXV_inplace(gel(F,1));
    2087                 :            :     }
    2088                 :     473614 :     return F;
    2089                 :            :   }
    2090                 :            :   /* p is large (and odd) */
    2091         [ +  + ]:        118 :   if (d <= 2) return FpX_factor_deg2(f,pp,d,flag);
    2092                 :            : 
    2093                 :            :   /* to hold factors and exponents */
    2094         [ -  + ]:         58 :   t = cgetg(d+1, flag? t_VECSMALL: t_VEC);
    2095                 :         58 :   E = cgetg(d+1,t_VECSMALL);
    2096                 :         58 :   val = ZX_valrem(f, &f);
    2097                 :         58 :   e = nbfact = 1;
    2098         [ +  + ]:         58 :   if (val) {
    2099 [ -  + ][ #  # ]:          3 :     if (flag == 2 && val > 1) return NULL;
    2100         [ -  + ]:          3 :     if (flag == 1)
    2101                 :          0 :       t[1] = 1;
    2102                 :            :     else
    2103                 :          3 :       gel(t,1) = pol_x(varn(f));
    2104                 :          3 :     E[1] = val; nbfact++;
    2105                 :            :   }
    2106                 :            : 
    2107                 :         58 :   f2 = FpX_gcd(f,ZX_deriv(f), pp);
    2108 [ -  + ][ #  # ]:         58 :   if (flag == 2 && degpol(f2)) return NULL;
    2109         [ +  + ]:         58 :   g1 = degpol(f2)? FpX_div(f,f2,pp): f; /* squarefree */
    2110                 :         58 :   k = 0;
    2111         [ +  + ]:        121 :   while (degpol(g1)>0)
    2112                 :            :   {
    2113                 :            :     GEN u;
    2114                 :         63 :     k++;
    2115                 :         63 :     u = g1; /* deg(u) > 0 */
    2116         [ +  + ]:         63 :     if (!degpol(f2)) g1 = pol_1(0); /* only its degree (= 0) matters */
    2117                 :            :     else
    2118                 :            :     {
    2119                 :          6 :       g1 = FpX_gcd(f2,g1, pp);
    2120         [ +  - ]:          6 :       if (degpol(g1))
    2121                 :            :       {
    2122                 :          6 :         f2= FpX_div(f2,g1,pp);
    2123         [ +  + ]:          6 :         if (lg(u) == lg(g1)) continue;
    2124                 :          5 :         u = FpX_div( u,g1,pp);
    2125                 :            :       }
    2126                 :            :     }
    2127                 :            :     /* u is square-free (product of irred. of multiplicity e * k) */
    2128                 :         62 :     u = FpX_normalize(u,pp);
    2129                 :         62 :     gel(t,nbfact) = u;
    2130                 :         62 :     d = FpX_split_Berlekamp(&gel(t,nbfact), pp);
    2131 [ -  + ][ #  # ]:         62 :     if (flag == 2 && d != 1) return NULL;
    2132         [ -  + ]:         62 :     if (flag == 1)
    2133         [ #  # ]:          0 :       for (j=0; j<(ulong)d; j++) t[nbfact+j] = degpol(gel(t,nbfact+j));
    2134         [ +  + ]:        181 :     for (j=0; j<(ulong)d; j++) E[nbfact+j] = e*k;
    2135                 :         62 :     nbfact += d;
    2136                 :            :   }
    2137         [ -  + ]:         58 :   if (flag == 2) return gen_1; /* irreducible */
    2138                 :         58 :   setlg(t, nbfact);
    2139                 :         58 :   setlg(E, nbfact); y = mkvec2(t,E);
    2140                 :     473732 :   return flag ? sort_factor(y, (void*)&cmpGuGu, cmp_nodata)
    2141         [ -  + ]:         58 :               : sort_factor_pol(y, cmpii);
    2142                 :            : }
    2143                 :            : GEN
    2144                 :     473669 : FpX_factor(GEN f, GEN p)
    2145                 :            : {
    2146                 :     473669 :   pari_sp av = avma;
    2147                 :     473669 :   ZX_factmod_init(&f, p);
    2148                 :     473669 :   return gerepilecopy(av, FpX_Berlekamp_i(f, p, 0));
    2149                 :            : }
    2150                 :            : GEN
    2151                 :      36442 : Flx_factor(GEN f, ulong p)
    2152                 :            : {
    2153                 :      36442 :   pari_sp av = avma;
    2154         [ +  + ]:      36442 :   GEN F = (degpol(f)>log2(p))? Flx_factcantor_i(f,p,0): Flx_Berlekamp_i(f,p,0);
    2155                 :      36442 :   return gerepilecopy(av, F);
    2156                 :            : }
    2157                 :            : GEN
    2158                 :          0 : F2x_factor(GEN f)
    2159                 :            : {
    2160                 :          0 :   pari_sp av = avma;
    2161                 :          0 :   return gerepilecopy(av, F2x_Berlekamp_i(f, 0));
    2162                 :            : }
    2163                 :            : 
    2164                 :            : GEN
    2165                 :         98 : factormod0(GEN f, GEN p, long flag)
    2166                 :            : {
    2167      [ +  +  - ]:         98 :   switch(flag)
    2168                 :            :   {
    2169                 :         70 :     case 0: return factmod(f,p);
    2170                 :         28 :     case 1: return simplefactmod(f,p);
    2171                 :          0 :     default: pari_err_FLAG("factormod");
    2172                 :            :   }
    2173                 :         98 :   return NULL; /* not reached */
    2174                 :            : }
    2175                 :            : 
    2176                 :            : /*******************************************************************/
    2177                 :            : /*                                                                 */
    2178                 :            : /*                     FACTORIZATION IN F_q                        */
    2179                 :            : /*                                                                 */
    2180                 :            : /*******************************************************************/
    2181                 :            : static GEN
    2182                 :       9520 : to_Fq(GEN x, GEN T, GEN p)
    2183                 :            : {
    2184                 :       9520 :   long i, lx, tx = typ(x);
    2185                 :            :   GEN y;
    2186                 :            : 
    2187         [ +  + ]:       9520 :   if (tx == t_INT)
    2188                 :       4382 :     y = mkintmod(x,p);
    2189                 :            :   else
    2190                 :            :   {
    2191         [ -  + ]:       5138 :     if (tx != t_POL) pari_err_TYPE("to_Fq",x);
    2192                 :       5138 :     lx = lg(x);
    2193                 :       5138 :     y = cgetg(lx,t_POL); y[1] = x[1];
    2194         [ +  + ]:     213983 :     for (i=2; i<lx; i++) gel(y,i) = mkintmod(gel(x,i), p);
    2195                 :            :   }
    2196                 :       9520 :   return mkpolmod(y, T);
    2197                 :            : }
    2198                 :            : 
    2199                 :            : static GEN
    2200                 :       4354 : to_Fq_pol(GEN x, GEN T, GEN p)
    2201                 :            : {
    2202                 :       4354 :   long i, lx = lg(x);
    2203         [ +  + ]:      13076 :   for (i=2; i<lx; i++) gel(x,i) = to_Fq(gel(x,i),T,p);
    2204                 :       4354 :   return x;
    2205                 :            : }
    2206                 :            : 
    2207                 :            : static GEN
    2208                 :        245 : to_Fq_fact(GEN P, GEN E, GEN T, GEN p, pari_sp av)
    2209                 :            : {
    2210                 :            :   GEN y, u, v;
    2211                 :        245 :   long j, l = lg(P), nbf = lg(P);
    2212                 :            : 
    2213                 :        245 :   u = cgetg(nbf,t_COL);
    2214                 :        245 :   v = cgetg(nbf,t_COL);
    2215         [ +  + ]:       4599 :   for (j=1; j<l; j++)
    2216                 :            :   {
    2217                 :       4354 :     gel(u,j) = simplify_shallow(gel(P,j)); /* may contain pols of degree 0 */
    2218                 :       4354 :     gel(v,j) = utoi(uel(E,j));
    2219                 :            :   }
    2220                 :        245 :   y = gerepilecopy(av, mkmat2(u, v));
    2221                 :        245 :   u = gel(y,1);
    2222                 :        245 :   p = icopy(p);
    2223                 :        245 :   T = FpX_to_mod(T, p);
    2224         [ +  + ]:       4599 :   for (j=1; j<nbf; j++) gel(u,j) = to_Fq_pol(gel(u,j), T,p);
    2225                 :        245 :   return y;
    2226                 :            : }
    2227                 :            : static GEN
    2228                 :         35 : to_FqC(GEN P, GEN T, GEN p, pari_sp av)
    2229                 :            : {
    2230                 :            :   GEN u;
    2231                 :         35 :   long j, l = lg(P), nbf = lg(P);
    2232                 :            : 
    2233                 :         35 :   u = cgetg(nbf,t_COL);
    2234         [ +  + ]:        833 :   for (j=1; j<l; j++)
    2235                 :        798 :     gel(u,j) = simplify_shallow(gel(P,j)); /* may contain pols of degree 0 */
    2236                 :         35 :   u = gerepilecopy(av, u);
    2237                 :         35 :   p = icopy(p);
    2238                 :         35 :   T = FpX_to_mod(T, p);
    2239         [ +  + ]:        833 :   for (j=1; j<nbf; j++) gel(u,j) = to_Fq(gel(u,j), T,p);
    2240                 :         35 :   return u;
    2241                 :            : }
    2242                 :            : 
    2243                 :            : GEN
    2244                 :      11609 : FlxqXQ_halfFrobenius(GEN a, GEN S, GEN T, ulong p)
    2245                 :            : {
    2246                 :      11609 :   long vT = get_Flx_var(T);
    2247                 :      11609 :   GEN xp = Flx_Frobenius(T, p);
    2248                 :      11609 :   GEN Xp = FlxqXQ_pow(polx_FlxX(varn(S), vT), utoi(p), S, T, p);
    2249                 :      11609 :   GEN ap2 = FlxqXQ_pow(a,utoi(p>>1), S, T, p);
    2250                 :      11609 :   GEN V = FlxqXQV_autsum(mkvec3(xp, Xp, ap2), get_Flx_degree(T), S, T, p);
    2251                 :      11609 :   return gel(V,3);
    2252                 :            : }
    2253                 :            : 
    2254                 :            : GEN
    2255                 :      11457 : FpXQXQ_halfFrobenius(GEN a, GEN S, GEN T, GEN p)
    2256                 :            : {
    2257         [ +  + ]:      11457 :   if (lgefint(p)==3)
    2258                 :            :   {
    2259                 :      11381 :     ulong pp = p[2];
    2260                 :      11381 :     long v = get_FpX_var(T);
    2261                 :      11381 :     GEN Tp = ZXT_to_FlxT(T,pp), Sp = ZXX_to_FlxX(S, pp, v);
    2262                 :      11381 :     return FlxX_to_ZXX(FlxqXQ_halfFrobenius(ZXX_to_FlxX(a,pp,v),Sp,Tp,pp));
    2263                 :            :   }
    2264                 :            :   else
    2265                 :            :   {
    2266                 :         76 :     GEN xp = FpX_Frobenius(T, p);
    2267                 :         76 :     GEN Xp = FpXQXQ_pow(pol_x(varn(S)), p, S, T, p);
    2268                 :         76 :     GEN ap2 = FpXQXQ_pow(a,shifti(p,-1), S, T, p);
    2269                 :         76 :     GEN V = FpXQXQV_autsum(mkvec3(xp,Xp,ap2), get_FpX_degree(T), S, T, p);
    2270                 :      11457 :     return gel(V,3);
    2271                 :            :   }
    2272                 :            : }
    2273                 :            : 
    2274                 :            : GEN
    2275                 :      14905 : FlxqX_Frobenius(GEN S, GEN T, ulong p)
    2276                 :            : {
    2277                 :      14905 :   pari_sp av = avma;
    2278                 :      14905 :   long n = get_Flx_degree(T), vT = get_Flx_var(T);
    2279                 :      14905 :   GEN X  = polx_FlxX(varn(S), vT);
    2280                 :      14905 :   GEN xp = Flx_Frobenius(T, p);
    2281                 :      14905 :   GEN Xp = FlxqXQ_pow(X, utoi(p), S, T, p);
    2282                 :      14905 :   GEN Xq = gel(FlxqXQV_autpow(mkvec2(xp,Xp), n, S, T, p), 2);
    2283                 :      14905 :   return gerepilecopy(av, Xq);
    2284                 :            : }
    2285                 :            : 
    2286                 :            : GEN
    2287                 :        131 : FpXQX_Frobenius(GEN S, GEN T, GEN p)
    2288                 :            : {
    2289                 :        131 :   pari_sp av = avma;
    2290                 :        131 :   long n = get_FpX_degree(T);
    2291                 :        131 :   GEN X  = pol_x(varn(S));
    2292                 :        131 :   GEN xp = FpX_Frobenius(T, p);
    2293                 :        131 :   GEN Xp = FpXQXQ_pow(X, p, S, T, p);
    2294                 :        131 :   GEN Xq = gel(FpXQXQV_autpow(mkvec2(xp,Xp), n, S, T, p), 2);
    2295                 :        131 :   return gerepilecopy(av, Xq);
    2296                 :            : }
    2297                 :            : 
    2298                 :            : static GEN
    2299                 :      14245 : FqX_Frobenius_powers(GEN S, GEN T, GEN p)
    2300                 :            : {
    2301                 :      14245 :   long N = degpol(S);
    2302         [ +  + ]:      14245 :   if (lgefint(p)==3)
    2303                 :            :   {
    2304                 :      14244 :     ulong pp = p[2];
    2305                 :      14244 :     GEN Tp = ZXT_to_FlxT(T, pp), Sp = ZXX_to_FlxX(S, pp, get_FpX_var(T));
    2306                 :      14244 :     GEN Xq = FlxqX_Frobenius(Sp, Tp, pp);
    2307                 :      14244 :     return FlxqXQ_powers(Xq, N-1, Sp, Tp, pp);
    2308                 :            :   } else
    2309                 :            :   {
    2310                 :          1 :     GEN Xq = FpXQX_Frobenius(S, T, p);
    2311                 :      14245 :     return FpXQXQ_powers(Xq, N-1, S, T, p);
    2312                 :            :   }
    2313                 :            : }
    2314                 :            : 
    2315                 :            : static GEN
    2316                 :      16821 : FqX_Frobenius_eval(GEN x, GEN V, GEN S, GEN T, GEN p)
    2317                 :            : {
    2318         [ +  + ]:      16821 :   if (lgefint(p)==3)
    2319                 :            :   {
    2320                 :      16820 :     ulong pp = p[2];
    2321                 :      16820 :     long v = get_FpX_var(T);
    2322                 :      16820 :     GEN Tp = ZXT_to_FlxT(T, pp), Sp = ZXX_to_FlxX(S, pp, v);
    2323                 :      16820 :     GEN xp = ZXX_to_FlxX(x, pp, v);
    2324                 :      16820 :     return FlxX_to_ZXX(FlxqX_FlxqXQV_eval(xp, V, Sp, Tp, pp));
    2325                 :            :   }
    2326                 :            :   else
    2327                 :      16821 :     return FpXQX_FpXQXQV_eval(x, V, S, T, p);
    2328                 :            : }
    2329                 :            : 
    2330                 :            : static GEN
    2331                 :          8 : FpXQX_split_part(GEN f, GEN T, GEN p)
    2332                 :            : {
    2333                 :          8 :   long n = degpol(f);
    2334                 :          8 :   GEN z, X = pol_x(varn(f));
    2335         [ -  + ]:          8 :   if (n <= 1) return f;
    2336                 :          8 :   f = FpXQX_red(f, T, p);
    2337                 :          8 :   z = FpXQX_Frobenius(f, T, p);
    2338                 :          8 :   z = FpXX_sub(z, X , p);
    2339                 :          8 :   return FpXQX_gcd(z, f, T, p);
    2340                 :            : }
    2341                 :            : 
    2342                 :            : static GEN
    2343                 :        307 : FlxqX_split_part(GEN f, GEN T, ulong p)
    2344                 :            : {
    2345                 :        307 :   long n = degpol(f);
    2346                 :        307 :   GEN z, Xq, X = polx_FlxX(varn(f),get_Flx_var(T));
    2347         [ -  + ]:        307 :   if (n <= 1) return f;
    2348                 :        307 :   f = FlxqX_red(f, T, p);
    2349                 :        307 :   Xq = FlxqX_Frobenius(f, T, p);
    2350                 :        307 :   z = FlxX_sub(Xq, X , p);
    2351                 :        307 :   return FlxqX_gcd(z, f, T, p);
    2352                 :            : }
    2353                 :            : 
    2354                 :            : long
    2355                 :        301 : FpXQX_nbroots(GEN f, GEN T, GEN p)
    2356                 :            : {
    2357                 :        301 :   pari_sp av = avma;
    2358                 :            :   GEN z;
    2359         [ +  + ]:        301 :   if(lgefint(p)==3)
    2360                 :            :   {
    2361                 :        293 :     ulong pp=p[2];
    2362                 :        293 :     z = FlxqX_split_part(ZXX_to_FlxX(f,pp,varn(T)),ZXT_to_FlxT(T,pp),pp);
    2363                 :            :   }
    2364                 :            :   else
    2365                 :          8 :     z = FpXQX_split_part(f, T, p);
    2366                 :        301 :   avma = av; return degpol(z);
    2367                 :            : }
    2368                 :            : 
    2369                 :            : long
    2370                 :       1771 : FqX_nbroots(GEN f, GEN T, GEN p)
    2371         [ +  + ]:       1771 : { return T ? FpXQX_nbroots(f, T, p): FpX_nbroots(f, p); }
    2372                 :            : 
    2373                 :            : long
    2374                 :         14 : FlxqX_nbroots(GEN f, GEN T, ulong p)
    2375                 :            : {
    2376                 :         14 :   pari_sp av = avma;
    2377                 :         14 :   GEN z = FlxqX_split_part(f, T, p);
    2378                 :         14 :   avma = av; return degpol(z);
    2379                 :            : }
    2380                 :            : 
    2381                 :            : GEN
    2382                 :         48 : FlxqX_Berlekamp_ker(GEN u, GEN T, ulong p)
    2383                 :            : {
    2384                 :         48 :   pari_sp ltop=avma;
    2385                 :         48 :   long j,N = degpol(u);
    2386                 :         48 :   GEN Xq = FlxqX_Frobenius(u,T,p);
    2387                 :         48 :   GEN Q  = FlxqXQ_matrix_pow(Xq,N,N,u,T,p);
    2388         [ +  + ]:        266 :   for (j=1; j<=N; j++)
    2389                 :        218 :     gcoeff(Q,j,j) = Flx_Fl_add(gcoeff(Q,j,j), p-1, p);
    2390                 :         48 :   return gerepileupto(ltop, FlxqM_ker(Q,T,p));
    2391                 :            : }
    2392                 :            : 
    2393                 :            : GEN
    2394                 :         49 : FpXQX_Berlekamp_ker(GEN u, GEN T, GEN p)
    2395                 :            : {
    2396         [ +  + ]:         49 :   if (lgefint(p)==3)
    2397                 :            :   {
    2398                 :         48 :     ulong pp=p[2];
    2399                 :         48 :     long v = get_FpX_var(T);
    2400                 :         48 :     GEN Tp = ZXT_to_FlxT(T,pp), Sp = ZXX_to_FlxX(u,pp,v);
    2401                 :         48 :     return FlxM_to_ZXM(FlxqX_Berlekamp_ker(Sp, Tp, pp));
    2402                 :            :   } else
    2403                 :            :   {
    2404                 :          1 :     pari_sp ltop=avma;
    2405                 :          1 :     long j,N = degpol(u);
    2406                 :          1 :     GEN Xq = FpXQX_Frobenius(u,T,p);
    2407                 :          1 :     GEN Q  = FpXQXQ_matrix_pow(Xq,N,N,u,T,p);
    2408         [ +  + ]:          7 :     for (j=1; j<=N; j++)
    2409                 :          6 :       gcoeff(Q,j,j) = Fq_sub(gcoeff(Q,j,j), gen_1, T, p);
    2410                 :         49 :     return gerepileupto(ltop, FqM_ker(Q,T,p));
    2411                 :            :   }
    2412                 :            : }
    2413                 :            : 
    2414                 :            : long
    2415                 :          0 : FpXQX_nbfact(GEN u, GEN T, GEN p)
    2416                 :            : {
    2417                 :          0 :   pari_sp av = avma;
    2418                 :          0 :   GEN vker = FpXQX_Berlekamp_ker(u, T, p);
    2419                 :          0 :   avma = av; return lg(vker)-1;
    2420                 :            : }
    2421                 :            : 
    2422                 :            : long
    2423                 :          0 : FqX_nbfact(GEN u, GEN T, GEN p)
    2424                 :            : {
    2425         [ #  # ]:          0 :   return T ? FpX_nbfact(u, p): FpXQX_nbfact(u, T, p);
    2426                 :            : }
    2427                 :            : 
    2428                 :            : long
    2429                 :         49 : FqX_split_Berlekamp(GEN *t, GEN T, GEN p)
    2430                 :            : {
    2431                 :         49 :   GEN u = *t, a,b,vker,pol;
    2432                 :         49 :   long vu = varn(u), vT = varn(T), dT = degpol(T);
    2433                 :            :   long d, i, ir, L, la, lb;
    2434                 :         49 :   T = FpX_get_red(T, p);
    2435                 :         49 :   vker = FpXQX_Berlekamp_ker(u,T,p);
    2436                 :         49 :   vker = RgM_to_RgXV(vker,vu);
    2437                 :         49 :   d = lg(vker)-1;
    2438                 :         49 :   ir = 0;
    2439                 :            :   /* t[i] irreducible for i < ir, still to be treated for i < L */
    2440         [ +  + ]:        179 :   for (L=1; L<d; )
    2441                 :            :   {
    2442                 :        130 :     pol= scalarpol(random_FpX(dT,vT,p),vu);
    2443         [ +  + ]:        446 :     for (i=2; i<=d; i++)
    2444                 :        316 :       pol = FqX_add(pol, FqX_Fq_mul(gel(vker,i),
    2445                 :            :                                     random_FpX(dT,vT,p), T, p), T, p);
    2446                 :        130 :     pol = FpXQX_red(pol,T,p);
    2447 [ +  + ][ +  + ]:        343 :     for (i=ir; i<L && L<d; i++)
    2448                 :            :     {
    2449                 :        213 :       a = t[i]; la = degpol(a);
    2450 [ +  + ][ +  + ]:        213 :       if (la == 1) { set_irred(i); }
    2451                 :            :       else
    2452                 :            :       {
    2453                 :        178 :         pari_sp av = avma;
    2454                 :        178 :         b = FqX_rem(pol, a, T,p);
    2455         [ +  + ]:        178 :         if (degpol(b)<=0) { avma=av; continue; }
    2456                 :        157 :         b = FpXQXQ_halfFrobenius(b, a,T,p);
    2457         [ +  + ]:        157 :         if (degpol(b)<=0) { avma=av; continue; }
    2458                 :         98 :         gel(b,2) = Fq_sub(gel(b,2), gen_1,T,p);
    2459                 :         98 :         b = FqX_gcd(a,b, T,p); lb = degpol(b);
    2460 [ +  - ][ +  - ]:         98 :         if (lb && lb < la)
    2461                 :            :         {
    2462                 :         98 :           b = FqX_normalize(b, T,p);
    2463                 :         98 :           t[L] = FqX_div(a,b,T,p);
    2464                 :         98 :           t[i]= b; L++;
    2465                 :            :         }
    2466                 :          0 :         else avma = av;
    2467                 :            :       }
    2468                 :            :     }
    2469                 :            :   }
    2470                 :         49 :   return d;
    2471                 :            : }
    2472                 :            : 
    2473                 :            : /* split into r factors of degree d */
    2474                 :            : static void
    2475                 :      23457 : FqX_split(GEN *t, long d, GEN q, GEN S, GEN T, GEN p)
    2476                 :            : {
    2477                 :      23457 :   GEN u = *t;
    2478                 :      23457 :   long l, v, is2, cnt, dt = degpol(u), dT = degpol(T);
    2479                 :            :   pari_sp av;
    2480                 :            :   pari_timer ti;
    2481                 :            :   GEN w,w0;
    2482                 :            : 
    2483         [ +  + ]:      46914 :   if (dt == d) return;
    2484                 :       7091 :   v = varn(*t);
    2485         [ -  + ]:       7091 :   if (DEBUGLEVEL > 6) timer_start(&ti);
    2486                 :       7091 :   av = avma; is2 = equaliu(p, 2);
    2487                 :       7091 :   for(cnt = 1;;cnt++, avma = av)
    2488                 :            :   { /* splits *t with probability ~ 1 - 2^(1-r) */
    2489                 :      11409 :     w = w0 = FqX_rand(dt,v, T,p);
    2490         [ +  + ]:      11409 :     if (degpol(w) <= 0) continue;
    2491         [ +  + ]:      13705 :     for (l=1; l<d; l++) /* sum_{0<i<d} w^(q^i), result in (F_q)^r */
    2492                 :       2352 :       w = RgX_add(w0, FqX_Frobenius_eval(w, S, u, T, p));
    2493                 :      11353 :     w = FpXQX_red(w, T,p);
    2494         [ +  + ]:      11353 :     if (is2)
    2495                 :            :     {
    2496                 :        126 :       w0 = w;
    2497         [ +  + ]:        252 :       for (l=1; l<dT; l++) /* sum_{0<i<k} w^(2^i), result in (F_2)^r */
    2498                 :            :       {
    2499                 :        126 :         w = FqX_rem(FqX_sqr(w,T,p), *t, T,p);
    2500                 :        126 :         w = FpXX_red(RgX_add(w0,w), p);
    2501                 :            :       }
    2502                 :            :     }
    2503                 :            :     else
    2504                 :            :     {
    2505                 :      11227 :       w = FpXQXQ_halfFrobenius(w, *t, T, p);
    2506                 :            :       /* w in {-1,0,1}^r */
    2507         [ +  + ]:      11227 :       if (degpol(w) <= 0) continue;
    2508                 :       7007 :       gel(w,2) = gadd(gel(w,2), gen_1);
    2509                 :            :     }
    2510                 :       7133 :     w = FqX_gcd(*t,w, T,p); l = degpol(w);
    2511 [ +  + ][ +  + ]:       7133 :     if (l && l != dt) break;
    2512                 :       4318 :   }
    2513                 :       7091 :   w = gerepileupto(av,FqX_normalize(w,T,p));
    2514         [ -  + ]:       7091 :   if (DEBUGLEVEL > 6)
    2515                 :          0 :     err_printf("[FqX_split] splitting time: %ld (%ld trials)\n",
    2516                 :            :                timer_delay(&ti),cnt);
    2517                 :       7091 :   l /= d; t[l] = FqX_div(*t,w, T,p); *t = w;
    2518                 :       7091 :   FqX_split(t+l,d,q,S,T,p);
    2519                 :      23457 :   FqX_split(t  ,d,q,S,T,p);
    2520                 :            : }
    2521                 :            : 
    2522                 :            : /*******************************************************************/
    2523                 :            : /*                                                                 */
    2524                 :            : /*                  FACTOR USING TRAGER'S TRICK                    */
    2525                 :            : /*                                                                 */
    2526                 :            : /*******************************************************************/
    2527                 :            : static GEN
    2528                 :         56 : FqX_frob_deflate(GEN f, GEN T, GEN p)
    2529                 :            : {
    2530                 :         56 :   GEN F = RgX_deflate(f, itos(p)), frobinv = powiu(p, degpol(T)-1);
    2531                 :         56 :   long i, l = lg(F);
    2532         [ +  + ]:        231 :   for (i=2; i<l; i++) gel(F,i) = Fq_pow(gel(F,i), frobinv, T,p);
    2533                 :         56 :   return F;
    2534                 :            : }
    2535                 :            : /* Factor _sqfree_ polynomial a on the finite field Fp[X]/(T). Assumes
    2536                 :            :  * varncmp (varn(T), varn(A)) > 0 */
    2537                 :            : static GEN
    2538                 :         28 : FqX_split_Trager(GEN A, GEN T, GEN p)
    2539                 :            : {
    2540                 :         28 :   GEN c = NULL, P, u, fa, n;
    2541                 :            :   long lx, i, k;
    2542                 :            : 
    2543                 :         28 :   u = A;
    2544                 :         28 :   n = NULL;
    2545         [ +  + ]:         63 :   for (k = 0; cmpui(k, p) < 0; k++)
    2546                 :            :   {
    2547                 :            :     GEN U;
    2548                 :         49 :     c = deg1pol_shallow(stoi(k) , gen_0, varn(T));
    2549                 :         49 :     U = FqX_translate(u, c, T, p);
    2550                 :         49 :     n = FpX_FpXY_resultant(T, U, p);
    2551         [ +  + ]:         49 :     if (FpX_is_squarefree(n, p)) break;
    2552                 :         35 :     n = NULL;
    2553                 :            :   }
    2554         [ +  + ]:         28 :   if (!n) return NULL;
    2555         [ -  + ]:         14 :   if (DEBUGLEVEL>4) err_printf("FqX_split_Trager: choosing k = %ld\n",k);
    2556                 :            :   /* n guaranteed to be squarefree */
    2557                 :         14 :   fa = FpX_factor(n, p); fa = gel(fa,1); lx = lg(fa);
    2558         [ -  + ]:         14 :   if (lx == 2) return mkcol(A); /* P^k, P irreducible */
    2559                 :            : 
    2560                 :         14 :   P = cgetg(lx,t_COL);
    2561                 :         14 :   c = FpX_neg(c,p);
    2562         [ +  + ]:         28 :   for (i=lx-1; i>1; i--)
    2563                 :            :   {
    2564                 :         14 :     GEN F = FqX_translate(gel(fa,i), c, T, p);
    2565                 :         14 :     F = FqX_normalize(FqX_gcd(u, F, T, p), T, p);
    2566 [ +  - ][ -  + ]:         14 :     if (typ(F) != t_POL || degpol(F) == 0)
    2567                 :          0 :       pari_err_IRREDPOL("FqX_split_Trager [modulus]",T);
    2568                 :         14 :     u = FqX_div(u, F, T, p);
    2569                 :         14 :     gel(P,i) = F;
    2570                 :            :   }
    2571                 :         28 :   gel(P,1) = u; return P;
    2572                 :            : }
    2573                 :            : 
    2574                 :            : static long
    2575                 :      17409 : isabsolutepol(GEN f)
    2576                 :            : {
    2577                 :      17409 :   long i, l = lg(f);
    2578         [ +  + ]:      28686 :   for(i=2; i<l; i++)
    2579                 :            :   {
    2580                 :      27132 :     GEN c = gel(f,i);
    2581 [ +  + ][ +  + ]:      27132 :     if (typ(c) == t_POL && degpol(c) > 0) return 0;
    2582                 :            :   }
    2583                 :      17409 :   return 1;
    2584                 :            : }
    2585                 :            : 
    2586                 :            : static void
    2587                 :       9835 : add(GEN z, GEN g, long d) { vectrunc_append(z, mkvec2(utoipos(d), g)); }
    2588                 :            : /* return number of roots of u; assume deg u >= 0 */
    2589                 :            : long
    2590                 :      13755 : FqX_split_deg1(GEN *pz, GEN u, GEN T, GEN p)
    2591                 :            : {
    2592                 :      13755 :   long dg, N = degpol(u);
    2593                 :      13755 :   GEN v, S, g, X, z = vectrunc_init(N+1);
    2594                 :            : 
    2595                 :      13755 :   *pz = z;
    2596         [ -  + ]:      13755 :   if (N == 0) return 0;
    2597         [ +  + ]:      13755 :   if (N == 1) return 1;
    2598                 :      13678 :   v = X = pol_x(varn(u));
    2599                 :      13678 :   S = FqX_Frobenius_powers(u, T, p);
    2600                 :      13678 :   vectrunc_append(z, S);
    2601                 :      13678 :   v = FqX_Frobenius_eval(v, S, u, T, p);
    2602                 :      13678 :   g = FqX_gcd(FpXX_sub(v,X,p),u, T,p);
    2603                 :      13678 :   dg = degpol(g);
    2604         [ +  + ]:      13678 :   if (dg > 0) add(z, FqX_normalize(g,T,p), dg);
    2605                 :      13755 :   return dg;
    2606                 :            : }
    2607                 :            : 
    2608                 :            : /* return number of factors; z not properly initialized if deg(u) <= 1 */
    2609                 :            : long
    2610                 :        553 : FqX_split_by_degree(GEN *pz, GEN u, GEN T, GEN p)
    2611                 :            : {
    2612                 :        553 :   long nb = 0, d, dg, N = degpol(u);
    2613                 :        553 :   GEN v, S, g, X, z = vectrunc_init(N+1);
    2614                 :            : 
    2615                 :        553 :   *pz = z;
    2616         [ -  + ]:        553 :   if (N <= 1) return 1;
    2617                 :        553 :   v = X = pol_x(varn(u));
    2618                 :        553 :   S = FqX_Frobenius_powers(u, T, p);
    2619                 :        553 :   vectrunc_append(z, S);
    2620         [ +  + ]:       1330 :   for (d=1; d <= N>>1; d++)
    2621                 :            :   {
    2622                 :        777 :     v = FqX_Frobenius_eval(v, S, u, T, p);
    2623                 :        777 :     g = FqX_gcd(FpXX_sub(v,X,p),u, T,p);
    2624         [ +  + ]:        777 :     dg = degpol(g); if (dg <= 0) continue;
    2625                 :            :     /* all factors of g have degree d */
    2626                 :        623 :     add(z, FqX_normalize(g, T,p), dg / d); nb += dg / d;
    2627                 :        623 :     N -= dg;
    2628         [ +  + ]:        623 :     if (N)
    2629                 :            :     {
    2630                 :         70 :       u = FqX_div(u,g, T,p);
    2631                 :         70 :       v = FqX_rem(v,u, T,p);
    2632                 :            :     }
    2633                 :            :   }
    2634         [ -  + ]:        553 :   if (N) { add(z, FqX_normalize(u, T,p), 1); nb++; }
    2635                 :        553 :   return nb;
    2636                 :            : }
    2637                 :            : 
    2638                 :            : /* see roots_from_deg1() */
    2639                 :            : static GEN
    2640                 :       9142 : FqXC_roots_from_deg1(GEN x, GEN T, GEN p)
    2641                 :            : {
    2642                 :       9142 :   long i,l = lg(x);
    2643                 :       9142 :   GEN r = cgetg(l,t_COL);
    2644         [ +  + ]:      22442 :   for (i=1; i<l; i++) { GEN P = gel(x,i); gel(r,i) = Fq_neg(gel(P,2), T, p); }
    2645                 :       9142 :   return r;
    2646                 :            : }
    2647                 :            : 
    2648                 :            : static GEN
    2649                 :       9261 : FqX_split_equal(GEN L, GEN S, GEN T, GEN p)
    2650                 :            : {
    2651                 :       9261 :   long n = itos(gel(L,1));
    2652                 :       9261 :   GEN u = gel(L,2), z = cgetg(n + 1, t_COL);
    2653                 :       9261 :   gel(z,1) = u;
    2654                 :       9261 :   FqX_split((GEN*)(z+1), degpol(u) / n, powiu(p, degpol(T)), S, T, p);
    2655                 :       9261 :   return z;
    2656                 :            : }
    2657                 :            : GEN
    2658                 :       9128 : FqX_split_roots(GEN z, GEN T, GEN p, GEN pol)
    2659                 :            : {
    2660                 :       9128 :   GEN S = gel(z,1), L = gel(z,2), rep = FqX_split_equal(L, S, T, p);
    2661         [ +  + ]:       9128 :   if (pol) rep = shallowconcat(rep, FqX_div(pol, gel(L,2), T,p));
    2662                 :       9128 :   return rep;
    2663                 :            : }
    2664                 :            : GEN
    2665                 :        119 : FqX_split_all(GEN z, GEN T, GEN p)
    2666                 :            : {
    2667                 :        119 :   GEN S = gel(z,1), rep = cgetg(1, t_VEC);
    2668                 :        119 :   long i, l = lg(z);
    2669         [ +  + ]:        252 :   for (i = 2; i < l; i++)
    2670                 :        133 :     rep = shallowconcat(rep, FqX_split_equal(gel(z,i), S, T, p));
    2671                 :        119 :   return rep;
    2672                 :            : }
    2673                 :            : 
    2674                 :            : /* not memory-clean, as FpX_factorff_i, returning only linear factors */
    2675                 :            : static GEN
    2676                 :       1134 : FpX_rootsff_i(GEN P, GEN T, GEN p)
    2677                 :            : {
    2678                 :       1134 :   GEN V, F = gel(FpX_factor(P,p), 1);
    2679                 :       1134 :   long i, lfact = 1, nmax = lgpol(P), n = lg(F), dT = degpol(T);
    2680                 :            : 
    2681                 :       1134 :   V = cgetg(nmax,t_COL);
    2682         [ +  + ]:       2877 :   for(i=1;i<n;i++)
    2683                 :            :   {
    2684                 :       1743 :     GEN R, Fi = gel(F,i);
    2685                 :       1743 :     long di = degpol(Fi), j, r;
    2686         [ +  + ]:       1743 :     if (dT % di) continue;
    2687                 :       1442 :     R = FpX_factorff_irred(gel(F,i),T,p);
    2688                 :       1442 :     r = lg(R);
    2689         [ +  + ]:       4018 :     for (j=1; j<r; j++,lfact++)
    2690                 :       2576 :       gel(V,lfact) = Fq_neg(gmael(R,j, 2), T, p);
    2691                 :            :   }
    2692                 :       1134 :   setlg(V,lfact);
    2693                 :       1134 :   gen_sort_inplace(V, (void*) &cmp_RgX, &cmp_nodata, NULL);
    2694                 :       1134 :   return V;
    2695                 :            : }
    2696                 :            : GEN
    2697                 :          0 : FpX_rootsff(GEN P, GEN T, GEN p)
    2698                 :            : {
    2699                 :          0 :   pari_sp av = avma;
    2700                 :          0 :   return gerepilecopy(av, FpX_rootsff_i(P, T, p));
    2701                 :            : }
    2702                 :            : 
    2703                 :            : static GEN
    2704                 :       1673 : F2xqX_quad_roots(GEN P, GEN T)
    2705                 :            : {
    2706                 :       1673 :   GEN b= gel(P,3), c = gel(P,2);
    2707         [ +  + ]:       1673 :   if (degpol(b)>=0)
    2708                 :            :   {
    2709                 :        924 :     GEN z, d = F2xq_div(c, F2xq_sqr(b,T),T);
    2710         [ +  + ]:        924 :     if (F2xq_trace(d,T))
    2711                 :        385 :       return cgetg(1, t_COL);
    2712                 :        539 :     z = F2xq_mul(b, F2xq_Artin_Schreier(d, T), T);
    2713                 :        539 :     return mkcol2(z, F2x_add(b, z));
    2714                 :            :   }
    2715                 :            :   else
    2716                 :       1673 :     return mkcol(F2xq_sqrt(c, T));
    2717                 :            : }
    2718                 :            : 
    2719                 :            : static GEN
    2720                 :       2149 : FqX_quad_roots(GEN x, GEN T, GEN p)
    2721                 :            : {
    2722                 :       2149 :   GEN s, D, nb, b = gel(x,3), c = gel(x,2);
    2723         [ +  + ]:       2149 :   if (equaliu(p, 2))
    2724                 :            :   {
    2725                 :       1673 :     GEN f2 = ZXX_to_F2xX(x, get_FpX_var(T));
    2726                 :       1673 :     s = F2xqX_quad_roots(f2, ZX_to_F2x(get_FpX_mod(T)));
    2727                 :       1673 :     return F2xC_to_ZXC(s);
    2728                 :            :   }
    2729                 :        476 :   D = Fq_sub(Fq_sqr(b,T,p), Fq_Fp_mul(c,utoi(4),T,p), T,p);
    2730                 :        476 :   nb = Fq_neg(b,T,p);
    2731         [ -  + ]:        476 :   if (signe(D)==0)
    2732                 :          0 :     return mkcol(Fq_halve(nb,T, p));
    2733                 :        476 :   s = Fq_sqrt(D,T,p);
    2734         [ +  + ]:        476 :   if (!s) return cgetg(1, t_COL);
    2735                 :        462 :   s = Fq_halve(Fq_add(s,nb,T,p),T, p);
    2736                 :       2149 :   return mkcol2(s,Fq_sub(nb,s,T,p));
    2737                 :            : }
    2738                 :            : 
    2739                 :            : static GEN
    2740                 :      16807 : FqX_roots_i(GEN f, GEN T, GEN p)
    2741                 :            : {
    2742                 :            :   GEN R;
    2743                 :      16807 :   f = FqX_normalize(f, T, p);
    2744         [ -  + ]:      16807 :   if (!signe(f)) pari_err_ROOTS0("FqX_roots");
    2745         [ +  + ]:      16807 :   if (isabsolutepol(f))
    2746                 :            :   {
    2747                 :       1141 :     f = simplify_shallow(f);
    2748         [ +  + ]:       1141 :     if (typ(f) == t_INT) return cgetg(1, t_COL);
    2749                 :       1134 :     return FpX_rootsff_i(f, T, p);
    2750                 :            :   }
    2751         [ +  + ]:      15666 :   if (degpol(f)==2)
    2752                 :       2058 :     return gen_sort(FqX_quad_roots(f,T,p), (void*) &cmp_RgX, &cmp_nodata);
    2753      [ +  +  + ]:      13608 :   switch( FqX_split_deg1(&R, f, T, p) )
    2754                 :            :   {
    2755                 :       4466 :   case 0: return cgetg(1, t_COL);
    2756         [ +  + ]:       7014 :   case 1: if (lg(R) == 1) { R = mkvec(f); break; }
    2757                 :            :             /* fall through */
    2758                 :       9065 :   default: R = FqX_split_roots(R, T, p, NULL);
    2759                 :            :   }
    2760                 :       9142 :   R = FqXC_roots_from_deg1(R, T, p);
    2761                 :       9142 :   gen_sort_inplace(R, (void*) &cmp_RgX, &cmp_nodata, NULL);
    2762                 :      16807 :   return R;
    2763                 :            : }
    2764                 :            : 
    2765                 :            : GEN
    2766                 :      20349 : FqX_roots(GEN x, GEN T, GEN p)
    2767                 :            : {
    2768                 :      20349 :   pari_sp av = avma;
    2769         [ +  + ]:      20349 :   if (!T) return FpX_roots(x, p);
    2770                 :      20349 :   return gerepileupto(av, FqX_roots_i(x, T, p));
    2771                 :            : }
    2772                 :            : 
    2773                 :            : static long
    2774                 :         14 : FqX_sqf_split(GEN *t0, GEN q, GEN T, GEN p)
    2775                 :            : {
    2776                 :         14 :   GEN *t = t0, u = *t, v, S, g, X;
    2777                 :         14 :   long d, dg, N = degpol(u);
    2778                 :            : 
    2779         [ -  + ]:         14 :   if (N == 1) return 1;
    2780                 :         14 :   v = X = pol_x(varn(u));
    2781                 :         14 :   S = FqX_Frobenius_powers(u, T, p);
    2782         [ +  + ]:         28 :   for (d=1; d <= N>>1; d++)
    2783                 :            :   {
    2784                 :         14 :     v = FqX_Frobenius_eval(v, S, u, T, p);
    2785                 :         14 :     g = FqX_normalize(FqX_gcd(FpXX_sub(v,X,p),u, T,p),T,p);
    2786         [ -  + ]:         14 :     dg = degpol(g); if (dg <= 0) continue;
    2787                 :            : 
    2788                 :            :     /* all factors of g have degree d */
    2789                 :         14 :     *t = g;
    2790                 :         14 :     FqX_split(t, d, q, S, T, p);
    2791                 :         14 :     t += dg / d;
    2792                 :         14 :     N -= dg;
    2793         [ -  + ]:         14 :     if (N)
    2794                 :            :     {
    2795                 :          0 :       u = FqX_div(u,g, T,p);
    2796                 :          0 :       v = FqX_rem(v,u, T,p);
    2797                 :            :     }
    2798                 :            :   }
    2799         [ -  + ]:         14 :   if (N) *t++ = u;
    2800                 :         14 :   return t - t0;
    2801                 :            : }
    2802                 :            : 
    2803                 :            : /* not memory-clean */
    2804                 :            : static GEN
    2805                 :        413 : FpX_factorff_i(GEN P, GEN T, GEN p)
    2806                 :            : {
    2807                 :        413 :   GEN V, E, F = FpX_factor(P,p);
    2808                 :        413 :   long i, lfact = 1, nmax = lgpol(P), n = lgcols(F);
    2809                 :            : 
    2810                 :        413 :   V = cgetg(nmax,t_VEC);
    2811                 :        413 :   E = cgetg(nmax,t_VECSMALL);
    2812         [ +  + ]:       1015 :   for(i=1;i<n;i++)
    2813                 :            :   {
    2814                 :        602 :     GEN R = FpX_factorff_irred(gmael(F,1,i),T,p), e = gmael(F,2,i);
    2815                 :        602 :     long j, r = lg(R);
    2816         [ +  + ]:       5446 :     for (j=1; j<r; j++,lfact++)
    2817                 :            :     {
    2818                 :       4844 :       gel(V,lfact) = gel(R,j);
    2819                 :       4844 :       gel(E,lfact) = e;
    2820                 :            :     }
    2821                 :            :   }
    2822                 :        413 :   setlg(V,lfact);
    2823                 :        413 :   setlg(E,lfact); return sort_factor_pol(mkvec2(V,E), cmp_RgX);
    2824                 :            : }
    2825                 :            : GEN
    2826                 :          0 : FpX_factorff(GEN P, GEN T, GEN p)
    2827                 :            : {
    2828                 :          0 :   pari_sp av = avma;
    2829                 :          0 :   return gerepilecopy(av, FpX_factorff_i(P, T, p));
    2830                 :            : }
    2831                 :            : 
    2832                 :            : /* assumes varncmp (varn(T), varn(f)) > 0 */
    2833                 :            : static GEN
    2834                 :        616 : FqX_factor_i(GEN f, GEN T, GEN p)
    2835                 :            : {
    2836                 :        616 :   long pg, j, k, e, N, lfact, pk, d = degpol(f);
    2837                 :            :   GEN E, f2, f3, df1, df2, g1, u, q, t;
    2838                 :            : 
    2839      [ +  +  + ]:        616 :   switch(d)
    2840                 :            :   {
    2841                 :          7 :     case -1: retmkmat2(mkcolcopy(f), mkvecsmall(1));
    2842                 :          7 :     case 0: return trivial_fact();
    2843                 :            :   }
    2844                 :        602 :   T = FpX_normalize(T, p);
    2845                 :        602 :   f = FqX_normalize(f, T, p);
    2846         [ +  + ]:        602 :   if (isabsolutepol(f)) return FpX_factorff_i(simplify_shallow(f), T, p);
    2847         [ +  + ]:        189 :   if (degpol(f)==2)
    2848                 :            :   {
    2849                 :         91 :     long v = varn(f);
    2850                 :         91 :     GEN r = FqX_quad_roots(f,T,p);
    2851   [ +  +  +  - ]:         91 :     switch(lg(r)-1)
    2852                 :            :     {
    2853                 :            :     case 0:
    2854                 :          7 :       return mkvec2(mkcolcopy(f), mkvecsmall(1));
    2855                 :            :     case 1:
    2856                 :         42 :       return mkvec2(mkcol(deg1pol_shallow(gen_1, Fq_neg(gel(r,1), T, p), v)),
    2857                 :            :                     mkvecsmall(2));
    2858                 :            :     case 2:
    2859                 :            :       {
    2860                 :         42 :         GEN f1 = deg1pol_shallow(gen_1, Fq_neg(gel(r,1), T, p), v);
    2861                 :         42 :         GEN f2 = deg1pol_shallow(gen_1, Fq_neg(gel(r,2), T, p), v);
    2862                 :         42 :         t = mkcol2(f1, f2); E = mkvecsmall2(1, 1);
    2863                 :         42 :         sort_factor_pol(mkvec2(t, E), cmp_RgX);
    2864                 :         42 :         return mkvec2(t, E);
    2865                 :            :       }
    2866                 :            :     }
    2867                 :            :   }
    2868                 :            : 
    2869                 :         98 :   pg = itos_or_0(p);
    2870                 :         98 :   df2  = NULL; /* gcc -Wall */
    2871                 :         98 :   t = cgetg(d+1,t_VEC);
    2872                 :         98 :   E = cgetg(d+1, t_VECSMALL);
    2873                 :            : 
    2874                 :         98 :   q = powiu(p, degpol(T));
    2875                 :         98 :   e = lfact = 1;
    2876                 :         98 :   pk = 1;
    2877                 :         98 :   f3 = NULL;
    2878                 :         98 :   df1 = FqX_deriv(f, T, p);
    2879                 :            :   for(;;)
    2880                 :            :   {
    2881                 :            :     long nb0;
    2882         [ +  + ]:        245 :     while (!signe(df1))
    2883                 :            :     { /* needs d >= p: pg = 0 can't happen  */
    2884                 :         56 :       pk *= pg; e = pk;
    2885                 :         56 :       f = FqX_frob_deflate(f, T, p);
    2886                 :         56 :       df1 = FqX_deriv(f, T, p); f3 = NULL;
    2887                 :            :     }
    2888         [ +  + ]:        189 :     f2 = f3? f3: FqX_gcd(f,df1, T,p);
    2889         [ +  + ]:        189 :     if (!degpol(f2)) u = f;
    2890                 :            :     else
    2891                 :            :     {
    2892                 :         91 :       g1 = FqX_div(f,f2, T,p);
    2893                 :         91 :       df2 = FqX_deriv(f2, T,p);
    2894         [ +  + ]:         91 :       if (gequal0(df2)) { u = g1; f3 = f2; }
    2895                 :            :       else
    2896                 :            :       {
    2897                 :         70 :         f3 = FqX_gcd(f2,df2, T,p);
    2898         [ +  + ]:         70 :         u = degpol(f3)? FqX_div(f2, f3, T,p): f2;
    2899                 :         70 :         u = FqX_div(g1, u, T,p);
    2900                 :            :       }
    2901                 :            :     }
    2902                 :            :     /* u is square-free (product of irreducibles of multiplicity e) */
    2903                 :        189 :     N = degpol(u);
    2904         [ +  + ]:        189 :     if (N) {
    2905                 :        140 :       nb0 = lfact;
    2906                 :        140 :       gel(t,lfact) = FqX_normalize(u, T,p);
    2907         [ +  + ]:        140 :       if (N == 1) lfact++;
    2908                 :            :       else
    2909                 :            :       {
    2910         [ +  + ]:         77 :         if (!equaliu(p,2))
    2911                 :         49 :           lfact += FqX_split_Berlekamp(&gel(t,lfact), T, p);
    2912                 :            :         else
    2913                 :            :         {
    2914                 :         28 :           GEN P = FqX_split_Trager(gel(t,lfact), T, p);
    2915         [ +  + ]:         28 :           if (P) {
    2916         [ +  + ]:         42 :             for (j = 1; j < lg(P); j++) gel(t,lfact++) = gel(P,j);
    2917                 :            :           } else {
    2918         [ -  + ]:         14 :             if (DEBUGLEVEL) pari_warn(warner, "FqX_split_Trager failed!");
    2919                 :         14 :             lfact += FqX_sqf_split(&gel(t,lfact), q, T, p);
    2920                 :            :           }
    2921                 :            :         }
    2922                 :            :       }
    2923         [ +  + ]:        406 :       for (j = nb0; j < lfact; j++) E[j] = e;
    2924                 :            :     }
    2925                 :            : 
    2926         [ +  + ]:        189 :     if (!degpol(f2)) break;
    2927                 :         91 :     f = f2; df1 = df2; e += pk;
    2928                 :         91 :   }
    2929                 :         98 :   setlg(t, lfact);
    2930                 :         98 :   setlg(E, lfact);
    2931         [ +  + ]:        364 :   for (j=1; j<lfact; j++) gel(t,j) = FqX_normalize(gel(t,j), T,p);
    2932                 :         98 :   (void)sort_factor_pol(mkvec2(t, E), cmp_RgX);
    2933                 :         98 :   k = 1;
    2934         [ +  + ]:        266 :   for (j = 2; j < lfact; j++)
    2935                 :            :   {
    2936         [ +  + ]:        168 :     if (RgX_equal(gel(t,j), gel(t,k)))
    2937                 :         21 :       E[k] += E[j];
    2938                 :            :     else
    2939                 :            :     { /* new factor */
    2940                 :        147 :       k++;
    2941                 :        147 :       E[k] = E[j];
    2942                 :        147 :       gel(t,k) = gel(t,j);
    2943                 :            :     }
    2944                 :            :   }
    2945                 :         98 :   setlg(t, k+1);
    2946                 :        616 :   setlg(E, k+1); return mkvec2(t, E);
    2947                 :            : }
    2948                 :            : 
    2949                 :            : static void
    2950                 :        280 : ffcheck(pari_sp *av, GEN *f, GEN *T, GEN p)
    2951                 :            : {
    2952                 :            :   long v;
    2953         [ -  + ]:        280 :   if (typ(*T)!=t_POL) pari_err_TYPE("factorff",*T);
    2954         [ -  + ]:        280 :   if (typ(*f)!=t_POL) pari_err_TYPE("factorff",*f);
    2955         [ -  + ]:        280 :   if (typ(p)!=t_INT) pari_err_TYPE("factorff",p);
    2956                 :        280 :   v = varn(*T);
    2957         [ -  + ]:        280 :   if (varncmp(v, varn(*f)) <= 0)
    2958                 :          0 :     pari_err_PRIORITY("factorff", *T, "<=", varn(*f));
    2959                 :        280 :   *T = RgX_to_FpX(*T, p); *av = avma;
    2960                 :        280 :   *f = RgX_to_FqX(*f, *T,p);
    2961                 :        280 : }
    2962                 :            : GEN
    2963                 :        280 : factorff(GEN f, GEN p, GEN T)
    2964                 :            : {
    2965                 :            :   pari_sp av;
    2966                 :            :   GEN z;
    2967 [ +  + ][ -  + ]:        280 :   if (!p || !T)
    2968                 :            :   {
    2969                 :            :     long pa, t;
    2970         [ -  + ]:         35 :     if (typ(f) != t_POL) pari_err_TYPE("factorff",f);
    2971                 :         35 :     T = p = NULL;
    2972                 :         35 :     t = RgX_type(f, &p, &T, &pa);
    2973         [ -  + ]:         35 :     if (t != t_FFELT) pari_err_TYPE("factorff",f);
    2974                 :         35 :     return FFX_factor(f,T);
    2975                 :            :   }
    2976                 :        245 :   ffcheck(&av, &f, &T, p); z = FqX_factor_i(f, T, p);
    2977                 :        280 :   return to_Fq_fact(gel(z,1),gel(z,2), T,p, av);
    2978                 :            : }
    2979                 :            : GEN
    2980                 :         70 : polrootsff(GEN f, GEN p, GEN T)
    2981                 :            : {
    2982                 :            :   pari_sp av;
    2983                 :            :   GEN z;
    2984 [ +  + ][ -  + ]:         70 :   if (!p || !T)
    2985                 :            :   {
    2986                 :            :     long pa, t;
    2987         [ -  + ]:         35 :     if (typ(f) != t_POL) pari_err_TYPE("polrootsff",f);
    2988                 :         35 :     T = p = NULL;
    2989                 :         35 :     t = RgX_type(f, &p, &T, &pa);
    2990         [ -  + ]:         35 :     if (t != t_FFELT) pari_err_TYPE("polrootsff",f);
    2991                 :         35 :     return FFX_roots(f,T);
    2992                 :            :   }
    2993                 :         35 :   ffcheck(&av, &f, &T, p); z = FqX_roots_i(f, T, p);
    2994                 :         70 :   return to_FqC(z, T,p, av);
    2995                 :            : }
    2996                 :            : 
    2997                 :            : /* factorization of x modulo (T,p). Assume x already reduced */
    2998                 :            : GEN
    2999                 :       1302 : FqX_factor(GEN x, GEN T, GEN p)
    3000                 :            : {
    3001                 :       1302 :   pari_sp av = avma;
    3002         [ +  + ]:       1302 :   if (!T) return FpX_factor(x, p);
    3003                 :       1302 :   return gerepilecopy(av, FqX_factor_i(x, T, p));
    3004                 :            : }
    3005                 :            : /* See also: Isomorphisms between finite field and relative
    3006                 :            :  * factorization in polarit3.c */

Generated by: LCOV version 1.9