Code coverage tests

This page documents the degree to which the PARI/GP source code is tested by our public test suite, distributed with the source distribution in directory src/test/. This is measured by the gcov utility; we then process gcov output using the lcov frond-end.

We test a few variants depending on Configure flags on the pari.math.u-bordeaux.fr machine (x86_64 architecture), and agregate them in the final report:

The target is 90% coverage for all mathematical modules (given that branches depending on DEBUGLEVEL or DEBUGMEM are not covered). This script is run to produce the results below.

LCOV - code coverage report
Current view: top level - basemath - base1.c (source / functions) Hit Total Coverage
Test: PARI/GP v2.10.0 lcov report (development 21750-0b751f6) Lines: 1444 1522 94.9 %
Date: 2018-01-23 06:20:06 Functions: 111 127 87.4 %
Legend: Lines: hit not hit

          Line data    Source code
       1             : /* Copyright (C) 2000  The PARI group.
       2             : 
       3             : This file is part of the PARI/GP package.
       4             : 
       5             : PARI/GP is free software; you can redistribute it and/or modify it under the
       6             : terms of the GNU General Public License as published by the Free Software
       7             : Foundation. It is distributed in the hope that it will be useful, but WITHOUT
       8             : ANY WARRANTY WHATSOEVER.
       9             : 
      10             : Check the License for details. You should have received a copy of it, along
      11             : with the package; see the file 'COPYING'. If not, write to the Free Software
      12             : Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA. */
      13             : 
      14             : /**************************************************************/
      15             : /*                                                            */
      16             : /*                        NUMBER FIELDS                       */
      17             : /*                                                            */
      18             : /**************************************************************/
      19             : #include "pari.h"
      20             : #include "paripriv.h"
      21             : 
      22             : int new_galois_format = 0;
      23             : 
      24             : int
      25      594510 : checkrnf_i(GEN rnf)
      26      594510 : { return (typ(rnf)==t_VEC && lg(rnf)==13); }
      27             : 
      28             : void
      29      590499 : checkrnf(GEN rnf)
      30      590499 : { if (!checkrnf_i(rnf)) pari_err_TYPE("checkrnf",rnf); }
      31             : 
      32             : GEN
      33     1034089 : checkbnf_i(GEN X)
      34             : {
      35     1034089 :   if (typ(X) == t_VEC)
      36     1033613 :     switch (lg(X))
      37             :     {
      38             :       case 11:
      39     1031044 :         if (typ(gel(X,6)) != t_INT) return NULL; /* pre-2.2.4 format */
      40     1031044 :         if (lg(gel(X,10)) != 4) return NULL; /* pre-2.8.1 format */
      41     1031044 :         return X;
      42        1848 :       case 7:  return checkbnf_i(bnr_get_bnf(X));
      43             :     }
      44        1197 :   return NULL;
      45             : }
      46             : 
      47             : GEN
      48    51284802 : checknf_i(GEN X)
      49             : {
      50    51284802 :   if (typ(X)==t_VEC)
      51    51284312 :     switch(lg(X))
      52             :     {
      53    51056241 :       case 10: return X;
      54      224662 :       case 11: return checknf_i(bnf_get_nf(X));
      55        1029 :       case 7:  return checknf_i(bnr_get_bnf(X));
      56        1232 :       case 3: if (typ(gel(X,2)) == t_POLMOD) return checknf_i(gel(X,1));
      57             :     }
      58        2863 :   return NULL;
      59             : }
      60             : 
      61             : GEN
      62     1030834 : checkbnf(GEN x)
      63             : {
      64     1030834 :   GEN bnf = checkbnf_i(x);
      65     1030834 :   if (!bnf) pari_err_TYPE("checkbnf [please apply bnfinit()]",x);
      66     1030834 :   return bnf;
      67             : }
      68             : 
      69             : GEN
      70    50554110 : checknf(GEN x)
      71             : {
      72    50554110 :   GEN nf = checknf_i(x);
      73    50554110 :   if (!nf) pari_err_TYPE("checknf [please apply nfinit()]",x);
      74    50554089 :   return nf;
      75             : }
      76             : 
      77             : void
      78      365882 : checkbnr(GEN bnr)
      79             : {
      80      365882 :   if (typ(bnr)!=t_VEC || lg(bnr)!=7)
      81           0 :     pari_err_TYPE("checkbnr [please apply bnrinit()]",bnr);
      82      365882 :   (void)checkbnf(bnr_get_bnf(bnr));
      83      365882 : }
      84             : 
      85             : void
      86           0 : checkbnrgen(GEN bnr)
      87             : {
      88           0 :   checkbnr(bnr);
      89           0 :   if (lg(bnr_get_clgp(bnr))<=3)
      90           0 :     pari_err_TYPE("checkbnrgen [apply bnrinit(,,1), not bnrinit()]",bnr);
      91           0 : }
      92             : 
      93             : void
      94           0 : checksqmat(GEN x, long N)
      95             : {
      96           0 :   if (typ(x)!=t_MAT) pari_err_TYPE("checksqmat",x);
      97           0 :   if (lg(x) == 1 || lgcols(x) != N+1) pari_err_DIM("checksqmat");
      98           0 : }
      99             : 
     100             : GEN
     101      325723 : checkbid_i(GEN bid)
     102             : {
     103             :   GEN f;
     104      325723 :   if (typ(bid)!=t_VEC || lg(bid)!=6 || typ(bid_get_U(bid)) != t_VEC)
     105       25648 :     return NULL;
     106      300075 :   f = bid_get_mod(bid);
     107      300075 :   if (typ(f)!=t_VEC || lg(f)!=3) return NULL;
     108      300075 :   return bid;
     109             : }
     110             : void
     111      300075 : checkbid(GEN bid)
     112             : {
     113      300075 :   if (!checkbid_i(bid)) pari_err_TYPE("checkbid",bid);
     114      300068 : }
     115             : void
     116       16863 : checkabgrp(GEN v)
     117             : {
     118       16863 :   if (typ(v) == t_VEC) switch(lg(v))
     119             :   {
     120       16758 :     case 4: if (typ(gel(v,3)) != t_VEC) break;
     121       16863 :     case 3: if (typ(gel(v,2)) != t_VEC) break;
     122       16835 :             if (typ(gel(v,1)) != t_INT) break;
     123       33670 :             return;/*OK*/
     124           0 :     default: break;
     125             :   }
     126          28 :   pari_err_TYPE("checkabgrp",v);
     127             : }
     128             : 
     129             : GEN
     130      180607 : checknfelt_mod(GEN nf, GEN x, const char *s)
     131             : {
     132      180607 :   GEN T = gel(x,1), a = gel(x,2), Tnf = nf_get_pol(nf);
     133      180607 :   if (!RgX_equal_var(T, Tnf)) pari_err_MODULUS(s, T, Tnf);
     134      180537 :   return a;
     135             : }
     136             : 
     137             : void
     138        8351 : check_ZKmodule(GEN x, const char *s)
     139             : {
     140        8351 :   if (typ(x) != t_VEC || lg(x) < 3) pari_err_TYPE(s,x);
     141        8351 :   if (typ(gel(x,1)) != t_MAT) pari_err_TYPE(s,gel(x,1));
     142        8351 :   if (typ(gel(x,2)) != t_VEC) pari_err_TYPE(s,gel(x,2));
     143        8351 :   if (lg(gel(x,2)) != lgcols(x)) pari_err_DIM(s);
     144        8351 : }
     145             : 
     146             : static long
     147      109739 : typv6(GEN x)
     148             : {
     149      109739 :   if (typ(gel(x,1)) == t_VEC && lg(gel(x,3)) == 3)
     150             :   {
     151       11648 :     GEN t = gel(x,3);
     152       11648 :     if (typ(t) != t_VEC) return typ_NULL;
     153       11648 :     t = gel(x,5);
     154       11648 :     switch(typ(gel(x,5)))
     155             :     {
     156         378 :       case t_VEC: return typ_BID;
     157       11270 :       case t_MAT: return typ_BIDZ;
     158           0 :       default: return typ_NULL;
     159             :     }
     160             :   }
     161       98091 :   if (typ(gel(x,2)) == t_COL && typ(gel(x,3)) == t_INT) return typ_PRID;
     162         196 :   return typ_NULL;
     163             : }
     164             : 
     165             : GEN
     166       18627 : get_bnf(GEN x, long *t)
     167             : {
     168       18627 :   switch(typ(x))
     169             :   {
     170          56 :     case t_POL: *t = typ_POL;  return NULL;
     171          56 :     case t_QUAD: *t = typ_Q  ; return NULL;
     172             :     case t_VEC:
     173       18011 :       switch(lg(x))
     174             :       {
     175        4438 :         case 5: if (typ(gel(x,1)) != t_INT) break;
     176        4382 :                 *t = typ_QUA; return NULL;
     177        5684 :         case 6: *t = typv6(x); return NULL;
     178         154 :         case 7:  *t = typ_BNR;
     179         154 :           x = bnr_get_bnf(x); if (typ(x)!=t_VEC || lg(x)!=11) break;
     180          98 :           return x;
     181             :         case 9:
     182          63 :           x = gel(x,2);
     183          63 :           if (typ(x) == t_VEC && lg(x) == 4) *t = typ_GAL;
     184          63 :           return NULL;
     185         217 :         case 10: *t = typ_NF; return NULL;
     186         273 :         case 11: *t = typ_BNF; return x;
     187          56 :         case 13: *t = typ_RNF; return NULL;
     188         266 :         case 17: *t = typ_ELL; return NULL;
     189             :       }
     190        6972 :       break;
     191             :     case t_COL:
     192         112 :       if (get_prid(x)) { *t = typ_MODPR; return NULL; }
     193          56 :       break;
     194             :   }
     195        7420 :   *t = typ_NULL; return NULL;
     196             : }
     197             : 
     198             : GEN
     199      114219 : get_nf(GEN x, long *t)
     200             : {
     201      114219 :   switch(typ(x))
     202             :   {
     203         133 :     case t_POL : *t = typ_POL; return NULL;
     204         133 :     case t_QUAD: *t = typ_Q  ; return NULL;
     205             :     case t_VEC:
     206      111370 :       switch(lg(x))
     207             :       {
     208             :         case 3:
     209         133 :           if (typ(gel(x,2)) != t_POLMOD) break;
     210         133 :           return get_nf(gel(x,1),t);
     211             :         case 5:
     212         266 :           if (typ(gel(x,1)) != t_INT) break;
     213         133 :           *t = typ_QUA; return NULL;
     214       98931 :         case 6: *t = typv6(x); return NULL;
     215        6804 :         case 7: *t = typ_BNR;
     216        6804 :           x = bnr_get_bnf(x); if (typ(x)!=t_VEC || lg(x)!=11) break;
     217        6671 :           x = bnf_get_nf(x);  if (typ(x)!=t_VEC || lg(x)!=10) break;
     218        6671 :           return x;
     219             :         case 9:
     220         553 :           x = gel(x,2);
     221         553 :           if (typ(x) == t_VEC && lg(x) == 4) *t = typ_GAL;
     222         553 :           return NULL;
     223         714 :         case 10: *t = typ_NF; return x;
     224         189 :         case 11: *t = typ_BNF;
     225         189 :           x = bnf_get_nf(x); if (typ(x)!=t_VEC || lg(x)!=10) break;
     226         189 :           return x;
     227         336 :         case 13: *t = typ_RNF; return NULL;
     228        3311 :         case 17: *t = typ_ELL; return NULL;
     229             :       }
     230         399 :       break;
     231             :     case t_COL:
     232         266 :       if (get_prid(x)) { *t = typ_MODPR; return NULL; }
     233         133 :       break;
     234             :   }
     235        2849 :   *t = typ_NULL; return NULL;
     236             : }
     237             : 
     238             : long
     239       43274 : nftyp(GEN x)
     240             : {
     241       43274 :   switch(typ(x))
     242             :   {
     243          14 :     case t_POL : return typ_POL;
     244           7 :     case t_QUAD: return typ_Q;
     245             :     case t_VEC:
     246       43246 :       switch(lg(x))
     247             :       {
     248         161 :         case 13: return typ_RNF;
     249             :         case 10:
     250       36834 :           if (typ(gel(x,1))!=t_POL) break;
     251       36827 :           return typ_NF;
     252             :         case 11:
     253          84 :           x = bnf_get_nf(x); if (typ(x)!=t_VEC || lg(x)!=10) break;
     254          84 :           return typ_BNF;
     255             :         case 7:
     256        1008 :           x = bnr_get_bnf(x); if (typ(x)!=t_VEC || lg(x)!=11) break;
     257        1001 :           x = bnf_get_nf(x);  if (typ(x)!=t_VEC || lg(x)!=10) break;
     258        1001 :           return typ_BNR;
     259             :         case 6:
     260        5124 :           return typv6(x);
     261             :         case 9:
     262           7 :           x = gel(x,2);
     263           7 :           if (typ(x) == t_VEC && lg(x) == 4) return typ_GAL;
     264          14 :         case 17: return typ_ELL;
     265             :       }
     266             :   }
     267          42 :   return typ_NULL;
     268             : }
     269             : 
     270             : /*************************************************************************/
     271             : /**                                                                     **/
     272             : /**                           GALOIS GROUP                              **/
     273             : /**                                                                     **/
     274             : /*************************************************************************/
     275             : 
     276             : GEN
     277        3171 : tschirnhaus(GEN x)
     278             : {
     279        3171 :   pari_sp av = avma, av2;
     280        3171 :   long a, v = varn(x);
     281        3171 :   GEN u, y = cgetg(5,t_POL);
     282             : 
     283        3171 :   if (typ(x)!=t_POL) pari_err_TYPE("tschirnhaus",x);
     284        3171 :   if (lg(x) < 4) pari_err_CONSTPOL("tschirnhaus");
     285        3171 :   if (v) { u = leafcopy(x); setvarn(u,0); x=u; }
     286        3171 :   y[1] = evalsigne(1)|evalvarn(0);
     287             :   do
     288             :   {
     289        3255 :     a = random_bits(2); if (a==0) a  = 1; gel(y,4) = stoi(a);
     290        3255 :     a = random_bits(3); if (a>=4) a -= 8; gel(y,3) = stoi(a);
     291        3255 :     a = random_bits(3); if (a>=4) a -= 8; gel(y,2) = stoi(a);
     292        3255 :     u = RgXQ_charpoly(y,x,v); av2 = avma;
     293             :   }
     294        3255 :   while (degpol(RgX_gcd(u,RgX_deriv(u)))); /* while u not separable */
     295        3171 :   if (DEBUGLEVEL>1)
     296           0 :     err_printf("Tschirnhaus transform. New pol: %Ps",u);
     297        3171 :   avma=av2; return gerepileupto(av,u);
     298             : }
     299             : 
     300             : /* Assume pol in Z[X], monic of degree n. Find L in Z such that
     301             :  * POL = L^(-n) pol(L x) is monic in Z[X]. Return POL and set *ptk = L.
     302             :  * No GC. */
     303             : GEN
     304       19922 : ZX_Z_normalize(GEN pol, GEN *ptk)
     305             : {
     306       19922 :   long i,j, sk, n = degpol(pol); /* > 0 */
     307             :   GEN k, fa, P, E, a, POL;
     308             : 
     309       19922 :   if (ptk) *ptk = gen_1;
     310       19922 :   if (!n) return pol;
     311       19915 :   a = pol + 2; k = gel(a,n-1); /* a[i] = coeff of degree i */
     312       57379 :   for (i = n-2; i >= 0; i--)
     313             :   {
     314       49917 :     k = gcdii(k, gel(a,i));
     315       49917 :     if (is_pm1(k)) return pol;
     316             :   }
     317        7462 :   sk = signe(k);
     318        7462 :   if (!sk) return pol; /* monomial! */
     319        6300 :   fa = absZ_factor_limit(k, 0); k = gen_1;
     320        6300 :   P = gel(fa,1);
     321        6300 :   E = gel(fa,2);
     322        6300 :   POL = leafcopy(pol); a = POL+2;
     323       14903 :   for (i = lg(P)-1; i > 0; i--)
     324             :   {
     325        8603 :     GEN p = gel(P,i), pv, pvj;
     326        8603 :     long vmin = itos(gel(E,i));
     327             :     /* find v_p(k) = min floor( v_p(a[i]) / (n-i)) */
     328       48475 :     for (j=n-1; j>=0; j--)
     329             :     {
     330             :       long v;
     331       39872 :       if (!signe(gel(a,j))) continue;
     332       24311 :       v = Z_pval(gel(a,j), p) / (n - j);
     333       24311 :       if (v < vmin) vmin = v;
     334             :     }
     335        8603 :     if (!vmin) continue;
     336        1155 :     pvj = pv = powiu(p,vmin); k = mulii(k, pv);
     337             :     /* a[j] /= p^(v*(n-j)) */
     338        8169 :     for (j=n-1; j>=0; j--)
     339             :     {
     340        7014 :       if (j < n-1) pvj = mulii(pvj, pv);
     341        7014 :       gel(a,j) = diviiexact(gel(a,j), pvj);
     342             :     }
     343             :   }
     344        6300 :   if (ptk) *ptk = k;
     345        6300 :   return POL;
     346             : }
     347             : 
     348             : /* Assume pol != 0 in Z[X]. Find C in Q, L in Z such that POL = C pol(x/L) monic
     349             :  * in Z[X]. Return POL and set *pL = L. Wasteful (but correct) if pol is not
     350             :  * primitive: better if caller used Q_primpart already. No GC. */
     351             : GEN
     352       19936 : ZX_primitive_to_monic(GEN pol, GEN *pL)
     353             : {
     354       19936 :   long i,j, n = degpol(pol);
     355       19936 :   GEN lc = leading_coeff(pol), L, fa, P, E, a, POL;
     356             : 
     357       19936 :   if (is_pm1(lc))
     358             :   {
     359       19642 :     if (pL) *pL = gen_1;
     360       19642 :     return signe(lc) < 0? ZX_neg(pol): pol;
     361             :   }
     362         294 :   if (signe(lc) < 0)
     363          35 :     POL = ZX_neg(pol);
     364             :   else
     365         259 :     POL = leafcopy(pol);
     366         294 :   a = POL+2; lc = gel(a,n);
     367         294 :   fa = Z_factor_limit(lc,0); L = gen_1;
     368         294 :   P = gel(fa,1);
     369         294 :   E = gel(fa,2);
     370         721 :   for (i = lg(P)-1; i > 0; i--)
     371             :   {
     372         427 :     GEN p = gel(P,i), pk, pku;
     373         427 :     long v, j0, e = itos(gel(E,i)), k = e/n, d = k*n - e;
     374             : 
     375         427 :     if (d < 0) { k++; d += n; }
     376             :     /* k = ceil(e[i] / n); find d, k such that  p^d pol(x / p^k) monic */
     377        1729 :     for (j=n-1; j>0; j--)
     378             :     {
     379        1302 :       if (!signe(gel(a,j))) continue;
     380        1057 :       v = Z_pval(gel(a,j), p);
     381        1057 :       while (v + d < k * j) { k++; d += n; }
     382             :     }
     383         427 :     pk = powiu(p,k); j0 = d/k;
     384         427 :     L = mulii(L, pk);
     385             : 
     386         427 :     pku = powiu(p,d - k*j0);
     387             :     /* a[j] *= p^(d - kj) */
     388        1862 :     for (j=j0; j>=0; j--)
     389             :     {
     390        1435 :       if (j < j0) pku = mulii(pku, pk);
     391        1435 :       gel(a,j) = mulii(gel(a,j), pku);
     392             :     }
     393         427 :     j0++;
     394         427 :     pku = powiu(p,k*j0 - d);
     395             :     /* a[j] /= p^(kj - d) */
     396        1148 :     for (j=j0; j<=n; j++)
     397             :     {
     398         721 :       if (j > j0) pku = mulii(pku, pk);
     399         721 :       gel(a,j) = diviiexact(gel(a,j), pku);
     400             :     }
     401             :   }
     402         294 :   if (pL) *pL = L;
     403         294 :   return POL;
     404             : }
     405             : /* Assume pol != 0 in Z[X]. Find C,L in Q such that POL = C pol(x/L)
     406             :  * monic in Z[X]. Return POL and set *pL = L.
     407             :  * Wasteful (but correct) if pol is not primitive: better if caller used
     408             :  * Q_primpart already. No GC. */
     409             : GEN
     410       19670 : ZX_Q_normalize(GEN pol, GEN *pL)
     411             : {
     412       19670 :   GEN lc, POL = ZX_primitive_to_monic(pol, &lc);
     413       19670 :   POL = ZX_Z_normalize(POL, pL);
     414       19670 :   if (pL) *pL = gdiv(lc, *pL);
     415       19670 :   return POL;
     416             : }
     417             : 
     418             : GEN
     419     2075179 : ZX_Q_mul(GEN A, GEN z)
     420             : {
     421     2075179 :   pari_sp av = avma;
     422     2075179 :   long i, l = lg(A);
     423             :   GEN d, n, Ad, B, u;
     424     2075179 :   if (typ(z)==t_INT) return ZX_Z_mul(A,z);
     425     1944022 :   n = gel(z, 1); d = gel(z, 2);
     426     1944022 :   Ad = RgX_to_RgC(FpX_red(A, d), l-2);
     427     1944022 :   u = gcdii(d, FpV_factorback(Ad, NULL, d));
     428     1944022 :   B = cgetg(l, t_POL);
     429     1944022 :   B[1] = A[1];
     430     1944022 :   if (equali1(u))
     431             :   {
     432     2055708 :     for(i=2; i<l; i++)
     433     1484309 :       gel(B, i) = mkfrac(mulii(n, gel(A,i)), d);
     434             :   } else
     435             :   {
     436     7864082 :     for(i=2; i<l; i++)
     437             :     {
     438     6491459 :       GEN di = gcdii(gel(Ad, i-1), u);
     439     6491459 :       GEN ni = mulii(n, diviiexact(gel(A,i), di));
     440     6491459 :       if (equalii(d, di))
     441     1274933 :         gel(B, i) = ni;
     442             :       else
     443     5216526 :         gel(B, i) = mkfrac(ni, diviiexact(d, di));
     444             :     }
     445             :   }
     446     1944022 :   return gerepilecopy(av, B);
     447             : }
     448             : 
     449             : /* pol != 0 in Z[x], returns a monic polynomial POL in Z[x] generating the
     450             :  * same field: there exist C in Q, L in Z such that POL(x) = C pol(x/L).
     451             :  * Set *L = NULL if L = 1, and to L otherwise. No garbage collecting. */
     452             : GEN
     453           0 : ZX_to_monic(GEN pol, GEN *L)
     454             : {
     455           0 :   long n = lg(pol)-1;
     456           0 :   GEN lc = gel(pol,n);
     457           0 :   if (is_pm1(lc)) { *L = gen_1; return signe(lc) > 0? pol: ZX_neg(pol); }
     458           0 :   return ZX_primitive_to_monic(Q_primpart(pol), L);
     459             : }
     460             : 
     461             : /* Evaluate pol in s using nfelt arithmetic and Horner rule */
     462             : GEN
     463       11417 : nfpoleval(GEN nf, GEN pol, GEN s)
     464             : {
     465       11417 :   pari_sp av=avma;
     466       11417 :   long i=lg(pol)-1;
     467             :   GEN res;
     468       11417 :   if (i==1) return gen_0;
     469       11417 :   res = nf_to_scalar_or_basis(nf, gel(pol,i));
     470       28609 :   for (i-- ; i>=2; i--)
     471       17192 :     res = nfadd(nf, nfmul(nf, s, res), gel(pol,i));
     472       11417 :   return gerepileupto(av, res);
     473             : }
     474             : 
     475             : static GEN
     476       30425 : QX_table_nfpoleval(GEN nf, GEN pol, GEN m)
     477             : {
     478       30425 :   pari_sp av = avma;
     479       30425 :   long i = lg(pol)-1;
     480             :   GEN res, den;
     481       30425 :   if (i==1) return gen_0;
     482       30425 :   pol = Q_remove_denom(pol, &den);
     483       30425 :   res = scalarcol_shallow(gel(pol,i), nf_get_degree(nf));
     484      108508 :   for (i-- ; i>=2; i--)
     485       78083 :     res = ZC_Z_add(ZM_ZC_mul(m, res), gel(pol,i));
     486       30425 :   if (den) res = RgC_Rg_div(res, den);
     487       30425 :   return gerepileupto(av, res);
     488             : }
     489             : 
     490             : GEN
     491        7945 : FpX_FpC_nfpoleval(GEN nf, GEN pol, GEN a, GEN p)
     492             : {
     493        7945 :   pari_sp av=avma;
     494        7945 :   long i=lg(pol)-1, n=nf_get_degree(nf);
     495             :   GEN res, Ma;
     496        7945 :   if (i==1) return zerocol(n);
     497        7945 :   Ma = FpM_red(zk_multable(nf, a), p);
     498        7945 :   res = scalarcol(gel(pol,i),n);
     499       57176 :   for (i-- ; i>=2; i--)
     500             :   {
     501       49231 :     res = FpM_FpC_mul(Ma, res, p);
     502       49231 :     gel(res,1) = Fp_add(gel(res,1), gel(pol,i), p);
     503             :   }
     504        7945 :   return gerepileupto(av, res);
     505             : }
     506             : 
     507             : /* compute s(x), not stack clean */
     508             : static GEN
     509       30551 : ZC_galoisapply(GEN nf, GEN s, GEN x)
     510             : {
     511       30551 :   x = nf_to_scalar_or_alg(nf, x);
     512       30551 :   if (typ(x) != t_POL) return scalarcol(x, nf_get_degree(nf));
     513       30425 :   return QX_table_nfpoleval(nf, x, zk_multable(nf, s));
     514             : }
     515             : 
     516             : /* true nf; S = automorphism in basis form, return an FpC = S(z) mod p */
     517             : GEN
     518        5495 : zk_galoisapplymod(GEN nf, GEN z, GEN S, GEN p)
     519             : {
     520             :   GEN den, pe, pe1, denpe, R;
     521             : 
     522        5495 :   z = nf_to_scalar_or_alg(nf, z);
     523        5495 :   if (typ(z) != t_POL) return z;
     524        5495 :   if (gequalX(z)) return FpC_red(S, p); /* common, e.g. modpr_genFq */
     525        5117 :   z = Q_remove_denom(z,&den);
     526        5117 :   denpe = pe = NULL;
     527        5117 :   pe1 = p;
     528        5117 :   if (den)
     529             :   {
     530        3976 :     ulong e = Z_pvalrem(den, p, &den);
     531        3976 :     if (e) { pe = powiu(p, e); pe1 = mulii(pe, p); }
     532        3976 :     denpe = Fp_inv(den, pe1);
     533             :   }
     534        5117 :   R = FpX_FpC_nfpoleval(nf, FpX_red(z, pe1), FpC_red(S, pe1), pe1);
     535        5117 :   if (denpe) R = FpC_Fp_mul(R, denpe, pe1);
     536        5117 :   if (pe) R = gdivexact(R, pe);
     537        5117 :   return R;
     538             : }
     539             : 
     540             : /* true nf */
     541             : static GEN
     542           7 : pr_galoisapply(GEN nf, GEN pr, GEN aut)
     543             : {
     544             :   GEN p, t, u;
     545           7 :   if (typ(pr_get_tau(pr)) == t_INT) return pr; /* inert */
     546           7 :   p = pr_get_p(pr);
     547           7 :   u = zk_galoisapplymod(nf, pr_get_gen(pr), aut, p);
     548           7 :   t = FpM_deplin(zk_multable(nf, u), p);
     549           7 :   t = zk_scalar_or_multable(nf, t);
     550           7 :   return mkvec5(p, u, gel(pr,3), gel(pr,4), t);
     551             : }
     552             : 
     553             : static GEN
     554           7 : vecgaloisapply(GEN nf, GEN aut, GEN v)
     555             : {
     556             :   long i, l;
     557           7 :   GEN V = cgetg_copy(v, &l);
     558           7 :   for (i = 1; i < l; i++) gel(V,i) = galoisapply(nf, aut, gel(v,i));
     559           7 :   return V;
     560             : }
     561             : 
     562             : /* x: famat or standard algebraic number, aut automorphism in ZC form
     563             :  * simplified from general galoisapply */
     564             : static GEN
     565          49 : elt_galoisapply(GEN nf, GEN aut, GEN x)
     566             : {
     567          49 :   pari_sp av = avma;
     568          49 :   switch(typ(x))
     569             :   {
     570           7 :     case t_INT:  return icopy(x);
     571           7 :     case t_FRAC: return gcopy(x);
     572           7 :     case t_POLMOD: x = gel(x,2); /* fall through */
     573             :     case t_POL: {
     574          14 :       GEN y = basistoalg(nf, ZC_galoisapply(nf, aut, x));
     575          14 :       return gerepileupto(av,y);
     576             :     }
     577             :     case t_COL:
     578           7 :       return gerepileupto(av, ZC_galoisapply(nf, aut, x));
     579             :     case t_MAT:
     580          14 :       switch(lg(x)) {
     581           7 :         case 1: return cgetg(1, t_MAT);
     582           7 :         case 3: retmkmat2(vecgaloisapply(nf,aut,gel(x,1)), ZC_copy(gel(x,2)));
     583             :       }
     584             :   }
     585           0 :   pari_err_TYPE("galoisapply",x);
     586             :   return NULL; /* LCOV_EXCL_LINE */
     587             : }
     588             : 
     589             : GEN
     590       44817 : galoisapply(GEN nf, GEN aut, GEN x)
     591             : {
     592       44817 :   pari_sp av = avma;
     593             :   long lx;
     594             :   GEN y;
     595             : 
     596       44817 :   nf = checknf(nf);
     597       44817 :   switch(typ(x))
     598             :   {
     599         196 :     case t_INT:  return icopy(x);
     600           7 :     case t_FRAC: return gcopy(x);
     601             : 
     602          35 :     case t_POLMOD: x = gel(x,2); /* fall through */
     603             :     case t_POL:
     604        1295 :       aut = algtobasis(nf, aut);
     605        1295 :       y = basistoalg(nf, ZC_galoisapply(nf, aut, x));
     606        1295 :       return gerepileupto(av,y);
     607             : 
     608             :     case t_VEC:
     609          56 :       aut = algtobasis(nf, aut);
     610          56 :       switch(lg(x))
     611             :       {
     612           7 :         case 6: return gerepilecopy(av, pr_galoisapply(nf, x, aut));
     613          49 :         case 3: y = cgetg(3,t_VEC);
     614          49 :           gel(y,1) = galoisapply(nf, aut, gel(x,1));
     615          49 :           gel(y,2) = elt_galoisapply(nf, aut, gel(x,2));
     616          49 :           return gerepileupto(av, y);
     617             :       }
     618           0 :       break;
     619             : 
     620             :     case t_COL:
     621       24377 :       aut = algtobasis(nf, aut);
     622       24377 :       return gerepileupto(av, ZC_galoisapply(nf, aut, x));
     623             : 
     624             :     case t_MAT: /* ideal */
     625       18886 :       lx = lg(x); if (lx==1) return cgetg(1,t_MAT);
     626       18886 :       if (nbrows(x) != nf_get_degree(nf)) break;
     627       18886 :       y = RgM_mul(nfgaloismatrix(nf,aut), x);
     628       18886 :       return gerepileupto(av, idealhnf_shallow(nf,y));
     629             :   }
     630           0 :   pari_err_TYPE("galoisapply",x);
     631             :   return NULL; /* LCOV_EXCL_LINE */
     632             : }
     633             : 
     634             : /* compute action of automorphism s on nf.zk */
     635             : GEN
     636       27471 : nfgaloismatrix(GEN nf, GEN s)
     637             : {
     638       27471 :   pari_sp av2, av = avma;
     639             :   GEN zk, D, M, H, m;
     640             :   long k, n;
     641             : 
     642       27471 :   nf = checknf(nf);
     643       27471 :   zk = nf_get_zkprimpart(nf); n = lg(zk)-1;
     644       27471 :   M = cgetg(n+1, t_MAT);
     645       27471 :   gel(M,1) = col_ei(n, 1); /* s(1) = 1 */
     646       27471 :   if (n == 1) return M;
     647       27471 :   av2 = avma;
     648       27471 :   if (typ(s) != t_COL) s = algtobasis(nf, s);
     649       27471 :   D = nf_get_zkden(nf);
     650       27471 :   H = RgV_to_RgM(zk, n);
     651       27471 :   if (n == 2)
     652             :   {
     653       24934 :     GEN t = gel(H,2); /* D * s(w_2) */
     654       24934 :     t = ZC_Z_add(ZC_Z_mul(s, gel(t,2)), gel(t,1));
     655       24934 :     gel(M,2) = gerepileupto(av2, gdiv(t, D));
     656       24934 :     return M;
     657             :   }
     658        2537 :   m = zk_multable(nf, s);
     659        2537 :   gel(M,2) = s; /* M[,k] = s(x^(k-1)) */
     660        2537 :   for (k = 3; k <= n; k++) gel(M,k) = ZM_ZC_mul(m, gel(M,k-1));
     661        2537 :   M = ZM_mul(M, H);
     662        2537 :   if (!equali1(D)) M = ZM_Z_divexact(M, D);
     663        2537 :   return gerepileupto(av, M);
     664             : }
     665             : 
     666             : static GEN
     667        7644 : get_aut(GEN nf, GEN gal, GEN aut, GEN g)
     668             : {
     669        7644 :   return aut ? gel(aut, g[1]): poltobasis(nf, galoispermtopol(gal, g));
     670             : }
     671             : 
     672             : static GEN
     673        1393 : idealquasifrob(GEN nf, GEN gal, GEN grp, GEN pr, GEN subg, GEN *S, GEN aut)
     674             : {
     675        1393 :   pari_sp av = avma;
     676        1393 :   long i, n = nf_get_degree(nf), f = pr_get_f(pr);
     677        1393 :   GEN pi = pr_get_gen(pr);
     678        5334 :   for (i=1; i<=n; i++)
     679             :   {
     680        5334 :     GEN g = gel(grp,i);
     681        5334 :     if ((!subg && perm_order(g)==f)
     682        5012 :       || (subg && perm_relorder(g, subg)==f))
     683             :     {
     684        1750 :       *S = get_aut(nf, gal, aut, g);
     685        1750 :       if (ZC_prdvd(ZC_galoisapply(nf, *S, pi), pr)) return g;
     686         357 :       avma = av;
     687             :     }
     688             :   }
     689           0 :   pari_err_BUG("idealquasifrob [Frobenius not found]");
     690             :   return NULL; /*LCOV_EXCL_LINE*/
     691             : }
     692             : 
     693             : GEN
     694        1330 : nfgaloispermtobasis(GEN nf, GEN gal)
     695             : {
     696        1330 :   GEN grp = gal_get_group(gal);
     697        1330 :   long i, n = lg(grp)-1;
     698        1330 :   GEN aut = cgetg(n+1, t_VEC);
     699       15008 :   for(i=1; i<=n; i++)
     700             :   {
     701       13678 :     pari_sp av = avma;
     702       13678 :     GEN g = gel(grp, i);
     703       13678 :     GEN vec = poltobasis(nf, galoispermtopol(gal, g));
     704       13678 :     gel(aut, g[1]) = gerepileupto(av, vec);
     705             :   }
     706        1330 :   return aut;
     707             : }
     708             : 
     709             : static void
     710        2380 : gal_check_pol(const char *f, GEN x, GEN y)
     711        2380 : { if (!RgX_equal_var(x,y)) pari_err_MODULUS(f,x,y); }
     712             : 
     713             : /* true nf */
     714             : GEN
     715          56 : idealfrobenius_aut(GEN nf, GEN gal, GEN pr, GEN aut)
     716             : {
     717          56 :   pari_sp av = avma;
     718          56 :   GEN S=NULL, g=NULL; /*-Wall*/
     719             :   GEN T, p, a, b, modpr;
     720             :   long f, n, s;
     721          56 :   f = pr_get_f(pr); n = nf_get_degree(nf);
     722          56 :   if (f==1) { avma = av; return identity_perm(n); }
     723          56 :   g = idealquasifrob(nf, gal, gal_get_group(gal), pr, NULL, &S, aut);
     724          56 :   if (f==2) return gerepileuptoleaf(av, g);
     725          21 :   modpr = zk_to_Fq_init(nf,&pr,&T,&p);
     726          21 :   a = pol_x(nf_get_varn(nf));
     727          21 :   b = nf_to_Fq(nf, zk_galoisapplymod(nf, modpr_genFq(modpr), S, p), modpr);
     728          42 :   for (s = 1; s < f-1; s++)
     729             :   {
     730          21 :     a = Fq_pow(a, p, T, p);
     731          21 :     if (ZX_equal(a, b)) break;
     732             :   }
     733          21 :   g = perm_pow(g, Fl_inv(s, f));
     734          21 :   return gerepileupto(av, g);
     735             : }
     736             : 
     737             : GEN
     738          63 : idealfrobenius(GEN nf, GEN gal, GEN pr)
     739             : {
     740          63 :   nf = checknf(nf);
     741          63 :   checkgal(gal);
     742          63 :   checkprid(pr);
     743          63 :   gal_check_pol("idealfrobenius",nf_get_pol(nf),gal_get_pol(gal));
     744          63 :   if (pr_get_e(pr)>1) pari_err_DOMAIN("idealfrobenius","pr.e", ">", gen_1,pr);
     745          56 :   return idealfrobenius_aut(nf, gal, pr, NULL);
     746             : }
     747             : 
     748             : /* true nf */
     749             : GEN
     750         595 : idealramfrobenius_aut(GEN nf, GEN gal, GEN pr, GEN ram, GEN aut)
     751             : {
     752         595 :   pari_sp av = avma;
     753         595 :   GEN S=NULL, g=NULL; /*-Wall*/
     754             :   GEN T, p, a, b, modpr;
     755             :   GEN isog, deco;
     756             :   long f, n, s;
     757         595 :   f = pr_get_f(pr); n = nf_get_degree(nf);
     758         595 :   if (f==1) { avma = av; return identity_perm(n); }
     759         385 :   modpr = zk_to_Fq_init(nf,&pr,&T,&p);
     760         385 :   deco = group_elts(gel(ram,1), nf_get_degree(nf));
     761         385 :   isog = group_set(gel(ram,2),  nf_get_degree(nf));
     762         385 :   g = idealquasifrob(nf, gal, deco, pr, isog, &S, aut);
     763         385 :   a = pol_x(nf_get_varn(nf));
     764         385 :   b = nf_to_Fq(nf, zk_galoisapplymod(nf, modpr_genFq(modpr), S, p), modpr);
     765         826 :   for (s=0; !ZX_equal(a, b); s++)
     766         441 :     a = Fq_pow(a, p, T, p);
     767         385 :   g = perm_pow(g, Fl_inv(s, f));
     768         385 :   return gerepileupto(av, g);
     769             : }
     770             : 
     771             : GEN
     772           0 : idealramfrobenius(GEN nf, GEN gal, GEN pr, GEN ram)
     773             : {
     774           0 :   return idealramfrobenius_aut(nf, gal, pr, ram, NULL);
     775             : }
     776             : 
     777             : static GEN
     778        1792 : idealinertiagroup(GEN nf, GEN gal, GEN aut, GEN pr)
     779             : {
     780        1792 :   long i, n = nf_get_degree(nf);
     781        1792 :   GEN p, T, modpr = zk_to_Fq_init(nf,&pr,&T,&p);
     782        1792 :   GEN b = modpr_genFq(modpr);
     783        1792 :   long e = pr_get_e(pr), coprime = cgcd(e, pr_get_f(pr)) == 1;
     784        1792 :   GEN grp = gal_get_group(gal), pi = pr_get_gen(pr);
     785        1792 :   pari_sp ltop = avma;
     786        7567 :   for (i=1; i<=n; i++)
     787             :   {
     788        7567 :     GEN iso = gel(grp,i);
     789        7567 :     if (perm_order(iso) == e)
     790             :     {
     791        3108 :       GEN S = get_aut(nf, gal, aut, iso);
     792        3108 :       if (ZC_prdvd(ZC_galoisapply(nf, S, pi), pr)
     793        2170 :           && (coprime || gequalX(nf_to_Fq(nf, galoisapply(nf,S,b), modpr))))
     794        1792 :           return iso;
     795        1316 :       avma = ltop;
     796             :     }
     797             :   }
     798           0 :   pari_err_BUG("idealinertiagroup [no isotropic element]");
     799           0 :   return NULL;
     800             : }
     801             : 
     802             : static GEN
     803        1855 : idealramgroupstame(GEN nf, GEN gal, GEN aut, GEN pr)
     804             : {
     805        1855 :   pari_sp av = avma;
     806             :   GEN iso, frob, giso, isog, S, res;
     807        1855 :   long e = pr_get_e(pr), f = pr_get_f(pr);
     808        1855 :   GEN grp = gal_get_group(gal);
     809        1855 :   if (e == 1)
     810             :   {
     811          63 :     if (f==1)
     812           0 :       return cgetg(1,t_VEC);
     813          63 :     frob = idealquasifrob(nf, gal, grp, pr, NULL, &S, aut);
     814          63 :     avma = av;
     815          63 :     res = cgetg(2, t_VEC);
     816          63 :     gel(res, 1) = cyclicgroup(frob, f);
     817          63 :     return res;
     818             :   }
     819        1792 :   res = cgetg(3, t_VEC);
     820        1792 :   av = avma;
     821        1792 :   iso = idealinertiagroup(nf, gal, aut, pr);
     822        1792 :   avma = av;
     823        1792 :   giso = cyclicgroup(iso, e);
     824        1792 :   gel(res, 2) = giso;
     825        1792 :   if (f==1)
     826             :   {
     827         903 :     gel(res, 1) = giso;
     828         903 :     return res;
     829             :   }
     830         889 :   av = avma;
     831         889 :   isog = group_set(giso, nf_get_degree(nf));
     832         889 :   frob = idealquasifrob(nf, gal, grp, pr, isog, &S, aut);
     833         889 :   avma = av;
     834         889 :   gel(res, 1) = dicyclicgroup(iso,frob,e,f);
     835         889 :   return res;
     836             : }
     837             : 
     838             : /* true nf, p | e */
     839             : static GEN
     840         462 : idealramgroupswild(GEN nf, GEN gal, GEN aut, GEN pr)
     841             : {
     842         462 :   pari_sp av2, av = avma;
     843         462 :   GEN p, T, idx, g, gbas, pi, pibas, Dpi, modpr = zk_to_Fq_init(nf,&pr,&T,&p);
     844         462 :   long bound, i, vDpi, vDg, n = nf_get_degree(nf);
     845         462 :   long e = pr_get_e(pr);
     846         462 :   long f = pr_get_f(pr);
     847             :   ulong nt,rorder;
     848         462 :   GEN pg, ppi, grp = gal_get_group(gal);
     849             : 
     850             :   /* G_i = {s: v(s(pi) - pi) > i} trivial for i > bound;
     851             :    * v_pr(Diff) = sum_{i = 0}^{bound} (#G_i - 1) >= e-1 + bound*(p-1)*/
     852         462 :   bound = (idealval(nf, nf_get_diff(nf), pr) - (e-1)) / (itou(p)-1);
     853         462 :   (void) u_pvalrem(n,p,&nt);
     854         462 :   rorder = e*f*(n/nt);
     855         462 :   idx = const_vecsmall(n,-1);
     856         462 :   pg = NULL;
     857         462 :   vDg = 0;
     858         462 :   if (f == 1)
     859         119 :     g = gbas = NULL;
     860             :   else
     861             :   {
     862             :     GEN Dg;
     863         343 :     g = nf_to_scalar_or_alg(nf, modpr_genFq(modpr));
     864         343 :     if (!gcmpX(g)) /* p | nf.index */
     865             :     {
     866           7 :       g = Q_remove_denom(g, &Dg);
     867           7 :       vDg = Z_pval(Dg,p);
     868           7 :       pg = powiu(p, vDg + 1);
     869           7 :       g = FpX_red(g, pg);
     870             :     }
     871         343 :     gbas = nf_to_scalar_or_basis(nf, g);
     872             :   }
     873         462 :   pi = nf_to_scalar_or_alg(nf, pr_get_gen(pr));
     874         462 :   pi = Q_remove_denom(pi, &Dpi);
     875         462 :   vDpi = Dpi ? Z_pval(Dpi, p): 0;
     876         462 :   ppi = powiu(p, vDpi + (bound + e)/e);
     877         462 :   pi = FpX_red(pi, ppi);
     878         462 :   pibas = nf_to_scalar_or_basis(nf, pi);
     879         462 :   av2 = avma;
     880        4522 :   for (i = 2; i <= n; i++)
     881             :   {
     882        4060 :     GEN S, Spi, piso, iso = gel(grp, i);
     883        4060 :     long j, o, ix = iso[1];
     884        4060 :     if (idx[ix] >= 0 || rorder % (o = perm_order(iso))) continue;
     885             : 
     886        2786 :     piso = iso;
     887        2786 :     S = get_aut(nf, gal, aut, iso);
     888        2786 :     Spi = FpX_FpC_nfpoleval(nf, pi, FpC_red(S, ppi), ppi);
     889             :     /* Computation made knowing that the valuation is <= bound + 1. Correct
     890             :      * to maximal value if reduction mod ppi altered this */
     891        2786 :     idx[ix] = minss(bound+1, idealval(nf, gsub(Spi,pibas), pr) - e*vDpi);
     892        2786 :     if (idx[ix] == 0) idx[ix] = -1;
     893        2338 :     else if (g)
     894             :     {
     895        1848 :       GEN Sg = pg? FpX_FpC_nfpoleval(nf, g, FpC_red(S, pg), pg): S;
     896        1848 :       if (vDg)
     897          42 :       { if (nfval(nf, gsub(Sg, gbas), pr) - e*vDg <= 0) idx[ix] = 0; }
     898             :       else /* same, more efficient */
     899        1806 :       { if (!ZC_prdvd(gsub(Sg, gbas), pr)) idx[ix] = 0; }
     900             :     }
     901        5341 :     for (j = 2; j < o; j++)
     902             :     {
     903        2555 :       piso = perm_mul(piso,iso);
     904        2555 :       if (cgcd(j,o)==1) idx[ piso[1] ] = idx[ix];
     905             :     }
     906        2786 :     avma = av2;
     907             :   }
     908         462 :   return gerepileuptoleaf(av, idx);
     909             : }
     910             : 
     911             : GEN
     912        2317 : idealramgroups_aut(GEN nf, GEN gal, GEN pr, GEN aut)
     913             : {
     914        2317 :   pari_sp av = avma;
     915             :   GEN tbl, idx, res, set, sub;
     916             :   long i, j, e, n, maxm, p;
     917             :   ulong et;
     918        2317 :   nf = checknf(nf);
     919        2317 :   checkgal(gal);
     920        2317 :   checkprid(pr);
     921        2317 :   gal_check_pol("idealramgroups",nf_get_pol(nf),gal_get_pol(gal));
     922        2317 :   e = pr_get_e(pr); n = nf_get_degree(nf);
     923        2317 :   p = itos(pr_get_p(pr));
     924        2317 :   if (e%p) return idealramgroupstame(nf, gal, aut, pr);
     925         462 :   (void) u_lvalrem(e,p,&et);
     926         462 :   idx = idealramgroupswild(nf, gal, aut, pr);
     927         462 :   sub = group_subgroups(galois_group(gal));
     928         462 :   tbl = subgroups_tableset(sub, n);
     929         462 :   maxm = vecsmall_max(idx)+1;
     930         462 :   res = cgetg(maxm+1,t_VEC);
     931         462 :   set = zero_F2v(n); F2v_set(set,1);
     932        2359 :   for(i=maxm; i>0; i--)
     933             :   {
     934             :     long ix;
     935       19817 :     for(j=1;j<=n;j++)
     936       17920 :       if (idx[j]==i-1)
     937        3374 :         F2v_set(set,j);
     938        1897 :     ix = tableset_find_index(tbl, set);
     939        1897 :     if (ix==0) pari_err_BUG("idealramgroups");
     940        1897 :     gel(res,i) = gel(sub, ix);
     941             :   }
     942         462 :   return gerepilecopy(av, res);
     943             : }
     944             : 
     945             : GEN
     946         112 : idealramgroups(GEN nf, GEN gal, GEN pr)
     947             : {
     948         112 :   return idealramgroups_aut(nf, gal, pr, NULL);
     949             : }
     950             : 
     951             : /* x = relative polynomial nf = absolute nf, bnf = absolute bnf */
     952             : GEN
     953         112 : get_bnfpol(GEN x, GEN *bnf, GEN *nf)
     954             : {
     955         112 :   *bnf = checkbnf_i(x);
     956         112 :   *nf  = checknf_i(x);
     957         112 :   if (*nf) x = nf_get_pol(*nf);
     958         112 :   if (typ(x) != t_POL) pari_err_TYPE("get_bnfpol",x);
     959         112 :   return x;
     960             : }
     961             : 
     962             : GEN
     963       39532 : get_nfpol(GEN x, GEN *nf)
     964             : {
     965       39532 :   if (typ(x) == t_POL) { *nf = NULL; return x; }
     966       26029 :   *nf = checknf(x); return nf_get_pol(*nf);
     967             : }
     968             : 
     969             : /* is isomorphism / inclusion (a \subset b) compatible with what we know about
     970             :  * basic invariants ? (degree, signature, discriminant) */
     971             : static int
     972          70 : tests_OK(GEN a, GEN nfa, GEN b, GEN nfb, long fliso)
     973             : {
     974             :   GEN da, db, fa, P, E, U;
     975          70 :   long i, nP, q, m = degpol(a), n = degpol(b);
     976             : 
     977          70 :   if (m <= 0) pari_err_IRREDPOL("nfisincl",a);
     978          70 :   if (n <= 0) pari_err_IRREDPOL("nfisincl",b);
     979          63 :   q = n / m; /* relative degree */
     980          63 :   if (fliso) { if (n != m) return 0; } else { if (n % m) return 0; }
     981          63 :   if (m == 1) return 1;
     982             : 
     983          56 :   if (nfa && nfb) /* both nf structures available */
     984             :   {
     985           7 :     long r1a = nf_get_r1(nfa), r1b = nf_get_r1(nfb) ;
     986           7 :     if (fliso)
     987           0 :       return (r1a == r1b && equalii(nf_get_disc(nfa), nf_get_disc(nfb)));
     988             :     else
     989          14 :       return (r1b <= r1a * q &&
     990           7 :               dvdii(nf_get_disc(nfb), powiu(nf_get_disc(nfa), q)));
     991             :   }
     992          49 :   da = nfa? nf_get_disc(nfa): ZX_disc(a);
     993          49 :   if (!signe(da)) pari_err_IRREDPOL("nfisincl",a);
     994          42 :   db = nfb? nf_get_disc(nfb): ZX_disc(b);
     995          42 :   if (!signe(db)) pari_err_IRREDPOL("nfisincl",a);
     996          42 :   if (fliso) return issquare(gdiv(da,db));
     997             : 
     998          28 :   if (odd(q) && signe(da) != signe(db)) return 0;
     999          28 :   fa = absZ_factor_limit(da, 0);
    1000          28 :   P = gel(fa,1);
    1001          28 :   E = gel(fa,2); nP = lg(P) - 1;
    1002          91 :   for (i=1; i<nP; i++)
    1003          63 :     if (mod2(gel(E,i)) && !dvdii(db, powiu(gel(P,i),q))) return 0;
    1004          28 :   U = gel(P,nP);
    1005          28 :   if (mod2(gel(E,i)) && expi(U) < 150)
    1006             :   { /* "unfactored" cofactor is small, finish */
    1007           7 :     if (abscmpiu(U, maxprime()) > 0)
    1008             :     {
    1009           0 :       fa = Z_factor(U);
    1010           0 :       P = gel(fa,1);
    1011           0 :       E = gel(fa,2);
    1012             :     }
    1013             :     else
    1014             :     {
    1015           7 :       P = mkvec(U);
    1016           7 :       E = mkvec(gen_1);
    1017             :     }
    1018           7 :     nP = lg(P) - 1;
    1019           7 :     for (i=1; i<=nP; i++)
    1020           7 :       if (mod2(gel(E,i)) && !dvdii(db, powiu(gel(P,i),q))) return 0;
    1021             :   }
    1022          21 :   return 1;
    1023             : }
    1024             : 
    1025             : /* if fliso test for isomorphism, for inclusion otherwise. */
    1026             : static GEN
    1027          70 : nfiso0(GEN a, GEN b, long fliso)
    1028             : {
    1029          70 :   pari_sp av = avma;
    1030             :   long i, vb, lx;
    1031             :   GEN nfa, nfb, y, la, lb;
    1032             :   int newvar;
    1033             : 
    1034          70 :   a = get_nfpol(a, &nfa);
    1035          70 :   b = get_nfpol(b, &nfb);
    1036          70 :   if (!nfa) { a = Q_primpart(a); RgX_check_ZX(a, "nsiso0"); }
    1037          70 :   if (!nfb) { b = Q_primpart(b); RgX_check_ZX(b, "nsiso0"); }
    1038          70 :   if (fliso && nfa && !nfb) { swap(a,b); nfb = nfa; nfa = NULL; }
    1039          70 :   if (!tests_OK(a, nfa, b, nfb, fliso)) { avma = av; return gen_0; }
    1040             : 
    1041          49 :   if (nfb) lb = gen_1; else nfb = b = ZX_Q_normalize(b,&lb);
    1042          49 :   if (nfa) la = gen_1; else nfa = a = ZX_Q_normalize(a,&la);
    1043          49 :   vb = varn(b); newvar = (varncmp(vb,varn(a)) <= 0);
    1044          49 :   if (newvar) { a = leafcopy(a); setvarn(a, fetch_var_higher()); }
    1045          49 :   y = lift_shallow(nfroots(nfb,a));
    1046          49 :   if (newvar) (void)delete_var();
    1047          49 :   lx = lg(y); if (lx==1) { avma=av; return gen_0; }
    1048         210 :   for (i=1; i<lx; i++)
    1049             :   {
    1050         161 :     GEN t = gel(y,i);
    1051         161 :     if (typ(t) == t_POL) setvarn(t, vb); else t = scalarpol(t, vb);
    1052         161 :     if (lb != gen_1) t = RgX_unscale(t, lb);
    1053         161 :     if (la != gen_1) t = RgX_Rg_div(t, la);
    1054         161 :     gel(y,i) = t;
    1055             :   }
    1056          49 :   return gerepilecopy(av,y);
    1057             : }
    1058             : 
    1059             : GEN
    1060          21 : nfisisom(GEN a, GEN b) { return nfiso0(a,b,1); }
    1061             : 
    1062             : GEN
    1063          49 : nfisincl(GEN a, GEN b) { return nfiso0(a,b,0); }
    1064             : 
    1065             : /*************************************************************************/
    1066             : /**                                                                     **/
    1067             : /**                               INITALG                               **/
    1068             : /**                                                                     **/
    1069             : /*************************************************************************/
    1070             : typedef struct {
    1071             :   GEN T;
    1072             :   GEN ro; /* roots of T */
    1073             :   long r1;
    1074             :   GEN basden;
    1075             :   long prec;
    1076             :   long extraprec; /* possibly -1 = irrelevant or not computed */
    1077             :   GEN M, G; /* possibly NULL = irrelevant or not computed */
    1078             : } nffp_t;
    1079             : 
    1080             : static GEN
    1081       22362 : get_roots(GEN x, long r1, long prec)
    1082             : {
    1083             :   long i, ru;
    1084             :   GEN z;
    1085       22362 :   if (typ(x) != t_POL)
    1086             :   {
    1087           0 :     z = leafcopy(x);
    1088           0 :     ru = (lg(z)-1 + r1) >> 1;
    1089             :   }
    1090             :   else
    1091             :   {
    1092       22362 :     long n = degpol(x);
    1093       22362 :     z = (r1 == n)? realroots(x, NULL, prec): QX_complex_roots(x,prec);
    1094       22362 :     ru = (n+r1)>>1;
    1095             :   }
    1096       22362 :   for (i=r1+1; i<=ru; i++) gel(z,i) = gel(z, (i<<1)-r1);
    1097       22362 :   z[0]=evaltyp(t_VEC)|evallg(ru+1); return z;
    1098             : }
    1099             : 
    1100             : GEN
    1101           0 : nf_get_allroots(GEN nf)
    1102             : {
    1103           0 :   return embed_roots(nf_get_roots(nf), nf_get_r1(nf));
    1104             : }
    1105             : 
    1106             : /* For internal use. compute trace(x mod pol), sym=polsym(pol,deg(pol)-1) */
    1107             : GEN
    1108       78953 : quicktrace(GEN x, GEN sym)
    1109             : {
    1110       78953 :   GEN p1 = gen_0;
    1111             :   long i;
    1112             : 
    1113       78953 :   if (typ(x) != t_POL) return gmul(x, gel(sym,1));
    1114       78953 :   if (signe(x))
    1115             :   {
    1116       78953 :     sym--;
    1117     1021790 :     for (i=lg(x)-1; i>1; i--)
    1118      942837 :       p1 = gadd(p1, gmul(gel(x,i),gel(sym,i)));
    1119             :   }
    1120       78953 :   return p1;
    1121             : }
    1122             : 
    1123             : static GEN
    1124       12677 : get_Tr(GEN mul, GEN x, GEN basden)
    1125             : {
    1126       12677 :   GEN t, bas = gel(basden,1), den = gel(basden,2);
    1127       12677 :   long i, j, n = lg(bas)-1;
    1128       12677 :   GEN T = cgetg(n+1,t_MAT), TW = cgetg(n+1,t_COL), sym = polsym(x, n-1);
    1129             : 
    1130       12677 :   gel(TW,1) = utoipos(n);
    1131       38801 :   for (i=2; i<=n; i++)
    1132             :   {
    1133       26124 :     t = quicktrace(gel(bas,i), sym);
    1134       26124 :     if (den && gel(den,i)) t = diviiexact(t,gel(den,i));
    1135       26124 :     gel(TW,i) = t; /* tr(w[i]) */
    1136             :   }
    1137       12677 :   gel(T,1) = TW;
    1138       38801 :   for (i=2; i<=n; i++)
    1139             :   {
    1140       26124 :     gel(T,i) = cgetg(n+1,t_COL); gcoeff(T,1,i) = gel(TW,i);
    1141      161308 :     for (j=2; j<=i; j++) /* Tr(W[i]W[j]) */
    1142      135184 :       gcoeff(T,i,j) = gcoeff(T,j,i) = ZV_dotproduct(gel(mul,j+(i-1)*n), TW);
    1143             :   }
    1144       12677 :   return T;
    1145             : }
    1146             : 
    1147             : /* return [bas[i]*denom(bas[i]), denom(bas[i])], denom 1 is given as NULL */
    1148             : static GEN
    1149       27811 : get_bas_den(GEN bas)
    1150             : {
    1151       27811 :   GEN b,d,den, dbas = leafcopy(bas);
    1152       27811 :   long i, l = lg(bas);
    1153       27811 :   int power = 1;
    1154       27811 :   den = cgetg(l,t_VEC);
    1155      119980 :   for (i=1; i<l; i++)
    1156             :   {
    1157       92169 :     b = Q_remove_denom(gel(bas,i), &d);
    1158       92169 :     gel(dbas,i) = b;
    1159       92169 :     gel(den,i) = d; if (d) power = 0;
    1160             :   }
    1161       27811 :   if (power) den = NULL; /* power basis */
    1162       27811 :   return mkvec2(dbas, den);
    1163             : }
    1164             : 
    1165             : /* return multiplication table for S->basis */
    1166             : static GEN
    1167       12677 : nf_multable(nfmaxord_t *S, GEN invbas)
    1168             : {
    1169       12677 :   GEN T = S->T, w = gel(S->basden,1), den = gel(S->basden,2);
    1170       12677 :   long i,j, n = degpol(T);
    1171       12677 :   GEN mul = cgetg(n*n+1,t_MAT);
    1172             : 
    1173             :   /* i = 1 split for efficiency, assume w[1] = 1 */
    1174       51478 :   for (j=1; j<=n; j++)
    1175       38801 :     gel(mul,j) = gel(mul,1+(j-1)*n) = col_ei(n, j);
    1176       38801 :   for (i=2; i<=n; i++)
    1177      161308 :     for (j=i; j<=n; j++)
    1178             :     {
    1179      135184 :       pari_sp av = avma;
    1180      135184 :       GEN z = (i == j)? ZXQ_sqr(gel(w,i), T): ZXQ_mul(gel(w,i),gel(w,j), T);
    1181      135184 :       z = ZM_ZX_mul(invbas, z); /* integral column */
    1182      135184 :       if (den)
    1183             :       {
    1184       89936 :         GEN d = mul_denom(gel(den,i), gel(den,j));
    1185       89936 :         if (d) z = ZC_Z_divexact(z, d);
    1186             :       }
    1187      135184 :       gel(mul,j+(i-1)*n) = gel(mul,i+(j-1)*n) = gerepileupto(av,z);
    1188             :     }
    1189       12677 :   return mul;
    1190             : }
    1191             : 
    1192             : /* as get_Tr, mul_table not precomputed */
    1193             : static GEN
    1194        4648 : make_Tr(nfmaxord_t *S)
    1195             : {
    1196        4648 :   GEN T = S->T, w = gel(S->basden,1), den = gel(S->basden,2);
    1197        4648 :   long i,j, n = degpol(T);
    1198        4648 :   GEN c, t, d, M = cgetg(n+1,t_MAT), sym = polsym(T, n-1);
    1199             : 
    1200             :   /* W[i] = w[i]/den[i]; assume W[1] = 1, case i = 1 split for efficiency */
    1201        4648 :   c = cgetg(n+1,t_COL); gel(M,1) = c;
    1202        4648 :   gel(c, 1) = utoipos(n);
    1203       13636 :   for (j=2; j<=n; j++)
    1204             :   {
    1205        8988 :     pari_sp av = avma;
    1206        8988 :     t = quicktrace(gel(w,j), sym);
    1207        8988 :     if (den)
    1208             :     {
    1209        5145 :       d = gel(den,j);
    1210        5145 :       if (d) t = diviiexact(t, d);
    1211             :     }
    1212        8988 :     gel(c,j) = gerepileuptoint(av, t);
    1213             :   }
    1214       13636 :   for (i=2; i<=n; i++)
    1215             :   {
    1216        8988 :     c = cgetg(n+1,t_COL); gel(M,i) = c;
    1217        8988 :     for (j=1; j<i ; j++) gel(c,j) = gcoeff(M,i,j);
    1218       52570 :     for (   ; j<=n; j++)
    1219             :     {
    1220       43582 :       pari_sp av = avma;
    1221       43582 :       t = (i == j)? ZXQ_sqr(gel(w,i), T): ZXQ_mul(gel(w,i),gel(w,j), T);
    1222       43582 :       t = quicktrace(t, sym);
    1223       43582 :       if (den)
    1224             :       {
    1225       34881 :         d = mul_denom(gel(den,i),gel(den,j));
    1226       34881 :         if (d) t = diviiexact(t, d);
    1227             :       }
    1228       43582 :       gel(c,j) = gerepileuptoint(av, t); /* Tr (W[i]W[j]) */
    1229             :     }
    1230             :   }
    1231        4648 :   return M;
    1232             : }
    1233             : 
    1234             : /* [bas[i]/den[i]]= integer basis. roo = real part of the roots */
    1235             : static void
    1236       23969 : make_M(nffp_t *F, int trunc)
    1237             : {
    1238       23969 :   GEN bas = gel(F->basden,1), den = gel(F->basden,2), ro = F->ro;
    1239             :   GEN m, d, M;
    1240       23969 :   long i, j, l = lg(ro), n = lg(bas);
    1241       23969 :   M = cgetg(n,t_MAT);
    1242       23969 :   gel(M,1) = const_col(l-1, gen_1); /* bas[1] = 1 */
    1243       23969 :   for (j=2; j<n; j++) gel(M,j) = cgetg(l,t_COL);
    1244       73970 :   for (i=1; i<l; i++)
    1245             :   {
    1246       50001 :     GEN r = gel(ro,i), ri;
    1247       50001 :     ri = (gexpo(r) > 1)? ginv(r): NULL;
    1248       50001 :     for (j=2; j<n; j++) gcoeff(M,i,j) = RgX_cxeval(gel(bas,j), r, ri);
    1249             :   }
    1250       23969 :   if (den)
    1251       38136 :     for (j=2; j<n; j++)
    1252             :     {
    1253       32226 :       d = gel(den,j); if (!d) continue;
    1254       26696 :       m = gel(M,j);
    1255       26696 :       for (i=1; i<l; i++) gel(m,i) = gdiv(gel(m,i), d);
    1256             :     }
    1257             : 
    1258       23969 :   if (trunc && gprecision(M) > F->prec)
    1259             :   {
    1260        2045 :     M     = gprec_w(M, F->prec);
    1261        2045 :     F->ro = gprec_w(ro,F->prec);
    1262             :   }
    1263       23969 :   F->M = M;
    1264       23969 : }
    1265             : 
    1266             : /* return G real such that G~ * G = T_2 */
    1267             : static void
    1268       23969 : make_G(nffp_t *F)
    1269             : {
    1270       23969 :   GEN G, M = F->M;
    1271       23969 :   long i, j, k, r1 = F->r1, l = lg(M);
    1272             : 
    1273       47938 :   if (r1 == l-1) { F->G = M; return; }
    1274       18772 :   G = cgetg(l, t_MAT);
    1275       85328 :   for (j = 1; j < l; j++)
    1276             :   {
    1277       66556 :     GEN g, m = gel(M,j);
    1278       66556 :     gel(G,j) = g = cgetg(l, t_COL);
    1279       66556 :     for (k = i = 1; i <= r1; i++) gel(g,k++) = gel(m,i);
    1280      343593 :     for (     ; k < l; i++)
    1281             :     {
    1282      277037 :       GEN r = gel(m,i);
    1283      277037 :       if (typ(r) == t_COMPLEX)
    1284             :       {
    1285      245601 :         GEN a = gel(r,1), b = gel(r,2);
    1286      245601 :         gel(g,k++) = mpadd(a, b);
    1287      245601 :         gel(g,k++) = mpsub(a, b);
    1288             :       }
    1289             :       else
    1290             :       {
    1291       31436 :         gel(g,k++) = r;
    1292       31436 :         gel(g,k++) = r;
    1293             :       }
    1294             :     }
    1295             :   }
    1296       18772 :   F->G = G;
    1297             : }
    1298             : 
    1299             : static void
    1300       23969 : make_M_G(nffp_t *F, int trunc)
    1301             : {
    1302             :   long n, eBD, prec;
    1303       23969 :   if (F->extraprec < 0)
    1304             :   { /* not initialized yet; compute roots so that absolute accuracy
    1305             :      * of M & G >= prec */
    1306             :     double er;
    1307       23949 :     n = degpol(F->T);
    1308       23949 :     eBD = 1 + gexpo(gel(F->basden,1));
    1309       23949 :     er  = F->ro? (1+gexpo(F->ro)): fujiwara_bound(F->T);
    1310       23949 :     if (er < 0) er = 0;
    1311       23949 :     F->extraprec = nbits2extraprec(n*er + eBD + log2(n));
    1312             :   }
    1313       23969 :   prec = F->prec + F->extraprec;
    1314             : #ifndef LONG_IS_64BIT
    1315             :   /* make sure that default accuracy is the same on 32/64bit */
    1316        3467 :   if (odd(prec)) prec += EXTRAPRECWORD;
    1317             : #endif
    1318       23969 :   if (!F->ro || gprecision(gel(F->ro,1)) < prec)
    1319       22362 :     F->ro = get_roots(F->T, F->r1, prec);
    1320             : 
    1321       23969 :   make_M(F, trunc);
    1322       23969 :   make_G(F);
    1323       23969 : }
    1324             : 
    1325             : static void
    1326       23198 : nffp_init(nffp_t *F, nfmaxord_t *S, long prec)
    1327             : {
    1328       23198 :   F->T  = S->T;
    1329       23198 :   F->r1 = S->r1;
    1330       23198 :   F->basden = S->basden;
    1331       23198 :   F->ro = NULL;
    1332       23198 :   F->extraprec = -1;
    1333       23198 :   F->prec = prec;
    1334       23198 : }
    1335             : 
    1336             : /* let bas a t_VEC of QX giving a Z-basis of O_K. Return the index of the
    1337             :  * basis. Assume bas[1] = 1 and that the leading coefficient of elements
    1338             :  * of bas are of the form 1/b for a t_INT b */
    1339             : static GEN
    1340         917 : get_nfindex(GEN bas)
    1341             : {
    1342         917 :   pari_sp av = avma;
    1343         917 :   long n = lg(bas)-1, i;
    1344             :   GEN D, d, mat;
    1345             : 
    1346             :   /* assume bas[1] = 1 */
    1347         917 :   D = gel(bas,1);
    1348         917 :   if (! is_pm1(simplify_shallow(D))) pari_err_TYPE("get_nfindex", D);
    1349         917 :   D = gen_1;
    1350        5096 :   for (i = 2; i <= n; i++)
    1351             :   { /* after nfbasis, basis is upper triangular! */
    1352        4186 :     GEN B = gel(bas,i), lc;
    1353        4186 :     if (degpol(B) != i-1) break;
    1354        4179 :     lc = gel(B, i+1);
    1355        4179 :     switch (typ(lc))
    1356             :     {
    1357        1351 :       case t_INT: continue;
    1358        2828 :       case t_FRAC: if (is_pm1(gel(lc,1)) ) {D = mulii(D, gel(lc,2)); continue;}
    1359           0 :       default: pari_err_TYPE("get_nfindex", B);
    1360             :     }
    1361             :   }
    1362         917 :   if (i <= n)
    1363             :   { /* not triangular after all */
    1364           7 :     bas = vecslice(bas,i,n);
    1365           7 :     bas = Q_remove_denom(bas, &d);
    1366           7 :     if (!d) return D;
    1367           7 :     mat = RgV_to_RgM(bas, n);
    1368           7 :     mat = rowslice(mat, i,n);
    1369           7 :     D = mulii(D, diviiexact(powiu(d, n-i+1), absi(ZM_det(mat))));
    1370             :   }
    1371         917 :   return gerepileuptoint(av, D);
    1372             : }
    1373             : /* make sure all components of S are initialized */
    1374             : static void
    1375       25347 : nfmaxord_complete(nfmaxord_t *S)
    1376             : {
    1377       25347 :   if (!S->dT) S->dT = ZX_disc(S->T);
    1378       25347 :   if (!S->index)
    1379             :   {
    1380         924 :     if (S->dK) /* fast */
    1381           7 :       S->index = sqrti( diviiexact(S->dT, S->dK) );
    1382             :     else
    1383         917 :       S->index = get_nfindex(S->basis);
    1384             :   }
    1385       25347 :   if (!S->dK) S->dK = diviiexact(S->dT, sqri(S->index));
    1386       25347 :   if (S->r1 < 0) S->r1 = ZX_sturm(S->T);
    1387       25347 :   if (!S->basden) S->basden = get_bas_den(S->basis);
    1388       25347 : }
    1389             : 
    1390             : GEN
    1391       12677 : nfmaxord_to_nf(nfmaxord_t *S, GEN ro, long prec)
    1392             : {
    1393       12677 :   GEN nf = cgetg(10,t_VEC);
    1394       12677 :   GEN T = S->T, Tr, D, w, A, dA, MDI, mat = cgetg(9,t_VEC);
    1395       12677 :   long n = degpol(T);
    1396             :   nffp_t F;
    1397       12677 :   nfmaxord_complete(S);
    1398       12677 :   nffp_init(&F,S,prec);
    1399       12677 :   F.ro = ro;
    1400       12677 :   make_M_G(&F, 0);
    1401             : 
    1402       12677 :   gel(nf,1) = S->T;
    1403       12677 :   gel(nf,2) = mkvec2s(S->r1, (n - S->r1)>>1);
    1404       12677 :   gel(nf,3) = S->dK;
    1405       12677 :   gel(nf,4) = S->index;
    1406       12677 :   gel(nf,5) = mat;
    1407       12677 :   gel(nf,6) = F.ro;
    1408       12677 :   w = S->basis;
    1409       12677 :   if (!is_pm1(S->index)) w = Q_remove_denom(w, NULL);
    1410       12677 :   gel(nf,7) = w;
    1411       12677 :   gel(nf,8) = ZM_inv(RgV_to_RgM(w,n), NULL);
    1412       12677 :   gel(nf,9) = nf_multable(S, nf_get_invzk(nf));
    1413       12677 :   gel(mat,1) = F.M;
    1414       12677 :   gel(mat,2) = F.G;
    1415             : 
    1416       12677 :   Tr = get_Tr(gel(nf,9), T, S->basden);
    1417       12677 :   gel(mat,6) = A = ZM_inv(Tr, &dA); /* dA T^-1, primitive */
    1418       12677 :   A = ZM_hnfmodid(A, dA);
    1419             :   /* CAVEAT: nf is not complete yet, but the fields needed for
    1420             :    * idealtwoelt, zk_scalar_or_multable and idealinv are present ! */
    1421       12677 :   MDI = idealtwoelt(nf, A);
    1422       12677 :   gel(MDI,2) = zk_scalar_or_multable(nf, gel(MDI,2));
    1423       12677 :   gel(mat,7) = MDI;
    1424       12677 :   if (is_pm1(S->index))
    1425             :   { /* principal ideal (T'), whose norm is |dK| */
    1426       10416 :     D = zk_scalar_or_multable(nf, ZX_deriv(T));
    1427       10416 :     if (typ(D) == t_MAT) D = ZM_hnfmod(D, absi(S->dK));
    1428             :   }
    1429             :   else
    1430             :   {
    1431        2261 :     GEN c = diviiexact(dA, gcoeff(A,1,1));
    1432        2261 :     D = idealHNF_inv_Z(nf, A); /* (A\cap Z) / A */
    1433        2261 :     if (!is_pm1(c)) D = ZM_Z_mul(D, c);
    1434             :   }
    1435       12677 :   gel(mat,3) = RM_round_maxrank(F.G);
    1436       12677 :   gel(mat,4) = Tr;
    1437       12677 :   gel(mat,5) = D;
    1438       12677 :   gel(mat,8) = S->dKP? shallowtrans(S->dKP): cgetg(1,t_VEC);
    1439       12677 :   return nf;
    1440             : }
    1441             : 
    1442             : static GEN
    1443         231 : primes_certify(GEN dK, GEN dKP)
    1444             : {
    1445         231 :   long i, l = lg(dKP);
    1446         231 :   GEN v, w, D = dK;
    1447         231 :   v = vectrunc_init(l);
    1448         231 :   w = vectrunc_init(l);
    1449         833 :   for (i = 1; i < l; i++)
    1450             :   {
    1451         602 :     GEN p = gel(dKP,i);
    1452         602 :     vectrunc_append(isprime(p)? w: v, p);
    1453         602 :     (void)Z_pvalrem(D, p, &D);
    1454             :   }
    1455         231 :   if (!is_pm1(D))
    1456             :   {
    1457           0 :     if (signe(D) < 0) D = negi(D);
    1458           0 :     vectrunc_append(isprime(D)? w: v, D);
    1459             :   }
    1460         231 :   return mkvec2(v,w);
    1461             : }
    1462             : GEN
    1463           7 : nfcertify(GEN nf)
    1464             : {
    1465           7 :   pari_sp av = avma;
    1466             :   GEN vw;
    1467           7 :   nf = checknf(nf);
    1468           7 :   vw = primes_certify(nf_get_disc(nf), nf_get_ramified_primes(nf));
    1469           7 :   return gerepilecopy(av, gel(vw,1));
    1470             : }
    1471             : 
    1472             : /* set *pro to roots of S->T */
    1473             : static GEN
    1474        9219 : get_red_G(nfmaxord_t *S, GEN *pro)
    1475             : {
    1476        9219 :   GEN G, u, u0 = NULL;
    1477             :   pari_sp av;
    1478        9219 :   long i, prec, n = degpol(S->T);
    1479             :   nffp_t F;
    1480             : 
    1481        9219 :   prec = nbits2prec(n+32);
    1482        9219 :   nffp_init(&F, S, prec);
    1483        9219 :   av = avma;
    1484        9219 :   for (i=1; ; i++)
    1485             :   {
    1486        9219 :     F.prec = prec; make_M_G(&F, 0); G = F.G;
    1487        9219 :     if (u0) G = RgM_mul(G, u0);
    1488        9219 :     if (DEBUGLEVEL)
    1489           0 :       err_printf("get_red_G: starting LLL, prec = %ld (%ld + %ld)\n",
    1490           0 :                   prec + F.extraprec, prec, F.extraprec);
    1491        9219 :     if ((u = lllfp(G, 0.99, LLL_KEEP_FIRST|LLL_COMPATIBLE)))
    1492             :     {
    1493        9219 :       if (lg(u)-1 == n) break;
    1494             :       /* singular ==> loss of accuracy */
    1495           0 :       if (u0) u0 = gerepileupto(av, RgM_mul(u0,u));
    1496           0 :       else    u0 = gerepilecopy(av, u);
    1497             :     }
    1498           0 :     prec = precdbl(prec) + nbits2extraprec(gexpo(u0));
    1499           0 :     F.ro = NULL;
    1500           0 :     if (DEBUGLEVEL) pari_warn(warnprec,"get_red_G", prec);
    1501           0 :   }
    1502        9219 :   if (u0) u = RgM_mul(u0,u);
    1503        9219 :   *pro = F.ro; return u;
    1504             : }
    1505             : 
    1506             : /* Compute an LLL-reduced basis for the integer basis of nf(T).
    1507             :  * set *pro = roots of x if computed [NULL if not computed] */
    1508             : static void
    1509       13867 : set_LLL_basis(nfmaxord_t *S, GEN *pro, double DELTA)
    1510             : {
    1511       13867 :   GEN B = S->basis;
    1512       13867 :   if (S->r1 < 0) S->r1 = ZX_sturm(S->T);
    1513       13867 :   if (!S->basden) S->basden = get_bas_den(B);
    1514       13867 :   if (S->r1 == degpol(S->T)) {
    1515        4648 :     pari_sp av = avma;
    1516        4648 :     GEN u = ZM_lll(make_Tr(S), DELTA,
    1517             :                    LLL_GRAM|LLL_KEEP_FIRST|LLL_IM|LLL_COMPATIBLE);
    1518        4648 :     B = gerepileupto(av, RgV_RgM_mul(B, u));
    1519        4648 :     *pro = NULL;
    1520             :   }
    1521             :   else
    1522        9219 :     B = RgV_RgM_mul(B, get_red_G(S, pro));
    1523       13867 :   S->basis = B;
    1524       13867 :   S->basden = get_bas_den(B);
    1525       13867 : }
    1526             : 
    1527             : /* = 1 iff |a| > |b| or equality and a > 0 */
    1528             : static int
    1529       11223 : cmpii_polred(GEN a, GEN b)
    1530             : {
    1531       11223 :   int fl = abscmpii(a, b);
    1532             :   long sa, sb;
    1533       11223 :   if (fl) return fl;
    1534        8856 :   sa = signe(a);
    1535        8856 :   sb = signe(b);
    1536        8856 :   if (sa == sb) return 0;
    1537          21 :   return sa == 1? 1: -1;
    1538             : }
    1539             : static int
    1540        3165 : ZX_cmp(GEN x, GEN y)
    1541        3165 : {  return gen_cmp_RgX((void*)cmpii_polred, x, y); }
    1542             : /* current best: ZX x of discriminant *dx, is ZX y better than x ?
    1543             :  * (if so update *dx); both x and y are monic */
    1544             : static int
    1545       18775 : ZX_is_better(GEN y, GEN x, GEN *dx)
    1546             : {
    1547       18775 :   GEN d = ZX_disc(y);
    1548             :   int cmp;
    1549       18775 :   if (!*dx) *dx = ZX_disc(x);
    1550       18775 :   cmp = abscmpii(d, *dx);
    1551       18775 :   if (cmp < 0) { *dx = d; return 1; }
    1552       17907 :   return cmp? 0: (ZX_cmp(y, x) < 0);
    1553             : }
    1554             : 
    1555             : static void polredbest_aux(nfmaxord_t *S, GEN *pro, GEN *px, GEN *pdx, GEN *pa);
    1556             : /* Seek a simpler, polynomial pol defining the same number field as
    1557             :  * x (assumed to be monic at this point) */
    1558             : static GEN
    1559         105 : nfpolred(nfmaxord_t *S, GEN *pro)
    1560             : {
    1561         105 :   GEN x = S->T, dx, b, rev;
    1562         105 :   long n = degpol(x), v = varn(x);
    1563             : 
    1564         105 :   if (n == 1) {
    1565          21 :     S->T = pol_x(v);
    1566          21 :     *pro = NULL;
    1567          21 :     return scalarpol_shallow(negi(gel(x,2)), v);
    1568             :   }
    1569          84 :   polredbest_aux(S, pro, &x, &dx, &b);
    1570          84 :   if (x == S->T) return NULL; /* no improvement */
    1571          63 :   if (DEBUGLEVEL>1) err_printf("xbest = %Ps\n",x);
    1572             : 
    1573             :   /* update T */
    1574          63 :   rev = QXQ_reverse(b, S->T);
    1575          63 :   S->basis = QXV_QXQ_eval(S->basis, rev, x);
    1576          63 :   S->index = sqrti( diviiexact(dx,S->dK) );
    1577          63 :   S->basden = get_bas_den(S->basis);
    1578          63 :   S->dT = dx;
    1579          63 :   S->T = x;
    1580          63 :   *pro = NULL; /* reset */
    1581          63 :   return rev;
    1582             : }
    1583             : 
    1584             : /* Either nf type or ZX or [monic ZX, data], where data is either an integral
    1585             :  * basis (deprecated), or listP data (nfbasis input format) to specify
    1586             :  * a set of primes at with the basis order must be maximal.
    1587             :  * 1) nf type (or unrecognized): return t_VEC
    1588             :  * 2) ZX or [ZX, listP]: return t_POL
    1589             :  * 3) [ZX, order basis]: return 0 (deprecated)
    1590             :  * incorrect: return -1 */
    1591             : static long
    1592       12460 : nf_input_type(GEN x)
    1593             : {
    1594             :   GEN T, V;
    1595             :   long i, d, v;
    1596       12460 :   switch(typ(x))
    1597             :   {
    1598       11354 :     case t_POL: return t_POL;
    1599             :     case t_VEC:
    1600        1099 :       if (lg(x) != 3) return t_VEC; /* nf or incorrect */
    1601        1085 :       T = gel(x,1); V = gel(x,2);
    1602        1085 :       if (typ(T) != t_POL) return -1;
    1603        1085 :       switch(typ(V))
    1604             :       {
    1605          35 :         case t_INT: case t_MAT: return t_POL;
    1606             :         case t_VEC: case t_COL:
    1607        1050 :           if (RgV_is_ZV(V)) return t_POL;
    1608        1015 :           break;
    1609           0 :         default: return -1;
    1610             :       }
    1611        1015 :       d = degpol(T); v = varn(T);
    1612        1015 :       if (d<1 || !RgX_is_ZX(T) || !isint1(gel(T,d+2)) || lg(V)-1!=d) return -1;
    1613        6573 :       for (i = 1; i <= d; i++)
    1614             :       { /* check integer basis */
    1615        5579 :         GEN c = gel(V,i);
    1616        5579 :         switch(typ(c))
    1617             :         {
    1618          28 :           case t_INT: break;
    1619        5551 :           case t_POL: if (varn(c) == v && RgX_is_QX(c) && degpol(c) < d) break;
    1620             :           /* fall through */
    1621          14 :           default: return -1;
    1622             :         }
    1623             :       }
    1624         994 :       return 0;
    1625             :   }
    1626           7 :   return t_VEC; /* nf or incorrect */
    1627             : }
    1628             : 
    1629             : /* cater for obsolete nf_PARTIALFACT flag */
    1630             : static void
    1631        1211 : nfinit_basic_partial(nfmaxord_t *S, GEN T)
    1632             : {
    1633        1211 :   if (typ(T) == t_POL) { nfmaxord(S, mkvec2(T,utoipos(500000)), 0); }
    1634          77 :   else nfinit_basic(S, T);
    1635        1211 : }
    1636             : /* true nf */
    1637             : static GEN
    1638         765 : nf_basden(GEN nf)
    1639             : {
    1640         765 :   GEN zkD = nf_get_zkprimpart(nf), D = nf_get_zkden(nf);
    1641         765 :   D = equali1(D)? NULL: const_vec(lg(zkD)-1, D);
    1642         765 :   return mkvec2(zkD, D);
    1643             : }
    1644             : void
    1645       12460 : nfinit_basic(nfmaxord_t *S, GEN T)
    1646             : {
    1647       12460 :   long t = nf_input_type(T);
    1648       12460 :   if (t == t_POL) { nfmaxord(S, T, 0); return; }
    1649        1036 :   S->dTP = S->dTE = S->dKE = S->basden = NULL;
    1650        1036 :   switch (t)
    1651             :   {
    1652             :     case t_VEC:
    1653             :     { /* nf, bnf, bnr */
    1654          21 :       GEN nf = checknf(T);
    1655          14 :       S->T = S->T0 = nf_get_pol(nf);
    1656          14 :       S->basis = nf_get_zk(nf); /* probably useless */
    1657          14 :       S->basden = nf_basden(nf);
    1658          14 :       S->index = nf_get_index(nf);
    1659          14 :       S->dK    = nf_get_disc(nf);
    1660          14 :       S->dKP = nf_get_ramified_primes(nf);
    1661          14 :       S->dT = mulii(S->dK, sqri(S->index));
    1662          14 :       S->r1 = nf_get_r1(nf); break;
    1663             :     }
    1664             :     case 0: /* monic integral polynomial + integer basis */
    1665         994 :       S->T = S->T0 = gel(T,1);
    1666         994 :       S->basis = gel(T,2);
    1667         994 :       S->index = NULL;
    1668         994 :       S->dK = NULL;
    1669         994 :       S->dKP = NULL;
    1670         994 :       S->dT = NULL;
    1671         994 :       S->r1 = -1; break;
    1672             :     default: /* -1 */
    1673          21 :       pari_err_TYPE("nfbasic_init", T);
    1674           0 :       return;
    1675             :   }
    1676        1008 :   S->unscale = gen_1;
    1677             : }
    1678             : 
    1679             : GEN
    1680       12670 : nfinit_complete(nfmaxord_t *S, long flag, long prec)
    1681             : {
    1682             :   GEN nf, unscale;
    1683             : 
    1684       12670 :   if (!ZX_is_irred(S->T)) pari_err_IRREDPOL("nfinit",S->T);
    1685       12670 :   if (!(flag & nf_RED) && !ZX_is_monic(S->T0))
    1686             :   {
    1687          56 :     pari_warn(warner,"non-monic polynomial. Result of the form [nf,c]");
    1688          56 :     flag |= nf_RED | nf_ORIG;
    1689             :   }
    1690       12670 :   unscale = S->unscale;
    1691       12670 :   if (!(flag & nf_RED) && !isint1(unscale))
    1692             :   { /* implies lc(x0) = 1 and L := 1/unscale is integral */
    1693         175 :     long d = degpol(S->T0);
    1694         175 :     GEN L = ginv(unscale); /* x = L^(-deg(x)) x0(L X) */
    1695         175 :     GEN f= powiu(L, (d*(d-1)) >> 1);
    1696         175 :     S->T = S->T0; /* restore original user-supplied x0, unscale data */
    1697         175 :     S->unscale = gen_1;
    1698         175 :     S->dT    = gmul(S->dT, sqri(f));
    1699         175 :     S->basis   = RgXV_unscale(S->basis, unscale);
    1700         175 :     S->index = gmul(S->index, f);
    1701             :   }
    1702       12670 :   nfmaxord_complete(S); /* more expensive after set_LLL_basis */
    1703       12670 :   if (flag & nf_RED)
    1704             :   {
    1705             :     GEN ro, rev;
    1706             :     /* lie to polred: more efficient to update *after* modreverse, than to
    1707             :      * unscale in the polred subsystem */
    1708         105 :     S->unscale = gen_1;
    1709         105 :     rev = nfpolred(S, &ro);
    1710         105 :     nf = nfmaxord_to_nf(S, ro, prec);
    1711         105 :     if (flag & nf_ORIG)
    1712             :     {
    1713          77 :       if (!rev) rev = pol_x(varn(S->T)); /* no improvement */
    1714          77 :       if (!isint1(unscale)) rev = RgX_Rg_div(rev, unscale);
    1715          77 :       nf = mkvec2(nf, mkpolmod(rev, S->T));
    1716             :     }
    1717         105 :     S->unscale = unscale; /* restore */
    1718             :   } else {
    1719       12565 :     GEN ro; set_LLL_basis(S, &ro, 0.99);
    1720       12565 :     nf = nfmaxord_to_nf(S, ro, prec);
    1721             :   }
    1722       12670 :   return nf;
    1723             : }
    1724             : /* Initialize the number field defined by the polynomial x (in variable v)
    1725             :  * flag & nf_RED:     try a polred first.
    1726             :  * flag & nf_ORIG
    1727             :  *    do a polred and return [nfinit(x), Mod(a,red)], where
    1728             :  *    Mod(a,red) = Mod(v,x) (i.e return the base change). */
    1729             : GEN
    1730        4011 : nfinitall(GEN x, long flag, long prec)
    1731             : {
    1732        4011 :   const pari_sp av = avma;
    1733             :   nfmaxord_t S;
    1734             :   GEN nf;
    1735             : 
    1736        4011 :   if (checkrnf_i(x)) return rnf_build_nfabs(x, prec);
    1737        4004 :   nfinit_basic(&S, x);
    1738        3976 :   nf = nfinit_complete(&S, flag, prec);
    1739        3976 :   return gerepilecopy(av, nf);
    1740             : }
    1741             : 
    1742             : GEN
    1743           0 : nfinitred(GEN x, long prec)  { return nfinitall(x, nf_RED, prec); }
    1744             : GEN
    1745           0 : nfinitred2(GEN x, long prec) { return nfinitall(x, nf_RED|nf_ORIG, prec); }
    1746             : GEN
    1747        1806 : nfinit(GEN x, long prec)     { return nfinitall(x, 0, prec); }
    1748             : 
    1749             : GEN
    1750        2205 : nfinit0(GEN x, long flag,long prec)
    1751             : {
    1752        2205 :   switch(flag)
    1753             :   {
    1754             :     case 0:
    1755        2170 :     case 1: return nfinitall(x,0,prec);
    1756          14 :     case 2: case 4: return nfinitall(x,nf_RED,prec);
    1757          21 :     case 3: case 5: return nfinitall(x,nf_RED|nf_ORIG,prec);
    1758           0 :     default: pari_err_FLAG("nfinit");
    1759             :   }
    1760             :   return NULL; /* LCOV_EXCL_LINE */
    1761             : }
    1762             : 
    1763             : /* assume x a bnr/bnf/nf */
    1764             : long
    1765       99853 : nf_get_prec(GEN x)
    1766             : {
    1767       99853 :   GEN nf = checknf(x), ro = nf_get_roots(nf);
    1768       99853 :   return (typ(ro)==t_VEC)? precision(gel(ro,1)): DEFAULTPREC;
    1769             : }
    1770             : 
    1771             : /* true nf */
    1772             : GEN
    1773         751 : nfnewprec_shallow(GEN nf, long prec)
    1774             : {
    1775         751 :   GEN m, NF = leafcopy(nf);
    1776             :   nffp_t F;
    1777             : 
    1778         751 :   F.T  = nf_get_pol(nf);
    1779         751 :   F.ro = NULL;
    1780         751 :   F.r1 = nf_get_r1(nf);
    1781         751 :   F.basden = nf_basden(nf);
    1782         751 :   F.extraprec = -1;
    1783         751 :   F.prec = prec; make_M_G(&F, 1);
    1784         751 :   gel(NF,5) = m = leafcopy(gel(NF,5));
    1785         751 :   gel(m,1) = F.M;
    1786         751 :   gel(m,2) = F.G;
    1787         751 :   gel(NF,6) = F.ro; return NF;
    1788             : }
    1789             : 
    1790             : GEN
    1791          63 : nfnewprec(GEN nf, long prec)
    1792             : {
    1793             :   GEN z;
    1794          63 :   switch(nftyp(nf))
    1795             :   {
    1796          49 :     default: pari_err_TYPE("nfnewprec", nf);
    1797           7 :     case typ_BNF: z = bnfnewprec(nf,prec); break;
    1798           7 :     case typ_BNR: z = bnrnewprec(nf,prec); break;
    1799             :     case typ_NF: {
    1800           0 :       pari_sp av = avma;
    1801           0 :       z = gerepilecopy(av, nfnewprec_shallow(checknf(nf), prec));
    1802           0 :       break;
    1803             :     }
    1804             :   }
    1805          14 :   return z;
    1806             : }
    1807             : 
    1808             : /********************************************************************/
    1809             : /**                                                                **/
    1810             : /**                           POLRED                               **/
    1811             : /**                                                                **/
    1812             : /********************************************************************/
    1813             : GEN
    1814           0 : embednorm_T2(GEN x, long r1)
    1815             : {
    1816           0 :   pari_sp av = avma;
    1817           0 :   GEN p = RgV_sumpart(x, r1);
    1818           0 :   GEN q = RgV_sumpart2(x,r1+1, lg(x)-1);
    1819           0 :   if (q != gen_0) p = gadd(p, gmul2n(q,1));
    1820           0 :   return avma == av? gcopy(p): gerepileupto(av, p);
    1821             : }
    1822             : 
    1823             : /* simplified version of gnorm for scalar, non-complex inputs, without GC */
    1824             : static GEN
    1825       11592 : real_norm(GEN x)
    1826             : {
    1827       11592 :   switch(typ(x))
    1828             :   {
    1829           0 :     case t_INT:  return sqri(x);
    1830       11592 :     case t_REAL: return sqrr(x);
    1831           0 :     case t_FRAC: return sqrfrac(x);
    1832             :   }
    1833           0 :   pari_err_TYPE("real_norm", x);
    1834           0 :   return NULL;
    1835             : }
    1836             : /* simplified version of gnorm, without GC */
    1837             : static GEN
    1838     2909407 : complex_norm(GEN x)
    1839             : {
    1840     2909407 :   return typ(x) == t_COMPLEX? cxnorm(x): real_norm(x);
    1841             : }
    1842             : /* return T2(x), argument r1 needed in case x has components whose type
    1843             :  * is unexpected, e.g. all of them t_INT for embed(gen_1) */
    1844             : GEN
    1845        2325 : embed_T2(GEN x, long r1)
    1846             : {
    1847        2325 :   pari_sp av = avma;
    1848        2325 :   long i, l = lg(x);
    1849        2325 :   GEN c, s = NULL, t = NULL;
    1850        2325 :   if (typ(gel(x,1)) == t_INT) return muliu(gel(x,1), 2*(l-1)-r1);
    1851       13917 :   for (i = 1; i <= r1; i++)
    1852             :   {
    1853       11592 :     c = real_norm(gel(x,i));
    1854       11592 :     s = s? gadd(s, c): c;
    1855             :   }
    1856        8368 :   for (; i < l; i++)
    1857             :   {
    1858        6043 :     c = complex_norm(gel(x,i));
    1859        6043 :     t = t? gadd(t, c): c;
    1860             :   }
    1861        2325 :   if (t) { t = gmul2n(t,1); s = s? gadd(s,t): t; }
    1862        2325 :   return gerepileupto(av, s);
    1863             : }
    1864             : /* return N(x) */
    1865             : GEN
    1866     1338822 : embed_norm(GEN x, long r1)
    1867             : {
    1868     1338822 :   pari_sp av = avma;
    1869     1338822 :   long i, l = lg(x);
    1870     1338822 :   GEN c, s = NULL, t = NULL;
    1871     1338822 :   if (typ(gel(x,1)) == t_INT) return powiu(gel(x,1), 2*(l-1)-r1);
    1872     3003906 :   for (i = 1; i <= r1; i++)
    1873             :   {
    1874     1669118 :     c = gel(x,i);
    1875     1669118 :     s = s? gmul(s, c): c;
    1876             :   }
    1877     4238152 :   for (; i < l; i++)
    1878             :   {
    1879     2903364 :     c = complex_norm(gel(x,i));
    1880     2903364 :     t = t? gmul(t, c): c;
    1881             :   }
    1882     1334788 :   if (t) s = s? gmul(s,t): t;
    1883     1334788 :   return gerepileupto(av, s);
    1884             : }
    1885             : 
    1886             : typedef struct {
    1887             :   long r1, v, prec;
    1888             :   GEN ZKembed; /* embeddings of fincke-pohst-reduced Zk basis */
    1889             :   GEN u; /* matrix giving fincke-pohst-reduced Zk basis */
    1890             :   GEN M; /* embeddings of initial (LLL-reduced) Zk basis */
    1891             :   GEN bound; /* T2 norm of the polynomial defining nf */
    1892             :   long expo_best_disc; /* expo(disc(x)), best generator so far */
    1893             : } CG_data;
    1894             : 
    1895             : /* characteristic pol of x (given by embeddings) */
    1896             : static GEN
    1897       40073 : get_pol(CG_data *d, GEN x)
    1898             : {
    1899             :   long e;
    1900       40073 :   GEN g = grndtoi(roots_to_pol_r1(x, d->v, d->r1), &e);
    1901       40073 :   return (e > -5)? NULL: g;
    1902             : }
    1903             : 
    1904             : /* characteristic pol of x (given as vector on (w_i)) */
    1905             : static GEN
    1906       25083 : get_polchar(CG_data *d, GEN x)
    1907       25083 : { return get_pol(d, RgM_RgC_mul(d->ZKembed,x)); }
    1908             : 
    1909             : /* Choose a canonical polynomial in the pair { Pmin_a, Pmin_{-a} }, i.e.
    1910             :  * { z(X), (-1)^(deg z) z(-Z) } and keeping the smallest wrt cmpii_polred
    1911             :  * Either leave z alone (return 1) or set z <- (-1)^n z(-X). In place. */
    1912             : static int
    1913       25146 : ZX_canon_neg(GEN z)
    1914             : {
    1915             :   long i, s;
    1916      224158 :   for (i = lg(z)-2; i >= 2; i -= 2)
    1917             :   { /* examine the odd (resp. even) part of z if deg(z) even (resp. odd). */
    1918      106612 :     s = signe(gel(z,i));
    1919      106612 :     if (!s) continue;
    1920             :     /* non trivial */
    1921       19679 :     if (s < 0) break; /* z(X) < (-1)^n z(-X) */
    1922             : 
    1923        9016 :     for (; i>=2; i-=2) gel(z,i) = negi(gel(z,i));
    1924        9016 :     return 1;
    1925             :   }
    1926       16130 :   return 0;
    1927             : }
    1928             : /* return a defining polynomial for Q(alpha), v = embeddings of alpha.
    1929             :  * Return NULL on failure: discriminant too large or non primitive */
    1930             : static GEN
    1931       20328 : try_polmin(CG_data *d, nfmaxord_t *S, GEN v, long flag, GEN *ai)
    1932             : {
    1933       20328 :   const long best = flag & nf_ABSOLUTE;
    1934             :   long ed;
    1935       20328 :   pari_sp av = avma;
    1936             :   GEN g;
    1937       20328 :   if (best)
    1938             :   {
    1939       19453 :     ed = expo(embed_disc(v, d->r1, LOWDEFAULTPREC));
    1940       19453 :     avma = av; if (d->expo_best_disc < ed) return NULL;
    1941             :   }
    1942             :   else
    1943         875 :     ed = 0;
    1944       11669 :   g = get_pol(d, v);
    1945             :   /* accuracy too low, compute algebraically */
    1946       11669 :   if (!g) { avma = av; g = ZXQ_charpoly(*ai, S->T, varn(S->T)); }
    1947       11669 :   g = ZX_radical(g);
    1948       11669 :   if (best && degpol(g) != degpol(S->T)) { avma = av; return NULL; }
    1949        4697 :   g = gerepilecopy(av, g);
    1950        4697 :   d->expo_best_disc = ed;
    1951        4697 :   if (flag & nf_ORIG)
    1952             :   {
    1953        1022 :     if (ZX_canon_neg(g)) *ai = RgX_neg(*ai);
    1954        1022 :     if (!isint1(S->unscale)) *ai = RgX_unscale(*ai, S->unscale);
    1955             :   }
    1956             :   else
    1957        3675 :     (void)ZX_canon_neg(g);
    1958        4697 :   if (DEBUGLEVEL>3) err_printf("polred: generator %Ps\n", g);
    1959        4697 :   return g;
    1960             : }
    1961             : 
    1962             : /* does x generate the correct field ? */
    1963             : static GEN
    1964       25083 : chk_gen(void *data, GEN x)
    1965             : {
    1966       25083 :   pari_sp av = avma, av1;
    1967       25083 :   GEN h, g = get_polchar((CG_data*)data,x);
    1968       25083 :   if (!g) pari_err_PREC("chk_gen");
    1969       25083 :   av1 = avma;
    1970       25083 :   h = ZX_gcd(g, ZX_deriv(g));
    1971       25083 :   if (degpol(h)) { avma = av; return NULL; }
    1972       20491 :   if (DEBUGLEVEL>3) err_printf("  generator: %Ps\n",g);
    1973       20491 :   avma = av1; return gerepileupto(av, g);
    1974             : }
    1975             : 
    1976             : static long
    1977        1827 : chk_gen_prec(long N, long bit)
    1978        1827 : { return nbits2prec(10 + (long)log2((double)N) + bit); }
    1979             : 
    1980             : /* v = [P,A] two vectors (of ZX and ZV resp.) of same length; remove duplicate
    1981             :  * polynomials in P, updating A, in place. Among elements having the same
    1982             :  * characteristic pol, choose the smallest according to ZV_abscmp */
    1983             : static void
    1984         525 : remove_duplicates(GEN v)
    1985             : {
    1986         525 :   GEN x, a, P = gel(v,1), A = gel(v,2);
    1987         525 :   long k, i, l = lg(P);
    1988         525 :   pari_sp av = avma;
    1989             : 
    1990        1050 :   if (l < 2) return;
    1991         525 :   (void)sort_factor_pol(mkmat2(P, A), cmpii);
    1992         525 :   x = gel(P,1); a = gel(A,1);
    1993       20449 :   for  (k=1,i=2; i<l; i++)
    1994       19924 :     if (ZX_equal(gel(P,i), x))
    1995             :     {
    1996        3557 :       if (ZV_abscmp(gel(A,i), a) < 0) a = gel(A,i);
    1997             :     }
    1998             :     else
    1999             :     {
    2000       16367 :       gel(A,k) = a;
    2001       16367 :       gel(P,k) = x;
    2002       16367 :       k++;
    2003       16367 :       x = gel(P,i); a = gel(A,i);
    2004             :     }
    2005         525 :   l = k+1;
    2006         525 :   gel(A,k) = a; setlg(A,l);
    2007         525 :   gel(P,k) = x; setlg(P,l); avma = av;
    2008             : }
    2009             : 
    2010             : static long
    2011        1302 : polred_init(nfmaxord_t *S, nffp_t *F, CG_data *d)
    2012             : {
    2013        1302 :   long e, prec, n = degpol(S->T);
    2014             :   double log2rho;
    2015             :   GEN ro;
    2016        1302 :   set_LLL_basis(S, &ro, 0.9999);
    2017             :   /* || polchar ||_oo < 2^e ~ 2 (n * rho)^n, rho = max modulus of root */
    2018        1302 :   log2rho = ro ? (double)gexpo(ro): fujiwara_bound(S->T);
    2019        1302 :   e = n * (long)(log2rho + log2((double)n)) + 1;
    2020        1302 :   if (e < 0) e = 0; /* can occur if n = 1 */
    2021        1302 :   prec = chk_gen_prec(n, e);
    2022        1302 :   nffp_init(F,S,prec);
    2023        1302 :   F->ro = ro;
    2024        1302 :   make_M_G(F, 1);
    2025             : 
    2026        1302 :   d->v = varn(S->T);
    2027        1302 :   d->expo_best_disc = -1;
    2028        1302 :   d->ZKembed = NULL;
    2029        1302 :   d->M = NULL;
    2030        1302 :   d->u = NULL;
    2031        1302 :   d->r1= S->r1; return prec;
    2032             : }
    2033             : static GEN
    2034         532 : findmindisc(GEN y, GEN *pa)
    2035             : {
    2036         532 :   GEN a = *pa, x = gel(y,1), b = gel(a,1), dx = NULL;
    2037         532 :   long i, l = lg(y);
    2038       14778 :   for (i = 2; i < l; i++)
    2039             :   {
    2040       14246 :     GEN yi = gel(y,i);
    2041       14246 :     if (ZX_is_better(yi,x,&dx)) { x = yi; b = gel(a,i); }
    2042             :   }
    2043         532 :   *pa = b; return x;
    2044             : }
    2045             : /* filter [y,b] from polred_aux: keep a single polynomial of degree n in y
    2046             :  * [ the best wrt discriminant ordering ], but keep all non-primitive
    2047             :  * polynomials */
    2048             : static void
    2049         777 : filter(GEN y, GEN b, long n)
    2050             : {
    2051             :   GEN x, a, dx;
    2052         777 :   long i, k = 1, l = lg(y);
    2053         777 :   a = x = dx = NULL;
    2054        5537 :   for (i = 1; i < l; i++)
    2055             :   {
    2056        4760 :     GEN yi = gel(y,i), ai = gel(b,i);
    2057        4760 :     if (degpol(yi) == n)
    2058             :     {
    2059        4592 :       pari_sp av = avma;
    2060        4592 :       if (!dx) dx = ZX_disc(yi);
    2061        3815 :       else if (!ZX_is_better(yi,x,&dx)) { avma = av; continue; }
    2062        1064 :       x = yi; a = ai; continue;
    2063             :     }
    2064         168 :     gel(y,k) = yi;
    2065         168 :     gel(b,k) = ai; k++;
    2066             :   }
    2067         777 :   if (dx)
    2068             :   {
    2069         777 :     gel(y,k) = x;
    2070         777 :     gel(b,k) = a; k++;
    2071             :   }
    2072         777 :   setlg(y, k);
    2073         777 :   setlg(b, k);
    2074         777 : }
    2075             : 
    2076             : static GEN
    2077         805 : polred_aux(nfmaxord_t *S, GEN *pro, long flag)
    2078             : { /* only keep polynomials of max degree and best discriminant */
    2079         805 :   const long best = flag & nf_ABSOLUTE;
    2080         805 :   const long orig = flag & nf_ORIG;
    2081         805 :   GEN M, b, y, x = S->T;
    2082         805 :   long maxi, i, j, k, v = varn(x), n = lg(S->basis)-1;
    2083             :   nffp_t F;
    2084             :   CG_data d;
    2085             : 
    2086         805 :   if (n == 1)
    2087             :   {
    2088          28 :     if (!best)
    2089             :     {
    2090          14 :       GEN X = pol_x(v);
    2091          14 :       return orig? mkmat2(mkcol(X),mkcol(gen_1)): mkvec(X);
    2092             :     }
    2093             :     else
    2094          14 :       return orig? trivial_fact(): cgetg(1,t_VEC);
    2095             :   }
    2096             : 
    2097         777 :   (void)polred_init(S, &F, &d);
    2098         777 :   *pro = F.ro;
    2099         777 :   M = F.M;
    2100         777 :   if (best)
    2101             :   {
    2102         714 :     if (!S->dT) S->dT = ZX_disc(S->T);
    2103         714 :     d.expo_best_disc = expi(S->dT);
    2104             :   }
    2105             : 
    2106             :   /* n + 2 sum_{1 <= i <= n} n-i = n + n(n-1) = n*n */
    2107         777 :   y = cgetg(n*n + 1, t_VEC);
    2108         777 :   b = cgetg(n*n + 1, t_COL);
    2109         777 :   k = 1;
    2110         777 :   if (!best) { gel(y,1) = pol_x(v); gel(b,1) = gen_0; k++; }
    2111        4291 :   for (i = 2; i <= n; i++)
    2112             :   {
    2113             :     GEN ch, ai;
    2114        3514 :     ai = gel(S->basis,i);
    2115        3514 :     ch = try_polmin(&d, S, gel(M,i), flag, &ai);
    2116        3514 :     if (ch) { gel(y,k) = ch; gel(b,k) = ai; k++; }
    2117             :   }
    2118         777 :   maxi = minss(n, 3);
    2119        2912 :   for (i = 1; i <= maxi; i++)
    2120       10542 :     for (j = i+1; j <= n; j++)
    2121             :     {
    2122             :       GEN ch, ai, v;
    2123        8407 :       ai = gadd(gel(S->basis,i), gel(S->basis,j));
    2124        8407 :       v = RgV_add(gel(M,i), gel(M,j));
    2125             :       /* defining polynomial for Q(w_i+w_j) */
    2126        8407 :       ch = try_polmin(&d, S, v, flag, &ai);
    2127        8407 :       if (ch) { gel(y,k) = ch; gel(b,k) = ai; k++; }
    2128             : 
    2129        8407 :       ai = gsub(gel(S->basis,i), gel(S->basis,j));
    2130        8407 :       v = RgV_sub(gel(M,i), gel(M,j));
    2131             :       /* defining polynomial for Q(w_i-w_j) */
    2132        8407 :       ch = try_polmin(&d, S, v, flag, &ai);
    2133        8407 :       if (ch) { gel(y,k) = ch; gel(b,k) = ai; k++; }
    2134             :     }
    2135         777 :   setlg(y, k);
    2136         777 :   setlg(b, k); filter(y, b, n);
    2137         777 :   if (!orig) return gen_sort_uniq(y, (void*)cmpii, &gen_cmp_RgX);
    2138         154 :   (void)sort_factor_pol(mkmat2(y, b), cmpii);
    2139         154 :   settyp(y, t_COL); return mkmat2(b, y);
    2140             : }
    2141             : 
    2142             : /* FIXME: obsolete */
    2143             : static GEN
    2144          84 : Polred(GEN x, long flag, GEN fa)
    2145             : {
    2146          84 :   pari_sp av = avma;
    2147             :   GEN ro;
    2148             :   nfmaxord_t S;
    2149          84 :   if (fa)
    2150          14 :     nfinit_basic(&S, mkvec2(x,fa));
    2151          70 :   else if (flag & nf_PARTIALFACT)
    2152          28 :     nfinit_basic_partial(&S, x);
    2153             :   else
    2154          42 :     nfinit_basic(&S, x);
    2155          77 :   return gerepilecopy(av, polred_aux(&S, &ro, flag));
    2156             : }
    2157             : 
    2158             : /* finds "best" polynomial in polred_aux list, defaulting to S->T if none of
    2159             :  * them is primitive. *px is the ZX, characteristic polynomial of Mod(*pb,S->T),
    2160             :  * *pdx its discriminant. Set *pro = polroots(S->T) [ NOT *px ]. */
    2161             : static void
    2162         728 : polredbest_aux(nfmaxord_t *S, GEN *pro, GEN *px, GEN *pdx, GEN *pb)
    2163             : {
    2164         728 :   GEN y, x = S->T; /* default value */
    2165             :   long i, l;
    2166         728 :   y = polred_aux(S, pro, pb? nf_ORIG|nf_ABSOLUTE: nf_ABSOLUTE);
    2167         728 :   *pdx = S->dT;
    2168         728 :   if (pb)
    2169             :   {
    2170         140 :     GEN a, b = deg1pol_shallow(S->unscale, gen_0, varn(x));
    2171         140 :     a = gel(y,1); l = lg(a);
    2172         140 :     y = gel(y,2);
    2173         273 :     for (i=1; i<l; i++)
    2174             :     {
    2175         133 :       GEN yi = gel(y,i);
    2176         133 :       pari_sp av = avma;
    2177         133 :       if (ZX_is_better(yi,x,pdx)) { x = yi; b = gel(a,i); } else avma = av;
    2178             :     }
    2179         140 :     *pb = b;
    2180             :   }
    2181             :   else
    2182             :   {
    2183         588 :     l = lg(y);
    2184        1169 :     for (i=1; i<l; i++)
    2185             :     {
    2186         581 :       GEN yi = gel(y,i);
    2187         581 :       pari_sp av = avma;
    2188         581 :       if (ZX_is_better(yi,x,pdx)) x = yi; else avma = av;
    2189             :     }
    2190             :   }
    2191         728 :   if (!*pdx) *pdx = ZX_disc(x);
    2192         728 :   *px = x;
    2193         728 : }
    2194             : GEN
    2195         616 : polredbest(GEN T0, long flag)
    2196             : {
    2197         616 :   pari_sp av = avma;
    2198             :   GEN T, dT, ro, a;
    2199             :   nfmaxord_t S;
    2200         616 :   if (flag < 0 || flag > 1) pari_err_FLAG("polredbest");
    2201         616 :   T = T0; nfinit_basic_partial(&S, T);
    2202         616 :   polredbest_aux(&S, &ro, &T, &dT, flag? &a: NULL);
    2203         616 :   if (flag)
    2204             :   { /* charpoly(Mod(a,T0)) = T */
    2205             :     GEN b;
    2206          28 :     if (T0 == T)
    2207           0 :       b = pol_x(varn(T)); /* no improvement */
    2208             :     else
    2209          28 :       b = QXQ_reverse(a, T0); /* charpoly(Mod(b,T)) = S.x */
    2210          28 :     b = (degpol(T) == 1)? gmodulo(b, T): mkpolmod(b,T);
    2211          28 :     T = mkvec2(T, b);
    2212             :   }
    2213         616 :   return gerepilecopy(av, T);
    2214             : }
    2215             : /* DEPRECATED: backward compatibility */
    2216             : GEN
    2217          70 : polred0(GEN x, long flag, GEN fa)
    2218             : {
    2219          70 :   long fl = 0;
    2220          70 :   if (flag & 1) fl |= nf_PARTIALFACT;
    2221          70 :   if (flag & 2) fl |= nf_ORIG;
    2222          70 :   return Polred(x, fl, fa);
    2223             : }
    2224             : 
    2225             : GEN
    2226          21 : polredord(GEN x)
    2227             : {
    2228          21 :   pari_sp av = avma;
    2229             :   GEN v, lt;
    2230             :   long i, n, vx;
    2231             : 
    2232          21 :   if (typ(x) != t_POL) pari_err_TYPE("polredord",x);
    2233          21 :   x = Q_primpart(x); RgX_check_ZX(x,"polredord");
    2234          21 :   n = degpol(x); if (n <= 0) pari_err_CONSTPOL("polredord");
    2235          21 :   if (n == 1) return gerepilecopy(av, mkvec(x));
    2236          14 :   lt = leading_coeff(x); vx = varn(x);
    2237          14 :   if (is_pm1(lt))
    2238             :   {
    2239           7 :     if (signe(lt) < 0) x = ZX_neg(x);
    2240           7 :     v = pol_x_powers(n, vx);
    2241             :   }
    2242             :   else
    2243             :   { GEN L;
    2244             :     /* basis for Dedekind order */
    2245           7 :     v = cgetg(n+1, t_VEC);
    2246           7 :     gel(v,1) = scalarpol_shallow(lt, vx);
    2247          14 :     for (i = 2; i <= n; i++)
    2248           7 :       gel(v,i) = RgX_Rg_add(RgX_mulXn(gel(v,i-1), 1), gel(x,n+3-i));
    2249           7 :     gel(v,1) = pol_1(vx);
    2250           7 :     x = ZX_Q_normalize(x, &L);
    2251           7 :     v = gsubst(v, vx, monomial(ginv(L),1,vx));
    2252          14 :     for (i=2; i <= n; i++)
    2253           7 :       if (Q_denom(gel(v,i)) == gen_1) gel(v,i) = pol_xn(i-1, vx);
    2254             :   }
    2255          14 :   return gerepileupto(av, polred(mkvec2(x, v)));
    2256             : }
    2257             : 
    2258             : GEN
    2259          14 : polred(GEN x) { return Polred(x, 0, NULL); }
    2260             : GEN
    2261           0 : smallpolred(GEN x) { return Polred(x, nf_PARTIALFACT, NULL); }
    2262             : GEN
    2263           0 : factoredpolred(GEN x, GEN fa) { return Polred(x, 0, fa); }
    2264             : GEN
    2265           0 : polred2(GEN x) { return Polred(x, nf_ORIG, NULL); }
    2266             : GEN
    2267           0 : smallpolred2(GEN x) { return Polred(x, nf_PARTIALFACT|nf_ORIG, NULL); }
    2268             : GEN
    2269           0 : factoredpolred2(GEN x, GEN fa) { return Polred(x, nf_PARTIALFACT, fa); }
    2270             : 
    2271             : /********************************************************************/
    2272             : /**                                                                **/
    2273             : /**                           POLREDABS                            **/
    2274             : /**                                                                **/
    2275             : /********************************************************************/
    2276             : /* set V[k] := matrix of multiplication by nk.zk[k] */
    2277             : static GEN
    2278        1561 : set_mulid(GEN V, GEN M, GEN Mi, long r1, long r2, long N, long k)
    2279             : {
    2280        1561 :   GEN v, Mk = cgetg(N+1, t_MAT);
    2281             :   long i, e;
    2282        1561 :   for (i = 1; i < k; i++) gel(Mk,i) = gmael(V, i, k);
    2283       13594 :   for (     ; i <=N; i++)
    2284             :   {
    2285       12033 :     v = vecmul(gel(M,k), gel(M,i));
    2286       12033 :     v = RgM_RgC_mul(Mi, split_realimag(v, r1, r2));
    2287       12033 :     gel(Mk,i) = grndtoi(v, &e);
    2288       12033 :     if (e > -5) return NULL;
    2289             :   }
    2290        1561 :   gel(V,k) = Mk; return Mk;
    2291             : }
    2292             : 
    2293             : static GEN
    2294        1504 : ZM_image_shallow(GEN M, long *pr)
    2295             : {
    2296             :   long j, k, r;
    2297        1504 :   GEN y, d = ZM_pivots(M, &k);
    2298        1504 :   r = lg(M)-1 - k;
    2299        1504 :   y = cgetg(r+1,t_MAT);
    2300       10886 :   for (j=k=1; j<=r; k++)
    2301        9382 :     if (d[k]) gel(y,j++) = gel(M,k);
    2302        1504 :   *pr = r; return y;
    2303             : }
    2304             : 
    2305             : /* U = base change matrix, R = Cholesky form of the quadratic form [matrix
    2306             :  * Q from algo 2.7.6] */
    2307             : static GEN
    2308         533 : chk_gen_init(FP_chk_fun *chk, GEN R, GEN U)
    2309             : {
    2310         533 :   CG_data *d = (CG_data*)chk->data;
    2311             :   GEN P, V, D, inv, bound, S, M;
    2312         533 :   long N = lg(U)-1, r1 = d->r1, r2 = (N-r1)>>1;
    2313         533 :   long i, j, prec, firstprim = 0, skipfirst = 0;
    2314             :   pari_sp av;
    2315             : 
    2316         533 :   d->u = U;
    2317         533 :   d->ZKembed = M = RgM_mul(d->M, U);
    2318             : 
    2319         533 :   av = avma; bound = d->bound;
    2320         533 :   D = cgetg(N+1, t_VECSMALL);
    2321        3832 :   for (i = 1; i <= N; i++)
    2322             :   {
    2323        3307 :     pari_sp av2 = avma;
    2324        3307 :     P = get_pol(d, gel(M,i));
    2325        3307 :     if (!P) pari_err_PREC("chk_gen_init");
    2326        3299 :     P = gerepilecopy(av2, ZX_radical(P));
    2327        3299 :     D[i] = degpol(P);
    2328        3299 :     if (D[i] == N)
    2329             :     { /* primitive element */
    2330        1590 :       GEN B = embed_T2(gel(M,i), r1);
    2331        1590 :       if (!firstprim) firstprim = i; /* index of first primitive element */
    2332        1590 :       if (DEBUGLEVEL>2) err_printf("chk_gen_init: generator %Ps\n",P);
    2333        1590 :       if (gcmp(B,bound) < 0) bound = gerepileuptoleaf(av2, B);
    2334             :     }
    2335             :     else
    2336             :     {
    2337        1709 :       if (DEBUGLEVEL>2) err_printf("chk_gen_init: subfield %Ps\n",P);
    2338        1709 :       if (firstprim)
    2339             :       { /* cycle basis vectors so that primitive elements come last */
    2340         200 :         GEN u = d->u, e = M;
    2341         200 :         GEN te = gel(e,i), tu = gel(u,i), tR = gel(R,i);
    2342         200 :         long tS = D[i];
    2343         543 :         for (j = i; j > firstprim; j--)
    2344             :         {
    2345         343 :           u[j] = u[j-1];
    2346         343 :           e[j] = e[j-1];
    2347         343 :           R[j] = R[j-1];
    2348         343 :           D[j] = D[j-1];
    2349             :         }
    2350         200 :         gel(u,firstprim) = tu;
    2351         200 :         gel(e,firstprim) = te;
    2352         200 :         gel(R,firstprim) = tR;
    2353         200 :         D[firstprim] = tS; firstprim++;
    2354             :       }
    2355             :     }
    2356             :   }
    2357         525 :   if (!firstprim)
    2358             :   { /* try (a little) to find primitive elements to improve bound */
    2359          21 :     GEN x = cgetg(N+1, t_VECSMALL);
    2360          21 :     if (DEBUGLEVEL>1)
    2361           0 :       err_printf("chk_gen_init: difficult field, trying random elements\n");
    2362         231 :     for (i = 0; i < 10; i++)
    2363             :     {
    2364             :       GEN e, B;
    2365         210 :       for (j = 1; j <= N; j++) x[j] = (long)random_Fl(7) - 3;
    2366         210 :       e = RgM_zc_mul(M, x);
    2367         210 :       B = embed_T2(e, r1);
    2368         210 :       if (gcmp(B,bound) >= 0) continue;
    2369          14 :       P = get_pol(d, e); if (!P) pari_err_PREC( "chk_gen_init");
    2370          14 :       if (!ZX_is_squarefree(P)) continue;
    2371          14 :       if (DEBUGLEVEL>2) err_printf("chk_gen_init: generator %Ps\n",P);
    2372          14 :       bound = B ;
    2373             :     }
    2374             :   }
    2375             : 
    2376         525 :   if (firstprim != 1)
    2377             :   {
    2378         525 :     inv = ginv( split_realimag(M, r1, r2) ); /*TODO: use QR?*/
    2379         525 :     V = gel(inv,1);
    2380         525 :     for (i = 2; i <= r1+r2; i++) V = gadd(V, gel(inv,i));
    2381             :     /* V corresponds to 1_Z */
    2382         525 :     V = grndtoi(V, &j);
    2383         525 :     if (j > -5) pari_err_BUG("precision too low in chk_gen_init");
    2384         525 :     S = mkmat(V); /* 1 */
    2385             : 
    2386         525 :     V = cgetg(N+1, t_VEC);
    2387        1862 :     for (i = 1; i <= N; i++,skipfirst++)
    2388             :     { /* S = Q-basis of subfield generated by nf.zk[1..i-1] */
    2389             :       GEN Mx, M2;
    2390        1862 :       long j, k, h, rkM, dP = D[i];
    2391             : 
    2392        1862 :       if (dP == N) break; /* primitive */
    2393        1561 :       Mx = set_mulid(V, M, inv, r1, r2, N, i);
    2394        1561 :       if (!Mx) break; /* prec. problem. Stop */
    2395        1561 :       if (dP == 1) continue;
    2396        1085 :       rkM = lg(S)-1;
    2397        1085 :       M2 = cgetg(N+1, t_MAT); /* we will add to S the elts of M2 */
    2398        1085 :       gel(M2,1) = col_ei(N, i); /* nf.zk[i] */
    2399        1085 :       k = 2;
    2400        3666 :       for (h = 1; h < dP; h++)
    2401             :       {
    2402             :         long r; /* add to M2 the elts of S * nf.zk[i]  */
    2403        1504 :         for (j = 1; j <= rkM; j++) gel(M2,k++) = ZM_ZC_mul(Mx, gel(S,j));
    2404        1504 :         setlg(M2, k); k = 1;
    2405        1504 :         S = ZM_image_shallow(shallowconcat(S,M2), &r);
    2406        2260 :         if (r == rkM) break;
    2407         972 :         if (r > rkM)
    2408             :         {
    2409         972 :           rkM = r;
    2410         972 :           if (rkM == N) break;
    2411             :         }
    2412             :       }
    2413        1085 :       if (rkM == N) break;
    2414             :       /* Q(w[1],...,w[i-1]) is a strict subfield of nf */
    2415             :     }
    2416             :   }
    2417             :   /* x_1,...,x_skipfirst generate a strict subfield [unless N=skipfirst=1] */
    2418         525 :   chk->skipfirst = skipfirst;
    2419         525 :   if (DEBUGLEVEL>2) err_printf("chk_gen_init: skipfirst = %ld\n",skipfirst);
    2420             : 
    2421             :   /* should be DEF + gexpo( max_k C^n_k (bound/k)^(k/2) ) */
    2422         525 :   bound = gerepileuptoleaf(av, bound);
    2423         525 :   prec = chk_gen_prec(N, (gexpo(bound)*N)/2);
    2424         525 :   if (DEBUGLEVEL)
    2425           0 :     err_printf("chk_gen_init: new prec = %ld (initially %ld)\n", prec, d->prec);
    2426         525 :   if (prec > d->prec) pari_err_BUG("polredabs (precision problem)");
    2427         525 :   if (prec < d->prec) d->ZKembed = gprec_w(M, prec);
    2428         525 :   return bound;
    2429             : }
    2430             : 
    2431             : /* z "small" minimal polynomial of Mod(a,x), deg z = deg x */
    2432             : static GEN
    2433        2660 : store(GEN x, GEN z, GEN a, nfmaxord_t *S, long flag, GEN u)
    2434             : {
    2435             :   GEN y, b;
    2436             : 
    2437        2660 :   if (u) a = RgV_RgC_mul(S->basis, ZM_ZC_mul(u, a));
    2438        2660 :   if (flag & (nf_ORIG|nf_ADDZK))
    2439             :   {
    2440         357 :     b = QXQ_reverse(a, x);
    2441         357 :     if (!isint1(S->unscale)) b = gdiv(b, S->unscale); /* not RgX_Rg_div */
    2442             :   }
    2443             :   else
    2444        2303 :     b = NULL;
    2445             : 
    2446        2660 :   if (flag & nf_RAW)
    2447          70 :     y = mkvec2(z, a);
    2448        2590 :   else if (flag & nf_ORIG) /* store phi(b mod z). */
    2449         357 :     y = mkvec2(z, mkpolmod(b,z));
    2450             :   else
    2451        2233 :     y = z;
    2452        2660 :   if (flag & nf_ADDZK)
    2453             :   { /* append integral basis for number field Q[X]/(z) to result */
    2454           0 :     long n = degpol(x);
    2455           0 :     GEN t = RgV_RgM_mul(RgXQ_powers(b, n-1, z), RgV_to_RgM(S->basis,n));
    2456           0 :     y = mkvec2(y, t);
    2457             :   }
    2458        2660 :   return y;
    2459             : }
    2460             : static GEN
    2461         525 : polredabs_aux(nfmaxord_t *S, GEN *u)
    2462             : {
    2463             :   long prec;
    2464             :   GEN v;
    2465         525 :   FP_chk_fun chk = { &chk_gen, &chk_gen_init, NULL, NULL, 0 };
    2466             :   nffp_t F;
    2467         525 :   CG_data d; chk.data = (void*)&d;
    2468             : 
    2469         525 :   prec = polred_init(S, &F, &d);
    2470         525 :   d.bound = embed_T2(F.ro, d.r1);
    2471         525 :   if (realprec(d.bound) > prec) d.bound = rtor(d.bound, prec);
    2472             :   for (;;)
    2473             :   {
    2474         545 :     GEN R = R_from_QR(F.G, prec);
    2475         545 :     if (R)
    2476             :     {
    2477         533 :       d.prec = prec;
    2478         533 :       d.M    = F.M;
    2479         533 :       v = fincke_pohst(mkvec(R),NULL,-1, 0, &chk);
    2480         533 :       if (v) break;
    2481             :     }
    2482          20 :     F.prec = prec = precdbl(prec);
    2483          20 :     F.ro = NULL;
    2484          20 :     make_M_G(&F, 1);
    2485          20 :     if (DEBUGLEVEL) pari_warn(warnprec,"polredabs0",prec);
    2486          20 :   }
    2487         525 :   *u = d.u; return v;
    2488             : }
    2489             : 
    2490             : GEN
    2491         539 : polredabs0(GEN x, long flag)
    2492             : {
    2493         539 :   pari_sp av = avma;
    2494             :   long i, l, vx;
    2495             :   GEN y, a, u;
    2496             :   nfmaxord_t S;
    2497             : 
    2498         539 :   nfinit_basic_partial(&S, x);
    2499         539 :   x = S.T; vx = varn(x);
    2500             : 
    2501         539 :   if (degpol(x) == 1)
    2502             :   {
    2503          14 :     u = NULL;
    2504          14 :     y = mkvec( pol_x(vx) );
    2505          14 :     a = mkvec( deg1pol_shallow(gen_1, negi(gel(x,2)), vx) );
    2506          14 :     l = 2;
    2507             :   }
    2508             :   else
    2509             :   {
    2510             :     GEN v;
    2511         525 :     if (!(flag & nf_PARTIALFACT) && S.dKP)
    2512             :     {
    2513         224 :       GEN vw = primes_certify(S.dK, S.dKP);
    2514         224 :       v = gel(vw,1); l = lg(v);
    2515         224 :       if (l != 1)
    2516             :       { /* fix integral basis */
    2517          14 :         GEN w = gel(vw,2);
    2518          28 :         for (i = 1; i < l; i++)
    2519          14 :           w = ZV_union_shallow(w, gel(Z_factor(gel(v,i)),1));
    2520          14 :         nfinit_basic(&S, mkvec2(S.T0,w));
    2521             :       }
    2522             :     }
    2523         525 :     v = polredabs_aux(&S, &u);
    2524         525 :     y = gel(v,1);
    2525         525 :     a = gel(v,2); l = lg(a);
    2526             :     /* normalize wrt u -> -u */
    2527       20974 :     for (i = 1; i < l; i++)
    2528             :     {
    2529       20449 :       if (flag & nf_ORIG)
    2530             :       {
    2531        1106 :         if (ZX_canon_neg(gel(y,i))) gel(a,i) = ZC_neg(gel(a,i));
    2532             :       }
    2533             :       else
    2534       19343 :         (void)ZX_canon_neg(gel(y,i));
    2535             :     }
    2536         525 :     remove_duplicates(v);
    2537         525 :     y = gel(v,1);
    2538         525 :     a = gel(v,2); l = lg(a);
    2539         525 :     if (l == 1) pari_err_BUG("polredabs (missing vector)");
    2540             :   }
    2541         539 :   if (DEBUGLEVEL) err_printf("Found %ld minimal polynomials.\n",l-1);
    2542         539 :   if (flag & nf_ALL) {
    2543           7 :     for (i=1; i<l; i++) gel(y,i) = store(x, gel(y,i), gel(a,i), &S, flag, u);
    2544             :   } else {
    2545         532 :     GEN z = findmindisc(y, &a);
    2546         532 :     y = store(x, z, a, &S, flag, u);
    2547             :   }
    2548         539 :   return gerepilecopy(av, y);
    2549             : }
    2550             : 
    2551             : GEN
    2552           0 : polredabsall(GEN x, long flun) { return polredabs0(x, flun | nf_ALL); }
    2553             : GEN
    2554           0 : polredabs(GEN x) { return polredabs0(x,0); }
    2555             : GEN
    2556           0 : polredabs2(GEN x) { return polredabs0(x,nf_ORIG); }
    2557             : 
    2558             : /* relative polredabs/best. Returns relative polynomial by default (flag = 0)
    2559             :  * flag & nf_ORIG: + element (base change)
    2560             :  * flag & nf_ABSOLUTE: absolute polynomial */
    2561             : static GEN
    2562         105 : rnfpolred_i(GEN nf, GEN relpol, long flag, long best)
    2563             : {
    2564         105 :   const char *f = best? "rnfpolredbest": "rnfpolredabs";
    2565         105 :   const long abs = ((flag & nf_ORIG) && (flag & nf_ABSOLUTE));
    2566             :   pari_timer ti;
    2567         105 :   GEN listP = NULL, red, bas, A, P, pol, T, rnfeq;
    2568         105 :   long ty = typ(relpol);
    2569         105 :   pari_sp av = avma;
    2570             : 
    2571         105 :   if (ty == t_VEC) {
    2572          14 :     if (lg(relpol) != 3) pari_err_TYPE(f,relpol);
    2573          14 :     listP = gel(relpol,2);
    2574          14 :     relpol = gel(relpol,1);
    2575             :   }
    2576         105 :   if (typ(relpol) != t_POL) pari_err_TYPE(f,relpol);
    2577         105 :   nf = checknf(nf);
    2578         105 :   if (DEBUGLEVEL>1) timer_start(&ti);
    2579         105 :   T = nf_get_pol(nf);
    2580         105 :   relpol = RgX_nffix(f, T, relpol, 0);
    2581         105 :   if (best || (flag & nf_PARTIALFACT))
    2582             :   {
    2583          42 :     if (abs)
    2584             :     {
    2585           7 :       rnfeq = nf_rnfeq(nf, relpol);
    2586           7 :       pol = gel(rnfeq,1);
    2587             :     }
    2588             :     else
    2589             :     {
    2590             :       long sa;
    2591          35 :       pol = rnfequationall(nf, relpol, &sa, NULL);
    2592          35 :       rnfeq = mkvec5(gen_0,gen_0,stoi(sa),T,liftpol_shallow(relpol));
    2593             :     }
    2594          42 :     bas = listP? mkvec2(pol, listP): pol;
    2595          84 :     if (best)
    2596             :     {
    2597          35 :       if (abs) red = polredbest(bas, 1);
    2598             :       else
    2599             :       {
    2600             :         GEN ro, x, dx, a;
    2601             :         nfmaxord_t S;
    2602          28 :         nfinit_basic_partial(&S, bas);
    2603          28 :         polredbest_aux(&S, &ro, &x, &dx, &a);
    2604          28 :         red = mkvec2(x, a);
    2605             :       }
    2606             :     }
    2607             :     else
    2608           7 :       red = polredabs0(bas, (abs? nf_ORIG: nf_RAW)|nf_PARTIALFACT);
    2609             :   }
    2610             :   else
    2611             :   {
    2612          63 :     GEN rnf = rnfinit(nf, relpol);
    2613          63 :     rnfeq = rnf_get_map(rnf);
    2614          63 :     bas = rnf_zkabs(rnf);
    2615          63 :     if (DEBUGLEVEL>1) timer_printf(&ti, "absolute basis");
    2616          63 :     red = polredabs0(bas, nf_RAW);
    2617             :   }
    2618         105 :   P = gel(red,1);
    2619         105 :   A = gel(red,2);
    2620         105 :   if (DEBUGLEVEL>1) err_printf("reduced absolute generator: %Ps\n",P);
    2621         105 :   if (flag & nf_ABSOLUTE)
    2622             :   {
    2623          14 :     if (flag & nf_ORIG)
    2624             :     {
    2625           7 :       GEN a = gel(rnfeq,2); /* Mod(a,pol) root of T */
    2626           7 :       GEN k = gel(rnfeq,3); /* Mod(variable(relpol),relpol) + k*a root of pol */
    2627           7 :       a = RgX_RgXQ_eval(a, lift_shallow(A), P); /* Mod(a, P) root of T */
    2628           7 :       P = mkvec3(P, mkpolmod(a,P), gsub(A, gmul(k,a)));
    2629             :     }
    2630          14 :     return gerepilecopy(av, P);
    2631             :   }
    2632          91 :   A = eltabstorel_lift(rnfeq, A);
    2633          91 :   P = RgXQ_charpoly(A, relpol, varn(relpol));
    2634          91 :   P = lift_if_rational(P);
    2635          91 :   if (flag & nf_ORIG) P = mkvec2(P, mkpolmod(RgXQ_reverse(A,relpol),P));
    2636          91 :   return gerepilecopy(av, P);
    2637             : }
    2638             : GEN
    2639          70 : rnfpolredabs(GEN nf, GEN relpol, long flag)
    2640          70 : { return rnfpolred_i(nf,relpol,flag, 0); }
    2641             : GEN
    2642          35 : rnfpolredbest(GEN nf, GEN relpol, long flag)
    2643             : {
    2644          35 :   if (flag < 0 || flag > 3) pari_err_FLAG("rnfpolredbest");
    2645          35 :   return rnfpolred_i(nf,relpol,flag, 1);
    2646             : }

Generated by: LCOV version 1.11