Code coverage tests

This page documents the degree to which the PARI/GP source code is tested by our public test suite, distributed with the source distribution in directory src/test/. This is measured by the gcov utility; we then process gcov output using the lcov frond-end.

We test a few variants depending on Configure flags on the pari.math.u-bordeaux.fr machine (x86_64 architecture), and agregate them in the final report:

The target is 90% coverage for all mathematical modules (given that branches depending on DEBUGLEVEL or DEBUGMEM are not covered). This script is run to produce the results below.

LCOV - code coverage report
Current view: top level - basemath - base5.c (source / functions) Hit Total Coverage
Test: PARI/GP v2.8.0 lcov report (development 19070-36a960b) Lines: 1033 1117 92.5 %
Date: 2016-06-30 Functions: 73 77 94.8 %
Legend: Lines: hit not hit | Branches: + taken - not taken # not executed Branches: 554 731 75.8 %

           Branch data     Line data    Source code
       1                 :            : /* Copyright (C) 2000  The PARI group.
       2                 :            : 
       3                 :            : This file is part of the PARI/GP package.
       4                 :            : 
       5                 :            : PARI/GP is free software; you can redistribute it and/or modify it under the
       6                 :            : terms of the GNU General Public License as published by the Free Software
       7                 :            : Foundation. It is distributed in the hope that it will be useful, but WITHOUT
       8                 :            : ANY WARRANTY WHATSOEVER.
       9                 :            : 
      10                 :            : Check the License for details. You should have received a copy of it, along
      11                 :            : with the package; see the file 'COPYING'. If not, write to the Free Software
      12                 :            : Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA. */
      13                 :            : 
      14                 :            : /*******************************************************************/
      15                 :            : /*                                                                 */
      16                 :            : /*                     RNF STRUCTURE AND OPERATIONS                */
      17                 :            : /*                                                                 */
      18                 :            : /*******************************************************************/
      19                 :            : #include "pari.h"
      20                 :            : #include "paripriv.h"
      21                 :            : 
      22                 :            : /* must return a t_POL */
      23                 :            : GEN
      24                 :      19117 : eltreltoabs(GEN rnfeq, GEN x)
      25                 :            : {
      26                 :            :   long i, k, v;
      27                 :      19117 :   pari_sp av = avma;
      28                 :            :   GEN T, pol, teta, a, s;
      29                 :            : 
      30                 :      19117 :   pol = gel(rnfeq,1);
      31                 :      19117 :   a = gel(rnfeq,2);
      32                 :      19117 :   k = itos(gel(rnfeq,3));
      33                 :      19117 :   T = gel(rnfeq,4);
      34                 :            : 
      35                 :      19117 :   v = varn(pol);
      36         [ +  + ]:      19117 :   if (varncmp(gvar(x), v) > 0) x = scalarpol(x,v);
      37                 :      19117 :   x = RgX_nffix("eltreltoabs", T, x, 1);
      38                 :            :   /* Mod(X - k a, pol(X)), a root of the polynomial defining base */
      39                 :      19110 :   teta = gadd(pol_x(v), gmulsg(-k,a));
      40                 :      19110 :   s = gen_0;
      41         [ +  + ]:      70931 :   for (i=lg(x)-1; i>1; i--)
      42                 :            :   {
      43                 :      51821 :     GEN c = gel(x,i);
      44         [ +  + ]:      51821 :     if (typ(c) == t_POL) c = RgX_RgXQ_eval(c, a, pol);
      45                 :      51821 :     s = RgX_rem(gadd(c, gmul(teta,s)), pol);
      46                 :            :   }
      47                 :      19110 :   return gerepileupto(av, s);
      48                 :            : }
      49                 :            : GEN
      50                 :      42938 : rnfeltreltoabs(GEN rnf,GEN x)
      51                 :            : {
      52                 :      42938 :   const char *f = "rnfeltreltoabs";
      53                 :            :   GEN pol;
      54                 :      42938 :   checkrnf(rnf);
      55                 :      42938 :   pol = rnf_get_polabs(rnf);
      56   [ +  +  +  +  :      42938 :   switch(typ(x))
                      + ]
      57                 :            :   {
      58                 :       7644 :     case t_INT: return icopy(x);
      59                 :         21 :     case t_FRAC: return gcopy(x);
      60                 :            :     case t_POLMOD:
      61         [ +  + ]:      34734 :       if (RgX_equal_var(gel(x,1), pol))
      62                 :            :       { /* already in 'abs' form, unless possibly if nf = Q */
      63         [ +  + ]:      13811 :         if (rnf_get_nfdegree(rnf) == 1)
      64                 :            :         {
      65                 :      13790 :           GEN y = gel(x,2);
      66                 :      13790 :           pari_sp av = avma;
      67                 :      13790 :           y = simplify_shallow(liftpol_shallow(y));
      68                 :      13790 :           return gerepilecopy(av, mkpolmod(y, pol));
      69                 :            :         }
      70                 :         21 :         return gcopy(x);
      71                 :            :       }
      72                 :      20923 :       x = polmod_nffix(f,rnf,x,0);
      73         [ +  + ]:      20909 :       if (typ(x) == t_POLMOD) return rnfeltup(rnf,x);
      74                 :      16611 :       retmkpolmod(eltreltoabs(rnf_get_map(rnf), x), ZX_copy(pol));
      75                 :            :     case t_POL:
      76         [ +  + ]:        490 :       if (varn(x) == rnf_get_nfvarn(rnf)) return rnfeltup(rnf,x);
      77                 :        434 :       retmkpolmod(eltreltoabs(rnf_get_map(rnf), x), ZX_copy(pol));
      78                 :            :   }
      79                 :      42910 :   pari_err_TYPE(f,x); return NULL;
      80                 :            : }
      81                 :            : 
      82                 :            : GEN
      83                 :      16856 : eltabstorel_lift(GEN rnfeq, GEN P)
      84                 :            : {
      85                 :      16856 :   GEN k, T = gel(rnfeq,4), relpol = gel(rnfeq,5);
      86         [ +  + ]:      16856 :   if (is_scalar_t(typ(P))) return P;
      87                 :      16660 :   k = gel(rnfeq,3);
      88                 :      16660 :   P = lift_intern(P);
      89         [ +  + ]:      16660 :   if (signe(k)) P = RgXQX_translate(P, deg1pol_shallow(k, gen_0, varn(T)), T);
      90                 :      16660 :   P = RgXQX_rem(P, relpol, T);
      91                 :      16856 :   return QXQX_to_mod_shallow(P, T);
      92                 :            : }
      93                 :            : /* rnfeq = [pol,a,k,T,relpol], P a t_POL or scalar
      94                 :            :  * Return Mod(P(x + k Mod(y, T(y))), pol(x)) */
      95                 :            : GEN
      96                 :      16807 : eltabstorel(GEN rnfeq, GEN P)
      97                 :            : {
      98                 :      16807 :   GEN T = gel(rnfeq,4), relpol = gel(rnfeq,5);
      99                 :      16807 :   return mkpolmod(eltabstorel_lift(rnfeq,P), QXQX_to_mod_shallow(relpol,T));
     100                 :            : }
     101                 :            : GEN
     102                 :      44618 : rnfeltabstorel(GEN rnf,GEN x)
     103                 :            : {
     104                 :      44618 :   const char *f = "rnfeltabstorel";
     105                 :      44618 :   pari_sp av = avma;
     106                 :            :   GEN pol, T, P, NF;
     107                 :      44618 :   checkrnf(rnf);
     108                 :      44618 :   T = rnf_get_nfpol(rnf);
     109                 :      44618 :   P = rnf_get_pol(rnf);
     110                 :      44618 :   pol = rnf_get_polabs(rnf);
     111   [ +  +  +  +  :      44618 :   switch(typ(x))
                   +  - ]
     112                 :            :   {
     113                 :         77 :     case t_INT: return icopy(x);
     114                 :         49 :     case t_FRAC: return gcopy(x);
     115                 :            :     case t_POLMOD:
     116         [ +  + ]:      43148 :       if (RgX_equal_var(P, gel(x,1)))
     117                 :            :       {
     118                 :      13944 :         x = polmod_nffix(f, rnf, x, 0);
     119                 :      13944 :         P = QXQX_to_mod_shallow(P,T);
     120                 :      13944 :         return gerepilecopy(av, mkpolmod(x,P));
     121                 :            :       }
     122         [ +  + ]:      29204 :       if (RgX_equal_var(T, gel(x,1))) { x = Rg_nffix(f, T, x, 0); goto END; }
     123         [ +  + ]:      29120 :       if (!RgX_equal_var(pol, gel(x,1))) pari_err_MODULUS(f, gel(x,1),pol);
     124                 :      29078 :       x = gel(x,2); break;
     125                 :        903 :     case t_POL: break;
     126                 :            :     case t_COL:
     127                 :        441 :       NF = obj_check(rnf, rnf_NFABS);
     128         [ +  + ]:        441 :       if (!NF) pari_err_TYPE("rnfeltabstorel, apply nfinit(rnf)",x);
     129                 :        294 :       x = nf_to_scalar_or_alg(NF,x); break;
     130                 :            :     default:
     131                 :          0 :       pari_err_TYPE(f,x);
     132                 :          0 :       return NULL;
     133                 :            :   }
     134   [ +  +  +  - ]:      30275 :   switch(typ(x))
     135                 :            :   {
     136                 :         77 :     case t_INT: return icopy(x);
     137                 :         28 :     case t_FRAC: return gcopy(x);
     138                 :      30170 :     case t_POL: break;
     139                 :          0 :     default: pari_err_TYPE(f, x);
     140                 :            :   }
     141         [ +  + ]:      30170 :   if (!RgX_is_QX(x)) pari_err_TYPE(f,x);
     142         [ +  + ]:      30093 :   if (varn(x) != varn(pol))
     143                 :            :   {
     144         [ +  + ]:         70 :     if (varn(x) == varn(T)) { x = Rg_nffix(f,T,x,0); goto END; }
     145                 :         28 :     pari_err_VAR(f, x,pol);
     146                 :            :   }
     147      [ +  +  + ]:      30023 :   switch(lg(x))
     148                 :            :   {
     149                 :      12208 :     case 2: avma = av; return gen_0;
     150                 :       2513 :     case 3: return gerepilecopy(av, gel(x,2));
     151                 :            :   }
     152                 :            : END:
     153                 :      44324 :   return gerepilecopy(av, eltabstorel(rnf_get_map(rnf), x));
     154                 :            : }
     155                 :            : 
     156                 :            : /* x a t_VEC of rnf elements in 'alg' form (t_POL). Assume maximal rank or 0 */
     157                 :            : static GEN
     158                 :        980 : modulereltoabs(GEN rnf, GEN x)
     159                 :            : {
     160                 :        980 :   GEN W=gel(x,1), I=gel(x,2), rnfeq = rnf_get_map(rnf), polabs = gel(rnfeq,1);
     161                 :        980 :   long i, j, k, m, N = lg(W)-1;
     162                 :            :   GEN zknf, czknf, M;
     163                 :            : 
     164         [ +  + ]:        980 :   if (!N) return cgetg(1, t_VEC);
     165                 :        917 :   rnf_get_nfzk(rnf, &zknf,&czknf);
     166                 :        917 :   m = rnf_get_nfdegree(rnf);
     167                 :        917 :   M = cgetg(N*m+1, t_VEC);
     168         [ +  + ]:       3031 :   for (k=i=1; i<=N; i++)
     169                 :            :   {
     170                 :       2121 :     GEN c0, cid, w = gel(W,i), id = gel(I,i);
     171                 :            : 
     172         [ +  + ]:       2121 :     if (lg(id) == 1) continue; /* must be a t_MAT */
     173                 :       2072 :     id = Q_primitive_part(id, &cid);
     174                 :       2072 :     w = Q_primitive_part(eltreltoabs(rnfeq,w), &c0);
     175                 :       2072 :     c0 = mul_content(c0, mul_content(cid,czknf));
     176         [ +  + ]:       2072 :     if (typ(id) == t_INT)
     177         [ +  + ]:       4060 :       for (j=1; j<=m; j++)
     178                 :            :       {
     179                 :       2646 :         GEN z = RgX_rem(gmul(w, gel(zknf,j)), polabs);
     180         [ +  - ]:       2646 :         if (c0) z = RgX_Rg_mul(z, c0);
     181                 :       2646 :         gel(M,k++) = z;
     182                 :            :       }
     183                 :            :     else
     184         [ +  + ]:       3843 :       for (j=1; j<=m; j++)
     185                 :            :       {
     186                 :       1778 :         GEN c, z = Q_primitive_part(RgV_RgC_mul(zknf,gel(id,j)), &c);
     187                 :       1771 :         z = RgX_rem(gmul(w, z), polabs);
     188         [ +  - ]:       1771 :         c = mul_content(c, c0); if (c) z = RgX_Rg_mul(z, c);
     189                 :       1771 :         gel(M,k++) = z;
     190                 :            :       }
     191                 :            :   }
     192                 :        973 :   setlg(M, k); return M;
     193                 :            : }
     194                 :            : 
     195                 :            : /* Z-basis for absolute maximal order, as a t_MAT */
     196                 :            : GEN
     197                 :         21 : rnf_basM(GEN rnf)
     198                 :            : {
     199                 :         21 :   GEN M, d, pol = rnf_get_polabs(rnf);
     200                 :         21 :   long n = degpol(pol);
     201                 :            :   /* t_VEC of t_POL */
     202                 :         21 :   M = Q_remove_denom(modulereltoabs(rnf, rnf_get_zk(rnf)), &d);
     203         [ +  - ]:         21 :   if (d)
     204                 :            :   {
     205                 :         21 :     M = ZM_hnfmodall(RgXV_to_RgM(M,n), d, hnf_MODID|hnf_CENTER);
     206                 :         21 :     M = RgM_Rg_div(M, d);
     207                 :            :   }
     208                 :            :   else
     209                 :          0 :     M = matid(n);
     210                 :         21 :   return M;
     211                 :            : }
     212                 :            : 
     213                 :            : static GEN
     214                 :        504 : mknfabs(GEN rnf, long prec)
     215                 :            : {
     216                 :            :   GEN nf, pol, bas;
     217         [ -  + ]:        504 :   if ((nf = obj_check(rnf,rnf_NFABS)))
     218                 :            :   {
     219         [ #  # ]:          0 :     if (nf_get_prec(nf) < prec) nf = nfnewprec_shallow(nf,prec);
     220                 :          0 :     return nf;
     221                 :            :   }
     222                 :        504 :   nf = rnf_get_nf(rnf);
     223                 :        504 :   pol = rnf_get_polabs(rnf);
     224                 :        504 :   bas = modulereltoabs(rnf, rnf_get_zk(rnf));
     225                 :        504 :   return nfinit(mkvec2(pol, bas), nf_get_prec(nf));
     226                 :            : }
     227                 :            : 
     228                 :            : static GEN
     229                 :        504 : mkupdown(GEN rnf)
     230                 :            : {
     231                 :        504 :   GEN NF = obj_check(rnf, rnf_NFABS), M, zknf, czknf;
     232                 :            :   long i, m;
     233                 :        504 :   rnf_get_nfzk(rnf, &zknf, &czknf);
     234         [ +  + ]:        504 :   if (isint1(czknf)) czknf = NULL;
     235                 :        504 :   m = lg(zknf)-1; M = cgetg(m+1, t_MAT);
     236                 :        504 :   gel(M,1) = vec_ei(nf_get_degree(NF), 1);
     237         [ +  + ]:        840 :   for (i = 2; i <= m; i++)
     238                 :            :   {
     239                 :        336 :     GEN c = poltobasis(NF, gel(zknf,i));
     240         [ +  + ]:        336 :     if (czknf) c = gmul(c, czknf);
     241                 :        336 :     gel(M,i) = c;
     242                 :            :   }
     243                 :        504 :   return Qevproj_init(M);
     244                 :            : }
     245                 :            : GEN
     246                 :      21469 : check_and_build_nfabs(GEN rnf, long prec)
     247                 :            : {
     248                 :      21469 :   GEN NF = obj_checkbuild_prec(rnf, rnf_NFABS, &mknfabs, &nf_get_prec, prec);
     249                 :      21469 :   (void)obj_checkbuild(rnf, rnf_MAPS, &mkupdown);
     250                 :      21469 :   return NF;
     251                 :            : }
     252                 :            : 
     253                 :            : void
     254                 :       1127 : rnfcomplete(GEN rnf)
     255                 :       1127 : { (void)check_and_build_nfabs(rnf, nf_get_prec(rnf_get_nf(rnf))); }
     256                 :            : 
     257                 :            : void
     258                 :        679 : nf_nfzk(GEN nf, GEN rnfeq, GEN *zknf, GEN *czknf)
     259                 :            : {
     260                 :        679 :   GEN pol = gel(rnfeq,1), a = gel(rnfeq,2);
     261                 :        679 :   GEN zk = QXV_QXQ_eval(nf_get_zk(nf), a, pol);
     262                 :        679 :   *zknf = Q_primitive_part(zk, czknf);
     263         [ +  + ]:        679 :   if (!*czknf) *czknf = gen_1;
     264                 :        679 : }
     265                 :            : 
     266                 :            : GEN
     267                 :        679 : rnfinit0(GEN nf, GEN polrel, long flag)
     268                 :            : {
     269                 :        679 :   pari_sp av = avma;
     270                 :            :   GEN rnf, bas, D,d,f, B, rnfeq, zknf,czknf;
     271                 :        679 :   nf = checknf(nf);
     272                 :        679 :   bas = rnfallbase(nf,&polrel, &D,&d, &f);
     273                 :        672 :   B = matbasistoalg(nf,gel(bas,1));
     274                 :        672 :   gel(bas,1) = lift_if_rational( RgM_to_RgXV(B,varn(polrel)) );
     275                 :        672 :   rnfeq = nf_rnfeq(nf,polrel);
     276                 :        672 :   nf_nfzk(nf, rnfeq, &zknf, &czknf);
     277                 :        672 :   rnf = obj_init(11, 2);
     278                 :        672 :   gel(rnf,1) = polrel;
     279                 :        672 :   gel(rnf,2) = mkvec2(zknf, czknf);
     280                 :        672 :   gel(rnf,3) = mkvec2(D, d);
     281                 :        672 :   gel(rnf,4) = f;
     282                 :        672 :   gel(rnf,5) = cgetg(1, t_VEC); /* dummy */
     283                 :        672 :   gel(rnf,6) = cgetg(1, t_VEC); /* dummy */
     284                 :        672 :   gel(rnf,7) = bas;
     285                 :        672 :   gel(rnf,8) = lift_if_rational( RgM_inv_upper(B) );
     286         [ +  + ]:        672 :   gel(rnf,9) = typ(f) == t_INT? gen_1: RgM_det_triangular(f);
     287                 :        672 :   gel(rnf,10)= nf;
     288                 :        672 :   gel(rnf,11)= rnfeq;
     289                 :        672 :   rnf = gerepilecopy(av, rnf);
     290         [ +  + ]:        672 :   if (flag) rnfcomplete(rnf);
     291                 :        672 :   return rnf;
     292                 :            : }
     293                 :            : GEN
     294                 :        322 : rnfinit(GEN nf, GEN T) { return rnfinit0(nf,T,0); }
     295                 :            : 
     296                 :            : GEN
     297                 :       4599 : rnfeltup0(GEN rnf, GEN x, long flag)
     298                 :            : {
     299                 :       4599 :   pari_sp av = avma;
     300                 :            :   GEN zknf, czknf, nf, NF, POL;
     301                 :       4599 :   long tx = typ(x);
     302                 :       4599 :   checkrnf(rnf);
     303         [ +  + ]:       4599 :   if (flag) rnfcomplete(rnf);
     304                 :       4599 :   NF = obj_check(rnf,rnf_NFABS);
     305                 :       4599 :   POL = rnf_get_polabs(rnf);
     306 [ +  + ][ +  + ]:       4599 :   if (tx == t_POLMOD && RgX_equal_var(gel(x,1), POL))
     307                 :            :   {
     308         [ -  + ]:         28 :     if (flag) x = nf_to_scalar_or_basis(NF,x);
     309                 :         28 :     return gerepilecopy(av, x);
     310                 :            :   }
     311 [ +  + ][ +  + ]:       4571 :   if (NF && tx == t_COL && lg(x)-1 == nf_get_degree(NF))
                 [ -  + ]
     312                 :            :   {
     313                 :          0 :     x = flag? nf_to_scalar_or_basis(NF,x)
     314         [ #  # ]:          0 :             : mkpolmod(nf_to_scalar_or_alg(NF,x), POL);
     315                 :          0 :     return gerepilecopy(av, x);
     316                 :            :   }
     317                 :       4571 :   nf = rnf_get_nf(rnf);
     318         [ +  + ]:       4571 :   if (NF)
     319                 :            :   {
     320                 :            :     GEN d, proj;
     321                 :       4340 :     x = nf_to_scalar_or_basis(nf, x);
     322         [ -  + ]:       4340 :     if (typ(x) != t_COL) return gerepilecopy(av, x);
     323                 :       4340 :     proj = obj_check(rnf,rnf_MAPS);
     324                 :       4340 :     x = Q_remove_denom(x,&d);
     325                 :       4340 :     x = ZM_ZC_mul(gel(proj,1), x);
     326         [ +  + ]:       4340 :     if (d) x = gdiv(x,d);
     327         [ +  + ]:       4340 :     if (!flag) x = basistoalg(NF,x);
     328                 :            :   }
     329                 :            :   else
     330                 :            :   {
     331                 :        231 :     rnf_get_nfzk(rnf, &zknf, &czknf);
     332                 :        231 :     x = nfeltup(nf, x, zknf, czknf);
     333         [ +  + ]:        112 :     if (typ(x) == t_POL) x = mkpolmod(x, POL);
     334                 :            :   }
     335                 :       4480 :   return gerepilecopy(av, x);
     336                 :            : }
     337                 :            : GEN
     338                 :       4354 : rnfeltup(GEN rnf, GEN x) { return rnfeltup0(rnf,x,0); }
     339                 :            : 
     340                 :            : GEN
     341                 :        259 : nfeltup(GEN nf, GEN x, GEN zknf, GEN czknf)
     342                 :            : {
     343                 :            :   GEN c;
     344                 :        259 :   x = nf_to_scalar_or_basis(nf, x);
     345         [ +  + ]:        154 :   if (typ(x) != t_COL) return x;
     346                 :         56 :   x = Q_primitive_part(x, &c);
     347         [ +  + ]:         56 :   if (!RgV_is_ZV(x)) pari_err_TYPE("rnfeltup", x);
     348                 :         42 :   c = mul_content(c, czknf);
     349         [ +  - ]:         42 :   x = RgV_RgC_mul(zknf, x); if (c) x = RgX_Rg_mul(x, c);
     350                 :        140 :   return x;
     351                 :            : }
     352                 :            : 
     353                 :            : static void
     354                 :         49 : fail(const char *f, GEN x)
     355                 :         49 : { pari_err_DOMAIN(f,"element","not in", strtoGENstr("the base field"),x); }
     356                 :            : /* x t_COL of length degabs */
     357                 :            : static GEN
     358                 :          0 : eltdown(GEN rnf, GEN x, long flag)
     359                 :            : {
     360                 :          0 :   GEN z,y, d, proj = obj_check(rnf,rnf_MAPS);
     361                 :          0 :   GEN M= gel(proj,1), iM=gel(proj,2), diM=gel(proj,3), perm=gel(proj,4);
     362                 :          0 :   x = Q_remove_denom(x,&d);
     363         [ #  # ]:          0 :   if (!RgV_is_ZV(x)) pari_err_TYPE("rnfeltdown", x);
     364                 :          0 :   y = ZM_ZC_mul(iM, vecpermute(x, perm));
     365                 :          0 :   z = ZM_ZC_mul(M,y);
     366         [ #  # ]:          0 :   if (!isint1(diM)) z = ZC_Z_mul(z,diM);
     367         [ #  # ]:          0 :   if (!ZV_equal(z,x)) fail("rnfeltdown",x);
     368                 :            : 
     369                 :          0 :   d = mul_denom(d, diM);
     370         [ #  # ]:          0 :   if (d) y = gdiv(y,d);
     371         [ #  # ]:          0 :   if (!flag) y = basistoalg(rnf_get_nf(rnf), y);
     372                 :          0 :   return y;
     373                 :            : }
     374                 :            : GEN
     375                 :       1757 : rnfeltdown0(GEN rnf, GEN x, long flag)
     376                 :            : {
     377                 :       1757 :   const char *f = "rnfeltdown";
     378                 :       1757 :   pari_sp av = avma;
     379                 :            :   GEN z, T, NF, nf;
     380                 :            :   long v;
     381                 :            : 
     382                 :       1757 :   checkrnf(rnf);
     383                 :       1757 :   NF = obj_check(rnf,rnf_NFABS);
     384                 :       1757 :   nf = rnf_get_nf(rnf);
     385                 :       1757 :   T = nf_get_pol(nf);
     386                 :       1757 :   v = varn(T);
     387   [ +  +  +  +  :       1757 :   switch(typ(x))
                   +  - ]
     388                 :            :   { /* directly belonging to base field ? */
     389                 :        490 :     case t_INT: return icopy(x);
     390                 :         56 :     case t_FRAC:return gcopy(x);
     391                 :            :     case t_POLMOD:
     392         [ +  + ]:       1099 :       if (RgX_equal_var(gel(x,1), rnf_get_polabs(rnf)))
     393                 :            :       {
     394         [ +  + ]:        168 :         if (degpol(T) == 1)
     395                 :            :         {
     396                 :        140 :           x = simplify_shallow(liftpol_shallow(gel(x,2)));
     397         [ +  + ]:        140 :           if (typ(x) != t_POL) return gerepilecopy(av,x);
     398                 :            :         }
     399                 :         35 :         break;
     400                 :            :       }
     401                 :        931 :       x = polmod_nffix(f,rnf,x,0);
     402                 :            :       /* x was defined mod the relative polynomial & non constant => fail */
     403         [ +  + ]:        917 :       if (typ(x) == t_POL) fail(f,x);
     404         [ -  + ]:        896 :       if (flag) x = nf_to_scalar_or_basis(nf,x);
     405                 :        896 :       return gerepilecopy(av, x);
     406                 :            : 
     407                 :            :     case t_POL:
     408         [ +  + ]:         63 :       if (varn(x) != v) break;
     409                 :         21 :       x = Rg_nffix(f,T,x,0);
     410         [ -  + ]:         14 :       if (flag) x = nf_to_scalar_or_basis(nf,x);
     411                 :         14 :       return gerepilecopy(av, x);
     412                 :            :     case t_COL:
     413                 :            :     {
     414                 :         49 :       long n = lg(x)-1;
     415 [ +  + ][ +  + ]:         49 :       if (n == degpol(T) && RgV_is_QV(x))
     416                 :            :       {
     417         [ +  - ]:          7 :         if (RgV_isscalar(x)) return gcopy(gel(x,1));
     418         [ #  # ]:          0 :         if (!flag) return gcopy(x);
     419                 :          0 :         return basistoalg(nf,x);
     420                 :            :       }
     421         [ -  + ]:         42 :       if (NF) break;
     422                 :            :     }
     423                 :         42 :     default: pari_err_TYPE(f, x);
     424                 :            :   }
     425                 :            :   /* x defined mod the absolute equation */
     426         [ -  + ]:         77 :   if (NF)
     427                 :            :   {
     428                 :          0 :     x = nf_to_scalar_or_basis(NF, x);
     429         [ #  # ]:          0 :     if (typ(x) == t_COL) x = eltdown(rnf,x,flag);
     430                 :          0 :     return gerepilecopy(av, x);
     431                 :            :   }
     432                 :         77 :   z = rnfeltabstorel(rnf,x);
     433         [ +  + ]:         56 :   switch(typ(z))
     434                 :            :   {
     435                 :            :     case t_INT:
     436                 :         14 :     case t_FRAC: return z;
     437                 :            :   }
     438                 :            :   /* typ(z) = t_POLMOD, varn of both components is rnf_get_varn(rnf) */
     439                 :         42 :   z = gel(z,2);
     440         [ +  - ]:         42 :   if (typ(z) == t_POL)
     441                 :            :   {
     442         [ +  + ]:         42 :     if (lg(z) != 3) fail(f,x);
     443                 :         14 :     z = gel(z,2);
     444                 :            :   }
     445                 :       1624 :   return gerepilecopy(av, z);
     446                 :            : }
     447                 :            : GEN
     448                 :       1512 : rnfeltdown(GEN rnf, GEN x) { return rnfeltdown0(rnf,x,0); }
     449                 :            : 
     450                 :            : /* vector of rnf elt -> matrix of nf elts */
     451                 :            : static GEN
     452                 :        476 : rnfV_to_nfM(GEN rnf, GEN x)
     453                 :            : {
     454                 :        476 :   long i, l = lg(x);
     455                 :        476 :   GEN y = cgetg(l, t_MAT);
     456         [ +  + ]:       1428 :   for (i = 1; i < l; i++) gel(y,i) = rnfalgtobasis(rnf,gel(x,i));
     457                 :        476 :   return y;
     458                 :            : }
     459                 :            : 
     460                 :            : static GEN
     461                 :        770 : rnfprincipaltohnf(GEN rnf,GEN x)
     462                 :            : {
     463                 :        770 :   pari_sp av = avma;
     464                 :        770 :   GEN bas = rnf_get_zk(rnf), nf = rnf_get_nf(rnf);
     465                 :        770 :   x = rnfbasistoalg(rnf,x);
     466                 :        434 :   x = gmul(x, gmodulo(gel(bas,1), rnf_get_pol(rnf)));
     467                 :        434 :   return gerepileupto(av, nfhnf(nf, mkvec2(rnfV_to_nfM(rnf,x), gel(bas,2))));
     468                 :            : }
     469                 :            : 
     470                 :            : /* pseudo-basis for the 0 ideal */
     471                 :            : static GEN
     472                 :        154 : rnfideal0(void) { retmkvec2(cgetg(1,t_MAT),cgetg(1,t_VEC)); }
     473                 :            : 
     474                 :            : GEN
     475                 :       1316 : rnfidealhnf(GEN rnf, GEN x)
     476                 :            : {
     477                 :            :   GEN z, nf, bas;
     478                 :            : 
     479                 :       1316 :   checkrnf(rnf); nf = rnf_get_nf(rnf);
     480   [ +  +  +  +  :       1316 :   switch(typ(x))
                      - ]
     481                 :            :   {
     482                 :            :     case t_INT: case t_FRAC:
     483         [ +  + ]:        168 :       if (isintzero(x)) return rnfideal0();
     484                 :        112 :       bas = rnf_get_zk(rnf); z = cgetg(3,t_VEC);
     485                 :        112 :       gel(z,1) = matid(rnf_get_degree(rnf));
     486                 :        112 :       gel(z,2) = gmul(x, gel(bas,2)); return z;
     487                 :            : 
     488                 :            :     case t_VEC:
     489 [ +  + ][ +  - ]:        266 :       if (lg(x) == 3 && typ(gel(x,1)) == t_MAT) return nfhnf(nf, x);
     490                 :            :     case t_MAT:
     491                 :        252 :       return rnfidealabstorel(rnf, x);
     492                 :            : 
     493                 :            :     case t_POLMOD: case t_POL: case t_COL:
     494                 :        770 :       return rnfprincipaltohnf(rnf,x);
     495                 :            :   }
     496                 :          0 :   pari_err_TYPE("rnfidealhnf",x);
     497                 :        903 :   return NULL; /* not reached */
     498                 :            : }
     499                 :            : 
     500                 :            : GEN
     501                 :        763 : prodid(GEN nf, GEN I)
     502                 :            : {
     503                 :        763 :   long i, l = lg(I);
     504                 :            :   GEN z;
     505         [ +  + ]:        763 :   if (l == 1) return matid(nf_get_degree(nf));
     506                 :        756 :   z = gel(I,1);
     507         [ +  + ]:       1778 :   for (i=2; i<l; i++) z = idealmul(nf, z, gel(I,i));
     508                 :        763 :   return z;
     509                 :            : }
     510                 :            : 
     511                 :            : static GEN
     512                 :        105 : prodidnorm(GEN nf, GEN I)
     513                 :            : {
     514                 :        105 :   long i, l = lg(I);
     515                 :            :   GEN z;
     516         [ -  + ]:        105 :   if (l == 1) return gen_1;
     517                 :        105 :   z = idealnorm(nf, gel(I,1));
     518         [ +  + ]:        210 :   for (i=2; i<l; i++) z = gmul(z, idealnorm(nf, gel(I,i)));
     519                 :        105 :   return z;
     520                 :            : }
     521                 :            : 
     522                 :            : GEN
     523                 :        196 : rnfidealnormrel(GEN rnf, GEN id)
     524                 :            : {
     525                 :        196 :   pari_sp av = avma;
     526                 :        196 :   GEN nf, z = gel(rnfidealhnf(rnf,id), 2);
     527         [ +  + ]:        126 :   if (lg(z) == 1) return cgetg(1, t_MAT);
     528                 :         98 :   nf = rnf_get_nf(rnf); z = prodid(nf, z);
     529                 :        126 :   return gerepileupto(av, idealmul(nf,z, rnf_get_index(rnf)));
     530                 :            : }
     531                 :            : 
     532                 :            : GEN
     533                 :        203 : rnfidealnormabs(GEN rnf, GEN id)
     534                 :            : {
     535                 :        203 :   pari_sp av = avma;
     536                 :        203 :   GEN nf, z = gel(rnfidealhnf(rnf,id), 2);
     537         [ +  + ]:        133 :   if (lg(z) == 1) return gen_0;
     538                 :        105 :   nf = rnf_get_nf(rnf); z = prodidnorm(nf, z);
     539                 :        133 :   return gerepileupto(av, gmul(z, gel(rnf,9)));
     540                 :            : }
     541                 :            : 
     542                 :            : static GEN
     543                 :        490 : rnfidealreltoabs_i(GEN rnf, GEN x)
     544                 :            : {
     545                 :            :   long i, l;
     546                 :            :   GEN w;
     547                 :        490 :   x = rnfidealhnf(rnf,x);
     548                 :        350 :   w = gel(x,1); l = lg(w); settyp(w, t_VEC);
     549         [ +  + ]:        931 :   for (i=1; i<l; i++) gel(w,i) = lift_intern( rnfbasistoalg(rnf, gel(w,i)) );
     550                 :        350 :   return modulereltoabs(rnf, x);
     551                 :            : }
     552                 :            : GEN
     553                 :          0 : rnfidealreltoabs(GEN rnf, GEN x)
     554                 :            : {
     555                 :          0 :   pari_sp av = avma; x = rnfidealreltoabs_i(rnf,x);
     556                 :          0 :   return gerepilecopy(av, modulereltoabs(rnf, x));
     557                 :            : }
     558                 :            : GEN
     559                 :        238 : rnfidealreltoabs0(GEN rnf, GEN x, long flag)
     560                 :            : {
     561                 :        238 :   pari_sp av = avma;
     562                 :            :   long i, l;
     563                 :            :   GEN NF;
     564                 :            : 
     565                 :        238 :   x = rnfidealreltoabs_i(rnf, x);
     566         [ +  + ]:        168 :   if (!flag) return gerepilecopy(av,x);
     567                 :         35 :   rnfcomplete(rnf);
     568                 :         35 :   NF = obj_check(rnf,rnf_NFABS);
     569                 :         35 :   l = lg(x); settyp(x, t_MAT);
     570         [ +  + ]:        245 :   for (i=1; i<l; i++) gel(x,i) = algtobasis(NF, gel(x,i));
     571                 :        168 :   return gerepileupto(av, idealhnf(NF,x));
     572                 :            : }
     573                 :            : 
     574                 :            : GEN
     575                 :        455 : rnfidealabstorel(GEN rnf, GEN x)
     576                 :            : {
     577                 :        455 :   long N, j, tx = typ(x);
     578                 :        455 :   pari_sp av = avma;
     579                 :            :   GEN A, I, invbas;
     580                 :            : 
     581                 :        455 :   checkrnf(rnf);
     582                 :        455 :   invbas = rnf_get_invzk(rnf);
     583 [ +  + ][ +  + ]:        455 :   if (tx != t_VEC && tx != t_MAT) pari_err_TYPE("rnfidealabstorel",x);
     584                 :        315 :   N = lg(x)-1;
     585         [ +  + ]:        315 :   if (N != rnf_get_absdegree(rnf))
     586                 :            :   {
     587         [ +  + ]:        196 :     if (!N) return rnfideal0();
     588                 :        105 :     pari_err_DIM("rnfidealabstorel");
     589                 :            :   }
     590                 :        119 :   A = cgetg(N+1,t_MAT);
     591                 :        119 :   I = cgetg(N+1,t_VEC);
     592         [ +  + ]:        833 :   for (j=1; j<=N; j++)
     593                 :            :   {
     594                 :        714 :     GEN t = lift_intern( rnfeltabstorel(rnf, gel(x,j)) );
     595                 :        714 :     gel(A,j) = mulmat_pol(invbas, t);
     596                 :        714 :     gel(I,j) = gen_1;
     597                 :            :   }
     598                 :        210 :   return gerepileupto(av, nfhnf(rnf_get_nf(rnf), mkvec2(A,I)));
     599                 :            : }
     600                 :            : 
     601                 :            : GEN
     602                 :        217 : rnfidealdown(GEN rnf,GEN x)
     603                 :            : {
     604                 :        217 :   pari_sp av = avma;
     605                 :            :   GEN I;
     606         [ +  + ]:        217 :   if (typ(x) == t_MAT)
     607                 :            :   {
     608                 :            :     GEN d;
     609                 :         28 :     x = Q_remove_denom(x,&d);
     610         [ +  - ]:         28 :     if (RgM_is_ZM(x))
     611                 :            :     {
     612                 :         28 :       GEN NF = obj_check(rnf,rnf_NFABS);
     613         [ +  - ]:         28 :       if (NF)
     614                 :            :       {
     615                 :         28 :         GEN z, proj = obj_check(rnf,rnf_MAPS), ZK = gel(proj,1);
     616                 :            :         long i, lz, l;
     617                 :         28 :         x = idealhnf(NF,x);
     618         [ +  + ]:         21 :         if (lg(x) == 1) { avma = av; return cgetg(1,t_MAT); }
     619                 :         14 :         z = ZM_lll(shallowconcat(ZK,x), 0.99, LLL_KER);
     620                 :         14 :         lz = lg(z); l = lg(ZK);
     621         [ +  + ]:         56 :         for (i = 1; i < lz; i++) setlg(gel(z,i), l);
     622                 :         14 :         z = ZM_hnfmodid(z, gcoeff(x,1,1));
     623         [ -  + ]:         14 :         if (d) z = gdiv(z,d);
     624                 :         21 :         return gerepileupto(av, z);
     625                 :            :       }
     626                 :            :     }
     627                 :            :   }
     628                 :        189 :   x = rnfidealhnf(rnf,x); I = gel(x,2);
     629         [ +  + ]:        126 :   if (lg(I) == 1) { avma = av; return cgetg(1,t_MAT); }
     630                 :        147 :   return gerepilecopy(av, gel(I,1));
     631                 :            : }
     632                 :            : 
     633                 :            : /* lift ideal x to the relative extension, returns a Z-basis */
     634                 :            : GEN
     635                 :        217 : rnfidealup(GEN rnf,GEN x)
     636                 :            : {
     637                 :        217 :   pari_sp av = avma;
     638                 :            :   long i, n;
     639                 :            :   GEN nf, bas, bas2, I, x2;
     640                 :            : 
     641                 :        217 :   checkrnf(rnf); nf = rnf_get_nf(rnf);
     642                 :        217 :   n = rnf_get_degree(rnf);
     643                 :        217 :   bas = rnf_get_zk(rnf); bas2 = gel(bas,2);
     644                 :            : 
     645                 :        217 :   (void)idealtyp(&x, &I); /* I is junk */
     646                 :        203 :   x2 = idealtwoelt(nf,x);
     647                 :        112 :   I = cgetg(n+1,t_VEC);
     648         [ +  + ]:        315 :   for (i=1; i<=n; i++)
     649                 :            :   {
     650                 :        210 :     GEN c = gel(bas2,i), d;
     651         [ -  + ]:        210 :     if (typ(c) == t_MAT)
     652                 :            :     {
     653                 :          0 :       c = Q_remove_denom(c,&d);
     654                 :          0 :       c = idealmul_HNF(nf,c,x2);
     655         [ #  # ]:          0 :       if (d) c = gdiv(c,d);
     656                 :            :     }
     657                 :            :     else
     658                 :        210 :       c = idealmul(nf,c,x);
     659                 :        203 :     gel(I,i) = c;
     660                 :            :   }
     661                 :        105 :   return gerepilecopy(av, modulereltoabs(rnf, mkvec2(gel(bas,1), I)));
     662                 :            : }
     663                 :            : GEN
     664                 :       1001 : rnfidealup0(GEN rnf,GEN x, long flag)
     665                 :            : {
     666                 :       1001 :   pari_sp av = avma;
     667                 :            :   GEN NF, nf, proj, d, x2;
     668                 :            : 
     669         [ +  + ]:       1001 :   if (!flag) return rnfidealup(rnf,x);
     670                 :        784 :   checkrnf(rnf); nf = rnf_get_nf(rnf);
     671                 :        784 :   rnfcomplete(rnf);
     672                 :        784 :   proj = obj_check(rnf,rnf_MAPS);
     673                 :        784 :   NF = obj_check(rnf,rnf_NFABS);
     674                 :            : 
     675                 :        784 :   (void)idealtyp(&x, &d); /* d is junk */
     676                 :        784 :   x2 = idealtwoelt(nf,x);
     677                 :        784 :   x2 = Q_remove_denom(x2,&d);
     678                 :        784 :   gel(x2,2) = ZM_ZC_mul(gel(proj,1),gel(x2,2));
     679                 :        784 :   x2 = idealhnf_two(NF, x2);
     680         [ -  + ]:        784 :   if (d) x2 = gdiv(x2,d);
     681                 :        882 :   return gerepileupto(av, x2);
     682                 :            : }
     683                 :            : 
     684                 :            : /* x a relative HNF => vector of 2 generators (relative polmods) */
     685                 :            : GEN
     686                 :        252 : rnfidealtwoelement(GEN rnf, GEN x)
     687                 :            : {
     688                 :        252 :   pari_sp av = avma;
     689                 :            :   GEN y, cy, z, NF;
     690                 :            : 
     691                 :        252 :   y = rnfidealreltoabs_i(rnf,x);
     692                 :        182 :   rnfcomplete(rnf);
     693                 :        182 :   NF = obj_check(rnf,rnf_NFABS);
     694                 :        182 :   y = matalgtobasis(NF, y); settyp(y, t_MAT);
     695                 :        182 :   y = Q_primitive_part(y, &cy);
     696                 :        182 :   y = ZM_hnf(y);
     697         [ +  + ]:        182 :   if (lg(y) == 1) { avma = av; return mkvec2(gen_0, gen_0); }
     698                 :        147 :   y = idealtwoelt(NF, y);
     699         [ +  + ]:        140 :   if (cy) y = RgV_Rg_mul(y, cy);
     700                 :        140 :   z = rnfeltabstorel(rnf, coltoliftalg(NF, gel(y,2)));
     701                 :        175 :   return gerepilecopy(av, mkvec2(gel(y,1), z));
     702                 :            : }
     703                 :            : 
     704                 :            : GEN
     705                 :         49 : rnfidealmul(GEN rnf,GEN x,GEN y)
     706                 :            : {
     707                 :         49 :   pari_sp av = avma;
     708                 :            :   GEN nf, z, x1, x2, p1, p2, bas;
     709                 :            : 
     710                 :         49 :   y = rnfidealtwoelement(rnf,y);
     711         [ +  + ]:         49 :   if (isintzero(gel(y,1))) { avma = av; return rnfideal0(); }
     712                 :         42 :   nf = rnf_get_nf(rnf);
     713                 :         42 :   bas = rnf_get_zk(rnf);
     714                 :         42 :   x = rnfidealhnf(rnf,x);
     715                 :         42 :   x1 = gmodulo(gmul(gel(bas,1), matbasistoalg(nf,gel(x,1))), rnf_get_pol(rnf));
     716                 :         42 :   x2 = gel(x,2);
     717                 :         42 :   p1 = gmul(gel(y,1), gel(x,1));
     718                 :         42 :   p2 = rnfV_to_nfM(rnf, gmul(gel(y,2), x1));
     719                 :         42 :   z = mkvec2(shallowconcat(p1, p2), shallowconcat(x2, x2));
     720                 :         49 :   return gerepileupto(av, nfhnf(nf,z));
     721                 :            : }
     722                 :            : 
     723                 :            : static GEN
     724                 :         14 : rnfidealprimedec_1(GEN rnf, GEN L, GEN SL, GEN prK)
     725                 :            : {
     726                 :         14 :   GEN v, piL = rnfeltup0(rnf, pr_get_gen(prK), 1);
     727                 :            :   long i, c, l;
     728         [ -  + ]:         14 :   if (typ(piL) != t_COL) return SL; /* p inert in K/Q */
     729                 :         14 :   v = cgetg_copy(SL, &l);
     730         [ +  + ]:         28 :   for (i = c = 1; i < l; i++)
     731                 :            :   {
     732                 :         14 :     GEN P = gel(SL,i);
     733         [ +  - ]:         14 :     if (ZC_prdvd(L, piL, P)) gel(v,c++) = P;
     734                 :            :   }
     735                 :         14 :   setlg(v, c); return v;
     736                 :            : }
     737                 :            : GEN
     738                 :         14 : rnfidealprimedec(GEN rnf, GEN pr)
     739                 :            : {
     740                 :         14 :   pari_sp av = avma;
     741                 :            :   GEN p, z, NF, nf, SL;
     742                 :         14 :   checkrnf(rnf);
     743                 :         14 :   rnfcomplete(rnf);
     744                 :         14 :   NF = obj_check(rnf,rnf_NFABS);
     745                 :         14 :   nf = rnf_get_nf(rnf);
     746         [ +  + ]:         14 :   if (typ(pr) == t_INT)
     747                 :            :   {
     748                 :          7 :     p = pr;
     749                 :          7 :     pr = NULL;
     750                 :            :   }
     751                 :            :   else
     752                 :            :   {
     753                 :          7 :     checkprid(pr);
     754                 :          7 :     p = pr_get_p(pr);
     755                 :            :   }
     756                 :         14 :   SL = idealprimedec(NF, p);
     757         [ +  + ]:         14 :   if (pr)
     758                 :          7 :     z = rnfidealprimedec_1(rnf, NF, SL, pr);
     759                 :            :   else
     760                 :            :   {
     761                 :          7 :     GEN vK = idealprimedec(nf, p), vL;
     762                 :          7 :     long l = lg(vK), i;
     763                 :          7 :     vL = cgetg(l, t_VEC);
     764         [ +  + ]:         14 :     for (i = 1; i < l; i++)
     765                 :          7 :       gel(vL,i) = rnfidealprimedec_1(rnf, NF, SL, gel(vK,i));
     766                 :          7 :     z = mkvec2(vK, vL);
     767                 :            :   }
     768                 :         14 :   return gerepilecopy(av, z);
     769                 :            : }
     770                 :            : 
     771                 :            : GEN
     772                 :         35 : rnfidealfactor(GEN rnf, GEN x)
     773                 :            : {
     774                 :         35 :   pari_sp av = avma;
     775                 :            :   GEN NF;
     776                 :         35 :   checkrnf(rnf);
     777                 :         35 :   rnfcomplete(rnf);
     778                 :         35 :   NF = obj_check(rnf,rnf_NFABS);
     779                 :         35 :   return gerepileupto(av, idealfactor(NF, rnfidealreltoabs0(rnf, x, 1)));
     780                 :            : }
     781                 :            : 
     782                 :            : GEN
     783                 :       1008 : rnfequationall(GEN A, GEN B, long *pk, GEN *pLPRS)
     784                 :            : {
     785                 :            :   long lA, lB;
     786                 :            :   GEN nf, C;
     787                 :            : 
     788                 :       1008 :   A = get_nfpol(A, &nf); lA = lg(A);
     789         [ +  + ]:       1008 :   if (!nf) {
     790         [ -  + ]:        231 :     if (lA<=3) pari_err_CONSTPOL("rnfequation");
     791                 :        231 :     RgX_check_ZX(A,"rnfequation");
     792                 :            :   }
     793                 :       1008 :   B = RgX_nffix("rnfequation", A,B,1); lB = lg(B);
     794         [ -  + ]:       1008 :   if (lB<=3) pari_err_CONSTPOL("rnfequation");
     795                 :       1008 :   B = Q_primpart(B);
     796                 :            : 
     797         [ -  + ]:       1008 :   if (!nfissquarefree(A,B))
     798                 :          0 :     pari_err_DOMAIN("rnfequation","issquarefree(B)","=",gen_0,B);
     799                 :            : 
     800                 :       1008 :   *pk = 0; C = ZX_ZXY_resultant_all(A, B, pk, pLPRS);
     801         [ -  + ]:       1008 :   if (gsigne(leading_coeff(C)) < 0) C = RgX_neg(C);
     802                 :       1008 :   *pk = -*pk; return Q_primpart(C);
     803                 :            : }
     804                 :            : 
     805                 :            : GEN
     806                 :        959 : rnfequation0(GEN A, GEN B, long flall)
     807                 :            : {
     808                 :        959 :   pari_sp av = avma;
     809                 :            :   GEN LPRS, C;
     810                 :            :   long k;
     811                 :            : 
     812         [ +  + ]:        959 :   C = rnfequationall(A, B, &k, flall? &LPRS: NULL);
     813         [ +  + ]:        959 :   if (flall)
     814                 :            :   { /* a,b,c root of A,B,C = compositum, c = b + k a */
     815                 :        854 :     GEN a, mH0 = RgX_neg(gel(LPRS,1)), H1 = gel(LPRS,2);
     816                 :        854 :     a = RgXQ_mul(mH0, QXQ_inv(H1, C), C);
     817                 :        854 :     C = mkvec3(C, mkpolmod(a, C), stoi(k));
     818                 :            :   }
     819                 :        959 :   return gerepilecopy(av, C);
     820                 :            : }
     821                 :            : GEN
     822                 :         91 : rnfequation(GEN nf, GEN pol) { return rnfequation0(nf,pol,0); }
     823                 :            : GEN
     824                 :        742 : rnfequation2(GEN nf, GEN pol) { return rnfequation0(nf,pol,1); }
     825                 :            : GEN
     826                 :        728 : nf_rnfeq(GEN nf, GEN relpol)
     827                 :            : {
     828                 :            :   GEN pol, a, k, junk, eq;
     829                 :        728 :   relpol = liftpol_shallow(relpol);
     830                 :        728 :   eq = rnfequation2(nf, relpol);
     831                 :        728 :   pol = gel(eq,1);
     832         [ +  - ]:        728 :   a = gel(eq,2); if (typ(a) == t_POLMOD) a = gel(a,2);
     833                 :        728 :   k = gel(eq,3);
     834                 :        728 :   return mkvec5(pol,a,k,get_nfpol(nf, &junk),relpol);
     835                 :            : }
     836                 :            : /* only allow abstorel */
     837                 :            : GEN
     838                 :         14 : nf_rnfeqsimple(GEN nf, GEN relpol)
     839                 :            : {
     840                 :            :   long sa;
     841                 :         14 :   GEN junk, pol = rnfequationall(nf, relpol, &sa, NULL);
     842                 :         14 :   return mkvec5(pol,gen_0/*dummy*/,stoi(sa),get_nfpol(nf, &junk),relpol);
     843                 :            : }
     844                 :            : 
     845                 :            : /*******************************************************************/
     846                 :            : /*                                                                 */
     847                 :            : /*                            RELATIVE LLL                         */
     848                 :            : /*                                                                 */
     849                 :            : /*******************************************************************/
     850                 :            : static GEN
     851                 :        196 : nftau(long r1, GEN x)
     852                 :            : {
     853                 :        196 :   long i, l = lg(x);
     854         [ +  - ]:        196 :   GEN s = r1? gel(x,1): gmul2n(real_i(gel(x,1)),1);
     855         [ +  + ]:        392 :   for (i=2; i<=r1; i++) s = gadd(s, gel(x,i));
     856         [ -  + ]:        196 :   for (   ; i < l; i++) s = gadd(s, gmul2n(real_i(gel(x,i)),1));
     857                 :        196 :   return s;
     858                 :            : }
     859                 :            : 
     860                 :            : static GEN
     861                 :         28 : initmat(long l)
     862                 :            : {
     863                 :         28 :   GEN x = cgetg(l, t_MAT);
     864                 :            :   long i;
     865         [ +  + ]:        196 :   for (i = 1; i < l; i++) gel(x,i) = cgetg(l, t_COL);
     866                 :         28 :   return x;
     867                 :            : }
     868                 :            : 
     869                 :            : static GEN
     870                 :       1022 : nftocomplex(GEN nf, GEN x)
     871                 :            : {
     872                 :       1022 :   GEN M = nf_get_M(nf);
     873                 :       1022 :   x = nf_to_scalar_or_basis(nf,x);
     874         [ +  + ]:       1022 :   if (typ(x) != t_COL) return const_col(nbrows(M), x);
     875                 :       1022 :   return RgM_RgC_mul(M, x);
     876                 :            : }
     877                 :            : /* assume x a square t_MAT, return a t_VEC of embeddings of its columns */
     878                 :            : static GEN
     879                 :         14 : mattocomplex(GEN nf, GEN x)
     880                 :            : {
     881                 :         14 :   long i,j, l = lg(x);
     882                 :         14 :   GEN v = cgetg(l, t_VEC);
     883         [ +  + ]:         98 :   for (j=1; j<l; j++)
     884                 :            :   {
     885                 :         84 :     GEN c = gel(x,j), b = cgetg(l, t_MAT);
     886         [ +  + ]:        714 :     for (i=1; i<l; i++) gel(b,i) = nftocomplex(nf, gel(c,i));
     887                 :         84 :     b = shallowtrans(b); settyp(b, t_COL);
     888                 :         84 :     gel(v,j) = b;
     889                 :            :   }
     890                 :         14 :   return v;
     891                 :            : }
     892                 :            : 
     893                 :            : static GEN
     894                 :         14 : nf_all_roots(GEN nf, GEN x, long prec)
     895                 :            : {
     896                 :         14 :   long i, j, l = lg(x), ru = lg(nf_get_roots(nf));
     897                 :         14 :   GEN y = cgetg(l, t_POL), v, z;
     898                 :            : 
     899                 :         14 :   x = RgX_to_nfX(nf, x);
     900                 :         14 :   y[1] = x[1];
     901         [ +  + ]:        112 :   for (i=2; i<l; i++) gel(y,i) = nftocomplex(nf, gel(x,i));
     902 [ -  + ][ #  # ]:         14 :   i = gprecision(y); if (i && i <= 3) return NULL;
     903                 :            : 
     904                 :         14 :   v = cgetg(ru, t_VEC);
     905                 :         14 :   z = cgetg(l, t_POL); z[1] = x[1];
     906         [ +  + ]:         42 :   for (i=1; i<ru; i++)
     907                 :            :   {
     908         [ +  + ]:        224 :     for (j = 2; j < l; j++) gel(z,j) = gmael(y,j,i);
     909                 :         28 :     gel(v,i) = cleanroots(z, prec);
     910                 :            :   }
     911                 :         14 :   return v;
     912                 :            : }
     913                 :            : 
     914                 :            : static GEN
     915                 :        357 : rnfscal(GEN m, GEN x, GEN y)
     916                 :            : {
     917                 :        357 :   long i, l = lg(m);
     918                 :        357 :   GEN z = cgetg(l, t_COL);
     919         [ +  + ]:       1071 :   for (i = 1; i < l; i++)
     920                 :        714 :     gel(z,i) = gmul(gconj(shallowtrans(gel(x,i))), gmul(gel(m,i), gel(y,i)));
     921                 :        357 :   return z;
     922                 :            : }
     923                 :            : 
     924                 :            : /* x ideal in HNF */
     925                 :            : static GEN
     926                 :        364 : findmin(GEN nf, GEN x, GEN muf)
     927                 :            : {
     928                 :        364 :   pari_sp av = avma;
     929                 :            :   long e;
     930                 :        364 :   GEN cx, y, m, M = nf_get_M(nf);
     931                 :            : 
     932                 :        364 :   x = Q_primitive_part(x, &cx);
     933         [ +  + ]:        364 :   if (gequal1(gcoeff(x,1,1))) y = M;
     934                 :            :   else
     935                 :            :   {
     936                 :        210 :     GEN G = nf_get_G(nf);
     937                 :        210 :     m = lllfp(RgM_mul(G,x), 0.75, 0);
     938         [ -  + ]:        210 :     if (typ(m) != t_MAT)
     939                 :            :     {
     940                 :          0 :       x = ZM_lll(x, 0.75, LLL_INPLACE);
     941                 :          0 :       m = lllfp(RgM_mul(G,x), 0.75, 0);
     942         [ #  # ]:          0 :       if (typ(m) != t_MAT) pari_err_PREC("rnflllgram");
     943                 :            :     }
     944                 :        210 :     x = ZM_mul(x, m);
     945                 :        210 :     y = RgM_mul(M, x);
     946                 :            :   }
     947                 :        364 :   m = RgM_solve_realimag(y, muf);
     948         [ -  + ]:        364 :   if (!m) return NULL; /* precision problem */
     949         [ +  + ]:        364 :   if (cx) m = RgC_Rg_div(m, cx);
     950                 :        364 :   m = grndtoi(m, &e);
     951         [ -  + ]:        364 :   if (e >= 0) return NULL; /* precision problem */
     952                 :        364 :   m = ZM_ZC_mul(x, m);
     953         [ +  + ]:        364 :   if (cx) m = RgC_Rg_mul(m, cx);
     954                 :        364 :   return gerepileupto(av, m);
     955                 :            : }
     956                 :            : 
     957                 :            : static int
     958                 :        364 : RED(long k, long l, GEN U, GEN mu, GEN MC, GEN nf, GEN I, GEN *Ik_inv)
     959                 :            : {
     960                 :            :   GEN x, xc, ideal;
     961                 :            :   long i;
     962                 :            : 
     963         [ +  + ]:        364 :   if (!*Ik_inv) *Ik_inv = idealinv(nf, gel(I,k));
     964                 :        364 :   ideal = idealmul(nf,gel(I,l), *Ik_inv);
     965                 :        364 :   x = findmin(nf, ideal, gcoeff(mu,k,l));
     966         [ -  + ]:        364 :   if (!x) return 0;
     967         [ +  + ]:        364 :   if (gequal0(x)) return 1;
     968                 :            : 
     969                 :        294 :   xc = nftocomplex(nf,x);
     970                 :        294 :   gel(MC,k) = gsub(gel(MC,k), vecmul(xc,gel(MC,l)));
     971                 :        294 :   gel(U,k) = gsub(gel(U,k), gmul(coltoalg(nf,x), gel(U,l)));
     972                 :        294 :   gcoeff(mu,k,l) = gsub(gcoeff(mu,k,l), xc);
     973         [ +  + ]:       1029 :   for (i=1; i<l; i++)
     974                 :        735 :     gcoeff(mu,k,i) = gsub(gcoeff(mu,k,i), vecmul(xc,gcoeff(mu,l,i)));
     975                 :        364 :   return 1;
     976                 :            : }
     977                 :            : 
     978                 :            : static int
     979                 :         84 : check_0(GEN B)
     980                 :            : {
     981                 :         84 :   long i, l = lg(B);
     982         [ +  + ]:        252 :   for (i = 1; i < l; i++)
     983         [ -  + ]:        168 :     if (gsigne(gel(B,i)) <= 0) return 1;
     984                 :         84 :   return 0;
     985                 :            : }
     986                 :            : 
     987                 :            : static int
     988                 :         98 : do_SWAP(GEN I, GEN MC, GEN MCS, GEN h, GEN mu, GEN B, long kmax, long k,
     989                 :            :         const long alpha, long r1)
     990                 :            : {
     991                 :            :   GEN p1, p2, muf, mufc, Bf, temp;
     992                 :            :   long i, j;
     993                 :            : 
     994                 :         98 :   p1 = nftau(r1, gadd(gel(B,k),
     995                 :        196 :                       gmul(gnorml2(gcoeff(mu,k,k-1)), gel(B,k-1))));
     996                 :         98 :   p2 = nftau(r1, gel(B,k-1));
     997         [ +  + ]:         98 :   if (gcmp(gmulsg(alpha,p1), gmulsg(alpha-1,p2)) > 0) return 0;
     998                 :            : 
     999                 :         14 :   swap(gel(MC,k-1),gel(MC,k));
    1000                 :         14 :   swap(gel(h,k-1), gel(h,k));
    1001                 :         14 :   swap(gel(I,k-1), gel(I,k));
    1002         [ +  + ]:         91 :   for (j=1; j<=k-2; j++) swap(gcoeff(mu,k-1,j),gcoeff(mu,k,j));
    1003                 :         14 :   muf = gcoeff(mu,k,k-1);
    1004                 :         14 :   mufc = gconj(muf);
    1005                 :         14 :   Bf = gadd(gel(B,k), vecmul(real_i(vecmul(muf,mufc)), gel(B,k-1)));
    1006         [ -  + ]:         14 :   if (check_0(Bf)) return 1; /* precision problem */
    1007                 :            : 
    1008                 :         14 :   p1 = vecdiv(gel(B,k-1),Bf);
    1009                 :         14 :   gcoeff(mu,k,k-1) = vecmul(mufc,p1);
    1010                 :         14 :   temp = gel(MCS,k-1);
    1011                 :         14 :   gel(MCS,k-1) = gadd(gel(MCS,k), vecmul(muf,gel(MCS,k-1)));
    1012                 :         14 :   gel(MCS,k) = gsub(vecmul(vecdiv(gel(B,k),Bf), temp),
    1013                 :         28 :                     vecmul(gcoeff(mu,k,k-1), gel(MCS,k)));
    1014                 :         14 :   gel(B,k) = vecmul(gel(B,k),p1);
    1015                 :         14 :   gel(B,k-1) = Bf;
    1016         [ -  + ]:         14 :   for (i=k+1; i<=kmax; i++)
    1017                 :            :   {
    1018                 :          0 :     temp = gcoeff(mu,i,k);
    1019                 :          0 :     gcoeff(mu,i,k) = gsub(gcoeff(mu,i,k-1), vecmul(muf, gcoeff(mu,i,k)));
    1020                 :          0 :     gcoeff(mu,i,k-1) = gadd(temp, vecmul(gcoeff(mu,k,k-1),gcoeff(mu,i,k)));
    1021                 :            :   }
    1022                 :         98 :   return 1;
    1023                 :            : }
    1024                 :            : 
    1025                 :            : static GEN
    1026                 :         14 : rel_T2(GEN nf, GEN pol, long lx, long prec)
    1027                 :            : {
    1028                 :            :   long ru, i, j, k, l;
    1029                 :            :   GEN T2, s, unro, roorder, powreorder;
    1030                 :            : 
    1031                 :         14 :   roorder = nf_all_roots(nf, pol, prec);
    1032         [ -  + ]:         14 :   if (!roorder) return NULL;
    1033                 :         14 :   ru = lg(roorder);
    1034         [ +  + ]:         98 :   unro = cgetg(lx,t_COL); for (i=1; i<lx; i++) gel(unro,i) = gen_1;
    1035                 :         14 :   powreorder = cgetg(lx,t_MAT); gel(powreorder,1) = unro;
    1036                 :         14 :   T2 = cgetg(ru, t_VEC);
    1037         [ +  + ]:         42 :   for (i = 1; i < ru; i++)
    1038                 :            :   {
    1039                 :         28 :     GEN ro = gel(roorder,i);
    1040                 :         28 :     GEN m = initmat(lx);
    1041         [ +  + ]:        168 :     for (k=2; k<lx; k++)
    1042                 :            :     {
    1043                 :        140 :       GEN c = cgetg(lx, t_COL); gel(powreorder,k) = c;
    1044         [ +  + ]:       1232 :       for (j=1; j < lx; j++)
    1045                 :       1092 :         gel(c,j) = gmul(gel(ro,j), gmael(powreorder,k-1,j));
    1046                 :            :     }
    1047         [ +  + ]:        196 :     for (l = 1; l < lx; l++)
    1048         [ +  + ]:        882 :       for (k = 1; k <= l; k++)
    1049                 :            :       {
    1050                 :        714 :         s = gen_0;
    1051         [ +  + ]:       6636 :         for (j = 1; j < lx; j++)
    1052                 :       5922 :           s = gadd(s, gmul(gconj(gmael(powreorder,k,j)),
    1053                 :       5922 :                                  gmael(powreorder,l,j)));
    1054         [ +  + ]:        714 :         if (l == k)
    1055                 :        168 :           gcoeff(m, l, l) = real_i(s);
    1056                 :            :         else
    1057                 :            :         {
    1058                 :        546 :           gcoeff(m, k, l) = s;
    1059                 :        546 :           gcoeff(m, l, k) = gconj(s);
    1060                 :            :         }
    1061                 :            :       }
    1062                 :         28 :     gel(T2,i) = m;
    1063                 :            :   }
    1064                 :         14 :   return T2;
    1065                 :            : }
    1066                 :            : 
    1067                 :            : /* given a base field nf (e.g main variable y), a polynomial pol with
    1068                 :            :  * coefficients in nf    (e.g main variable x), and an order as output
    1069                 :            :  * by rnfpseudobasis, outputs a reduced order. */
    1070                 :            : GEN
    1071                 :         14 : rnflllgram(GEN nf, GEN pol, GEN order,long prec)
    1072                 :            : {
    1073                 :         14 :   pari_sp av = avma;
    1074                 :         14 :   long j, k, l, kmax, r1, lx, count = 0;
    1075                 :            :   GEN M, I, h, H, mth, MC, MPOL, MCS, B, mu;
    1076                 :         14 :   const long alpha = 10, MAX_COUNT = 4;
    1077                 :            : 
    1078                 :         14 :   nf = checknf(nf); r1 = nf_get_r1(nf);
    1079                 :         14 :   check_ZKmodule(order, "rnflllgram");
    1080                 :         14 :   M = gel(order,1);
    1081                 :         14 :   I = gel(order,2); lx = lg(I);
    1082         [ -  + ]:         14 :   if (lx < 3) return gcopy(order);
    1083         [ -  + ]:         14 :   if (lx-1 != degpol(pol)) pari_err_DIM("rnflllgram");
    1084                 :         14 :   I = leafcopy(I);
    1085                 :         14 :   H = NULL;
    1086                 :         14 :   MPOL = matbasistoalg(nf, M);
    1087                 :         14 :   MCS = matid(lx-1); /* dummy for gerepile */
    1088                 :            : PRECNF:
    1089         [ -  + ]:         14 :   if (count == MAX_COUNT)
    1090                 :            :   {
    1091                 :          0 :     prec = precdbl(prec); count = 0;
    1092         [ #  # ]:          0 :     if (DEBUGLEVEL) pari_warn(warnprec,"rnflllgram",prec);
    1093                 :          0 :     nf = nfnewprec_shallow(nf,prec);
    1094                 :            :   }
    1095                 :         14 :   mth = rel_T2(nf, pol, lx, prec);
    1096         [ -  + ]:         14 :   if (!mth) { count = MAX_COUNT; goto PRECNF; }
    1097                 :         14 :   h = NULL;
    1098                 :            : PRECPB:
    1099         [ -  + ]:         14 :   if (h)
    1100                 :            :   { /* precision problem, recompute. If no progress, increase nf precision */
    1101 [ #  # ][ #  # ]:          0 :     if (++count == MAX_COUNT || RgM_isidentity(h)) {count = MAX_COUNT; goto PRECNF;}
    1102         [ #  # ]:          0 :     H = H? gmul(H, h): h;
    1103                 :          0 :     MPOL = gmul(MPOL, h);
    1104                 :            :   }
    1105                 :         14 :   h = matid(lx-1);
    1106                 :         14 :   MC = mattocomplex(nf, MPOL);
    1107                 :         14 :   mu = cgetg(lx,t_MAT);
    1108                 :         14 :   B  = cgetg(lx,t_COL);
    1109         [ +  + ]:         98 :   for (j=1; j<lx; j++)
    1110                 :            :   {
    1111                 :         84 :     gel(mu,j) = zerocol(lx - 1);
    1112                 :         84 :     gel(B,j) = gen_0;
    1113                 :            :   }
    1114         [ -  + ]:         14 :   if (DEBUGLEVEL) err_printf("k = ");
    1115                 :         14 :   gel(B,1) = real_i(rnfscal(mth,gel(MC,1),gel(MC,1)));
    1116                 :         14 :   gel(MCS,1) = gel(MC,1);
    1117                 :         14 :   kmax = 1; k = 2;
    1118                 :            :   do
    1119                 :            :   {
    1120                 :         98 :     GEN Ik_inv = NULL;
    1121         [ -  + ]:         98 :     if (DEBUGLEVEL) err_printf("%ld ",k);
    1122         [ +  + ]:         98 :     if (k > kmax)
    1123                 :            :     { /* Incremental Gram-Schmidt */
    1124                 :         70 :       kmax = k; gel(MCS,k) = gel(MC,k);
    1125         [ +  + ]:        343 :       for (j=1; j<k; j++)
    1126                 :            :       {
    1127                 :        273 :         gcoeff(mu,k,j) = vecdiv(rnfscal(mth,gel(MCS,j),gel(MC,k)),
    1128                 :        273 :                                 gel(B,j));
    1129                 :        273 :         gel(MCS,k) = gsub(gel(MCS,k), vecmul(gcoeff(mu,k,j),gel(MCS,j)));
    1130                 :            :       }
    1131                 :         70 :       gel(B,k) = real_i(rnfscal(mth,gel(MCS,k),gel(MCS,k)));
    1132         [ +  - ]:         70 :       if (check_0(gel(B,k))) goto PRECPB;
    1133                 :            :     }
    1134         [ +  - ]:         98 :     if (!RED(k, k-1, h, mu, MC, nf, I, &Ik_inv)) goto PRECPB;
    1135         [ +  + ]:         98 :     if (do_SWAP(I,MC,MCS,h,mu,B,kmax,k,alpha, r1))
    1136                 :            :     {
    1137         [ +  - ]:         14 :       if (!B[k]) goto PRECPB;
    1138         [ +  - ]:         14 :       if (k > 2) k--;
    1139                 :            :     }
    1140                 :            :     else
    1141                 :            :     {
    1142         [ +  + ]:        350 :       for (l=k-2; l; l--)
    1143         [ +  - ]:        266 :         if (!RED(k, l, h, mu, MC, nf, I, &Ik_inv)) goto PRECPB;
    1144                 :         84 :       k++;
    1145                 :            :     }
    1146         [ -  + ]:         98 :     if (gc_needed(av,2))
    1147                 :            :     {
    1148         [ #  # ]:          0 :       if(DEBUGMEM>1) pari_warn(warnmem,"rnflllgram");
    1149         [ #  # ]:          0 :       gerepileall(av, H?10:9, &nf,&mth,&h,&MPOL,&B,&MC,&MCS,&mu,&I,&H);
    1150                 :            :     }
    1151                 :            :   }
    1152         [ +  + ]:         98 :   while (k < lx);
    1153                 :         14 :   MPOL = gmul(MPOL,h);
    1154         [ -  + ]:         14 :   if (H) h = gmul(H, h);
    1155         [ -  + ]:         14 :   if (DEBUGLEVEL) err_printf("\n");
    1156                 :         14 :   MPOL = RgM_to_nfM(nf,MPOL);
    1157                 :         14 :   h = RgM_to_nfM(nf,h);
    1158                 :         14 :   return gerepilecopy(av, mkvec2(mkvec2(MPOL,I), h));
    1159                 :            : }
    1160                 :            : 
    1161                 :            : GEN
    1162                 :          7 : rnfpolred(GEN nf, GEN pol, long prec)
    1163                 :            : {
    1164                 :          7 :   pari_sp av = avma;
    1165                 :          7 :   long i, j, n, v = varn(pol);
    1166                 :            :   GEN id, w, I, O, bnf, nfpol;
    1167                 :            : 
    1168         [ -  + ]:          7 :   if (typ(pol)!=t_POL) pari_err_TYPE("rnfpolred",pol);
    1169                 :          7 :   bnf = nf; nf = checknf(bnf);
    1170         [ -  + ]:          7 :   bnf = (nf == bnf)? NULL: checkbnf(bnf);
    1171         [ -  + ]:          7 :   if (degpol(pol) <= 1) { w = cgetg(2, t_VEC); gel(w,1) = pol_x(v); return w; }
    1172                 :          7 :   nfpol = nf_get_pol(nf);
    1173                 :            : 
    1174                 :          7 :   id = rnfpseudobasis(nf,pol);
    1175 [ -  + ][ #  # ]:          7 :   if (bnf && is_pm1( bnf_get_no(bnf) )) /* if bnf is principal */
    1176                 :            :   {
    1177                 :            :     GEN newI, newO;
    1178                 :          0 :     O = gel(id,1);
    1179                 :          0 :     I = gel(id,2); n = lg(I)-1;
    1180                 :          0 :     newI = cgetg(n+1,t_VEC);
    1181                 :          0 :     newO = cgetg(n+1,t_MAT);
    1182         [ #  # ]:          0 :     for (j=1; j<=n; j++)
    1183                 :            :     {
    1184                 :          0 :       GEN al = gen_if_principal(bnf,gel(I,j));
    1185                 :          0 :       gel(newI,j) = gen_1;
    1186                 :          0 :       gel(newO,j) = nfC_nf_mul(nf, gel(O,j), al);
    1187                 :            :     }
    1188                 :          0 :     id = mkvec2(newO, newI);
    1189                 :            :   }
    1190                 :            : 
    1191                 :          7 :   id = gel(rnflllgram(nf,pol,id,prec),1);
    1192                 :          7 :   O = gel(id,1);
    1193                 :          7 :   I = gel(id,2); n = lg(I)-1;
    1194                 :          7 :   w = cgetg(n+1,t_VEC);
    1195                 :          7 :   pol = lift(pol);
    1196         [ +  + ]:         70 :   for (j=1; j<=n; j++)
    1197                 :            :   {
    1198                 :         63 :     GEN newpol, L, a, Ij = gel(I,j);
    1199         [ +  + ]:         63 :     a = RgC_Rg_mul(gel(O,j), (typ(Ij) == t_MAT)? gcoeff(Ij,1,1): Ij);
    1200         [ +  + ]:        630 :     for (i=n; i; i--)
    1201                 :            :     {
    1202                 :        567 :       GEN c = gel(a,i);
    1203         [ +  + ]:        567 :       if (typ(c) == t_COL) gel(a,i) = coltoliftalg(nf, c);
    1204                 :            :     }
    1205                 :         63 :     a = RgV_to_RgX(a, v);
    1206                 :         63 :     newpol = RgXQX_red(RgXQ_charpoly(a, pol, v), nfpol);
    1207                 :         63 :     newpol = Q_primpart(newpol);
    1208                 :            : 
    1209                 :         63 :     (void)nfgcd_all(newpol, RgX_deriv(newpol), nfpol, nf_get_index(nf), &newpol);
    1210                 :         63 :     L = leading_coeff(newpol);
    1211                 :        133 :     gel(w,j) = (typ(L) == t_POL)? RgXQX_div(newpol, L, nfpol)
    1212         [ +  + ]:         63 :                                 : RgX_Rg_div(newpol, L);
    1213                 :            :   }
    1214                 :          7 :   return gerepilecopy(av,w);
    1215                 :            : }
    1216                 :            : 
    1217                 :            : /*******************************************************************/
    1218                 :            : /*                                                                 */
    1219                 :            : /*                  LINEAR ALGEBRA OVER Z_K  (HNF,SNF)             */
    1220                 :            : /*                                                                 */
    1221                 :            : /*******************************************************************/
    1222                 :            : /* A torsion-free module M over Z_K is given by [A,I].
    1223                 :            :  * I=[a_1,...,a_k] is a row vector of k fractional ideals given in HNF.
    1224                 :            :  * A is an n x k matrix (same k) such that if A_j is the j-th column of A then
    1225                 :            :  * M=a_1 A_1+...+a_k A_k. We say that [A,I] is a pseudo-basis if k=n */
    1226                 :            : 
    1227                 :            : /* Given an element x and an ideal I in HNF, gives an r such that x-r is in H
    1228                 :            :  * and r is small */
    1229                 :            : GEN
    1230                 :          7 : nfreduce(GEN nf, GEN x, GEN I)
    1231                 :            : {
    1232                 :          7 :   pari_sp av = avma;
    1233                 :            :   GEN aI;
    1234                 :          7 :   x = nf_to_scalar_or_basis(checknf(nf), x);
    1235 [ +  - ][ -  + ]:          7 :   if (idealtyp(&I,&aI) != id_MAT || lg(I)==1) pari_err_TYPE("nfreduce",I);
    1236         [ -  + ]:          7 :   if (typ(x) != t_COL) x = scalarcol( gmod(x, gcoeff(I,1,1)), lg(I)-1 );
    1237                 :          7 :   else x = reducemodinvertible(x, I);
    1238                 :          7 :   return gerepileupto(av, x);
    1239                 :            : }
    1240                 :            : /* Given an element x and an ideal in HNF, gives an a in ideal such that
    1241                 :            :  * x-a is small. No checks */
    1242                 :            : static GEN
    1243                 :      15330 : element_close(GEN nf, GEN x, GEN ideal)
    1244                 :            : {
    1245                 :      15330 :   pari_sp av = avma;
    1246                 :      15330 :   GEN y = gcoeff(ideal,1,1);
    1247                 :      15330 :   x = nf_to_scalar_or_basis(nf, x);
    1248 [ +  - ][ +  + ]:      15330 :   if (typ(y) == t_INT && is_pm1(y)) return ground(x);
    1249         [ +  + ]:      14259 :   if (typ(x) == t_COL)
    1250                 :       6104 :     x = closemodinvertible(x, ideal);
    1251                 :            :   else
    1252                 :       8155 :     x = gmul(y, gdivround(x,y));
    1253                 :      15330 :   return gerepileupto(av, x);
    1254                 :            : }
    1255                 :            : 
    1256                 :            : /* A + v B */
    1257                 :            : static GEN
    1258                 :      59738 : colcomb1(GEN nf, GEN v, GEN A, GEN B)
    1259                 :            : {
    1260         [ +  + ]:      59738 :   if (isintzero(v)) return A;
    1261                 :      59738 :   return RgC_to_nfC(nf, RgC_add(A, nfC_nf_mul(nf,B,v)));
    1262                 :            : }
    1263                 :            : /* u A + v B */
    1264                 :            : static GEN
    1265                 :      49378 : colcomb(GEN nf, GEN u, GEN v, GEN A, GEN B)
    1266                 :            : {
    1267         [ +  + ]:      49378 :   if (isintzero(u)) return nfC_nf_mul(nf,B,v);
    1268         [ +  + ]:      44387 :   if (u != gen_1) A = nfC_nf_mul(nf,A,u);
    1269                 :      49378 :   return colcomb1(nf, v, A, B);
    1270                 :            : }
    1271                 :            : 
    1272                 :            : /* return m[i,1..lim] * x */
    1273                 :            : static GEN
    1274                 :        231 : element_mulvecrow(GEN nf, GEN x, GEN m, long i, long lim)
    1275                 :            : {
    1276                 :        231 :   long j, l = minss(lg(m), lim+1);
    1277                 :        231 :   GEN dx, y = cgetg(l, t_VEC);
    1278                 :        231 :   x = nf_to_scalar_or_basis(nf, x);
    1279         [ +  + ]:        231 :   if (typ(x) == t_COL)
    1280                 :            :   {
    1281                 :         91 :     x = zk_multable(nf, Q_remove_denom(x, &dx));
    1282         [ +  + ]:        350 :     for (j=1; j<l; j++)
    1283                 :            :     {
    1284                 :        259 :       GEN t = gcoeff(m,i,j);
    1285         [ +  + ]:        259 :       if (!isintzero(t))
    1286                 :            :       {
    1287         [ +  + ]:        112 :         if (typ(t) == t_COL)
    1288                 :         28 :           t = RgM_RgC_mul(x, t);
    1289                 :            :         else
    1290                 :         84 :           t = RgC_Rg_mul(gel(x,1), t);
    1291         [ +  + ]:        112 :         if (dx) t = gdiv(t, dx);
    1292                 :        112 :         t = nf_to_scalar_or_basis(nf,t);
    1293                 :            :       }
    1294                 :        259 :       gel(y,j) = t;
    1295                 :            :     }
    1296                 :            :   }
    1297                 :            :   else
    1298                 :            :   {
    1299         [ +  + ]:        532 :     for (j=1; j<l; j++) gel(y,j) = gmul(x, gcoeff(m,i,j));
    1300                 :            :   }
    1301                 :        231 :   return y;
    1302                 :            : }
    1303                 :            : 
    1304                 :            : /* u Z[s,] + v Z[t,], limitied to the first lim entries */
    1305                 :            : static GEN
    1306                 :        154 : rowcomb(GEN nf, GEN u, GEN v, long s, long t, GEN Z, long lim)
    1307                 :            : {
    1308                 :            :   GEN z;
    1309         [ +  + ]:        154 :   if (gequal0(u))
    1310                 :          7 :     z = element_mulvecrow(nf,v,Z,t, lim);
    1311                 :            :   else
    1312                 :            :   {
    1313                 :        147 :     z = element_mulvecrow(nf,u,Z,s, lim);
    1314         [ +  + ]:        147 :     if (!gequal0(v)) z = gadd(z, element_mulvecrow(nf,v,Z,t, lim));
    1315                 :            :   }
    1316                 :        154 :   return z;
    1317                 :            : }
    1318                 :            : 
    1319                 :            : /* nfbezout(0,b,A,B). Either bB = NULL or b*B */
    1320                 :            : static GEN
    1321                 :      25873 : zero_nfbezout(GEN nf,GEN bB, GEN b, GEN A,GEN B,GEN *u,GEN *v,GEN *w,GEN *di)
    1322                 :            : {
    1323                 :            :   GEN d;
    1324         [ +  + ]:      25873 :   if (isint1(b))
    1325                 :            :   {
    1326                 :      24837 :     *v = gen_1;
    1327                 :      24837 :     *w = A;
    1328                 :      24837 :     d = B;
    1329                 :      24837 :     *di = idealinv(nf,d);
    1330                 :            :   }
    1331                 :            :   else
    1332                 :            :   {
    1333                 :       1036 :     *v = nfinv(nf,b);
    1334                 :       1036 :     *w = idealmul(nf,A,*v);
    1335         [ -  + ]:       1036 :     d = bB? bB: idealmul(nf,b,B);
    1336                 :       1036 :     *di = idealinv_HNF(nf,d);
    1337                 :            :   }
    1338                 :      25873 :   *u = gen_0; return d;
    1339                 :            : }
    1340                 :            : 
    1341                 :            : /* Given elements a,b and ideals A, B, outputs d = a.A+b.B and gives
    1342                 :            :  * di=d^-1, w=A.B.di, u, v such that au+bv=1 and u in A.di, v in B.di.
    1343                 :            :  * Assume A, B non-zero, but a or b can be zero (not both) */
    1344                 :            : static GEN
    1345                 :      28763 : nfbezout(GEN nf,GEN a,GEN b, GEN A,GEN B, GEN *pu,GEN *pv,GEN *pw,GEN *pdi)
    1346                 :            : {
    1347                 :            :   GEN w, u,v,uv, d, di, aA, bB;
    1348                 :            : 
    1349         [ -  + ]:      28763 :   if (isintzero(a)) return zero_nfbezout(nf,NULL,b,A,B,pu,pv,pw,pdi);
    1350         [ -  + ]:      28763 :   if (isintzero(b)) return zero_nfbezout(nf,NULL,a,B,A,pv,pu,pw,pdi);
    1351                 :            : 
    1352         [ +  + ]:      28763 :   if (a != gen_1) /* frequently called with a = gen_1 */
    1353                 :            :   {
    1354                 :      22421 :     a = nf_to_scalar_or_basis(nf,a);
    1355         [ +  + ]:      22421 :     if (isint1(a)) a = gen_1;
    1356                 :            :   }
    1357         [ +  + ]:      28763 :   aA = (a == gen_1)? A: idealmul(nf,a,A);
    1358                 :      28763 :   bB = idealmul(nf,b,B);
    1359                 :      28763 :   d = idealadd(nf,aA,bB);
    1360         [ +  + ]:      28763 :   if (gequal(aA, d)) return zero_nfbezout(nf,aA, a,B,A,pv,pu,pw,pdi);
    1361         [ +  + ]:      11164 :   if (gequal(bB, d)) return zero_nfbezout(nf,bB, b,A,B,pu,pv,pw,pdi);
    1362                 :            :   /* general case is slow */
    1363                 :       2890 :   di = idealinv_HNF(nf,d);
    1364                 :       2890 :   w = idealmul(nf,aA,di); /* integral */
    1365                 :       2890 :   uv = idealaddtoone(nf, w, idealmul(nf,bB,di));
    1366                 :       2890 :   w = idealmul(nf,w,B);
    1367                 :       2890 :   u = gel(uv,1);
    1368                 :       2890 :   v = nfdiv(nf,gel(uv,2),b);
    1369         [ +  + ]:       2890 :   if (a != gen_1)
    1370                 :            :   {
    1371                 :       1589 :     GEN inva = nfinv(nf, a);
    1372                 :       1589 :     u =  nfmul(nf,u,inva);
    1373                 :       1589 :     w = idealmul(nf, inva, w); /* AB/d */
    1374                 :            :   }
    1375                 :       2890 :   *pu = u;
    1376                 :       2890 :   *pv = v;
    1377                 :       2890 :   *pw = w;
    1378                 :      28763 :   *pdi = di; return d;
    1379                 :            : }
    1380                 :            : /* v a vector of ideals, simplify in place the ones generated by elts of Q */
    1381                 :            : static void
    1382                 :       3157 : idV_simplify(GEN v)
    1383                 :            : {
    1384                 :       3157 :   long i, l = lg(v);
    1385         [ +  + ]:      15575 :   for (i = 1; i < l; i++)
    1386                 :            :   {
    1387                 :      12418 :     GEN M = gel(v,i);
    1388 [ +  + ][ +  + ]:      12418 :     if (typ(M)==t_MAT && RgM_isscalar(M,NULL))
    1389                 :       3101 :       gel(v,i) = Q_abs_shallow(gcoeff(M,1,1));
    1390                 :            :   }
    1391                 :       3157 : }
    1392                 :            : /* Given a torsion-free module x outputs a pseudo-basis for x in HNF */
    1393                 :            : GEN
    1394                 :       2394 : nfhnf0(GEN nf, GEN x, long flag)
    1395                 :            : {
    1396                 :            :   long i, j, def, idef, m, n;
    1397                 :       2394 :   pari_sp av0 = avma, av;
    1398                 :            :   GEN y, A, I, J, U;
    1399                 :            : 
    1400                 :       2394 :   nf = checknf(nf);
    1401                 :       2394 :   check_ZKmodule(x, "nfhnf");
    1402                 :       2394 :   A = gel(x,1); RgM_dimensions(A, &m, &n);
    1403                 :       2394 :   I = gel(x,2);
    1404         [ +  + ]:       2394 :   if (!n) {
    1405         [ +  - ]:         49 :     if (!flag) return gcopy(x);
    1406                 :          0 :     retmkvec2(gcopy(x), cgetg(1,t_MAT));
    1407                 :            :   }
    1408         [ +  + ]:       2345 :   U = flag? matid(n): NULL;
    1409         [ +  + ]:       2345 :   idef = (n < m)? m-n : 0;
    1410                 :       2345 :   av = avma;
    1411                 :       2345 :   A = RgM_to_nfM(nf,A);
    1412                 :       2345 :   I = leafcopy(I);
    1413                 :       2345 :   J = zerovec(n); def = n;
    1414         [ +  + ]:      10689 :   for (i=m; i>idef; i--)
    1415                 :            :   {
    1416                 :       8344 :     GEN d, di = NULL;
    1417                 :            : 
    1418 [ +  + ][ +  + ]:       8953 :     j=def; while (j>=1 && isintzero(gcoeff(A,i,j))) j--;
    1419         [ +  + ]:       8344 :     if (!j)
    1420                 :            :     { /* no pivot on line i */
    1421         [ +  - ]:          7 :       if (idef) idef--;
    1422                 :          7 :       continue;
    1423                 :            :     }
    1424         [ +  + ]:       8337 :     if (j==def) j--;
    1425                 :            :     else {
    1426                 :        511 :       swap(gel(A,j), gel(A,def));
    1427                 :        511 :       swap(gel(I,j), gel(I,def));
    1428         [ -  + ]:        511 :       if (U) swap(gel(U,j), gel(U,def));
    1429                 :            :     }
    1430         [ +  + ]:      57379 :     for (  ; j; j--)
    1431                 :            :     {
    1432                 :      49042 :       GEN a,b, u,v,w, S, T, S0, T0 = gel(A,j);
    1433         [ +  + ]:      49042 :       b = gel(T0,i); if (isintzero(b)) continue;
    1434                 :            : 
    1435                 :      20069 :       S0 = gel(A,def); a = gel(S0,i);
    1436                 :      20069 :       d = nfbezout(nf, a,b, gel(I,def),gel(I,j), &u,&v,&w,&di);
    1437                 :      20069 :       S = colcomb(nf, u,v, S0,T0);
    1438                 :      20069 :       T = colcomb(nf, a,gneg(b), T0,S0);
    1439                 :      20069 :       gel(A,def) = S; gel(A,j) = T;
    1440                 :      20069 :       gel(I,def) = d; gel(I,j) = w;
    1441         [ +  + ]:      20069 :       if (U)
    1442                 :            :       {
    1443                 :         42 :         S0 = gel(U,def);
    1444                 :         42 :         T0 = gel(U,j);
    1445                 :         42 :         gel(U,def) = colcomb(nf, u,v, S0,T0);
    1446                 :      20069 :         gel(U,j) = colcomb(nf, a,gneg(b), T0,S0);
    1447                 :            :       }
    1448                 :            :     }
    1449                 :       8337 :     y = gcoeff(A,i,def);
    1450         [ +  + ]:       8337 :     if (!isint1(y))
    1451                 :            :     {
    1452                 :        651 :       GEN yi = nfinv(nf,y);
    1453                 :        651 :       gel(A,def) = nfC_nf_mul(nf, gel(A,def), yi);
    1454                 :        651 :       gel(I,def) = idealmul(nf, y, gel(I,def));
    1455         [ -  + ]:        651 :       if (U) gel(U,def) = nfC_nf_mul(nf, gel(U,def), yi);
    1456                 :        651 :       di = NULL;
    1457                 :            :     }
    1458         [ +  + ]:       8337 :     if (!di) di = idealinv(nf,gel(I,def));
    1459                 :       8337 :     d = gel(I,def);
    1460                 :       8337 :     gel(J,def) = di;
    1461         [ +  + ]:      24738 :     for (j=def+1; j<=n; j++)
    1462                 :            :     {
    1463         [ +  + ]:      16401 :       GEN mc, c = gcoeff(A,i,j); if (isintzero(c)) continue;
    1464                 :      11011 :       c = element_close(nf, c, idealmul(nf,d,gel(J,j)));
    1465                 :      11011 :       mc = gneg(c);
    1466                 :      11011 :       gel(A,j) = colcomb1(nf, mc, gel(A,j),gel(A,def));
    1467         [ +  + ]:      11011 :       if (U) gel(U,j) = colcomb1(nf, mc, gel(U,j),gel(U,def));
    1468                 :            :     }
    1469                 :       8337 :     def--;
    1470         [ -  + ]:       8337 :     if (gc_needed(av,2))
    1471                 :            :     {
    1472         [ #  # ]:          0 :       if(DEBUGMEM>1) pari_warn(warnmem,"nfhnf, i = %ld", i);
    1473         [ #  # ]:       8337 :       gerepileall(av,U?4:3, &A,&I,&J,&U);
    1474                 :            :     }
    1475                 :            :   }
    1476                 :       2345 :   n -= def;
    1477                 :       2345 :   A += def; A[0] = evaltyp(t_MAT)|evallg(n+1);
    1478                 :       2345 :   I += def; I[0] = evaltyp(t_VEC)|evallg(n+1);
    1479                 :       2345 :   idV_simplify(I);
    1480                 :       2345 :   x = mkvec2(A,I);
    1481         [ +  + ]:       2345 :   if (U) x = mkvec2(x,U);
    1482                 :       2394 :   return gerepilecopy(av0, x);
    1483                 :            : }
    1484                 :            : 
    1485                 :            : GEN
    1486                 :       2380 : nfhnf(GEN nf, GEN x) { return nfhnf0(nf, x, 0); }
    1487                 :            : 
    1488                 :            : static GEN
    1489                 :          0 : RgV_find_denom(GEN x)
    1490                 :            : {
    1491                 :          0 :   long i, l = lg(x);
    1492         [ #  # ]:          0 :   for (i = 1; i < l; i++)
    1493         [ #  # ]:          0 :     if (Q_denom(gel(x,i)) != gen_1) return gel(x,i);
    1494                 :          0 :   return NULL;
    1495                 :            : }
    1496                 :            : /* A torsion module M over Z_K will be given by a row vector [A,I,J] with
    1497                 :            :  * three components. I=[b_1,...,b_n] is a row vector of n fractional ideals
    1498                 :            :  * given in HNF, J=[a_1,...,a_n] is a row vector of n fractional ideals in
    1499                 :            :  * HNF. A is an nxn matrix (same n) such that if A_j is the j-th column of A
    1500                 :            :  * and e_n is the canonical basis of K^n, then
    1501                 :            :  * M=(b_1e_1+...+b_ne_n)/(a_1A_1+...a_nA_n) */
    1502                 :            : 
    1503                 :            : /* x=[A,I,J] a torsion module as above. Output the
    1504                 :            :  * smith normal form as K=[c_1,...,c_n] such that x = Z_K/c_1+...+Z_K/c_n */
    1505                 :            : GEN
    1506                 :         21 : nfsnf0(GEN nf, GEN x, long flag)
    1507                 :            : {
    1508                 :            :   long i, j, k, l, n, m;
    1509                 :            :   pari_sp av;
    1510                 :            :   GEN z,u,v,w,d,dinv,A,I,J, U,V;
    1511                 :            : 
    1512                 :         21 :   nf = checknf(nf);
    1513 [ +  - ][ -  + ]:         21 :   if (typ(x)!=t_VEC || lg(x)!=4) pari_err_TYPE("nfsnf",x);
    1514                 :         21 :   A = gel(x,1);
    1515                 :         21 :   I = gel(x,2);
    1516                 :         21 :   J = gel(x,3);
    1517         [ -  + ]:         21 :   if (typ(A)!=t_MAT) pari_err_TYPE("nfsnf",A);
    1518                 :         21 :   n = lg(A)-1;
    1519         [ -  + ]:         21 :   if (typ(I)!=t_VEC) pari_err_TYPE("nfsnf",I);
    1520         [ -  + ]:         21 :   if (typ(J)!=t_VEC) pari_err_TYPE("nfsnf",J);
    1521 [ +  - ][ -  + ]:         21 :   if (lg(I)!=n+1 || lg(J)!=n+1) pari_err_DIM("nfsnf");
    1522                 :         21 :   RgM_dimensions(A, &m, &n);
    1523 [ +  - ][ -  + ]:         21 :   if (!n || n != m) pari_err_IMPL("nfsnf for empty or non square matrices");
    1524                 :            : 
    1525                 :         21 :   av = avma;
    1526         [ +  + ]:         21 :   if (!flag) U = V = NULL;
    1527                 :            :   else
    1528                 :            :   {
    1529                 :          7 :     U = matid(m);
    1530                 :          7 :     V = matid(n);
    1531                 :            :   }
    1532                 :         21 :   A = RgM_to_nfM(nf, A);
    1533                 :         21 :   I = leafcopy(I);
    1534                 :         21 :   J = leafcopy(J);
    1535         [ +  + ]:         84 :   for (i = 1; i <= n; i++) gel(J,i) = idealinv(nf, gel(J,i));
    1536                 :         21 :   z = zerovec(n);
    1537         [ +  + ]:        126 :   for (i=n; i>=1; i--)
    1538                 :            :   {
    1539                 :            :     GEN Aii, a, b, db;
    1540                 :        105 :     long c = 0;
    1541         [ +  + ]:        238 :     for (j=i-1; j>=1; j--)
    1542                 :            :     {
    1543                 :        133 :       GEN S, T, S0, T0 = gel(A,j);
    1544         [ +  + ]:        133 :       b = gel(T0,i); if (gequal0(b)) continue;
    1545                 :            : 
    1546                 :         49 :       S0 = gel(A,i); a = gel(S0,i);
    1547                 :         49 :       d = nfbezout(nf, a,b, gel(J,i),gel(J,j), &u,&v,&w,&dinv);
    1548                 :         49 :       S = colcomb(nf, u,v, S0,T0);
    1549                 :         49 :       T = colcomb(nf, a,gneg(b), T0,S0);
    1550                 :         49 :       gel(A,i) = S; gel(A,j) = T;
    1551                 :         49 :       gel(J,i) = d; gel(J,j) = w;
    1552         [ +  + ]:         49 :       if (V)
    1553                 :            :       {
    1554                 :         21 :         T0 = gel(V,j);
    1555                 :         21 :         S0 = gel(V,i);
    1556                 :         21 :         gel(V,i) = colcomb(nf, u,v, S0,T0);
    1557                 :         21 :         gel(V,j) = colcomb(nf, a,gneg(b), T0,S0);
    1558                 :            :       }
    1559                 :            :     }
    1560         [ +  + ]:        238 :     for (j=i-1; j>=1; j--)
    1561                 :            :     {
    1562                 :            :       GEN ri, rj;
    1563         [ +  + ]:        133 :       b = gcoeff(A,j,i); if (gequal0(b)) continue;
    1564                 :            : 
    1565                 :         56 :       a = gcoeff(A,i,i);
    1566                 :         56 :       d = nfbezout(nf, a,b, gel(I,i),gel(I,j), &u,&v,&w,&dinv);
    1567                 :         56 :       ri = rowcomb(nf, u,v,       i,j, A, i);
    1568                 :         56 :       rj = rowcomb(nf, a,gneg(b), j,i, A, i);
    1569         [ +  + ]:        210 :       for (k=1; k<=i; k++) {
    1570                 :        154 :         gcoeff(A,j,k) = gel(rj,k);
    1571                 :        154 :         gcoeff(A,i,k) = gel(ri,k);
    1572                 :            :       }
    1573         [ +  + ]:         56 :       if (U)
    1574                 :            :       {
    1575                 :         21 :         ri = rowcomb(nf, u,v,       i,j, U, m);
    1576                 :         21 :         rj = rowcomb(nf, a,gneg(b), j,i, U, m);
    1577         [ +  + ]:         84 :         for (k=1; k<=m; k++) {
    1578                 :         63 :           gcoeff(U,j,k) = gel(rj,k);
    1579                 :         63 :           gcoeff(U,i,k) = gel(ri,k);
    1580                 :            :         }
    1581                 :            :       }
    1582                 :         56 :       gel(I,i) = d; gel(I,j) = w; c = 1;
    1583                 :            :     }
    1584         [ +  + ]:        105 :     if (c) { i++; continue; }
    1585                 :            : 
    1586         [ -  + ]:         63 :     Aii = gcoeff(A,i,i); if (gequal0(Aii)) continue;
    1587                 :         63 :     gel(J,i) = idealmul(nf, gel(J,i), Aii);
    1588                 :         63 :     gcoeff(A,i,i) = gen_1;
    1589         [ +  + ]:         63 :     if (V) gel(V,i) = nfC_nf_mul(nf, gel(V,i), nfinv(nf,Aii));
    1590                 :         63 :     gel(z,i) = idealmul(nf,gel(J,i),gel(I,i));
    1591                 :         63 :     b = Q_remove_denom(gel(z,i), &db);
    1592         [ +  + ]:        126 :     for (k=1; k<i; k++)
    1593         [ +  + ]:        168 :       for (l=1; l<i; l++)
    1594                 :            :       {
    1595                 :        105 :         GEN d, D, p1, p2, p3, Akl = gcoeff(A,k,l);
    1596                 :            :         long t;
    1597         [ +  + ]:        105 :         if (gequal0(Akl)) continue;
    1598                 :            : 
    1599                 :         91 :         p1 = idealmul(nf,Akl,gel(J,l));
    1600                 :         91 :         p3 = idealmul(nf, p1, gel(I,k));
    1601         [ -  + ]:         91 :         if (db) p3 = RgM_Rg_mul(p3, db);
    1602 [ +  - ][ +  - ]:         91 :         if (RgM_is_ZM(p3) && hnfdivide(b, p3)) continue;
    1603                 :            : 
    1604                 :            :         /* find d in D = I[k]/I[i] not in J[i]/(A[k,l] J[l]) */
    1605                 :          0 :         D = idealdiv(nf,gel(I,k),gel(I,i));
    1606                 :          0 :         p2 = idealdiv(nf,gel(J,i), p1);
    1607                 :          0 :         d = RgV_find_denom( RgM_solve(p2, D) );
    1608         [ #  # ]:          0 :         if (!d) pari_err_BUG("nfsnf");
    1609                 :          0 :         p1 = element_mulvecrow(nf,d,A,k,i);
    1610         [ #  # ]:          0 :         for (t=1; t<=i; t++) gcoeff(A,i,t) = gadd(gcoeff(A,i,t),gel(p1,t));
    1611         [ #  # ]:          0 :         if (U)
    1612                 :            :         {
    1613                 :          0 :           p1 = element_mulvecrow(nf,d,U,k,i);
    1614         [ #  # ]:          0 :           for (t=1; t<=i; t++) gcoeff(U,i,t) = gadd(gcoeff(U,i,t),gel(p1,t));
    1615                 :            :         }
    1616                 :            : 
    1617                 :          0 :         k = i; c = 1; break;
    1618                 :            :       }
    1619         [ -  + ]:         63 :     if (gc_needed(av,1))
    1620                 :            :     {
    1621         [ #  # ]:          0 :       if(DEBUGMEM>1) pari_warn(warnmem,"nfsnf");
    1622         [ #  # ]:          0 :       gerepileall(av,U?6:4, &A,&I,&J,&z,&U,&V);
    1623                 :            :     }
    1624         [ -  + ]:        105 :     if (c) i++; /* iterate on row/column i */
    1625                 :            :   }
    1626         [ +  + ]:         21 :   if (U) z = mkvec3(z,U,V);
    1627                 :         21 :   return gerepilecopy(av, z);
    1628                 :            : }
    1629                 :            : GEN
    1630                 :          0 : nfsnf(GEN nf, GEN x) { return nfsnf0(nf,x,0); }
    1631                 :            : 
    1632                 :            : /* Given a pseudo-basis x, outputs a multiple of its ideal determinant */
    1633                 :            : GEN
    1634                 :         14 : nfdetint(GEN nf, GEN x)
    1635                 :            : {
    1636                 :            :   GEN pass,c,v,det1,piv,pivprec,vi,p1,A,I,id,idprod;
    1637                 :         14 :   long i, j, k, rg, n, m, m1, cm=0, N;
    1638                 :         14 :   pari_sp av = avma, av1;
    1639                 :            : 
    1640                 :         14 :   nf = checknf(nf); N = nf_get_degree(nf);
    1641                 :         14 :   check_ZKmodule(x, "nfdetint");
    1642                 :         14 :   A = gel(x,1);
    1643                 :         14 :   I = gel(x,2);
    1644         [ -  + ]:         14 :   n = lg(A)-1; if (!n) return gen_1;
    1645                 :            : 
    1646                 :         14 :   m1 = lgcols(A); m = m1-1;
    1647                 :         14 :   id = matid(N);
    1648         [ +  + ]:         49 :   c = new_chunk(m1); for (k=1; k<=m; k++) c[k] = 0;
    1649                 :         14 :   piv = pivprec = gen_1;
    1650                 :            : 
    1651                 :         14 :   av1 = avma;
    1652                 :         14 :   det1 = idprod = gen_0; /* dummy for gerepileall */
    1653                 :         14 :   pass = cgetg(m1,t_MAT);
    1654                 :         14 :   v = cgetg(m1,t_COL);
    1655         [ +  + ]:         49 :   for (j=1; j<=m; j++)
    1656                 :            :   {
    1657                 :         35 :     gel(pass,j) = zerocol(m);
    1658                 :         35 :     gel(v,j) = gen_0; /* dummy */
    1659                 :            :   }
    1660         [ +  + ]:         63 :   for (rg=0,k=1; k<=n; k++)
    1661                 :            :   {
    1662                 :         49 :     long t = 0;
    1663         [ +  + ]:        182 :     for (i=1; i<=m; i++)
    1664         [ +  + ]:        133 :       if (!c[i])
    1665                 :            :       {
    1666                 :         77 :         vi=nfmul(nf,piv,gcoeff(A,i,k));
    1667         [ +  + ]:        287 :         for (j=1; j<=m; j++)
    1668         [ +  + ]:        210 :           if (c[j]) vi=gadd(vi,nfmul(nf,gcoeff(pass,i,j),gcoeff(A,j,k)));
    1669 [ +  + ][ +  - ]:         77 :         gel(v,i) = vi; if (!t && !gequal0(vi)) t=i;
    1670                 :            :       }
    1671         [ +  - ]:         49 :     if (t)
    1672                 :            :     {
    1673                 :         49 :       pivprec = piv;
    1674         [ +  + ]:         49 :       if (rg == m-1)
    1675                 :            :       {
    1676         [ +  + ]:         28 :         if (!cm)
    1677                 :            :         {
    1678                 :         14 :           cm=1; idprod = id;
    1679         [ +  + ]:         49 :           for (i=1; i<=m; i++)
    1680         [ +  + ]:         35 :             if (i!=t)
    1681                 :         21 :               idprod = (idprod==id)? gel(I,c[i])
    1682         [ +  + ]:         21 :                                    : idealmul(nf,idprod,gel(I,c[i]));
    1683                 :            :         }
    1684                 :         28 :         p1 = idealmul(nf,gel(v,t),gel(I,k)); c[t]=0;
    1685         [ +  + ]:         28 :         det1 = (typ(det1)==t_INT)? p1: idealadd(nf,p1,det1);
    1686                 :            :       }
    1687                 :            :       else
    1688                 :            :       {
    1689                 :         21 :         rg++; piv=gel(v,t); c[t]=k;
    1690         [ +  + ]:         77 :         for (i=1; i<=m; i++)
    1691         [ +  + ]:         56 :           if (!c[i])
    1692                 :            :           {
    1693         [ +  + ]:        105 :             for (j=1; j<=m; j++)
    1694 [ +  + ][ +  + ]:         77 :               if (c[j] && j!=t)
    1695                 :            :               {
    1696                 :          7 :                 p1 = gsub(nfmul(nf,piv,gcoeff(pass,i,j)),
    1697                 :         14 :                           nfmul(nf,gel(v,i),gcoeff(pass,t,j)));
    1698                 :          7 :                 gcoeff(pass,i,j) = rg>1? nfdiv(nf,p1,pivprec)
    1699         [ +  - ]:          7 :                                        : p1;
    1700                 :            :               }
    1701                 :         28 :             gcoeff(pass,i,t) = gneg(gel(v,i));
    1702                 :            :           }
    1703                 :            :       }
    1704                 :            :     }
    1705         [ -  + ]:         49 :     if (gc_needed(av1,1))
    1706                 :            :     {
    1707         [ #  # ]:          0 :       if(DEBUGMEM>1) pari_warn(warnmem,"nfdetint");
    1708                 :          0 :       gerepileall(av1,6, &det1,&piv,&pivprec,&pass,&v,&idprod);
    1709                 :            :     }
    1710                 :            :   }
    1711         [ -  + ]:         14 :   if (!cm) { avma = av; return cgetg(1,t_MAT); }
    1712                 :         14 :   return gerepileupto(av, idealmul(nf,idprod,det1));
    1713                 :            : }
    1714                 :            : 
    1715                 :            : /* reduce in place components of x[1..lim] mod D (destroy x). D in HNF */
    1716                 :            : static void
    1717                 :       8071 : nfcleanmod(GEN nf, GEN x, long lim, GEN D)
    1718                 :            : {
    1719                 :            :   long i;
    1720                 :            :   GEN DZ, DZ2, dD;
    1721                 :       8071 :   D = Q_remove_denom(D, &dD);
    1722         [ +  + ]:       8071 :   if (dD) x = RgC_Rg_mul(x, dD);
    1723                 :       8071 :   DZ = gcoeff(D,1,1);
    1724                 :       8071 :   DZ2 = shifti(DZ,-1);
    1725         [ +  + ]:      40859 :   for (i=1; i<=lim; i++) {
    1726                 :      32788 :     GEN c = gel(x,i);
    1727                 :      32788 :     c = nf_to_scalar_or_basis(nf, c);
    1728   [ +  +  +  - ]:      32788 :     switch(typ(c)) /* c = centermod(c, D) */
    1729                 :            :     {
    1730                 :            :       case t_INT:
    1731         [ +  + ]:      32095 :         if (!signe(c)) break;
    1732                 :      18879 :         c = centermodii(c, DZ, DZ2);
    1733         [ +  + ]:      18879 :         if (dD) c = gred_frac2(c,dD);
    1734                 :      18879 :         break;
    1735                 :            :       case t_FRAC: {
    1736                 :         21 :         GEN dc = gel(c,2), nc = gel(c,1), N = mulii(DZ, dc);
    1737                 :         21 :         c = centermodii(nc, N, shifti(N,-1));
    1738         [ -  + ]:         21 :         c = gred_frac2(c, dD ? mulii(dc,dD): dc);
    1739                 :         21 :         break;
    1740                 :            :       }
    1741                 :            :       case t_COL: {
    1742                 :            :         GEN dc;
    1743                 :        672 :         c = Q_remove_denom(c, &dc);
    1744         [ -  + ]:        672 :         c = ZC_hnfrem(c, dc? ZM_Z_mul(D,dc): D);
    1745         [ +  + ]:        672 :         if (ZV_isscalar(c))
    1746                 :            :         {
    1747                 :         49 :           c = gel(c,1);
    1748         [ -  + ]:         49 :           if (dD) c = gred_frac2(c,dD);
    1749                 :            :         }
    1750                 :            :         else
    1751         [ -  + ]:        672 :           if (dD) c = RgC_Rg_div(c, dD);
    1752                 :            :         break;
    1753                 :            :       }
    1754                 :            :     }
    1755                 :      32788 :     gel(x,i) = c;
    1756                 :            :   }
    1757                 :       8071 : }
    1758                 :            : 
    1759                 :            : GEN
    1760                 :        812 : nfhnfmod(GEN nf, GEN x, GEN detmat)
    1761                 :            : {
    1762                 :            :   long li, co, i, j, def, ldef;
    1763                 :        812 :   pari_sp av0=avma, av;
    1764                 :            :   GEN dA, dI, d0, w, p1, d, u, v, A, I, J, di;
    1765                 :            : 
    1766                 :        812 :   nf = checknf(nf);
    1767                 :        812 :   check_ZKmodule(x, "nfhnfmod");
    1768                 :        812 :   A = gel(x,1);
    1769                 :        812 :   I = gel(x,2);
    1770         [ -  + ]:        812 :   co = lg(A); if (co==1) return cgetg(1,t_MAT);
    1771                 :            : 
    1772                 :        812 :   li = lgcols(A);
    1773         [ -  + ]:        812 :   if (typ(detmat)!=t_MAT) detmat = idealhnf_shallow(nf, detmat);
    1774                 :        812 :   detmat = Q_remove_denom(detmat, NULL);
    1775                 :        812 :   RgM_check_ZM(detmat, "nfhnfmod");
    1776                 :            : 
    1777                 :        812 :   av = avma;
    1778                 :        812 :   A = RgM_to_nfM(nf, A);
    1779                 :        812 :   A = Q_remove_denom(A, &dA);
    1780                 :        812 :   I = Q_remove_denom(leafcopy(I), &dI);
    1781                 :        812 :   dA = mul_denom(dA,dI);
    1782         [ +  + ]:        812 :   if (dA) detmat = ZM_Z_mul(detmat, powiu(dA, minss(li,co)));
    1783                 :            : 
    1784         [ -  + ]:        812 :   def = co; ldef = (li>co)? li-co+1: 1;
    1785         [ +  + ]:       4893 :   for (i=li-1; i>=ldef; i--)
    1786                 :            :   {
    1787 [ +  - ][ +  + ]:       4648 :     def--; j=def; while (j>=1 && isintzero(gcoeff(A,i,j))) j--;
    1788         [ -  + ]:       4081 :     if (!j) continue;
    1789         [ +  + ]:       4081 :     if (j==def) j--;
    1790                 :            :     else {
    1791                 :        455 :       swap(gel(A,j), gel(A,def));
    1792                 :        455 :       swap(gel(I,j), gel(I,def));
    1793                 :            :     }
    1794         [ +  + ]:      20356 :     for (  ; j; j--)
    1795                 :            :     {
    1796                 :      16275 :       GEN a, b, S, T, S0, T0 = gel(A,j);
    1797         [ +  + ]:      16275 :       b = gel(T0,i); if (isintzero(b)) continue;
    1798                 :            : 
    1799                 :       4508 :       S0 = gel(A,def); a = gel(S0,i);
    1800                 :       4508 :       d = nfbezout(nf, a,b, gel(I,def),gel(I,j), &u,&v,&w,&di);
    1801                 :       4508 :       S = colcomb(nf, u,v, S0,T0);
    1802                 :       4508 :       T = colcomb(nf, a,gneg(b), T0,S0);
    1803 [ +  + ][ +  + ]:       4508 :       if (u != gen_0 && v != gen_0) /* already reduced otherwise */
    1804                 :        294 :         nfcleanmod(nf, S, i, idealmul(nf,detmat,di));
    1805                 :       4508 :       nfcleanmod(nf, T, i, idealdiv(nf,detmat,w));
    1806                 :       4508 :       gel(A,def) = S; gel(A,j) = T;
    1807                 :       4508 :       gel(I,def) = d; gel(I,j) = w;
    1808                 :            :     }
    1809         [ -  + ]:       4081 :     if (gc_needed(av,2))
    1810                 :            :     {
    1811         [ #  # ]:          0 :       if(DEBUGMEM>1) pari_warn(warnmem,"[1]: nfhnfmod, i = %ld", i);
    1812         [ #  # ]:          0 :       gerepileall(av,dA? 4: 3, &A,&I,&detmat,&dA);
    1813                 :            :     }
    1814                 :            :   }
    1815                 :        812 :   def--; d0 = detmat;
    1816                 :        812 :   A += def; A[0] = evaltyp(t_MAT)|evallg(li);
    1817                 :        812 :   I += def; I[0] = evaltyp(t_VEC)|evallg(li);
    1818                 :        812 :   J = cgetg(li,t_VEC);
    1819         [ +  + ]:       4893 :   for (i=li-1; i>=1; i--)
    1820                 :            :   {
    1821                 :       4081 :     GEN b = gcoeff(A,i,i);
    1822                 :       4081 :     d = nfbezout(nf, gen_1,b, d0,gel(I,i), &u,&v,&w,&di);
    1823                 :       4081 :     p1 = nfC_nf_mul(nf,gel(A,i),v);
    1824         [ +  + ]:       4081 :     if (i > 1)
    1825                 :            :     {
    1826                 :       3269 :       d0 = idealmul(nf,d0,di);
    1827                 :       3269 :       nfcleanmod(nf, p1, i, d0);
    1828                 :            :     }
    1829                 :       4081 :     gel(A,i) = p1; gel(p1,i) = gen_1;
    1830                 :       4081 :     gel(I,i) = d;
    1831                 :       4081 :     gel(J,i) = di;
    1832                 :            :   }
    1833         [ +  + ]:       4081 :   for (i=li-2; i>=1; i--)
    1834                 :            :   {
    1835                 :       3269 :     d = gel(I,i);
    1836         [ +  + ]:      14224 :     for (j=i+1; j<li; j++)
    1837                 :            :     {
    1838         [ +  + ]:      10955 :       GEN c = gcoeff(A,i,j); if (isintzero(c)) continue;
    1839                 :       4319 :       c = element_close(nf, c, idealmul(nf,d,gel(J,j)));
    1840                 :       4319 :       gel(A,j) = colcomb1(nf, gneg(c), gel(A,j),gel(A,i));
    1841                 :            :     }
    1842         [ -  + ]:       3269 :     if (gc_needed(av,2))
    1843                 :            :     {
    1844         [ #  # ]:          0 :       if(DEBUGMEM>1) pari_warn(warnmem,"[2]: nfhnfmod, i = %ld", i);
    1845         [ #  # ]:          0 :       gerepileall(av,dA? 4: 3, &A,&I,&J,&dA);
    1846                 :            :     }
    1847                 :            :   }
    1848                 :        812 :   idV_simplify(I);
    1849         [ +  + ]:        812 :   if (dA) I = gdiv(I,dA);
    1850                 :        812 :   return gerepilecopy(av0, mkvec2(A, I));
    1851                 :            : }

Generated by: LCOV version 1.9