Code coverage tests

This page documents the degree to which the PARI/GP source code is tested by our public test suite, distributed with the source distribution in directory src/test/. This is measured by the gcov utility; we then process gcov output using the lcov frond-end.

We test a few variants depending on Configure flags on the pari.math.u-bordeaux1.fr machine (x86_64 architecture), and agregate them in the final report:

The target is 90% coverage for all mathematical modules (given that branches depending on DEBUGLEVEL or DEBUGMEM are not covered). This script is run to produce the results below.

LCOV - code coverage report
Current view: top level - basemath - base4.c (source / functions) Hit Total Coverage
Test: PARI/GP v2.8.0 lcov report (development 17234-4181bc5) Lines: 1703 1803 94.5 %
Date: 2014-12-18 Functions: 139 147 94.6 %
Legend: Lines: hit not hit | Branches: + taken - not taken # not executed Branches: 1032 1256 82.2 %

           Branch data     Line data    Source code
       1                 :            : /* Copyright (C) 2000  The PARI group.
       2                 :            : 
       3                 :            : This file is part of the PARI/GP package.
       4                 :            : 
       5                 :            : PARI/GP is free software; you can redistribute it and/or modify it under the
       6                 :            : terms of the GNU General Public License as published by the Free Software
       7                 :            : Foundation. It is distributed in the hope that it will be useful, but WITHOUT
       8                 :            : ANY WARRANTY WHATSOEVER.
       9                 :            : 
      10                 :            : Check the License for details. You should have received a copy of it, along
      11                 :            : with the package; see the file 'COPYING'. If not, write to the Free Software
      12                 :            : Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA. */
      13                 :            : 
      14                 :            : /*******************************************************************/
      15                 :            : /*                                                                 */
      16                 :            : /*                       BASIC NF OPERATIONS                       */
      17                 :            : /*                           (continued)                           */
      18                 :            : /*                                                                 */
      19                 :            : /*******************************************************************/
      20                 :            : #include "pari.h"
      21                 :            : #include "paripriv.h"
      22                 :            : 
      23                 :            : /*******************************************************************/
      24                 :            : /*                                                                 */
      25                 :            : /*                     IDEAL OPERATIONS                            */
      26                 :            : /*                                                                 */
      27                 :            : /*******************************************************************/
      28                 :            : 
      29                 :            : /* A valid ideal is either principal (valid nf_element), or prime, or a matrix
      30                 :            :  * on the integer basis in HNF.
      31                 :            :  * A prime ideal is of the form [p,a,e,f,b], where the ideal is p.Z_K+a.Z_K,
      32                 :            :  * p is a rational prime, a belongs to Z_K, e=e(P/p), f=f(P/p), and b
      33                 :            :  * is Lenstra's constant, such that p.P^(-1)= p Z_K + b Z_K.
      34                 :            :  *
      35                 :            :  * An extended ideal is a couple [I,F] where I is a valid ideal and F is
      36                 :            :  * either an algebraic number, or a factorization matrix associated to an
      37                 :            :  * algebraic number. All routines work with either extended ideals or ideals
      38                 :            :  * (an omitted F is assumed to be [;] <-> 1).
      39                 :            :  * All ideals are output in HNF form. */
      40                 :            : 
      41                 :            : /* types and conversions */
      42                 :            : 
      43                 :            : long
      44                 :    2692878 : idealtyp(GEN *ideal, GEN *arch)
      45                 :            : {
      46                 :    2692878 :   GEN x = *ideal;
      47                 :    2692878 :   long t,lx,tx = typ(x);
      48                 :            : 
      49 [ +  + ][ +  + ]:    2692878 :   if (tx==t_VEC && lg(x)==3)
      50                 :     308444 :   { *arch = gel(x,2); x = gel(x,1); tx = typ(x); }
      51                 :            :   else
      52                 :    2384434 :     *arch = NULL;
      53   [ +  +  +  - ]:    2692878 :   switch(tx)
      54                 :            :   {
      55                 :    1234787 :     case t_MAT: lx = lg(x);
      56         [ +  + ]:    1234787 :       if (lx == 1) { t = id_PRINCIPAL; x = gen_0; break; }
      57         [ +  + ]:    1234710 :       if (lx != lgcols(x)) pari_err_TYPE("idealtyp [non-square t_MAT]",x);
      58                 :    1234703 :       t = id_MAT;
      59                 :    1234703 :       break;
      60                 :            : 
      61         [ +  + ]:    1224695 :     case t_VEC: if (lg(x)!=6) pari_err_TYPE("idealtyp",x);
      62                 :    1224681 :       t = id_PRIME; break;
      63                 :            : 
      64                 :            :     case t_POL: case t_POLMOD: case t_COL:
      65                 :            :     case t_INT: case t_FRAC:
      66                 :     233396 :       t = id_PRINCIPAL; break;
      67                 :            :     default:
      68                 :          0 :       pari_err_TYPE("idealtyp",x);
      69                 :          0 :       return 0; /*not reached*/
      70                 :            :   }
      71                 :    2692857 :   *ideal = x; return t;
      72                 :            : }
      73                 :            : 
      74                 :            : /* nf a true nf; v = [a,x,...], a in Z. Return (a,x) */
      75                 :            : GEN
      76                 :    1286119 : idealhnf_two(GEN nf, GEN v)
      77                 :            : {
      78                 :    1286119 :   GEN p = gel(v,1), pi = gel(v,2), m = zk_scalar_or_multable(nf, pi);
      79         [ +  + ]:    1286119 :   if (typ(m) == t_INT) return scalarmat(gcdii(m,p), nf_get_degree(nf));
      80                 :    1286119 :   return ZM_hnfmodid(m, p);
      81                 :            : }
      82                 :            : 
      83                 :            : static GEN
      84                 :      48347 : ZM_Q_mul(GEN x, GEN y)
      85         [ +  + ]:      48347 : { return typ(y) == t_INT? ZM_Z_mul(x,y): RgM_Rg_mul(x,y); }
      86                 :            : 
      87                 :            : 
      88                 :            : GEN
      89                 :     137464 : idealhnf_principal(GEN nf, GEN x)
      90                 :            : {
      91                 :            :   GEN cx;
      92                 :     137464 :   x = nf_to_scalar_or_basis(nf, x);
      93   [ +  +  +  - ]:     137464 :   switch(typ(x))
      94                 :            :   {
      95                 :      81612 :     case t_COL: break;
      96         [ +  + ]:      46808 :     case t_INT:  if (!signe(x)) return cgetg(1,t_MAT);
      97                 :      46703 :       return scalarmat(absi(x), nf_get_degree(nf));
      98                 :            :     case t_FRAC:
      99                 :       9044 :       return scalarmat(Q_abs_shallow(x), nf_get_degree(nf));
     100                 :          0 :     default: pari_err_TYPE("idealhnf",x);
     101                 :            :   }
     102                 :      81612 :   x = Q_primitive_part(x, &cx);
     103                 :      81612 :   RgV_check_ZV(x, "idealhnf");
     104                 :      81605 :   x = zk_multable(nf, x);
     105                 :      81605 :   x = ZM_hnfmod(x, ZM_detmult(x));
     106         [ +  + ]:     137457 :   return cx? ZM_Q_mul(x,cx): x;
     107                 :            : }
     108                 :            : 
     109                 :            : /* x integral ideal in t_MAT form, nx columns */
     110                 :            : static GEN
     111                 :          7 : vec_mulid(GEN nf, GEN x, long nx, long N)
     112                 :            : {
     113                 :          7 :   GEN m = cgetg(nx*N + 1, t_MAT);
     114                 :            :   long i, j, k;
     115         [ +  + ]:         21 :   for (i=k=1; i<=nx; i++)
     116         [ +  + ]:         56 :     for (j=1; j<=N; j++) gel(m, k++) = zk_ei_mul(nf, gel(x,i),j);
     117                 :          7 :   return m;
     118                 :            : }
     119                 :            : GEN
     120                 :     274964 : idealhnf_shallow(GEN nf, GEN x)
     121                 :            : {
     122                 :     274964 :   long tx = typ(x), lx = lg(x), N;
     123                 :            : 
     124                 :            :   /* cannot use idealtyp because here we allow non-square matrices */
     125 [ +  + ][ +  + ]:     274964 :   if (tx == t_VEC && lx == 3) { x = gel(x,1); tx = typ(x); lx = lg(x); }
     126 [ +  + ][ +  - ]:     274964 :   if (tx == t_VEC && lx == 6) return idealhnf_two(nf,x); /* PRIME */
     127      [ +  +  + ]:     107630 :   switch(tx)
     128                 :            :   {
     129                 :            :     case t_MAT:
     130                 :            :     {
     131                 :            :       GEN cx;
     132                 :      15001 :       long nx = lx-1;
     133                 :      15001 :       N = nf_get_degree(nf);
     134         [ +  + ]:      15001 :       if (nx == 0) return cgetg(1, t_MAT);
     135         [ -  + ]:      14987 :       if (nbrows(x) != N) pari_err_TYPE("idealhnf [wrong dimension]",x);
     136         [ +  + ]:      14987 :       if (nx == 1) return idealhnf_principal(nf, gel(x,1));
     137                 :            : 
     138 [ +  + ][ +  + ]:      14735 :       if (nx == N && RgM_is_ZM(x) && ZM_ishnf(x)) return x;
                 [ +  + ]
     139                 :       1239 :       x = Q_primitive_part(x, &cx);
     140         [ +  + ]:       1239 :       if (nx < N) x = vec_mulid(nf, x, nx, N);
     141                 :       1239 :       x = ZM_hnfmod(x, ZM_detmult(x));
     142         [ +  + ]:      15001 :       return cx? ZM_Q_mul(x,cx): x;
     143                 :            :     }
     144                 :            :     case t_QFI:
     145                 :            :     case t_QFR:
     146                 :            :     {
     147                 :         14 :       pari_sp av = avma;
     148                 :         14 :       GEN u, D = nf_get_disc(nf), T = nf_get_pol(nf), f = nf_get_index(nf);
     149                 :         14 :       GEN A = gel(x,1), B = gel(x,2);
     150                 :         14 :       N = nf_get_degree(nf);
     151         [ -  + ]:         14 :       if (N != 2)
     152                 :          0 :         pari_err_TYPE("idealhnf [Qfb for non-quadratic fields]", x);
     153         [ +  + ]:         14 :       if (!equalii(qfb_disc(x), D))
     154                 :          7 :         pari_err_DOMAIN("idealhnf [Qfb]", "disc(q)", "!=", D, x);
     155                 :            :       /* x -> A Z + (-B + sqrt(D)) / 2 Z
     156                 :            :          K = Q[t]/T(t), t^2 + ut + v = 0,  u^2 - 4v = Df^2
     157                 :            :          => t = (-u + sqrt(D) f)/2
     158                 :            :          => sqrt(D)/2 = (t + u/2)/f */
     159                 :          7 :       u = gel(T,3);
     160                 :          7 :       B = deg1pol_shallow(ginv(f),
     161                 :            :                           gsub(gdiv(u, shifti(f,1)), gdiv(B,gen_2)),
     162                 :          7 :                           varn(T));
     163                 :          7 :       return gerepileupto(av, idealhnf_two(nf, mkvec2(A,B)));
     164                 :            :     }
     165                 :     274957 :     default: return idealhnf_principal(nf, x); /* PRINCIPAL */
     166                 :            :   }
     167                 :            : }
     168                 :            : GEN
     169                 :       2352 : idealhnf(GEN nf, GEN x)
     170                 :            : {
     171                 :       2352 :   pari_sp av = avma;
     172                 :       2352 :   GEN y = idealhnf_shallow(checknf(nf), x);
     173         [ +  + ]:       2345 :   return (avma == av)? gcopy(y): gerepileupto(av, y);
     174                 :            : }
     175                 :            : 
     176                 :            : /* GP functions */
     177                 :            : 
     178                 :            : GEN
     179                 :         63 : idealtwoelt0(GEN nf, GEN x, GEN a)
     180                 :            : {
     181         [ +  + ]:         63 :   if (!a) return idealtwoelt(nf,x);
     182                 :         63 :   return idealtwoelt2(nf,x,a);
     183                 :            : }
     184                 :            : 
     185                 :            : GEN
     186                 :         42 : idealpow0(GEN nf, GEN x, GEN n, long flag)
     187                 :            : {
     188         [ +  + ]:         42 :   if (flag) return idealpowred(nf,x,n);
     189                 :         42 :   return idealpow(nf,x,n);
     190                 :            : }
     191                 :            : 
     192                 :            : GEN
     193                 :         28 : idealmul0(GEN nf, GEN x, GEN y, long flag)
     194                 :            : {
     195         [ +  + ]:         28 :   if (flag) return idealmulred(nf,x,y);
     196                 :         28 :   return idealmul(nf,x,y);
     197                 :            : }
     198                 :            : 
     199                 :            : GEN
     200                 :         35 : idealdiv0(GEN nf, GEN x, GEN y, long flag)
     201                 :            : {
     202      [ +  +  - ]:         35 :   switch(flag)
     203                 :            :   {
     204                 :         14 :     case 0: return idealdiv(nf,x,y);
     205                 :         21 :     case 1: return idealdivexact(nf,x,y);
     206                 :          0 :     default: pari_err_FLAG("idealdiv");
     207                 :            :   }
     208                 :         21 :   return NULL; /* not reached */
     209                 :            : }
     210                 :            : 
     211                 :            : GEN
     212                 :         70 : idealaddtoone0(GEN nf, GEN arg1, GEN arg2)
     213                 :            : {
     214         [ +  + ]:         70 :   if (!arg2) return idealaddmultoone(nf,arg1);
     215                 :         56 :   return idealaddtoone(nf,arg1,arg2);
     216                 :            : }
     217                 :            : 
     218                 :            : /* b not a scalar */
     219                 :            : static GEN
     220                 :         28 : hnf_Z_ZC(GEN nf, GEN a, GEN b) { return hnfmodid(zk_multable(nf,b), a); }
     221                 :            : /* b not a scalar */
     222                 :            : static GEN
     223                 :         21 : hnf_Z_QC(GEN nf, GEN a, GEN b)
     224                 :            : {
     225                 :            :   GEN db;
     226                 :         21 :   b = Q_remove_denom(b, &db);
     227         [ -  + ]:         21 :   if (db) a = mulii(a, db);
     228                 :         21 :   b = hnf_Z_ZC(nf,a,b);
     229         [ -  + ]:         21 :   return db? RgM_Rg_div(b, db): b;
     230                 :            : }
     231                 :            : /* b not a scalar (not point in trying to optimize for this case) */
     232                 :            : static GEN
     233                 :         28 : hnf_Q_QC(GEN nf, GEN a, GEN b)
     234                 :            : {
     235                 :            :   GEN da, db;
     236         [ +  + ]:         28 :   if (typ(a) == t_INT) return hnf_Z_QC(nf, a, b);
     237                 :          7 :   da = gel(a,2);
     238                 :          7 :   a = gel(a,1);
     239                 :          7 :   b = Q_remove_denom(b, &db);
     240                 :            :   /* write da = d*A, db = d*B, gcd(A,B) = 1
     241                 :            :    * gcd(a/(d A), b/(d B)) = gcd(a B, A b) / A B d = gcd(a B, b) / A B d */
     242         [ +  - ]:          7 :   if (db)
     243                 :            :   {
     244                 :          7 :     GEN d = gcdii(da,db);
     245         [ -  + ]:          7 :     if (!is_pm1(d)) db = diviiexact(db,d); /* B */
     246         [ +  - ]:          7 :     if (!is_pm1(db))
     247                 :            :     {
     248                 :          7 :       a = mulii(a, db); /* a B */
     249                 :          7 :       da = mulii(da, db); /* A B d = lcm(denom(a),denom(b)) */
     250                 :            :     }
     251                 :            :   }
     252                 :         28 :   return RgM_Rg_div(hnf_Z_ZC(nf,a,b), da);
     253                 :            : }
     254                 :            : static GEN
     255                 :          7 : hnf_QC_QC(GEN nf, GEN a, GEN b)
     256                 :            : {
     257                 :            :   GEN da, db, d, x;
     258                 :          7 :   a = Q_remove_denom(a, &da);
     259                 :          7 :   b = Q_remove_denom(b, &db);
     260         [ -  + ]:          7 :   if (da) b = ZC_Z_mul(b, da);
     261         [ +  - ]:          7 :   if (db) a = ZC_Z_mul(a, db);
     262                 :          7 :   d = mul_denom(da, db);
     263                 :          7 :   x = shallowconcat(zk_multable(nf,a), zk_multable(nf,b));
     264                 :          7 :   x = ZM_hnfmod(x, ZM_detmult(x));
     265         [ +  - ]:          7 :   return d? RgM_Rg_div(x, d): x;
     266                 :            : }
     267                 :            : static GEN
     268                 :         21 : hnf_Q_Q(GEN nf, GEN a, GEN b) {return scalarmat(Q_gcd(a,b), nf_get_degree(nf));}
     269                 :            : GEN
     270                 :        119 : idealhnf0(GEN nf, GEN a, GEN b)
     271                 :            : {
     272                 :            :   long ta, tb;
     273                 :            :   pari_sp av;
     274                 :            :   GEN x;
     275         [ +  + ]:        119 :   if (!b) return idealhnf(nf,a);
     276                 :            : 
     277                 :            :   /* HNF of aZ_K+bZ_K */
     278                 :         56 :   av = avma; nf = checknf(nf);
     279                 :         56 :   a = nf_to_scalar_or_basis(nf,a); ta = typ(a);
     280                 :         56 :   b = nf_to_scalar_or_basis(nf,b); tb = typ(b);
     281         [ +  + ]:         56 :   if (ta == t_COL)
     282         [ +  + ]:         14 :     x = (tb==t_COL)? hnf_QC_QC(nf, a,b): hnf_Q_QC(nf, b,a);
     283                 :            :   else
     284         [ +  + ]:         42 :     x = (tb==t_COL)? hnf_Q_QC(nf, a,b): hnf_Q_Q(nf, a,b);
     285                 :        112 :   return gerepileupto(av, x);
     286                 :            : }
     287                 :            : 
     288                 :            : /*******************************************************************/
     289                 :            : /*                                                                 */
     290                 :            : /*                       TWO-ELEMENT FORM                          */
     291                 :            : /*                                                                 */
     292                 :            : /*******************************************************************/
     293                 :            : static GEN idealapprfact_i(GEN nf, GEN x, int nored);
     294                 :            : 
     295                 :            : static int
     296                 :     208209 : ok_elt(GEN x, GEN xZ, GEN y)
     297                 :            : {
     298                 :     208209 :   pari_sp av = avma;
     299                 :     208209 :   int r = ZM_equal(x, ZM_hnfmodid(y, xZ));
     300                 :     208209 :   avma = av; return r;
     301                 :            : }
     302                 :            : 
     303                 :            : static GEN
     304                 :      56273 : addmul_col(GEN a, long s, GEN b)
     305                 :            : {
     306                 :            :   long i,l;
     307 [ +  + ][ +  + ]:      56273 :   if (!s) return a? leafcopy(a): a;
     308         [ +  + ]:      56091 :   if (!a) return gmulsg(s,b);
     309                 :      52885 :   l = lg(a);
     310         [ +  + ]:     291767 :   for (i=1; i<l; i++)
     311         [ +  + ]:     238882 :     if (signe(gel(b,i))) gel(a,i) = addii(gel(a,i), mulsi(s, gel(b,i)));
     312                 :      56273 :   return a;
     313                 :            : }
     314                 :            : 
     315                 :            : /* a <-- a + s * b, all coeffs integers */
     316                 :            : static GEN
     317                 :      25390 : addmul_mat(GEN a, long s, GEN b)
     318                 :            : {
     319                 :            :   long j,l;
     320                 :            :   /* copy otherwise next call corrupts a */
     321 [ +  + ][ +  + ]:      25390 :   if (!s) return a? RgM_shallowcopy(a): a;
     322         [ +  + ]:      23792 :   if (!a) return gmulsg(s,b);
     323                 :      12572 :   l = lg(a);
     324         [ +  + ]:      60774 :   for (j=1; j<l; j++)
     325                 :      48202 :     (void)addmul_col(gel(a,j), s, gel(b,j));
     326                 :      25390 :   return a;
     327                 :            : }
     328                 :            : 
     329                 :            : static GEN
     330                 :     165247 : get_random_a(GEN nf, GEN x, GEN xZ)
     331                 :            : {
     332                 :            :   pari_sp av1;
     333                 :     165247 :   long i, lm, l = lg(x);
     334                 :            :   GEN a, z, beta, mul;
     335                 :            : 
     336                 :     165247 :   beta= cgetg(l, t_VEC);
     337                 :     165247 :   mul = cgetg(l, t_VEC); lm = 1; /* = lg(mul) */
     338                 :            :   /* look for a in x such that a O/xZ = x O/xZ */
     339         [ +  + ]:     313166 :   for (i = 2; i < l; i++)
     340                 :            :   {
     341                 :     309960 :     GEN t, y, xi = gel(x,i);
     342                 :     309960 :     av1 = avma;
     343                 :     309960 :     y = zk_scalar_or_multable(nf, xi); /* ZM, cannot be a scalar */
     344                 :     309960 :     t = FpM_red(y, xZ);
     345         [ +  + ]:     309960 :     if (gequal0(t)) { avma = av1; continue; }
     346         [ +  + ]:     196989 :     if (ok_elt(x,xZ, t)) return xi;
     347                 :      34948 :     gel(beta,lm) = xi;
     348                 :            :     /* mul[i] = { canonical generators for x[i] O/xZ as Z-module } */
     349                 :      34948 :     gel(mul,lm) = t; lm++;
     350                 :            :   }
     351                 :       3206 :   setlg(mul, lm);
     352                 :       3206 :   setlg(beta,lm);
     353                 :       3206 :   z = cgetg(lm, t_VECSMALL);
     354                 :       3206 :   for(av1=avma;;avma=av1)
     355                 :            :   {
     356         [ +  + ]:      36650 :     for (a=NULL,i=1; i<lm; i++)
     357                 :            :     {
     358                 :      25390 :       long t = random_bits(4) - 7; /* in [-7,8] */
     359                 :      25390 :       z[i] = t;
     360                 :      25390 :       a = addmul_mat(a, t, gel(mul,i));
     361                 :            :     }
     362                 :            :     /* a = matrix (NOT HNF) of ideal generated by beta.z in O/xZ */
     363 [ +  + ][ +  + ]:      11260 :     if (a && ok_elt(x,xZ, a)) break;
     364                 :       8054 :   }
     365         [ +  + ]:      11277 :   for (a=NULL,i=1; i<lm; i++)
     366                 :       8071 :     a = addmul_col(a, z[i], gel(beta,i));
     367                 :     165247 :   return a;
     368                 :            : }
     369                 :            : 
     370                 :            : /* if x square matrix, assume it is HNF */
     371                 :            : static GEN
     372                 :     343514 : mat_ideal_two_elt(GEN nf, GEN x)
     373                 :            : {
     374                 :            :   GEN y, a, cx, xZ;
     375                 :     343514 :   long N = nf_get_degree(nf);
     376                 :            :   pari_sp av, tetpil;
     377                 :            : 
     378         [ +  + ]:     343514 :   if (N == 2) return mkvec2copy(gcoeff(x,1,1), gel(x,2));
     379                 :            : 
     380                 :     176462 :   y = cgetg(3,t_VEC); av = avma;
     381                 :     176462 :   cx = Q_content(x);
     382                 :     176462 :   xZ = gcoeff(x,1,1);
     383         [ +  + ]:     176462 :   if (gequal(xZ, cx)) /* x = (cx) */
     384                 :            :   {
     385                 :       2058 :     gel(y,1) = cx;
     386                 :       2058 :     gel(y,2) = scalarcol_shallow(gen_0, N); return y;
     387                 :            :   }
     388         [ +  + ]:     174404 :   if (equali1(cx)) cx = NULL;
     389                 :            :   else
     390                 :            :   {
     391                 :        238 :     x = Q_div_to_int(x, cx);
     392                 :        238 :     xZ = gcoeff(x,1,1);
     393                 :            :   }
     394         [ +  + ]:     174404 :   if (N < 6)
     395                 :     160880 :     a = get_random_a(nf, x, xZ);
     396                 :            :   else
     397                 :            :   {
     398                 :      13524 :     const long FB[] = { _evallg(15+1) | evaltyp(t_VECSMALL),
     399                 :            :       2, 3, 5, 7, 11, 13, 17, 19, 23, 29, 31, 37, 41, 43, 47
     400                 :            :     };
     401                 :      13524 :     GEN P, E, a1 = Z_smoothen(xZ, (GEN)FB, &P, &E);
     402         [ +  + ]:      13524 :     if (!a1) /* factors completely */
     403                 :       9157 :       a = idealapprfact_i(nf, idealfactor(nf,x), 1);
     404         [ +  + ]:       4367 :     else if (lg(P) == 1) /* no small factors */
     405                 :       2798 :       a = get_random_a(nf, x, xZ);
     406                 :            :     else /* general case */
     407                 :            :     {
     408                 :            :       GEN A0, A1, a0, u0, u1, v0, v1, pi0, pi1, t, u;
     409                 :       1569 :       a0 = diviiexact(xZ, a1);
     410                 :       1569 :       A0 = ZM_hnfmodid(x, a0); /* smooth part of x */
     411                 :       1569 :       A1 = ZM_hnfmodid(x, a1); /* cofactor */
     412                 :       1569 :       pi0 = idealapprfact_i(nf, idealfactor(nf,A0), 1);
     413                 :       1569 :       pi1 = get_random_a(nf, A1, a1);
     414                 :       1569 :       (void)bezout(a0, a1, &v0,&v1);
     415                 :       1569 :       u0 = mulii(a0, v0);
     416                 :       1569 :       u1 = mulii(a1, v1);
     417                 :       1569 :       t = ZC_Z_mul(pi0, u1); gel(t,1) = addii(gel(t,1), u0);
     418                 :       1569 :       u = ZC_Z_mul(pi1, u0); gel(u,1) = addii(gel(u,1), u1);
     419                 :      13524 :       a = nfmuli(nf, centermod(u, xZ), centermod(t, xZ));
     420                 :            :     }
     421                 :            :   }
     422         [ +  + ]:     174404 :   if (cx)
     423                 :            :   {
     424                 :        238 :     a = centermod(a, xZ);
     425                 :        238 :     tetpil = avma;
     426         [ +  + ]:        238 :     if (typ(cx) == t_INT)
     427                 :            :     {
     428                 :        196 :       gel(y,1) = mulii(xZ, cx);
     429                 :        196 :       gel(y,2) = ZC_Z_mul(a, cx);
     430                 :            :     }
     431                 :            :     else
     432                 :            :     {
     433                 :         42 :       gel(y,1) = gmul(xZ, cx);
     434                 :         42 :       gel(y,2) = RgC_Rg_mul(a, cx);
     435                 :            :     }
     436                 :            :   }
     437                 :            :   else
     438                 :            :   {
     439                 :     174166 :     tetpil = avma;
     440                 :     174166 :     gel(y,1) = icopy(xZ);
     441                 :     174166 :     gel(y,2) = centermod(a, xZ);
     442                 :            :   }
     443                 :     343514 :   gerepilecoeffssp(av,tetpil,y+1,2); return y;
     444                 :            : }
     445                 :            : 
     446                 :            : /* Given an ideal x, returns [a,alpha] such that a is in Q,
     447                 :            :  * x = a Z_K + alpha Z_K, alpha in K^*
     448                 :            :  * a = 0 or alpha = 0 are possible, but do not try to determine whether
     449                 :            :  * x is principal. */
     450                 :            : GEN
     451                 :      13824 : idealtwoelt(GEN nf, GEN x)
     452                 :            : {
     453                 :            :   pari_sp av;
     454                 :            :   GEN z;
     455                 :      13824 :   long tx = idealtyp(&x,&z);
     456                 :      13817 :   nf = checknf(nf);
     457         [ +  + ]:      13817 :   if (tx == id_MAT) return mat_ideal_two_elt(nf,x);
     458         [ -  + ]:        238 :   if (tx == id_PRIME) return mkvec2copy(gel(x,1), gel(x,2));
     459                 :            :   /* id_PRINCIPAL */
     460                 :        238 :   av = avma; x = nf_to_scalar_or_basis(nf, x);
     461         [ -  + ]:      14055 :   return gerepilecopy(av, typ(x)==t_COL? mkvec2(gen_0,x):
     462                 :        238 :                                          mkvec2(Q_abs_shallow(x),gen_0));
     463                 :            : }
     464                 :            : 
     465                 :            : /*******************************************************************/
     466                 :            : /*                                                                 */
     467                 :            : /*                         FACTORIZATION                           */
     468                 :            : /*                                                                 */
     469                 :            : /*******************************************************************/
     470                 :            : /* x integral ideal in HNF, return v_p(Nx), *vz = v_p(x \cap Z)
     471                 :            :  * Use x[1,1] = x \cap Z */
     472                 :            : long
     473                 :     367556 : val_norm(GEN x, GEN p, long *vz)
     474                 :            : {
     475                 :     367556 :   long i,l = lg(x), v;
     476                 :     367556 :   *vz = v = Z_pval(gcoeff(x,1,1), p);
     477         [ +  + ]:     367556 :   if (!v) return 0;
     478         [ +  + ]:     844296 :   for (i=2; i<l; i++) v += Z_pval(gcoeff(x,i,i), p);
     479                 :     367556 :   return v;
     480                 :            : }
     481                 :            : 
     482                 :            : /* return factorization of Nx, x integral in HNF */
     483                 :            : GEN
     484                 :      25748 : factor_norm(GEN x)
     485                 :            : {
     486                 :      25748 :   GEN r = gcoeff(x,1,1), f, p, e;
     487                 :            :   long i, k, l;
     488         [ -  + ]:      25748 :   if (typ(r)!=t_INT) pari_err_TYPE("idealfactor",r);
     489                 :      25748 :   f = Z_factor(r); p = gel(f,1); e = gel(f,2); l = lg(p);
     490         [ +  + ]:      47569 :   for (i=1; i<l; i++) e[i] = val_norm(x,gel(p,i), &k);
     491                 :      25748 :   settyp(e, t_VECSMALL); return f;
     492                 :            : }
     493                 :            : 
     494                 :            : /* X integral ideal */
     495                 :            : static GEN
     496                 :      25748 : idealfactor_HNF(GEN nf, GEN x)
     497                 :            : {
     498                 :      25748 :   const long N = lg(x)-1;
     499                 :            :   long i, j, k, lf, lc, v, vc;
     500                 :            :   GEN f, f1, f2, c1, c2, y1, y2, p1, cx, P;
     501                 :            : 
     502                 :      25748 :   x = Q_primitive_part(x, &cx);
     503         [ +  + ]:      25748 :   if (!cx)
     504                 :            :   {
     505                 :      17516 :     c1 = c2 = NULL; /* gcc -Wall */
     506                 :      17516 :     lc = 1;
     507                 :            :   }
     508                 :            :   else
     509                 :            :   {
     510                 :       8232 :     f = Z_factor(cx);
     511                 :       8232 :     c1 = gel(f,1);
     512                 :       8232 :     c2 = gel(f,2); lc = lg(c1);
     513                 :            :   }
     514                 :      25748 :   f = factor_norm(x);
     515                 :      25748 :   f1 = gel(f,1);
     516                 :      25748 :   f2 = gel(f,2); lf = lg(f1);
     517                 :      25748 :   y1 = cgetg((lf+lc-2)*N+1, t_COL);
     518                 :      25748 :   y2 = cgetg((lf+lc-2)*N+1, t_VECSMALL);
     519                 :      25748 :   k = 1;
     520         [ +  + ]:      47569 :   for (i=1; i<lf; i++)
     521                 :            :   {
     522                 :      21821 :     long l = f2[i]; /* = v_p(Nx) */
     523                 :      21821 :     p1 = idealprimedec(nf,gel(f1,i));
     524         [ +  + ]:      21821 :     vc = cx? Z_pval(cx,gel(f1,i)): 0;
     525         [ +  + ]:      45600 :     for (j=1; j<lg(p1); j++)
     526                 :            :     {
     527                 :      45593 :       P = gel(p1,j);
     528                 :      45593 :       v = idealval(nf,x,P);
     529                 :      45593 :       l -= v*pr_get_f(P);
     530         [ +  + ]:      45593 :       v += vc * pr_get_e(P); if (!v) continue;
     531                 :      35906 :       gel(y1,k) = P;
     532                 :      35906 :       y2[k] = v; k++;
     533         [ +  + ]:      35906 :       if (l == 0) break; /* now only the content contributes */
     534                 :            :     }
     535         [ +  + ]:      21821 :     if (vc == 0) continue;
     536         [ +  + ]:       1014 :     for (j++; j<lg(p1); j++)
     537                 :            :     {
     538                 :         83 :       P = gel(p1,j);
     539                 :         83 :       gel(y1,k) = P;
     540                 :         83 :       y2[k++] = vc * pr_get_e(P);
     541                 :            :     }
     542                 :            :   }
     543         [ +  + ]:      34596 :   for (i=1; i<lc; i++)
     544                 :            :   {
     545                 :            :     /* p | Nx already treated */
     546         [ +  + ]:       8848 :     if (dvdii(gcoeff(x,1,1),gel(c1,i))) continue;
     547                 :       7917 :     p1 = idealprimedec(nf,gel(c1,i));
     548                 :       7917 :     vc = itos(gel(c2,i));
     549         [ +  + ]:      16765 :     for (j=1; j<lg(p1); j++)
     550                 :            :     {
     551                 :       8848 :       P = gel(p1,j);
     552                 :       8848 :       gel(y1,k) = P;
     553                 :       8848 :       y2[k++] = vc * pr_get_e(P);
     554                 :            :     }
     555                 :            :   }
     556                 :      25748 :   setlg(y1, k);
     557                 :      25748 :   setlg(y2, k);
     558                 :      25748 :   return mkmat2(y1, zc_to_ZC(y2));
     559                 :            : }
     560                 :            : 
     561                 :            : GEN
     562                 :      27533 : idealfactor(GEN nf, GEN x)
     563                 :            : {
     564                 :      27533 :   pari_sp av = avma;
     565                 :            :   long tx;
     566                 :            :   GEN fa, f, y;
     567                 :            : 
     568                 :      27533 :   nf = checknf(nf);
     569                 :      27533 :   tx = idealtyp(&x,&y);
     570         [ +  + ]:      27533 :   if (tx == id_PRIME)
     571                 :            :   {
     572                 :        294 :     y = cgetg(3,t_MAT);
     573                 :        294 :     gel(y,1) = mkcolcopy(x);
     574                 :        294 :     gel(y,2) = mkcol(gen_1); return y;
     575                 :            :   }
     576         [ +  + ]:      27239 :   if (tx == id_PRINCIPAL)
     577                 :            :   {
     578                 :       2730 :     y = nf_to_scalar_or_basis(nf, x);
     579         [ +  + ]:       2730 :     if (typ(y) != t_COL)
     580                 :            :     {
     581                 :            :       GEN c1, c2;
     582                 :            :       long lfa, i,j;
     583         [ +  + ]:       1498 :       if (isintzero(y)) pari_err_DOMAIN("idealfactor", "ideal", "=",gen_0,x);
     584                 :       1484 :       f = factor(Q_abs_shallow(y));
     585                 :       1484 :       c1 = gel(f,1); lfa = lg(c1);
     586         [ +  + ]:       1484 :       if (lfa == 1) { avma = av; return trivial_fact(); }
     587                 :       1071 :       c2 = gel(f,2);
     588                 :       1071 :       settyp(c1, t_VEC); /* for shallowconcat */
     589                 :       1071 :       settyp(c2, t_VEC); /* for shallowconcat */
     590         [ +  + ]:       2751 :       for (i = 1; i < lfa; i++)
     591                 :            :       {
     592                 :       1680 :         GEN P = idealprimedec(nf, gel(c1,i)), E = gel(c2,i), z;
     593                 :       1680 :         long lP = lg(P);
     594                 :       1680 :         z = cgetg(lP, t_COL);
     595         [ +  + ]:       3780 :         for (j = 1; j < lP; j++) gel(z,j) = mului(pr_get_e(gel(P,j)), E);
     596                 :       1680 :         gel(c1,i) = P;
     597                 :       1680 :         gel(c2,i) = z;
     598                 :            :       }
     599                 :       1071 :       c1 = shallowconcat1(c1); settyp(c1, t_COL);
     600                 :       1071 :       c2 = shallowconcat1(c2);
     601                 :       1071 :       gel(f,1) = c1;
     602                 :       1071 :       gel(f,2) = c2; return gerepilecopy(av, f);
     603                 :            :     }
     604                 :            :   }
     605                 :      25741 :   y = idealnumden(nf, x);
     606         [ -  + ]:      25741 :   if (isintzero(gel(y,1))) pari_err_DOMAIN("idealfactor", "ideal", "=",gen_0,x);
     607                 :      25741 :   fa = idealfactor_HNF(nf, gel(y,1));
     608         [ +  + ]:      25741 :   if (!isint1(gel(y,2)))
     609                 :            :   {
     610                 :          7 :     GEN fa2 = idealfactor_HNF(nf, gel(y,2));
     611                 :          7 :     fa2 = famat_inv_shallow(fa2);
     612                 :          7 :     fa = famat_mul_shallow(fa, fa2);
     613                 :            :   }
     614                 :      25741 :   fa = gerepilecopy(av, fa);
     615                 :      27519 :   return sort_factor(fa, (void*)&cmp_prime_ideal, &cmp_nodata);
     616                 :            : }
     617                 :            : 
     618                 :            : /* P prime ideal in idealprimedec format. Return valuation(ix) at P */
     619                 :            : long
     620                 :     346869 : idealval(GEN nf, GEN ix, GEN P)
     621                 :            : {
     622                 :     346869 :   pari_sp av = avma, av1;
     623                 :     346869 :   long N, vmax, vd, v, e, f, i, j, k, tx = typ(ix);
     624                 :            :   GEN mul, B, a, x, y, r, p, pk, cx, vals;
     625                 :            : 
     626 [ +  + ][ +  + ]:     346869 :   if (is_extscalar_t(tx) || tx==t_COL) return nfval(nf,ix,P);
     627                 :     346603 :   tx = idealtyp(&ix,&a);
     628         [ +  + ]:     346603 :   if (tx == id_PRINCIPAL) return nfval(nf,ix,P);
     629                 :     346596 :   checkprid(P);
     630         [ +  + ]:     346596 :   if (tx == id_PRIME) return pr_equal(nf, P, ix)? 1: 0;
     631                 :            :   /* id_MAT */
     632                 :     346568 :   nf = checknf(nf);
     633                 :     346568 :   N = nf_get_degree(nf);
     634                 :     346568 :   ix = Q_primitive_part(ix, &cx);
     635                 :     346568 :   p = pr_get_p(P);
     636                 :     346568 :   f = pr_get_f(P);
     637 [ +  + ][ +  + ]:     346568 :   if (f == N) { v = cx? Q_pval(cx,p): 0; avma = av; return v; }
     638                 :     345735 :   i = val_norm(ix,p, &k);
     639 [ +  + ][ +  + ]:     345735 :   if (!i) { v = cx? pr_get_e(P) * Q_pval(cx,p): 0; avma = av; return v; }
     640                 :            : 
     641                 :     125437 :   e = pr_get_e(P);
     642         [ +  + ]:     125437 :   vd = cx? e * Q_pval(cx,p): 0;
     643                 :            :   /* 0 <= ceil[v_P(ix) / e] <= v_p(ix \cap Z) --> v_P <= e * v_p */
     644                 :     125437 :   j = k * e;
     645                 :            :   /* 0 <= v_P(ix) <= floor[v_p(Nix) / f] */
     646                 :     125437 :   i = i / f;
     647                 :     125437 :   vmax = minss(i,j); /* v_P(ix) <= vmax */
     648                 :            : 
     649                 :     125437 :   mul = pr_get_tau(P);
     650                 :            :   /* occurs when reading from file a prid in old format */
     651         [ -  + ]:     125437 :   if (typ(mul) != t_MAT) mul = zk_scalar_or_multable(nf,mul);
     652                 :     125437 :   B = cgetg(N+1,t_MAT);
     653                 :     125437 :   pk = powiu(p, (ulong)ceil((double)vmax / e));
     654                 :            :   /* B[1] not needed: v_pr(ix[1]) = v_pr(ix \cap Z) is known already */
     655                 :     125437 :   gel(B,1) = gen_0; /* dummy */
     656         [ +  + ]:     613843 :   for (j=2; j<=N; j++)
     657                 :            :   {
     658                 :     530160 :     x = gel(ix,j);
     659                 :     530160 :     y = cgetg(N+1, t_COL); gel(B,j) = y;
     660         [ +  + ]:    5586403 :     for (i=1; i<=N; i++)
     661                 :            :     { /* compute a = (x.t0)_i, ix in HNF ==> x[j+1..N] = 0 */
     662                 :    5097997 :       a = mulii(gel(x,1), gcoeff(mul,i,1));
     663         [ +  + ]:   45208559 :       for (k=2; k<=j; k++) a = addii(a, mulii(gel(x,k), gcoeff(mul,i,k)));
     664                 :            :       /* p | a ? */
     665                 :    5097997 :       gel(y,i) = dvmdii(a,p,&r);
     666         [ +  + ]:    5097997 :       if (signe(r)) { avma = av; return vd; }
     667                 :            :     }
     668                 :            :   }
     669                 :      83683 :   vals = cgetg(N+1, t_VECSMALL);
     670                 :            :   /* vals[1] not needed */
     671         [ +  + ]:     488572 :   for (j = 2; j <= N; j++)
     672                 :            :   {
     673                 :     404889 :     gel(B,j) = Q_primitive_part(gel(B,j), &cx);
     674         [ +  + ]:     404889 :     vals[j] = cx? 1 + e * Q_pval(cx, p): 1;
     675                 :            :   }
     676                 :      83683 :   av1 = avma;
     677                 :      83683 :   y = cgetg(N+1,t_COL);
     678                 :            :   /* can compute mod p^ceil((vmax-v)/e) */
     679         [ +  + ]:     149339 :   for (v = 1; v < vmax; v++)
     680                 :            :   { /* we know v_pr(Bj) >= v for all j */
     681 [ +  + ][ +  + ]:      69220 :     if (e == 1 || (vmax - v) % e == 0) pk = diviiexact(pk, p);
     682         [ +  + ]:     579754 :     for (j = 2; j <= N; j++)
     683                 :            :     {
     684         [ +  + ]:     514098 :       x = gel(B,j); if (v < vals[j]) continue;
     685         [ +  + ]:    4802770 :       for (i=1; i<=N; i++)
     686                 :            :       {
     687                 :    4471805 :         pari_sp av2 = avma;
     688                 :    4471805 :         a = mulii(gel(x,1), gcoeff(mul,i,1));
     689         [ +  + ]:   93720239 :         for (k=2; k<=N; k++) a = addii(a, mulii(gel(x,k), gcoeff(mul,i,k)));
     690                 :            :         /* a = (x.t_0)_i; p | a ? */
     691                 :    4471805 :         a = dvmdii(a,p,&r);
     692         [ +  + ]:    4471805 :         if (signe(r)) { avma = av; return v + vd; }
     693         [ +  + ]:    4468241 :         if (lgefint(a) > lgefint(pk)) a = remii(a, pk);
     694                 :    4468241 :         gel(y,i) = gerepileuptoint(av2, a);
     695                 :            :       }
     696                 :     330965 :       gel(B,j) = y; y = x;
     697         [ -  + ]:     330965 :       if (gc_needed(av1,3))
     698                 :            :       {
     699         [ #  # ]:          0 :         if(DEBUGMEM>1) pari_warn(warnmem,"idealval");
     700                 :          0 :         gerepileall(av1,3, &y,&B,&pk);
     701                 :            :       }
     702                 :            :     }
     703                 :            :   }
     704                 :     346869 :   avma = av; return v + vd;
     705                 :            : }
     706                 :            : GEN
     707                 :         42 : gpidealval(GEN nf, GEN ix, GEN P)
     708                 :            : {
     709                 :         42 :   long v = idealval(nf,ix,P);
     710         [ +  + ]:         42 :   return v == LONG_MAX? mkoo(): stoi(v);
     711                 :            : }
     712                 :            : 
     713                 :            : /* gcd and generalized Bezout */
     714                 :            : 
     715                 :            : GEN
     716                 :      27727 : idealadd(GEN nf, GEN x, GEN y)
     717                 :            : {
     718                 :      27727 :   pari_sp av = avma;
     719                 :            :   long tx, ty;
     720                 :            :   GEN z, a, dx, dy, dz;
     721                 :            : 
     722                 :      27727 :   tx = idealtyp(&x,&z);
     723                 :      27727 :   ty = idealtyp(&y,&z); nf = checknf(nf);
     724         [ +  + ]:      27727 :   if (tx != id_MAT) x = idealhnf_shallow(nf,x);
     725         [ -  + ]:      27727 :   if (ty != id_MAT) y = idealhnf_shallow(nf,y);
     726         [ -  + ]:      27727 :   if (lg(x) == 1) return gerepilecopy(av,y);
     727         [ -  + ]:      27727 :   if (lg(y) == 1) return gerepilecopy(av,x); /* check for 0 ideal */
     728                 :      27727 :   dx = Q_denom(x);
     729                 :      27727 :   dy = Q_denom(y); dz = lcmii(dx,dy);
     730         [ +  + ]:      27727 :   if (is_pm1(dz)) dz = NULL; else {
     731                 :       5432 :     x = Q_muli_to_int(x, dz);
     732                 :       5432 :     y = Q_muli_to_int(y, dz);
     733                 :            :   }
     734                 :      27727 :   a = gcdii(gcoeff(x,1,1), gcoeff(y,1,1));
     735         [ +  + ]:      27727 :   if (is_pm1(a))
     736                 :            :   {
     737                 :      13083 :     long N = lg(x)-1;
     738         [ +  + ]:      13083 :     if (!dz) { avma = av; return matid(N); }
     739                 :        756 :     return gerepileupto(av, scalarmat(ginv(dz), N));
     740                 :            :   }
     741                 :      14644 :   z = ZM_hnfmodid(shallowconcat(x,y), a);
     742         [ +  + ]:      14644 :   if (dz) z = RgM_Rg_div(z,dz);
     743                 :      27727 :   return gerepileupto(av,z);
     744                 :            : }
     745                 :            : 
     746                 :            : static GEN
     747                 :         28 : trivial_merge(GEN x)
     748                 :            : {
     749                 :         28 :   long lx = lg(x);
     750                 :            :   GEN a;
     751         [ +  + ]:         28 :   if (lx == 1) return NULL;
     752                 :         21 :   a = gcoeff(x,1,1);
     753         [ +  + ]:         21 :   if (!is_pm1(a)) return NULL;
     754                 :         28 :   return scalarcol_shallow(gen_1, lx-1);
     755                 :            : }
     756                 :            : GEN
     757                 :     182508 : idealaddtoone_i(GEN nf, GEN x, GEN y)
     758                 :            : {
     759                 :            :   GEN a;
     760                 :     182508 :   long tx = idealtyp(&x, &a/*junk*/);
     761                 :     182508 :   long ty = idealtyp(&y, &a/*junk*/);
     762         [ +  + ]:     182508 :   if (tx != id_MAT) x = idealhnf_shallow(nf, x);
     763         [ +  + ]:     182508 :   if (ty != id_MAT) y = idealhnf_shallow(nf, y);
     764         [ +  + ]:     182508 :   if (lg(x) == 1)
     765                 :         14 :     a = trivial_merge(y);
     766         [ +  + ]:     182494 :   else if (lg(y) == 1)
     767                 :         14 :     a = trivial_merge(x);
     768                 :            :   else {
     769                 :     182480 :     a = hnfmerge_get_1(x, y);
     770         [ +  + ]:     182480 :     if (a) a = ZC_reducemodlll(a, idealmul_HNF(nf,x,y));
     771                 :            :   }
     772         [ +  + ]:     182508 :   if (!a) pari_err_COPRIME("idealaddtoone",x,y);
     773                 :     182487 :   return a;
     774                 :            : }
     775                 :            : 
     776                 :            : GEN
     777                 :     172477 : unnf_minus_x(GEN x)
     778                 :            : {
     779                 :     172477 :   long i, N = lg(x);
     780                 :     172477 :   GEN y = cgetg(N,t_COL);
     781                 :            : 
     782                 :     172477 :   gel(y,1) = gsubsg(1, gel(x,1));
     783         [ +  + ]:     500634 :   for (i=2; i<N; i++) gel(y,i) = gneg(gel(x,i));
     784                 :     172477 :   return y;
     785                 :            : }
     786                 :            : 
     787                 :            : GEN
     788                 :       2702 : idealaddtoone(GEN nf, GEN x, GEN y)
     789                 :            : {
     790                 :       2702 :   GEN z = cgetg(3,t_VEC), a;
     791                 :       2702 :   pari_sp av = avma;
     792                 :       2702 :   nf = checknf(nf);
     793                 :       2702 :   a = gerepileupto(av, idealaddtoone_i(nf,x,y));
     794                 :       2688 :   gel(z,1) = a;
     795                 :       2688 :   gel(z,2) = unnf_minus_x(a); return z;
     796                 :            : }
     797                 :            : 
     798                 :            : /* assume elements of list are integral ideals */
     799                 :            : GEN
     800                 :         35 : idealaddmultoone(GEN nf, GEN list)
     801                 :            : {
     802                 :         35 :   pari_sp av = avma;
     803                 :         35 :   long N, i, l, nz, tx = typ(list);
     804                 :            :   GEN H, U, perm, L;
     805                 :            : 
     806                 :         35 :   nf = checknf(nf); N = nf_get_degree(nf);
     807         [ -  + ]:         35 :   if (!is_vec_t(tx)) pari_err_TYPE("idealaddmultoone",list);
     808                 :         35 :   l = lg(list);
     809                 :         35 :   L = cgetg(l, t_VEC);
     810         [ -  + ]:         35 :   if (l == 1)
     811                 :          0 :     pari_err_DOMAIN("idealaddmultoone", "sum(ideals)", "!=", gen_1, L);
     812                 :         35 :   nz = 0; /* number of non-zero ideals in L */
     813         [ +  + ]:         98 :   for (i=1; i<l; i++)
     814                 :            :   {
     815                 :         70 :     GEN I = gel(list,i);
     816         [ +  + ]:         70 :     if (typ(I) != t_MAT) I = idealhnf_shallow(nf,I);
     817         [ +  + ]:         70 :     if (lg(I) != 1)
     818                 :            :     {
     819                 :         42 :       nz++; RgM_check_ZM(I,"idealaddmultoone");
     820         [ -  + ]:         35 :       if (lgcols(I) != N+1) pari_err_TYPE("idealaddmultoone [not an ideal]", I);
     821                 :            :     }
     822                 :         63 :     gel(L,i) = I;
     823                 :            :   }
     824                 :         28 :   H = ZM_hnfperm(shallowconcat1(L), &U, &perm);
     825 [ +  + ][ -  + ]:         28 :   if (lg(H) == 1 || !equali1(gcoeff(H,1,1)))
     826                 :          7 :     pari_err_DOMAIN("idealaddmultoone", "sum(ideals)", "!=", gen_1, L);
     827         [ +  - ]:         49 :   for (i=1; i<=N; i++)
     828         [ +  + ]:         49 :     if (perm[i] == 1) break;
     829                 :         21 :   U = gel(U,(nz-1)*N + i); /* (L[1]|...|L[nz]) U = 1 */
     830                 :         21 :   nz = 0;
     831         [ +  + ]:         63 :   for (i=1; i<l; i++)
     832                 :            :   {
     833                 :         42 :     GEN c = gel(L,i);
     834         [ +  + ]:         42 :     if (lg(c) == 1)
     835                 :         14 :       c = zerocol(N);
     836                 :            :     else {
     837                 :         28 :       c = ZM_ZC_mul(c, vecslice(U, nz*N + 1, (nz+1)*N));
     838                 :         28 :       nz++;
     839                 :            :     }
     840                 :         42 :     gel(L,i) = c;
     841                 :            :   }
     842                 :         21 :   return gerepilecopy(av, L);
     843                 :            : }
     844                 :            : 
     845                 :            : /* multiplication */
     846                 :            : 
     847                 :            : /* x integral ideal (without archimedean component) in HNF form
     848                 :            :  * y = [a,alpha] corresponds to the integral ideal aZ_K+alpha Z_K, a in Z,
     849                 :            :  * alpha a ZV or a ZM (multiplication table). Multiply them */
     850                 :            : static GEN
     851                 :     687228 : idealmul_HNF_two(GEN nf, GEN x, GEN y)
     852                 :            : {
     853                 :     687228 :   GEN m, a = gel(y,1), alpha = gel(y,2);
     854                 :            :   long i, N;
     855                 :            : 
     856         [ +  + ]:     687228 :   if (typ(alpha) != t_MAT)
     857                 :            :   {
     858                 :     649306 :     alpha = zk_scalar_or_multable(nf, alpha);
     859         [ +  + ]:     649306 :     if (typ(alpha) == t_INT) /* e.g. y inert ? 0 should not (but may) occur */
     860         [ +  - ]:       2709 :       return signe(a)? ZM_Z_mul(x, gcdii(a, alpha)): cgetg(1,t_MAT);
     861                 :            :   }
     862                 :     684519 :   N = lg(x)-1; m = cgetg((N<<1)+1,t_MAT);
     863         [ +  + ]:    2626915 :   for (i=1; i<=N; i++) gel(m,i)   = ZM_ZC_mul(alpha,gel(x,i));
     864         [ +  + ]:    2626915 :   for (i=1; i<=N; i++) gel(m,i+N) = ZC_Z_mul(gel(x,i), a);
     865                 :     687228 :   return ZM_hnfmodid(m, mulii(a, gcoeff(x,1,1)));
     866                 :            : }
     867                 :            : 
     868                 :            : /* Assume ix and iy are integral in HNF form [NOT extended]. Not memory clean.
     869                 :            :  * HACK: ideal in iy can be of the form [a,b], a in Z, b in Z_K */
     870                 :            : GEN
     871                 :     348335 : idealmul_HNF(GEN nf, GEN x, GEN y)
     872                 :            : {
     873                 :            :   GEN z;
     874         [ +  + ]:     348335 :   if (typ(y) == t_VEC)
     875                 :      49068 :     z = idealmul_HNF_two(nf,x,y);
     876                 :            :   else
     877                 :            :   { /* reduce one ideal to two-elt form. The smallest */
     878                 :     299267 :     GEN xZ = gcoeff(x,1,1), yZ = gcoeff(y,1,1);
     879         [ +  + ]:     299267 :     if (cmpii(xZ, yZ) < 0)
     880                 :            :     {
     881         [ +  + ]:      30622 :       if (is_pm1(xZ)) return gcopy(y);
     882                 :      22999 :       z = idealmul_HNF_two(nf, y, mat_ideal_two_elt(nf,x));
     883                 :            :     }
     884                 :            :     else
     885                 :            :     {
     886         [ +  + ]:     268645 :       if (is_pm1(yZ)) return gcopy(x);
     887                 :     252307 :       z = idealmul_HNF_two(nf, x, mat_ideal_two_elt(nf,y));
     888                 :            :     }
     889                 :            :   }
     890                 :     348335 :   return z;
     891                 :            : }
     892                 :            : 
     893                 :            : /* operations on elements in factored form */
     894                 :            : 
     895                 :            : GEN
     896                 :       2828 : famat_mul_shallow(GEN f, GEN g)
     897                 :            : {
     898         [ -  + ]:       2828 :   if (lg(f) == 1) return g;
     899         [ -  + ]:       2828 :   if (lg(g) == 1) return f;
     900                 :       2828 :   return mkmat2(shallowconcat(gel(f,1), gel(g,1)),
     901                 :       5656 :                 shallowconcat(gel(f,2), gel(g,2)));
     902                 :            : }
     903                 :            : 
     904                 :            : GEN
     905                 :        749 : to_famat(GEN x, GEN y) {
     906                 :        749 :   GEN fa = cgetg(3, t_MAT);
     907                 :        749 :   gel(fa,1) = mkcol(gcopy(x));
     908                 :        749 :   gel(fa,2) = mkcol(gcopy(y)); return fa;
     909                 :            : }
     910                 :            : GEN
     911                 :      58689 : to_famat_shallow(GEN x, GEN y) {
     912                 :      58689 :   GEN fa = cgetg(3, t_MAT);
     913                 :      58689 :   gel(fa,1) = mkcol(x);
     914                 :      58689 :   gel(fa,2) = mkcol(y); return fa;
     915                 :            : }
     916                 :            : 
     917                 :            : static GEN
     918                 :      99320 : append(GEN v, GEN x)
     919                 :            : {
     920                 :      99320 :   long i, l = lg(v);
     921                 :      99320 :   GEN w = cgetg(l+1, typ(v));
     922         [ +  + ]:     386549 :   for (i=1; i<l; i++) gel(w,i) = gcopy(gel(v,i));
     923                 :      99320 :   gel(w,i) = gcopy(x); return w;
     924                 :            : }
     925                 :            : 
     926                 :            : /* add x^1 to famat f */
     927                 :            : static GEN
     928                 :     122793 : famat_add(GEN f, GEN x)
     929                 :            : {
     930                 :     122793 :   GEN h = cgetg(3,t_MAT);
     931         [ +  + ]:     122793 :   if (lg(f) == 1)
     932                 :            :   {
     933                 :      23473 :     gel(h,1) = mkcolcopy(x);
     934                 :      23473 :     gel(h,2) = mkcol(gen_1);
     935                 :            :   }
     936                 :            :   else
     937                 :            :   {
     938                 :      99320 :     gel(h,1) = append(gel(f,1), x); /* x may be a t_COL */
     939                 :      99320 :     gel(h,2) = concat(gel(f,2), gen_1);
     940                 :            :   }
     941                 :     122793 :   return h;
     942                 :            : }
     943                 :            : 
     944                 :            : GEN
     945                 :     176688 : famat_mul(GEN f, GEN g)
     946                 :            : {
     947                 :            :   GEN h;
     948         [ +  + ]:     176688 :   if (typ(g) != t_MAT) {
     949         [ +  - ]:     122765 :     if (typ(f) == t_MAT) return famat_add(f, g);
     950                 :          0 :     h = cgetg(3, t_MAT);
     951                 :          0 :     gel(h,1) = mkcol2(gcopy(f), gcopy(g));
     952                 :          0 :     gel(h,2) = mkcol2(gen_1, gen_1);
     953                 :            :   }
     954         [ +  + ]:      53923 :   if (typ(f) != t_MAT) return famat_add(g, f);
     955         [ +  + ]:      53895 :   if (lg(f) == 1) return gcopy(g);
     956         [ +  + ]:      19164 :   if (lg(g) == 1) return gcopy(f);
     957                 :      15297 :   h = cgetg(3,t_MAT);
     958                 :      15297 :   gel(h,1) = concat(gel(f,1), gel(g,1));
     959                 :      15297 :   gel(h,2) = concat(gel(f,2), gel(g,2));
     960                 :     176688 :   return h;
     961                 :            : }
     962                 :            : 
     963                 :            : GEN
     964                 :      55203 : famat_sqr(GEN f)
     965                 :            : {
     966                 :            :   GEN h;
     967         [ +  + ]:      55203 :   if (lg(f) == 1) return cgetg(1,t_MAT);
     968         [ -  + ]:      26679 :   if (typ(f) != t_MAT) return to_famat(f,gen_2);
     969                 :      26679 :   h = cgetg(3,t_MAT);
     970                 :      26679 :   gel(h,1) = gcopy(gel(f,1));
     971                 :      26679 :   gel(h,2) = gmul2n(gel(f,2),1);
     972                 :      55203 :   return h;
     973                 :            : }
     974                 :            : GEN
     975                 :          7 : famat_inv_shallow(GEN f)
     976                 :            : {
     977                 :            :   GEN h;
     978         [ -  + ]:          7 :   if (lg(f) == 1) return cgetg(1,t_MAT);
     979         [ -  + ]:          7 :   if (typ(f) != t_MAT) return to_famat_shallow(f,gen_m1);
     980                 :          7 :   h = cgetg(3,t_MAT);
     981                 :          7 :   gel(h,1) = gel(f,1);
     982                 :          7 :   gel(h,2) = ZC_neg(gel(f,2));
     983                 :          7 :   return h;
     984                 :            : }
     985                 :            : GEN
     986                 :       4609 : famat_inv(GEN f)
     987                 :            : {
     988                 :            :   GEN h;
     989         [ +  + ]:       4609 :   if (lg(f) == 1) return cgetg(1,t_MAT);
     990         [ -  + ]:       2483 :   if (typ(f) != t_MAT) return to_famat(f,gen_m1);
     991                 :       2483 :   h = cgetg(3,t_MAT);
     992                 :       2483 :   gel(h,1) = gcopy(gel(f,1));
     993                 :       2483 :   gel(h,2) = ZC_neg(gel(f,2));
     994                 :       4609 :   return h;
     995                 :            : }
     996                 :            : GEN
     997                 :       2786 : famat_pow(GEN f, GEN n)
     998                 :            : {
     999                 :            :   GEN h;
    1000         [ +  + ]:       2786 :   if (lg(f) == 1) return cgetg(1,t_MAT);
    1001         [ +  + ]:       2520 :   if (typ(f) != t_MAT) return to_famat(f,n);
    1002                 :       1771 :   h = cgetg(3,t_MAT);
    1003                 :       1771 :   gel(h,1) = gcopy(gel(f,1));
    1004                 :       1771 :   gel(h,2) = ZC_Z_mul(gel(f,2),n);
    1005                 :       2786 :   return h;
    1006                 :            : }
    1007                 :            : 
    1008                 :            : /* x assumed to be a t_MATs (factorization matrix), or compatible with
    1009                 :            :  * the element_* functions. */
    1010                 :            : static GEN
    1011                 :      65710 : ext_sqr(GEN nf, GEN x) {
    1012         [ +  + ]:      65710 :   if (typ(x) == t_MAT) return famat_sqr(x);
    1013                 :      65710 :   return nfsqr(nf, x);
    1014                 :            : }
    1015                 :            : static GEN
    1016                 :     165269 : ext_mul(GEN nf, GEN x, GEN y) {
    1017 [ +  + ][ -  + ]:     165269 :   if (typ(x) == t_MAT) return (x == y)? famat_sqr(x): famat_mul(x,y);
    1018                 :     165269 :   return nfmul(nf, x, y);
    1019                 :            : }
    1020                 :            : static GEN
    1021                 :       4469 : ext_inv(GEN nf, GEN x) {
    1022         [ +  - ]:       4469 :   if (typ(x) == t_MAT) return famat_inv(x);
    1023                 :       4469 :   return nfinv(nf, x);
    1024                 :            : }
    1025                 :            : static GEN
    1026                 :        266 : ext_pow(GEN nf, GEN x, GEN n) {
    1027         [ +  - ]:        266 :   if (typ(x) == t_MAT) return famat_pow(x,n);
    1028                 :        266 :   return nfpow(nf, x, n);
    1029                 :            : }
    1030                 :            : 
    1031                 :            : /* x, y 2 extended ideals whose first component is an integral HNF */
    1032                 :            : GEN
    1033                 :      18856 : extideal_HNF_mul(GEN nf, GEN x, GEN y)
    1034                 :            : {
    1035                 :      18856 :   return mkvec2(idealmul_HNF(nf, gel(x,1), gel(y,1)),
    1036                 :      37712 :                 ext_mul(nf, gel(x,2), gel(y,2)));
    1037                 :            : }
    1038                 :            : 
    1039                 :            : GEN
    1040                 :          0 : famat_to_nf(GEN nf, GEN f)
    1041                 :            : {
    1042                 :            :   GEN t, x, e;
    1043                 :            :   long i;
    1044         [ #  # ]:          0 :   if (lg(f) == 1) return gen_1;
    1045                 :            : 
    1046                 :          0 :   x = gel(f,1);
    1047                 :          0 :   e = gel(f,2);
    1048                 :          0 :   t = nfpow(nf, gel(x,1), gel(e,1));
    1049         [ #  # ]:          0 :   for (i=lg(x)-1; i>1; i--)
    1050                 :          0 :     t = nfmul(nf, t, nfpow(nf, gel(x,i), gel(e,i)));
    1051                 :          0 :   return t;
    1052                 :            : }
    1053                 :            : 
    1054                 :            : /* "compare" two nf elt. Goal is to quickly sort for uniqueness of
    1055                 :            :  * representation, not uniqueness of represented element ! */
    1056                 :            : static int
    1057                 :      19698 : elt_cmp(GEN x, GEN y)
    1058                 :            : {
    1059                 :      19698 :   long tx = typ(x), ty = typ(y);
    1060         [ +  + ]:      19698 :   if (ty == tx)
    1061 [ +  - ][ -  + ]:      18781 :     return (tx == t_POL || tx == t_POLMOD)? cmp_RgX(x,y): lexcmp(x,y);
    1062                 :      19698 :   return tx - ty;
    1063                 :            : }
    1064                 :            : static int
    1065                 :       5894 : elt_egal(GEN x, GEN y)
    1066                 :            : {
    1067         [ +  + ]:       5894 :   if (typ(x) == typ(y)) return gequal(x,y);
    1068                 :       5894 :   return 0;
    1069                 :            : }
    1070                 :            : 
    1071                 :            : GEN
    1072                 :       6986 : famat_reduce(GEN fa)
    1073                 :            : {
    1074                 :            :   GEN E, G, L, g, e;
    1075                 :            :   long i, k, l;
    1076                 :            : 
    1077         [ +  + ]:       6986 :   if (lg(fa) == 1) return fa;
    1078                 :       4410 :   g = gel(fa,1); l = lg(g);
    1079                 :       4410 :   e = gel(fa,2);
    1080                 :       4410 :   L = gen_indexsort(g, (void*)&elt_cmp, &cmp_nodata);
    1081                 :       4410 :   G = cgetg(l, t_COL);
    1082                 :       4410 :   E = cgetg(l, t_COL);
    1083                 :            :   /* merge */
    1084         [ +  + ]:      14714 :   for (k=i=1; i<l; i++,k++)
    1085                 :            :   {
    1086                 :      10304 :     gel(G,k) = gel(g,L[i]);
    1087                 :      10304 :     gel(E,k) = gel(e,L[i]);
    1088 [ +  + ][ +  + ]:      10304 :     if (k > 1 && elt_egal(gel(G,k), gel(G,k-1)))
    1089                 :            :     {
    1090                 :        476 :       gel(E,k-1) = addii(gel(E,k), gel(E,k-1));
    1091                 :        476 :       k--;
    1092                 :            :     }
    1093                 :            :   }
    1094                 :            :   /* kill 0 exponents */
    1095                 :       4410 :   l = k;
    1096         [ +  + ]:      14238 :   for (k=i=1; i<l; i++)
    1097         [ +  + ]:       9828 :     if (!gequal0(gel(E,i)))
    1098                 :            :     {
    1099                 :       9499 :       gel(G,k) = gel(G,i);
    1100                 :       9499 :       gel(E,k) = gel(E,i); k++;
    1101                 :            :     }
    1102                 :       4410 :   setlg(G, k);
    1103                 :       6986 :   setlg(E, k); return mkmat2(G,E);
    1104                 :            : }
    1105                 :            : 
    1106                 :            : GEN
    1107                 :       8841 : famatsmall_reduce(GEN fa)
    1108                 :            : {
    1109                 :            :   GEN E, G, L, g, e;
    1110                 :            :   long i, k, l;
    1111         [ -  + ]:       8841 :   if (lg(fa) == 1) return fa;
    1112                 :       8841 :   g = gel(fa,1); l = lg(g);
    1113                 :       8841 :   e = gel(fa,2);
    1114                 :       8841 :   L = vecsmall_indexsort(g);
    1115                 :       8841 :   G = cgetg(l, t_VECSMALL);
    1116                 :       8841 :   E = cgetg(l, t_VECSMALL);
    1117                 :            :   /* merge */
    1118         [ +  + ]:      76671 :   for (k=i=1; i<l; i++,k++)
    1119                 :            :   {
    1120                 :      67830 :     G[k] = g[L[i]];
    1121                 :      67830 :     E[k] = e[L[i]];
    1122 [ +  + ][ +  + ]:      67830 :     if (k > 1 && G[k] == G[k-1])
    1123                 :            :     {
    1124                 :       3157 :       E[k-1] += E[k];
    1125                 :       3157 :       k--;
    1126                 :            :     }
    1127                 :            :   }
    1128                 :            :   /* kill 0 exponents */
    1129                 :       8841 :   l = k;
    1130         [ +  + ]:      73514 :   for (k=i=1; i<l; i++)
    1131         [ +  + ]:      64673 :     if (E[i])
    1132                 :            :     {
    1133                 :      63224 :       G[k] = G[i];
    1134                 :      63224 :       E[k] = E[i]; k++;
    1135                 :            :     }
    1136                 :       8841 :   setlg(G, k);
    1137                 :       8841 :   setlg(E, k); return mkmat2(G,E);
    1138                 :            : }
    1139                 :            : 
    1140                 :            : GEN
    1141                 :      58471 : ZM_famat_limit(GEN fa, GEN limit)
    1142                 :            : {
    1143                 :            :   pari_sp av;
    1144                 :            :   GEN E, G, g, e, r;
    1145                 :            :   long i, k, l, n, lG;
    1146                 :            : 
    1147         [ -  + ]:      58471 :   if (lg(fa) == 1) return fa;
    1148                 :      58471 :   g = gel(fa,1); l = lg(g);
    1149                 :      58471 :   e = gel(fa,2);
    1150         [ +  + ]:     181566 :   for(n=0, i=1; i<l; i++)
    1151         [ +  + ]:     123095 :     if (cmpii(gel(g,i),limit)<=0) n++;
    1152         [ +  + ]:      58471 :   lG = n<l-1 ? n+2 : n+1;
    1153                 :      58471 :   G = cgetg(lG, t_COL);
    1154                 :      58471 :   E = cgetg(lG, t_COL);
    1155                 :      58471 :   av = avma;
    1156         [ +  + ]:     181566 :   for (i=1, k=1, r = gen_1; i<l; i++)
    1157                 :            :   {
    1158         [ +  + ]:     123095 :     if (cmpii(gel(g,i),limit)<=0)
    1159                 :            :     {
    1160                 :     123039 :       gel(G,k) = gel(g,i);
    1161                 :     123039 :       gel(E,k) = gel(e,i);
    1162                 :     123039 :       k++;
    1163                 :         56 :     } else r = mulii(r, powii(gel(g,i), gel(e,i)));
    1164                 :            :   }
    1165         [ +  + ]:      58471 :   if (k<i)
    1166                 :            :   {
    1167                 :         56 :     gel(G, k) = gerepileuptoint(av, r);
    1168                 :         56 :     gel(E, k) = gen_1;
    1169                 :            :   }
    1170                 :      58471 :   return mkmat2(G,E);
    1171                 :            : }
    1172                 :            : 
    1173                 :            : /* assume pr has degree 1 and coprime to numerator(x) */
    1174                 :            : static GEN
    1175                 :       3514 : nf_to_Fp_simple(GEN x, GEN modpr, GEN p)
    1176                 :            : {
    1177                 :       3514 :   GEN c, r = zk_to_Fq(Q_primitive_part(x, &c), modpr);
    1178         [ +  + ]:       3514 :   if (c) r = Rg_to_Fp(gmul(r, c), p);
    1179                 :       3514 :   return r;
    1180                 :            : }
    1181                 :            : /* assume pr coprime to numerator(x) */
    1182                 :            : static GEN
    1183                 :          0 : nf_to_Fq_simple(GEN nf, GEN x, GEN pr)
    1184                 :            : {
    1185                 :          0 :   GEN T, p, modpr = zk_to_Fq_init(nf, &pr, &T, &p);
    1186                 :          0 :   GEN c, r = zk_to_Fq(Q_primitive_part(x, &c), modpr);
    1187         [ #  # ]:          0 :   if (c) r = Fq_Fp_mul(r, Rg_to_Fp(c,p), T,p);
    1188                 :          0 :   return r;
    1189                 :            : }
    1190                 :            : 
    1191                 :            : static GEN
    1192                 :        385 : famat_to_Fp_simple(GEN nf, GEN x, GEN modpr, GEN p)
    1193                 :            : {
    1194                 :        385 :   GEN h, n, t = gen_1, g = gel(x,1), e = gel(x,2), q = subiu(p,1);
    1195                 :        385 :   long i, l = lg(g);
    1196                 :            : 
    1197         [ +  + ]:       1120 :   for (i=1; i<l; i++)
    1198                 :            :   {
    1199                 :        735 :     n = gel(e,i); n = modii(n,q);
    1200         [ -  + ]:        735 :     if (!signe(n)) continue;
    1201                 :            : 
    1202                 :        735 :     h = gel(g,i);
    1203      [ -  +  - ]:        735 :     switch(typ(h))
    1204                 :            :     {
    1205                 :          0 :       case t_POL: case t_POLMOD: h = algtobasis(nf, h);  /* fall through */
    1206                 :        735 :       case t_COL: h = nf_to_Fp_simple(h, modpr, p); break;
    1207                 :          0 :       default: h = Rg_to_Fp(h, p);
    1208                 :            :     }
    1209                 :        735 :     t = mulii(t, Fp_pow(h, n, p)); /* not worth reducing */
    1210                 :            :   }
    1211                 :        385 :   return modii(t, p);
    1212                 :            : }
    1213                 :            : static GEN
    1214                 :          0 : famat_to_Fq_simple(GEN nf, GEN x, GEN pr)
    1215                 :            : {
    1216                 :          0 :   GEN T, p, modpr = zk_to_Fq_init(nf, &pr, &T, &p);
    1217                 :          0 :   GEN h, n, t = gen_1, g = gel(x,1), e = gel(x,2), q = subiu(pr_norm(pr),1);
    1218                 :          0 :   long i, l = lg(g);
    1219                 :            : 
    1220         [ #  # ]:          0 :   for (i=1; i<l; i++)
    1221                 :            :   {
    1222                 :          0 :     n = gel(e,i); n = modii(n,q);
    1223         [ #  # ]:          0 :     if (!signe(n)) continue;
    1224                 :            : 
    1225                 :          0 :     h = gel(g,i);
    1226      [ #  #  # ]:          0 :     switch(typ(h))
    1227                 :            :     {
    1228                 :          0 :       case t_POL: case t_POLMOD: h = algtobasis(nf, h);  /* fall through */
    1229                 :          0 :       case t_COL: h = nf_to_Fq_simple(nf, h, modpr); break;
    1230                 :          0 :       default: h = nf_to_Fq(nf, h, modpr);
    1231                 :            :     }
    1232                 :          0 :     t = Fq_mul(t, Fq_pow(h, n, T, p), T,p);
    1233                 :            :   }
    1234                 :          0 :   return t;
    1235                 :            : }
    1236                 :            : 
    1237                 :            : /* cf famat_to_nf_modideal_coprime, but id is a prime of degree 1 (=pr) */
    1238                 :            : GEN
    1239                 :       3297 : to_Fp_simple(GEN nf, GEN x, GEN pr)
    1240                 :            : {
    1241                 :       3297 :   GEN T, p, modpr = zk_to_Fq_init(nf, &pr, &T, &p);
    1242      [ +  +  + ]:       3297 :   switch(typ(x))
    1243                 :            :   {
    1244                 :       2779 :     case t_COL: return nf_to_Fp_simple(x,modpr,p);
    1245                 :        385 :     case t_MAT: return famat_to_Fp_simple(nf,x,modpr,p);
    1246                 :       3297 :     default: return Rg_to_Fp(x, p);
    1247                 :            :   }
    1248                 :            : }
    1249                 :            : GEN
    1250                 :          0 : to_Fq_simple(GEN nf, GEN x, GEN pr)
    1251                 :            : {
    1252                 :          0 :   GEN T, p, modpr = zk_to_Fq_init(nf, &pr, &T, &p);
    1253      [ #  #  # ]:          0 :   switch(typ(x))
    1254                 :            :   {
    1255                 :          0 :     case t_COL: return nf_to_Fq_simple(nf,x,modpr);
    1256                 :          0 :     case t_MAT: return famat_to_Fq_simple(nf,x,modpr);
    1257                 :          0 :     default: return nf_to_Fq(x, p, modpr);
    1258                 :            :   }
    1259                 :            : }
    1260                 :            : 
    1261                 :            : /* Compute A = prod g[i]^e[i] mod pr^k, assuming (A, pr) = 1.
    1262                 :            :  * Method: modify each g[i] so that it becomes coprime to pr :
    1263                 :            :  *  x / (p^k u) --> x * (b/p)^v_pr(x) / z^k u, where z = b^e/p^(e-1)
    1264                 :            :  * b/p = pr^(-1) times something prime to p; both numerator and denominator
    1265                 :            :  * are integral and coprime to pr.  Globally, we multiply by (b/p)^v_pr(A) = 1.
    1266                 :            :  *
    1267                 :            :  * EX = multiple of exponent of (O_K / pr^k)^* used to reduce the product in
    1268                 :            :  * case the e[i] are large */
    1269                 :            : GEN
    1270                 :      98567 : famat_makecoprime(GEN nf, GEN g, GEN e, GEN pr, GEN prk, GEN EX)
    1271                 :            : {
    1272                 :      98567 :   long i, l = lg(g);
    1273                 :      98567 :   GEN prkZ, u, vden = gen_0, p = pr_get_p(pr);
    1274                 :      98567 :   pari_sp av = avma;
    1275                 :      98567 :   GEN newg = cgetg(l+1, t_VEC); /* room for z */
    1276                 :            : 
    1277                 :      98567 :   prkZ = gcoeff(prk, 1,1);
    1278         [ +  + ]:     343630 :   for (i=1; i < l; i++)
    1279                 :            :   {
    1280                 :     245063 :     GEN dx, x = nf_to_scalar_or_basis(nf, gel(g,i));
    1281                 :     245063 :     long vdx = 0;
    1282                 :     245063 :     x = Q_remove_denom(x, &dx);
    1283         [ +  + ]:     245063 :     if (dx)
    1284                 :            :     {
    1285                 :     145686 :       vdx = Z_pvalrem(dx, p, &u);
    1286         [ +  + ]:     145686 :       if (!is_pm1(u))
    1287                 :            :       { /* could avoid the inversion, but prkZ is small--> cheap */
    1288                 :      54803 :         u = Fp_inv(u, prkZ);
    1289         [ +  + ]:      54803 :         x = typ(x) == t_INT? mulii(x,u): ZC_Z_mul(x, u);
    1290                 :            :       }
    1291         [ +  + ]:     145686 :       if (vdx) vden = addii(vden, mului(vdx, gel(e,i)));
    1292                 :            :     }
    1293         [ +  + ]:     245063 :     if (typ(x) == t_INT) {
    1294         [ +  - ]:      45506 :       if (!vdx) vden = subii(vden, mului(Z_pvalrem(x, p, &x), gel(e,i)));
    1295                 :            :     } else {
    1296                 :     199557 :       (void)ZC_nfvalrem(nf, x, pr, &x);
    1297                 :     199557 :       x =  ZC_hnfrem(x, prk);
    1298                 :            :     }
    1299                 :     245063 :     gel(newg,i) = x;
    1300         [ -  + ]:     245063 :     if (gc_needed(av, 2))
    1301                 :            :     {
    1302                 :          0 :       GEN dummy = cgetg(1,t_VEC);
    1303                 :            :       long j;
    1304         [ #  # ]:          0 :       if(DEBUGMEM>1) pari_warn(warnmem,"famat_makecoprime");
    1305         [ #  # ]:          0 :       for (j = i+1; j <= l; j++) gel(newg,j) = dummy;
    1306                 :          0 :       gerepileall(av,2, &newg, &vden);
    1307                 :            :     }
    1308                 :            :   }
    1309         [ +  + ]:      98567 :   if (vden == gen_0) setlg(newg, l);
    1310                 :            :   else
    1311                 :            :   {
    1312                 :      11032 :     GEN t = special_anti_uniformizer(nf, pr);
    1313         [ -  + ]:      11032 :     if (typ(t) == t_INT) setlg(newg, l); /* = 1 */
    1314                 :            :     else {
    1315         [ +  - ]:      11032 :       if (typ(t) == t_MAT) t = gel(t,1); /* multiplication table */
    1316                 :      11032 :       gel(newg,i) = FpC_red(t, prkZ);
    1317                 :      11032 :       e = shallowconcat(e, negi(vden));
    1318                 :            :     }
    1319                 :            :   }
    1320                 :      98567 :   return famat_to_nf_modideal_coprime(nf, newg, e, prk, EX);
    1321                 :            : }
    1322                 :            : 
    1323                 :            : /* prod g[i]^e[i] mod bid, assume (g[i], id) = 1 */
    1324                 :            : GEN
    1325                 :      12544 : famat_to_nf_moddivisor(GEN nf, GEN g, GEN e, GEN bid)
    1326                 :            : {
    1327                 :            :   GEN t,sarch,module,cyc,fa2;
    1328                 :            :   long lc;
    1329         [ -  + ]:      12544 :   if (lg(g) == 1) return scalarcol_shallow(gen_1, nf_get_degree(nf)); /* 1 */
    1330                 :      12544 :   module = bid_get_mod(bid);
    1331                 :      12544 :   cyc = bid_get_cyc(bid); lc = lg(cyc);
    1332                 :      12544 :   fa2 = gel(bid,4); sarch = gel(fa2,lg(fa2)-1);
    1333                 :      12544 :   t = NULL;
    1334         [ +  - ]:      12544 :   if (lc != 1)
    1335                 :            :   {
    1336                 :      12544 :     GEN EX = gel(cyc,1); /* group exponent */
    1337                 :      12544 :     GEN id = gel(module,1);
    1338                 :      12544 :     t = famat_to_nf_modideal_coprime(nf, g, e, id, EX);
    1339                 :            :   }
    1340         [ -  + ]:      12544 :   if (!t) t = gen_1;
    1341                 :      12544 :   return set_sign_mod_divisor(nf, mkmat2(g,e), t, module, sarch);
    1342                 :            : }
    1343                 :            : 
    1344                 :            : GEN
    1345                 :     177352 : vecmul(GEN x, GEN y)
    1346                 :            : {
    1347                 :     177352 :   long i,lx, tx = typ(x);
    1348                 :            :   GEN z;
    1349         [ +  + ]:     177352 :   if (is_scalar_t(tx)) return gmul(x,y);
    1350                 :      15183 :   z = cgetg_copy(x, &lx);
    1351         [ +  + ]:     177352 :   for (i=1; i<lx; i++) gel(z,i) = vecmul(gel(x,i), gel(y,i));
    1352                 :     177352 :   return z;
    1353                 :            : }
    1354                 :            : 
    1355                 :            : GEN
    1356                 :          0 : vecinv(GEN x)
    1357                 :            : {
    1358                 :          0 :   long i,lx, tx = typ(x);
    1359                 :            :   GEN z;
    1360         [ #  # ]:          0 :   if (is_scalar_t(tx)) return ginv(x);
    1361                 :          0 :   z = cgetg_copy(x, &lx);
    1362         [ #  # ]:          0 :   for (i=1; i<lx; i++) gel(z,i) = vecinv(gel(x,i));
    1363                 :          0 :   return z;
    1364                 :            : }
    1365                 :            : 
    1366                 :            : GEN
    1367                 :      15127 : vecpow(GEN x, GEN n)
    1368                 :            : {
    1369                 :      15127 :   long i,lx, tx = typ(x);
    1370                 :            :   GEN z;
    1371         [ +  + ]:      15127 :   if (is_scalar_t(tx)) return powgi(x,n);
    1372                 :       4144 :   z = cgetg_copy(x, &lx);
    1373         [ +  + ]:      15127 :   for (i=1; i<lx; i++) gel(z,i) = vecpow(gel(x,i), n);
    1374                 :      15127 :   return z;
    1375                 :            : }
    1376                 :            : 
    1377                 :            : GEN
    1378                 :        903 : vecdiv(GEN x, GEN y)
    1379                 :            : {
    1380                 :        903 :   long i,lx, tx = typ(x);
    1381                 :            :   GEN z;
    1382         [ +  + ]:        903 :   if (is_scalar_t(tx)) return gdiv(x,y);
    1383                 :        301 :   z = cgetg_copy(x, &lx);
    1384         [ +  + ]:        903 :   for (i=1; i<lx; i++) gel(z,i) = vecdiv(gel(x,i), gel(y,i));
    1385                 :        903 :   return z;
    1386                 :            : }
    1387                 :            : 
    1388                 :            : /* v ideal as a square t_MAT */
    1389                 :            : static GEN
    1390                 :     138246 : idealmulelt(GEN nf, GEN x, GEN v)
    1391                 :            : {
    1392                 :            :   long i, lx;
    1393                 :            :   GEN cx;
    1394         [ -  + ]:     138246 :   if (lg(v) == 1) return cgetg(1, t_MAT);
    1395                 :     138246 :   x = nf_to_scalar_or_basis(nf,x);
    1396         [ +  + ]:     138246 :   if (typ(x) != t_COL)
    1397         [ -  + ]:      23239 :     return isintzero(x)? cgetg(1,t_MAT): RgM_Rg_mul(v, Q_abs_shallow(x));
    1398                 :     115007 :   x = nfC_nf_mul(nf, v, x);
    1399                 :     115007 :   x = Q_primitive_part(x, &cx);
    1400                 :     115007 :   settyp(x, t_MAT); lx = lg(x);
    1401                 :            :   /* x may contain scalars (at most 1 since the ideal is non-0)*/
    1402         [ +  + ]:     410730 :   for (i=1; i<lx; i++)
    1403         [ +  + ]:     298033 :     if (typ(gel(x,i)) == t_INT)
    1404                 :            :     {
    1405         [ +  - ]:       2310 :       if (i > 1) swap(gel(x,1), gel(x,i)); /* help HNF */
    1406                 :       2310 :       gel(x,1) = scalarcol_shallow(gel(x,1), lx-1);
    1407                 :       2310 :       break;
    1408                 :            :     }
    1409                 :     115007 :   x = ZM_hnfmod(x, ZM_detmult(x));
    1410         [ +  + ]:     138246 :   return cx? ZM_Q_mul(x,cx): x;
    1411                 :            : }
    1412                 :            : 
    1413                 :            : /* tx <= ty */
    1414                 :            : static GEN
    1415                 :     590638 : idealmul_aux(GEN nf, GEN x, GEN y, long tx, long ty)
    1416                 :            : {
    1417                 :            :   GEN z, cx, cy;
    1418      [ +  +  + ]:     590638 :   switch(tx)
    1419                 :            :   {
    1420                 :            :     case id_PRINCIPAL:
    1421      [ +  +  + ]:     165014 :       switch(ty)
    1422                 :            :       {
    1423                 :            :         case id_PRINCIPAL:
    1424                 :      24542 :           return idealhnf_principal(nf, nfmul(nf,x,y));
    1425                 :            :         case id_PRIME:
    1426                 :            :         {
    1427                 :       2226 :           GEN p = gel(y,1), pi = gel(y,2), cx;
    1428         [ +  + ]:       2226 :           if (pr_is_inert(y)) return RgM_Rg_mul(idealhnf_principal(nf,x),p);
    1429                 :            : 
    1430                 :        455 :           x = nf_to_scalar_or_basis(nf, x);
    1431      [ +  +  + ]:        455 :           switch(typ(x))
    1432                 :            :           {
    1433                 :            :             case t_INT:
    1434         [ -  + ]:        371 :               if (!signe(x)) return cgetg(1,t_MAT);
    1435                 :        371 :               return ZM_Z_mul(idealhnf_two(nf,y), absi(x));
    1436                 :            :             case t_FRAC:
    1437                 :         77 :               return RgM_Rg_mul(idealhnf_two(nf,y), Q_abs_shallow(x));
    1438                 :            :           }
    1439                 :            :           /* t_COL */
    1440                 :          7 :           x = Q_primitive_part(x, &cx);
    1441                 :          7 :           x = zk_multable(nf, x);
    1442                 :          7 :           z = shallowconcat(ZM_Z_mul(x,p), ZM_ZC_mul(x,pi));
    1443                 :          7 :           z = ZM_hnfmod(z, ZM_detmult(z));
    1444         [ -  + ]:       2226 :           return cx? ZM_Q_mul(z, cx): z;
    1445                 :            :         }
    1446                 :            :         default: /* id_MAT */
    1447                 :     138246 :           return idealmulelt(nf, x,y);
    1448                 :            :       }
    1449                 :            :     case id_PRIME:
    1450         [ +  + ]:     328302 :       if (ty==id_PRIME)
    1451                 :     303119 :       { y = idealhnf_two(nf,y); cy = NULL; }
    1452                 :            :       else
    1453                 :      25183 :         y = Q_primitive_part(y, &cy);
    1454                 :     328302 :       y = idealmul_HNF_two(nf,y,x);
    1455         [ +  + ]:     328302 :       return cy? RgM_Rg_mul(y,cy): y;
    1456                 :            : 
    1457                 :            :     default: /* id_MAT */
    1458                 :      97322 :       x = Q_primitive_part(x, &cx);
    1459                 :      97322 :       y = Q_primitive_part(y, &cy); cx = mul_content(cx,cy);
    1460                 :      97322 :       y = idealmul_HNF(nf,x,y);
    1461         [ +  + ]:     590547 :       return cx? ZM_Q_mul(y,cx): y;
    1462                 :            :   }
    1463                 :            : }
    1464                 :            : 
    1465                 :            : /* output the ideal product ix.iy */
    1466                 :            : GEN
    1467                 :     524914 : idealmul(GEN nf, GEN x, GEN y)
    1468                 :            : {
    1469                 :            :   pari_sp av;
    1470                 :            :   GEN res, ax, ay, z;
    1471                 :     524914 :   long tx = idealtyp(&x,&ax);
    1472                 :     524914 :   long ty = idealtyp(&y,&ay), f;
    1473         [ +  + ]:     524914 :   if (tx>ty) { swap(ax,ay); swap(x,y); lswap(tx,ty); }
    1474 [ +  + ][ +  + ]:     524914 :   f = (ax||ay); res = f? cgetg(3,t_VEC): NULL; /*product is an extended ideal*/
                 [ +  + ]
    1475                 :     524914 :   av = avma;
    1476                 :     524914 :   z = gerepileupto(av, idealmul_aux(checknf(nf), x,y, tx,ty));
    1477         [ +  + ]:     524823 :   if (!f) return z;
    1478 [ +  + ][ +  - ]:      44737 :   if (ax && ay)
    1479                 :      43306 :     ax = ext_mul(nf, ax, ay);
    1480                 :            :   else
    1481         [ -  + ]:       1431 :     ax = gcopy(ax? ax: ay);
    1482                 :     524823 :   gel(res,1) = z; gel(res,2) = ax; return res;
    1483                 :            : }
    1484                 :            : GEN
    1485                 :      65724 : idealsqr(GEN nf, GEN x)
    1486                 :            : {
    1487                 :            :   pari_sp av;
    1488                 :            :   GEN res, ax, z;
    1489                 :      65724 :   long tx = idealtyp(&x,&ax);
    1490         [ +  + ]:      65724 :   res = ax? cgetg(3,t_VEC): NULL; /*product is an extended ideal*/
    1491                 :      65724 :   av = avma;
    1492                 :      65724 :   z = gerepileupto(av, idealmul_aux(checknf(nf), x,x, tx,tx));
    1493         [ +  + ]:      65724 :   if (!ax) return z;
    1494                 :      65710 :   gel(res,1) = z;
    1495                 :      65724 :   gel(res,2) = ext_sqr(nf, ax); return res;
    1496                 :            : }
    1497                 :            : 
    1498                 :            : /* norm of an ideal */
    1499                 :            : GEN
    1500                 :       9470 : idealnorm(GEN nf, GEN x)
    1501                 :            : {
    1502                 :            :   pari_sp av;
    1503                 :            :   GEN y, T;
    1504                 :            :   long tx;
    1505                 :            : 
    1506      [ +  +  + ]:       9470 :   switch(idealtyp(&x,&y))
    1507                 :            :   {
    1508                 :        476 :     case id_PRIME: return pr_norm(x);
    1509                 :       5299 :     case id_MAT: return RgM_det_triangular(x);
    1510                 :            :   }
    1511                 :            :   /* id_PRINCIPAL */
    1512                 :       3695 :   nf = checknf(nf); T = nf_get_pol(nf); av = avma;
    1513                 :       3695 :   x = nf_to_scalar_or_alg(nf, x);
    1514         [ +  + ]:       3695 :   x = (typ(x) == t_POL)? RgXQ_norm(x, T): gpowgs(x, degpol(T));
    1515                 :       3695 :   tx = typ(x);
    1516         [ +  + ]:       3695 :   if (tx == t_INT) return gerepileuptoint(av, absi(x));
    1517         [ -  + ]:        266 :   if (tx != t_FRAC) pari_err_TYPE("idealnorm",x);
    1518                 :       9470 :   return gerepileupto(av, Q_abs(x));
    1519                 :            : }
    1520                 :            : 
    1521                 :            : /* inverse */
    1522                 :            : 
    1523                 :            : /* rewritten from original code by P.M & M.H.
    1524                 :            :  *
    1525                 :            :  * I^(-1) = { x \in K, Tr(x D^(-1) I) \in Z }, D different of K/Q
    1526                 :            :  *
    1527                 :            :  * nf[5][6] = pp( D^(-1) ) = pp( HNF( T^(-1) ) ), T = (Tr(wi wj))
    1528                 :            :  * nf[5][7] = same in 2-elt form.
    1529                 :            :  * Assume I integral. Return the integral ideal (I\cap Z) I^(-1) */
    1530                 :            : static GEN
    1531                 :      32373 : idealinv_HNF_aux(GEN nf, GEN I)
    1532                 :            : {
    1533                 :      32373 :   GEN J, dual, IZ = gcoeff(I,1,1); /* I \cap Z */
    1534                 :            : 
    1535         [ +  + ]:      32373 :   if (isint1(IZ)) return matid(lg(I)-1);
    1536                 :      28348 :   J = idealmul_HNF(nf,I, gmael(nf,5,7));
    1537                 :            :  /* I in HNF, hence easily inverted; multiply by IZ to get integer coeffs
    1538                 :            :   * missing content cancels while solving the linear equation */
    1539                 :      28348 :   dual = shallowtrans( hnf_divscale(J, gmael(nf,5,6), IZ) );
    1540                 :      32373 :   return ZM_hnfmodid(dual, IZ);
    1541                 :            : }
    1542                 :            : /* I HNF with rational coefficients (denominator d). */
    1543                 :            : static GEN
    1544                 :      31729 : idealinv_HNF(GEN nf, GEN I)
    1545                 :            : {
    1546                 :      31729 :   GEN J, IQ = gcoeff(I,1,1); /* I \cap Q; d IQ = dI \cap Z */
    1547                 :            : 
    1548                 :            :   /* J = (dI)^(-1) * (d IQ) */
    1549                 :      31729 :   J = idealinv_HNF_aux(nf, Q_remove_denom(I, NULL));
    1550 [ +  + ][ +  + ]:      31729 :   if (typ(IQ) != t_INT || !is_pm1(IQ)) J = RgM_Rg_div(J, IQ);
    1551                 :      31729 :   return J;
    1552                 :            : }
    1553                 :            : 
    1554                 :            : /* return p * P^(-1)  [integral] */
    1555                 :            : GEN
    1556                 :       1650 : pidealprimeinv(GEN nf, GEN x)
    1557                 :            : {
    1558         [ +  + ]:       1650 :   if (pr_is_inert(x)) return matid(lg(gel(x,2)) - 1);
    1559                 :       1650 :   return idealhnf_two(nf, mkvec2(gel(x,1), gel(x,5)));
    1560                 :            : }
    1561                 :            : 
    1562                 :            : GEN
    1563                 :      47400 : idealinv(GEN nf, GEN x)
    1564                 :            : {
    1565                 :            :   GEN res,ax;
    1566                 :            :   pari_sp av;
    1567                 :      47400 :   long tx = idealtyp(&x,&ax);
    1568                 :            : 
    1569         [ +  + ]:      47400 :   res = ax? cgetg(3,t_VEC): NULL;
    1570                 :      47400 :   nf = checknf(nf); av = avma;
    1571   [ +  +  +  - ]:      47400 :   switch (tx)
    1572                 :            :   {
    1573                 :            :     case id_MAT:
    1574         [ -  + ]:      28222 :       if (lg(x)-1 != nf_get_degree(nf)) pari_err_DIM("idealinv");
    1575                 :      28222 :       x = idealinv_HNF(nf,x); break;
    1576                 :      18158 :     case id_PRINCIPAL: tx = typ(x);
    1577         [ +  + ]:      18158 :       if (is_const_t(tx)) x = ginv(x);
    1578                 :            :       else
    1579                 :            :       {
    1580                 :            :         GEN T;
    1581      [ +  +  - ]:         35 :         switch(tx)
    1582                 :            :         {
    1583                 :         28 :           case t_COL: x = coltoliftalg(nf,x); break;
    1584                 :          7 :           case t_POLMOD: x = gel(x,2); break;
    1585                 :            :         }
    1586         [ -  + ]:         35 :         if (typ(x) != t_POL) { x = ginv(x); break; }
    1587                 :         35 :         T = nf_get_pol(nf);
    1588         [ -  + ]:         35 :         if (varn(x) != varn(T)) pari_err_VAR("idealinv", x, T);
    1589                 :         35 :         x = QXQ_inv(x, T);
    1590                 :            :       }
    1591                 :      18158 :       x = idealhnf_principal(nf,x); break;
    1592                 :            :     case id_PRIME:
    1593                 :       1020 :       x = RgM_Rg_div(pidealprimeinv(nf,x), gel(x,1));
    1594                 :            :   }
    1595         [ +  + ]:      47400 :   x = gerepileupto(av,x); if (!ax) return x;
    1596                 :       4469 :   gel(res,1) = x;
    1597                 :      47400 :   gel(res,2) = ext_inv(nf, ax); return res;
    1598                 :            : }
    1599                 :            : 
    1600                 :            : /* write x = A/B, A,B coprime integral ideals */
    1601                 :            : GEN
    1602                 :      25776 : idealnumden(GEN nf, GEN x)
    1603                 :            : {
    1604                 :      25776 :   pari_sp av = avma;
    1605                 :            :   GEN ax, c, d, A, B, J;
    1606                 :      25776 :   long tx = idealtyp(&x,&ax);
    1607                 :      25776 :   nf = checknf(nf);
    1608   [ +  +  +  - ]:      25776 :   switch (tx)
    1609                 :            :   {
    1610                 :            :     case id_PRIME:
    1611                 :          7 :       retmkvec2(idealhnf(nf, x), gen_1);
    1612                 :            :     case id_PRINCIPAL:
    1613                 :       1253 :       x = nf_to_scalar_or_basis(nf, x);
    1614      [ +  +  + ]:       1253 :       switch(typ(x))
    1615                 :            :       {
    1616                 :            :         case t_INT:
    1617                 :          7 :           return gerepilecopy(av, mkvec2(absi(x),gen_1));
    1618                 :            :         case t_FRAC:
    1619                 :          7 :           return gerepilecopy(av, mkvec2(absi(gel(x,1)), gel(x,2)));
    1620                 :            :       }
    1621                 :            :       /* t_COL */
    1622                 :       1239 :       x = Q_remove_denom(x, &d);
    1623         [ +  + ]:       1239 :       if (!d) return gerepilecopy(av, mkvec2(idealhnf(nf, x), gen_1));
    1624                 :          7 :       x = idealhnf(nf, x);
    1625                 :          7 :       break;
    1626                 :            :     case id_MAT: {
    1627                 :      24516 :       long n = lg(x)-1;
    1628         [ -  + ]:      24516 :       if (n == 0) return mkvec2(gen_0, gen_1);
    1629         [ -  + ]:      24516 :       if (n != nf_get_degree(nf)) pari_err_DIM("idealnumden");
    1630                 :      24516 :       x = Q_remove_denom(x, &d);
    1631         [ +  + ]:      24516 :       if (!d) return gerepilecopy(av, mkvec2(x, gen_1));
    1632                 :         14 :       break;
    1633                 :            :     }
    1634                 :            :   }
    1635                 :         21 :   J = hnfmodid(x, d); /* = d/B */
    1636                 :         21 :   c = gcoeff(J,1,1); /* (d/B) \cap Z, divides d */
    1637                 :         21 :   B = idealinv_HNF_aux(nf, J); /* (d/B \cap Z) B/d */
    1638                 :         21 :   c = diviiexact(d, c);
    1639         [ +  + ]:         21 :   if (!is_pm1(c)) B = ZM_Z_mul(B, c); /* = B ! */
    1640                 :         21 :   A = idealmul(nf, x, B); /* d * (original x) * B = d A */
    1641         [ +  - ]:         21 :   if (!is_pm1(d)) A = ZM_Z_divexact(A, d); /* = A ! */
    1642         [ -  + ]:         21 :   if (is_pm1(gcoeff(B,1,1))) B = gen_1;
    1643                 :      25776 :   return gerepilecopy(av, mkvec2(A, B));
    1644                 :            : }
    1645                 :            : 
    1646                 :            : /* Return x, integral in 2-elt form, such that pr^n = x/d. Assume n != 0 */
    1647                 :            : static GEN
    1648                 :     232596 : idealpowprime(GEN nf, GEN pr, GEN n, GEN *d)
    1649                 :            : {
    1650                 :     232596 :   long s = signe(n);
    1651                 :            :   GEN q, gen;
    1652                 :            : 
    1653         [ +  + ]:     232596 :   if (is_pm1(n)) /* n = 1 special cased for efficiency */
    1654                 :            :   {
    1655                 :     112865 :     q = pr_get_p(pr);
    1656         [ +  + ]:     112865 :     if (s < 0) {
    1657                 :       1813 :       gen = pr_get_tau(pr);
    1658         [ +  - ]:       1813 :       if (typ(gen) == t_MAT) gen = gel(gen,1);
    1659                 :       1813 :       *d = q;
    1660                 :            :     } else {
    1661                 :     111052 :       gen = pr_get_gen(pr);
    1662                 :     111052 :       *d = NULL;
    1663                 :            :     }
    1664                 :            :   }
    1665                 :            :   else
    1666                 :            :   {
    1667                 :            :     ulong r;
    1668                 :     119731 :     GEN p = pr_get_p(pr);
    1669                 :     119731 :     GEN m = diviu_rem(n, pr_get_e(pr), &r);
    1670         [ +  + ]:     119731 :     if (r) m = addis(m,1); /* m = ceil(|n|/e) */
    1671                 :     119731 :     q = powii(p,m);
    1672         [ +  + ]:     119731 :     if (s < 0)
    1673                 :            :     {
    1674                 :        525 :       gen = pr_get_tau(pr);
    1675         [ +  - ]:        525 :       if (typ(gen) == t_MAT) gen = gel(gen,1);
    1676                 :        525 :       n = negi(n);
    1677                 :        525 :       gen = ZC_Z_divexact(nfpow(nf, gen, n), powii(p, subii(n,m)));
    1678                 :        525 :       *d = q;
    1679                 :            :     }
    1680                 :            :     else
    1681                 :            :     {
    1682                 :     119206 :       gen = nfpow(nf, pr_get_gen(pr), n);
    1683                 :     119731 :       *d = NULL;
    1684                 :            :     }
    1685                 :            :   }
    1686                 :     232596 :   return mkvec2(q, gen);
    1687                 :            : }
    1688                 :            : 
    1689                 :            : /* x * pr^n. Assume x in HNF (possibly non-integral) */
    1690                 :            : GEN
    1691                 :      36897 : idealmulpowprime(GEN nf, GEN x, GEN pr, GEN n)
    1692                 :            : {
    1693                 :            :   GEN cx,y,dx;
    1694                 :            : 
    1695         [ +  + ]:      36897 :   if (!signe(n)) return x;
    1696                 :      36834 :   nf = checknf(nf);
    1697                 :            : 
    1698                 :            :   /* inert, special cased for efficiency */
    1699         [ +  + ]:      36834 :   if (pr_is_inert(pr)) return RgM_Rg_mul(x, powii(pr_get_p(pr), n));
    1700                 :            : 
    1701                 :      34552 :   y = idealpowprime(nf, pr, n, &dx);
    1702                 :      34552 :   x = Q_primitive_part(x, &cx);
    1703 [ +  + ][ +  + ]:      34552 :   if (cx && dx)
    1704                 :            :   {
    1705                 :       1421 :     cx = gdiv(cx, dx);
    1706         [ +  + ]:       1421 :     if (typ(cx) != t_FRAC) dx = NULL;
    1707                 :        392 :     else { dx = gel(cx,2); cx = gel(cx,1); }
    1708         [ +  + ]:       1421 :     if (is_pm1(cx)) cx = NULL;
    1709                 :            :   }
    1710                 :      34552 :   x = idealmul_HNF_two(nf,x,y);
    1711         [ +  + ]:      34552 :   if (cx) x = RgM_Rg_mul(x,cx);
    1712         [ +  + ]:      34552 :   if (dx) x = RgM_Rg_div(x,dx);
    1713                 :      36897 :   return x;
    1714                 :            : }
    1715                 :            : GEN
    1716                 :       3388 : idealdivpowprime(GEN nf, GEN x, GEN pr, GEN n)
    1717                 :            : {
    1718                 :       3388 :   return idealmulpowprime(nf,x,pr, negi(n));
    1719                 :            : }
    1720                 :            : 
    1721                 :            : static GEN
    1722                 :     328018 : idealpow_aux(GEN nf, GEN x, long tx, GEN n)
    1723                 :            : {
    1724                 :     328018 :   GEN T = nf_get_pol(nf), m, cx, n1, a, alpha;
    1725                 :     328018 :   long N = degpol(T), s = signe(n);
    1726         [ +  + ]:     328018 :   if (!s) return matid(N);
    1727      [ +  +  + ]:     325484 :   switch(tx)
    1728                 :            :   {
    1729                 :            :     case id_PRINCIPAL:
    1730                 :         35 :       x = nf_to_scalar_or_alg(nf, x);
    1731         [ +  + ]:         35 :       x = (typ(x) == t_POL)? RgXQ_pow(x,n,T): powgi(x,n);
    1732                 :         35 :       return idealhnf_principal(nf,x);
    1733                 :            :     case id_PRIME: {
    1734                 :            :       GEN d;
    1735         [ +  + ]:     227718 :       if (pr_is_inert(x)) return scalarmat(powii(gel(x,1), n), N);
    1736                 :     198044 :       x = idealpowprime(nf, x, n, &d);
    1737                 :     198044 :       x = idealhnf_two(nf,x);
    1738         [ +  + ]:     227718 :       return d? RgM_Rg_div(x, d): x;
    1739                 :            :     }
    1740                 :            :     default:
    1741 [ +  + ][ +  + ]:      97731 :       if (is_pm1(n)) return (s < 0)? idealinv(nf, x): gcopy(x);
    1742         [ +  + ]:      54629 :       n1 = (s < 0)? negi(n): n;
    1743                 :            : 
    1744                 :      54629 :       x = Q_primitive_part(x, &cx);
    1745                 :      54629 :       a = mat_ideal_two_elt(nf,x); alpha = gel(a,2); a = gel(a,1);
    1746                 :      54629 :       alpha = nfpow(nf,alpha,n1);
    1747                 :      54629 :       m = zk_scalar_or_multable(nf, alpha);
    1748         [ +  + ]:      54629 :       if (typ(m) == t_INT) {
    1749                 :        210 :         x = gcdii(m, powii(a,n1));
    1750         [ -  + ]:        210 :         if (s<0) x = ginv(x);
    1751         [ +  + ]:        210 :         if (cx) x = gmul(x, powgi(cx,n));
    1752                 :        210 :         x = scalarmat(x, N);
    1753                 :            :       }
    1754                 :            :       else {
    1755                 :      54419 :         x = ZM_hnfmodid(m, powii(a,n1));
    1756         [ +  + ]:      54419 :         if (cx) cx = powgi(cx,n);
    1757         [ +  + ]:      54419 :         if (s<0) {
    1758                 :          7 :           GEN xZ = gcoeff(x,1,1);
    1759         [ -  + ]:          7 :           cx = cx ? gdiv(cx, xZ): ginv(xZ);
    1760                 :          7 :           x = idealinv_HNF_aux(nf,x);
    1761                 :            :         }
    1762         [ +  + ]:      54419 :         if (cx) x = RgM_Rg_mul(x, cx);
    1763                 :            :       }
    1764                 :     328018 :       return x;
    1765                 :            :   }
    1766                 :            : }
    1767                 :            : 
    1768                 :            : /* raise the ideal x to the power n (in Z) */
    1769                 :            : GEN
    1770                 :     328018 : idealpow(GEN nf, GEN x, GEN n)
    1771                 :            : {
    1772                 :            :   pari_sp av;
    1773                 :            :   long tx;
    1774                 :            :   GEN res, ax;
    1775                 :            : 
    1776         [ -  + ]:     328018 :   if (typ(n) != t_INT) pari_err_TYPE("idealpow",n);
    1777                 :     328018 :   tx = idealtyp(&x,&ax);
    1778         [ +  + ]:     328018 :   res = ax? cgetg(3,t_VEC): NULL;
    1779                 :     328018 :   av = avma;
    1780                 :     328018 :   x = gerepileupto(av, idealpow_aux(checknf(nf), x, tx, n));
    1781         [ +  + ]:     328018 :   if (!ax) return x;
    1782                 :        266 :   ax = ext_pow(nf, ax, n);
    1783                 :        266 :   gel(res,1) = x;
    1784                 :        266 :   gel(res,2) = ax;
    1785                 :     328018 :   return res;
    1786                 :            : }
    1787                 :            : 
    1788                 :            : /* Return ideal^e in number field nf. e is a C integer. */
    1789                 :            : GEN
    1790                 :      13377 : idealpows(GEN nf, GEN ideal, long e)
    1791                 :            : {
    1792                 :      13377 :   long court[] = {evaltyp(t_INT) | _evallg(3),0,0};
    1793                 :      13377 :   affsi(e,court); return idealpow(nf,ideal,court);
    1794                 :            : }
    1795                 :            : 
    1796                 :            : static GEN
    1797                 :      44758 : _idealmulred(GEN nf, GEN x, GEN y)
    1798                 :      44758 : { return idealred(nf,idealmul(nf,x,y)); }
    1799                 :            : static GEN
    1800                 :      65724 : _idealsqrred(GEN nf, GEN x)
    1801                 :      65724 : { return idealred(nf,idealsqr(nf,x)); }
    1802                 :            : static GEN
    1803                 :      28491 : _mul(void *data, GEN x, GEN y) { return _idealmulred((GEN)data,x,y); }
    1804                 :            : static GEN
    1805                 :      65724 : _sqr(void *data, GEN x) { return _idealsqrred((GEN)data, x); }
    1806                 :            : 
    1807                 :            : /* compute x^n (x ideal, n integer), reducing along the way */
    1808                 :            : GEN
    1809                 :      53230 : idealpowred(GEN nf, GEN x, GEN n)
    1810                 :            : {
    1811                 :      53230 :   pari_sp av = avma;
    1812                 :            :   long s;
    1813                 :            :   GEN y;
    1814                 :            : 
    1815         [ -  + ]:      53230 :   if (typ(n) != t_INT) pari_err_TYPE("idealpowred",n);
    1816         [ +  + ]:      53230 :   s = signe(n); if (s == 0) return idealpow(nf,x,n);
    1817                 :      52964 :   y = gen_pow(x, n, (void*)nf, &_sqr, &_mul);
    1818                 :            : 
    1819         [ +  + ]:      52964 :   if (s < 0) y = idealinv(nf,y);
    1820 [ +  + ][ +  + ]:      52964 :   if (s < 0 || is_pm1(n)) y = idealred(nf,y);
    1821                 :      53230 :   return gerepileupto(av,y);
    1822                 :            : }
    1823                 :            : 
    1824                 :            : GEN
    1825                 :      16267 : idealmulred(GEN nf, GEN x, GEN y)
    1826                 :            : {
    1827                 :      16267 :   pari_sp av = avma;
    1828                 :      16267 :   return gerepileupto(av, _idealmulred(nf,x,y));
    1829                 :            : }
    1830                 :            : 
    1831                 :            : long
    1832                 :         84 : isideal(GEN nf,GEN x)
    1833                 :            : {
    1834                 :         84 :   long N, i, j, lx, tx = typ(x);
    1835                 :            :   pari_sp av;
    1836                 :            :   GEN T;
    1837                 :            : 
    1838                 :         84 :   nf = checknf(nf); T = nf_get_pol(nf); lx = lg(x);
    1839 [ +  + ][ -  + ]:         84 :   if (tx==t_VEC && lx==3) { x = gel(x,1); tx = typ(x); lx = lg(x); }
    1840   [ +  +  +  +  :         84 :   switch(tx)
                   +  + ]
    1841                 :            :   {
    1842                 :         14 :     case t_INT: case t_FRAC: return 1;
    1843                 :          7 :     case t_POL: return varn(x) == varn(T);
    1844                 :          7 :     case t_POLMOD: return RgX_equal_var(T, gel(x,1));
    1845                 :         14 :     case t_VEC: return get_prid(x)? 1 : 0;
    1846                 :         35 :     case t_MAT: break;
    1847                 :          7 :     default: return 0;
    1848                 :            :   }
    1849                 :         35 :   N = degpol(T);
    1850         [ +  + ]:         35 :   if (lx-1 != N) return (lx == 1);
    1851         [ -  + ]:         21 :   if (nbrows(x) != N) return 0;
    1852                 :            : 
    1853                 :         21 :   av = avma; x = Q_primpart(x);
    1854         [ +  + ]:         21 :   if (!ZM_ishnf(x)) return 0;
    1855         [ +  + ]:         14 :   for (i=2; i<=N; i++)
    1856         [ +  + ]:         14 :     for (j=2; j<=N; j++)
    1857         [ -  + ]:          7 :       if (! hnf_invimage(x, zk_ei_mul(nf,gel(x,i),j))) { avma = av; return 0; }
    1858                 :         84 :   avma=av; return 1;
    1859                 :            : }
    1860                 :            : 
    1861                 :            : GEN
    1862                 :      15421 : idealdiv(GEN nf, GEN x, GEN y)
    1863                 :            : {
    1864                 :      15421 :   pari_sp av = avma, tetpil;
    1865                 :      15421 :   GEN z = idealinv(nf,y);
    1866                 :      15421 :   tetpil = avma; return gerepile(av,tetpil, idealmul(nf,x,z));
    1867                 :            : }
    1868                 :            : 
    1869                 :            : /* This routine computes the quotient x/y of two ideals in the number field nf.
    1870                 :            :  * It assumes that the quotient is an integral ideal.  The idea is to find an
    1871                 :            :  * ideal z dividing y such that gcd(Nx/Nz, Nz) = 1.  Then
    1872                 :            :  *
    1873                 :            :  *   x + (Nx/Nz)    x
    1874                 :            :  *   ----------- = ---
    1875                 :            :  *   y + (Ny/Nz)    y
    1876                 :            :  *
    1877                 :            :  * Proof: we can assume x and y are integral. Let p be any prime ideal
    1878                 :            :  *
    1879                 :            :  * If p | Nz, then it divides neither Nx/Nz nor Ny/Nz (since Nx/Nz is the
    1880                 :            :  * product of the integers N(x/y) and N(y/z)).  Both the numerator and the
    1881                 :            :  * denominator on the left will be coprime to p.  So will x/y, since x/y is
    1882                 :            :  * assumed integral and its norm N(x/y) is coprime to p.
    1883                 :            :  *
    1884                 :            :  * If instead p does not divide Nz, then v_p (Nx/Nz) = v_p (Nx) >= v_p(x).
    1885                 :            :  * Hence v_p (x + Nx/Nz) = v_p(x).  Likewise for the denominators.  QED.
    1886                 :            :  *
    1887                 :            :  *                Peter Montgomery.  July, 1994. */
    1888                 :            : static void
    1889                 :          7 : err_divexact(GEN x, GEN y)
    1890                 :          7 : { pari_err_DOMAIN("idealdivexact","denominator(x/y)", "!=",
    1891                 :          0 :                   gen_1,mkvec2(x,y)); }
    1892                 :            : GEN
    1893                 :       2016 : idealdivexact(GEN nf, GEN x0, GEN y0)
    1894                 :            : {
    1895                 :       2016 :   pari_sp av = avma;
    1896                 :            :   GEN x, y, yZ, Nx, Ny, Nz, cy, q, r;
    1897                 :            : 
    1898                 :       2016 :   nf = checknf(nf);
    1899                 :       2016 :   x = idealhnf_shallow(nf, x0);
    1900                 :       2016 :   y = idealhnf_shallow(nf, y0);
    1901         [ +  + ]:       2016 :   if (lg(y) == 1) pari_err_INV("idealdivexact", y0);
    1902         [ -  + ]:       2009 :   if (lg(x) == 1) { avma = av; return cgetg(1, t_MAT); } /* numerator is zero */
    1903                 :       2009 :   y = Q_primitive_part(y, &cy);
    1904         [ +  + ]:       2009 :   if (cy) x = RgM_Rg_div(x,cy);
    1905                 :       2009 :   Nx = idealnorm(nf,x);
    1906                 :       2009 :   Ny = idealnorm(nf,y);
    1907         [ +  + ]:       2009 :   if (typ(Nx) != t_INT) err_divexact(x,y);
    1908                 :       2002 :   q = dvmdii(Nx,Ny, &r);
    1909         [ -  + ]:       2002 :   if (signe(r)) err_divexact(x,y);
    1910         [ +  + ]:       2002 :   if (is_pm1(q)) { avma = av; return matid(nf_get_degree(nf)); }
    1911                 :            :   /* Find a norm Nz | Ny such that gcd(Nx/Nz, Nz) = 1 */
    1912                 :       1890 :   for (Nz = Ny;;) /* q = Nx/Nz */
    1913                 :            :   {
    1914                 :       2702 :     GEN p1 = gcdii(Nz, q);
    1915         [ +  + ]:       2702 :     if (is_pm1(p1)) break;
    1916                 :        812 :     Nz = diviiexact(Nz,p1);
    1917                 :        812 :     q = mulii(q,p1);
    1918                 :        812 :   }
    1919                 :            :   /* Replace x/y  by  x+(Nx/Nz) / y+(Ny/Nz) */
    1920                 :       1890 :   x = ZM_hnfmodid(x, q);
    1921                 :            :   /* y reduced to unit ideal ? */
    1922         [ +  + ]:       1890 :   if (Nz == Ny) return gerepileupto(av, x);
    1923                 :            : 
    1924                 :        616 :   y = ZM_hnfmodid(y, diviiexact(Ny,Nz));
    1925                 :        616 :   yZ = gcoeff(y,1,1);
    1926                 :        616 :   y = idealmul_HNF(nf,x, idealinv_HNF_aux(nf,y));
    1927                 :       2002 :   return gerepileupto(av, RgM_Rg_div(y, yZ));
    1928                 :            : }
    1929                 :            : 
    1930                 :            : GEN
    1931                 :         21 : idealintersect(GEN nf, GEN x, GEN y)
    1932                 :            : {
    1933                 :         21 :   pari_sp av = avma;
    1934                 :            :   long lz, lx, i;
    1935                 :            :   GEN z, dx, dy, xZ, yZ;;
    1936                 :            : 
    1937                 :         21 :   nf = checknf(nf);
    1938                 :         21 :   x = idealhnf_shallow(nf,x);
    1939                 :         21 :   y = idealhnf_shallow(nf,y);
    1940 [ +  + ][ -  + ]:         21 :   if (lg(x) == 1 || lg(y) == 1) { avma = av; return cgetg(1,t_MAT); }
    1941                 :         14 :   x = Q_remove_denom(x, &dx);
    1942                 :         14 :   y = Q_remove_denom(y, &dy);
    1943         [ +  + ]:         14 :   if (dx) y = ZM_Z_mul(y, dx);
    1944         [ +  + ]:         14 :   if (dy) x = ZM_Z_mul(x, dy);
    1945                 :         14 :   xZ = gcoeff(x,1,1);
    1946                 :         14 :   yZ = gcoeff(y,1,1);
    1947                 :         14 :   dx = mul_denom(dx,dy);
    1948                 :         14 :   z = ZM_lll(shallowconcat(x,y), 0.99, LLL_KER); lz = lg(z);
    1949                 :         14 :   lx = lg(x);
    1950         [ +  + ]:         63 :   for (i=1; i<lz; i++) setlg(z[i], lx);
    1951                 :         14 :   z = ZM_hnfmodid(ZM_mul(x,z), lcmii(xZ, yZ));
    1952         [ +  + ]:         14 :   if (dx) z = RgM_Rg_div(z,dx);
    1953                 :         21 :   return gerepileupto(av,z);
    1954                 :            : }
    1955                 :            : 
    1956                 :            : /*******************************************************************/
    1957                 :            : /*                                                                 */
    1958                 :            : /*                      T2-IDEAL REDUCTION                         */
    1959                 :            : /*                                                                 */
    1960                 :            : /*******************************************************************/
    1961                 :            : 
    1962                 :            : static GEN
    1963                 :         21 : chk_vdir(GEN nf, GEN vdir)
    1964                 :            : {
    1965                 :         21 :   long i, t, l = lg(vdir);
    1966                 :            :   GEN v;
    1967         [ +  + ]:         21 :   if (l != lg(nf_get_roots(nf))) pari_err_DIM("idealred");
    1968                 :         14 :   t = typ(vdir);
    1969         [ -  + ]:         14 :   if (t == t_VECSMALL) return vdir;
    1970         [ -  + ]:         14 :   if (t != t_VEC) pari_err_TYPE("idealred",vdir);
    1971                 :         14 :   v = cgetg(l, t_VECSMALL);
    1972         [ +  + ]:         56 :   for (i=1; i<l; i++) v[i] = itos(gceil(gel(vdir,i)));
    1973                 :         14 :   return v;
    1974                 :            : }
    1975                 :            : 
    1976                 :            : static void
    1977                 :      26237 : twistG(GEN G, long r1, long i, long v)
    1978                 :            : {
    1979                 :      26237 :   long j, lG = lg(G);
    1980         [ +  + ]:      26237 :   if (i <= r1) {
    1981         [ +  + ]:      82688 :     for (j=1; j<lG; j++) gcoeff(G,i,j) = gmul2n(gcoeff(G,i,j), v);
    1982                 :            :   } else {
    1983                 :       2270 :     long k = (i<<1) - r1;
    1984         [ +  + ]:      12226 :     for (j=1; j<lG; j++)
    1985                 :            :     {
    1986                 :       9956 :       gcoeff(G,k-1,j) = gmul2n(gcoeff(G,k-1,j), v);
    1987                 :       9956 :       gcoeff(G,k  ,j) = gmul2n(gcoeff(G,k  ,j), v);
    1988                 :            :     }
    1989                 :            :   }
    1990                 :      26237 : }
    1991                 :            : 
    1992                 :            : GEN
    1993                 :         21 : nf_get_Gtwist(GEN nf, GEN vdir)
    1994                 :            : {
    1995                 :            :   long i, l, v, r1;
    1996                 :            :   GEN G;
    1997                 :            : 
    1998                 :         21 :   vdir = chk_vdir(nf, vdir);
    1999                 :         14 :   G = RgM_shallowcopy(nf_get_G(nf));
    2000                 :         14 :   r1 = nf_get_r1(nf);
    2001                 :         14 :   l = lg(vdir);
    2002         [ +  + ]:         56 :   for (i=1; i<l; i++)
    2003                 :            :   {
    2004         [ -  + ]:         42 :     v = vdir[i]; if (!v) continue;
    2005                 :         42 :     twistG(G, r1, i, v);
    2006                 :            :   }
    2007                 :         14 :   return RM_round_maxrank(G);
    2008                 :            : }
    2009                 :            : GEN
    2010                 :      26195 : nf_get_Gtwist1(GEN nf, long i)
    2011                 :            : {
    2012                 :      26195 :   GEN G = RgM_shallowcopy( nf_get_G(nf) );
    2013                 :      26195 :   long r1 = nf_get_r1(nf);
    2014                 :      26195 :   twistG(G, r1, i, 10);
    2015                 :      26195 :   return RM_round_maxrank(G);
    2016                 :            : }
    2017                 :            : 
    2018                 :            : GEN
    2019                 :      29331 : RM_round_maxrank(GEN G0)
    2020                 :            : {
    2021                 :      29331 :   long e, r = lg(G0)-1;
    2022                 :      29331 :   pari_sp av = avma;
    2023                 :      29331 :   GEN G = G0;
    2024                 :      29331 :   for (e = 4; ; e <<= 1)
    2025                 :            :   {
    2026                 :      29331 :     GEN H = ground(G);
    2027         [ +  - ]:      29331 :     if (ZM_rank(H) == r) return H; /* maximal rank ? */
    2028                 :          0 :     avma = av;
    2029                 :          0 :     G = gmul2n(G0, e);
    2030                 :          0 :   }
    2031                 :            : }
    2032                 :            : 
    2033                 :            : GEN
    2034                 :     149592 : idealred0(GEN nf, GEN I, GEN vdir)
    2035                 :            : {
    2036                 :     149592 :   pari_sp av = avma;
    2037                 :            :   long N, i;
    2038                 :            :   GEN G, J, aI, y, x, T, b, c1, c, pol;
    2039                 :            : 
    2040                 :     149592 :   nf = checknf(nf);
    2041                 :     149592 :   pol = nf_get_pol(nf); N = degpol(pol);
    2042                 :     149592 :   T = x = c = c1 = NULL;
    2043   [ +  +  +  - ]:     149592 :   switch (idealtyp(&I,&aI))
    2044                 :            :   {
    2045                 :            :     case id_PRINCIPAL:
    2046         [ -  + ]:         14 :       if (gequal0(I)) I = cgetg(1,t_MAT); else { c1 = I; I = matid(N); }
    2047         [ +  + ]:         14 :       if (!aI) return I;
    2048                 :          7 :       goto END;
    2049                 :            :     case id_PRIME:
    2050         [ +  + ]:      20268 :       if (pr_is_inert(I)) {
    2051                 :        581 :         c1 = gel(I,1); I = matid(N);
    2052         [ -  + ]:        581 :         if (!aI) return I;
    2053                 :        581 :         goto END;
    2054                 :            :       }
    2055                 :      19687 :       I = idealhnf_two(nf,I);
    2056                 :      19687 :       break;
    2057                 :            :     case id_MAT:
    2058                 :     129310 :       I = Q_primitive_part(I, &c1);
    2059                 :            :   }
    2060         [ +  + ]:     148997 :   if (!vdir)
    2061                 :     147948 :     G = nf_get_roundG(nf);
    2062         [ +  + ]:       1049 :   else if (typ(vdir) == t_MAT)
    2063                 :       1035 :     G = vdir;
    2064                 :            :   else
    2065                 :         14 :     G = nf_get_Gtwist(nf, vdir);
    2066                 :     148990 :   y = idealpseudomin(I, G);
    2067                 :            : 
    2068         [ +  + ]:     148990 :   if (ZV_isscalar(y))
    2069                 :            :   { /* already reduced */
    2070         [ +  + ]:      59650 :     if (!aI) return gerepilecopy(av, I);
    2071                 :      59587 :     goto END;
    2072                 :            :   }
    2073                 :            : 
    2074                 :      89340 :   x = coltoliftalg(nf, y); /* algebraic integer */
    2075                 :      89340 :   b = Q_remove_denom(QXQ_inv(x,pol), &T);
    2076                 :      89340 :   b = poltobasis(nf,b);
    2077         [ +  + ]:      89340 :   if (T)
    2078                 :            :   {
    2079                 :      88318 :     GEN T2; b = Q_primitive_part(b, &T2);
    2080 [ +  + ][ +  + ]:      88318 :     if (T2) { T = diviiexact(T, T2); if (is_pm1(T)) T = NULL; }
    2081                 :            :   }
    2082                 :            :   /* b = T x^(-1), T rat. integer, minimal such that b alg. integer */
    2083         [ +  + ]:      89340 :   if (!T) /* x is a unit, I already reduced */
    2084                 :            :   {
    2085         [ -  + ]:       1260 :     if (!aI) return gerepilecopy(av, I);
    2086                 :       1260 :     goto END;
    2087                 :            :   }
    2088                 :            : 
    2089                 :      88080 :   b = zk_multable(nf,b);
    2090                 :      88080 :   J = cgetg(N+1,t_MAT); /* = I T/ x integral */
    2091         [ +  + ]:     366313 :   for (i=1; i<=N; i++) gel(J,i) = ZM_ZC_mul(b, gel(I,i));
    2092                 :      88080 :   J = Q_primitive_part(J, &c);
    2093                 :            :  /* c = content (I T / x) = T / den(I/x) --> d = den(I/x) = T / c
    2094                 :            :   * J = (d I / x); I[1,1] = I \cap Z --> d I[1,1] belongs to J and Z */
    2095         [ +  + ]:      88080 :   I = ZM_hnfmodid(J, mulii(gcoeff(I,1,1), c? diviiexact(T,c): T));
    2096         [ +  + ]:      88080 :   if (!aI) return gerepileupto(av, I);
    2097                 :            : 
    2098                 :      88045 :   c = mul_content(c,c1);
    2099         [ +  + ]:      88045 :   y = c? gmul(y, gdiv(c,T)): gdiv(y, T);
    2100                 :      88045 :   aI = ext_mul(nf, aI,y);
    2101                 :      88045 :   return gerepilecopy(av, mkvec2(I, aI));
    2102                 :            : 
    2103                 :            : END:
    2104         [ +  + ]:      61435 :   if (c1) aI = ext_mul(nf, aI,c1);
    2105                 :     149585 :   return gerepilecopy(av, mkvec2(I, aI));
    2106                 :            : }
    2107                 :            : 
    2108                 :            : GEN
    2109                 :          7 : idealmin(GEN nf, GEN x, GEN vdir)
    2110                 :            : {
    2111                 :          7 :   pari_sp av = avma;
    2112                 :            :   GEN y, dx;
    2113                 :          7 :   nf = checknf(nf);
    2114   [ -  -  +  - ]:          7 :   switch( idealtyp(&x,&y) )
    2115                 :            :   {
    2116                 :          0 :     case id_PRINCIPAL: return gcopy(x);
    2117                 :          0 :     case id_PRIME: x = idealhnf_two(nf,x); break;
    2118         [ -  + ]:          7 :     case id_MAT: if (lg(x) == 1) return gen_0;
    2119                 :            :   }
    2120                 :          7 :   x = Q_remove_denom(x, &dx);
    2121         [ +  - ]:          7 :   y = idealpseudomin(x, vdir? nf_get_Gtwist(nf,vdir): nf_get_roundG(nf));
    2122         [ -  + ]:          7 :   if (dx) y = RgC_Rg_div(y, dx);
    2123                 :          7 :   return gerepileupto(av, y);
    2124                 :            : }
    2125                 :            : 
    2126                 :            : /*******************************************************************/
    2127                 :            : /*                                                                 */
    2128                 :            : /*                   APPROXIMATION THEOREM                         */
    2129                 :            : /*                                                                 */
    2130                 :            : /*******************************************************************/
    2131                 :            : 
    2132                 :            : /* write x = x1 x2, x2 maximal s.t. (x2,f) = 1, return x2 */
    2133                 :            : GEN
    2134                 :       5901 : coprime_part(GEN x, GEN f)
    2135                 :            : {
    2136                 :            :   for (;;)
    2137                 :            :   {
    2138         [ +  + ]:       5901 :     f = gcdii(x, f); if (is_pm1(f)) break;
    2139                 :       1757 :     x = diviiexact(x, f);
    2140                 :       1757 :   }
    2141                 :       4144 :   return x;
    2142                 :            : }
    2143                 :            : /* write x = x1 x2, x2 maximal s.t. (x2,f) = 1, return x2 */
    2144                 :            : ulong
    2145                 :     516537 : ucoprime_part(ulong x, ulong f)
    2146                 :            : {
    2147                 :            :   for (;;)
    2148                 :            :   {
    2149         [ +  + ]:     516537 :     f = ugcd(x, f); if (f == 1) break;
    2150                 :      54208 :     x /= f;
    2151                 :      54208 :   }
    2152                 :     462329 :   return x;
    2153                 :            : }
    2154                 :            : 
    2155                 :            : /* x t_INT, f ideal. Write x = x1 x2, sqf(x1) | f, (x2,f) = 1. Return x2 */
    2156                 :            : static GEN
    2157                 :        112 : nf_coprime_part(GEN nf, GEN x, GEN listpr)
    2158                 :            : {
    2159                 :        112 :   long v, j, lp = lg(listpr), N = nf_get_degree(nf);
    2160                 :            :   GEN x1, x2, ex;
    2161                 :            : 
    2162                 :            : #if 0 /*1) via many gcds. Expensive ! */
    2163                 :            :   GEN f = idealprodprime(nf, listpr);
    2164                 :            :   f = ZM_hnfmodid(f, x); /* first gcd is less expensive since x in Z */
    2165                 :            :   x = scalarmat(x, N);
    2166                 :            :   for (;;)
    2167                 :            :   {
    2168                 :            :     if (gequal1(gcoeff(f,1,1))) break;
    2169                 :            :     x = idealdivexact(nf, x, f);
    2170                 :            :     f = ZM_hnfmodid(shallowconcat(f,x), gcoeff(x,1,1)); /* gcd(f,x) */
    2171                 :            :   }
    2172                 :            :   x2 = x;
    2173                 :            : #else /*2) from prime decomposition */
    2174                 :        112 :   x1 = NULL;
    2175         [ +  + ]:        252 :   for (j=1; j<lp; j++)
    2176                 :            :   {
    2177                 :        140 :     GEN pr = gel(listpr,j);
    2178         [ +  + ]:        140 :     v = Z_pval(x, pr_get_p(pr)); if (!v) continue;
    2179                 :            : 
    2180                 :        112 :     ex = muluu(v, pr_get_e(pr)); /* = v_pr(x) > 0 */
    2181                 :        112 :     x1 = x1? idealmulpowprime(nf, x1, pr, ex)
    2182         [ -  + ]:        112 :            : idealpow(nf, pr, ex);
    2183                 :            :   }
    2184                 :        112 :   x = scalarmat(x, N);
    2185         [ +  - ]:        112 :   x2 = x1? idealdivexact(nf, x, x1): x;
    2186                 :            : #endif
    2187                 :        112 :   return x2;
    2188                 :            : }
    2189                 :            : 
    2190                 :            : /* L0 in K^*, assume (L0,f) = 1. Return L integral, L0 = L mod f  */
    2191                 :            : GEN
    2192                 :       4417 : make_integral(GEN nf, GEN L0, GEN f, GEN listpr)
    2193                 :            : {
    2194                 :            :   GEN fZ, t, L, D2, d1, d2, d;
    2195                 :            : 
    2196                 :       4417 :   L = Q_remove_denom(L0, &d);
    2197         [ +  + ]:       4417 :   if (!d) return L0;
    2198                 :            : 
    2199                 :            :   /* L0 = L / d, L integral */
    2200                 :       2751 :   fZ = gcoeff(f,1,1);
    2201         [ +  + ]:       2751 :   if (typ(L) == t_INT) return Fp_mul(L, Fp_inv(d, fZ), fZ);
    2202                 :            :   /* Kill denom part coprime to fZ */
    2203                 :       2303 :   d2 = coprime_part(d, fZ);
    2204         [ +  + ]:       2303 :   t = Fp_inv(d2, fZ); if (!is_pm1(t)) L = ZC_Z_mul(L,t);
    2205         [ +  + ]:       2303 :   if (equalii(d, d2)) return L;
    2206                 :            : 
    2207                 :        112 :   d1 = diviiexact(d, d2);
    2208                 :            :   /* L0 = (L / d1) mod f. d1 not coprime to f
    2209                 :            :    * write (d1) = D1 D2, D2 minimal, (D2,f) = 1. */
    2210                 :        112 :   D2 = nf_coprime_part(nf, d1, listpr);
    2211                 :        112 :   t = idealaddtoone_i(nf, D2, f); /* in D2, 1 mod f */
    2212                 :        112 :   L = nfmuli(nf,t,L);
    2213                 :            : 
    2214                 :            :   /* if (L0, f) = 1, then L in D1 ==> in D1 D2 = (d1) */
    2215                 :       4417 :   return Q_div_to_int(L, d1); /* exact division */
    2216                 :            : }
    2217                 :            : 
    2218                 :            : /* assume L is a list of prime ideals. Return the product */
    2219                 :            : GEN
    2220                 :          0 : idealprodprime(GEN nf, GEN L)
    2221                 :            : {
    2222                 :          0 :   long l = lg(L), i;
    2223                 :            :   GEN z;
    2224                 :            : 
    2225         [ #  # ]:          0 :   if (l == 1) return matid(nf_get_degree(nf));
    2226                 :          0 :   z = idealhnf_two(nf, gel(L,1));
    2227         [ #  # ]:          0 :   for (i=2; i<l; i++) z = idealmul_HNF_two(nf,z, gel(L,i));
    2228                 :          0 :   return z;
    2229                 :            : }
    2230                 :            : 
    2231                 :            : /* assume L is a list of prime ideals. Return prod L[i]^e[i] */
    2232                 :            : GEN
    2233                 :       5481 : factorbackprime(GEN nf, GEN L, GEN e)
    2234                 :            : {
    2235                 :       5481 :   long l = lg(L), i;
    2236                 :            :   GEN z;
    2237                 :            : 
    2238         [ -  + ]:       5481 :   if (l == 1) return matid(nf_get_degree(nf));
    2239                 :       5481 :   z = idealpow(nf, gel(L,1), gel(e,1));
    2240         [ +  + ]:      11368 :   for (i=2; i<l; i++)
    2241         [ +  + ]:       5887 :     if (signe(gel(e,i))) z = idealmulpowprime(nf,z, gel(L,i),gel(e,i));
    2242                 :       5481 :   return z;
    2243                 :            : }
    2244                 :            : 
    2245                 :            : /* F in Z squarefree, multiple of p. Return F-uniformizer for pr/p */
    2246                 :            : GEN
    2247                 :      31005 : unif_mod_fZ(GEN pr, GEN F)
    2248                 :            : {
    2249                 :      31005 :   GEN p = pr_get_p(pr), t = pr_get_gen(pr);
    2250         [ +  + ]:      31005 :   if (!equalii(F, p))
    2251                 :            :   {
    2252                 :      11816 :     GEN u, v, q, a = diviiexact(F,p);
    2253         [ +  + ]:      11816 :     q = (pr_get_e(pr) == 1)? sqri(p): p;
    2254         [ -  + ]:      11816 :     if (!gequal1(bezout(q, a, &u,&v))) pari_err_BUG("unif_mod_fZ");
    2255                 :      11816 :     u = mulii(u,q);
    2256                 :      11816 :     v = mulii(v,a);
    2257                 :      11816 :     t = ZC_Z_mul(t, v);
    2258                 :      11816 :     gel(t,1) = addii(gel(t,1), u); /* return u + vt */
    2259                 :            :   }
    2260                 :      31005 :   return t;
    2261                 :            : }
    2262                 :            : /* L = list of prime ideals, return lcm_i (L[i] \cap \ZM) */
    2263                 :            : GEN
    2264                 :      21786 : init_unif_mod_fZ(GEN L)
    2265                 :            : {
    2266                 :      21786 :   long i, r = lg(L);
    2267                 :      21786 :   GEN pr, p, F = gen_1;
    2268         [ +  + ]:      61191 :   for (i = 1; i < r; i++)
    2269                 :            :   {
    2270                 :      39405 :     pr = gel(L,i); p = pr_get_p(pr);
    2271         [ +  + ]:      39405 :     if (!dvdii(F, p)) F = mulii(F,p);
    2272                 :            :   }
    2273                 :      21786 :   return F;
    2274                 :            : }
    2275                 :            : 
    2276                 :            : void
    2277                 :        756 : check_listpr(GEN x)
    2278                 :            : {
    2279                 :        756 :   long l = lg(x), i;
    2280         [ +  + ]:       3892 :   for (i=1; i<l; i++) checkprid(gel(x,i));
    2281                 :        756 : }
    2282                 :            : 
    2283                 :            : /* Given a prime ideal factorization with possibly zero or negative
    2284                 :            :  * exponents, gives b such that v_p(b) = v_p(x) for all prime ideals pr | x
    2285                 :            :  * and v_pr(b)> = 0 for all other pr.
    2286                 :            :  * For optimal performance, all [anti-]uniformizers should be precomputed,
    2287                 :            :  * but no support for this yet.
    2288                 :            :  *
    2289                 :            :  * If nored, do not reduce result.
    2290                 :            :  * No garbage collecting */
    2291                 :            : static GEN
    2292                 :      17362 : idealapprfact_i(GEN nf, GEN x, int nored)
    2293                 :            : {
    2294                 :            :   GEN z, d, L, e, e2, F;
    2295                 :            :   long i, r;
    2296                 :            :   int flagden;
    2297                 :            : 
    2298                 :      17362 :   nf = checknf(nf);
    2299                 :      17362 :   L = gel(x,1);
    2300                 :      17362 :   e = gel(x,2);
    2301                 :      17362 :   F = init_unif_mod_fZ(L);
    2302                 :      17362 :   flagden = 0;
    2303                 :      17362 :   z = NULL; r = lg(e);
    2304         [ +  + ]:      51902 :   for (i = 1; i < r; i++)
    2305                 :            :   {
    2306                 :      34540 :     long s = signe(gel(e,i));
    2307                 :            :     GEN pi, q;
    2308         [ +  + ]:      34540 :     if (!s) continue;
    2309         [ +  + ]:      29815 :     if (s < 0) flagden = 1;
    2310                 :      29815 :     pi = unif_mod_fZ(gel(L,i), F);
    2311                 :      29815 :     q = nfpow(nf, pi, gel(e,i));
    2312         [ +  + ]:      29815 :     z = z? nfmul(nf, z, q): q;
    2313                 :            :   }
    2314         [ +  + ]:      17362 :   if (!z) return scalarcol_shallow(gen_1, nf_get_degree(nf));
    2315         [ +  + ]:      13407 :   if (nored)
    2316                 :            :   {
    2317         [ -  + ]:      10740 :     if (flagden) pari_err_IMPL("nored + denominator in idealapprfact");
    2318                 :      10740 :     return z;
    2319                 :            :   }
    2320                 :       2667 :   e2 = cgetg(r, t_VEC);
    2321         [ +  + ]:       9527 :   for (i=1; i<r; i++) gel(e2,i) = addis(gel(e,i), 1);
    2322                 :       2667 :   x = factorbackprime(nf, L,e2);
    2323         [ +  + ]:       2667 :   if (flagden) /* denominator */
    2324                 :            :   {
    2325                 :       1141 :     z = Q_remove_denom(z, &d);
    2326                 :       1141 :     d = diviiexact(d, coprime_part(d, F));
    2327                 :       1141 :     x = RgM_Rg_mul(x, d);
    2328                 :            :   }
    2329                 :            :   else
    2330                 :       1526 :     d = NULL;
    2331                 :       2667 :   z = ZC_reducemodlll(z, x);
    2332         [ +  + ]:      17362 :   return d? RgC_Rg_div(z,d): z;
    2333                 :            : }
    2334                 :            : 
    2335                 :            : GEN
    2336                 :        756 : idealapprfact(GEN nf, GEN x) {
    2337                 :        756 :   pari_sp av = avma;
    2338 [ +  - ][ -  + ]:        756 :   if (typ(x) != t_MAT || lg(x) != 3)
    2339                 :          0 :     pari_err_TYPE("idealapprfact [not a factorization]",x);
    2340                 :        756 :   check_listpr(gel(x,1));
    2341                 :        756 :   return gerepileupto(av, idealapprfact_i(nf, x, 0));
    2342                 :            : }
    2343                 :            : 
    2344                 :            : GEN
    2345                 :        770 : idealappr(GEN nf, GEN x) {
    2346                 :        770 :   pari_sp av = avma;
    2347                 :        770 :   return gerepileupto(av, idealapprfact_i(nf, idealfactor(nf, x), 0));
    2348                 :            : }
    2349                 :            : 
    2350                 :            : GEN
    2351                 :         14 : idealappr0(GEN nf, GEN x, long fl) {
    2352         [ +  + ]:         14 :   return fl? idealapprfact(nf, x): idealappr(nf, x);
    2353                 :            : }
    2354                 :            : 
    2355                 :            : /* merge a^e b^f. Assume a and b sorted. Keep 0 exponents */
    2356                 :            : static void
    2357                 :         21 : merge_fact(GEN *pa, GEN *pe, GEN b, GEN f)
    2358                 :            : {
    2359                 :         21 :   GEN A, E, a = *pa, e = *pe;
    2360                 :         21 :   long k, i, la = lg(a), lb = lg(b), l = la+lb-1;
    2361                 :            : 
    2362                 :         21 :   A = cgetg(l, t_COL);
    2363                 :         21 :   E = cgetg(l, t_COL);
    2364                 :         21 :   k = 1;
    2365         [ +  + ]:        105 :   for (i=1; i<la; i++)
    2366                 :            :   {
    2367                 :         84 :     A[i] = a[i];
    2368                 :         84 :     E[i] = e[i];
    2369 [ +  - ][ +  + ]:         84 :     if (k < lb && gequal(gel(A,i), gel(b,k)))
    2370                 :            :     {
    2371                 :         28 :       gel(E,i) = addii(gel(E,i), gel(f,k));
    2372                 :         28 :       k++;
    2373                 :            :     }
    2374                 :            :   }
    2375         [ +  + ]:         28 :   for (; k < lb; i++,k++)
    2376                 :            :   {
    2377                 :          7 :     A[i] = b[k];
    2378                 :          7 :     E[i] = f[k];
    2379                 :            :   }
    2380                 :         21 :   setlg(A, i); *pa = A;
    2381                 :         21 :   setlg(E, i); *pe = E;
    2382                 :         21 : }
    2383                 :            : 
    2384                 :            : /* Given a prime ideal factorization x with possibly zero or negative exponents,
    2385                 :            :  * and a vector w of elements of nf, gives a b such that
    2386                 :            :  * v_p(b-w_p)>=v_p(x) for all prime ideals p in the ideal factorization
    2387                 :            :  * and v_p(b)>=0 for all other p, using the (standard) proof given in GTM 138.
    2388                 :            :  * Certainly not the most efficient, but sure. */
    2389                 :            : GEN
    2390                 :        896 : idealchinese(GEN nf, GEN x, GEN w)
    2391                 :            : {
    2392                 :        896 :   pari_sp av = avma;
    2393                 :        896 :   long ty = typ(w), i, N, r;
    2394                 :            :   GEN y, L, e, F, s, den;
    2395                 :            : 
    2396                 :        896 :   nf = checknf(nf); N = nf_get_degree(nf);
    2397 [ +  - ][ -  + ]:        896 :   if (typ(x) != t_MAT || lg(x) != 3)
    2398                 :          0 :     pari_err_TYPE("idealchinese [not a factorization]",x);
    2399                 :        896 :   L = gel(x,1); r = lg(L);
    2400                 :        896 :   e = gel(x,2);
    2401 [ +  - ][ -  + ]:        896 :   if (!is_vec_t(ty) || lg(w) != r) pari_err_TYPE("idealchinese",w);
    2402         [ -  + ]:        896 :   if (r == 1) return scalarcol_shallow(gen_1,N);
    2403                 :            : 
    2404                 :        896 :   w = Q_remove_denom(matalgtobasis(nf,w), &den);
    2405         [ +  + ]:        896 :   if (den)
    2406                 :            :   {
    2407                 :         21 :     GEN p = gen_indexsort(L, (void*)&cmp_prime_ideal, cmp_nodata);
    2408                 :         21 :     GEN fa = idealfactor(nf, den); /* sorted */
    2409                 :         21 :     L = vecpermute(L, p);
    2410                 :         21 :     e = vecpermute(e, p);
    2411                 :         21 :     w = vecpermute(w, p); settyp(w, t_VEC); /* make sure typ = t_VEC */
    2412                 :         21 :     merge_fact(&L, &e, gel(fa,1), gel(fa,2));
    2413                 :         21 :     i = lg(L);
    2414                 :         21 :     w = shallowconcat(w, zerovec(i - r));
    2415                 :         21 :     r = i;
    2416                 :            :   }
    2417                 :            :   else
    2418                 :        875 :     e = leafcopy(e); /* do not destroy x[2] */
    2419         [ +  + ]:       2345 :   for (i=1; i<r; i++)
    2420         [ -  + ]:       1449 :     if (signe(gel(e,i)) < 0) gel(e,i) = gen_0;
    2421                 :            : 
    2422                 :        896 :   F = factorbackprime(nf, L, e);
    2423                 :        896 :   s = NULL;
    2424         [ +  + ]:       2345 :   for (i=1; i<r; i++)
    2425                 :            :   {
    2426                 :            :     GEN u, t;
    2427         [ +  + ]:       1449 :     if (gequal0(gel(w,i))) continue;
    2428                 :       1099 :     t = idealdivpowprime(nf,F, gel(L,i), gel(e,i));
    2429                 :       1099 :     u = hnfmerge_get_1(t, idealpow(nf, gel(L,i), gel(e,i)));
    2430         [ -  + ]:       1099 :     if (!u) pari_err_COPRIME("idealchinese", t,gel(L,i));
    2431                 :       1099 :     t = nfmuli(nf, u, gel(w,i));
    2432         [ +  + ]:       1099 :     s = s? ZC_add(s,t): t;
    2433                 :            :   }
    2434         [ -  + ]:        896 :   if (!s) { avma = av; return zerocol(N); }
    2435                 :        896 :   y = ZC_reducemodlll(s, F);
    2436         [ +  + ]:        896 :   return gerepileupto(av, den? RgC_Rg_div(y,den): y);
    2437                 :            : }
    2438                 :            : 
    2439                 :            : static GEN
    2440                 :         21 : mat_ideal_two_elt2(GEN nf, GEN x, GEN a)
    2441                 :            : {
    2442                 :         21 :   GEN L, e, fact = idealfactor(nf,a);
    2443                 :            :   long i, r;
    2444                 :         21 :   L = gel(fact,1);
    2445                 :         21 :   e = gel(fact,2); r = lg(e);
    2446         [ +  + ]:         84 :   for (i=1; i<r; i++) gel(e,i) = stoi( idealval(nf,x,gel(L,i)) );
    2447                 :         21 :   return idealapprfact_i(nf,fact,1);
    2448                 :            : }
    2449                 :            : 
    2450                 :            : static void
    2451                 :         14 : not_in_ideal(GEN a) {
    2452                 :         14 :   pari_err_DOMAIN("idealtwoelt2","element mod ideal", "!=", gen_0, a);
    2453                 :          0 : }
    2454                 :            : 
    2455                 :            : /* Given an integral ideal x and a in x, gives a b such that
    2456                 :            :  * x = aZ_K + bZ_K using the approximation theorem */
    2457                 :            : GEN
    2458                 :         42 : idealtwoelt2(GEN nf, GEN x, GEN a)
    2459                 :            : {
    2460                 :         42 :   pari_sp av = avma;
    2461                 :            :   GEN cx, b, mod;
    2462                 :            : 
    2463                 :         42 :   nf = checknf(nf);
    2464                 :         42 :   a = nf_to_scalar_or_basis(nf, a);
    2465                 :         42 :   x = idealhnf_shallow(nf,x);
    2466         [ +  + ]:         42 :   if (lg(x) == 1)
    2467                 :            :   {
    2468         [ +  + ]:         14 :     if (!isintzero(a)) not_in_ideal(a);
    2469                 :          7 :     avma = av; return zerocol(nf_get_degree(nf));
    2470                 :            :   }
    2471                 :         28 :   x = Q_primitive_part(x, &cx);
    2472         [ +  + ]:         28 :   if (cx) a = gdiv(a, cx);
    2473         [ +  + ]:         28 :   if (typ(a) != t_COL)
    2474                 :            :   { /* rational number */
    2475 [ +  + ][ -  + ]:         21 :     if (typ(a) != t_INT || !dvdii(a, gcoeff(x,1,1))) not_in_ideal(a);
    2476                 :         14 :     mod = NULL;
    2477                 :            :   }
    2478                 :            :   else
    2479                 :            :   {
    2480         [ -  + ]:          7 :     if (!hnf_invimage(x, a)) not_in_ideal(a);
    2481                 :          7 :     mod = idealhnf_principal(nf, a);
    2482                 :            :   }
    2483                 :         21 :   b = mat_ideal_two_elt2(nf, x, a);
    2484         [ +  + ]:         21 :   b = mod? ZC_hnfrem(b, mod): centermod(b, a);
    2485         [ +  + ]:         21 :   b = cx? RgC_Rg_mul(b,cx): gcopy(b);
    2486                 :         28 :   return gerepileupto(av, b);
    2487                 :            : }
    2488                 :            : 
    2489                 :            : /* Given 2 integral ideals x and y in nf, returns a beta in nf such that
    2490                 :            :  * beta * x is an integral ideal coprime to y */
    2491                 :            : GEN
    2492                 :       5089 : idealcoprimefact(GEN nf, GEN x, GEN fy)
    2493                 :            : {
    2494                 :       5089 :   GEN L = gel(fy,1), e;
    2495                 :       5089 :   long i, r = lg(L);
    2496                 :            : 
    2497                 :       5089 :   e = cgetg(r, t_COL);
    2498         [ +  + ]:      10213 :   for (i=1; i<r; i++) gel(e,i) = stoi( -idealval(nf,x,gel(L,i)) );
    2499                 :       5089 :   return idealapprfact_i(nf, mkmat2(L,e), 0);
    2500                 :            : }
    2501                 :            : GEN
    2502                 :         63 : idealcoprime(GEN nf, GEN x, GEN y)
    2503                 :            : {
    2504                 :         63 :   pari_sp av = avma;
    2505                 :         63 :   return gerepileupto(av, idealcoprimefact(nf, x, idealfactor(nf,y)));
    2506                 :            : }
    2507                 :            : 
    2508                 :            : /*******************************************************************/
    2509                 :            : /*                                                                 */
    2510                 :            : /*                  LINEAR ALGEBRA OVER Z_K  (HNF,SNF)             */
    2511                 :            : /*                                                                 */
    2512                 :            : /*******************************************************************/
    2513                 :            : /* A torsion-free module M over Z_K is given by [A,I].
    2514                 :            :  * I=[a_1,...,a_k] is a row vector of k fractional ideals given in HNF.
    2515                 :            :  * A is an n x k matrix (same k) such that if A_j is the j-th column of A then
    2516                 :            :  * M=a_1 A_1+...+a_k A_k. We say that [A,I] is a pseudo-basis if k=n */
    2517                 :            : 
    2518                 :            : /* Given an element x and an ideal I in HNF, gives an r such that x-r is in H
    2519                 :            :  * and r is small */
    2520                 :            : GEN
    2521                 :          7 : nfreduce(GEN nf, GEN x, GEN I)
    2522                 :            : {
    2523                 :          7 :   pari_sp av = avma;
    2524                 :            :   GEN aI;
    2525                 :          7 :   x = nf_to_scalar_or_basis(checknf(nf), x);
    2526 [ +  - ][ -  + ]:          7 :   if (idealtyp(&I,&aI) != id_MAT || lg(I)==1) pari_err_TYPE("nfreduce",I);
    2527         [ -  + ]:          7 :   if (typ(x) != t_COL) x = scalarcol( gmod(x, gcoeff(I,1,1)), lg(I)-1 );
    2528                 :          7 :   else x = reducemodinvertible(x, I);
    2529                 :          7 :   return gerepileupto(av, x);
    2530                 :            : }
    2531                 :            : /* Given an element x and an ideal in HNF, gives an a in ideal such that
    2532                 :            :  * x-a is small. No checks */
    2533                 :            : static GEN
    2534                 :      14917 : element_close(GEN nf, GEN x, GEN ideal)
    2535                 :            : {
    2536                 :      14917 :   pari_sp av = avma;
    2537                 :      14917 :   GEN y = gcoeff(ideal,1,1);
    2538                 :      14917 :   x = nf_to_scalar_or_basis(nf, x);
    2539 [ +  - ][ +  + ]:      14917 :   if (typ(y) == t_INT && is_pm1(y)) return ground(x);
    2540         [ +  + ]:      13895 :   if (typ(x) == t_COL)
    2541                 :       6034 :     x = closemodinvertible(x, ideal);
    2542                 :            :   else
    2543                 :       7861 :     x = gmul(y, gdivround(x,y));
    2544                 :      14917 :   return gerepileupto(av, x);
    2545                 :            : }
    2546                 :            : 
    2547                 :            : /* A + v B */
    2548                 :            : static GEN
    2549                 :      57750 : colcomb1(GEN nf, GEN v, GEN A, GEN B)
    2550                 :            : {
    2551         [ +  + ]:      57750 :   if (isintzero(v)) return A;
    2552                 :      57750 :   return RgC_to_nfC(nf, RgC_add(A, nfC_nf_mul(nf,B,v)));
    2553                 :            : }
    2554                 :            : /* u A + v B */
    2555                 :            : static GEN
    2556                 :      47558 : colcomb(GEN nf, GEN u, GEN v, GEN A, GEN B)
    2557                 :            : {
    2558         [ +  + ]:      47558 :   if (isintzero(u)) return nfC_nf_mul(nf,B,v);
    2559         [ +  + ]:      42812 :   if (u != gen_1) A = nfC_nf_mul(nf,A,u);
    2560                 :      47558 :   return colcomb1(nf, v, A, B);
    2561                 :            : }
    2562                 :            : 
    2563                 :            : /* return m[i,1..lim] * x */
    2564                 :            : static GEN
    2565                 :        231 : element_mulvecrow(GEN nf, GEN x, GEN m, long i, long lim)
    2566                 :            : {
    2567                 :        231 :   long j, l = minss(lg(m), lim+1);
    2568                 :        231 :   GEN dx, y = cgetg(l, t_VEC);
    2569                 :        231 :   x = nf_to_scalar_or_basis(nf, x);
    2570         [ +  + ]:        231 :   if (typ(x) == t_COL)
    2571                 :            :   {
    2572                 :         91 :     x = zk_multable(nf, Q_remove_denom(x, &dx));
    2573         [ +  + ]:        350 :     for (j=1; j<l; j++)
    2574                 :            :     {
    2575                 :        259 :       GEN t = gcoeff(m,i,j);
    2576         [ +  + ]:        259 :       if (!isintzero(t))
    2577                 :            :       {
    2578         [ +  + ]:        112 :         if (typ(t) == t_COL)
    2579                 :         28 :           t = RgM_RgC_mul(x, t);
    2580                 :            :         else
    2581                 :         84 :           t = RgC_Rg_mul(gel(x,1), t);
    2582         [ +  + ]:        112 :         if (dx) t = gdiv(t, dx);
    2583                 :        112 :         t = nf_to_scalar_or_basis(nf,t);
    2584                 :            :       }
    2585                 :        259 :       gel(y,j) = t;
    2586                 :            :     }
    2587                 :            :   }
    2588                 :            :   else
    2589                 :            :   {
    2590         [ +  + ]:        532 :     for (j=1; j<l; j++) gel(y,j) = gmul(x, gcoeff(m,i,j));
    2591                 :            :   }
    2592                 :        231 :   return y;
    2593                 :            : }
    2594                 :            : 
    2595                 :            : /* u Z[s,] + v Z[t,], limitied to the first lim entries */
    2596                 :            : static GEN
    2597                 :        154 : rowcomb(GEN nf, GEN u, GEN v, long s, long t, GEN Z, long lim)
    2598                 :            : {
    2599                 :            :   GEN z;
    2600         [ +  + ]:        154 :   if (gequal0(u))
    2601                 :          7 :     z = element_mulvecrow(nf,v,Z,t, lim);
    2602                 :            :   else
    2603                 :            :   {
    2604                 :        147 :     z = element_mulvecrow(nf,u,Z,s, lim);
    2605         [ +  + ]:        147 :     if (!gequal0(v)) z = gadd(z, element_mulvecrow(nf,v,Z,t, lim));
    2606                 :            :   }
    2607                 :        154 :   return z;
    2608                 :            : }
    2609                 :            : 
    2610                 :            : /* nfbezout(0,b,A,B). Either bB = NULL or b*B */
    2611                 :            : static GEN
    2612                 :      24836 : zero_nfbezout(GEN nf,GEN bB, GEN b, GEN A,GEN B,GEN *u,GEN *v,GEN *w,GEN *di)
    2613                 :            : {
    2614                 :            :   GEN d;
    2615         [ +  + ]:      24836 :   if (isint1(b))
    2616                 :            :   {
    2617                 :      23940 :     *v = gen_1;
    2618                 :      23940 :     *w = A;
    2619                 :      23940 :     d = B;
    2620                 :      23940 :     *di = idealinv(nf,d);
    2621                 :            :   }
    2622                 :            :   else
    2623                 :            :   {
    2624                 :        896 :     *v = nfinv(nf,b);
    2625                 :        896 :     *w = idealmul(nf,A,*v);
    2626         [ -  + ]:        896 :     d = bB? bB: idealmul(nf,b,B);
    2627                 :        896 :     *di = idealinv_HNF(nf,d);
    2628                 :            :   }
    2629                 :      24836 :   *u = gen_0; return d;
    2630                 :            : }
    2631                 :            : 
    2632                 :            : /* Given elements a,b and ideals A, B, outputs d = a.A+b.B and gives
    2633                 :            :  * di=d^-1, w=A.B.di, u, v such that au+bv=1 and u in A.di, v in B.di.
    2634                 :            :  * Assume A, B non-zero, but a or b can be zero (not both) */
    2635                 :            : static GEN
    2636                 :      27447 : nfbezout(GEN nf,GEN a,GEN b, GEN A,GEN B, GEN *pu,GEN *pv,GEN *pw,GEN *pdi)
    2637                 :            : {
    2638                 :            :   GEN w, u,v,uv, d, di, aA, bB;
    2639                 :            : 
    2640         [ -  + ]:      27447 :   if (isintzero(a)) return zero_nfbezout(nf,NULL,b,A,B,pu,pv,pw,pdi);
    2641         [ -  + ]:      27447 :   if (isintzero(b)) return zero_nfbezout(nf,NULL,a,B,A,pv,pu,pw,pdi);
    2642                 :            : 
    2643         [ +  + ]:      27447 :   if (a != gen_1) /* frequently called with a = gen_1 */
    2644                 :            :   {
    2645                 :      21679 :     a = nf_to_scalar_or_basis(nf,a);
    2646         [ +  + ]:      21679 :     if (isint1(a)) a = gen_1;
    2647                 :            :   }
    2648         [ +  + ]:      27447 :   aA = (a == gen_1)? A: idealmul(nf,a,A);
    2649                 :      27447 :   bB = idealmul(nf,b,B);
    2650                 :      27447 :   d = idealadd(nf,aA,bB);
    2651         [ +  + ]:      27447 :   if (gequal(aA, d)) return zero_nfbezout(nf,aA, a,B,A,pv,pu,pw,pdi);
    2652         [ +  + ]:      10402 :   if (gequal(bB, d)) return zero_nfbezout(nf,bB, b,A,B,pu,pv,pw,pdi);
    2653                 :            :   /* general case is slow */
    2654                 :       2611 :   di = idealinv_HNF(nf,d);
    2655                 :       2611 :   w = idealmul(nf,aA,di); /* integral */
    2656                 :       2611 :   uv = idealaddtoone(nf, w, idealmul(nf,bB,di));
    2657                 :       2611 :   w = idealmul(nf,w,B);
    2658                 :       2611 :   u = gel(uv,1);
    2659                 :       2611 :   v = nfdiv(nf,gel(uv,2),b);
    2660         [ +  + ]:       2611 :   if (a != gen_1)
    2661                 :            :   {
    2662                 :       1561 :     GEN inva = nfinv(nf, a);
    2663                 :       1561 :     u =  nfmul(nf,u,inva);
    2664                 :       1561 :     w = idealmul(nf, inva, w); /* AB/d */
    2665                 :            :   }
    2666                 :       2611 :   *pu = u;
    2667                 :       2611 :   *pv = v;
    2668                 :       2611 :   *pw = w;
    2669                 :      27447 :   *pdi = di; return d;
    2670                 :            : }
    2671                 :            : /* v a vector of ideals, simplify in place the ones generated by elts of Q */
    2672                 :            : static void
    2673                 :       2744 : idV_simplify(GEN v)
    2674                 :            : {
    2675                 :       2744 :   long i, l = lg(v);
    2676         [ +  + ]:      14210 :   for (i = 1; i < l; i++)
    2677                 :            :   {
    2678                 :      11466 :     GEN M = gel(v,i);
    2679 [ +  + ][ +  + ]:      11466 :     if (typ(M)==t_MAT && RgM_isscalar(M,NULL))
    2680                 :       2611 :       gel(v,i) = Q_abs_shallow(gcoeff(M,1,1));
    2681                 :            :   }
    2682                 :       2744 : }
    2683                 :            : /* Given a torsion-free module x outputs a pseudo-basis for x in HNF */
    2684                 :            : GEN
    2685                 :       2149 : nfhnf0(GEN nf, GEN x, long flag)
    2686                 :            : {
    2687                 :            :   long i, j, def, idef, m, n;
    2688                 :       2149 :   pari_sp av0 = avma, av;
    2689                 :            :   GEN y, A, I, J, U;
    2690                 :            : 
    2691                 :       2149 :   nf = checknf(nf);
    2692                 :       2149 :   check_ZKmodule(x, "nfhnf");
    2693                 :       2149 :   A = gel(x,1); RgM_dimensions(A, &m, &n);
    2694                 :       2149 :   I = gel(x,2);
    2695         [ +  + ]:       2149 :   if (!n) {
    2696         [ +  - ]:         49 :     if (!flag) return gcopy(x);
    2697                 :          0 :     retmkvec2(gcopy(x), cgetg(1,t_MAT));
    2698                 :            :   }
    2699         [ +  + ]:       2100 :   U = flag? matid(n): NULL;
    2700         [ +  + ]:       2100 :   idef = (n < m)? m-n : 0;
    2701                 :       2100 :   av = avma;
    2702                 :       2100 :   A = RgM_to_nfM(nf,A);
    2703                 :       2100 :   I = leafcopy(I);
    2704                 :       2100 :   J = zerovec(n); def = n;
    2705         [ +  + ]:       9898 :   for (i=m; i>idef; i--)
    2706                 :            :   {
    2707                 :       7798 :     GEN d, di = NULL;
    2708                 :            : 
    2709 [ +  + ][ +  + ]:       8407 :     j=def; while (j>=1 && isintzero(gcoeff(A,i,j))) j--;
    2710         [ +  + ]:       7798 :     if (!j)
    2711                 :            :     { /* no pivot on line i */
    2712         [ +  - ]:          7 :       if (idef) idef--;
    2713                 :          7 :       continue;
    2714                 :            :     }
    2715         [ +  + ]:       7791 :     if (j==def) j--;
    2716                 :            :     else {
    2717                 :        511 :       swap(gel(A,j), gel(A,def));
    2718                 :        511 :       swap(gel(I,j), gel(I,def));
    2719         [ -  + ]:        511 :       if (U) swap(gel(U,j), gel(U,def));
    2720                 :            :     }
    2721         [ +  + ]:      55734 :     for (  ; j; j--)
    2722                 :            :     {
    2723                 :      47943 :       GEN a,b, u,v,w, S, T, S0, T0 = gel(A,j);
    2724         [ +  + ]:      47943 :       b = gel(T0,i); if (isintzero(b)) continue;
    2725                 :            : 
    2726                 :      19488 :       S0 = gel(A,def); a = gel(S0,i);
    2727                 :      19488 :       d = nfbezout(nf, a,b, gel(I,def),gel(I,j), &u,&v,&w,&di);
    2728                 :      19488 :       S = colcomb(nf, u,v, S0,T0);
    2729                 :      19488 :       T = colcomb(nf, a,gneg(b), T0,S0);
    2730                 :      19488 :       gel(A,def) = S; gel(A,j) = T;
    2731                 :      19488 :       gel(I,def) = d; gel(I,j) = w;
    2732         [ +  + ]:      19488 :       if (U)
    2733                 :            :       {
    2734                 :         42 :         S0 = gel(U,def);
    2735                 :         42 :         T0 = gel(U,j);
    2736                 :         42 :         gel(U,def) = colcomb(nf, u,v, S0,T0);
    2737                 :      19488 :         gel(U,j) = colcomb(nf, a,gneg(b), T0,S0);
    2738                 :            :       }
    2739                 :            :     }
    2740                 :       7791 :     y = gcoeff(A,i,def);
    2741         [ +  + ]:       7791 :     if (!isint1(y))
    2742                 :            :     {
    2743                 :        630 :       GEN yi = nfinv(nf,y);
    2744                 :        630 :       gel(A,def) = nfC_nf_mul(nf, gel(A,def), yi);
    2745                 :        630 :       gel(I,def) = idealmul(nf, y, gel(I,def));
    2746         [ -  + ]:        630 :       if (U) gel(U,def) = nfC_nf_mul(nf, gel(U,def), yi);
    2747                 :        630 :       di = NULL;
    2748                 :            :     }
    2749         [ +  + ]:       7791 :     if (!di) di = idealinv(nf,gel(I,def));
    2750                 :       7791 :     d = gel(I,def);
    2751                 :       7791 :     gel(J,def) = di;
    2752         [ +  + ]:      23835 :     for (j=def+1; j<=n; j++)
    2753                 :            :     {
    2754         [ +  + ]:      16044 :       GEN mc, c = gcoeff(A,i,j); if (isintzero(c)) continue;
    2755                 :      10857 :       c = element_close(nf, c, idealmul(nf,d,gel(J,j)));
    2756                 :      10857 :       mc = gneg(c);
    2757                 :      10857 :       gel(A,j) = colcomb1(nf, mc, gel(A,j),gel(A,def));
    2758         [ +  + ]:      10857 :       if (U) gel(U,j) = colcomb1(nf, mc, gel(U,j),gel(U,def));
    2759                 :            :     }
    2760                 :       7791 :     def--;
    2761         [ -  + ]:       7791 :     if (gc_needed(av,2))
    2762                 :            :     {
    2763         [ #  # ]:          0 :       if(DEBUGMEM>1) pari_warn(warnmem,"nfhnf, i = %ld", i);
    2764         [ #  # ]:       7791 :       gerepileall(av,U?4:3, &A,&I,&J,&U);
    2765                 :            :     }
    2766                 :            :   }
    2767                 :       2100 :   n -= def;
    2768                 :       2100 :   A += def; A[0] = evaltyp(t_MAT)|evallg(n+1);
    2769                 :       2100 :   I += def; I[0] = evaltyp(t_VEC)|evallg(n+1);
    2770                 :       2100 :   idV_simplify(I);
    2771                 :       2100 :   x = mkvec2(A,I);
    2772         [ +  + ]:       2100 :   if (U) x = mkvec2(x,U);
    2773                 :       2149 :   return gerepilecopy(av0, x);
    2774                 :            : }
    2775                 :            : 
    2776                 :            : GEN
    2777                 :       2135 : nfhnf(GEN nf, GEN x) { return nfhnf0(nf, x, 0); }
    2778                 :            : 
    2779                 :            : static GEN
    2780                 :          0 : RgV_find_denom(GEN x)
    2781                 :            : {
    2782                 :          0 :   long i, l = lg(x);
    2783         [ #  # ]:          0 :   for (i = 1; i < l; i++)
    2784         [ #  # ]:          0 :     if (Q_denom(gel(x,i)) != gen_1) return gel(x,i);
    2785                 :          0 :   return NULL;
    2786                 :            : }
    2787                 :            : /* A torsion module M over Z_K will be given by a row vector [A,I,J] with
    2788                 :            :  * three components. I=[b_1,...,b_n] is a row vector of n fractional ideals
    2789                 :            :  * given in HNF, J=[a_1,...,a_n] is a row vector of n fractional ideals in
    2790                 :            :  * HNF. A is an nxn matrix (same n) such that if A_j is the j-th column of A
    2791                 :            :  * and e_n is the canonical basis of K^n, then
    2792                 :            :  * M=(b_1e_1+...+b_ne_n)/(a_1A_1+...a_nA_n) */
    2793                 :            : 
    2794                 :            : /* x=[A,I,J] a torsion module as above. Output the
    2795                 :            :  * smith normal form as K=[c_1,...,c_n] such that x = Z_K/c_1+...+Z_K/c_n */
    2796                 :            : GEN
    2797                 :         21 : nfsnf0(GEN nf, GEN x, long flag)
    2798                 :            : {
    2799                 :            :   long i, j, k, l, n, m;
    2800                 :            :   pari_sp av;
    2801                 :            :   GEN z,u,v,w,d,dinv,A,I,J, U,V;
    2802                 :            : 
    2803                 :         21 :   nf = checknf(nf);
    2804 [ +  - ][ -  + ]:         21 :   if (typ(x)!=t_VEC || lg(x)!=4) pari_err_TYPE("nfsnf",x);
    2805                 :         21 :   A = gel(x,1);
    2806                 :         21 :   I = gel(x,2);
    2807                 :         21 :   J = gel(x,3);
    2808         [ -  + ]:         21 :   if (typ(A)!=t_MAT) pari_err_TYPE("nfsnf",A);
    2809                 :         21 :   n = lg(A)-1;
    2810         [ -  + ]:         21 :   if (typ(I)!=t_VEC) pari_err_TYPE("nfsnf",I);
    2811         [ -  + ]:         21 :   if (typ(J)!=t_VEC) pari_err_TYPE("nfsnf",J);
    2812 [ +  - ][ -  + ]:         21 :   if (lg(I)!=n+1 || lg(J)!=n+1) pari_err_DIM("nfsnf");
    2813                 :         21 :   RgM_dimensions(A, &m, &n);
    2814 [ +  - ][ -  + ]:         21 :   if (!n || n != m) pari_err_IMPL("nfsnf for empty or non square matrices");
    2815                 :            : 
    2816                 :         21 :   av = avma;
    2817         [ +  + ]:         21 :   if (!flag) U = V = NULL;
    2818                 :            :   else
    2819                 :            :   {
    2820                 :          7 :     U = matid(m);
    2821                 :          7 :     V = matid(n);
    2822                 :            :   }
    2823                 :         21 :   A = RgM_to_nfM(nf, A);
    2824                 :         21 :   I = leafcopy(I);
    2825                 :         21 :   J = leafcopy(J);
    2826         [ +  + ]:         84 :   for (i = 1; i <= n; i++) gel(J,i) = idealinv(nf, gel(J,i));
    2827                 :         21 :   z = zerovec(n);
    2828         [ +  + ]:        126 :   for (i=n; i>=1; i--)
    2829                 :            :   {
    2830                 :            :     GEN Aii, a, b, db;
    2831                 :        105 :     long c = 0;
    2832         [ +  + ]:        238 :     for (j=i-1; j>=1; j--)
    2833                 :            :     {
    2834                 :        133 :       GEN S, T, S0, T0 = gel(A,j);
    2835         [ +  + ]:        133 :       b = gel(T0,i); if (gequal0(b)) continue;
    2836                 :            : 
    2837                 :         49 :       S0 = gel(A,i); a = gel(S0,i);
    2838                 :         49 :       d = nfbezout(nf, a,b, gel(J,i),gel(J,j), &u,&v,&w,&dinv);
    2839                 :         49 :       S = colcomb(nf, u,v, S0,T0);
    2840                 :         49 :       T = colcomb(nf, a,gneg(b), T0,S0);
    2841                 :         49 :       gel(A,i) = S; gel(A,j) = T;
    2842                 :         49 :       gel(J,i) = d; gel(J,j) = w;
    2843         [ +  + ]:         49 :       if (V)
    2844                 :            :       {
    2845                 :         21 :         T0 = gel(V,j);
    2846                 :         21 :         S0 = gel(V,i);
    2847                 :         21 :         gel(V,i) = colcomb(nf, u,v, S0,T0);
    2848                 :         21 :         gel(V,j) = colcomb(nf, a,gneg(b), T0,S0);
    2849                 :            :       }
    2850                 :            :     }
    2851         [ +  + ]:        238 :     for (j=i-1; j>=1; j--)
    2852                 :            :     {
    2853                 :            :       GEN ri, rj;
    2854         [ +  + ]:        133 :       b = gcoeff(A,j,i); if (gequal0(b)) continue;
    2855                 :            : 
    2856                 :         56 :       a = gcoeff(A,i,i);
    2857                 :         56 :       d = nfbezout(nf, a,b, gel(I,i),gel(I,j), &u,&v,&w,&dinv);
    2858                 :         56 :       ri = rowcomb(nf, u,v,       i,j, A, i);
    2859                 :         56 :       rj = rowcomb(nf, a,gneg(b), j,i, A, i);
    2860         [ +  + ]:        210 :       for (k=1; k<=i; k++) {
    2861                 :        154 :         gcoeff(A,j,k) = gel(rj,k);
    2862                 :        154 :         gcoeff(A,i,k) = gel(ri,k);
    2863                 :            :       }
    2864         [ +  + ]:         56 :       if (U)
    2865                 :            :       {
    2866                 :         21 :         ri = rowcomb(nf, u,v,       i,j, U, m);
    2867                 :         21 :         rj = rowcomb(nf, a,gneg(b), j,i, U, m);
    2868         [ +  + ]:         84 :         for (k=1; k<=m; k++) {
    2869                 :         63 :           gcoeff(U,j,k) = gel(rj,k);
    2870                 :         63 :           gcoeff(U,i,k) = gel(ri,k);
    2871                 :            :         }
    2872                 :            :       }
    2873                 :         56 :       gel(I,i) = d; gel(I,j) = w; c = 1;
    2874                 :            :     }
    2875         [ +  + ]:        105 :     if (c) { i++; continue; }
    2876                 :            : 
    2877         [ -  + ]:         63 :     Aii = gcoeff(A,i,i); if (gequal0(Aii)) continue;
    2878                 :         63 :     gel(J,i) = idealmul(nf, gel(J,i), Aii);
    2879                 :         63 :     gcoeff(A,i,i) = gen_1;
    2880         [ +  + ]:         63 :     if (V) gel(V,i) = nfC_nf_mul(nf, gel(V,i), nfinv(nf,Aii));
    2881                 :         63 :     gel(z,i) = idealmul(nf,gel(J,i),gel(I,i));
    2882                 :         63 :     b = Q_remove_denom(gel(z,i), &db);
    2883         [ +  + ]:        126 :     for (k=1; k<i; k++)
    2884         [ +  + ]:        168 :       for (l=1; l<i; l++)
    2885                 :            :       {
    2886                 :        105 :         GEN d, D, p1, p2, p3, Akl = gcoeff(A,k,l);
    2887                 :            :         long t;
    2888         [ +  + ]:        105 :         if (gequal0(Akl)) continue;
    2889                 :            : 
    2890                 :         91 :         p1 = idealmul(nf,Akl,gel(J,l));
    2891                 :         91 :         p3 = idealmul(nf, p1, gel(I,k));
    2892         [ -  + ]:         91 :         if (db) p3 = RgM_Rg_mul(p3, db);
    2893 [ +  - ][ +  - ]:         91 :         if (RgM_is_ZM(p3) && hnfdivide(b, p3)) continue;
    2894                 :            : 
    2895                 :            :         /* find d in D = I[k]/I[i] not in J[i]/(A[k,l] J[l]) */
    2896                 :          0 :         D = idealdiv(nf,gel(I,k),gel(I,i));
    2897                 :          0 :         p2 = idealdiv(nf,gel(J,i), p1);
    2898                 :          0 :         d = RgV_find_denom( RgM_solve(p2, D) );
    2899         [ #  # ]:          0 :         if (!d) pari_err_BUG("nfsnf");
    2900                 :          0 :         p1 = element_mulvecrow(nf,d,A,k,i);
    2901         [ #  # ]:          0 :         for (t=1; t<=i; t++) gcoeff(A,i,t) = gadd(gcoeff(A,i,t),gel(p1,t));
    2902         [ #  # ]:          0 :         if (U)
    2903                 :            :         {
    2904                 :          0 :           p1 = element_mulvecrow(nf,d,U,k,i);
    2905         [ #  # ]:          0 :           for (t=1; t<=i; t++) gcoeff(U,i,t) = gadd(gcoeff(U,i,t),gel(p1,t));
    2906                 :            :         }
    2907                 :            : 
    2908                 :          0 :         k = i; c = 1; break;
    2909                 :            :       }
    2910         [ -  + ]:         63 :     if (gc_needed(av,1))
    2911                 :            :     {
    2912         [ #  # ]:          0 :       if(DEBUGMEM>1) pari_warn(warnmem,"nfsnf");
    2913         [ #  # ]:          0 :       gerepileall(av,U?4:6, &A,&I,&J,&z,&U,&V);
    2914                 :            :     }
    2915         [ -  + ]:        105 :     if (c) i++; /* iterate on row/column i */
    2916                 :            :   }
    2917         [ +  + ]:         21 :   if (U) z = mkvec3(z,U,V);
    2918                 :         21 :   return gerepilecopy(av, z);
    2919                 :            : }
    2920                 :            : GEN
    2921                 :          0 : nfsnf(GEN nf, GEN x) { return nfsnf0(nf,x,0); }
    2922                 :            : 
    2923                 :            : GEN
    2924                 :        595 : nfmulmodpr(GEN nf, GEN x, GEN y, GEN modpr)
    2925                 :            : {
    2926                 :        595 :   pari_sp av = avma;
    2927                 :        595 :   GEN z, p, pr = modpr, T;
    2928                 :            : 
    2929                 :        595 :   nf = checknf(nf); modpr = nf_to_Fq_init(nf,&pr,&T,&p);
    2930                 :        588 :   x = nf_to_Fq(nf,x,modpr);
    2931                 :        371 :   y = nf_to_Fq(nf,y,modpr);
    2932                 :        182 :   z = Fq_mul(x,y,T,p);
    2933                 :        182 :   return gerepileupto(av, algtobasis(nf, Fq_to_nf(z,modpr)));
    2934                 :            : }
    2935                 :            : 
    2936                 :            : GEN
    2937                 :        588 : nfdivmodpr(GEN nf, GEN x, GEN y, GEN modpr)
    2938                 :            : {
    2939                 :        588 :   pari_sp av = avma;
    2940                 :        588 :   nf = checknf(nf);
    2941                 :        588 :   return gerepileupto(av, nfreducemodpr(nf, nfdiv(nf,x,y), modpr));
    2942                 :            : }
    2943                 :            : 
    2944                 :            : GEN
    2945                 :        168 : nfpowmodpr(GEN nf, GEN x, GEN k, GEN modpr)
    2946                 :            : {
    2947                 :        168 :   pari_sp av=avma;
    2948                 :        168 :   GEN z, T, p, pr = modpr;
    2949                 :            : 
    2950                 :        168 :   nf = checknf(nf); modpr = nf_to_Fq_init(nf,&pr,&T,&p);
    2951                 :        168 :   z = nf_to_Fq(nf,x,modpr);
    2952                 :         84 :   z = Fq_pow(z,k,T,p);
    2953                 :         35 :   return gerepileupto(av, algtobasis(nf, Fq_to_nf(z,modpr)));
    2954                 :            : }
    2955                 :            : 
    2956                 :            : GEN
    2957                 :         14 : nfkermodpr(GEN nf, GEN x, GEN modpr)
    2958                 :            : {
    2959                 :         14 :   pari_sp av = avma;
    2960                 :         14 :   GEN T, p, pr = modpr;
    2961                 :            : 
    2962                 :         14 :   nf = checknf(nf); modpr = nf_to_Fq_init(nf, &pr,&T,&p);
    2963         [ -  + ]:         14 :   if (typ(x)!=t_MAT) pari_err_TYPE("nfkermodpr",x);
    2964                 :         14 :   x = nfM_to_FqM(x, nf, modpr);
    2965                 :         14 :   return gerepilecopy(av, FqM_to_nfM(FqM_ker(x,T,p), modpr));
    2966                 :            : }
    2967                 :            : 
    2968                 :            : GEN
    2969                 :         21 : nfsolvemodpr(GEN nf, GEN a, GEN b, GEN pr)
    2970                 :            : {
    2971                 :         21 :   const char *f = "nfsolvemodpr";
    2972                 :         21 :   pari_sp av = avma;
    2973                 :            :   GEN T, p, modpr;
    2974                 :            : 
    2975                 :         21 :   nf = checknf(nf);
    2976                 :         21 :   modpr = nf_to_Fq_init(nf, &pr,&T,&p);
    2977         [ -  + ]:         21 :   if (typ(a)!=t_MAT) pari_err_TYPE(f,a);
    2978                 :         21 :   a = nfM_to_FqM(a, nf, modpr);
    2979      [ +  +  - ]:         21 :   switch(typ(b))
    2980                 :            :   {
    2981                 :            :     case t_MAT:
    2982                 :          7 :       b = nfM_to_FqM(b, nf, modpr);
    2983                 :          7 :       b = FqM_gauss(a,b,T,p);
    2984         [ +  - ]:          7 :       if (!b) pari_err_INV(f,a);
    2985                 :          0 :       a = FqM_to_nfM(b, modpr);
    2986                 :          0 :       break;
    2987                 :            :     case t_COL:
    2988                 :         14 :       b = nfV_to_FqV(b, nf, modpr);
    2989                 :         14 :       b = FqM_FqC_gauss(a,b,T,p);
    2990         [ +  + ]:         14 :       if (!b) pari_err_INV(f,a);
    2991                 :          7 :       a = FqV_to_nfV(b, modpr);
    2992                 :          7 :       break;
    2993                 :          0 :     default: pari_err_TYPE(f,b);
    2994                 :            :   }
    2995                 :          7 :   return gerepilecopy(av, a);
    2996                 :            : }
    2997                 :            : 
    2998                 :            : /* Given a pseudo-basis x, outputs a multiple of its ideal determinant */
    2999                 :            : GEN
    3000                 :         14 : nfdetint(GEN nf, GEN x)
    3001                 :            : {
    3002                 :            :   GEN pass,c,v,det1,piv,pivprec,vi,p1,A,I,id,idprod;
    3003                 :         14 :   long i, j, k, rg, n, m, m1, cm=0, N;
    3004                 :         14 :   pari_sp av = avma, av1;
    3005                 :            : 
    3006                 :         14 :   nf = checknf(nf); N = nf_get_degree(nf);
    3007                 :         14 :   check_ZKmodule(x, "nfdetint");
    3008                 :         14 :   A = gel(x,1);
    3009                 :         14 :   I = gel(x,2);
    3010         [ -  + ]:         14 :   n = lg(A)-1; if (!n) return gen_1;
    3011                 :            : 
    3012                 :         14 :   m1 = lgcols(A); m = m1-1;
    3013                 :         14 :   id = matid(N);
    3014         [ +  + ]:         49 :   c = new_chunk(m1); for (k=1; k<=m; k++) c[k] = 0;
    3015                 :         14 :   piv = pivprec = gen_1;
    3016                 :            : 
    3017                 :         14 :   av1 = avma;
    3018                 :         14 :   det1 = idprod = gen_0; /* dummy for gerepileall */
    3019                 :         14 :   pass = cgetg(m1,t_MAT);
    3020                 :         14 :   v = cgetg(m1,t_COL);
    3021         [ +  + ]:         49 :   for (j=1; j<=m; j++)
    3022                 :            :   {
    3023                 :         35 :     gel(pass,j) = zerocol(m);
    3024                 :         35 :     gel(v,j) = gen_0; /* dummy */
    3025                 :            :   }
    3026         [ +  + ]:         63 :   for (rg=0,k=1; k<=n; k++)
    3027                 :            :   {
    3028                 :         49 :     long t = 0;
    3029         [ +  + ]:        182 :     for (i=1; i<=m; i++)
    3030         [ +  + ]:        133 :       if (!c[i])
    3031                 :            :       {
    3032                 :         77 :         vi=nfmul(nf,piv,gcoeff(A,i,k));
    3033         [ +  + ]:        287 :         for (j=1; j<=m; j++)
    3034         [ +  + ]:        210 :           if (c[j]) vi=gadd(vi,nfmul(nf,gcoeff(pass,i,j),gcoeff(A,j,k)));
    3035 [ +  + ][ +  - ]:         77 :         gel(v,i) = vi; if (!t && !gequal0(vi)) t=i;
    3036                 :            :       }
    3037         [ +  - ]:         49 :     if (t)
    3038                 :            :     {
    3039                 :         49 :       pivprec = piv;
    3040         [ +  + ]:         49 :       if (rg == m-1)
    3041                 :            :       {
    3042         [ +  + ]:         28 :         if (!cm)
    3043                 :            :         {
    3044                 :         14 :           cm=1; idprod = id;
    3045         [ +  + ]:         49 :           for (i=1; i<=m; i++)
    3046         [ +  + ]:         35 :             if (i!=t)
    3047                 :         21 :               idprod = (idprod==id)? gel(I,c[i])
    3048         [ +  + ]:         21 :                                    : idealmul(nf,idprod,gel(I,c[i]));
    3049                 :            :         }
    3050                 :         28 :         p1 = idealmul(nf,gel(v,t),gel(I,k)); c[t]=0;
    3051         [ +  + ]:         28 :         det1 = (typ(det1)==t_INT)? p1: idealadd(nf,p1,det1);
    3052                 :            :       }
    3053                 :            :       else
    3054                 :            :       {
    3055                 :         21 :         rg++; piv=gel(v,t); c[t]=k;
    3056         [ +  + ]:         77 :         for (i=1; i<=m; i++)
    3057         [ +  + ]:         56 :           if (!c[i])
    3058                 :            :           {
    3059         [ +  + ]:        105 :             for (j=1; j<=m; j++)
    3060 [ +  + ][ +  + ]:         77 :               if (c[j] && j!=t)
    3061                 :            :               {
    3062                 :          7 :                 p1 = gsub(nfmul(nf,piv,gcoeff(pass,i,j)),
    3063                 :         14 :                           nfmul(nf,gel(v,i),gcoeff(pass,t,j)));
    3064                 :          7 :                 gcoeff(pass,i,j) = rg>1? nfdiv(nf,p1,pivprec)
    3065         [ +  - ]:          7 :                                        : p1;
    3066                 :            :               }
    3067                 :         28 :             gcoeff(pass,i,t) = gneg(gel(v,i));
    3068                 :            :           }
    3069                 :            :       }
    3070                 :            :     }
    3071         [ -  + ]:         49 :     if (gc_needed(av1,1))
    3072                 :            :     {
    3073         [ #  # ]:          0 :       if(DEBUGMEM>1) pari_warn(warnmem,"nfdetint");
    3074                 :          0 :       gerepileall(av1,6, &det1,&piv,&pivprec,&pass,&v,&idprod);
    3075                 :            :     }
    3076                 :            :   }
    3077         [ -  + ]:         14 :   if (!cm) { avma = av; return cgetg(1,t_MAT); }
    3078                 :         14 :   return gerepileupto(av, idealmul(nf,idprod,det1));
    3079                 :            : }
    3080                 :            : 
    3081                 :            : /* reduce in place components of x[1..lim] mod D (destroy x). D in HNF */
    3082                 :            : static void
    3083                 :       7469 : nfcleanmod(GEN nf, GEN x, long lim, GEN D)
    3084                 :            : {
    3085                 :            :   long i;
    3086                 :            :   GEN DZ, DZ2, dD;
    3087                 :       7469 :   D = Q_remove_denom(D, &dD);
    3088         [ +  + ]:       7469 :   if (dD) x = RgC_Rg_mul(x, dD);
    3089                 :       7469 :   DZ = gcoeff(D,1,1);
    3090                 :       7469 :   DZ2 = shifti(DZ,-1);
    3091         [ +  + ]:      38843 :   for (i=1; i<=lim; i++) {
    3092                 :      31374 :     GEN c = gel(x,i);
    3093                 :      31374 :     c = nf_to_scalar_or_basis(nf, c);
    3094   [ +  +  +  - ]:      31374 :     switch(typ(c)) /* c = centermod(c, D) */
    3095                 :            :     {
    3096                 :            :       case t_INT:
    3097         [ +  + ]:      30695 :         if (!signe(c)) break;
    3098                 :      17983 :         c = centermodii(c, DZ, DZ2);
    3099         [ +  + ]:      17983 :         if (dD) c = gred_frac2(c,dD);
    3100                 :      17983 :         break;
    3101                 :            :       case t_FRAC: {
    3102                 :         21 :         GEN dc = gel(c,2), nc = gel(c,1), N = mulii(DZ, dc);
    3103                 :         21 :         c = centermodii(nc, N, shifti(N,-1));
    3104         [ -  + ]:         21 :         c = gred_frac2(c, dD ? mulii(dc,dD): dc);
    3105                 :         21 :         break;
    3106                 :            :       }
    3107                 :            :       case t_COL: {
    3108                 :            :         GEN dc;
    3109                 :        658 :         c = Q_remove_denom(c, &dc);
    3110         [ -  + ]:        658 :         c = ZC_hnfrem(c, dc? ZM_Z_mul(D,dc): D);
    3111         [ +  + ]:        658 :         if (ZV_isscalar(c))
    3112                 :            :         {
    3113                 :         42 :           c = gel(c,1);
    3114         [ -  + ]:         42 :           if (dD) c = gred_frac2(c,dD);
    3115                 :            :         }
    3116                 :            :         else
    3117         [ -  + ]:        658 :           if (dD) c = RgC_Rg_div(c, dD);
    3118                 :            :         break;
    3119                 :            :       }
    3120                 :            :     }
    3121                 :      31374 :     gel(x,i) = c;
    3122                 :            :   }
    3123                 :       7469 : }
    3124                 :            : 
    3125                 :            : GEN
    3126                 :        644 : nfhnfmod(GEN nf, GEN x, GEN detmat)
    3127                 :            : {
    3128                 :            :   long li, co, i, j, def, ldef;
    3129                 :        644 :   pari_sp av0=avma, av;
    3130                 :            :   GEN dA, dI, d0, w, p1, d, u, v, A, I, J, di;
    3131                 :            : 
    3132                 :        644 :   nf = checknf(nf);
    3133                 :        644 :   check_ZKmodule(x, "nfhnfmod");
    3134                 :        644 :   A = gel(x,1);
    3135                 :        644 :   I = gel(x,2);
    3136         [ -  + ]:        644 :   co = lg(A); if (co==1) return cgetg(1,t_MAT);
    3137                 :            : 
    3138                 :        644 :   li = lgcols(A);
    3139         [ -  + ]:        644 :   if (typ(detmat)!=t_MAT) detmat = idealhnf_shallow(nf, detmat);
    3140                 :        644 :   detmat = Q_remove_denom(detmat, NULL);
    3141                 :        644 :   RgM_check_ZM(detmat, "nfhnfmod");
    3142                 :            : 
    3143                 :        644 :   av = avma;
    3144                 :        644 :   A = RgM_to_nfM(nf, A);
    3145                 :        644 :   A = Q_remove_denom(A, &dA);
    3146                 :        644 :   I = Q_remove_denom(leafcopy(I), &dI);
    3147                 :        644 :   dA = mul_denom(dA,dI);
    3148         [ +  + ]:        644 :   if (dA) detmat = ZM_Z_mul(detmat, powiu(dA, minss(li,co)));
    3149                 :            : 
    3150         [ -  + ]:        644 :   def = co; ldef = (li>co)? li-co+1: 1;
    3151         [ +  + ]:       4319 :   for (i=li-1; i>=ldef; i--)
    3152                 :            :   {
    3153 [ +  - ][ +  + ]:       4109 :     def--; j=def; while (j>=1 && isintzero(gcoeff(A,i,j))) j--;
    3154         [ -  + ]:       3675 :     if (!j) continue;
    3155         [ +  + ]:       3675 :     if (j==def) j--;
    3156                 :            :     else {
    3157                 :        322 :       swap(gel(A,j), gel(A,def));
    3158                 :        322 :       swap(gel(I,j), gel(I,def));
    3159                 :            :     }
    3160         [ +  + ]:      19124 :     for (  ; j; j--)
    3161                 :            :     {
    3162                 :      15449 :       GEN a, b, S, T, S0, T0 = gel(A,j);
    3163         [ +  + ]:      15449 :       b = gel(T0,i); if (isintzero(b)) continue;
    3164                 :            : 
    3165                 :       4179 :       S0 = gel(A,def); a = gel(S0,i);
    3166                 :       4179 :       d = nfbezout(nf, a,b, gel(I,def),gel(I,j), &u,&v,&w,&di);
    3167                 :       4179 :       S = colcomb(nf, u,v, S0,T0);
    3168                 :       4179 :       T = colcomb(nf, a,gneg(b), T0,S0);
    3169 [ +  + ][ +  + ]:       4179 :       if (u != gen_0 && v != gen_0) /* already reduced otherwise */
    3170                 :        259 :         nfcleanmod(nf, S, i, idealmul(nf,detmat,di));
    3171                 :       4179 :       nfcleanmod(nf, T, i, idealdiv(nf,detmat,w));
    3172                 :       4179 :       gel(A,def) = S; gel(A,j) = T;
    3173                 :       4179 :       gel(I,def) = d; gel(I,j) = w;
    3174                 :            :     }
    3175         [ -  + ]:       3675 :     if (gc_needed(av,2))
    3176                 :            :     {
    3177         [ #  # ]:          0 :       if(DEBUGMEM>1) pari_warn(warnmem,"[1]: nfhnfmod, i = %ld", i);
    3178         [ #  # ]:          0 :       gerepileall(av,dA? 4: 3, &A,&I,&detmat,&dA);
    3179                 :            :     }
    3180                 :            :   }
    3181                 :        644 :   def--; d0 = detmat;
    3182                 :        644 :   A += def; A[0] = evaltyp(t_MAT)|evallg(li);
    3183                 :        644 :   I += def; I[0] = evaltyp(t_VEC)|evallg(li);
    3184                 :        644 :   J = cgetg(li,t_VEC);
    3185         [ +  + ]:       4319 :   for (i=li-1; i>=1; i--)
    3186                 :            :   {
    3187                 :       3675 :     GEN b = gcoeff(A,i,i);
    3188                 :       3675 :     d = nfbezout(nf, gen_1,b, d0,gel(I,i), &u,&v,&w,&di);
    3189                 :       3675 :     p1 = nfC_nf_mul(nf,gel(A,i),v);
    3190         [ +  + ]:       3675 :     if (i > 1)
    3191                 :            :     {
    3192                 :       3031 :       d0 = idealmul(nf,d0,di);
    3193                 :       3031 :       nfcleanmod(nf, p1, i, d0);
    3194                 :            :     }
    3195                 :       3675 :     gel(A,i) = p1; gel(p1,i) = gen_1;
    3196                 :       3675 :     gel(I,i) = d;
    3197                 :       3675 :     gel(J,i) = di;
    3198                 :            :   }
    3199         [ +  + ]:       3675 :   for (i=li-2; i>=1; i--)
    3200                 :            :   {
    3201                 :       3031 :     d = gel(I,i);
    3202         [ +  + ]:      13636 :     for (j=i+1; j<li; j++)
    3203                 :            :     {
    3204         [ +  + ]:      10605 :       GEN c = gcoeff(A,i,j); if (isintzero(c)) continue;
    3205                 :       4060 :       c = element_close(nf, c, idealmul(nf,d,gel(J,j)));
    3206                 :       4060 :       gel(A,j) = colcomb1(nf, gneg(c), gel(A,j),gel(A,i));
    3207                 :            :     }
    3208         [ -  + ]:       3031 :     if (gc_needed(av,2))
    3209                 :            :     {
    3210         [ #  # ]:          0 :       if(DEBUGMEM>1) pari_warn(warnmem,"[2]: nfhnfmod, i = %ld", i);
    3211         [ #  # ]:          0 :       gerepileall(av,dA? 4: 3, &A,&I,&J,&dA);
    3212                 :            :     }
    3213                 :            :   }
    3214                 :        644 :   idV_simplify(I);
    3215         [ +  + ]:        644 :   if (dA) I = gdiv(I,dA);
    3216                 :        644 :   return gerepilecopy(av0, mkvec2(A, I));
    3217                 :            : }

Generated by: LCOV version 1.9