crypto/ec/curve448/decaf.c

   1 /**
   2  * @file ed448goldilocks/decaf.c
   3  * @author Mike Hamburg
   4  *
   5  * @copyright
   6  *   Copyright (c) 2015-2016 Cryptography Research, Inc.  \n
   7  *   Released under the MIT License.  See LICENSE.txt for license information.
   8  *
   9  * @brief Decaf high-level functions.
  10  *
  11  * @warning This file was automatically generated in Python.
  12  * Please do not edit it.
  13  */
  14 #include <openssl/crypto.h>
  15 #include "word.h"
  16 #include "field.h"
  17
  18 #include "point_448.h"
  19 #include "ed448.h"
  20 #include "curve448_lcl.h"
  21
  22 /* Template stuff */
  23 #define SCALAR_BITS DECAF_448_SCALAR_BITS
  24 #define SCALAR_SER_BYTES DECAF_448_SCALAR_BYTES
  25 #define SCALAR_LIMBS DECAF_448_SCALAR_LIMBS
  26 #define scalar_t curve448_scalar_t
  27 #define point_t curve448_point_t
  28 #define precomputed_s curve448_precomputed_s
  29 #define COFACTOR 4
  30
  31 /* Comb config: number of combs, n, t, s. */
  32 #define COMBS_N 5
  33 #define COMBS_T 5
  34 #define COMBS_S 18
  35 #define DECAF_WINDOW_BITS 5
  36 #define DECAF_WNAF_FIXED_TABLE_BITS 5
  37 #define DECAF_WNAF_VAR_TABLE_BITS 3
  38
  39 static const int EDWARDS_D = -39081;
  40 static const scalar_t precomputed_scalarmul_adjustment = {{{
  41     SC_LIMB(0xc873d6d54a7bb0cf), SC_LIMB(0xe933d8d723a70aad), SC_LIMB(0xbb124b65129c96fd), SC_LIMB(0x00000008335dc163)
  42 }}};
  43
  44 const uint8_t decaf_x448_base_point[DECAF_X448_PUBLIC_BYTES] = { 0x05 };
  45
  46 #define RISTRETTO_FACTOR DECAF_448_RISTRETTO_FACTOR
  47 const gf RISTRETTO_FACTOR = {{{
  48     0x42ef0f45572736, 0x7bf6aa20ce5296, 0xf4fd6eded26033, 0x968c14ba839a66, 0xb8d54b64a2d780, 0x6aa0a1f1a7b8a5, 0x683bf68d722fa2, 0x22d962fbeb24f7
  49 }}};
  50
  51
  52 #define TWISTED_D ((EDWARDS_D)-1)
  53
  54 #define EFF_D (-(TWISTED_D))
  55 #define NEG_D 1
  56
  57 /* End of template stuff */
  58
  59 #define WBITS DECAF_WORD_BITS /* NB this may be different from ARCH_WORD_BITS */
  60
  61 /* Projective Niels coordinates */
  62 typedef struct { gf a, b, c; } niels_s, niels_t[1];
  63 typedef struct { niels_t n; gf z; } VECTOR_ALIGNED pniels_s, pniels_t[1];
  64
  65 /* Precomputed base */
  66 struct precomputed_s { niels_t table [COMBS_N<<(COMBS_T-1)]; };
  67
  68 extern const gf curve448_precomputed_base_as_fe[];
  69 const precomputed_s *curve448_precomputed_base =
  70     (const precomputed_s *) &curve448_precomputed_base_as_fe;
  71
  72 /** Inverse. */
  73 static void
  74 gf_invert(gf y, const gf x, int assert_nonzero) {
  75     gf t1, t2;
  76     gf_sqr(t1, x); // o^2
  77     mask_t ret = gf_isr(t2, t1); // +-1/sqrt(o^2) = +-1/o
  78     (void)ret;
  79     if (assert_nonzero) assert(ret);
  80     gf_sqr(t1, t2);
  81     gf_mul(t2, t1, x); // not direct to y in case of alias.
  82     gf_copy(y, t2);
  83 }
  84
  85 /** identity = (0,1) */
  86 const point_t curve448_point_identity = {{{{{0}}},{{{1}}},{{{1}}},{{{0}}}}};
  87
  88 static DECAF_NOINLINE void
  89 point_double_internal (
  90     point_t p,
  91     const point_t q,
  92     int before_double
  93 ) {
  94     gf a, b, c, d;
  95     gf_sqr ( c, q->x );
  96     gf_sqr ( a, q->y );
  97     gf_add_nr ( d, c, a );             /* 2+e */
  98     gf_add_nr ( p->t, q->y, q->x );    /* 2+e */
  99     gf_sqr ( b, p->t );
 100     gf_subx_nr ( b, b, d, 3 );         /* 4+e */
 101     gf_sub_nr ( p->t, a, c );          /* 3+e */
 102     gf_sqr ( p->x, q->z );
 103     gf_add_nr ( p->z, p->x, p->x );    /* 2+e */
 104     gf_subx_nr ( a, p->z, p->t, 4 );   /* 6+e */
 105     if (GF_HEADROOM == 5) gf_weak_reduce(a); /* or 1+e */
 106     gf_mul ( p->x, a, b );
 107     gf_mul ( p->z, p->t, a );
 108     gf_mul ( p->y, p->t, d );
 109     if (!before_double) gf_mul ( p->t, b, d );
 110 }
 111
 112 void curve448_point_double(point_t p, const point_t q) {
 113     point_double_internal(p,q,0);
 114 }
 115
 116 /* Operations on [p]niels */
 117 static DECAF_INLINE void
 118 cond_neg_niels (
 119     niels_t n,
 120     mask_t neg
 121 ) {
 122     gf_cond_swap(n->a, n->b, neg);
 123     gf_cond_neg(n->c, neg);
 124 }
 125
 126 static DECAF_NOINLINE void pt_to_pniels (
 127     pniels_t b,
 128     const point_t a
 129 ) {
 130     gf_sub ( b->n->a, a->y, a->x );
 131     gf_add ( b->n->b, a->x, a->y );
 132     gf_mulw ( b->n->c, a->t, 2*TWISTED_D );
 133     gf_add ( b->z, a->z, a->z );
 134 }
 135
 136 static DECAF_NOINLINE void pniels_to_pt (
 137     point_t e,
 138     const pniels_t d
 139 ) {
 140     gf eu;
 141     gf_add ( eu, d->n->b, d->n->a );
 142     gf_sub ( e->y, d->n->b, d->n->a );
 143     gf_mul ( e->t, e->y, eu);
 144     gf_mul ( e->x, d->z, e->y );
 145     gf_mul ( e->y, d->z, eu );
 146     gf_sqr ( e->z, d->z );
 147 }
 148
 149 static DECAF_NOINLINE void
 150 niels_to_pt (
 151     point_t e,
 152     const niels_t n
 153 ) {
 154     gf_add ( e->y, n->b, n->a );
 155     gf_sub ( e->x, n->b, n->a );
 156     gf_mul ( e->t, e->y, e->x );
 157     gf_copy ( e->z, ONE );
 158 }
 159
 160 static DECAF_NOINLINE void
 161 add_niels_to_pt (
 162     point_t d,
 163     const niels_t e,
 164     int before_double
 165 ) {
 166     gf a, b, c;
 167     gf_sub_nr ( b, d->y, d->x ); /* 3+e */
 168     gf_mul ( a, e->a, b );
 169     gf_add_nr ( b, d->x, d->y ); /* 2+e */
 170     gf_mul ( d->y, e->b, b );
 171     gf_mul ( d->x, e->c, d->t );
 172     gf_add_nr ( c, a, d->y );    /* 2+e */
 173     gf_sub_nr ( b, d->y, a );    /* 3+e */
 174     gf_sub_nr ( d->y, d->z, d->x ); /* 3+e */
 175     gf_add_nr ( a, d->x, d->z ); /* 2+e */
 176     gf_mul ( d->z, a, d->y );
 177     gf_mul ( d->x, d->y, b );
 178     gf_mul ( d->y, a, c );
 179     if (!before_double) gf_mul ( d->t, b, c );
 180 }
 181
 182 static DECAF_NOINLINE void
 183 sub_niels_from_pt (
 184     point_t d,
 185     const niels_t e,
 186     int before_double
 187 ) {
 188     gf a, b, c;
 189     gf_sub_nr ( b, d->y, d->x ); /* 3+e */
 190     gf_mul ( a, e->b, b );
 191     gf_add_nr ( b, d->x, d->y ); /* 2+e */
 192     gf_mul ( d->y, e->a, b );
 193     gf_mul ( d->x, e->c, d->t );
 194     gf_add_nr ( c, a, d->y );    /* 2+e */
 195     gf_sub_nr ( b, d->y, a );    /* 3+e */
 196     gf_add_nr ( d->y, d->z, d->x ); /* 2+e */
 197     gf_sub_nr ( a, d->z, d->x ); /* 3+e */
 198     gf_mul ( d->z, a, d->y );
 199     gf_mul ( d->x, d->y, b );
 200     gf_mul ( d->y, a, c );
 201     if (!before_double) gf_mul ( d->t, b, c );
 202 }
 203
 204 static void
 205 add_pniels_to_pt (
 206     point_t p,
 207     const pniels_t pn,
 208     int before_double
 209 ) {
 210     gf L0;
 211     gf_mul ( L0, p->z, pn->z );
 212     gf_copy ( p->z, L0 );
 213     add_niels_to_pt( p, pn->n, before_double );
 214 }
 215
 216 static void
 217 sub_pniels_from_pt (
 218     point_t p,
 219     const pniels_t pn,
 220     int before_double
 221 ) {
 222     gf L0;
 223     gf_mul ( L0, p->z, pn->z );
 224     gf_copy ( p->z, L0 );
 225     sub_niels_from_pt( p, pn->n, before_double );
 226 }
 227
 228 decaf_bool_t curve448_point_eq ( const point_t p, const point_t q ) {
 229     /* equality mod 2-torsion compares x/y */
 230     gf a, b;
 231     gf_mul ( a, p->y, q->x );
 232     gf_mul ( b, q->y, p->x );
 233     mask_t succ = gf_eq(a,b);
 234
 235     return mask_to_bool(succ);
 236 }
 237
 238 decaf_bool_t curve448_point_valid (
 239     const point_t p
 240 ) {
 241     gf a,b,c;
 242     gf_mul(a,p->x,p->y);
 243     gf_mul(b,p->z,p->t);
 244     mask_t out = gf_eq(a,b);
 245     gf_sqr(a,p->x);
 246     gf_sqr(b,p->y);
 247     gf_sub(a,b,a);
 248     gf_sqr(b,p->t);
 249     gf_mulw(c,b,TWISTED_D);
 250     gf_sqr(b,p->z);
 251     gf_add(b,b,c);
 252     out &= gf_eq(a,b);
 253     out &= ~gf_eq(p->z,ZERO);
 254     return mask_to_bool(out);
 255 }
 256
 257 static DECAF_INLINE void
 258 constant_time_lookup_niels (
 259     niels_s *__restrict__ ni,
 260     const niels_t *table,
 261     int nelts,
 262     int idx
 263 ) {
 264     constant_time_lookup(ni, table, sizeof(niels_s), nelts, idx);
 265 }
 266
 267 void curve448_precomputed_scalarmul (
 268     point_t out,
 269     const precomputed_s *table,
 270     const scalar_t scalar
 271 ) {
 272     int i;
 273     unsigned j,k;
 274     const unsigned int n = COMBS_N, t = COMBS_T, s = COMBS_S;
 275
 276     scalar_t scalar1x;
 277     curve448_scalar_add(scalar1x, scalar, precomputed_scalarmul_adjustment);
 278     curve448_scalar_halve(scalar1x,scalar1x);
 279
 280     niels_t ni;
 281
 282     for (i=s-1; i>=0; i--) {
 283         if (i != (int)s-1) point_double_internal(out,out,0);
 284
 285         for (j=0; j<n; j++) {
 286             int tab = 0;
 287
 288             for (k=0; k<t; k++) {
 289                 unsigned int bit = i + s*(k + j*t);
 290                 if (bit < SCALAR_BITS) {
 291                     tab |= (scalar1x->limb[bit/WBITS] >> (bit%WBITS) & 1) << k;
 292                 }
 293             }
 294
 295             mask_t invert = (tab>>(t-1))-1;
 296             tab ^= invert;
 297             tab &= (1<<(t-1)) - 1;
 298
 299             constant_time_lookup_niels(ni, &table->table[j<<(t-1)], 1<<(t-1), tab);
 300
 301             cond_neg_niels(ni, invert);
 302             if ((i!=(int)s-1)||j) {
 303                 add_niels_to_pt(out, ni, j==n-1 && i);
 304             } else {
 305                 niels_to_pt(out, ni);
 306             }
 307         }
 308     }
 309
 310     OPENSSL_cleanse(ni,sizeof(ni));
 311     OPENSSL_cleanse(scalar1x,sizeof(scalar1x));
 312 }
 313
 314 void curve448_point_mul_by_ratio_and_encode_like_eddsa (
 315     uint8_t enc[DECAF_EDDSA_448_PUBLIC_BYTES],
 316     const point_t p
 317 ) {
 318
 319     /* The point is now on the twisted curve.  Move it to untwisted. */
 320     gf x, y, z, t;
 321     point_t q;
 322     curve448_point_copy(q,p);
 323
 324     {
 325         /* 4-isogeny: 2xy/(y^+x^2), (y^2-x^2)/(2z^2-y^2+x^2) */
 326         gf u;
 327         gf_sqr ( x, q->x );
 328         gf_sqr ( t, q->y );
 329         gf_add( u, x, t );
 330         gf_add( z, q->y, q->x );
 331         gf_sqr ( y, z);
 332         gf_sub ( y, y, u );
 333         gf_sub ( z, t, x );
 334         gf_sqr ( x, q->z );
 335         gf_add ( t, x, x);
 336         gf_sub ( t, t, z);
 337         gf_mul ( x, t, y );
 338         gf_mul ( y, z, u );
 339         gf_mul ( z, u, t );
 340         OPENSSL_cleanse(u,sizeof(u));
 341     }
 342
 343     /* Affinize */
 344     gf_invert(z,z,1);
 345     gf_mul(t,x,z);
 346     gf_mul(x,y,z);
 347
 348     /* Encode */
 349     enc[DECAF_EDDSA_448_PRIVATE_BYTES-1] = 0;
 350     gf_serialize(enc, x, 1);
 351     enc[DECAF_EDDSA_448_PRIVATE_BYTES-1] |= 0x80 & gf_lobit(t);
 352
 353     OPENSSL_cleanse(x,sizeof(x));
 354     OPENSSL_cleanse(y,sizeof(y));
 355     OPENSSL_cleanse(z,sizeof(z));
 356     OPENSSL_cleanse(t,sizeof(t));
 357     curve448_point_destroy(q);
 358 }
 359
 360
 361 decaf_error_t curve448_point_decode_like_eddsa_and_mul_by_ratio (
 362     point_t p,
 363     const uint8_t enc[DECAF_EDDSA_448_PUBLIC_BYTES]
 364 ) {
 365     uint8_t enc2[DECAF_EDDSA_448_PUBLIC_BYTES];
 366     memcpy(enc2,enc,sizeof(enc2));
 367
 368     mask_t low = ~word_is_zero(enc2[DECAF_EDDSA_448_PRIVATE_BYTES-1] & 0x80);
 369     enc2[DECAF_EDDSA_448_PRIVATE_BYTES-1] &= ~0x80;
 370
 371     mask_t succ = gf_deserialize(p->y, enc2, 1, 0);
 372 #if 0 == 0
 373     succ &= word_is_zero(enc2[DECAF_EDDSA_448_PRIVATE_BYTES-1]);
 374 #endif
 375
 376     gf_sqr(p->x,p->y);
 377     gf_sub(p->z,ONE,p->x); /* num = 1-y^2 */
 378     gf_mulw(p->t,p->x,EDWARDS_D); /* dy^2 */
 379     gf_sub(p->t,ONE,p->t); /* denom = 1-dy^2 or 1-d + dy^2 */
 380
 381     gf_mul(p->x,p->z,p->t);
 382     succ &= gf_isr(p->t,p->x); /* 1/sqrt(num * denom) */
 383
 384     gf_mul(p->x,p->t,p->z); /* sqrt(num / denom) */
 385     gf_cond_neg(p->x,gf_lobit(p->x)^low);
 386     gf_copy(p->z,ONE);
 387
 388     {
 389         /* 4-isogeny 2xy/(y^2-ax^2), (y^2+ax^2)/(2-y^2-ax^2) */
 390         gf a, b, c, d;
 391         gf_sqr ( c, p->x );
 392         gf_sqr ( a, p->y );
 393         gf_add ( d, c, a );
 394         gf_add ( p->t, p->y, p->x );
 395         gf_sqr ( b, p->t );
 396         gf_sub ( b, b, d );
 397         gf_sub ( p->t, a, c );
 398         gf_sqr ( p->x, p->z );
 399         gf_add ( p->z, p->x, p->x );
 400         gf_sub ( a, p->z, d );
 401         gf_mul ( p->x, a, b );
 402         gf_mul ( p->z, p->t, a );
 403         gf_mul ( p->y, p->t, d );
 404         gf_mul ( p->t, b, d );
 405         OPENSSL_cleanse(a,sizeof(a));
 406         OPENSSL_cleanse(b,sizeof(b));
 407         OPENSSL_cleanse(c,sizeof(c));
 408         OPENSSL_cleanse(d,sizeof(d));
 409     }
 410
 411     OPENSSL_cleanse(enc2,sizeof(enc2));
 412     assert(curve448_point_valid(p) || ~succ);
 413
 414     return decaf_succeed_if(mask_to_bool(succ));
 415 }
 416
 417 decaf_error_t decaf_x448 (
 418     uint8_t out[X_PUBLIC_BYTES],
 419     const uint8_t base[X_PUBLIC_BYTES],
 420     const uint8_t scalar[X_PRIVATE_BYTES]
 421 ) {
 422     gf x1, x2, z2, x3, z3, t1, t2;
 423     ignore_result(gf_deserialize(x1,base,1,0));
 424     gf_copy(x2,ONE);
 425     gf_copy(z2,ZERO);
 426     gf_copy(x3,x1);
 427     gf_copy(z3,ONE);
 428
 429     int t;
 430     mask_t swap = 0;
 431
 432     for (t = X_PRIVATE_BITS-1; t>=0; t--) {
 433         uint8_t sb = scalar[t/8];
 434
 435         /* Scalar conditioning */
 436         if (t/8==0) sb &= -(uint8_t)COFACTOR;
 437         else if (t == X_PRIVATE_BITS-1) sb = -1;
 438
 439         mask_t k_t = (sb>>(t%8)) & 1;
 440         k_t = -k_t; /* set to all 0s or all 1s */
 441
 442         swap ^= k_t;
 443         gf_cond_swap(x2,x3,swap);
 444         gf_cond_swap(z2,z3,swap);
 445         swap = k_t;
 446
 447         gf_add_nr(t1,x2,z2); /* A = x2 + z2 */        /* 2+e */
 448         gf_sub_nr(t2,x2,z2); /* B = x2 - z2 */        /* 3+e */
 449         gf_sub_nr(z2,x3,z3); /* D = x3 - z3 */        /* 3+e */
 450         gf_mul(x2,t1,z2);    /* DA */
 451         gf_add_nr(z2,z3,x3); /* C = x3 + z3 */        /* 2+e */
 452         gf_mul(x3,t2,z2);    /* CB */
 453         gf_sub_nr(z3,x2,x3); /* DA-CB */              /* 3+e */
 454         gf_sqr(z2,z3);       /* (DA-CB)^2 */
 455         gf_mul(z3,x1,z2);    /* z3 = x1(DA-CB)^2 */
 456         gf_add_nr(z2,x2,x3); /* (DA+CB) */            /* 2+e */
 457         gf_sqr(x3,z2);       /* x3 = (DA+CB)^2 */
 458
 459         gf_sqr(z2,t1);       /* AA = A^2 */
 460         gf_sqr(t1,t2);       /* BB = B^2 */
 461         gf_mul(x2,z2,t1);    /* x2 = AA*BB */
 462         gf_sub_nr(t2,z2,t1); /* E = AA-BB */          /* 3+e */
 463
 464         gf_mulw(t1,t2,-EDWARDS_D); /* E*-d = a24*E */
 465         gf_add_nr(t1,t1,z2); /* AA + a24*E */         /* 2+e */
 466         gf_mul(z2,t2,t1); /* z2 = E(AA+a24*E) */
 467     }
 468
 469     /* Finish */
 470     gf_cond_swap(x2,x3,swap);
 471     gf_cond_swap(z2,z3,swap);
 472     gf_invert(z2,z2,0);
 473     gf_mul(x1,x2,z2);
 474     gf_serialize(out,x1,1);
 475     mask_t nz = ~gf_eq(x1,ZERO);
 476
 477     OPENSSL_cleanse(x1,sizeof(x1));
 478     OPENSSL_cleanse(x2,sizeof(x2));
 479     OPENSSL_cleanse(z2,sizeof(z2));
 480     OPENSSL_cleanse(x3,sizeof(x3));
 481     OPENSSL_cleanse(z3,sizeof(z3));
 482     OPENSSL_cleanse(t1,sizeof(t1));
 483     OPENSSL_cleanse(t2,sizeof(t2));
 484
 485     return decaf_succeed_if(mask_to_bool(nz));
 486 }
 487
 488 /* Thanks Johan Pascal */
 489 void decaf_ed448_convert_public_key_to_x448 (
 490     uint8_t x[DECAF_X448_PUBLIC_BYTES],
 491     const uint8_t ed[DECAF_EDDSA_448_PUBLIC_BYTES]
 492 ) {
 493     gf y;
 494     const uint8_t mask = (uint8_t)(0xFE<<(7));
 495     ignore_result(gf_deserialize(y, ed, 1, mask));
 496
 497     {
 498         gf n,d;
 499
 500         /* u = y^2 * (1-dy^2) / (1-y^2) */
 501         gf_sqr(n,y); /* y^2*/
 502         gf_sub(d,ONE,n); /* 1-y^2*/
 503         gf_invert(d,d,0); /* 1/(1-y^2)*/
 504         gf_mul(y,n,d); /* y^2 / (1-y^2) */
 505         gf_mulw(d,n,EDWARDS_D); /* dy^2*/
 506         gf_sub(d, ONE, d); /* 1-dy^2*/
 507         gf_mul(n, y, d); /* y^2 * (1-dy^2) / (1-y^2) */
 508         gf_serialize(x,n,1);
 509
 510         OPENSSL_cleanse(y,sizeof(y));
 511         OPENSSL_cleanse(n,sizeof(n));
 512         OPENSSL_cleanse(d,sizeof(d));
 513     }
 514 }
 515
 516 void curve448_point_mul_by_ratio_and_encode_like_x448 (
 517     uint8_t out[X_PUBLIC_BYTES],
 518     const point_t p
 519 ) {
 520     point_t q;
 521     curve448_point_copy(q,p);
 522     gf_invert(q->t,q->x,0); /* 1/x */
 523     gf_mul(q->z,q->t,q->y); /* y/x */
 524     gf_sqr(q->y,q->z); /* (y/x)^2 */
 525     gf_serialize(out,q->y,1);
 526     curve448_point_destroy(q);
 527 }
 528
 529 void decaf_x448_derive_public_key (
 530     uint8_t out[X_PUBLIC_BYTES],
 531     const uint8_t scalar[X_PRIVATE_BYTES]
 532 ) {
 533     /* Scalar conditioning */
 534     uint8_t scalar2[X_PRIVATE_BYTES];
 535     memcpy(scalar2,scalar,sizeof(scalar2));
 536     scalar2[0] &= -(uint8_t)COFACTOR;
 537
 538     scalar2[X_PRIVATE_BYTES-1] &= ~(-1u<<((X_PRIVATE_BITS+7)%8));
 539     scalar2[X_PRIVATE_BYTES-1] |= 1<<((X_PRIVATE_BITS+7)%8);
 540
 541     scalar_t the_scalar;
 542     curve448_scalar_decode_long(the_scalar,scalar2,sizeof(scalar2));
 543
 544     /* Compensate for the encoding ratio */
 545     for (unsigned i=1; i<DECAF_X448_ENCODE_RATIO; i<<=1) {
 546         curve448_scalar_halve(the_scalar,the_scalar);
 547     }
 548     point_t p;
 549     curve448_precomputed_scalarmul(p,curve448_precomputed_base,the_scalar);
 550     curve448_point_mul_by_ratio_and_encode_like_x448(out,p);
 551     curve448_point_destroy(p);
 552 }
 553
 554 /**
 555  * @cond internal
 556  * Control for variable-time scalar multiply algorithms.
 557  */
 558 struct smvt_control {
 559   int power, addend;
 560 };
 561
 562 static int recode_wnaf (
 563     struct smvt_control *control, /* [nbits/(table_bits+1) + 3] */
 564     const scalar_t scalar,
 565     unsigned int table_bits
 566 ) {
 567     unsigned int table_size = SCALAR_BITS/(table_bits+1) + 3;
 568     int position = table_size - 1; /* at the end */
 569
 570     /* place the end marker */
 571     control[position].power = -1;
 572     control[position].addend = 0;
 573     position--;
 574
 575     /* PERF: Could negate scalar if it's large.  But then would need more cases
 576      * in the actual code that uses it, all for an expected reduction of like 1/5 op.
 577      * Probably not worth it.
 578      */
 579
 580     uint64_t current = scalar->limb[0] & 0xFFFF;
 581     uint32_t mask = (1<<(table_bits+1))-1;
 582
 583     unsigned int w;
 584     const unsigned int B_OVER_16 = sizeof(scalar->limb[0]) / 2;
 585     for (w = 1; w<(SCALAR_BITS-1)/16+3; w++) {
 586         if (w < (SCALAR_BITS-1)/16+1) {
 587             /* Refill the 16 high bits of current */
 588             current += (uint32_t)((scalar->limb[w/B_OVER_16]>>(16*(w%B_OVER_16)))<<16);
 589         }
 590
 591         while (current & 0xFFFF) {
 592             assert(position >= 0);
 593             uint32_t pos = __builtin_ctz((uint32_t)current), odd = (uint32_t)current >> pos;
 594             int32_t delta = odd & mask;
 595             if (odd & 1<<(table_bits+1)) delta -= (1<<(table_bits+1));
 596             current -= delta << pos;
 597             control[position].power = pos + 16*(w-1);
 598             control[position].addend = delta;
 599             position--;
 600         }
 601         current >>= 16;
 602     }
 603     assert(current==0);
 604
 605     position++;
 606     unsigned int n = table_size - position;
 607     unsigned int i;
 608     for (i=0; i<n; i++) {
 609         control[i] = control[i+position];
 610     }
 611     return n-1;
 612 }
 613
 614 static void
 615 prepare_wnaf_table(
 616     pniels_t *output,
 617     const point_t working,
 618     unsigned int tbits
 619 ) {
 620     point_t tmp;
 621     int i;
 622     pt_to_pniels(output[0], working);
 623
 624     if (tbits == 0) return;
 625
 626     curve448_point_double(tmp,working);
 627     pniels_t twop;
 628     pt_to_pniels(twop, tmp);
 629
 630     add_pniels_to_pt(tmp, output[0],0);
 631     pt_to_pniels(output[1], tmp);
 632
 633     for (i=2; i < 1<<tbits; i++) {
 634         add_pniels_to_pt(tmp, twop,0);
 635         pt_to_pniels(output[i], tmp);
 636     }
 637
 638     curve448_point_destroy(tmp);
 639     OPENSSL_cleanse(twop,sizeof(twop));
 640 }
 641
 642 extern const gf curve448_precomputed_wnaf_as_fe[];
 643 static const niels_t *curve448_wnaf_base = (const niels_t *)curve448_precomputed_wnaf_as_fe;
 644
 645 void curve448_base_double_scalarmul_non_secret (
 646     point_t combo,
 647     const scalar_t scalar1,
 648     const point_t base2,
 649     const scalar_t scalar2
 650 ) {
 651     const int table_bits_var = DECAF_WNAF_VAR_TABLE_BITS,
 652         table_bits_pre = DECAF_WNAF_FIXED_TABLE_BITS;
 653     struct smvt_control control_var[SCALAR_BITS/(table_bits_var+1)+3];
 654     struct smvt_control control_pre[SCALAR_BITS/(table_bits_pre+1)+3];
 655
 656     int ncb_pre = recode_wnaf(control_pre, scalar1, table_bits_pre);
 657     int ncb_var = recode_wnaf(control_var, scalar2, table_bits_var);
 658
 659     pniels_t precmp_var[1<<table_bits_var];
 660     prepare_wnaf_table(precmp_var, base2, table_bits_var);
 661
 662     int contp=0, contv=0, i = control_var[0].power;
 663
 664     if (i < 0) {
 665         curve448_point_copy(combo, curve448_point_identity);
 666         return;
 667     } else if (i > control_pre[0].power) {
 668         pniels_to_pt(combo, precmp_var[control_var[0].addend >> 1]);
 669         contv++;
 670     } else if (i == control_pre[0].power && i >=0 ) {
 671         pniels_to_pt(combo, precmp_var[control_var[0].addend >> 1]);
 672         add_niels_to_pt(combo, curve448_wnaf_base[control_pre[0].addend >> 1], i);
 673         contv++; contp++;
 674     } else {
 675         i = control_pre[0].power;
 676         niels_to_pt(combo, curve448_wnaf_base[control_pre[0].addend >> 1]);
 677         contp++;
 678     }
 679
 680     for (i--; i >= 0; i--) {
 681         int cv = (i==control_var[contv].power), cp = (i==control_pre[contp].power);
 682         point_double_internal(combo,combo,i && !(cv||cp));
 683
 684         if (cv) {
 685             assert(control_var[contv].addend);
 686
 687             if (control_var[contv].addend > 0) {
 688                 add_pniels_to_pt(combo, precmp_var[control_var[contv].addend >> 1], i&&!cp);
 689             } else {
 690                 sub_pniels_from_pt(combo, precmp_var[(-control_var[contv].addend) >> 1], i&&!cp);
 691             }
 692             contv++;
 693         }
 694
 695         if (cp) {
 696             assert(control_pre[contp].addend);
 697
 698             if (control_pre[contp].addend > 0) {
 699                 add_niels_to_pt(combo, curve448_wnaf_base[control_pre[contp].addend >> 1], i);
 700             } else {
 701                 sub_niels_from_pt(combo, curve448_wnaf_base[(-control_pre[contp].addend) >> 1], i);
 702             }
 703             contp++;
 704         }
 705     }
 706
 707     /* This function is non-secret, but whatever this is cheap. */
 708     OPENSSL_cleanse(control_var,sizeof(control_var));
 709     OPENSSL_cleanse(control_pre,sizeof(control_pre));
 710     OPENSSL_cleanse(precmp_var,sizeof(precmp_var));
 711
 712     assert(contv == ncb_var); (void)ncb_var;
 713     assert(contp == ncb_pre); (void)ncb_pre;
 714 }
 715
 716 void curve448_point_destroy (
 717     point_t point
 718 ) {
 719     OPENSSL_cleanse(point, sizeof(point_t));
 720 }
 721
 722 int X448(uint8_t out_shared_key[56], const uint8_t private_key[56],
 723          const uint8_t peer_public_value[56])
 724 {
 725   return decaf_x448(out_shared_key, peer_public_value, private_key)
 726          == DECAF_SUCCESS;
 727 }
 728
 729 void X448_public_from_private(uint8_t out_public_value[56],
 730                               const uint8_t private_key[56])
 731 {
 732     decaf_x448_derive_public_key(out_public_value, private_key);
 733 }