tools/perf/arch/x86/tests/insn-x86-dat-src.c

   1 // SPDX-License-Identifier: GPL-2.0
   2 /*
   3  * This file contains instructions for testing by the test titled:
   4  *
   5  *         "Test x86 instruction decoder - new instructions"
   6  *
   7  * Note that the 'Expecting' comment lines are consumed by the
   8  * gen-insn-x86-dat.awk script and have the format:
   9  *
  10  *         Expecting: <op> <branch> <rel>
  11  *
  12  * If this file is changed, remember to run the gen-insn-x86-dat.sh
  13  * script and commit the result.
  14  *
  15  * Refer to insn-x86.c for more details.
  16  */
  17
  18 int main(void)
  19 {
  20         /* Following line is a marker for the awk script - do not change */
  21         asm volatile("rdtsc"); /* Start here */
  22
  23         /* Test fix for vcvtph2ps in x86-opcode-map.txt */
  24
  25         asm volatile("vcvtph2ps %xmm3,%ymm5");
  26
  27 #ifdef __x86_64__
  28
  29         /* AVX-512: Instructions with the same op codes as Mask Instructions  */
  30
  31         asm volatile("cmovno %rax,%rbx");
  32         asm volatile("cmovno 0x12345678(%rax),%rcx");
  33         asm volatile("cmovno 0x12345678(%rax),%cx");
  34
  35         asm volatile("cmove  %rax,%rbx");
  36         asm volatile("cmove 0x12345678(%rax),%rcx");
  37         asm volatile("cmove 0x12345678(%rax),%cx");
  38
  39         asm volatile("seto    0x12345678(%rax)");
  40         asm volatile("setno   0x12345678(%rax)");
  41         asm volatile("setb    0x12345678(%rax)");
  42         asm volatile("setc    0x12345678(%rax)");
  43         asm volatile("setnae  0x12345678(%rax)");
  44         asm volatile("setae   0x12345678(%rax)");
  45         asm volatile("setnb   0x12345678(%rax)");
  46         asm volatile("setnc   0x12345678(%rax)");
  47         asm volatile("sets    0x12345678(%rax)");
  48         asm volatile("setns   0x12345678(%rax)");
  49
  50         /* AVX-512: Mask Instructions */
  51
  52         asm volatile("kandw  %k7,%k6,%k5");
  53         asm volatile("kandq  %k7,%k6,%k5");
  54         asm volatile("kandb  %k7,%k6,%k5");
  55         asm volatile("kandd  %k7,%k6,%k5");
  56
  57         asm volatile("kandnw  %k7,%k6,%k5");
  58         asm volatile("kandnq  %k7,%k6,%k5");
  59         asm volatile("kandnb  %k7,%k6,%k5");
  60         asm volatile("kandnd  %k7,%k6,%k5");
  61
  62         asm volatile("knotw  %k7,%k6");
  63         asm volatile("knotq  %k7,%k6");
  64         asm volatile("knotb  %k7,%k6");
  65         asm volatile("knotd  %k7,%k6");
  66
  67         asm volatile("korw  %k7,%k6,%k5");
  68         asm volatile("korq  %k7,%k6,%k5");
  69         asm volatile("korb  %k7,%k6,%k5");
  70         asm volatile("kord  %k7,%k6,%k5");
  71
  72         asm volatile("kxnorw  %k7,%k6,%k5");
  73         asm volatile("kxnorq  %k7,%k6,%k5");
  74         asm volatile("kxnorb  %k7,%k6,%k5");
  75         asm volatile("kxnord  %k7,%k6,%k5");
  76
  77         asm volatile("kxorw  %k7,%k6,%k5");
  78         asm volatile("kxorq  %k7,%k6,%k5");
  79         asm volatile("kxorb  %k7,%k6,%k5");
  80         asm volatile("kxord  %k7,%k6,%k5");
  81
  82         asm volatile("kaddw  %k7,%k6,%k5");
  83         asm volatile("kaddq  %k7,%k6,%k5");
  84         asm volatile("kaddb  %k7,%k6,%k5");
  85         asm volatile("kaddd  %k7,%k6,%k5");
  86
  87         asm volatile("kunpckbw %k7,%k6,%k5");
  88         asm volatile("kunpckwd %k7,%k6,%k5");
  89         asm volatile("kunpckdq %k7,%k6,%k5");
  90
  91         asm volatile("kmovw  %k6,%k5");
  92         asm volatile("kmovw  (%rcx),%k5");
  93         asm volatile("kmovw  0x123(%rax,%r14,8),%k5");
  94         asm volatile("kmovw  %k5,(%rcx)");
  95         asm volatile("kmovw  %k5,0x123(%rax,%r14,8)");
  96         asm volatile("kmovw  %eax,%k5");
  97         asm volatile("kmovw  %ebp,%k5");
  98         asm volatile("kmovw  %r13d,%k5");
  99         asm volatile("kmovw  %k5,%eax");
 100         asm volatile("kmovw  %k5,%ebp");
 101         asm volatile("kmovw  %k5,%r13d");
 102
 103         asm volatile("kmovq  %k6,%k5");
 104         asm volatile("kmovq  (%rcx),%k5");
 105         asm volatile("kmovq  0x123(%rax,%r14,8),%k5");
 106         asm volatile("kmovq  %k5,(%rcx)");
 107         asm volatile("kmovq  %k5,0x123(%rax,%r14,8)");
 108         asm volatile("kmovq  %rax,%k5");
 109         asm volatile("kmovq  %rbp,%k5");
 110         asm volatile("kmovq  %r13,%k5");
 111         asm volatile("kmovq  %k5,%rax");
 112         asm volatile("kmovq  %k5,%rbp");
 113         asm volatile("kmovq  %k5,%r13");
 114
 115         asm volatile("kmovb  %k6,%k5");
 116         asm volatile("kmovb  (%rcx),%k5");
 117         asm volatile("kmovb  0x123(%rax,%r14,8),%k5");
 118         asm volatile("kmovb  %k5,(%rcx)");
 119         asm volatile("kmovb  %k5,0x123(%rax,%r14,8)");
 120         asm volatile("kmovb  %eax,%k5");
 121         asm volatile("kmovb  %ebp,%k5");
 122         asm volatile("kmovb  %r13d,%k5");
 123         asm volatile("kmovb  %k5,%eax");
 124         asm volatile("kmovb  %k5,%ebp");
 125         asm volatile("kmovb  %k5,%r13d");
 126
 127         asm volatile("kmovd  %k6,%k5");
 128         asm volatile("kmovd  (%rcx),%k5");
 129         asm volatile("kmovd  0x123(%rax,%r14,8),%k5");
 130         asm volatile("kmovd  %k5,(%rcx)");
 131         asm volatile("kmovd  %k5,0x123(%rax,%r14,8)");
 132         asm volatile("kmovd  %eax,%k5");
 133         asm volatile("kmovd  %ebp,%k5");
 134         asm volatile("kmovd  %r13d,%k5");
 135         asm volatile("kmovd  %k5,%eax");
 136         asm volatile("kmovd  %k5,%ebp");
 137         asm volatile("kmovd %k5,%r13d");
 138
 139         asm volatile("kortestw %k6,%k5");
 140         asm volatile("kortestq %k6,%k5");
 141         asm volatile("kortestb %k6,%k5");
 142         asm volatile("kortestd %k6,%k5");
 143
 144         asm volatile("ktestw %k6,%k5");
 145         asm volatile("ktestq %k6,%k5");
 146         asm volatile("ktestb %k6,%k5");
 147         asm volatile("ktestd %k6,%k5");
 148
 149         asm volatile("kshiftrw $0x12,%k6,%k5");
 150         asm volatile("kshiftrq $0x5b,%k6,%k5");
 151         asm volatile("kshiftlw $0x12,%k6,%k5");
 152         asm volatile("kshiftlq $0x5b,%k6,%k5");
 153
 154         /* AVX-512: Op code 0f 5b */
 155         asm volatile("vcvtdq2ps %xmm5,%xmm6");
 156         asm volatile("vcvtqq2ps %zmm29,%ymm6{%k7}");
 157         asm volatile("vcvtps2dq %xmm5,%xmm6");
 158         asm volatile("vcvttps2dq %xmm5,%xmm6");
 159
 160         /* AVX-512: Op code 0f 6f */
 161
 162         asm volatile("movq   %mm0,%mm4");
 163         asm volatile("vmovdqa %ymm4,%ymm6");
 164         asm volatile("vmovdqa32 %zmm25,%zmm26");
 165         asm volatile("vmovdqa64 %zmm25,%zmm26");
 166         asm volatile("vmovdqu %ymm4,%ymm6");
 167         asm volatile("vmovdqu32 %zmm29,%zmm30");
 168         asm volatile("vmovdqu64 %zmm25,%zmm26");
 169         asm volatile("vmovdqu8 %zmm29,%zmm30");
 170         asm volatile("vmovdqu16 %zmm25,%zmm26");
 171
 172         /* AVX-512: Op code 0f 78 */
 173
 174         asm volatile("vmread %rax,%rbx");
 175         asm volatile("vcvttps2udq %zmm25,%zmm26");
 176         asm volatile("vcvttpd2udq %zmm29,%ymm6{%k7}");
 177         asm volatile("vcvttsd2usi %xmm6,%rax");
 178         asm volatile("vcvttss2usi %xmm6,%rax");
 179         asm volatile("vcvttps2uqq %ymm5,%zmm26{%k7}");
 180         asm volatile("vcvttpd2uqq %zmm29,%zmm30");
 181
 182         /* AVX-512: Op code 0f 79 */
 183
 184         asm volatile("vmwrite %rax,%rbx");
 185         asm volatile("vcvtps2udq %zmm25,%zmm26");
 186         asm volatile("vcvtpd2udq %zmm29,%ymm6{%k7}");
 187         asm volatile("vcvtsd2usi %xmm6,%rax");
 188         asm volatile("vcvtss2usi %xmm6,%rax");
 189         asm volatile("vcvtps2uqq %ymm5,%zmm26{%k7}");
 190         asm volatile("vcvtpd2uqq %zmm29,%zmm30");
 191
 192         /* AVX-512: Op code 0f 7a */
 193
 194         asm volatile("vcvtudq2pd %ymm5,%zmm29{%k7}");
 195         asm volatile("vcvtuqq2pd %zmm25,%zmm26");
 196         asm volatile("vcvtudq2ps %zmm29,%zmm30");
 197         asm volatile("vcvtuqq2ps %zmm25,%ymm26{%k7}");
 198         asm volatile("vcvttps2qq %ymm25,%zmm26{%k7}");
 199         asm volatile("vcvttpd2qq %zmm29,%zmm30");
 200
 201         /* AVX-512: Op code 0f 7b */
 202
 203         asm volatile("vcvtusi2sd %eax,%xmm5,%xmm6");
 204         asm volatile("vcvtusi2ss %eax,%xmm5,%xmm6");
 205         asm volatile("vcvtps2qq %ymm5,%zmm26{%k7}");
 206         asm volatile("vcvtpd2qq %zmm29,%zmm30");
 207
 208         /* AVX-512: Op code 0f 7f */
 209
 210         asm volatile("movq.s  %mm0,%mm4");
 211         asm volatile("vmovdqa %ymm8,%ymm6");
 212         asm volatile("vmovdqa32.s %zmm25,%zmm26");
 213         asm volatile("vmovdqa64.s %zmm25,%zmm26");
 214         asm volatile("vmovdqu %ymm8,%ymm6");
 215         asm volatile("vmovdqu32.s %zmm25,%zmm26");
 216         asm volatile("vmovdqu64.s %zmm25,%zmm26");
 217         asm volatile("vmovdqu8.s %zmm30,(%rcx)");
 218         asm volatile("vmovdqu16.s %zmm25,%zmm26");
 219
 220         /* AVX-512: Op code 0f db */
 221
 222         asm volatile("pand  %mm1,%mm2");
 223         asm volatile("pand  %xmm1,%xmm2");
 224         asm volatile("vpand  %ymm4,%ymm6,%ymm2");
 225         asm volatile("vpandd %zmm24,%zmm25,%zmm26");
 226         asm volatile("vpandq %zmm24,%zmm25,%zmm26");
 227
 228         /* AVX-512: Op code 0f df */
 229
 230         asm volatile("pandn  %mm1,%mm2");
 231         asm volatile("pandn  %xmm1,%xmm2");
 232         asm volatile("vpandn %ymm4,%ymm6,%ymm2");
 233         asm volatile("vpandnd %zmm24,%zmm25,%zmm26");
 234         asm volatile("vpandnq %zmm24,%zmm25,%zmm26");
 235
 236         /* AVX-512: Op code 0f e6 */
 237
 238         asm volatile("vcvttpd2dq %xmm1,%xmm2");
 239         asm volatile("vcvtdq2pd %xmm5,%xmm6");
 240         asm volatile("vcvtdq2pd %ymm5,%zmm26{%k7}");
 241         asm volatile("vcvtqq2pd %zmm25,%zmm26");
 242         asm volatile("vcvtpd2dq %xmm1,%xmm2");
 243
 244         /* AVX-512: Op code 0f eb */
 245
 246         asm volatile("por   %mm4,%mm6");
 247         asm volatile("vpor   %ymm4,%ymm6,%ymm2");
 248         asm volatile("vpord  %zmm24,%zmm25,%zmm26");
 249         asm volatile("vporq  %zmm24,%zmm25,%zmm26");
 250
 251         /* AVX-512: Op code 0f ef */
 252
 253         asm volatile("pxor   %mm4,%mm6");
 254         asm volatile("vpxor  %ymm4,%ymm6,%ymm2");
 255         asm volatile("vpxord %zmm24,%zmm25,%zmm26");
 256         asm volatile("vpxorq %zmm24,%zmm25,%zmm26");
 257
 258         /* AVX-512: Op code 0f 38 10 */
 259
 260         asm volatile("pblendvb %xmm1,%xmm0");
 261         asm volatile("vpsrlvw %zmm27,%zmm28,%zmm29");
 262         asm volatile("vpmovuswb %zmm28,%ymm6{%k7}");
 263
 264         /* AVX-512: Op code 0f 38 11 */
 265
 266         asm volatile("vpmovusdb %zmm28,%xmm6{%k7}");
 267         asm volatile("vpsravw %zmm27,%zmm28,%zmm29");
 268
 269         /* AVX-512: Op code 0f 38 12 */
 270
 271         asm volatile("vpmovusqb %zmm27,%xmm6{%k7}");
 272         asm volatile("vpsllvw %zmm27,%zmm28,%zmm29");
 273
 274         /* AVX-512: Op code 0f 38 13 */
 275
 276         asm volatile("vcvtph2ps %xmm3,%ymm5");
 277         asm volatile("vcvtph2ps %ymm5,%zmm27{%k7}");
 278         asm volatile("vpmovusdw %zmm27,%ymm6{%k7}");
 279
 280         /* AVX-512: Op code 0f 38 14 */
 281
 282         asm volatile("blendvps %xmm1,%xmm0");
 283         asm volatile("vpmovusqw %zmm27,%xmm6{%k7}");
 284         asm volatile("vprorvd %zmm27,%zmm28,%zmm29");
 285         asm volatile("vprorvq %zmm27,%zmm28,%zmm29");
 286
 287         /* AVX-512: Op code 0f 38 15 */
 288
 289         asm volatile("blendvpd %xmm1,%xmm0");
 290         asm volatile("vpmovusqd %zmm27,%ymm6{%k7}");
 291         asm volatile("vprolvd %zmm27,%zmm28,%zmm29");
 292         asm volatile("vprolvq %zmm27,%zmm28,%zmm29");
 293
 294         /* AVX-512: Op code 0f 38 16 */
 295
 296         asm volatile("vpermps %ymm4,%ymm6,%ymm2");
 297         asm volatile("vpermps %ymm24,%ymm26,%ymm22{%k7}");
 298         asm volatile("vpermpd %ymm24,%ymm26,%ymm22{%k7}");
 299
 300         /* AVX-512: Op code 0f 38 19 */
 301
 302         asm volatile("vbroadcastsd %xmm4,%ymm6");
 303         asm volatile("vbroadcastf32x2 %xmm27,%zmm26");
 304
 305         /* AVX-512: Op code 0f 38 1a */
 306
 307         asm volatile("vbroadcastf128 (%rcx),%ymm4");
 308         asm volatile("vbroadcastf32x4 (%rcx),%zmm26");
 309         asm volatile("vbroadcastf64x2 (%rcx),%zmm26");
 310
 311         /* AVX-512: Op code 0f 38 1b */
 312
 313         asm volatile("vbroadcastf32x8 (%rcx),%zmm27");
 314         asm volatile("vbroadcastf64x4 (%rcx),%zmm26");
 315
 316         /* AVX-512: Op code 0f 38 1f */
 317
 318         asm volatile("vpabsq %zmm27,%zmm28");
 319
 320         /* AVX-512: Op code 0f 38 20 */
 321
 322         asm volatile("vpmovsxbw %xmm4,%xmm5");
 323         asm volatile("vpmovswb %zmm27,%ymm6{%k7}");
 324
 325         /* AVX-512: Op code 0f 38 21 */
 326
 327         asm volatile("vpmovsxbd %xmm4,%ymm6");
 328         asm volatile("vpmovsdb %zmm27,%xmm6{%k7}");
 329
 330         /* AVX-512: Op code 0f 38 22 */
 331
 332         asm volatile("vpmovsxbq %xmm4,%ymm4");
 333         asm volatile("vpmovsqb %zmm27,%xmm6{%k7}");
 334
 335         /* AVX-512: Op code 0f 38 23 */
 336
 337         asm volatile("vpmovsxwd %xmm4,%ymm4");
 338         asm volatile("vpmovsdw %zmm27,%ymm6{%k7}");
 339
 340         /* AVX-512: Op code 0f 38 24 */
 341
 342         asm volatile("vpmovsxwq %xmm4,%ymm6");
 343         asm volatile("vpmovsqw %zmm27,%xmm6{%k7}");
 344
 345         /* AVX-512: Op code 0f 38 25 */
 346
 347         asm volatile("vpmovsxdq %xmm4,%ymm4");
 348         asm volatile("vpmovsqd %zmm27,%ymm6{%k7}");
 349
 350         /* AVX-512: Op code 0f 38 26 */
 351
 352         asm volatile("vptestmb %zmm27,%zmm28,%k5");
 353         asm volatile("vptestmw %zmm27,%zmm28,%k5");
 354         asm volatile("vptestnmb %zmm26,%zmm27,%k5");
 355         asm volatile("vptestnmw %zmm26,%zmm27,%k5");
 356
 357         /* AVX-512: Op code 0f 38 27 */
 358
 359         asm volatile("vptestmd %zmm27,%zmm28,%k5");
 360         asm volatile("vptestmq %zmm27,%zmm28,%k5");
 361         asm volatile("vptestnmd %zmm26,%zmm27,%k5");
 362         asm volatile("vptestnmq %zmm26,%zmm27,%k5");
 363
 364         /* AVX-512: Op code 0f 38 28 */
 365
 366         asm volatile("vpmuldq %ymm4,%ymm6,%ymm2");
 367         asm volatile("vpmovm2b %k5,%zmm28");
 368         asm volatile("vpmovm2w %k5,%zmm28");
 369
 370         /* AVX-512: Op code 0f 38 29 */
 371
 372         asm volatile("vpcmpeqq %ymm4,%ymm6,%ymm2");
 373         asm volatile("vpmovb2m %zmm28,%k5");
 374         asm volatile("vpmovw2m %zmm28,%k5");
 375
 376         /* AVX-512: Op code 0f 38 2a */
 377
 378         asm volatile("vmovntdqa (%rcx),%ymm4");
 379         asm volatile("vpbroadcastmb2q %k6,%zmm30");
 380
 381         /* AVX-512: Op code 0f 38 2c */
 382
 383         asm volatile("vmaskmovps (%rcx),%ymm4,%ymm6");
 384         asm volatile("vscalefps %zmm24,%zmm25,%zmm26");
 385         asm volatile("vscalefpd %zmm24,%zmm25,%zmm26");
 386
 387         /* AVX-512: Op code 0f 38 2d */
 388
 389         asm volatile("vmaskmovpd (%rcx),%ymm4,%ymm6");
 390         asm volatile("vscalefss %xmm24,%xmm25,%xmm26{%k7}");
 391         asm volatile("vscalefsd %xmm24,%xmm25,%xmm26{%k7}");
 392
 393         /* AVX-512: Op code 0f 38 30 */
 394
 395         asm volatile("vpmovzxbw %xmm4,%ymm4");
 396         asm volatile("vpmovwb %zmm27,%ymm6{%k7}");
 397
 398         /* AVX-512: Op code 0f 38 31 */
 399
 400         asm volatile("vpmovzxbd %xmm4,%ymm6");
 401         asm volatile("vpmovdb %zmm27,%xmm6{%k7}");
 402
 403         /* AVX-512: Op code 0f 38 32 */
 404
 405         asm volatile("vpmovzxbq %xmm4,%ymm4");
 406         asm volatile("vpmovqb %zmm27,%xmm6{%k7}");
 407
 408         /* AVX-512: Op code 0f 38 33 */
 409
 410         asm volatile("vpmovzxwd %xmm4,%ymm4");
 411         asm volatile("vpmovdw %zmm27,%ymm6{%k7}");
 412
 413         /* AVX-512: Op code 0f 38 34 */
 414
 415         asm volatile("vpmovzxwq %xmm4,%ymm6");
 416         asm volatile("vpmovqw %zmm27,%xmm6{%k7}");
 417
 418         /* AVX-512: Op code 0f 38 35 */
 419
 420         asm volatile("vpmovzxdq %xmm4,%ymm4");
 421         asm volatile("vpmovqd %zmm27,%ymm6{%k7}");
 422
 423         /* AVX-512: Op code 0f 38 38 */
 424
 425         asm volatile("vpermd %ymm4,%ymm6,%ymm2");
 426         asm volatile("vpermd %ymm24,%ymm26,%ymm22{%k7}");
 427         asm volatile("vpermq %ymm24,%ymm26,%ymm22{%k7}");
 428
 429         /* AVX-512: Op code 0f 38 38 */
 430
 431         asm volatile("vpminsb %ymm4,%ymm6,%ymm2");
 432         asm volatile("vpmovm2d %k5,%zmm28");
 433         asm volatile("vpmovm2q %k5,%zmm28");
 434
 435         /* AVX-512: Op code 0f 38 39 */
 436
 437         asm volatile("vpminsd %xmm1,%xmm2,%xmm3");
 438         asm volatile("vpminsd %zmm24,%zmm25,%zmm26");
 439         asm volatile("vpminsq %zmm24,%zmm25,%zmm26");
 440         asm volatile("vpmovd2m %zmm28,%k5");
 441         asm volatile("vpmovq2m %zmm28,%k5");
 442
 443         /* AVX-512: Op code 0f 38 3a */
 444
 445         asm volatile("vpminuw %ymm4,%ymm6,%ymm2");
 446         asm volatile("vpbroadcastmw2d %k6,%zmm28");
 447
 448         /* AVX-512: Op code 0f 38 3b */
 449
 450         asm volatile("vpminud %ymm4,%ymm6,%ymm2");
 451         asm volatile("vpminud %zmm24,%zmm25,%zmm26");
 452         asm volatile("vpminuq %zmm24,%zmm25,%zmm26");
 453
 454         /* AVX-512: Op code 0f 38 3d */
 455
 456         asm volatile("vpmaxsd %ymm4,%ymm6,%ymm2");
 457         asm volatile("vpmaxsd %zmm24,%zmm25,%zmm26");
 458         asm volatile("vpmaxsq %zmm24,%zmm25,%zmm26");
 459
 460         /* AVX-512: Op code 0f 38 3f */
 461
 462         asm volatile("vpmaxud %ymm4,%ymm6,%ymm2");
 463         asm volatile("vpmaxud %zmm24,%zmm25,%zmm26");
 464         asm volatile("vpmaxuq %zmm24,%zmm25,%zmm26");
 465
 466         /* AVX-512: Op code 0f 38 42 */
 467
 468         asm volatile("vpmulld %ymm4,%ymm6,%ymm2");
 469         asm volatile("vpmulld %zmm24,%zmm25,%zmm26");
 470         asm volatile("vpmullq %zmm24,%zmm25,%zmm26");
 471
 472         /* AVX-512: Op code 0f 38 42 */
 473
 474         asm volatile("vgetexpps %zmm25,%zmm26");
 475         asm volatile("vgetexppd %zmm27,%zmm28");
 476
 477         /* AVX-512: Op code 0f 38 43 */
 478
 479         asm volatile("vgetexpss %xmm24,%xmm25,%xmm26{%k7}");
 480         asm volatile("vgetexpsd %xmm28,%xmm29,%xmm30{%k7}");
 481
 482         /* AVX-512: Op code 0f 38 44 */
 483
 484         asm volatile("vplzcntd %zmm27,%zmm28");
 485         asm volatile("vplzcntq %zmm27,%zmm28");
 486
 487         /* AVX-512: Op code 0f 38 46 */
 488
 489         asm volatile("vpsravd %ymm4,%ymm6,%ymm2");
 490         asm volatile("vpsravd %zmm24,%zmm25,%zmm26");
 491         asm volatile("vpsravq %zmm24,%zmm25,%zmm26");
 492
 493         /* AVX-512: Op code 0f 38 4c */
 494
 495         asm volatile("vrcp14ps %zmm25,%zmm26");
 496         asm volatile("vrcp14pd %zmm27,%zmm28");
 497
 498         /* AVX-512: Op code 0f 38 4d */
 499
 500         asm volatile("vrcp14ss %xmm24,%xmm25,%xmm26{%k7}");
 501         asm volatile("vrcp14sd %xmm24,%xmm25,%xmm26{%k7}");
 502
 503         /* AVX-512: Op code 0f 38 4e */
 504
 505         asm volatile("vrsqrt14ps %zmm25,%zmm26");
 506         asm volatile("vrsqrt14pd %zmm27,%zmm28");
 507
 508         /* AVX-512: Op code 0f 38 4f */
 509
 510         asm volatile("vrsqrt14ss %xmm24,%xmm25,%xmm26{%k7}");
 511         asm volatile("vrsqrt14sd %xmm24,%xmm25,%xmm26{%k7}");
 512
 513         /* AVX-512: Op code 0f 38 59 */
 514
 515         asm volatile("vpbroadcastq %xmm4,%xmm6");
 516         asm volatile("vbroadcasti32x2 %xmm27,%zmm26");
 517
 518         /* AVX-512: Op code 0f 38 5a */
 519
 520         asm volatile("vbroadcasti128 (%rcx),%ymm4");
 521         asm volatile("vbroadcasti32x4 (%rcx),%zmm26");
 522         asm volatile("vbroadcasti64x2 (%rcx),%zmm26");
 523
 524         /* AVX-512: Op code 0f 38 5b */
 525
 526         asm volatile("vbroadcasti32x8 (%rcx),%zmm28");
 527         asm volatile("vbroadcasti64x4 (%rcx),%zmm26");
 528
 529         /* AVX-512: Op code 0f 38 64 */
 530
 531         asm volatile("vpblendmd %zmm26,%zmm27,%zmm28");
 532         asm volatile("vpblendmq %zmm26,%zmm27,%zmm28");
 533
 534         /* AVX-512: Op code 0f 38 65 */
 535
 536         asm volatile("vblendmps %zmm24,%zmm25,%zmm26");
 537         asm volatile("vblendmpd %zmm26,%zmm27,%zmm28");
 538
 539         /* AVX-512: Op code 0f 38 66 */
 540
 541         asm volatile("vpblendmb %zmm26,%zmm27,%zmm28");
 542         asm volatile("vpblendmw %zmm26,%zmm27,%zmm28");
 543
 544         /* AVX-512: Op code 0f 38 75 */
 545
 546         asm volatile("vpermi2b %zmm24,%zmm25,%zmm26");
 547         asm volatile("vpermi2w %zmm26,%zmm27,%zmm28");
 548
 549         /* AVX-512: Op code 0f 38 76 */
 550
 551         asm volatile("vpermi2d %zmm26,%zmm27,%zmm28");
 552         asm volatile("vpermi2q %zmm26,%zmm27,%zmm28");
 553
 554         /* AVX-512: Op code 0f 38 77 */
 555
 556         asm volatile("vpermi2ps %zmm26,%zmm27,%zmm28");
 557         asm volatile("vpermi2pd %zmm26,%zmm27,%zmm28");
 558
 559         /* AVX-512: Op code 0f 38 7a */
 560
 561         asm volatile("vpbroadcastb %eax,%xmm30");
 562
 563         /* AVX-512: Op code 0f 38 7b */
 564
 565         asm volatile("vpbroadcastw %eax,%xmm30");
 566
 567         /* AVX-512: Op code 0f 38 7c */
 568
 569         asm volatile("vpbroadcastd %eax,%xmm30");
 570         asm volatile("vpbroadcastq %rax,%zmm30");
 571
 572         /* AVX-512: Op code 0f 38 7d */
 573
 574         asm volatile("vpermt2b %zmm26,%zmm27,%zmm28");
 575         asm volatile("vpermt2w %zmm26,%zmm27,%zmm28");
 576
 577         /* AVX-512: Op code 0f 38 7e */
 578
 579         asm volatile("vpermt2d %zmm26,%zmm27,%zmm28");
 580         asm volatile("vpermt2q %zmm26,%zmm27,%zmm28");
 581
 582         /* AVX-512: Op code 0f 38 7f */
 583
 584         asm volatile("vpermt2ps %zmm26,%zmm27,%zmm28");
 585         asm volatile("vpermt2pd %zmm26,%zmm27,%zmm28");
 586
 587         /* AVX-512: Op code 0f 38 83 */
 588
 589         asm volatile("vpmultishiftqb %zmm26,%zmm27,%zmm28");
 590
 591         /* AVX-512: Op code 0f 38 88 */
 592
 593         asm volatile("vexpandps (%rcx),%zmm26");
 594         asm volatile("vexpandpd (%rcx),%zmm28");
 595
 596         /* AVX-512: Op code 0f 38 89 */
 597
 598         asm volatile("vpexpandd (%rcx),%zmm28");
 599         asm volatile("vpexpandq (%rcx),%zmm26");
 600
 601         /* AVX-512: Op code 0f 38 8a */
 602
 603         asm volatile("vcompressps %zmm28,(%rcx)");
 604         asm volatile("vcompresspd %zmm28,(%rcx)");
 605
 606         /* AVX-512: Op code 0f 38 8b */
 607
 608         asm volatile("vpcompressd %zmm28,(%rcx)");
 609         asm volatile("vpcompressq %zmm26,(%rcx)");
 610
 611         /* AVX-512: Op code 0f 38 8d */
 612
 613         asm volatile("vpermb %zmm26,%zmm27,%zmm28");
 614         asm volatile("vpermw %zmm26,%zmm27,%zmm28");
 615
 616         /* AVX-512: Op code 0f 38 90 */
 617
 618         asm volatile("vpgatherdd %xmm2,0x02(%rbp,%xmm7,2),%xmm1");
 619         asm volatile("vpgatherdq %xmm2,0x04(%rbp,%xmm7,2),%xmm1");
 620         asm volatile("vpgatherdd 0x7b(%rbp,%zmm27,8),%zmm26{%k1}");
 621         asm volatile("vpgatherdq 0x7b(%rbp,%ymm27,8),%zmm26{%k1}");
 622
 623         /* AVX-512: Op code 0f 38 91 */
 624
 625         asm volatile("vpgatherqd %xmm2,0x02(%rbp,%xmm7,2),%xmm1");
 626         asm volatile("vpgatherqq %xmm2,0x02(%rbp,%xmm7,2),%xmm1");
 627         asm volatile("vpgatherqd 0x7b(%rbp,%zmm27,8),%ymm26{%k1}");
 628         asm volatile("vpgatherqq 0x7b(%rbp,%zmm27,8),%zmm26{%k1}");
 629
 630         /* AVX-512: Op code 0f 38 a0 */
 631
 632         asm volatile("vpscatterdd %zmm28,0x7b(%rbp,%zmm29,8){%k1}");
 633         asm volatile("vpscatterdq %zmm26,0x7b(%rbp,%ymm27,8){%k1}");
 634
 635         /* AVX-512: Op code 0f 38 a1 */
 636
 637         asm volatile("vpscatterqd %ymm6,0x7b(%rbp,%zmm29,8){%k1}");
 638         asm volatile("vpscatterqq %ymm6,0x7b(%rbp,%ymm27,8){%k1}");
 639
 640         /* AVX-512: Op code 0f 38 a2 */
 641
 642         asm volatile("vscatterdps %zmm28,0x7b(%rbp,%zmm29,8){%k1}");
 643         asm volatile("vscatterdpd %zmm28,0x7b(%rbp,%ymm27,8){%k1}");
 644
 645         /* AVX-512: Op code 0f 38 a3 */
 646
 647         asm volatile("vscatterqps %ymm6,0x7b(%rbp,%zmm29,8){%k1}");
 648         asm volatile("vscatterqpd %zmm28,0x7b(%rbp,%zmm29,8){%k1}");
 649
 650         /* AVX-512: Op code 0f 38 b4 */
 651
 652         asm volatile("vpmadd52luq %zmm26,%zmm27,%zmm28");
 653
 654         /* AVX-512: Op code 0f 38 b5 */
 655
 656         asm volatile("vpmadd52huq %zmm26,%zmm27,%zmm28");
 657
 658         /* AVX-512: Op code 0f 38 c4 */
 659
 660         asm volatile("vpconflictd %zmm26,%zmm27");
 661         asm volatile("vpconflictq %zmm26,%zmm27");
 662
 663         /* AVX-512: Op code 0f 38 c8 */
 664
 665         asm volatile("vexp2ps %zmm29,%zmm30");
 666         asm volatile("vexp2pd %zmm26,%zmm27");
 667
 668         /* AVX-512: Op code 0f 38 ca */
 669
 670         asm volatile("vrcp28ps %zmm29,%zmm30");
 671         asm volatile("vrcp28pd %zmm26,%zmm27");
 672
 673         /* AVX-512: Op code 0f 38 cb */
 674
 675         asm volatile("vrcp28ss %xmm28,%xmm29,%xmm30{%k7}");
 676         asm volatile("vrcp28sd %xmm25,%xmm26,%xmm27{%k7}");
 677
 678         /* AVX-512: Op code 0f 38 cc */
 679
 680         asm volatile("vrsqrt28ps %zmm29,%zmm30");
 681         asm volatile("vrsqrt28pd %zmm26,%zmm27");
 682
 683         /* AVX-512: Op code 0f 38 cd */
 684
 685         asm volatile("vrsqrt28ss %xmm28,%xmm29,%xmm30{%k7}");
 686         asm volatile("vrsqrt28sd %xmm25,%xmm26,%xmm27{%k7}");
 687
 688         /* AVX-512: Op code 0f 3a 03 */
 689
 690         asm volatile("valignd $0x12,%zmm28,%zmm29,%zmm30");
 691         asm volatile("valignq $0x12,%zmm25,%zmm26,%zmm27");
 692
 693         /* AVX-512: Op code 0f 3a 08 */
 694
 695         asm volatile("vroundps $0x5,%ymm6,%ymm2");
 696         asm volatile("vrndscaleps $0x12,%zmm25,%zmm26");
 697
 698         /* AVX-512: Op code 0f 3a 09 */
 699
 700         asm volatile("vroundpd $0x5,%ymm6,%ymm2");
 701         asm volatile("vrndscalepd $0x12,%zmm25,%zmm26");
 702
 703         /* AVX-512: Op code 0f 3a 1a */
 704
 705         asm volatile("vroundss $0x5,%xmm4,%xmm6,%xmm2");
 706         asm volatile("vrndscaless $0x12,%xmm24,%xmm25,%xmm26{%k7}");
 707
 708         /* AVX-512: Op code 0f 3a 0b */
 709
 710         asm volatile("vroundsd $0x5,%xmm4,%xmm6,%xmm2");
 711         asm volatile("vrndscalesd $0x12,%xmm24,%xmm25,%xmm26{%k7}");
 712
 713         /* AVX-512: Op code 0f 3a 18 */
 714
 715         asm volatile("vinsertf128 $0x5,%xmm4,%ymm4,%ymm6");
 716         asm volatile("vinsertf32x4 $0x12,%xmm24,%zmm25,%zmm26{%k7}");
 717         asm volatile("vinsertf64x2 $0x12,%xmm24,%zmm25,%zmm26{%k7}");
 718
 719         /* AVX-512: Op code 0f 3a 19 */
 720
 721         asm volatile("vextractf128 $0x5,%ymm4,%xmm4");
 722         asm volatile("vextractf32x4 $0x12,%zmm25,%xmm26{%k7}");
 723         asm volatile("vextractf64x2 $0x12,%zmm25,%xmm26{%k7}");
 724
 725         /* AVX-512: Op code 0f 3a 1a */
 726
 727         asm volatile("vinsertf32x8 $0x12,%ymm25,%zmm26,%zmm27{%k7}");
 728         asm volatile("vinsertf64x4 $0x12,%ymm28,%zmm29,%zmm30{%k7}");
 729
 730         /* AVX-512: Op code 0f 3a 1b */
 731
 732         asm volatile("vextractf32x8 $0x12,%zmm29,%ymm30{%k7}");
 733         asm volatile("vextractf64x4 $0x12,%zmm26,%ymm27{%k7}");
 734
 735         /* AVX-512: Op code 0f 3a 1e */
 736
 737         asm volatile("vpcmpud $0x12,%zmm29,%zmm30,%k5");
 738         asm volatile("vpcmpuq $0x12,%zmm26,%zmm27,%k5");
 739
 740         /* AVX-512: Op code 0f 3a 1f */
 741
 742         asm volatile("vpcmpd $0x12,%zmm29,%zmm30,%k5");
 743         asm volatile("vpcmpq $0x12,%zmm26,%zmm27,%k5");
 744
 745         /* AVX-512: Op code 0f 3a 23 */
 746
 747         asm volatile("vshuff32x4 $0x12,%zmm28,%zmm29,%zmm30");
 748         asm volatile("vshuff64x2 $0x12,%zmm25,%zmm26,%zmm27");
 749
 750         /* AVX-512: Op code 0f 3a 25 */
 751
 752         asm volatile("vpternlogd $0x12,%zmm28,%zmm29,%zmm30");
 753         asm volatile("vpternlogq $0x12,%zmm28,%zmm29,%zmm30");
 754
 755         /* AVX-512: Op code 0f 3a 26 */
 756
 757         asm volatile("vgetmantps $0x12,%zmm26,%zmm27");
 758         asm volatile("vgetmantpd $0x12,%zmm29,%zmm30");
 759
 760         /* AVX-512: Op code 0f 3a 27 */
 761
 762         asm volatile("vgetmantss $0x12,%xmm25,%xmm26,%xmm27{%k7}");
 763         asm volatile("vgetmantsd $0x12,%xmm28,%xmm29,%xmm30{%k7}");
 764
 765         /* AVX-512: Op code 0f 3a 38 */
 766
 767         asm volatile("vinserti128 $0x5,%xmm4,%ymm4,%ymm6");
 768         asm volatile("vinserti32x4 $0x12,%xmm24,%zmm25,%zmm26{%k7}");
 769         asm volatile("vinserti64x2 $0x12,%xmm24,%zmm25,%zmm26{%k7}");
 770
 771         /* AVX-512: Op code 0f 3a 39 */
 772
 773         asm volatile("vextracti128 $0x5,%ymm4,%xmm6");
 774         asm volatile("vextracti32x4 $0x12,%zmm25,%xmm26{%k7}");
 775         asm volatile("vextracti64x2 $0x12,%zmm25,%xmm26{%k7}");
 776
 777         /* AVX-512: Op code 0f 3a 3a */
 778
 779         asm volatile("vinserti32x8 $0x12,%ymm28,%zmm29,%zmm30{%k7}");
 780         asm volatile("vinserti64x4 $0x12,%ymm25,%zmm26,%zmm27{%k7}");
 781
 782         /* AVX-512: Op code 0f 3a 3b */
 783
 784         asm volatile("vextracti32x8 $0x12,%zmm29,%ymm30{%k7}");
 785         asm volatile("vextracti64x4 $0x12,%zmm26,%ymm27{%k7}");
 786
 787         /* AVX-512: Op code 0f 3a 3e */
 788
 789         asm volatile("vpcmpub $0x12,%zmm29,%zmm30,%k5");
 790         asm volatile("vpcmpuw $0x12,%zmm26,%zmm27,%k5");
 791
 792         /* AVX-512: Op code 0f 3a 3f */
 793
 794         asm volatile("vpcmpb $0x12,%zmm29,%zmm30,%k5");
 795         asm volatile("vpcmpw $0x12,%zmm26,%zmm27,%k5");
 796
 797         /* AVX-512: Op code 0f 3a 43 */
 798
 799         asm volatile("vmpsadbw $0x5,%ymm4,%ymm6,%ymm2");
 800         asm volatile("vdbpsadbw $0x12,%zmm4,%zmm5,%zmm6");
 801
 802         /* AVX-512: Op code 0f 3a 43 */
 803
 804         asm volatile("vshufi32x4 $0x12,%zmm25,%zmm26,%zmm27");
 805         asm volatile("vshufi64x2 $0x12,%zmm28,%zmm29,%zmm30");
 806
 807         /* AVX-512: Op code 0f 3a 50 */
 808
 809         asm volatile("vrangeps $0x12,%zmm25,%zmm26,%zmm27");
 810         asm volatile("vrangepd $0x12,%zmm28,%zmm29,%zmm30");
 811
 812         /* AVX-512: Op code 0f 3a 51 */
 813
 814         asm volatile("vrangess $0x12,%xmm25,%xmm26,%xmm27");
 815         asm volatile("vrangesd $0x12,%xmm28,%xmm29,%xmm30");
 816
 817         /* AVX-512: Op code 0f 3a 54 */
 818
 819         asm volatile("vfixupimmps $0x12,%zmm28,%zmm29,%zmm30");
 820         asm volatile("vfixupimmpd $0x12,%zmm25,%zmm26,%zmm27");
 821
 822         /* AVX-512: Op code 0f 3a 55 */
 823
 824         asm volatile("vfixupimmss $0x12,%xmm28,%xmm29,%xmm30{%k7}");
 825         asm volatile("vfixupimmsd $0x12,%xmm25,%xmm26,%xmm27{%k7}");
 826
 827         /* AVX-512: Op code 0f 3a 56 */
 828
 829         asm volatile("vreduceps $0x12,%zmm26,%zmm27");
 830         asm volatile("vreducepd $0x12,%zmm29,%zmm30");
 831
 832         /* AVX-512: Op code 0f 3a 57 */
 833
 834         asm volatile("vreducess $0x12,%xmm25,%xmm26,%xmm27");
 835         asm volatile("vreducesd $0x12,%xmm28,%xmm29,%xmm30");
 836
 837         /* AVX-512: Op code 0f 3a 66 */
 838
 839         asm volatile("vfpclassps $0x12,%zmm27,%k5");
 840         asm volatile("vfpclasspd $0x12,%zmm30,%k5");
 841
 842         /* AVX-512: Op code 0f 3a 67 */
 843
 844         asm volatile("vfpclassss $0x12,%xmm27,%k5");
 845         asm volatile("vfpclasssd $0x12,%xmm30,%k5");
 846
 847         /* AVX-512: Op code 0f 72 (Grp13) */
 848
 849         asm volatile("vprord $0x12,%zmm25,%zmm26");
 850         asm volatile("vprorq $0x12,%zmm25,%zmm26");
 851         asm volatile("vprold $0x12,%zmm29,%zmm30");
 852         asm volatile("vprolq $0x12,%zmm29,%zmm30");
 853         asm volatile("psrad  $0x2,%mm6");
 854         asm volatile("vpsrad $0x5,%ymm6,%ymm2");
 855         asm volatile("vpsrad $0x5,%zmm26,%zmm22");
 856         asm volatile("vpsraq $0x5,%zmm26,%zmm22");
 857
 858         /* AVX-512: Op code 0f 38 c6 (Grp18) */
 859
 860         asm volatile("vgatherpf0dps 0x7b(%r14,%zmm31,8){%k1}");
 861         asm volatile("vgatherpf0dpd 0x7b(%r14,%ymm31,8){%k1}");
 862         asm volatile("vgatherpf1dps 0x7b(%r14,%zmm31,8){%k1}");
 863         asm volatile("vgatherpf1dpd 0x7b(%r14,%ymm31,8){%k1}");
 864         asm volatile("vscatterpf0dps 0x7b(%r14,%zmm31,8){%k1}");
 865         asm volatile("vscatterpf0dpd 0x7b(%r14,%ymm31,8){%k1}");
 866         asm volatile("vscatterpf1dps 0x7b(%r14,%zmm31,8){%k1}");
 867         asm volatile("vscatterpf1dpd 0x7b(%r14,%ymm31,8){%k1}");
 868
 869         /* AVX-512: Op code 0f 38 c7 (Grp19) */
 870
 871         asm volatile("vgatherpf0qps 0x7b(%r14,%zmm31,8){%k1}");
 872         asm volatile("vgatherpf0qpd 0x7b(%r14,%zmm31,8){%k1}");
 873         asm volatile("vgatherpf1qps 0x7b(%r14,%zmm31,8){%k1}");
 874         asm volatile("vgatherpf1qpd 0x7b(%r14,%zmm31,8){%k1}");
 875         asm volatile("vscatterpf0qps 0x7b(%r14,%zmm31,8){%k1}");
 876         asm volatile("vscatterpf0qpd 0x7b(%r14,%zmm31,8){%k1}");
 877         asm volatile("vscatterpf1qps 0x7b(%r14,%zmm31,8){%k1}");
 878         asm volatile("vscatterpf1qpd 0x7b(%r14,%zmm31,8){%k1}");
 879
 880         /* AVX-512: Examples */
 881
 882         asm volatile("vaddpd %zmm28,%zmm29,%zmm30");
 883         asm volatile("vaddpd %zmm28,%zmm29,%zmm30{%k7}");
 884         asm volatile("vaddpd %zmm28,%zmm29,%zmm30{%k7}{z}");
 885         asm volatile("vaddpd {rn-sae},%zmm28,%zmm29,%zmm30");
 886         asm volatile("vaddpd {ru-sae},%zmm28,%zmm29,%zmm30");
 887         asm volatile("vaddpd {rd-sae},%zmm28,%zmm29,%zmm30");
 888         asm volatile("vaddpd {rz-sae},%zmm28,%zmm29,%zmm30");
 889         asm volatile("vaddpd (%rcx),%zmm29,%zmm30");
 890         asm volatile("vaddpd 0x123(%rax,%r14,8),%zmm29,%zmm30");
 891         asm volatile("vaddpd (%rcx){1to8},%zmm29,%zmm30");
 892         asm volatile("vaddpd 0x1fc0(%rdx),%zmm29,%zmm30");
 893         asm volatile("vaddpd 0x3f8(%rdx){1to8},%zmm29,%zmm30");
 894         asm volatile("vcmpeq_uqps 0x1fc(%rdx){1to16},%zmm30,%k5");
 895         asm volatile("vcmpltsd 0x123(%rax,%r14,8),%xmm29,%k5{%k7}");
 896         asm volatile("vcmplesd {sae},%xmm28,%xmm29,%k5{%k7}");
 897         asm volatile("vgetmantss $0x5b,0x123(%rax,%r14,8),%xmm29,%xmm30{%k7}");
 898
 899         /* bndmk m64, bnd */
 900
 901         asm volatile("bndmk (%rax), %bnd0");
 902         asm volatile("bndmk (%r8), %bnd0");
 903         asm volatile("bndmk (0x12345678), %bnd0");
 904         asm volatile("bndmk (%rax), %bnd3");
 905         asm volatile("bndmk (%rcx,%rax,1), %bnd0");
 906         asm volatile("bndmk 0x12345678(,%rax,1), %bnd0");
 907         asm volatile("bndmk (%rax,%rcx,1), %bnd0");
 908         asm volatile("bndmk (%rax,%rcx,8), %bnd0");
 909         asm volatile("bndmk 0x12(%rax), %bnd0");
 910         asm volatile("bndmk 0x12(%rbp), %bnd0");
 911         asm volatile("bndmk 0x12(%rcx,%rax,1), %bnd0");
 912         asm volatile("bndmk 0x12(%rbp,%rax,1), %bnd0");
 913         asm volatile("bndmk 0x12(%rax,%rcx,1), %bnd0");
 914         asm volatile("bndmk 0x12(%rax,%rcx,8), %bnd0");
 915         asm volatile("bndmk 0x12345678(%rax), %bnd0");
 916         asm volatile("bndmk 0x12345678(%rbp), %bnd0");
 917         asm volatile("bndmk 0x12345678(%rcx,%rax,1), %bnd0");
 918         asm volatile("bndmk 0x12345678(%rbp,%rax,1), %bnd0");
 919         asm volatile("bndmk 0x12345678(%rax,%rcx,1), %bnd0");
 920         asm volatile("bndmk 0x12345678(%rax,%rcx,8), %bnd0");
 921
 922         /* bndcl r/m64, bnd */
 923
 924         asm volatile("bndcl (%rax), %bnd0");
 925         asm volatile("bndcl (%r8), %bnd0");
 926         asm volatile("bndcl (0x12345678), %bnd0");
 927         asm volatile("bndcl (%rax), %bnd3");
 928         asm volatile("bndcl (%rcx,%rax,1), %bnd0");
 929         asm volatile("bndcl 0x12345678(,%rax,1), %bnd0");
 930         asm volatile("bndcl (%rax,%rcx,1), %bnd0");
 931         asm volatile("bndcl (%rax,%rcx,8), %bnd0");
 932         asm volatile("bndcl 0x12(%rax), %bnd0");
 933         asm volatile("bndcl 0x12(%rbp), %bnd0");
 934         asm volatile("bndcl 0x12(%rcx,%rax,1), %bnd0");
 935         asm volatile("bndcl 0x12(%rbp,%rax,1), %bnd0");
 936         asm volatile("bndcl 0x12(%rax,%rcx,1), %bnd0");
 937         asm volatile("bndcl 0x12(%rax,%rcx,8), %bnd0");
 938         asm volatile("bndcl 0x12345678(%rax), %bnd0");
 939         asm volatile("bndcl 0x12345678(%rbp), %bnd0");
 940         asm volatile("bndcl 0x12345678(%rcx,%rax,1), %bnd0");
 941         asm volatile("bndcl 0x12345678(%rbp,%rax,1), %bnd0");
 942         asm volatile("bndcl 0x12345678(%rax,%rcx,1), %bnd0");
 943         asm volatile("bndcl 0x12345678(%rax,%rcx,8), %bnd0");
 944         asm volatile("bndcl %rax, %bnd0");
 945
 946         /* bndcu r/m64, bnd */
 947
 948         asm volatile("bndcu (%rax), %bnd0");
 949         asm volatile("bndcu (%r8), %bnd0");
 950         asm volatile("bndcu (0x12345678), %bnd0");
 951         asm volatile("bndcu (%rax), %bnd3");
 952         asm volatile("bndcu (%rcx,%rax,1), %bnd0");
 953         asm volatile("bndcu 0x12345678(,%rax,1), %bnd0");
 954         asm volatile("bndcu (%rax,%rcx,1), %bnd0");
 955         asm volatile("bndcu (%rax,%rcx,8), %bnd0");
 956         asm volatile("bndcu 0x12(%rax), %bnd0");
 957         asm volatile("bndcu 0x12(%rbp), %bnd0");
 958         asm volatile("bndcu 0x12(%rcx,%rax,1), %bnd0");
 959         asm volatile("bndcu 0x12(%rbp,%rax,1), %bnd0");
 960         asm volatile("bndcu 0x12(%rax,%rcx,1), %bnd0");
 961         asm volatile("bndcu 0x12(%rax,%rcx,8), %bnd0");
 962         asm volatile("bndcu 0x12345678(%rax), %bnd0");
 963         asm volatile("bndcu 0x12345678(%rbp), %bnd0");
 964         asm volatile("bndcu 0x12345678(%rcx,%rax,1), %bnd0");
 965         asm volatile("bndcu 0x12345678(%rbp,%rax,1), %bnd0");
 966         asm volatile("bndcu 0x12345678(%rax,%rcx,1), %bnd0");
 967         asm volatile("bndcu 0x12345678(%rax,%rcx,8), %bnd0");
 968         asm volatile("bndcu %rax, %bnd0");
 969
 970         /* bndcn r/m64, bnd */
 971
 972         asm volatile("bndcn (%rax), %bnd0");
 973         asm volatile("bndcn (%r8), %bnd0");
 974         asm volatile("bndcn (0x12345678), %bnd0");
 975         asm volatile("bndcn (%rax), %bnd3");
 976         asm volatile("bndcn (%rcx,%rax,1), %bnd0");
 977         asm volatile("bndcn 0x12345678(,%rax,1), %bnd0");
 978         asm volatile("bndcn (%rax,%rcx,1), %bnd0");
 979         asm volatile("bndcn (%rax,%rcx,8), %bnd0");
 980         asm volatile("bndcn 0x12(%rax), %bnd0");
 981         asm volatile("bndcn 0x12(%rbp), %bnd0");
 982         asm volatile("bndcn 0x12(%rcx,%rax,1), %bnd0");
 983         asm volatile("bndcn 0x12(%rbp,%rax,1), %bnd0");
 984         asm volatile("bndcn 0x12(%rax,%rcx,1), %bnd0");
 985         asm volatile("bndcn 0x12(%rax,%rcx,8), %bnd0");
 986         asm volatile("bndcn 0x12345678(%rax), %bnd0");
 987         asm volatile("bndcn 0x12345678(%rbp), %bnd0");
 988         asm volatile("bndcn 0x12345678(%rcx,%rax,1), %bnd0");
 989         asm volatile("bndcn 0x12345678(%rbp,%rax,1), %bnd0");
 990         asm volatile("bndcn 0x12345678(%rax,%rcx,1), %bnd0");
 991         asm volatile("bndcn 0x12345678(%rax,%rcx,8), %bnd0");
 992         asm volatile("bndcn %rax, %bnd0");
 993
 994         /* bndmov m128, bnd */
 995
 996         asm volatile("bndmov (%rax), %bnd0");
 997         asm volatile("bndmov (%r8), %bnd0");
 998         asm volatile("bndmov (0x12345678), %bnd0");
 999         asm volatile("bndmov (%rax), %bnd3");
1000         asm volatile("bndmov (%rcx,%rax,1), %bnd0");
1001         asm volatile("bndmov 0x12345678(,%rax,1), %bnd0");
1002         asm volatile("bndmov (%rax,%rcx,1), %bnd0");
1003         asm volatile("bndmov (%rax,%rcx,8), %bnd0");
1004         asm volatile("bndmov 0x12(%rax), %bnd0");
1005         asm volatile("bndmov 0x12(%rbp), %bnd0");
1006         asm volatile("bndmov 0x12(%rcx,%rax,1), %bnd0");
1007         asm volatile("bndmov 0x12(%rbp,%rax,1), %bnd0");
1008         asm volatile("bndmov 0x12(%rax,%rcx,1), %bnd0");
1009         asm volatile("bndmov 0x12(%rax,%rcx,8), %bnd0");
1010         asm volatile("bndmov 0x12345678(%rax), %bnd0");
1011         asm volatile("bndmov 0x12345678(%rbp), %bnd0");
1012         asm volatile("bndmov 0x12345678(%rcx,%rax,1), %bnd0");
1013         asm volatile("bndmov 0x12345678(%rbp,%rax,1), %bnd0");
1014         asm volatile("bndmov 0x12345678(%rax,%rcx,1), %bnd0");
1015         asm volatile("bndmov 0x12345678(%rax,%rcx,8), %bnd0");
1016
1017         /* bndmov bnd, m128 */
1018
1019         asm volatile("bndmov %bnd0, (%rax)");
1020         asm volatile("bndmov %bnd0, (%r8)");
1021         asm volatile("bndmov %bnd0, (0x12345678)");
1022         asm volatile("bndmov %bnd3, (%rax)");
1023         asm volatile("bndmov %bnd0, (%rcx,%rax,1)");
1024         asm volatile("bndmov %bnd0, 0x12345678(,%rax,1)");
1025         asm volatile("bndmov %bnd0, (%rax,%rcx,1)");
1026         asm volatile("bndmov %bnd0, (%rax,%rcx,8)");
1027         asm volatile("bndmov %bnd0, 0x12(%rax)");
1028         asm volatile("bndmov %bnd0, 0x12(%rbp)");
1029         asm volatile("bndmov %bnd0, 0x12(%rcx,%rax,1)");
1030         asm volatile("bndmov %bnd0, 0x12(%rbp,%rax,1)");
1031         asm volatile("bndmov %bnd0, 0x12(%rax,%rcx,1)");
1032         asm volatile("bndmov %bnd0, 0x12(%rax,%rcx,8)");
1033         asm volatile("bndmov %bnd0, 0x12345678(%rax)");
1034         asm volatile("bndmov %bnd0, 0x12345678(%rbp)");
1035         asm volatile("bndmov %bnd0, 0x12345678(%rcx,%rax,1)");
1036         asm volatile("bndmov %bnd0, 0x12345678(%rbp,%rax,1)");
1037         asm volatile("bndmov %bnd0, 0x12345678(%rax,%rcx,1)");
1038         asm volatile("bndmov %bnd0, 0x12345678(%rax,%rcx,8)");
1039
1040         /* bndmov bnd2, bnd1 */
1041
1042         asm volatile("bndmov %bnd0, %bnd1");
1043         asm volatile("bndmov %bnd1, %bnd0");
1044
1045         /* bndldx mib, bnd */
1046
1047         asm volatile("bndldx (%rax), %bnd0");
1048         asm volatile("bndldx (%r8), %bnd0");
1049         asm volatile("bndldx (0x12345678), %bnd0");
1050         asm volatile("bndldx (%rax), %bnd3");
1051         asm volatile("bndldx (%rcx,%rax,1), %bnd0");
1052         asm volatile("bndldx 0x12345678(,%rax,1), %bnd0");
1053         asm volatile("bndldx (%rax,%rcx,1), %bnd0");
1054         asm volatile("bndldx 0x12(%rax), %bnd0");
1055         asm volatile("bndldx 0x12(%rbp), %bnd0");
1056         asm volatile("bndldx 0x12(%rcx,%rax,1), %bnd0");
1057         asm volatile("bndldx 0x12(%rbp,%rax,1), %bnd0");
1058         asm volatile("bndldx 0x12(%rax,%rcx,1), %bnd0");
1059         asm volatile("bndldx 0x12345678(%rax), %bnd0");
1060         asm volatile("bndldx 0x12345678(%rbp), %bnd0");
1061         asm volatile("bndldx 0x12345678(%rcx,%rax,1), %bnd0");
1062         asm volatile("bndldx 0x12345678(%rbp,%rax,1), %bnd0");
1063         asm volatile("bndldx 0x12345678(%rax,%rcx,1), %bnd0");
1064
1065         /* bndstx bnd, mib */
1066
1067         asm volatile("bndstx %bnd0, (%rax)");
1068         asm volatile("bndstx %bnd0, (%r8)");
1069         asm volatile("bndstx %bnd0, (0x12345678)");
1070         asm volatile("bndstx %bnd3, (%rax)");
1071         asm volatile("bndstx %bnd0, (%rcx,%rax,1)");
1072         asm volatile("bndstx %bnd0, 0x12345678(,%rax,1)");
1073         asm volatile("bndstx %bnd0, (%rax,%rcx,1)");
1074         asm volatile("bndstx %bnd0, 0x12(%rax)");
1075         asm volatile("bndstx %bnd0, 0x12(%rbp)");
1076         asm volatile("bndstx %bnd0, 0x12(%rcx,%rax,1)");
1077         asm volatile("bndstx %bnd0, 0x12(%rbp,%rax,1)");
1078         asm volatile("bndstx %bnd0, 0x12(%rax,%rcx,1)");
1079         asm volatile("bndstx %bnd0, 0x12345678(%rax)");
1080         asm volatile("bndstx %bnd0, 0x12345678(%rbp)");
1081         asm volatile("bndstx %bnd0, 0x12345678(%rcx,%rax,1)");
1082         asm volatile("bndstx %bnd0, 0x12345678(%rbp,%rax,1)");
1083         asm volatile("bndstx %bnd0, 0x12345678(%rax,%rcx,1)");
1084
1085         /* bnd prefix on call, ret, jmp and all jcc */
1086
1087         asm volatile("bnd call label1");  /* Expecting: call unconditional 0 */
1088         asm volatile("bnd call *(%eax)"); /* Expecting: call indirect      0 */
1089         asm volatile("bnd ret");          /* Expecting: ret  indirect      0 */
1090         asm volatile("bnd jmp label1");   /* Expecting: jmp  unconditional 0 */
1091         asm volatile("bnd jmp label1");   /* Expecting: jmp  unconditional 0 */
1092         asm volatile("bnd jmp *(%ecx)");  /* Expecting: jmp  indirect      0 */
1093         asm volatile("bnd jne label1");   /* Expecting: jcc  conditional   0 */
1094
1095         /* sha1rnds4 imm8, xmm2/m128, xmm1 */
1096
1097         asm volatile("sha1rnds4 $0x0, %xmm1, %xmm0");
1098         asm volatile("sha1rnds4 $0x91, %xmm7, %xmm2");
1099         asm volatile("sha1rnds4 $0x91, %xmm8, %xmm0");
1100         asm volatile("sha1rnds4 $0x91, %xmm7, %xmm8");
1101         asm volatile("sha1rnds4 $0x91, %xmm15, %xmm8");
1102         asm volatile("sha1rnds4 $0x91, (%rax), %xmm0");
1103         asm volatile("sha1rnds4 $0x91, (%r8), %xmm0");
1104         asm volatile("sha1rnds4 $0x91, (0x12345678), %xmm0");
1105         asm volatile("sha1rnds4 $0x91, (%rax), %xmm3");
1106         asm volatile("sha1rnds4 $0x91, (%rcx,%rax,1), %xmm0");
1107         asm volatile("sha1rnds4 $0x91, 0x12345678(,%rax,1), %xmm0");
1108         asm volatile("sha1rnds4 $0x91, (%rax,%rcx,1), %xmm0");
1109         asm volatile("sha1rnds4 $0x91, (%rax,%rcx,8), %xmm0");
1110         asm volatile("sha1rnds4 $0x91, 0x12(%rax), %xmm0");
1111         asm volatile("sha1rnds4 $0x91, 0x12(%rbp), %xmm0");
1112         asm volatile("sha1rnds4 $0x91, 0x12(%rcx,%rax,1), %xmm0");
1113         asm volatile("sha1rnds4 $0x91, 0x12(%rbp,%rax,1), %xmm0");
1114         asm volatile("sha1rnds4 $0x91, 0x12(%rax,%rcx,1), %xmm0");
1115         asm volatile("sha1rnds4 $0x91, 0x12(%rax,%rcx,8), %xmm0");
1116         asm volatile("sha1rnds4 $0x91, 0x12345678(%rax), %xmm0");
1117         asm volatile("sha1rnds4 $0x91, 0x12345678(%rbp), %xmm0");
1118         asm volatile("sha1rnds4 $0x91, 0x12345678(%rcx,%rax,1), %xmm0");
1119         asm volatile("sha1rnds4 $0x91, 0x12345678(%rbp,%rax,1), %xmm0");
1120         asm volatile("sha1rnds4 $0x91, 0x12345678(%rax,%rcx,1), %xmm0");
1121         asm volatile("sha1rnds4 $0x91, 0x12345678(%rax,%rcx,8), %xmm0");
1122         asm volatile("sha1rnds4 $0x91, 0x12345678(%rax,%rcx,8), %xmm15");
1123
1124         /* sha1nexte xmm2/m128, xmm1 */
1125
1126         asm volatile("sha1nexte %xmm1, %xmm0");
1127         asm volatile("sha1nexte %xmm7, %xmm2");
1128         asm volatile("sha1nexte %xmm8, %xmm0");
1129         asm volatile("sha1nexte %xmm7, %xmm8");
1130         asm volatile("sha1nexte %xmm15, %xmm8");
1131         asm volatile("sha1nexte (%rax), %xmm0");
1132         asm volatile("sha1nexte (%r8), %xmm0");
1133         asm volatile("sha1nexte (0x12345678), %xmm0");
1134         asm volatile("sha1nexte (%rax), %xmm3");
1135         asm volatile("sha1nexte (%rcx,%rax,1), %xmm0");
1136         asm volatile("sha1nexte 0x12345678(,%rax,1), %xmm0");
1137         asm volatile("sha1nexte (%rax,%rcx,1), %xmm0");
1138         asm volatile("sha1nexte (%rax,%rcx,8), %xmm0");
1139         asm volatile("sha1nexte 0x12(%rax), %xmm0");
1140         asm volatile("sha1nexte 0x12(%rbp), %xmm0");
1141         asm volatile("sha1nexte 0x12(%rcx,%rax,1), %xmm0");
1142         asm volatile("sha1nexte 0x12(%rbp,%rax,1), %xmm0");
1143         asm volatile("sha1nexte 0x12(%rax,%rcx,1), %xmm0");
1144         asm volatile("sha1nexte 0x12(%rax,%rcx,8), %xmm0");
1145         asm volatile("sha1nexte 0x12345678(%rax), %xmm0");
1146         asm volatile("sha1nexte 0x12345678(%rbp), %xmm0");
1147         asm volatile("sha1nexte 0x12345678(%rcx,%rax,1), %xmm0");
1148         asm volatile("sha1nexte 0x12345678(%rbp,%rax,1), %xmm0");
1149         asm volatile("sha1nexte 0x12345678(%rax,%rcx,1), %xmm0");
1150         asm volatile("sha1nexte 0x12345678(%rax,%rcx,8), %xmm0");
1151         asm volatile("sha1nexte 0x12345678(%rax,%rcx,8), %xmm15");
1152
1153         /* sha1msg1 xmm2/m128, xmm1 */
1154
1155         asm volatile("sha1msg1 %xmm1, %xmm0");
1156         asm volatile("sha1msg1 %xmm7, %xmm2");
1157         asm volatile("sha1msg1 %xmm8, %xmm0");
1158         asm volatile("sha1msg1 %xmm7, %xmm8");
1159         asm volatile("sha1msg1 %xmm15, %xmm8");
1160         asm volatile("sha1msg1 (%rax), %xmm0");
1161         asm volatile("sha1msg1 (%r8), %xmm0");
1162         asm volatile("sha1msg1 (0x12345678), %xmm0");
1163         asm volatile("sha1msg1 (%rax), %xmm3");
1164         asm volatile("sha1msg1 (%rcx,%rax,1), %xmm0");
1165         asm volatile("sha1msg1 0x12345678(,%rax,1), %xmm0");
1166         asm volatile("sha1msg1 (%rax,%rcx,1), %xmm0");
1167         asm volatile("sha1msg1 (%rax,%rcx,8), %xmm0");
1168         asm volatile("sha1msg1 0x12(%rax), %xmm0");
1169         asm volatile("sha1msg1 0x12(%rbp), %xmm0");
1170         asm volatile("sha1msg1 0x12(%rcx,%rax,1), %xmm0");
1171         asm volatile("sha1msg1 0x12(%rbp,%rax,1), %xmm0");
1172         asm volatile("sha1msg1 0x12(%rax,%rcx,1), %xmm0");
1173         asm volatile("sha1msg1 0x12(%rax,%rcx,8), %xmm0");
1174         asm volatile("sha1msg1 0x12345678(%rax), %xmm0");
1175         asm volatile("sha1msg1 0x12345678(%rbp), %xmm0");
1176         asm volatile("sha1msg1 0x12345678(%rcx,%rax,1), %xmm0");
1177         asm volatile("sha1msg1 0x12345678(%rbp,%rax,1), %xmm0");
1178         asm volatile("sha1msg1 0x12345678(%rax,%rcx,1), %xmm0");
1179         asm volatile("sha1msg1 0x12345678(%rax,%rcx,8), %xmm0");
1180         asm volatile("sha1msg1 0x12345678(%rax,%rcx,8), %xmm15");
1181
1182         /* sha1msg2 xmm2/m128, xmm1 */
1183
1184         asm volatile("sha1msg2 %xmm1, %xmm0");
1185         asm volatile("sha1msg2 %xmm7, %xmm2");
1186         asm volatile("sha1msg2 %xmm8, %xmm0");
1187         asm volatile("sha1msg2 %xmm7, %xmm8");
1188         asm volatile("sha1msg2 %xmm15, %xmm8");
1189         asm volatile("sha1msg2 (%rax), %xmm0");
1190         asm volatile("sha1msg2 (%r8), %xmm0");
1191         asm volatile("sha1msg2 (0x12345678), %xmm0");
1192         asm volatile("sha1msg2 (%rax), %xmm3");
1193         asm volatile("sha1msg2 (%rcx,%rax,1), %xmm0");
1194         asm volatile("sha1msg2 0x12345678(,%rax,1), %xmm0");
1195         asm volatile("sha1msg2 (%rax,%rcx,1), %xmm0");
1196         asm volatile("sha1msg2 (%rax,%rcx,8), %xmm0");
1197         asm volatile("sha1msg2 0x12(%rax), %xmm0");
1198         asm volatile("sha1msg2 0x12(%rbp), %xmm0");
1199         asm volatile("sha1msg2 0x12(%rcx,%rax,1), %xmm0");
1200         asm volatile("sha1msg2 0x12(%rbp,%rax,1), %xmm0");
1201         asm volatile("sha1msg2 0x12(%rax,%rcx,1), %xmm0");
1202         asm volatile("sha1msg2 0x12(%rax,%rcx,8), %xmm0");
1203         asm volatile("sha1msg2 0x12345678(%rax), %xmm0");
1204         asm volatile("sha1msg2 0x12345678(%rbp), %xmm0");
1205         asm volatile("sha1msg2 0x12345678(%rcx,%rax,1), %xmm0");
1206         asm volatile("sha1msg2 0x12345678(%rbp,%rax,1), %xmm0");
1207         asm volatile("sha1msg2 0x12345678(%rax,%rcx,1), %xmm0");
1208         asm volatile("sha1msg2 0x12345678(%rax,%rcx,8), %xmm0");
1209         asm volatile("sha1msg2 0x12345678(%rax,%rcx,8), %xmm15");
1210
1211         /* sha256rnds2 <XMM0>, xmm2/m128, xmm1 */
1212         /* Note sha256rnds2 has an implicit operand 'xmm0' */
1213
1214         asm volatile("sha256rnds2 %xmm4, %xmm1");
1215         asm volatile("sha256rnds2 %xmm7, %xmm2");
1216         asm volatile("sha256rnds2 %xmm8, %xmm1");
1217         asm volatile("sha256rnds2 %xmm7, %xmm8");
1218         asm volatile("sha256rnds2 %xmm15, %xmm8");
1219         asm volatile("sha256rnds2 (%rax), %xmm1");
1220         asm volatile("sha256rnds2 (%r8), %xmm1");
1221         asm volatile("sha256rnds2 (0x12345678), %xmm1");
1222         asm volatile("sha256rnds2 (%rax), %xmm3");
1223         asm volatile("sha256rnds2 (%rcx,%rax,1), %xmm1");
1224         asm volatile("sha256rnds2 0x12345678(,%rax,1), %xmm1");
1225         asm volatile("sha256rnds2 (%rax,%rcx,1), %xmm1");
1226         asm volatile("sha256rnds2 (%rax,%rcx,8), %xmm1");
1227         asm volatile("sha256rnds2 0x12(%rax), %xmm1");
1228         asm volatile("sha256rnds2 0x12(%rbp), %xmm1");
1229         asm volatile("sha256rnds2 0x12(%rcx,%rax,1), %xmm1");
1230         asm volatile("sha256rnds2 0x12(%rbp,%rax,1), %xmm1");
1231         asm volatile("sha256rnds2 0x12(%rax,%rcx,1), %xmm1");
1232         asm volatile("sha256rnds2 0x12(%rax,%rcx,8), %xmm1");
1233         asm volatile("sha256rnds2 0x12345678(%rax), %xmm1");
1234         asm volatile("sha256rnds2 0x12345678(%rbp), %xmm1");
1235         asm volatile("sha256rnds2 0x12345678(%rcx,%rax,1), %xmm1");
1236         asm volatile("sha256rnds2 0x12345678(%rbp,%rax,1), %xmm1");
1237         asm volatile("sha256rnds2 0x12345678(%rax,%rcx,1), %xmm1");
1238         asm volatile("sha256rnds2 0x12345678(%rax,%rcx,8), %xmm1");
1239         asm volatile("sha256rnds2 0x12345678(%rax,%rcx,8), %xmm15");
1240
1241         /* sha256msg1 xmm2/m128, xmm1 */
1242
1243         asm volatile("sha256msg1 %xmm1, %xmm0");
1244         asm volatile("sha256msg1 %xmm7, %xmm2");
1245         asm volatile("sha256msg1 %xmm8, %xmm0");
1246         asm volatile("sha256msg1 %xmm7, %xmm8");
1247         asm volatile("sha256msg1 %xmm15, %xmm8");
1248         asm volatile("sha256msg1 (%rax), %xmm0");
1249         asm volatile("sha256msg1 (%r8), %xmm0");
1250         asm volatile("sha256msg1 (0x12345678), %xmm0");
1251         asm volatile("sha256msg1 (%rax), %xmm3");
1252         asm volatile("sha256msg1 (%rcx,%rax,1), %xmm0");
1253         asm volatile("sha256msg1 0x12345678(,%rax,1), %xmm0");
1254         asm volatile("sha256msg1 (%rax,%rcx,1), %xmm0");
1255         asm volatile("sha256msg1 (%rax,%rcx,8), %xmm0");
1256         asm volatile("sha256msg1 0x12(%rax), %xmm0");
1257         asm volatile("sha256msg1 0x12(%rbp), %xmm0");
1258         asm volatile("sha256msg1 0x12(%rcx,%rax,1), %xmm0");
1259         asm volatile("sha256msg1 0x12(%rbp,%rax,1), %xmm0");
1260         asm volatile("sha256msg1 0x12(%rax,%rcx,1), %xmm0");
1261         asm volatile("sha256msg1 0x12(%rax,%rcx,8), %xmm0");
1262         asm volatile("sha256msg1 0x12345678(%rax), %xmm0");
1263         asm volatile("sha256msg1 0x12345678(%rbp), %xmm0");
1264         asm volatile("sha256msg1 0x12345678(%rcx,%rax,1), %xmm0");
1265         asm volatile("sha256msg1 0x12345678(%rbp,%rax,1), %xmm0");
1266         asm volatile("sha256msg1 0x12345678(%rax,%rcx,1), %xmm0");
1267         asm volatile("sha256msg1 0x12345678(%rax,%rcx,8), %xmm0");
1268         asm volatile("sha256msg1 0x12345678(%rax,%rcx,8), %xmm15");
1269
1270         /* sha256msg2 xmm2/m128, xmm1 */
1271
1272         asm volatile("sha256msg2 %xmm1, %xmm0");
1273         asm volatile("sha256msg2 %xmm7, %xmm2");
1274         asm volatile("sha256msg2 %xmm8, %xmm0");
1275         asm volatile("sha256msg2 %xmm7, %xmm8");
1276         asm volatile("sha256msg2 %xmm15, %xmm8");
1277         asm volatile("sha256msg2 (%rax), %xmm0");
1278         asm volatile("sha256msg2 (%r8), %xmm0");
1279         asm volatile("sha256msg2 (0x12345678), %xmm0");
1280         asm volatile("sha256msg2 (%rax), %xmm3");
1281         asm volatile("sha256msg2 (%rcx,%rax,1), %xmm0");
1282         asm volatile("sha256msg2 0x12345678(,%rax,1), %xmm0");
1283         asm volatile("sha256msg2 (%rax,%rcx,1), %xmm0");
1284         asm volatile("sha256msg2 (%rax,%rcx,8), %xmm0");
1285         asm volatile("sha256msg2 0x12(%rax), %xmm0");
1286         asm volatile("sha256msg2 0x12(%rbp), %xmm0");
1287         asm volatile("sha256msg2 0x12(%rcx,%rax,1), %xmm0");
1288         asm volatile("sha256msg2 0x12(%rbp,%rax,1), %xmm0");
1289         asm volatile("sha256msg2 0x12(%rax,%rcx,1), %xmm0");
1290         asm volatile("sha256msg2 0x12(%rax,%rcx,8), %xmm0");
1291         asm volatile("sha256msg2 0x12345678(%rax), %xmm0");
1292         asm volatile("sha256msg2 0x12345678(%rbp), %xmm0");
1293         asm volatile("sha256msg2 0x12345678(%rcx,%rax,1), %xmm0");
1294         asm volatile("sha256msg2 0x12345678(%rbp,%rax,1), %xmm0");
1295         asm volatile("sha256msg2 0x12345678(%rax,%rcx,1), %xmm0");
1296         asm volatile("sha256msg2 0x12345678(%rax,%rcx,8), %xmm0");
1297         asm volatile("sha256msg2 0x12345678(%rax,%rcx,8), %xmm15");
1298
1299         /* clflushopt m8 */
1300
1301         asm volatile("clflushopt (%rax)");
1302         asm volatile("clflushopt (%r8)");
1303         asm volatile("clflushopt (0x12345678)");
1304         asm volatile("clflushopt 0x12345678(%rax,%rcx,8)");
1305         asm volatile("clflushopt 0x12345678(%r8,%rcx,8)");
1306         /* Also check instructions in the same group encoding as clflushopt */
1307         asm volatile("clflush (%rax)");
1308         asm volatile("clflush (%r8)");
1309         asm volatile("sfence");
1310
1311         /* clwb m8 */
1312
1313         asm volatile("clwb (%rax)");
1314         asm volatile("clwb (%r8)");
1315         asm volatile("clwb (0x12345678)");
1316         asm volatile("clwb 0x12345678(%rax,%rcx,8)");
1317         asm volatile("clwb 0x12345678(%r8,%rcx,8)");
1318         /* Also check instructions in the same group encoding as clwb */
1319         asm volatile("xsaveopt (%rax)");
1320         asm volatile("xsaveopt (%r8)");
1321         asm volatile("mfence");
1322
1323         /* xsavec mem */
1324
1325         asm volatile("xsavec (%rax)");
1326         asm volatile("xsavec (%r8)");
1327         asm volatile("xsavec (0x12345678)");
1328         asm volatile("xsavec 0x12345678(%rax,%rcx,8)");
1329         asm volatile("xsavec 0x12345678(%r8,%rcx,8)");
1330
1331         /* xsaves mem */
1332
1333         asm volatile("xsaves (%rax)");
1334         asm volatile("xsaves (%r8)");
1335         asm volatile("xsaves (0x12345678)");
1336         asm volatile("xsaves 0x12345678(%rax,%rcx,8)");
1337         asm volatile("xsaves 0x12345678(%r8,%rcx,8)");
1338
1339         /* xrstors mem */
1340
1341         asm volatile("xrstors (%rax)");
1342         asm volatile("xrstors (%r8)");
1343         asm volatile("xrstors (0x12345678)");
1344         asm volatile("xrstors 0x12345678(%rax,%rcx,8)");
1345         asm volatile("xrstors 0x12345678(%r8,%rcx,8)");
1346
1347         /* ptwrite */
1348
1349         asm volatile("ptwrite (%rax)");
1350         asm volatile("ptwrite (%r8)");
1351         asm volatile("ptwrite (0x12345678)");
1352         asm volatile("ptwrite 0x12345678(%rax,%rcx,8)");
1353         asm volatile("ptwrite 0x12345678(%r8,%rcx,8)");
1354
1355         asm volatile("ptwritel (%rax)");
1356         asm volatile("ptwritel (%r8)");
1357         asm volatile("ptwritel (0x12345678)");
1358         asm volatile("ptwritel 0x12345678(%rax,%rcx,8)");
1359         asm volatile("ptwritel 0x12345678(%r8,%rcx,8)");
1360
1361         asm volatile("ptwriteq (%rax)");
1362         asm volatile("ptwriteq (%r8)");
1363         asm volatile("ptwriteq (0x12345678)");
1364         asm volatile("ptwriteq 0x12345678(%rax,%rcx,8)");
1365         asm volatile("ptwriteq 0x12345678(%r8,%rcx,8)");
1366
1367 #else  /* #ifdef __x86_64__ */
1368
1369         /* bound r32, mem (same op code as EVEX prefix) */
1370
1371         asm volatile("bound %eax, 0x12345678(%ecx)");
1372         asm volatile("bound %ecx, 0x12345678(%eax)");
1373         asm volatile("bound %edx, 0x12345678(%eax)");
1374         asm volatile("bound %ebx, 0x12345678(%eax)");
1375         asm volatile("bound %esp, 0x12345678(%eax)");
1376         asm volatile("bound %ebp, 0x12345678(%eax)");
1377         asm volatile("bound %esi, 0x12345678(%eax)");
1378         asm volatile("bound %edi, 0x12345678(%eax)");
1379         asm volatile("bound %ecx, (%eax)");
1380         asm volatile("bound %eax, (0x12345678)");
1381         asm volatile("bound %edx, (%ecx,%eax,1)");
1382         asm volatile("bound %edx, 0x12345678(,%eax,1)");
1383         asm volatile("bound %edx, (%eax,%ecx,1)");
1384         asm volatile("bound %edx, (%eax,%ecx,8)");
1385         asm volatile("bound %edx, 0x12(%eax)");
1386         asm volatile("bound %edx, 0x12(%ebp)");
1387         asm volatile("bound %edx, 0x12(%ecx,%eax,1)");
1388         asm volatile("bound %edx, 0x12(%ebp,%eax,1)");
1389         asm volatile("bound %edx, 0x12(%eax,%ecx,1)");
1390         asm volatile("bound %edx, 0x12(%eax,%ecx,8)");
1391         asm volatile("bound %edx, 0x12345678(%eax)");
1392         asm volatile("bound %edx, 0x12345678(%ebp)");
1393         asm volatile("bound %edx, 0x12345678(%ecx,%eax,1)");
1394         asm volatile("bound %edx, 0x12345678(%ebp,%eax,1)");
1395         asm volatile("bound %edx, 0x12345678(%eax,%ecx,1)");
1396         asm volatile("bound %edx, 0x12345678(%eax,%ecx,8)");
1397
1398         /* bound r16, mem (same op code as EVEX prefix) */
1399
1400         asm volatile("bound %ax, 0x12345678(%ecx)");
1401         asm volatile("bound %cx, 0x12345678(%eax)");
1402         asm volatile("bound %dx, 0x12345678(%eax)");
1403         asm volatile("bound %bx, 0x12345678(%eax)");
1404         asm volatile("bound %sp, 0x12345678(%eax)");
1405         asm volatile("bound %bp, 0x12345678(%eax)");
1406         asm volatile("bound %si, 0x12345678(%eax)");
1407         asm volatile("bound %di, 0x12345678(%eax)");
1408         asm volatile("bound %cx, (%eax)");
1409         asm volatile("bound %ax, (0x12345678)");
1410         asm volatile("bound %dx, (%ecx,%eax,1)");
1411         asm volatile("bound %dx, 0x12345678(,%eax,1)");
1412         asm volatile("bound %dx, (%eax,%ecx,1)");
1413         asm volatile("bound %dx, (%eax,%ecx,8)");
1414         asm volatile("bound %dx, 0x12(%eax)");
1415         asm volatile("bound %dx, 0x12(%ebp)");
1416         asm volatile("bound %dx, 0x12(%ecx,%eax,1)");
1417         asm volatile("bound %dx, 0x12(%ebp,%eax,1)");
1418         asm volatile("bound %dx, 0x12(%eax,%ecx,1)");
1419         asm volatile("bound %dx, 0x12(%eax,%ecx,8)");
1420         asm volatile("bound %dx, 0x12345678(%eax)");
1421         asm volatile("bound %dx, 0x12345678(%ebp)");
1422         asm volatile("bound %dx, 0x12345678(%ecx,%eax,1)");
1423         asm volatile("bound %dx, 0x12345678(%ebp,%eax,1)");
1424         asm volatile("bound %dx, 0x12345678(%eax,%ecx,1)");
1425         asm volatile("bound %dx, 0x12345678(%eax,%ecx,8)");
1426
1427         /* AVX-512: Instructions with the same op codes as Mask Instructions  */
1428
1429         asm volatile("cmovno %eax,%ebx");
1430         asm volatile("cmovno 0x12345678(%eax),%ecx");
1431         asm volatile("cmovno 0x12345678(%eax),%cx");
1432
1433         asm volatile("cmove  %eax,%ebx");
1434         asm volatile("cmove 0x12345678(%eax),%ecx");
1435         asm volatile("cmove 0x12345678(%eax),%cx");
1436
1437         asm volatile("seto    0x12345678(%eax)");
1438         asm volatile("setno   0x12345678(%eax)");
1439         asm volatile("setb    0x12345678(%eax)");
1440         asm volatile("setc    0x12345678(%eax)");
1441         asm volatile("setnae  0x12345678(%eax)");
1442         asm volatile("setae   0x12345678(%eax)");
1443         asm volatile("setnb   0x12345678(%eax)");
1444         asm volatile("setnc   0x12345678(%eax)");
1445         asm volatile("sets    0x12345678(%eax)");
1446         asm volatile("setns   0x12345678(%eax)");
1447
1448         /* AVX-512: Mask Instructions */
1449
1450         asm volatile("kandw  %k7,%k6,%k5");
1451         asm volatile("kandq  %k7,%k6,%k5");
1452         asm volatile("kandb  %k7,%k6,%k5");
1453         asm volatile("kandd  %k7,%k6,%k5");
1454
1455         asm volatile("kandnw  %k7,%k6,%k5");
1456         asm volatile("kandnq  %k7,%k6,%k5");
1457         asm volatile("kandnb  %k7,%k6,%k5");
1458         asm volatile("kandnd  %k7,%k6,%k5");
1459
1460         asm volatile("knotw  %k7,%k6");
1461         asm volatile("knotq  %k7,%k6");
1462         asm volatile("knotb  %k7,%k6");
1463         asm volatile("knotd  %k7,%k6");
1464
1465         asm volatile("korw  %k7,%k6,%k5");
1466         asm volatile("korq  %k7,%k6,%k5");
1467         asm volatile("korb  %k7,%k6,%k5");
1468         asm volatile("kord  %k7,%k6,%k5");
1469
1470         asm volatile("kxnorw  %k7,%k6,%k5");
1471         asm volatile("kxnorq  %k7,%k6,%k5");
1472         asm volatile("kxnorb  %k7,%k6,%k5");
1473         asm volatile("kxnord  %k7,%k6,%k5");
1474
1475         asm volatile("kxorw  %k7,%k6,%k5");
1476         asm volatile("kxorq  %k7,%k6,%k5");
1477         asm volatile("kxorb  %k7,%k6,%k5");
1478         asm volatile("kxord  %k7,%k6,%k5");
1479
1480         asm volatile("kaddw  %k7,%k6,%k5");
1481         asm volatile("kaddq  %k7,%k6,%k5");
1482         asm volatile("kaddb  %k7,%k6,%k5");
1483         asm volatile("kaddd  %k7,%k6,%k5");
1484
1485         asm volatile("kunpckbw %k7,%k6,%k5");
1486         asm volatile("kunpckwd %k7,%k6,%k5");
1487         asm volatile("kunpckdq %k7,%k6,%k5");
1488
1489         asm volatile("kmovw  %k6,%k5");
1490         asm volatile("kmovw  (%ecx),%k5");
1491         asm volatile("kmovw  0x123(%eax,%ecx,8),%k5");
1492         asm volatile("kmovw  %k5,(%ecx)");
1493         asm volatile("kmovw  %k5,0x123(%eax,%ecx,8)");
1494         asm volatile("kmovw  %eax,%k5");
1495         asm volatile("kmovw  %ebp,%k5");
1496         asm volatile("kmovw  %k5,%eax");
1497         asm volatile("kmovw  %k5,%ebp");
1498
1499         asm volatile("kmovq  %k6,%k5");
1500         asm volatile("kmovq  (%ecx),%k5");
1501         asm volatile("kmovq  0x123(%eax,%ecx,8),%k5");
1502         asm volatile("kmovq  %k5,(%ecx)");
1503         asm volatile("kmovq  %k5,0x123(%eax,%ecx,8)");
1504
1505         asm volatile("kmovb  %k6,%k5");
1506         asm volatile("kmovb  (%ecx),%k5");
1507         asm volatile("kmovb  0x123(%eax,%ecx,8),%k5");
1508         asm volatile("kmovb  %k5,(%ecx)");
1509         asm volatile("kmovb  %k5,0x123(%eax,%ecx,8)");
1510         asm volatile("kmovb  %eax,%k5");
1511         asm volatile("kmovb  %ebp,%k5");
1512         asm volatile("kmovb  %k5,%eax");
1513         asm volatile("kmovb  %k5,%ebp");
1514
1515         asm volatile("kmovd  %k6,%k5");
1516         asm volatile("kmovd  (%ecx),%k5");
1517         asm volatile("kmovd  0x123(%eax,%ecx,8),%k5");
1518         asm volatile("kmovd  %k5,(%ecx)");
1519         asm volatile("kmovd  %k5,0x123(%eax,%ecx,8)");
1520         asm volatile("kmovd  %eax,%k5");
1521         asm volatile("kmovd  %ebp,%k5");
1522         asm volatile("kmovd  %k5,%eax");
1523         asm volatile("kmovd  %k5,%ebp");
1524
1525         asm volatile("kortestw %k6,%k5");
1526         asm volatile("kortestq %k6,%k5");
1527         asm volatile("kortestb %k6,%k5");
1528         asm volatile("kortestd %k6,%k5");
1529
1530         asm volatile("ktestw %k6,%k5");
1531         asm volatile("ktestq %k6,%k5");
1532         asm volatile("ktestb %k6,%k5");
1533         asm volatile("ktestd %k6,%k5");
1534
1535         asm volatile("kshiftrw $0x12,%k6,%k5");
1536         asm volatile("kshiftrq $0x5b,%k6,%k5");
1537         asm volatile("kshiftlw $0x12,%k6,%k5");
1538         asm volatile("kshiftlq $0x5b,%k6,%k5");
1539
1540         /* AVX-512: Op code 0f 5b */
1541         asm volatile("vcvtdq2ps %xmm5,%xmm6");
1542         asm volatile("vcvtqq2ps %zmm5,%ymm6{%k7}");
1543         asm volatile("vcvtps2dq %xmm5,%xmm6");
1544         asm volatile("vcvttps2dq %xmm5,%xmm6");
1545
1546         /* AVX-512: Op code 0f 6f */
1547
1548         asm volatile("movq   %mm0,%mm4");
1549         asm volatile("vmovdqa %ymm4,%ymm6");
1550         asm volatile("vmovdqa32 %zmm5,%zmm6");
1551         asm volatile("vmovdqa64 %zmm5,%zmm6");
1552         asm volatile("vmovdqu %ymm4,%ymm6");
1553         asm volatile("vmovdqu32 %zmm5,%zmm6");
1554         asm volatile("vmovdqu64 %zmm5,%zmm6");
1555         asm volatile("vmovdqu8 %zmm5,%zmm6");
1556         asm volatile("vmovdqu16 %zmm5,%zmm6");
1557
1558         /* AVX-512: Op code 0f 78 */
1559
1560         asm volatile("vmread %eax,%ebx");
1561         asm volatile("vcvttps2udq %zmm5,%zmm6");
1562         asm volatile("vcvttpd2udq %zmm5,%ymm6{%k7}");
1563         asm volatile("vcvttsd2usi %xmm6,%eax");
1564         asm volatile("vcvttss2usi %xmm6,%eax");
1565         asm volatile("vcvttps2uqq %ymm5,%zmm6{%k7}");
1566         asm volatile("vcvttpd2uqq %zmm5,%zmm6");
1567
1568         /* AVX-512: Op code 0f 79 */
1569
1570         asm volatile("vmwrite %eax,%ebx");
1571         asm volatile("vcvtps2udq %zmm5,%zmm6");
1572         asm volatile("vcvtpd2udq %zmm5,%ymm6{%k7}");
1573         asm volatile("vcvtsd2usi %xmm6,%eax");
1574         asm volatile("vcvtss2usi %xmm6,%eax");
1575         asm volatile("vcvtps2uqq %ymm5,%zmm6{%k7}");
1576         asm volatile("vcvtpd2uqq %zmm5,%zmm6");
1577
1578         /* AVX-512: Op code 0f 7a */
1579
1580         asm volatile("vcvtudq2pd %ymm5,%zmm6{%k7}");
1581         asm volatile("vcvtuqq2pd %zmm5,%zmm6");
1582         asm volatile("vcvtudq2ps %zmm5,%zmm6");
1583         asm volatile("vcvtuqq2ps %zmm5,%ymm6{%k7}");
1584         asm volatile("vcvttps2qq %ymm5,%zmm6{%k7}");
1585         asm volatile("vcvttpd2qq %zmm5,%zmm6");
1586
1587         /* AVX-512: Op code 0f 7b */
1588
1589         asm volatile("vcvtusi2sd %eax,%xmm5,%xmm6");
1590         asm volatile("vcvtusi2ss %eax,%xmm5,%xmm6");
1591         asm volatile("vcvtps2qq %ymm5,%zmm6{%k7}");
1592         asm volatile("vcvtpd2qq %zmm5,%zmm6");
1593
1594         /* AVX-512: Op code 0f 7f */
1595
1596         asm volatile("movq.s  %mm0,%mm4");
1597         asm volatile("vmovdqa.s %ymm5,%ymm6");
1598         asm volatile("vmovdqa32.s %zmm5,%zmm6");
1599         asm volatile("vmovdqa64.s %zmm5,%zmm6");
1600         asm volatile("vmovdqu.s %ymm5,%ymm6");
1601         asm volatile("vmovdqu32.s %zmm5,%zmm6");
1602         asm volatile("vmovdqu64.s %zmm5,%zmm6");
1603         asm volatile("vmovdqu8.s %zmm5,%zmm6");
1604         asm volatile("vmovdqu16.s %zmm5,%zmm6");
1605
1606         /* AVX-512: Op code 0f db */
1607
1608         asm volatile("pand  %mm1,%mm2");
1609         asm volatile("pand  %xmm1,%xmm2");
1610         asm volatile("vpand  %ymm4,%ymm6,%ymm2");
1611         asm volatile("vpandd %zmm4,%zmm5,%zmm6");
1612         asm volatile("vpandq %zmm4,%zmm5,%zmm6");
1613
1614         /* AVX-512: Op code 0f df */
1615
1616         asm volatile("pandn  %mm1,%mm2");
1617         asm volatile("pandn  %xmm1,%xmm2");
1618         asm volatile("vpandn %ymm4,%ymm6,%ymm2");
1619         asm volatile("vpandnd %zmm4,%zmm5,%zmm6");
1620         asm volatile("vpandnq %zmm4,%zmm5,%zmm6");
1621
1622         /* AVX-512: Op code 0f e6 */
1623
1624         asm volatile("vcvttpd2dq %xmm1,%xmm2");
1625         asm volatile("vcvtdq2pd %xmm5,%xmm6");
1626         asm volatile("vcvtdq2pd %ymm5,%zmm6{%k7}");
1627         asm volatile("vcvtqq2pd %zmm5,%zmm6");
1628         asm volatile("vcvtpd2dq %xmm1,%xmm2");
1629
1630         /* AVX-512: Op code 0f eb */
1631
1632         asm volatile("por   %mm4,%mm6");
1633         asm volatile("vpor   %ymm4,%ymm6,%ymm2");
1634         asm volatile("vpord  %zmm4,%zmm5,%zmm6");
1635         asm volatile("vporq  %zmm4,%zmm5,%zmm6");
1636
1637         /* AVX-512: Op code 0f ef */
1638
1639         asm volatile("pxor   %mm4,%mm6");
1640         asm volatile("vpxor  %ymm4,%ymm6,%ymm2");
1641         asm volatile("vpxord %zmm4,%zmm5,%zmm6");
1642         asm volatile("vpxorq %zmm4,%zmm5,%zmm6");
1643
1644         /* AVX-512: Op code 0f 38 10 */
1645
1646         asm volatile("pblendvb %xmm1,%xmm0");
1647         asm volatile("vpsrlvw %zmm4,%zmm5,%zmm6");
1648         asm volatile("vpmovuswb %zmm5,%ymm6{%k7}");
1649
1650         /* AVX-512: Op code 0f 38 11 */
1651
1652         asm volatile("vpmovusdb %zmm5,%xmm6{%k7}");
1653         asm volatile("vpsravw %zmm4,%zmm5,%zmm6");
1654
1655         /* AVX-512: Op code 0f 38 12 */
1656
1657         asm volatile("vpmovusqb %zmm5,%xmm6{%k7}");
1658         asm volatile("vpsllvw %zmm4,%zmm5,%zmm6");
1659
1660         /* AVX-512: Op code 0f 38 13 */
1661
1662         asm volatile("vcvtph2ps %xmm3,%ymm5");
1663         asm volatile("vcvtph2ps %ymm5,%zmm6{%k7}");
1664         asm volatile("vpmovusdw %zmm5,%ymm6{%k7}");
1665
1666         /* AVX-512: Op code 0f 38 14 */
1667
1668         asm volatile("blendvps %xmm1,%xmm0");
1669         asm volatile("vpmovusqw %zmm5,%xmm6{%k7}");
1670         asm volatile("vprorvd %zmm4,%zmm5,%zmm6");
1671         asm volatile("vprorvq %zmm4,%zmm5,%zmm6");
1672
1673         /* AVX-512: Op code 0f 38 15 */
1674
1675         asm volatile("blendvpd %xmm1,%xmm0");
1676         asm volatile("vpmovusqd %zmm5,%ymm6{%k7}");
1677         asm volatile("vprolvd %zmm4,%zmm5,%zmm6");
1678         asm volatile("vprolvq %zmm4,%zmm5,%zmm6");
1679
1680         /* AVX-512: Op code 0f 38 16 */
1681
1682         asm volatile("vpermps %ymm4,%ymm6,%ymm2");
1683         asm volatile("vpermps %ymm4,%ymm6,%ymm2{%k7}");
1684         asm volatile("vpermpd %ymm4,%ymm6,%ymm2{%k7}");
1685
1686         /* AVX-512: Op code 0f 38 19 */
1687
1688         asm volatile("vbroadcastsd %xmm4,%ymm6");
1689         asm volatile("vbroadcastf32x2 %xmm7,%zmm6");
1690
1691         /* AVX-512: Op code 0f 38 1a */
1692
1693         asm volatile("vbroadcastf128 (%ecx),%ymm4");
1694         asm volatile("vbroadcastf32x4 (%ecx),%zmm6");
1695         asm volatile("vbroadcastf64x2 (%ecx),%zmm6");
1696
1697         /* AVX-512: Op code 0f 38 1b */
1698
1699         asm volatile("vbroadcastf32x8 (%ecx),%zmm6");
1700         asm volatile("vbroadcastf64x4 (%ecx),%zmm6");
1701
1702         /* AVX-512: Op code 0f 38 1f */
1703
1704         asm volatile("vpabsq %zmm4,%zmm6");
1705
1706         /* AVX-512: Op code 0f 38 20 */
1707
1708         asm volatile("vpmovsxbw %xmm4,%xmm5");
1709         asm volatile("vpmovswb %zmm5,%ymm6{%k7}");
1710
1711         /* AVX-512: Op code 0f 38 21 */
1712
1713         asm volatile("vpmovsxbd %xmm4,%ymm6");
1714         asm volatile("vpmovsdb %zmm5,%xmm6{%k7}");
1715
1716         /* AVX-512: Op code 0f 38 22 */
1717
1718         asm volatile("vpmovsxbq %xmm4,%ymm4");
1719         asm volatile("vpmovsqb %zmm5,%xmm6{%k7}");
1720
1721         /* AVX-512: Op code 0f 38 23 */
1722
1723         asm volatile("vpmovsxwd %xmm4,%ymm4");
1724         asm volatile("vpmovsdw %zmm5,%ymm6{%k7}");
1725
1726         /* AVX-512: Op code 0f 38 24 */
1727
1728         asm volatile("vpmovsxwq %xmm4,%ymm6");
1729         asm volatile("vpmovsqw %zmm5,%xmm6{%k7}");
1730
1731         /* AVX-512: Op code 0f 38 25 */
1732
1733         asm volatile("vpmovsxdq %xmm4,%ymm4");
1734         asm volatile("vpmovsqd %zmm5,%ymm6{%k7}");
1735
1736         /* AVX-512: Op code 0f 38 26 */
1737
1738         asm volatile("vptestmb %zmm5,%zmm6,%k5");
1739         asm volatile("vptestmw %zmm5,%zmm6,%k5");
1740         asm volatile("vptestnmb %zmm4,%zmm5,%k5");
1741         asm volatile("vptestnmw %zmm4,%zmm5,%k5");
1742
1743         /* AVX-512: Op code 0f 38 27 */
1744
1745         asm volatile("vptestmd %zmm5,%zmm6,%k5");
1746         asm volatile("vptestmq %zmm5,%zmm6,%k5");
1747         asm volatile("vptestnmd %zmm4,%zmm5,%k5");
1748         asm volatile("vptestnmq %zmm4,%zmm5,%k5");
1749
1750         /* AVX-512: Op code 0f 38 28 */
1751
1752         asm volatile("vpmuldq %ymm4,%ymm6,%ymm2");
1753         asm volatile("vpmovm2b %k5,%zmm6");
1754         asm volatile("vpmovm2w %k5,%zmm6");
1755
1756         /* AVX-512: Op code 0f 38 29 */
1757
1758         asm volatile("vpcmpeqq %ymm4,%ymm6,%ymm2");
1759         asm volatile("vpmovb2m %zmm6,%k5");
1760         asm volatile("vpmovw2m %zmm6,%k5");
1761
1762         /* AVX-512: Op code 0f 38 2a */
1763
1764         asm volatile("vmovntdqa (%ecx),%ymm4");
1765         asm volatile("vpbroadcastmb2q %k6,%zmm1");
1766
1767         /* AVX-512: Op code 0f 38 2c */
1768
1769         asm volatile("vmaskmovps (%ecx),%ymm4,%ymm6");
1770         asm volatile("vscalefps %zmm4,%zmm5,%zmm6");
1771         asm volatile("vscalefpd %zmm4,%zmm5,%zmm6");
1772
1773         /* AVX-512: Op code 0f 38 2d */
1774
1775         asm volatile("vmaskmovpd (%ecx),%ymm4,%ymm6");
1776         asm volatile("vscalefss %xmm4,%xmm5,%xmm6{%k7}");
1777         asm volatile("vscalefsd %xmm4,%xmm5,%xmm6{%k7}");
1778
1779         /* AVX-512: Op code 0f 38 30 */
1780
1781         asm volatile("vpmovzxbw %xmm4,%ymm4");
1782         asm volatile("vpmovwb %zmm5,%ymm6{%k7}");
1783
1784         /* AVX-512: Op code 0f 38 31 */
1785
1786         asm volatile("vpmovzxbd %xmm4,%ymm6");
1787         asm volatile("vpmovdb %zmm5,%xmm6{%k7}");
1788
1789         /* AVX-512: Op code 0f 38 32 */
1790
1791         asm volatile("vpmovzxbq %xmm4,%ymm4");
1792         asm volatile("vpmovqb %zmm5,%xmm6{%k7}");
1793
1794         /* AVX-512: Op code 0f 38 33 */
1795
1796         asm volatile("vpmovzxwd %xmm4,%ymm4");
1797         asm volatile("vpmovdw %zmm5,%ymm6{%k7}");
1798
1799         /* AVX-512: Op code 0f 38 34 */
1800
1801         asm volatile("vpmovzxwq %xmm4,%ymm6");
1802         asm volatile("vpmovqw %zmm5,%xmm6{%k7}");
1803
1804         /* AVX-512: Op code 0f 38 35 */
1805
1806         asm volatile("vpmovzxdq %xmm4,%ymm4");
1807         asm volatile("vpmovqd %zmm5,%ymm6{%k7}");
1808
1809         /* AVX-512: Op code 0f 38 36 */
1810
1811         asm volatile("vpermd %ymm4,%ymm6,%ymm2");
1812         asm volatile("vpermd %ymm4,%ymm6,%ymm2{%k7}");
1813         asm volatile("vpermq %ymm4,%ymm6,%ymm2{%k7}");
1814
1815         /* AVX-512: Op code 0f 38 38 */
1816
1817         asm volatile("vpminsb %ymm4,%ymm6,%ymm2");
1818         asm volatile("vpmovm2d %k5,%zmm6");
1819         asm volatile("vpmovm2q %k5,%zmm6");
1820
1821         /* AVX-512: Op code 0f 38 39 */
1822
1823         asm volatile("vpminsd %xmm1,%xmm2,%xmm3");
1824         asm volatile("vpminsd %zmm4,%zmm5,%zmm6");
1825         asm volatile("vpminsq %zmm4,%zmm5,%zmm6");
1826         asm volatile("vpmovd2m %zmm6,%k5");
1827         asm volatile("vpmovq2m %zmm6,%k5");
1828
1829         /* AVX-512: Op code 0f 38 3a */
1830
1831         asm volatile("vpminuw %ymm4,%ymm6,%ymm2");
1832         asm volatile("vpbroadcastmw2d %k6,%zmm6");
1833
1834         /* AVX-512: Op code 0f 38 3b */
1835
1836         asm volatile("vpminud %ymm4,%ymm6,%ymm2");
1837         asm volatile("vpminud %zmm4,%zmm5,%zmm6");
1838         asm volatile("vpminuq %zmm4,%zmm5,%zmm6");
1839
1840         /* AVX-512: Op code 0f 38 3d */
1841
1842         asm volatile("vpmaxsd %ymm4,%ymm6,%ymm2");
1843         asm volatile("vpmaxsd %zmm4,%zmm5,%zmm6");
1844         asm volatile("vpmaxsq %zmm4,%zmm5,%zmm6");
1845
1846         /* AVX-512: Op code 0f 38 3f */
1847
1848         asm volatile("vpmaxud %ymm4,%ymm6,%ymm2");
1849         asm volatile("vpmaxud %zmm4,%zmm5,%zmm6");
1850         asm volatile("vpmaxuq %zmm4,%zmm5,%zmm6");
1851
1852         /* AVX-512: Op code 0f 38 40 */
1853
1854         asm volatile("vpmulld %ymm4,%ymm6,%ymm2");
1855         asm volatile("vpmulld %zmm4,%zmm5,%zmm6");
1856         asm volatile("vpmullq %zmm4,%zmm5,%zmm6");
1857
1858         /* AVX-512: Op code 0f 38 42 */
1859
1860         asm volatile("vgetexpps %zmm5,%zmm6");
1861         asm volatile("vgetexppd %zmm5,%zmm6");
1862
1863         /* AVX-512: Op code 0f 38 43 */
1864
1865         asm volatile("vgetexpss %xmm4,%xmm5,%xmm6{%k7}");
1866         asm volatile("vgetexpsd %xmm2,%xmm3,%xmm4{%k7}");
1867
1868         /* AVX-512: Op code 0f 38 44 */
1869
1870         asm volatile("vplzcntd %zmm5,%zmm6");
1871         asm volatile("vplzcntq %zmm5,%zmm6");
1872
1873         /* AVX-512: Op code 0f 38 46 */
1874
1875         asm volatile("vpsravd %ymm4,%ymm6,%ymm2");
1876         asm volatile("vpsravd %zmm4,%zmm5,%zmm6");
1877         asm volatile("vpsravq %zmm4,%zmm5,%zmm6");
1878
1879         /* AVX-512: Op code 0f 38 4c */
1880
1881         asm volatile("vrcp14ps %zmm5,%zmm6");
1882         asm volatile("vrcp14pd %zmm5,%zmm6");
1883
1884         /* AVX-512: Op code 0f 38 4d */
1885
1886         asm volatile("vrcp14ss %xmm4,%xmm5,%xmm6{%k7}");
1887         asm volatile("vrcp14sd %xmm4,%xmm5,%xmm6{%k7}");
1888
1889         /* AVX-512: Op code 0f 38 4e */
1890
1891         asm volatile("vrsqrt14ps %zmm5,%zmm6");
1892         asm volatile("vrsqrt14pd %zmm5,%zmm6");
1893
1894         /* AVX-512: Op code 0f 38 4f */
1895
1896         asm volatile("vrsqrt14ss %xmm4,%xmm5,%xmm6{%k7}");
1897         asm volatile("vrsqrt14sd %xmm4,%xmm5,%xmm6{%k7}");
1898
1899         /* AVX-512: Op code 0f 38 59 */
1900
1901         asm volatile("vpbroadcastq %xmm4,%xmm6");
1902         asm volatile("vbroadcasti32x2 %xmm7,%zmm6");
1903
1904         /* AVX-512: Op code 0f 38 5a */
1905
1906         asm volatile("vbroadcasti128 (%ecx),%ymm4");
1907         asm volatile("vbroadcasti32x4 (%ecx),%zmm6");
1908         asm volatile("vbroadcasti64x2 (%ecx),%zmm6");
1909
1910         /* AVX-512: Op code 0f 38 5b */
1911
1912         asm volatile("vbroadcasti32x8 (%ecx),%zmm6");
1913         asm volatile("vbroadcasti64x4 (%ecx),%zmm6");
1914
1915         /* AVX-512: Op code 0f 38 64 */
1916
1917         asm volatile("vpblendmd %zmm4,%zmm5,%zmm6");
1918         asm volatile("vpblendmq %zmm4,%zmm5,%zmm6");
1919
1920         /* AVX-512: Op code 0f 38 65 */
1921
1922         asm volatile("vblendmps %zmm4,%zmm5,%zmm6");
1923         asm volatile("vblendmpd %zmm4,%zmm5,%zmm6");
1924
1925         /* AVX-512: Op code 0f 38 66 */
1926
1927         asm volatile("vpblendmb %zmm4,%zmm5,%zmm6");
1928         asm volatile("vpblendmw %zmm4,%zmm5,%zmm6");
1929
1930         /* AVX-512: Op code 0f 38 75 */
1931
1932         asm volatile("vpermi2b %zmm4,%zmm5,%zmm6");
1933         asm volatile("vpermi2w %zmm4,%zmm5,%zmm6");
1934
1935         /* AVX-512: Op code 0f 38 76 */
1936
1937         asm volatile("vpermi2d %zmm4,%zmm5,%zmm6");
1938         asm volatile("vpermi2q %zmm4,%zmm5,%zmm6");
1939
1940         /* AVX-512: Op code 0f 38 77 */
1941
1942         asm volatile("vpermi2ps %zmm4,%zmm5,%zmm6");
1943         asm volatile("vpermi2pd %zmm4,%zmm5,%zmm6");
1944
1945         /* AVX-512: Op code 0f 38 7a */
1946
1947         asm volatile("vpbroadcastb %eax,%xmm3");
1948
1949         /* AVX-512: Op code 0f 38 7b */
1950
1951         asm volatile("vpbroadcastw %eax,%xmm3");
1952
1953         /* AVX-512: Op code 0f 38 7c */
1954
1955         asm volatile("vpbroadcastd %eax,%xmm3");
1956
1957         /* AVX-512: Op code 0f 38 7d */
1958
1959         asm volatile("vpermt2b %zmm4,%zmm5,%zmm6");
1960         asm volatile("vpermt2w %zmm4,%zmm5,%zmm6");
1961
1962         /* AVX-512: Op code 0f 38 7e */
1963
1964         asm volatile("vpermt2d %zmm4,%zmm5,%zmm6");
1965         asm volatile("vpermt2q %zmm4,%zmm5,%zmm6");
1966
1967         /* AVX-512: Op code 0f 38 7f */
1968
1969         asm volatile("vpermt2ps %zmm4,%zmm5,%zmm6");
1970         asm volatile("vpermt2pd %zmm4,%zmm5,%zmm6");
1971
1972         /* AVX-512: Op code 0f 38 83 */
1973
1974         asm volatile("vpmultishiftqb %zmm4,%zmm5,%zmm6");
1975
1976         /* AVX-512: Op code 0f 38 88 */
1977
1978         asm volatile("vexpandps (%ecx),%zmm6");
1979         asm volatile("vexpandpd (%ecx),%zmm6");
1980
1981         /* AVX-512: Op code 0f 38 89 */
1982
1983         asm volatile("vpexpandd (%ecx),%zmm6");
1984         asm volatile("vpexpandq (%ecx),%zmm6");
1985
1986         /* AVX-512: Op code 0f 38 8a */
1987
1988         asm volatile("vcompressps %zmm6,(%ecx)");
1989         asm volatile("vcompresspd %zmm6,(%ecx)");
1990
1991         /* AVX-512: Op code 0f 38 8b */
1992
1993         asm volatile("vpcompressd %zmm6,(%ecx)");
1994         asm volatile("vpcompressq %zmm6,(%ecx)");
1995
1996         /* AVX-512: Op code 0f 38 8d */
1997
1998         asm volatile("vpermb %zmm4,%zmm5,%zmm6");
1999         asm volatile("vpermw %zmm4,%zmm5,%zmm6");
2000
2001         /* AVX-512: Op code 0f 38 90 */
2002
2003         asm volatile("vpgatherdd %xmm2,0x02(%ebp,%xmm7,2),%xmm1");
2004         asm volatile("vpgatherdq %xmm2,0x04(%ebp,%xmm7,2),%xmm1");
2005         asm volatile("vpgatherdd 0x7b(%ebp,%zmm7,8),%zmm6{%k1}");
2006         asm volatile("vpgatherdq 0x7b(%ebp,%ymm7,8),%zmm6{%k1}");
2007
2008         /* AVX-512: Op code 0f 38 91 */
2009
2010         asm volatile("vpgatherqd %xmm2,0x02(%ebp,%xmm7,2),%xmm1");
2011         asm volatile("vpgatherqq %xmm2,0x02(%ebp,%xmm7,2),%xmm1");
2012         asm volatile("vpgatherqd 0x7b(%ebp,%zmm7,8),%ymm6{%k1}");
2013         asm volatile("vpgatherqq 0x7b(%ebp,%zmm7,8),%zmm6{%k1}");
2014
2015         /* AVX-512: Op code 0f 38 a0 */
2016
2017         asm volatile("vpscatterdd %zmm6,0x7b(%ebp,%zmm7,8){%k1}");
2018         asm volatile("vpscatterdq %zmm6,0x7b(%ebp,%ymm7,8){%k1}");
2019
2020         /* AVX-512: Op code 0f 38 a1 */
2021
2022         asm volatile("vpscatterqd %ymm6,0x7b(%ebp,%zmm7,8){%k1}");
2023         asm volatile("vpscatterqq %ymm6,0x7b(%ebp,%ymm7,8){%k1}");
2024
2025         /* AVX-512: Op code 0f 38 a2 */
2026
2027         asm volatile("vscatterdps %zmm6,0x7b(%ebp,%zmm7,8){%k1}");
2028         asm volatile("vscatterdpd %zmm6,0x7b(%ebp,%ymm7,8){%k1}");
2029
2030         /* AVX-512: Op code 0f 38 a3 */
2031
2032         asm volatile("vscatterqps %ymm6,0x7b(%ebp,%zmm7,8){%k1}");
2033         asm volatile("vscatterqpd %zmm6,0x7b(%ebp,%zmm7,8){%k1}");
2034
2035         /* AVX-512: Op code 0f 38 b4 */
2036
2037         asm volatile("vpmadd52luq %zmm4,%zmm5,%zmm6");
2038
2039         /* AVX-512: Op code 0f 38 b5 */
2040
2041         asm volatile("vpmadd52huq %zmm4,%zmm5,%zmm6");
2042
2043         /* AVX-512: Op code 0f 38 c4 */
2044
2045         asm volatile("vpconflictd %zmm5,%zmm6");
2046         asm volatile("vpconflictq %zmm5,%zmm6");
2047
2048         /* AVX-512: Op code 0f 38 c8 */
2049
2050         asm volatile("vexp2ps %zmm6,%zmm7");
2051         asm volatile("vexp2pd %zmm6,%zmm7");
2052
2053         /* AVX-512: Op code 0f 38 ca */
2054
2055         asm volatile("vrcp28ps %zmm6,%zmm7");
2056         asm volatile("vrcp28pd %zmm6,%zmm7");
2057
2058         /* AVX-512: Op code 0f 38 cb */
2059
2060         asm volatile("vrcp28ss %xmm5,%xmm6,%xmm7{%k7}");
2061         asm volatile("vrcp28sd %xmm5,%xmm6,%xmm7{%k7}");
2062
2063         /* AVX-512: Op code 0f 38 cc */
2064
2065         asm volatile("vrsqrt28ps %zmm6,%zmm7");
2066         asm volatile("vrsqrt28pd %zmm6,%zmm7");
2067
2068         /* AVX-512: Op code 0f 38 cd */
2069
2070         asm volatile("vrsqrt28ss %xmm5,%xmm6,%xmm7{%k7}");
2071         asm volatile("vrsqrt28sd %xmm5,%xmm6,%xmm7{%k7}");
2072
2073         /* AVX-512: Op code 0f 3a 03 */
2074
2075         asm volatile("valignd $0x12,%zmm5,%zmm6,%zmm7");
2076         asm volatile("valignq $0x12,%zmm5,%zmm6,%zmm7");
2077
2078         /* AVX-512: Op code 0f 3a 08 */
2079
2080         asm volatile("vroundps $0x5,%ymm6,%ymm2");
2081         asm volatile("vrndscaleps $0x12,%zmm5,%zmm6");
2082
2083         /* AVX-512: Op code 0f 3a 09 */
2084
2085         asm volatile("vroundpd $0x5,%ymm6,%ymm2");
2086         asm volatile("vrndscalepd $0x12,%zmm5,%zmm6");
2087
2088         /* AVX-512: Op code 0f 3a 0a */
2089
2090         asm volatile("vroundss $0x5,%xmm4,%xmm6,%xmm2");
2091         asm volatile("vrndscaless $0x12,%xmm4,%xmm5,%xmm6{%k7}");
2092
2093         /* AVX-512: Op code 0f 3a 0b */
2094
2095         asm volatile("vroundsd $0x5,%xmm4,%xmm6,%xmm2");
2096         asm volatile("vrndscalesd $0x12,%xmm4,%xmm5,%xmm6{%k7}");
2097
2098         /* AVX-512: Op code 0f 3a 18 */
2099
2100         asm volatile("vinsertf128 $0x5,%xmm4,%ymm4,%ymm6");
2101         asm volatile("vinsertf32x4 $0x12,%xmm4,%zmm5,%zmm6{%k7}");
2102         asm volatile("vinsertf64x2 $0x12,%xmm4,%zmm5,%zmm6{%k7}");
2103
2104         /* AVX-512: Op code 0f 3a 19 */
2105
2106         asm volatile("vextractf128 $0x5,%ymm4,%xmm4");
2107         asm volatile("vextractf32x4 $0x12,%zmm5,%xmm6{%k7}");
2108         asm volatile("vextractf64x2 $0x12,%zmm5,%xmm6{%k7}");
2109
2110         /* AVX-512: Op code 0f 3a 1a */
2111
2112         asm volatile("vinsertf32x8 $0x12,%ymm5,%zmm6,%zmm7{%k7}");
2113         asm volatile("vinsertf64x4 $0x12,%ymm5,%zmm6,%zmm7{%k7}");
2114
2115         /* AVX-512: Op code 0f 3a 1b */
2116
2117         asm volatile("vextractf32x8 $0x12,%zmm6,%ymm7{%k7}");
2118         asm volatile("vextractf64x4 $0x12,%zmm6,%ymm7{%k7}");
2119
2120         /* AVX-512: Op code 0f 3a 1e */
2121
2122         asm volatile("vpcmpud $0x12,%zmm6,%zmm7,%k5");
2123         asm volatile("vpcmpuq $0x12,%zmm6,%zmm7,%k5");
2124
2125         /* AVX-512: Op code 0f 3a 1f */
2126
2127         asm volatile("vpcmpd $0x12,%zmm6,%zmm7,%k5");
2128         asm volatile("vpcmpq $0x12,%zmm6,%zmm7,%k5");
2129
2130         /* AVX-512: Op code 0f 3a 23 */
2131
2132         asm volatile("vshuff32x4 $0x12,%zmm5,%zmm6,%zmm7");
2133         asm volatile("vshuff64x2 $0x12,%zmm5,%zmm6,%zmm7");
2134
2135         /* AVX-512: Op code 0f 3a 25 */
2136
2137         asm volatile("vpternlogd $0x12,%zmm5,%zmm6,%zmm7");
2138         asm volatile("vpternlogq $0x12,%zmm5,%zmm6,%zmm7");
2139
2140         /* AVX-512: Op code 0f 3a 26 */
2141
2142         asm volatile("vgetmantps $0x12,%zmm6,%zmm7");
2143         asm volatile("vgetmantpd $0x12,%zmm6,%zmm7");
2144
2145         /* AVX-512: Op code 0f 3a 27 */
2146
2147         asm volatile("vgetmantss $0x12,%xmm5,%xmm6,%xmm7{%k7}");
2148         asm volatile("vgetmantsd $0x12,%xmm5,%xmm6,%xmm7{%k7}");
2149
2150         /* AVX-512: Op code 0f 3a 38 */
2151
2152         asm volatile("vinserti128 $0x5,%xmm4,%ymm4,%ymm6");
2153         asm volatile("vinserti32x4 $0x12,%xmm4,%zmm5,%zmm6{%k7}");
2154         asm volatile("vinserti64x2 $0x12,%xmm4,%zmm5,%zmm6{%k7}");
2155
2156         /* AVX-512: Op code 0f 3a 39 */
2157
2158         asm volatile("vextracti128 $0x5,%ymm4,%xmm6");
2159         asm volatile("vextracti32x4 $0x12,%zmm5,%xmm6{%k7}");
2160         asm volatile("vextracti64x2 $0x12,%zmm5,%xmm6{%k7}");
2161
2162         /* AVX-512: Op code 0f 3a 3a */
2163
2164         asm volatile("vinserti32x8 $0x12,%ymm5,%zmm6,%zmm7{%k7}");
2165         asm volatile("vinserti64x4 $0x12,%ymm5,%zmm6,%zmm7{%k7}");
2166
2167         /* AVX-512: Op code 0f 3a 3b */
2168
2169         asm volatile("vextracti32x8 $0x12,%zmm6,%ymm7{%k7}");
2170         asm volatile("vextracti64x4 $0x12,%zmm6,%ymm7{%k7}");
2171
2172         /* AVX-512: Op code 0f 3a 3e */
2173
2174         asm volatile("vpcmpub $0x12,%zmm6,%zmm7,%k5");
2175         asm volatile("vpcmpuw $0x12,%zmm6,%zmm7,%k5");
2176
2177         /* AVX-512: Op code 0f 3a 3f */
2178
2179         asm volatile("vpcmpb $0x12,%zmm6,%zmm7,%k5");
2180         asm volatile("vpcmpw $0x12,%zmm6,%zmm7,%k5");
2181
2182         /* AVX-512: Op code 0f 3a 42 */
2183
2184         asm volatile("vmpsadbw $0x5,%ymm4,%ymm6,%ymm2");
2185         asm volatile("vdbpsadbw $0x12,%zmm4,%zmm5,%zmm6");
2186
2187         /* AVX-512: Op code 0f 3a 43 */
2188
2189         asm volatile("vshufi32x4 $0x12,%zmm5,%zmm6,%zmm7");
2190         asm volatile("vshufi64x2 $0x12,%zmm5,%zmm6,%zmm7");
2191
2192         /* AVX-512: Op code 0f 3a 50 */
2193
2194         asm volatile("vrangeps $0x12,%zmm5,%zmm6,%zmm7");
2195         asm volatile("vrangepd $0x12,%zmm5,%zmm6,%zmm7");
2196
2197         /* AVX-512: Op code 0f 3a 51 */
2198
2199         asm volatile("vrangess $0x12,%xmm5,%xmm6,%xmm7");
2200         asm volatile("vrangesd $0x12,%xmm5,%xmm6,%xmm7");
2201
2202         /* AVX-512: Op code 0f 3a 54 */
2203
2204         asm volatile("vfixupimmps $0x12,%zmm5,%zmm6,%zmm7");
2205         asm volatile("vfixupimmpd $0x12,%zmm5,%zmm6,%zmm7");
2206
2207         /* AVX-512: Op code 0f 3a 55 */
2208
2209         asm volatile("vfixupimmss $0x12,%xmm5,%xmm6,%xmm7{%k7}");
2210         asm volatile("vfixupimmsd $0x12,%xmm5,%xmm6,%xmm7{%k7}");
2211
2212         /* AVX-512: Op code 0f 3a 56 */
2213
2214         asm volatile("vreduceps $0x12,%zmm6,%zmm7");
2215         asm volatile("vreducepd $0x12,%zmm6,%zmm7");
2216
2217         /* AVX-512: Op code 0f 3a 57 */
2218
2219         asm volatile("vreducess $0x12,%xmm5,%xmm6,%xmm7");
2220         asm volatile("vreducesd $0x12,%xmm5,%xmm6,%xmm7");
2221
2222         /* AVX-512: Op code 0f 3a 66 */
2223
2224         asm volatile("vfpclassps $0x12,%zmm7,%k5");
2225         asm volatile("vfpclasspd $0x12,%zmm7,%k5");
2226
2227         /* AVX-512: Op code 0f 3a 67 */
2228
2229         asm volatile("vfpclassss $0x12,%xmm7,%k5");
2230         asm volatile("vfpclasssd $0x12,%xmm7,%k5");
2231
2232         /* AVX-512: Op code 0f 72 (Grp13) */
2233
2234         asm volatile("vprord $0x12,%zmm5,%zmm6");
2235         asm volatile("vprorq $0x12,%zmm5,%zmm6");
2236         asm volatile("vprold $0x12,%zmm5,%zmm6");
2237         asm volatile("vprolq $0x12,%zmm5,%zmm6");
2238         asm volatile("psrad  $0x2,%mm6");
2239         asm volatile("vpsrad $0x5,%ymm6,%ymm2");
2240         asm volatile("vpsrad $0x5,%zmm6,%zmm2");
2241         asm volatile("vpsraq $0x5,%zmm6,%zmm2");
2242
2243         /* AVX-512: Op code 0f 38 c6 (Grp18) */
2244
2245         asm volatile("vgatherpf0dps 0x7b(%ebp,%zmm7,8){%k1}");
2246         asm volatile("vgatherpf0dpd 0x7b(%ebp,%ymm7,8){%k1}");
2247         asm volatile("vgatherpf1dps 0x7b(%ebp,%zmm7,8){%k1}");
2248         asm volatile("vgatherpf1dpd 0x7b(%ebp,%ymm7,8){%k1}");
2249         asm volatile("vscatterpf0dps 0x7b(%ebp,%zmm7,8){%k1}");
2250         asm volatile("vscatterpf0dpd 0x7b(%ebp,%ymm7,8){%k1}");
2251         asm volatile("vscatterpf1dps 0x7b(%ebp,%zmm7,8){%k1}");
2252         asm volatile("vscatterpf1dpd 0x7b(%ebp,%ymm7,8){%k1}");
2253
2254         /* AVX-512: Op code 0f 38 c7 (Grp19) */
2255
2256         asm volatile("vgatherpf0qps 0x7b(%ebp,%zmm7,8){%k1}");
2257         asm volatile("vgatherpf0qpd 0x7b(%ebp,%zmm7,8){%k1}");
2258         asm volatile("vgatherpf1qps 0x7b(%ebp,%zmm7,8){%k1}");
2259         asm volatile("vgatherpf1qpd 0x7b(%ebp,%zmm7,8){%k1}");
2260         asm volatile("vscatterpf0qps 0x7b(%ebp,%zmm7,8){%k1}");
2261         asm volatile("vscatterpf0qpd 0x7b(%ebp,%zmm7,8){%k1}");
2262         asm volatile("vscatterpf1qps 0x7b(%ebp,%zmm7,8){%k1}");
2263         asm volatile("vscatterpf1qpd 0x7b(%ebp,%zmm7,8){%k1}");
2264
2265         /* AVX-512: Examples */
2266
2267         asm volatile("vaddpd %zmm4,%zmm5,%zmm6");
2268         asm volatile("vaddpd %zmm4,%zmm5,%zmm6{%k7}");
2269         asm volatile("vaddpd %zmm4,%zmm5,%zmm6{%k7}{z}");
2270         asm volatile("vaddpd {rn-sae},%zmm4,%zmm5,%zmm6");
2271         asm volatile("vaddpd {ru-sae},%zmm4,%zmm5,%zmm6");
2272         asm volatile("vaddpd {rd-sae},%zmm4,%zmm5,%zmm6");
2273         asm volatile("vaddpd {rz-sae},%zmm4,%zmm5,%zmm6");
2274         asm volatile("vaddpd (%ecx),%zmm5,%zmm6");
2275         asm volatile("vaddpd 0x123(%eax,%ecx,8),%zmm5,%zmm6");
2276         asm volatile("vaddpd (%ecx){1to8},%zmm5,%zmm6");
2277         asm volatile("vaddpd 0x1fc0(%edx),%zmm5,%zmm6");
2278         asm volatile("vaddpd 0x3f8(%edx){1to8},%zmm5,%zmm6");
2279         asm volatile("vcmpeq_uqps 0x1fc(%edx){1to16},%zmm6,%k5");
2280         asm volatile("vcmpltsd 0x123(%eax,%ecx,8),%xmm3,%k5{%k7}");
2281         asm volatile("vcmplesd {sae},%xmm4,%xmm5,%k5{%k7}");
2282         asm volatile("vgetmantss $0x5b,0x123(%eax,%ecx,8),%xmm4,%xmm5{%k7}");
2283
2284         /* bndmk m32, bnd */
2285
2286         asm volatile("bndmk (%eax), %bnd0");
2287         asm volatile("bndmk (0x12345678), %bnd0");
2288         asm volatile("bndmk (%eax), %bnd3");
2289         asm volatile("bndmk (%ecx,%eax,1), %bnd0");
2290         asm volatile("bndmk 0x12345678(,%eax,1), %bnd0");
2291         asm volatile("bndmk (%eax,%ecx,1), %bnd0");
2292         asm volatile("bndmk (%eax,%ecx,8), %bnd0");
2293         asm volatile("bndmk 0x12(%eax), %bnd0");
2294         asm volatile("bndmk 0x12(%ebp), %bnd0");
2295         asm volatile("bndmk 0x12(%ecx,%eax,1), %bnd0");
2296         asm volatile("bndmk 0x12(%ebp,%eax,1), %bnd0");
2297         asm volatile("bndmk 0x12(%eax,%ecx,1), %bnd0");
2298         asm volatile("bndmk 0x12(%eax,%ecx,8), %bnd0");
2299         asm volatile("bndmk 0x12345678(%eax), %bnd0");
2300         asm volatile("bndmk 0x12345678(%ebp), %bnd0");
2301         asm volatile("bndmk 0x12345678(%ecx,%eax,1), %bnd0");
2302         asm volatile("bndmk 0x12345678(%ebp,%eax,1), %bnd0");
2303         asm volatile("bndmk 0x12345678(%eax,%ecx,1), %bnd0");
2304         asm volatile("bndmk 0x12345678(%eax,%ecx,8), %bnd0");
2305
2306         /* bndcl r/m32, bnd */
2307
2308         asm volatile("bndcl (%eax), %bnd0");
2309         asm volatile("bndcl (0x12345678), %bnd0");
2310         asm volatile("bndcl (%eax), %bnd3");
2311         asm volatile("bndcl (%ecx,%eax,1), %bnd0");
2312         asm volatile("bndcl 0x12345678(,%eax,1), %bnd0");
2313         asm volatile("bndcl (%eax,%ecx,1), %bnd0");
2314         asm volatile("bndcl (%eax,%ecx,8), %bnd0");
2315         asm volatile("bndcl 0x12(%eax), %bnd0");
2316         asm volatile("bndcl 0x12(%ebp), %bnd0");
2317         asm volatile("bndcl 0x12(%ecx,%eax,1), %bnd0");
2318         asm volatile("bndcl 0x12(%ebp,%eax,1), %bnd0");
2319         asm volatile("bndcl 0x12(%eax,%ecx,1), %bnd0");
2320         asm volatile("bndcl 0x12(%eax,%ecx,8), %bnd0");
2321         asm volatile("bndcl 0x12345678(%eax), %bnd0");
2322         asm volatile("bndcl 0x12345678(%ebp), %bnd0");
2323         asm volatile("bndcl 0x12345678(%ecx,%eax,1), %bnd0");
2324         asm volatile("bndcl 0x12345678(%ebp,%eax,1), %bnd0");
2325         asm volatile("bndcl 0x12345678(%eax,%ecx,1), %bnd0");
2326         asm volatile("bndcl 0x12345678(%eax,%ecx,8), %bnd0");
2327         asm volatile("bndcl %eax, %bnd0");
2328
2329         /* bndcu r/m32, bnd */
2330
2331         asm volatile("bndcu (%eax), %bnd0");
2332         asm volatile("bndcu (0x12345678), %bnd0");
2333         asm volatile("bndcu (%eax), %bnd3");
2334         asm volatile("bndcu (%ecx,%eax,1), %bnd0");
2335         asm volatile("bndcu 0x12345678(,%eax,1), %bnd0");
2336         asm volatile("bndcu (%eax,%ecx,1), %bnd0");
2337         asm volatile("bndcu (%eax,%ecx,8), %bnd0");
2338         asm volatile("bndcu 0x12(%eax), %bnd0");
2339         asm volatile("bndcu 0x12(%ebp), %bnd0");
2340         asm volatile("bndcu 0x12(%ecx,%eax,1), %bnd0");
2341         asm volatile("bndcu 0x12(%ebp,%eax,1), %bnd0");
2342         asm volatile("bndcu 0x12(%eax,%ecx,1), %bnd0");
2343         asm volatile("bndcu 0x12(%eax,%ecx,8), %bnd0");
2344         asm volatile("bndcu 0x12345678(%eax), %bnd0");
2345         asm volatile("bndcu 0x12345678(%ebp), %bnd0");
2346         asm volatile("bndcu 0x12345678(%ecx,%eax,1), %bnd0");
2347         asm volatile("bndcu 0x12345678(%ebp,%eax,1), %bnd0");
2348         asm volatile("bndcu 0x12345678(%eax,%ecx,1), %bnd0");
2349         asm volatile("bndcu 0x12345678(%eax,%ecx,8), %bnd0");
2350         asm volatile("bndcu %eax, %bnd0");
2351
2352         /* bndcn r/m32, bnd */
2353
2354         asm volatile("bndcn (%eax), %bnd0");
2355         asm volatile("bndcn (0x12345678), %bnd0");
2356         asm volatile("bndcn (%eax), %bnd3");
2357         asm volatile("bndcn (%ecx,%eax,1), %bnd0");
2358         asm volatile("bndcn 0x12345678(,%eax,1), %bnd0");
2359         asm volatile("bndcn (%eax,%ecx,1), %bnd0");
2360         asm volatile("bndcn (%eax,%ecx,8), %bnd0");
2361         asm volatile("bndcn 0x12(%eax), %bnd0");
2362         asm volatile("bndcn 0x12(%ebp), %bnd0");
2363         asm volatile("bndcn 0x12(%ecx,%eax,1), %bnd0");
2364         asm volatile("bndcn 0x12(%ebp,%eax,1), %bnd0");
2365         asm volatile("bndcn 0x12(%eax,%ecx,1), %bnd0");
2366         asm volatile("bndcn 0x12(%eax,%ecx,8), %bnd0");
2367         asm volatile("bndcn 0x12345678(%eax), %bnd0");
2368         asm volatile("bndcn 0x12345678(%ebp), %bnd0");
2369         asm volatile("bndcn 0x12345678(%ecx,%eax,1), %bnd0");
2370         asm volatile("bndcn 0x12345678(%ebp,%eax,1), %bnd0");
2371         asm volatile("bndcn 0x12345678(%eax,%ecx,1), %bnd0");
2372         asm volatile("bndcn 0x12345678(%eax,%ecx,8), %bnd0");
2373         asm volatile("bndcn %eax, %bnd0");
2374
2375         /* bndmov m64, bnd */
2376
2377         asm volatile("bndmov (%eax), %bnd0");
2378         asm volatile("bndmov (0x12345678), %bnd0");
2379         asm volatile("bndmov (%eax), %bnd3");
2380         asm volatile("bndmov (%ecx,%eax,1), %bnd0");
2381         asm volatile("bndmov 0x12345678(,%eax,1), %bnd0");
2382         asm volatile("bndmov (%eax,%ecx,1), %bnd0");
2383         asm volatile("bndmov (%eax,%ecx,8), %bnd0");
2384         asm volatile("bndmov 0x12(%eax), %bnd0");
2385         asm volatile("bndmov 0x12(%ebp), %bnd0");
2386         asm volatile("bndmov 0x12(%ecx,%eax,1), %bnd0");
2387         asm volatile("bndmov 0x12(%ebp,%eax,1), %bnd0");
2388         asm volatile("bndmov 0x12(%eax,%ecx,1), %bnd0");
2389         asm volatile("bndmov 0x12(%eax,%ecx,8), %bnd0");
2390         asm volatile("bndmov 0x12345678(%eax), %bnd0");
2391         asm volatile("bndmov 0x12345678(%ebp), %bnd0");
2392         asm volatile("bndmov 0x12345678(%ecx,%eax,1), %bnd0");
2393         asm volatile("bndmov 0x12345678(%ebp,%eax,1), %bnd0");
2394         asm volatile("bndmov 0x12345678(%eax,%ecx,1), %bnd0");
2395         asm volatile("bndmov 0x12345678(%eax,%ecx,8), %bnd0");
2396
2397         /* bndmov bnd, m64 */
2398
2399         asm volatile("bndmov %bnd0, (%eax)");
2400         asm volatile("bndmov %bnd0, (0x12345678)");
2401         asm volatile("bndmov %bnd3, (%eax)");
2402         asm volatile("bndmov %bnd0, (%ecx,%eax,1)");
2403         asm volatile("bndmov %bnd0, 0x12345678(,%eax,1)");
2404         asm volatile("bndmov %bnd0, (%eax,%ecx,1)");
2405         asm volatile("bndmov %bnd0, (%eax,%ecx,8)");
2406         asm volatile("bndmov %bnd0, 0x12(%eax)");
2407         asm volatile("bndmov %bnd0, 0x12(%ebp)");
2408         asm volatile("bndmov %bnd0, 0x12(%ecx,%eax,1)");
2409         asm volatile("bndmov %bnd0, 0x12(%ebp,%eax,1)");
2410         asm volatile("bndmov %bnd0, 0x12(%eax,%ecx,1)");
2411         asm volatile("bndmov %bnd0, 0x12(%eax,%ecx,8)");
2412         asm volatile("bndmov %bnd0, 0x12345678(%eax)");
2413         asm volatile("bndmov %bnd0, 0x12345678(%ebp)");
2414         asm volatile("bndmov %bnd0, 0x12345678(%ecx,%eax,1)");
2415         asm volatile("bndmov %bnd0, 0x12345678(%ebp,%eax,1)");
2416         asm volatile("bndmov %bnd0, 0x12345678(%eax,%ecx,1)");
2417         asm volatile("bndmov %bnd0, 0x12345678(%eax,%ecx,8)");
2418
2419         /* bndmov bnd2, bnd1 */
2420
2421         asm volatile("bndmov %bnd0, %bnd1");
2422         asm volatile("bndmov %bnd1, %bnd0");
2423
2424         /* bndldx mib, bnd */
2425
2426         asm volatile("bndldx (%eax), %bnd0");
2427         asm volatile("bndldx (0x12345678), %bnd0");
2428         asm volatile("bndldx (%eax), %bnd3");
2429         asm volatile("bndldx (%ecx,%eax,1), %bnd0");
2430         asm volatile("bndldx 0x12345678(,%eax,1), %bnd0");
2431         asm volatile("bndldx (%eax,%ecx,1), %bnd0");
2432         asm volatile("bndldx 0x12(%eax), %bnd0");
2433         asm volatile("bndldx 0x12(%ebp), %bnd0");
2434         asm volatile("bndldx 0x12(%ecx,%eax,1), %bnd0");
2435         asm volatile("bndldx 0x12(%ebp,%eax,1), %bnd0");
2436         asm volatile("bndldx 0x12(%eax,%ecx,1), %bnd0");
2437         asm volatile("bndldx 0x12345678(%eax), %bnd0");
2438         asm volatile("bndldx 0x12345678(%ebp), %bnd0");
2439         asm volatile("bndldx 0x12345678(%ecx,%eax,1), %bnd0");
2440         asm volatile("bndldx 0x12345678(%ebp,%eax,1), %bnd0");
2441         asm volatile("bndldx 0x12345678(%eax,%ecx,1), %bnd0");
2442
2443         /* bndstx bnd, mib */
2444
2445         asm volatile("bndstx %bnd0, (%eax)");
2446         asm volatile("bndstx %bnd0, (0x12345678)");
2447         asm volatile("bndstx %bnd3, (%eax)");
2448         asm volatile("bndstx %bnd0, (%ecx,%eax,1)");
2449         asm volatile("bndstx %bnd0, 0x12345678(,%eax,1)");
2450         asm volatile("bndstx %bnd0, (%eax,%ecx,1)");
2451         asm volatile("bndstx %bnd0, 0x12(%eax)");
2452         asm volatile("bndstx %bnd0, 0x12(%ebp)");
2453         asm volatile("bndstx %bnd0, 0x12(%ecx,%eax,1)");
2454         asm volatile("bndstx %bnd0, 0x12(%ebp,%eax,1)");
2455         asm volatile("bndstx %bnd0, 0x12(%eax,%ecx,1)");
2456         asm volatile("bndstx %bnd0, 0x12345678(%eax)");
2457         asm volatile("bndstx %bnd0, 0x12345678(%ebp)");
2458         asm volatile("bndstx %bnd0, 0x12345678(%ecx,%eax,1)");
2459         asm volatile("bndstx %bnd0, 0x12345678(%ebp,%eax,1)");
2460         asm volatile("bndstx %bnd0, 0x12345678(%eax,%ecx,1)");
2461
2462         /* bnd prefix on call, ret, jmp and all jcc */
2463
2464         asm volatile("bnd call label1");  /* Expecting: call unconditional 0xfffffffc */
2465         asm volatile("bnd call *(%eax)"); /* Expecting: call indirect      0 */
2466         asm volatile("bnd ret");          /* Expecting: ret  indirect      0 */
2467         asm volatile("bnd jmp label1");   /* Expecting: jmp  unconditional 0xfffffffc */
2468         asm volatile("bnd jmp label1");   /* Expecting: jmp  unconditional 0xfffffffc */
2469         asm volatile("bnd jmp *(%ecx)");  /* Expecting: jmp  indirect      0 */
2470         asm volatile("bnd jne label1");   /* Expecting: jcc  conditional   0xfffffffc */
2471
2472         /* sha1rnds4 imm8, xmm2/m128, xmm1 */
2473
2474         asm volatile("sha1rnds4 $0x0, %xmm1, %xmm0");
2475         asm volatile("sha1rnds4 $0x91, %xmm7, %xmm2");
2476         asm volatile("sha1rnds4 $0x91, (%eax), %xmm0");
2477         asm volatile("sha1rnds4 $0x91, (0x12345678), %xmm0");
2478         asm volatile("sha1rnds4 $0x91, (%eax), %xmm3");
2479         asm volatile("sha1rnds4 $0x91, (%ecx,%eax,1), %xmm0");
2480         asm volatile("sha1rnds4 $0x91, 0x12345678(,%eax,1), %xmm0");
2481         asm volatile("sha1rnds4 $0x91, (%eax,%ecx,1), %xmm0");
2482         asm volatile("sha1rnds4 $0x91, (%eax,%ecx,8), %xmm0");
2483         asm volatile("sha1rnds4 $0x91, 0x12(%eax), %xmm0");
2484         asm volatile("sha1rnds4 $0x91, 0x12(%ebp), %xmm0");
2485         asm volatile("sha1rnds4 $0x91, 0x12(%ecx,%eax,1), %xmm0");
2486         asm volatile("sha1rnds4 $0x91, 0x12(%ebp,%eax,1), %xmm0");
2487         asm volatile("sha1rnds4 $0x91, 0x12(%eax,%ecx,1), %xmm0");
2488         asm volatile("sha1rnds4 $0x91, 0x12(%eax,%ecx,8), %xmm0");
2489         asm volatile("sha1rnds4 $0x91, 0x12345678(%eax), %xmm0");
2490         asm volatile("sha1rnds4 $0x91, 0x12345678(%ebp), %xmm0");
2491         asm volatile("sha1rnds4 $0x91, 0x12345678(%ecx,%eax,1), %xmm0");
2492         asm volatile("sha1rnds4 $0x91, 0x12345678(%ebp,%eax,1), %xmm0");
2493         asm volatile("sha1rnds4 $0x91, 0x12345678(%eax,%ecx,1), %xmm0");
2494         asm volatile("sha1rnds4 $0x91, 0x12345678(%eax,%ecx,8), %xmm0");
2495
2496         /* sha1nexte xmm2/m128, xmm1 */
2497
2498         asm volatile("sha1nexte %xmm1, %xmm0");
2499         asm volatile("sha1nexte %xmm7, %xmm2");
2500         asm volatile("sha1nexte (%eax), %xmm0");
2501         asm volatile("sha1nexte (0x12345678), %xmm0");
2502         asm volatile("sha1nexte (%eax), %xmm3");
2503         asm volatile("sha1nexte (%ecx,%eax,1), %xmm0");
2504         asm volatile("sha1nexte 0x12345678(,%eax,1), %xmm0");
2505         asm volatile("sha1nexte (%eax,%ecx,1), %xmm0");
2506         asm volatile("sha1nexte (%eax,%ecx,8), %xmm0");
2507         asm volatile("sha1nexte 0x12(%eax), %xmm0");
2508         asm volatile("sha1nexte 0x12(%ebp), %xmm0");
2509         asm volatile("sha1nexte 0x12(%ecx,%eax,1), %xmm0");
2510         asm volatile("sha1nexte 0x12(%ebp,%eax,1), %xmm0");
2511         asm volatile("sha1nexte 0x12(%eax,%ecx,1), %xmm0");
2512         asm volatile("sha1nexte 0x12(%eax,%ecx,8), %xmm0");
2513         asm volatile("sha1nexte 0x12345678(%eax), %xmm0");
2514         asm volatile("sha1nexte 0x12345678(%ebp), %xmm0");
2515         asm volatile("sha1nexte 0x12345678(%ecx,%eax,1), %xmm0");
2516         asm volatile("sha1nexte 0x12345678(%ebp,%eax,1), %xmm0");
2517         asm volatile("sha1nexte 0x12345678(%eax,%ecx,1), %xmm0");
2518         asm volatile("sha1nexte 0x12345678(%eax,%ecx,8), %xmm0");
2519
2520         /* sha1msg1 xmm2/m128, xmm1 */
2521
2522         asm volatile("sha1msg1 %xmm1, %xmm0");
2523         asm volatile("sha1msg1 %xmm7, %xmm2");
2524         asm volatile("sha1msg1 (%eax), %xmm0");
2525         asm volatile("sha1msg1 (0x12345678), %xmm0");
2526         asm volatile("sha1msg1 (%eax), %xmm3");
2527         asm volatile("sha1msg1 (%ecx,%eax,1), %xmm0");
2528         asm volatile("sha1msg1 0x12345678(,%eax,1), %xmm0");
2529         asm volatile("sha1msg1 (%eax,%ecx,1), %xmm0");
2530         asm volatile("sha1msg1 (%eax,%ecx,8), %xmm0");
2531         asm volatile("sha1msg1 0x12(%eax), %xmm0");
2532         asm volatile("sha1msg1 0x12(%ebp), %xmm0");
2533         asm volatile("sha1msg1 0x12(%ecx,%eax,1), %xmm0");
2534         asm volatile("sha1msg1 0x12(%ebp,%eax,1), %xmm0");
2535         asm volatile("sha1msg1 0x12(%eax,%ecx,1), %xmm0");
2536         asm volatile("sha1msg1 0x12(%eax,%ecx,8), %xmm0");
2537         asm volatile("sha1msg1 0x12345678(%eax), %xmm0");
2538         asm volatile("sha1msg1 0x12345678(%ebp), %xmm0");
2539         asm volatile("sha1msg1 0x12345678(%ecx,%eax,1), %xmm0");
2540         asm volatile("sha1msg1 0x12345678(%ebp,%eax,1), %xmm0");
2541         asm volatile("sha1msg1 0x12345678(%eax,%ecx,1), %xmm0");
2542         asm volatile("sha1msg1 0x12345678(%eax,%ecx,8), %xmm0");
2543
2544         /* sha1msg2 xmm2/m128, xmm1 */
2545
2546         asm volatile("sha1msg2 %xmm1, %xmm0");
2547         asm volatile("sha1msg2 %xmm7, %xmm2");
2548         asm volatile("sha1msg2 (%eax), %xmm0");
2549         asm volatile("sha1msg2 (0x12345678), %xmm0");
2550         asm volatile("sha1msg2 (%eax), %xmm3");
2551         asm volatile("sha1msg2 (%ecx,%eax,1), %xmm0");
2552         asm volatile("sha1msg2 0x12345678(,%eax,1), %xmm0");
2553         asm volatile("sha1msg2 (%eax,%ecx,1), %xmm0");
2554         asm volatile("sha1msg2 (%eax,%ecx,8), %xmm0");
2555         asm volatile("sha1msg2 0x12(%eax), %xmm0");
2556         asm volatile("sha1msg2 0x12(%ebp), %xmm0");
2557         asm volatile("sha1msg2 0x12(%ecx,%eax,1), %xmm0");
2558         asm volatile("sha1msg2 0x12(%ebp,%eax,1), %xmm0");
2559         asm volatile("sha1msg2 0x12(%eax,%ecx,1), %xmm0");
2560         asm volatile("sha1msg2 0x12(%eax,%ecx,8), %xmm0");
2561         asm volatile("sha1msg2 0x12345678(%eax), %xmm0");
2562         asm volatile("sha1msg2 0x12345678(%ebp), %xmm0");
2563         asm volatile("sha1msg2 0x12345678(%ecx,%eax,1), %xmm0");
2564         asm volatile("sha1msg2 0x12345678(%ebp,%eax,1), %xmm0");
2565         asm volatile("sha1msg2 0x12345678(%eax,%ecx,1), %xmm0");
2566         asm volatile("sha1msg2 0x12345678(%eax,%ecx,8), %xmm0");
2567
2568         /* sha256rnds2 <XMM0>, xmm2/m128, xmm1 */
2569         /* Note sha256rnds2 has an implicit operand 'xmm0' */
2570
2571         asm volatile("sha256rnds2 %xmm4, %xmm1");
2572         asm volatile("sha256rnds2 %xmm7, %xmm2");
2573         asm volatile("sha256rnds2 (%eax), %xmm1");
2574         asm volatile("sha256rnds2 (0x12345678), %xmm1");
2575         asm volatile("sha256rnds2 (%eax), %xmm3");
2576         asm volatile("sha256rnds2 (%ecx,%eax,1), %xmm1");
2577         asm volatile("sha256rnds2 0x12345678(,%eax,1), %xmm1");
2578         asm volatile("sha256rnds2 (%eax,%ecx,1), %xmm1");
2579         asm volatile("sha256rnds2 (%eax,%ecx,8), %xmm1");
2580         asm volatile("sha256rnds2 0x12(%eax), %xmm1");
2581         asm volatile("sha256rnds2 0x12(%ebp), %xmm1");
2582         asm volatile("sha256rnds2 0x12(%ecx,%eax,1), %xmm1");
2583         asm volatile("sha256rnds2 0x12(%ebp,%eax,1), %xmm1");
2584         asm volatile("sha256rnds2 0x12(%eax,%ecx,1), %xmm1");
2585         asm volatile("sha256rnds2 0x12(%eax,%ecx,8), %xmm1");
2586         asm volatile("sha256rnds2 0x12345678(%eax), %xmm1");
2587         asm volatile("sha256rnds2 0x12345678(%ebp), %xmm1");
2588         asm volatile("sha256rnds2 0x12345678(%ecx,%eax,1), %xmm1");
2589         asm volatile("sha256rnds2 0x12345678(%ebp,%eax,1), %xmm1");
2590         asm volatile("sha256rnds2 0x12345678(%eax,%ecx,1), %xmm1");
2591         asm volatile("sha256rnds2 0x12345678(%eax,%ecx,8), %xmm1");
2592
2593         /* sha256msg1 xmm2/m128, xmm1 */
2594
2595         asm volatile("sha256msg1 %xmm1, %xmm0");
2596         asm volatile("sha256msg1 %xmm7, %xmm2");
2597         asm volatile("sha256msg1 (%eax), %xmm0");
2598         asm volatile("sha256msg1 (0x12345678), %xmm0");
2599         asm volatile("sha256msg1 (%eax), %xmm3");
2600         asm volatile("sha256msg1 (%ecx,%eax,1), %xmm0");
2601         asm volatile("sha256msg1 0x12345678(,%eax,1), %xmm0");
2602         asm volatile("sha256msg1 (%eax,%ecx,1), %xmm0");
2603         asm volatile("sha256msg1 (%eax,%ecx,8), %xmm0");
2604         asm volatile("sha256msg1 0x12(%eax), %xmm0");
2605         asm volatile("sha256msg1 0x12(%ebp), %xmm0");
2606         asm volatile("sha256msg1 0x12(%ecx,%eax,1), %xmm0");
2607         asm volatile("sha256msg1 0x12(%ebp,%eax,1), %xmm0");
2608         asm volatile("sha256msg1 0x12(%eax,%ecx,1), %xmm0");
2609         asm volatile("sha256msg1 0x12(%eax,%ecx,8), %xmm0");
2610         asm volatile("sha256msg1 0x12345678(%eax), %xmm0");
2611         asm volatile("sha256msg1 0x12345678(%ebp), %xmm0");
2612         asm volatile("sha256msg1 0x12345678(%ecx,%eax,1), %xmm0");
2613         asm volatile("sha256msg1 0x12345678(%ebp,%eax,1), %xmm0");
2614         asm volatile("sha256msg1 0x12345678(%eax,%ecx,1), %xmm0");
2615         asm volatile("sha256msg1 0x12345678(%eax,%ecx,8), %xmm0");
2616
2617         /* sha256msg2 xmm2/m128, xmm1 */
2618
2619         asm volatile("sha256msg2 %xmm1, %xmm0");
2620         asm volatile("sha256msg2 %xmm7, %xmm2");
2621         asm volatile("sha256msg2 (%eax), %xmm0");
2622         asm volatile("sha256msg2 (0x12345678), %xmm0");
2623         asm volatile("sha256msg2 (%eax), %xmm3");
2624         asm volatile("sha256msg2 (%ecx,%eax,1), %xmm0");
2625         asm volatile("sha256msg2 0x12345678(,%eax,1), %xmm0");
2626         asm volatile("sha256msg2 (%eax,%ecx,1), %xmm0");
2627         asm volatile("sha256msg2 (%eax,%ecx,8), %xmm0");
2628         asm volatile("sha256msg2 0x12(%eax), %xmm0");
2629         asm volatile("sha256msg2 0x12(%ebp), %xmm0");
2630         asm volatile("sha256msg2 0x12(%ecx,%eax,1), %xmm0");
2631         asm volatile("sha256msg2 0x12(%ebp,%eax,1), %xmm0");
2632         asm volatile("sha256msg2 0x12(%eax,%ecx,1), %xmm0");
2633         asm volatile("sha256msg2 0x12(%eax,%ecx,8), %xmm0");
2634         asm volatile("sha256msg2 0x12345678(%eax), %xmm0");
2635         asm volatile("sha256msg2 0x12345678(%ebp), %xmm0");
2636         asm volatile("sha256msg2 0x12345678(%ecx,%eax,1), %xmm0");
2637         asm volatile("sha256msg2 0x12345678(%ebp,%eax,1), %xmm0");
2638         asm volatile("sha256msg2 0x12345678(%eax,%ecx,1), %xmm0");
2639         asm volatile("sha256msg2 0x12345678(%eax,%ecx,8), %xmm0");
2640
2641         /* clflushopt m8 */
2642
2643         asm volatile("clflushopt (%eax)");
2644         asm volatile("clflushopt (0x12345678)");
2645         asm volatile("clflushopt 0x12345678(%eax,%ecx,8)");
2646         /* Also check instructions in the same group encoding as clflushopt */
2647         asm volatile("clflush (%eax)");
2648         asm volatile("sfence");
2649
2650         /* clwb m8 */
2651
2652         asm volatile("clwb (%eax)");
2653         asm volatile("clwb (0x12345678)");
2654         asm volatile("clwb 0x12345678(%eax,%ecx,8)");
2655         /* Also check instructions in the same group encoding as clwb */
2656         asm volatile("xsaveopt (%eax)");
2657         asm volatile("mfence");
2658
2659         /* xsavec mem */
2660
2661         asm volatile("xsavec (%eax)");
2662         asm volatile("xsavec (0x12345678)");
2663         asm volatile("xsavec 0x12345678(%eax,%ecx,8)");
2664
2665         /* xsaves mem */
2666
2667         asm volatile("xsaves (%eax)");
2668         asm volatile("xsaves (0x12345678)");
2669         asm volatile("xsaves 0x12345678(%eax,%ecx,8)");
2670
2671         /* xrstors mem */
2672
2673         asm volatile("xrstors (%eax)");
2674         asm volatile("xrstors (0x12345678)");
2675         asm volatile("xrstors 0x12345678(%eax,%ecx,8)");
2676
2677         /* ptwrite */
2678
2679         asm volatile("ptwrite (%eax)");
2680         asm volatile("ptwrite (0x12345678)");
2681         asm volatile("ptwrite 0x12345678(%eax,%ecx,8)");
2682
2683         asm volatile("ptwritel (%eax)");
2684         asm volatile("ptwritel (0x12345678)");
2685         asm volatile("ptwritel 0x12345678(%eax,%ecx,8)");
2686
2687 #endif /* #ifndef __x86_64__ */
2688
2689         /* Following line is a marker for the awk script - do not change */
2690         asm volatile("rdtsc"); /* Stop here */
2691
2692         return 0;
2693 }