This repository has been archived by the owner on Aug 2, 2019. It is now read-only.
-
Notifications
You must be signed in to change notification settings - Fork 12
/
log10_256_lead_tail_table.asm
552 lines (550 loc) · 21.9 KB
/
log10_256_lead_tail_table.asm
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416
417
418
419
420
421
422
423
424
425
426
427
428
429
430
431
432
433
434
435
436
437
438
439
440
441
442
443
444
445
446
447
448
449
450
451
452
453
454
455
456
457
458
459
460
461
462
463
464
465
466
467
468
469
470
471
472
473
474
475
476
477
478
479
480
481
482
483
484
485
486
487
488
489
490
491
492
493
494
495
496
497
498
499
500
501
502
503
504
505
506
507
508
509
510
511
512
513
514
515
516
517
518
519
520
521
522
523
524
525
526
527
528
529
530
531
532
533
534
535
536
537
538
539
540
541
542
543
544
545
546
547
548
549
550
551
552
;
; MIT License
; -----------
;
; Copyright (c) 2002-2019 Advanced Micro Devices, Inc.
;
; Permission is hereby granted, free of charge, to any person obtaining a copy
; of this Software and associated documentaon files (the "Software"), to deal
; in the Software without restriction, including without limitation the rights
; to use, copy, modify, merge, publish, distribute, sublicense, and/or sell
; copies of the Software, and to permit persons to whom the Software is
; furnished to do so, subject to the following conditions:
;
; The above copyright notice and this permission notice shall be included in
; all copies or substantial portions of the Software.
;
; THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
; IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
; FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE
; AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
; LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM,
; OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN
; THE SOFTWARE.
;
;;
;; Defines __log_256_lead and __log_256_tail tables
;; Used by log and pow
;;
.const
ALIGN 16
PUBLIC __log10_256_lead
__log10_256_lead:
DQ 0000000000000000h
DQ 3f5bbd9e90000000h
DQ 3f6bafd470000000h
DQ 3f74b99560000000h
DQ 3f7b9476a0000000h
DQ 3f81344da0000000h
DQ 3f849b0850000000h
DQ 3f87fe71c0000000h
DQ 3f8b5e9080000000h
DQ 3f8ebb6af0000000h
DQ 3f910a83a0000000h
DQ 3f92b5b5e0000000h
DQ 3f945f4f50000000h
DQ 3f96075300000000h
DQ 3f97adc3d0000000h
DQ 3f9952a4f0000000h
DQ 3f9af5f920000000h
DQ 3f9c97c370000000h
DQ 3f9e3806a0000000h
DQ 3f9fd6c5b0000000h
DQ 3fa0ba01a0000000h
DQ 3fa187e120000000h
DQ 3fa25502c0000000h
DQ 3fa32167c0000000h
DQ 3fa3ed1190000000h
DQ 3fa4b80180000000h
DQ 3fa58238e0000000h
DQ 3fa64bb910000000h
DQ 3fa7148340000000h
DQ 3fa7dc98c0000000h
DQ 3fa8a3fad0000000h
DQ 3fa96aaac0000000h
DQ 3faa30a9d0000000h
DQ 3faaf5f920000000h
DQ 3fabba9a00000000h
DQ 3fac7e8d90000000h
DQ 3fad41d510000000h
DQ 3fae0471a0000000h
DQ 3faec66470000000h
DQ 3faf87aeb0000000h
DQ 3fb02428c0000000h
DQ 3fb08426f0000000h
DQ 3fb0e3d290000000h
DQ 3fb1432c30000000h
DQ 3fb1a23440000000h
DQ 3fb200eb60000000h
DQ 3fb25f5210000000h
DQ 3fb2bd68e0000000h
DQ 3fb31b3050000000h
DQ 3fb378a8e0000000h
DQ 3fb3d5d330000000h
DQ 3fb432afa0000000h
DQ 3fb48f3ed0000000h
DQ 3fb4eb8120000000h
DQ 3fb5477730000000h
DQ 3fb5a32160000000h
DQ 3fb5fe8040000000h
DQ 3fb6599440000000h
DQ 3fb6b45df0000000h
DQ 3fb70eddb0000000h
DQ 3fb7691400000000h
DQ 3fb7c30160000000h
DQ 3fb81ca630000000h
DQ 3fb8760300000000h
DQ 3fb8cf1830000000h
DQ 3fb927e640000000h
DQ 3fb9806d90000000h
DQ 3fb9d8aea0000000h
DQ 3fba30a9d0000000h
DQ 3fba885fa0000000h
DQ 3fbadfd070000000h
DQ 3fbb36fcb0000000h
DQ 3fbb8de4d0000000h
DQ 3fbbe48930000000h
DQ 3fbc3aea40000000h
DQ 3fbc910870000000h
DQ 3fbce6e410000000h
DQ 3fbd3c7da0000000h
DQ 3fbd91d580000000h
DQ 3fbde6ec00000000h
DQ 3fbe3bc1a0000000h
DQ 3fbe9056b0000000h
DQ 3fbee4aba0000000h
DQ 3fbf38c0c0000000h
DQ 3fbf8c9680000000h
DQ 3fbfe02d30000000h
DQ 3fc019c2a0000000h
DQ 3fc0434f70000000h
DQ 3fc06cbd60000000h
DQ 3fc0960c80000000h
DQ 3fc0bf3d00000000h
DQ 3fc0e84f10000000h
DQ 3fc11142f0000000h
DQ 3fc13a18a0000000h
DQ 3fc162d080000000h
DQ 3fc18b6a90000000h
DQ 3fc1b3e710000000h
DQ 3fc1dc4630000000h
DQ 3fc2048810000000h
DQ 3fc22cace0000000h
DQ 3fc254b4d0000000h
DQ 3fc27c9ff0000000h
DQ 3fc2a46e80000000h
DQ 3fc2cc20b0000000h
DQ 3fc2f3b690000000h
DQ 3fc31b3050000000h
DQ 3fc3428e20000000h
DQ 3fc369d020000000h
DQ 3fc390f680000000h
DQ 3fc3b80160000000h
DQ 3fc3def0e0000000h
DQ 3fc405c530000000h
DQ 3fc42c7e70000000h
DQ 3fc4531cd0000000h
DQ 3fc479a070000000h
DQ 3fc4a00970000000h
DQ 3fc4c65800000000h
DQ 3fc4ec8c30000000h
DQ 3fc512a640000000h
DQ 3fc538a630000000h
DQ 3fc55e8c50000000h
DQ 3fc5845890000000h
DQ 3fc5aa0b40000000h
DQ 3fc5cfa470000000h
DQ 3fc5f52440000000h
DQ 3fc61a8ad0000000h
DQ 3fc63fd850000000h
DQ 3fc6650cd0000000h
DQ 3fc68a2880000000h
DQ 3fc6af2b80000000h
DQ 3fc6d415e0000000h
DQ 3fc6f8e7d0000000h
DQ 3fc71da170000000h
DQ 3fc74242e0000000h
DQ 3fc766cc40000000h
DQ 3fc78b3da0000000h
DQ 3fc7af9730000000h
DQ 3fc7d3d910000000h
DQ 3fc7f80350000000h
DQ 3fc81c1620000000h
DQ 3fc8401190000000h
DQ 3fc863f5c0000000h
DQ 3fc887c2e0000000h
DQ 3fc8ab7900000000h
DQ 3fc8cf1830000000h
DQ 3fc8f2a0a0000000h
DQ 3fc9161270000000h
DQ 3fc9396db0000000h
DQ 3fc95cb280000000h
DQ 3fc97fe100000000h
DQ 3fc9a2f950000000h
DQ 3fc9c5fb70000000h
DQ 3fc9e8e7b0000000h
DQ 3fca0bbdf0000000h
DQ 3fca2e7e80000000h
DQ 3fca512960000000h
DQ 3fca73bea0000000h
DQ 3fca963e70000000h
DQ 3fcab8a8f0000000h
DQ 3fcadafe20000000h
DQ 3fcafd3e30000000h
DQ 3fcb1f6930000000h
DQ 3fcb417f40000000h
DQ 3fcb638070000000h
DQ 3fcb856cf0000000h
DQ 3fcba744b0000000h
DQ 3fcbc907f0000000h
DQ 3fcbeab6c0000000h
DQ 3fcc0c5130000000h
DQ 3fcc2dd750000000h
DQ 3fcc4f4950000000h
DQ 3fcc70a740000000h
DQ 3fcc91f130000000h
DQ 3fccb32740000000h
DQ 3fccd44980000000h
DQ 3fccf55810000000h
DQ 3fcd165300000000h
DQ 3fcd373a60000000h
DQ 3fcd580e60000000h
DQ 3fcd78cf00000000h
DQ 3fcd997c70000000h
DQ 3fcdba16a0000000h
DQ 3fcdda9dd0000000h
DQ 3fcdfb11f0000000h
DQ 3fce1b7330000000h
DQ 3fce3bc1a0000000h
DQ 3fce5bfd50000000h
DQ 3fce7c2660000000h
DQ 3fce9c3ce0000000h
DQ 3fcebc40e0000000h
DQ 3fcedc3280000000h
DQ 3fcefc11d0000000h
DQ 3fcf1bdee0000000h
DQ 3fcf3b99d0000000h
DQ 3fcf5b42a0000000h
DQ 3fcf7ad980000000h
DQ 3fcf9a5e70000000h
DQ 3fcfb9d190000000h
DQ 3fcfd932f0000000h
DQ 3fcff882a0000000h
DQ 3fd00be050000000h
DQ 3fd01b76a0000000h
DQ 3fd02b0430000000h
DQ 3fd03a8910000000h
DQ 3fd04a0540000000h
DQ 3fd05978e0000000h
DQ 3fd068e3f0000000h
DQ 3fd0784670000000h
DQ 3fd087a080000000h
DQ 3fd096f210000000h
DQ 3fd0a63b30000000h
DQ 3fd0b57bf0000000h
DQ 3fd0c4b450000000h
DQ 3fd0d3e460000000h
DQ 3fd0e30c30000000h
DQ 3fd0f22bc0000000h
DQ 3fd1014310000000h
DQ 3fd1105240000000h
DQ 3fd11f5940000000h
DQ 3fd12e5830000000h
DQ 3fd13d4f00000000h
DQ 3fd14c3dd0000000h
DQ 3fd15b24a0000000h
DQ 3fd16a0370000000h
DQ 3fd178da50000000h
DQ 3fd187a940000000h
DQ 3fd1967060000000h
DQ 3fd1a52fa0000000h
DQ 3fd1b3e710000000h
DQ 3fd1c296c0000000h
DQ 3fd1d13eb0000000h
DQ 3fd1dfdef0000000h
DQ 3fd1ee7770000000h
DQ 3fd1fd0860000000h
DQ 3fd20b91a0000000h
DQ 3fd21a1350000000h
DQ 3fd2288d70000000h
DQ 3fd2370010000000h
DQ 3fd2456b30000000h
DQ 3fd253ced0000000h
DQ 3fd2622b00000000h
DQ 3fd2707fd0000000h
DQ 3fd27ecd40000000h
DQ 3fd28d1360000000h
DQ 3fd29b5220000000h
DQ 3fd2a989a0000000h
DQ 3fd2b7b9e0000000h
DQ 3fd2c5e2e0000000h
DQ 3fd2d404b0000000h
DQ 3fd2e21f50000000h
DQ 3fd2f032c0000000h
DQ 3fd2fe3f20000000h
DQ 3fd30c4470000000h
DQ 3fd31a42b0000000h
DQ 3fd32839e0000000h
DQ 3fd3362a10000000h
DQ 3fd3441350000000h
ALIGN 16
PUBLIC __log10_256_tail
__log10_256_tail:
DQ 0000000000000000h
DQ 3db20abc22b2208fh
DQ 3db10f69332e0dd4h
DQ 3dce950de87ed257h
DQ 3dd3f3443b626d69h
DQ 3df45aeaa5363e57h
DQ 3dc443683ce1bf0bh
DQ 3df989cd60c6a511h
DQ 3dfd626f201f2e9fh
DQ 3de94f8bb8dabdcdh
DQ 3e0088d8ef423015h
DQ 3e080413a62b79adh
DQ 3e059717c0eed3c4h
DQ 3dad4a77add44902h
DQ 3e0e763ff037300eh
DQ 3de162d74706f6c3h
DQ 3e0601cc1f4dbc14h
DQ 3deaf3e051f6e5bfh
DQ 3e097a0b1e1af3ebh
DQ 3dc0a38970c002c7h
DQ 3e102e000057c751h
DQ 3e155b00eecd6e0eh
DQ 3ddf86297003b5afh
DQ 3e1057b9b336a36dh
DQ 3e134bc84a06ea4fh
DQ 3e1643da9ea1bcadh
DQ 3e1d66a7b4f7ea2ah
DQ 3df6b2e038f7fcefh
DQ 3df3e954c670f088h
DQ 3e047209093acab3h
DQ 3e1d708fe7275da7h
DQ 3e1fdf9e7771b9e7h
DQ 3e0827bfa70a0660h
DQ 3e1601cc1f4dbc14h
DQ 3e0637f6106a5e5bh
DQ 3e126a13f17c624bh
DQ 3e093eb2ce80623ah
DQ 3e1430d1e91594deh
DQ 3e1d6b10108fa031h
DQ 3e16879c0bbaf241h
DQ 3dff08015ea6bc2bh
DQ 3e29b63dcdc6676ch
DQ 3e2b022cbcc4ab2ch
DQ 3df917d07ddd6544h
DQ 3e1540605703379eh
DQ 3e0cd18b947a1b60h
DQ 3e17ad65277ca97eh
DQ 3e11884dc59f5fa9h
DQ 3e1711c46006d082h
DQ 3e2f092e3c3108f8h
DQ 3e1714c5e32be13ah
DQ 3e26bba7fd734f9ah
DQ 3dfdf48fb5e08483h
DQ 3e232f9bc74d0b95h
DQ 3df973e848790c13h
DQ 3e1eccbc08c6586eh
DQ 3e2115e9f9524a98h
DQ 3e2f1740593131b8h
DQ 3e1bcf8b25643835h
DQ 3e1f5fa81d8bed80h
DQ 3e244a4df929d9e4h
DQ 3e129820d8220c94h
DQ 3e2a0b489304e309h
DQ 3e1f4d56aba665feh
DQ 3e210c9019365163h
DQ 3df80f78fe592736h
DQ 3e10528825c81ccah
DQ 3de095537d6d746ah
DQ 3e1827bfa70a0660h
DQ 3e06b0a8ec45933ch
DQ 3e105af81bf5dba9h
DQ 3e17e2fa2655d515h
DQ 3e0d59ecbfaee4bfh
DQ 3e1d8b2fda683fa3h
DQ 3e24b8ddfd3a3737h
DQ 3e13827e61ae1204h
DQ 3e2c8c7b49e90f9fh
DQ 3e29eaf01597591dh
DQ 3e19aaa66e317b36h
DQ 3e2e725609720655h
DQ 3e261c33fc7aac54h
DQ 3e29662bcf61a252h
DQ 3e1843c811c42730h
DQ 3e2064bb0b5acb36h
DQ 3e0a340c842701a4h
DQ 3e1a8e55b58f79d6h
DQ 3de92d219c5e9d9ah
DQ 3e3f63e60d7ffd6ah
DQ 3e2e9b0ed9516314h
DQ 3e2923901962350ch
DQ 3e326f8838785e81h
DQ 3e3b5b6a4caba6afh
DQ 3df0226adc8e761ch
DQ 3e3c4ad7313a1aedh
DQ 3e1564e87c738d17h
DQ 3e338fecf18a6618h
DQ 3e3d929ef5777666h
DQ 3e39483bf08da0b8h
DQ 3e3bdd0eeeaa5826h
DQ 3e39c4dd590237bah
DQ 3e1af3e9e0ebcac7h
DQ 3e35ce5382270dach
DQ 3e394f74532ab9bah
DQ 3e07342795888654h
DQ 3e0c5a000be34bf0h
DQ 3e2711c46006d082h
DQ 3e250025b4ed8cf8h
DQ 3e2ed18bcef2d2a0h
DQ 3e21282e0c0a7554h
DQ 3e0d70f33359a7cah
DQ 3e2b7f7e13a84025h
DQ 3e33306ec321891eh
DQ 3e3fc7f8038b7550h
DQ 3e3eb0358cd71d64h
DQ 3e3a76c822859474h
DQ 3e3d0ec652de86e3h
DQ 3e2fa4cce08658afh
DQ 3e3b84a2d2c00a9eh
DQ 3e20a5b0f2c25bd1h
DQ 3e3dd660225bf699h
DQ 3e08b10f859bf037h
DQ 3e3e8823b590cbe1h
DQ 3e361311f31e96f6h
DQ 3e2e1f875ca20f9ah
DQ 3e2c95724939b9a5h
DQ 3e3805957a3e58e2h
DQ 3e2ff126ea9f0334h
DQ 3e3953f5598e5609h
DQ 3e36c16ff856c448h
DQ 3e24cb220ff261f4h
DQ 3e35e120d53d53a2h
DQ 3e3a527f6189f256h
DQ 3e3856fcffd49c0fh
DQ 3e300c2e8228d7dah
DQ 3df113d09444dfe0h
DQ 3e2510630eea59a6h
DQ 3e262e780f32d711h
DQ 3ded3ed91a10f8cfh
DQ 3e23654a7e4bcd85h
DQ 3e055b784980ad21h
DQ 3e212f2dd4b16e64h
DQ 3e37c4add939f50ch
DQ 3e281784627180fch
DQ 3dea5162c7e14961h
DQ 3e310c9019365163h
DQ 3e373c4d2ba17688h
DQ 3e2ae8a5e0e93d81h
DQ 3e2ab0c6f01621afh
DQ 3e301e8b74dd5b66h
DQ 3e2d206fecbb5494h
DQ 3df0b48b724fcc00h
DQ 3e3f831f0b61e229h
DQ 3df81a97c407bcafh
DQ 3e3e286c1ccbb7aah
DQ 3e28630b49220a93h
DQ 3dff0b15c1a22c5ch
DQ 3e355445e71c0946h
DQ 3e3be630f8066d85h
DQ 3e2599dff0d96c39h
DQ 3e36cc85b18fb081h
DQ 3e34476d001ea8c8h
DQ 3e373f889e16d31fh
DQ 3e3357100d792a87h
DQ 3e3bd179ae6101f6h
DQ 3e0ca31056c3f6e2h
DQ 3e3d2870629c08fbh
DQ 3e3aba3880d2673fh
DQ 3e2c3633cb297da6h
DQ 3e21843899efea02h
DQ 3e3bccc99d2008e6h
DQ 3e38000544bdd350h
DQ 3e2b91c226606ae1h
DQ 3e2a7adf26b62bdfh
DQ 3e18764fc8826ec9h
DQ 3e1f4f3de50f68f0h
DQ 3df760ca757995e3h
DQ 3dfc667ed3805147h
DQ 3e3733f6196adf6fh
DQ 3e2fb710f33e836bh
DQ 3e39886eba641013h
DQ 3dfb5368d0af8c1ah
DQ 3e358c691b8d2971h
DQ 3dfe9465226d08fbh
DQ 3e33587e063f0097h
DQ 3e3618e702129f18h
DQ 3e361c33fc7aac54h
DQ 3e3f07a68408604ah
DQ 3e3c34bfe4945421h
DQ 3e38b1f00e41300bh
DQ 3e3f434284d61b63h
DQ 3e3a63095e397436h
DQ 3e34428656b919deh
DQ 3e36ca9201b2d9a6h
DQ 3e2738823a2a931ch
DQ 3e3c11880e179230h
DQ 3e313ddc8d6d52feh
DQ 3e33eed58922e917h
DQ 3e295992846bdd50h
DQ 3e0ddb4d5f2e278bh
DQ 3df1a5f12a0635c4h
DQ 3e4642f0882c3c34h
DQ 3e2aee9ba7f6475eh
DQ 3e264b7f834a60e4h
DQ 3e290d42e243792eh
DQ 3e4c272008134f01h
DQ 3e4a782e16d6cf5bh
DQ 3e44505c79da6648h
DQ 3e4ca9d4ea4dcd21h
DQ 3e297d3d627cd5bch
DQ 3e20b15cf9bcaa13h
DQ 3e315b2063cf76ddh
DQ 3e2983e6f3aa2748h
DQ 3e3f4c64f4ffe994h
DQ 3e46beba7ce85a0fh
DQ 3e3b9c69fd4ea6b8h
DQ 3e2b6aa5835fa4abh
DQ 3e43ccc3790fedd1h
DQ 3e29c04cc4404fe0h
DQ 3e40734b7a75d89dh
DQ 3e1b4404c4e01612h
DQ 3e40c565c2ce4894h
DQ 3e33c71441d935cdh
DQ 3d72a492556b3b4eh
DQ 3e20fa090341dc43h
DQ 3e2e8f7009e3d9f4h
DQ 3e4b1bf68b048a45h
DQ 3e3eee52dffaa956h
DQ 3e456b0900e465bdh
DQ 3e4d929ef5777666h
DQ 3e486ea28637e260h
DQ 3e4665aff10ca2f0h
DQ 3e2f11fdaf48ec74h
DQ 3e4cbe1b86a4d1c7h
DQ 3e25b05bfea87665h
DQ 3e41cec20a1a4a1dh
DQ 3e41cd5f0a409b9fh
DQ 3e453656c8265070h
DQ 3e377ed835282260h
DQ 3e2417bc3040b9d2h
DQ 3e408eef7b79eff2h
DQ 3e4dc76f39dc57e9h
DQ 3e4c0493a70cf457h
DQ 3e4a83d6cea5a60ch
DQ 3e30d6700dc557bah
DQ 3e44c96c12e8bd0ah
DQ 3e3d2c1993e32315h
DQ 3e22c721135f8242h
DQ 3e279a3e4dda747dh
DQ 3dfcf89f6941a72bh
DQ 3e2149a702f10831h
DQ 3e4ead4b7c8175dbh
DQ 3e4e6930fe63e70ah
DQ 3e41e106bed9ee2fh
DQ 3e2d682b82f11c92h
DQ 3e3a07f188dba47ch
DQ 3e40f9342dc172f6h
DQ 3e03ef3fde623e25h
END