Lines Matching refs:digits
135 DigitList &digits,
148 const DigitList &digits);
152 const VisibleDigits &digits);
156 const VisibleDigitsWithExponent &digits);
160 const VisibleDigits &digits,
167 const VisibleDigitsWithExponent &digits,
186 int64_t expected, const VisibleDigits &digits);
188 double expected, const VisibleDigits &digits);
393 DigitList digits;
396 digits.set((int32_t)1);
397 digits.quantize(quantity, status);
398 verifyDigitList(".9996", digits);
402 digits.set(1.00044);
403 digits.roundAtExponent(-5);
404 digits.quantize(quantity, status);
405 verifyDigitList("1.00128", digits);
409 digits.set(0.99876);
410 digits.roundAtExponent(-5);
411 digits.quantize(quantity, status);
412 verifyDigitList(".99792", digits);
418 DigitList digits;
420 digits.set((int32_t)186283);
421 assertEquals("", 5, digits.toScientific(1, 1));
424 digits);
427 digits.set((int32_t)186283);
428 assertEquals("", 0, digits.toScientific(6, 1));
431 digits);
434 digits.set((int32_t)186283);
435 assertEquals("", -2, digits.toScientific(8, 1));
438 digits);
441 digits.set((int32_t)43561);
442 assertEquals("", 6, digits.toScientific(-1, 3));
445 digits);
448 digits.set((int32_t)43561);
449 assertEquals("", 3, digits.toScientific(0, 3));
452 digits);
455 digits.set((int32_t)43561);
456 assertEquals("", 3, digits.toScientific(2, 3));
459 digits);
462 digits.set((int32_t)43561);
463 assertEquals("", 0, digits.toScientific(3, 3));
466 digits);
469 digits.set((int32_t)43561);
470 assertEquals("", 0, digits.toScientific(5, 3));
473 digits);
476 digits.set((int32_t)43561);
477 assertEquals("", -3, digits.toScientific(6, 3));
480 digits);
483 digits.set((int32_t)43561);
484 assertEquals("", -3, digits.toScientific(8, 3));
487 digits);
490 digits.set((int32_t)43561);
491 assertEquals("", -6, digits.toScientific(9, 3));
494 digits);
499 DigitList digits;
501 digits.set(98.7);
502 assertEquals("", -1, digits.getLowerExponent());
503 assertEquals("", 2, digits.getUpperExponent());
507 DigitList digits;
508 uprv_decContextSetRounding(&digits.fContext, DEC_ROUND_CEILING);
511 digits.set(789.123);
512 digits.roundAtExponent(100);
515 digits);
519 digits.set(789.123);
520 digits.roundAtExponent(1);
523 digits);
527 digits.set(789.123);
528 digits.roundAtExponent(1);
529 verifyDigitList("790", digits);
533 digits.set(788.123);
534 digits.roundAtExponent(0);
535 verifyDigitList("789", digits);
539 digits.set(789.123);
540 digits.roundAtExponent(-2);
541 verifyDigitList("789.13", digits);
544 // Round to exponent of digits.
545 digits.set(789.123);
546 digits.roundAtExponent(-3);
547 verifyDigitList("789.123", digits);
551 digits.set(789.123);
552 digits.roundAtExponent(-100);
553 verifyDigitList("789.123", digits);
557 digits.set(-789.123);
558 digits.roundAtExponent(-2);
559 digits.setPositive(TRUE);
560 verifyDigitList("789.12", digits);
564 digits.set(789.123);
565 digits.roundAtExponent(INT32_MIN, 1);
566 verifyDigitList("800", digits);
570 digits.set(789.123);
571 digits.roundAtExponent(INT32_MIN, 5);
572 verifyDigitList("789.13", digits);
576 digits.set(789.123);
577 digits.roundAtExponent(INT32_MIN, 6);
578 verifyDigitList("789.123", digits);
582 digits.set(789.123);
583 digits.roundAtExponent(INT32_MIN, INT32_MAX);
584 verifyDigitList("789.123", digits);
587 // Rounding at -1 produces fewer than 5 significant digits
588 digits.set(789.123);
589 digits.roundAtExponent(-1, 5);
590 verifyDigitList("789.2", digits);
593 // Rounding at -1 produces exactly 4 significant digits
594 digits.set(789.123);
595 digits.roundAtExponent(-1, 4);
596 verifyDigitList("789.2", digits);
599 // Rounding at -1 produces more than 3 significant digits
600 digits.set(788.123);
601 digits.roundAtExponent(-1, 3);
602 verifyDigitList("789", digits);
605 digits.set(123.456);
606 digits.round(INT32_MAX);
607 verifyDigitList("123.456", digits);
610 digits.set(123.456);
611 digits.round(1);
612 verifyDigitList("200", digits);
663 // too many digits for small int
665 // too many digits for small int
805 VisibleDigits digits;
808 precision.initVisibleDigits(246.801, digits, status);
815 digits,
1166 // We give up on acounting digits at 4096
1171 // grouping on but with max integer digits set.
1192 // grouping on but with min integer digits set.
1224 // test fraction digits
1234 // test presence of significant digits
1676 VisibleDigits digits;
1681 // Last 18 digits for int values.
1684 precision.initVisibleDigits(U_INT64_MAX, digits, status));
1692 // Last 18 digits for int values.
1695 precision.initVisibleDigits(U_INT64_MAX, digits, status));
1696 verifySource(75807.0, digits);
1703 // Last 18 digits for int values.
1706 precision.initVisibleDigits(U_INT64_MIN, digits, status));
1714 // Last 18 digits for int values.
1717 precision.initVisibleDigits(U_INT64_MIN, digits, status));
1718 verifySource(75808.0, digits);
1725 VisibleDigits digits;
1732 precision.initVisibleDigits((int64_t) 13LL, digits, status));
1741 precision.initVisibleDigits((int64_t) -17LL, digits, status));
1750 precision.initVisibleDigits(U_INT64_MIN, digits, status));
1759 precision.initVisibleDigits(U_INT64_MAX, digits, status));
1768 precision.initVisibleDigits((int64_t) -31536000LL, digits, status));
1777 precision.initVisibleDigits((int64_t) 0LL, digits, status));
1788 precision.initVisibleDigits((int64_t) 0LL, digits, status));
1799 precision.initVisibleDigits((int64_t) 57LL, digits, status));
1810 precision.initVisibleDigits((int64_t) -57LL, digits, status));
1821 precision.initVisibleDigits((int64_t) 235LL, digits, status));
1830 precision.initVisibleDigits((int64_t) 239LL, digits, status);
1842 precision.initVisibleDigits((int64_t) 153LL, digits, status));
1850 precision.initVisibleDigits((int64_t) 154LL, digits, status);
1862 precision.initVisibleDigits((int64_t) 150LL, digits, status));
1868 VisibleDigits digits;
1876 precision.initVisibleDigits((int64_t) -30LL, digits, status));
1887 precision.initVisibleDigits((int64_t) -30LL, digits, status));
1898 precision.initVisibleDigits((int64_t) 1381LL, digits, status));
1909 precision.initVisibleDigits((int64_t) -1381LL, digits, status));
1915 VisibleDigits digits;
1922 precision.initVisibleDigits(2.05, digits, status));
1931 precision.initVisibleDigits(3547.0, digits, status));
1944 precision.initVisibleDigits(-2.05, digits, status));
1954 precision.initVisibleDigits(-2.05, digits, status);
1966 precision.initVisibleDigits(-2.05, digits, status);
1980 precision.initVisibleDigits(6245.3, digits, status));
1991 precision.initVisibleDigits(6245.3, digits, status));
1999 precision.initVisibleDigits(6245.3, digits, status);
2012 precision.initVisibleDigits(2384.9, digits, status));
2021 precision.initVisibleDigits(2384.9, digits, status);
2029 VisibleDigits digits;
2038 precision.initVisibleDigits(-2.01, digits, status));
2049 precision.initVisibleDigits(2385.0, digits, status));
2059 precision.initVisibleDigits(-45.8251, digits, status));
2065 VisibleDigits digits;
2074 precision.initVisibleDigits(dlist, digits, status);
2085 precision.initVisibleDigits(dlist, digits, status);
2093 VisibleDigits digits;
2099 precision.initVisibleDigits(-uprv_getInfinity(), digits, status);
2100 assertFalse("", digits.isNaN());
2101 assertTrue("", digits.isInfinite());
2102 assertTrue("", digits.isNegative());
2108 precision.initVisibleDigits(uprv_getInfinity(), digits, status);
2109 assertFalse("", digits.isNaN());
2110 assertTrue("", digits.isInfinite());
2111 assertFalse("", digits.isNegative());
2117 precision.initVisibleDigits(uprv_getNaN(), digits, status);
2118 assertTrue("", digits.isNaN());
2124 VisibleDigitsWithExponent digits;
2128 precision.initVisibleDigitsWithExponent(389.256, digits, status);
2130 "3.89256E2", FALSE, digits);
2136 precision.initVisibleDigitsWithExponent(-389.256, digits, status);
2138 "3.89256E2", TRUE, digits);
2147 precision.initVisibleDigitsWithExponent(12345.67, digits, status);
2149 "12.34567E003", FALSE, digits);
2158 precision.initVisibleDigitsWithExponent(999.74, digits, status);
2160 "10.001E2", FALSE, digits);
2255 DigitList digits;
2256 digits.set(-1234.5);
2268 digits,
2380 DigitList digits;
2397 digits.set(0.999);
2401 digits,
2407 digits.set(0.9996);
2411 digits,
2417 digits.set(1.004);
2421 digits,
2428 digits.set(0.9996);
2432 digits,
2438 digits.set(1.004);
2442 digits,
2449 digits.set(-79.214);
2453 digits,
2458 // No more sig digits just max fractions
2462 digits.set(79.213562);
2466 digits,
2490 DigitList digits;
2505 digits.set(0.99996);
2514 digits,
2521 digits.set(0.99996);
2531 digits,
2537 digits.set(-299792458.0);
2549 digits,
2558 digits.set(3.0);
2570 digits,
2577 digits.set(0.00025001);
2589 digits,
2595 digits.set(0.0000025001);
2607 digits,
2614 digits.set(0.0000025499);
2626 digits,
2634 digits.set((int32_t)299792458);
2638 digits,
2643 // clear significant digits
2647 // set int and fraction digits
2653 digits.set(-0.0000025300001);
2657 digits,
2663 digits.set(-0.0000025300006);
2667 digits,
2673 digits.set(-0.000025300006);
2677 digits,
2706 DigitList digits;
2710 digits.set(3.7);
2714 digits,
2719 digits.set(-7.4);
2723 digits,
2728 digits.set(99.8);
2732 digits,
2738 digits.set(99.1);
2742 digits,
2747 digits.set(-639.65);
2751 digits,
2763 digits.set(-6396.5);
2767 digits,
2772 digits.set(-0.00092374);
2776 digits,
2782 digits.set(-0.00092374);
2786 digits,
2810 DigitList &digits,
2821 digits,
2861 DigitList digits;
2862 digits.set(value);
2864 expected, aaf, digits, vf, optPluralRules, expectedAttributes);
2885 const DigitList &digits) {
2893 DigitList dlCopy(digits);
2911 const VisibleDigits &digits) {
2918 digits,
2922 if (digits.isNegative() != bNegative) {
2925 if (digits.isNaN() || digits.isInfinite()) {
2933 const VisibleDigitsWithExponent &digits) {
2939 digits,
2942 if (digits.isNegative() != bNegative) {
2945 if (digits.isNaN() || digits.isInfinite()) {
2953 const VisibleDigitsWithExponent &digits,
2959 formatter.countChar32(digits, options));
2966 digits,
3001 const VisibleDigits &digits,
3008 formatter.countChar32(digits, grouping, options));
3015 digits,
3057 int64_t expected, const VisibleDigits &digits) {
3064 digits.getFixedDecimal(
3071 double expected, const VisibleDigits &digits) {
3078 digits.getFixedDecimal(
