Lines Matching defs:setPrecision
1111 t.setPrecision(4, 4);
1116 t.setPrecision(4, 128);
1121 t.setPrecision(4, 4);
1126 t.setPrecision(4, 128);
1131 t.setPrecision(5, 5);
1136 t.setPrecision(5, 128);
1141 t.setPrecision(4, 4);
1146 t.setPrecision(4, 128);
1151 t.setPrecision(4, 4);
1156 t.setPrecision(4, 128);
1161 t.setPrecision(5, 5);
1166 t.setPrecision(5, 128);
1171 t.setPrecision(5, 5);
1176 t.setPrecision(5, 128);
1181 t.setPrecision(5, 5);
1186 t.setPrecision(5, 128);
1191 t.setPrecision(5, 5);
1196 t.setPrecision(5, 128);
1201 t.setPrecision(6, 6);
1206 t.setPrecision(6, 128);
1211 t.setPrecision(6, 6);
1216 t.setPrecision(6, 128);
1221 t.setPrecision(2, 2);
1226 t.setPrecision(2, 128);
1231 t.setPrecision(0, 0);
1240 t.setPrecision(0, 1);
1273 t.setPrecision(0, 0);
1278 t.setPrecision(0, 0);
1343 t.setPrecision(0, 0);
1347 t.setPrecision(0, 0);
1351 t.setPrecision(0, 0);
1380 t.setPrecision(0, 0);
1384 t.setPrecision(0, 0);
1388 t.setPrecision(0, 0);
1417 t.setPrecision(1, 1);
1421 t.setPrecision(0, 0);
1425 t.setPrecision(0, 0);
1454 t.setPrecision(1, 1);
1458 t.setPrecision(0, 0);
1462 t.setPrecision(0, 0);
1491 t.setPrecision(1, 1);
1495 t.setPrecision(1, 1);
1499 t.setPrecision(0, 0);
1528 t.setPrecision(1, 1);
1532 t.setPrecision(1, 1);
1536 t.setPrecision(0, 0);
1565 t.setPrecision(1, 1);
1569 t.setPrecision(1, 1);
1573 t.setPrecision(1, 1);
1602 t.setPrecision(1, 1);
1606 t.setPrecision(1, 1);
1610 t.setPrecision(1, 1);
1639 t.setPrecision(0, 0);
1643 t.setPrecision(0, 0);
1647 t.setPrecision(0, 0);
1676 t.setPrecision(1, 1);
1680 t.setPrecision(0, 0);
1684 t.setPrecision(0, 0);
1713 t.setPrecision(1, 1);
1717 t.setPrecision
1721 t.setPrecision(0, 0);
1726 t.setPrecision(0, 0);
1731 t.setPrecision(0, 0);
1736 t.setPrecision(4, 4);
1741 t.setPrecision(4, 128);
1746 t.setPrecision(4, 4);
1751 t.setPrecision(4, 128);
1756 t.setPrecision(4, 4);
1761 t.setPrecision(4, 128);
1766 t.setPrecision(1, 4);
1771 t.setPrecision(1, 4);
1776 t.setPrecision(3, 3);
1781 t.setPrecision(3, 3);
1788 t.setPrecision(1, 1); // TODO double-check precision
1793 t.setPrecision(1, 1); // TODO double-check precision
1798 t.setPrecision(1, 1);
1803 t.setPrecision(1, 1);
1808 t.setPrecision(1, 4); // TODO double-check precision
1815 t.setPrecision(1, 4); // TODO double-check precision
1826 t.setPrecision(1, 4);
1833 t.setPrecision(1, 4);
1844 t.setPrecision(16, 16);
1849 t.setPrecision(16, 128);
1858 t.setPrecision(16, 16);
1863 t.setPrecision(16, 128);
1872 t.setPrecision(3, 3);
1877 t.setPrecision(3, 16);
1882 t.setPrecision(3, 3);
1887 t.setPrecision(3, 32);
1892 t.setPrecision(3, 3);
1897 t.setPrecision(3, 16);
1902 t.setPrecision(3, 3);
1907 t.setPrecision(3, 16);
1912 t.setPrecision(0, 0);
1917 t.setPrecision(0, 0);
1926 t.setPrecision(FAST_PRECISION, FAST_PRECISION);
1931 t.setPrecision(FAST_PRECISION, FAST_PRECISION);
1936 t.setPrecision(FAST_PRECISION, FAST_PRECISION);
1941 t.setPrecision(FAST_PRECISION, FAST_PRECISION);
1946 t.setPrecision(FAST_PRECISION, FAST_PRECISION);
1953 t.setPrecision(FAST_PRECISION, FAST_PRECISION);
1958 t.setPrecision(1, 1);
1963 t.setPrecision(1, 1);
1974 t.setPrecision(0, 0);
1979 t.setPrecision(0, 0);
1988 t.setPrecision(1, 1);
1994 t.setPrecision(1, 1);
2000 t.setPrecision(0, 0);
2005 t.setPrecision(0, 0);
2017 t.setPrecision(0, 0);
2022 t.setPrecision(0, 0);
2034 t.setPrecision(1, 1);
2039 t.setPrecision(1, 1);
2051 t.setPrecision(1, 1);
2057 t.setPrecision(1, 1);
2065 t.setPrecision(1, 1);
2070 t.setPrecision(1, 1);
2077 t.setPrecision(0, 0);
2084 t.setPrecision(HALF_PRECISION, HALF_PRECISION);
2089 t.setPrecision(HALF_PRECISION, HALF_PRECISION);
2094 t.setPrecision(HALF_PRECISION, HALF_PRECISION);
2099 t.setPrecision(4, 4);
2104 t.setPrecision(4, 4);
2125 t.setPrecision(1, 1);
2134 t.setPrecision(1, 1); // TODO double-check precision
2139 t.setPrecision(1, 1); // TODO double-check precision
2144 setPrecision(1, 1);
2149 t.setPrecision(1, 1);
2154 t.setPrecision(16, 128);
2166 t.setPrecision(16, 128);
2176 t.setPrecision(16, 128);
2203 t.setPrecision(3, 3);
2210 t.setPrecision(3, 16);
2215 t.setPrecision(3, 3);
2220 t.setPrecision(3, 16);
2225 t.setPrecision(2, 2);
2230 t.setPrecision(2, 16);
2235 t.setPrecision(3, 3);
2240 t.setPrecision(3, 128);
2245 t.setPrecision(0, 0);
2250 t.setPrecision(0, 0);
2259 t.setPrecision(4, 4);
2264 t.setPrecision(1, 4);
2302 t.setPrecision(0, 0);
2307 t.setPrecision(0, 0);
2351 t.setPrecision(0, 0);
2356 t.setPrecision(0, 0);
2361 t.setPrecision(1, 1);
2366 t.setPrecision(1, 4);
2374 t.setPrecision(0, 0);
2381 t.setPrecision(0, 0);
2387 t.setPrecision(0, 0);
2392 t.setPrecision(0, 0); // extraAllowedError set in fw/rs/rs_math.spec and generated test files
2397 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2402 t.setPrecision(4, 4);
2407 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2412 t.setPrecision(0, 0); // extraAllowedError set in fw/rs/rs_math.spec and generated test files
2417 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2422 t.setPrecision(0, 0); // extraAllowedError set in fw/rs/rs_math.spec and generated test files
2427 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2432 t.setPrecision(4, 4);
2437 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2442 t.setPrecision(0, 0); // extraAllowedError set in fw/rs/rs_math.spec and generated test files
2447 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2452 t.setPrecision(5, 5);
2457 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2462 t.setPrecision(5, 5);
2467 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2472 t.setPrecision(5, 5);
2477 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2482 t.setPrecision(5, 5);
2487 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2492 t.setPrecision(5, 5);
2497 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2502 t.setPrecision(2, 2);
2507 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2512 t.setPrecision(0, 0); // extraAllowedError set in fw/rs/rs_math.spec and generated test files
2517 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2522 t.setPrecision(4, 4);
2527 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2532 t.setPrecision(0, 0); // extraAllowedError set in fw/rs/rs_math.spec and generated test files
2537 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2542 t.setPrecision(1, 1);
2548 t.setPrecision(1, 1);
2553 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2558 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2563 t.setPrecision(3, 3);
2568 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2573 t.setPrecision(3, 3);
2578 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2583 t.setPrecision(3, 3);
2588 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2593 t.setPrecision(3, 3);
2599 t.setPrecision(13000, 13000);
2615 t.setPrecision(ulpFactor, ulpFactor);
2629 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2634 t.setPrecision(4, 4);
2639 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2644 t.setPrecision(1, 1); // TODO double-check precision
2649 t.setPrecision(1, 1); // TODO double-check precision
2654 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2659 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2664 t.setPrecision(3, 3);
2675 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2685 t.setPrecision(3, 3);
2696 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2706 t.setPrecision(2, 2);
2711 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2716 t.setPrecision(3, 3);
2727 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2737 t.setPrecision(1, 1); // TODO double-check precision
2744 t.setPrecision(1, 16); // TODO double-check precision. Extra precision needed by libclcore.
2749 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2756 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2761 t.setPrecision(16, 16);
2773 t.setPrecision(32000, 32000);
2783 t.setPrecision(3, 3);
2788 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2793 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2803 t.setPrecision(2, 2);
2808 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2813 t.setPrecision(0, 0); // extraAllowedError set in fw/rs/rs_math.spec and generated test files
2818 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2823 t.setPrecision(0, 0); // extraAllowedError set in fw/rs/rs_math.spec and generated test files
2829 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2835 t.setPrecision(4, 4);
2840 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2845 t.setPrecision(0, 0); // extraAllowedError set in fw/rs/rs_math.spec and generated test files
2850 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2855 t.setPrecision(3, 3);
2860 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2880 t.setPrecision(ulpFactor, ulpFactor);
2894 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2899 t.setPrecision(5, 5);
2904 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2924 t.setPrecision(ulpFactor, ulpFactor);
2938 t.setPrecision(NATIVE_PRECISION, NATIVE_PRECISION);
2943 t.setPrecision(0, 0);
2948 t.setPrecision(1, 1); // TODO double-check precision
2955 t.setPrecision(1, 1); // TODO double-check precision
2960 t.setPrecision(1, 1);
2967 setPrecision(1, 1);
2972 t.setPrecision(16, 16);
2977 t.setPrecision(16, 128);
2989 t.setPrecision(16, 16);
2994 t.setPrecision(16, 128);
3007 t.setPrecision(16, 16);
3012 t.setPrecision(16, 128);
3017 t.setPrecision(3, 3);
3022 t.setPrecision(3, 3);
3031 t.setPrecision(0, 0);
3038 t.setPrecision(0, 0);
3044 t.setPrecision(0, 0);
3071 t.setPrecision(0, 0);
3076 t.setPrecision(0, 0);
3085 t.setPrecision(16, 16);
3090 t.setPrecision(0, 0);
3095 t.setPrecision(0, 0);
3104 t.setPrecision(2, 2);
3109 t.setPrecision(2, 2);
3114 t.setPrecision(0, 0);
3119 t.setPrecision(0, 0);
3124 t.setPrecision(4, 4);
3129 t.setPrecision(4, 128);
3134 t.setPrecision(4, 128);
3140 t.setPrecision(4, 128);
3146 t.setPrecision(4, 4);
3151 t.setPrecision(4, 128);
3156 t.setPrecision(4, 4);
3161 t.setPrecision(4, 128);
3166 t.setPrecision(3, 3);
3171 t.setPrecision(3, 3);
3176 t.setPrecision(0, 0);
3181 t.setPrecision(0, 0);
3186 t.setPrecision(5, 5);
3191 t.setPrecision(5, 128);
3196 t.setPrecision(5, 5);
3201 t.setPrecision(5, 128);
3206 t.setPrecision(4, 4);
3211 t.setPrecision(4, 128);
3216 t.setPrecision(16, 16);
3221 t.setPrecision(16, 128);
3230 t.setPrecision(0, 0);
3235 t.setPrecision(0, 0);
