HomeSort by relevance Sort by last modified time
    Searched full:q16 (Results 1 - 25 of 101) sorted by null

1 2 3 4 5

  /frameworks/av/media/libeffects/lvm/lib/Common/src/
BP_1I_D16F32C30_TRC_WRA_01.c 33 pBiquadState->pDelays[2] is y(n-1)L in Q16 format
34 pBiquadState->pDelays[3] is y(n-2)L in Q16 format
55 // ynL= (A0 (Q30) * (x(n)L (Q0) - x(n-2)L (Q0) ) >>14) in Q16
59 // ynL+= ((-B2 (Q30) * y(n-2)L (Q16) ) >>30) in Q16
63 // ynL+= ((-B1 (Q30) * y(n-1)L (Q16) ) >>30) in Q16
72 pBiquadState->pDelays[2]=ynL; // Update y(n-1)L in Q16
BQ_2I_D16F32C13_TRC_WRA_01.c 35 pBiquadState->pDelays[4] is y(n-1)L in Q16 format
36 pBiquadState->pDelays[5] is y(n-1)R in Q16 format
37 pBiquadState->pDelays[6] is y(n-2)L in Q16 format
38 pBiquadState->pDelays[7] is y(n-2)R in Q16 format
66 /* ynL+= ( (-B2 (Q13) * y(n-2)L (Q16) )>>16) in Q13 */
70 /* ynL+=( (-B1 (Q13) * y(n-1)L (Q16) )>>16) in Q13 */
86 /* ynR+= ( (-B2 (Q13) * y(n-2)R (Q16) )>>16) in Q13*/
90 /* ynR+=( (-B1 (Q13) * y(n-1)R (Q16) )>>16) in Q13 */
101 pBiquadState->pDelays[5]=ynR<<3; /* Update y(n-1)R in Q16*/
102 pBiquadState->pDelays[4]=ynL<<3; /* Update y(n-1)L in Q16*/
    [all...]
BQ_2I_D16F32C14_TRC_WRA_01.c 34 pBiquadState->pDelays[4] is y(n-1)L in Q16 format
35 pBiquadState->pDelays[5] is y(n-1)R in Q16 format
36 pBiquadState->pDelays[6] is y(n-2)L in Q16 format
37 pBiquadState->pDelays[7] is y(n-2)R in Q16 format
65 /* ynL+= ( (-B2 (Q14) * y(n-2)L (Q16) )>>16) in Q14 */
69 /* ynL+=( (-B1 (Q14) * y(n-1)L (Q16) )>>16) in Q14 */
85 /* ynR+= ( (-B2 (Q14) * y(n-2)R (Q16) )>>16) in Q14*/
89 /* ynR+=( (-B1 (Q14) * y(n-1)R (Q16) )>>16) in Q14 */
100 pBiquadState->pDelays[5]=ynR<<2; /* Update y(n-1)R in Q16*/
101 pBiquadState->pDelays[4]=ynL<<2; /* Update y(n-1)L in Q16*/
    [all...]
BQ_2I_D16F32C15_TRC_WRA_01.c 34 pBiquadState->pDelays[4] is y(n-1)L in Q16 format
35 pBiquadState->pDelays[5] is y(n-1)R in Q16 format
36 pBiquadState->pDelays[6] is y(n-2)L in Q16 format
37 pBiquadState->pDelays[7] is y(n-2)R in Q16 format
65 /* ynL+= ( (-B2 (Q15) * y(n-2)L (Q16) )>>16) in Q15 */
69 /* ynL+=( (-B1 (Q15) * y(n-1)L (Q16) )>>16) in Q15 */
85 /* ynR+= ( (-B2 (Q15) * y(n-2)R (Q16) )>>16) in Q15 */
89 /* ynR+=( (-B1 (Q15) * y(n-1)R (Q16) )>>16) in Q15 */
100 pBiquadState->pDelays[5]=ynR<<1; /* Update y(n-1)R in Q16*/
101 pBiquadState->pDelays[4]=ynL<<1; /* Update y(n-1)L in Q16*/
    [all...]
LVC_Mixer_GetCurrent.c 28 /* This function returns the CurrentGain in Q16.15 format */
39 CurrentGain=pInstance->Current>>(16-pInstance->Shift); // CurrentGain in Q16.15 format
LVC_Mixer_GetTarget.c 27 /* This function returns the TargetGain in Q16.15 format */
39 TargetGain=pInstance->Target>>(16-pInstance->Shift); // TargetGain in Q16.15 format
BQ_1I_D16F32C14_TRC_WRA_01.c 32 pBiquadState->pDelays[2] is y(n-1)L in Q16 format
33 pBiquadState->pDelays[3] is y(n-2)L in Q16 format
61 // ynL+= ( (-B2 (Q14) * y(n-2)L (Q16) )>>16) in Q14
65 // ynL+= ( (-B1 (Q14) * y(n-1)L (Q16) )>>16) in Q14
74 pBiquadState->pDelays[2]=ynL<<2; // Update y(n-1)L in Q16
LVC_MixSoft_1St_2i_D16C31_SAT.c 57 TargetGain=pInstance1->Target>>16; // TargetGain in Q16.15 format, no integer part
63 TargetGain=pInstance1->Target>>16; // TargetGain in Q16.15 format, no integer part
77 TargetGain=pInstance2->Target>>16; // TargetGain in Q16.15 format, no integer part
83 TargetGain=pInstance2->Target>>16; // TargetGain in Q16.15 format, no integer part
127 TargetGain=pInstance1->Target>>(16-pInstance1->Shift); // TargetGain in Q16.15 format
141 TargetGain=pInstance2->Target>>(16-pInstance2->Shift); // TargetGain in Q16.15 format
LVC_MixInSoft_D16C31_SAT.c 55 TargetGain=pInstance->Target>>(16-pInstance->Shift); // TargetGain in Q16.15 format
59 TargetGain=pInstance->Target>>(16-pInstance->Shift); // TargetGain in Q16.15 format
101 TargetGain=pInstance->Target>>(16-pInstance->Shift); // TargetGain in Q16.15 format
LVC_MixSoft_1St_D16C31_SAT.c 55 TargetGain=pInstance->Target>>(16-pInstance->Shift); // TargetGain in Q16.15 format
59 TargetGain=pInstance->Target>>(16-pInstance->Shift); // TargetGain in Q16.15 format
101 TargetGain=pInstance->Target>>(16-pInstance->Shift); // TargetGain in Q16.15 format
LVC_Mixer_SetTarget.c 52 LVM_INT32 MaxGain=TargetGain; // MaxGain is in Q16.15 format
54 CurrentGain=pInstance->Current>>(16-pInstance->Shift); // CurrentGain in Q16.15 format
LVC_Mixer_Init.c 53 LVM_INT32 MaxGain=TargetGain; // MaxGain is in Q16.15 format
  /external/webrtc/src/modules/audio_coding/codecs/isac/fix/source/
filters.c 75 WebRtc_Word32 *FilterState) //Q16
83 a = WEBRTC_SPL_LSHIFT_W32(a, 1); // Q15 -> Q16
84 b = WEBRTC_SPL_ADD_SAT_W32(a, FilterState[j]); //Q16+Q16=Q16
90 WEBRTC_SPL_LSHIFT_W32((WebRtc_UWord32)InOut16[n], 16)); // Q15<<1 + Q0<<16 = Q16 + Q16 = Q16
transform.c 136 tmpreQ16[k] = WEBRTC_SPL_RSHIFT_W32(WEBRTC_SPL_MUL_16_32_RSFT16(factQ19, xrQ16)+4, 3); // (Q16*Q19>>16)>>3 = Q16
137 tmpimQ16[k] = WEBRTC_SPL_RSHIFT_W32(WEBRTC_SPL_MUL_16_32_RSFT16(factQ19, xiQ16)+4, 3); // (Q16*Q19>>16)>>3 = Q16
171 tmpreQ16[k] = WEBRTC_SPL_RSHIFT_W32((WebRtc_Word32)inre1Q9[k], sh); //Q(16+sh) -> Q16
172 tmpimQ16[k] = WEBRTC_SPL_RSHIFT_W32((WebRtc_Word32)inre2Q9[k], sh); //Q(16+sh) -> Q16
176 tmpreQ16[k] = WEBRTC_SPL_LSHIFT_W32((WebRtc_Word32)inre1Q9[k], -sh); //Q(16+sh) -> Q16
177 tmpimQ16[k] = WEBRTC_SPL_LSHIFT_W32((WebRtc_Word32)inre2Q9[k], -sh); //Q(16+sh) -> Q16
218 tmpInRe = WEBRTC_SPL_LSHIFT_W32((WebRtc_Word32) inreQ7[k], 9); // Q7 -> Q16
219 tmpInIm = WEBRTC_SPL_LSHIFT_W32((WebRtc_Word32) inimQ7[k], 9); // Q7 -> Q16
    [all...]
filterbanks.c 31 WebRtc_Word32 *FilterState) //Q16
41 a = WEBRTC_SPL_LSHIFT_W32(a, 1); // Q15 -> Q16
42 b = WEBRTC_SPL_ADD_SAT_W32(a, FilterState[j]); //Q16+Q16=Q16
44 FilterState[j] = WEBRTC_SPL_ADD_SAT_W32(WEBRTC_SPL_LSHIFT_W32(a,1), WEBRTC_SPL_LSHIFT_W32((WebRtc_UWord32)InOut16[n],16)); // Q15<<1 + Q0<<16 = Q16 + Q16 = Q16
decode.c 112 // Why does this need Q16 in and out? /JS
116 Vector_Word16_1[k] = (WebRtc_Word16)WEBRTC_SPL_RSHIFT_W32(Vector_Word32_1[k]+64, 7); //Q16 -> Q9
194 Vector_Word32_1[k] = WEBRTC_SPL_LSHIFT_W32(Vector_Word32_2[k], 9); // Q16 -> Q25
  /hardware/invensense/60xx/libsensors_iio/software/core/mllite/
ml_math_func.h 44 static inline float inv_q16_to_float(long q16)
46 return (float) q16 / (1L << 16);
49 static inline double inv_q16_to_double(long q16)
51 return (double) q16 / (1L << 16);
  /hardware/invensense/65xx/libsensors_iio/software/core/mllite/
ml_math_func.h 44 static inline float inv_q16_to_float(long q16)
46 return (float) q16 / (1L << 16);
49 static inline double inv_q16_to_double(long q16)
51 return (double) q16 / (1L << 16);
  /external/chromium_org/third_party/opus/src/silk/
A2NLSF.c 63 static inline opus_int32 silk_A2NLSF_eval_poly( /* return the polynomial evaluation, in Q16 */
64 opus_int32 *p, /* I Polynomial, Q16 */
72 y32 = p[ dd ]; /* Q16 */
75 y32 = silk_SMLAWW( p[ n ], y32, x_Q16 ); /* Q16 */
93 P[ k ] = -a_Q16[ dd - k - 1 ] - a_Q16[ dd + k ]; /* Q16 */
94 Q[ k ] = -a_Q16[ dd - k - 1 ] + a_Q16[ dd + k ]; /* Q16 */
114 opus_int32 *a_Q16, /* I/O Monic whitening filter coefficients in Q16 [d] */
bwexpander_32.c 38 opus_int32 chirp_Q16 /* I Chirp factor in Q16 */
PLC.h 41 #define PITCH_DRIFT_FAC_Q16 655 /* 0.01 in Q16 */
  /external/chromium_org/third_party/opus/src/celt/
mathops.c 89 /** Reciprocal sqrt approximation in the range [0.25,1) (Q16 in, Q14 out) */
103 /* We want y = x*r*r-1 in Q15, but x is 32-bit Q16 and r is Q14.
110 This yields the Q14 reciprocal square root of the Q16 x, with a maximum
179 /** Reciprocal approximation (Q15 input, Q16 output) */
  /external/webrtc/src/modules/audio_processing/agc/
digital_agc.h 71 WebRtc_Word32 WebRtcAgc_CalculateGainTable(WebRtc_Word32 *gainTable, // Q16
  /external/chromium_org/third_party/opus/src/silk/fixed/
k2a_Q16_FIX.c 37 const opus_int32 *rc_Q16, /* I Reflection coefficients [order] Q16 */
  /external/webrtc/src/modules/audio_processing/ns/
nsx_defines.h 19 #define FACTOR_Q16 (WebRtc_Word32)2621440 // 40 in Q16

Completed in 301 milliseconds

1 2 3 4 5