Lines Matching full:prec
63 prec int
157 // integer; interprets prec but not wid. Once formatted, result is sent to pad()
161 if f.precPresent && f.prec == 0 && a == 0 {
172 width := f.wid + f.prec // Only one will be set, both are positive; this provides the maximum.
196 prec := 0
198 prec = f.prec
201 prec = f.wid
203 prec-- // leave room for sign
246 for i > 0 && prec > len(buf)-i {
306 if f.precPresent && f.prec < utf8.RuneCountInString(s) {
307 n := f.prec
354 if f.precPresent && f.prec < len(s) {
355 s = s[:f.prec]
362 if f.precPresent && f.prec < len(b) {
363 b = b[:f.prec]
400 return f.prec
406 func (f *fmt) formatFloat(v float64, verb byte, prec, n int) {
408 num := strconv.AppendFloat(f.intbuf[0:1], v, verb, prec, n)
