]> Kevux Git Server - fll/commit
Bugfix: conversion scale maximums are too short and rename scale to digits.
authorKevin Day <thekevinday@gmail.com>
Wed, 6 Jan 2021 01:23:35 +0000 (19:23 -0600)
committerKevin Day <thekevinday@gmail.com>
Wed, 6 Jan 2021 01:23:35 +0000 (19:23 -0600)
commitde104f0b35fb6f97e82c81623422f6fc377ea5bb
tree1df4538858a7a58e44b0499079f04353a412cbe7
parent36879628ed43c462be1b31fd4b590fe2d7548394
Bugfix: conversion scale maximums are too short and rename scale to digits.

The "scale" max is not consistently correct.
In some cases I have the signed one number less than the unsigned version (which should only be true for the binary representation).
In other cases, I should have a larger number because it doesn't fully represent all digits.
This is likely a mistake resulting from my misuse of the term "scale".

The way I am using "scale" is not exactly correct with the meaning of the word.
Rename "scale" to "digits" to better represent what this variable its related defines are for.
level_0/f_conversion/c/conversion-common.h
level_0/f_conversion/c/conversion.h
level_1/fl_conversion/c/conversion.c