Skip to content

Make Approx<double> relative for large values, handle NaN and inf - #472

Open
Jordan08 wants to merge 1 commit into
codac-team:codac2_devfrom
Jordan08:dev-clean-v2-01
Open

Jordan08 wants to merge 1 commit into
codac-team:codac2_devfrom
Jordan08:dev-clean-v2-01

Conversation

@Jordan08

Copy link
Copy Markdown
Contributor

Approx<double> comparait toujours à une erreur absolue, trop stricte pour les grandes valeurs et fausse pour NaN et les infinis. Elle devient relative au-delà de 1, et traite NaN, ±inf et ±DBL_MAX explicitement.
Placée avant le passage à GAOL (PR suivante), qu'elle rend possible : le GAOL du fork calcule exp(0) = 1 exactement, et le test de CtcLohner compare alors 1 à 1.00001 avec une tolérance de 1e-5, que l'erreur absolue (1.0000000000066e-5) dépasse de 7e-17.

PR 1/64 de la série dev-clean-v2 (ordre et dépendances : #471). Indépendante : basée directement sur codac2, elle peut être mergée à tout moment.

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant