Avoiding double roundings in scaled Newton-Raphson division - ENS de Lyon - École normale supérieure de Lyon Accéder directement au contenu
Communication Dans Un Congrès Année : 2013

Avoiding double roundings in scaled Newton-Raphson division

Résumé

When performing divisions using Newton-Raphson (or similar) iterations on a processor with a floating-point fused multiply-add instruction, one must sometimes scale the iterations, to avoid over/underflow and/or loss of accuracy. This may lead to double-roundings, resulting in output values that may not be correctly rounded when the quotient falls in the subnormal range. We show how to avoid this problem.

Domaines

Autre [cs.OH]
Fichier principal
Vignette du fichier
ScaledDivIter.pdf (121.87 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)
Loading...

Dates et versions

ensl-00875366 , version 1 (21-10-2013)

Identifiants

  • HAL Id : ensl-00875366 , version 1

Citer

Jean-Michel Muller. Avoiding double roundings in scaled Newton-Raphson division. Asilomar Conference on Signals, Systems, and Computers, Nov 2013, Pacific Grove, CA, United States. 4 p. ⟨ensl-00875366⟩
178 Consultations
572 Téléchargements

Partager

Gmail Facebook X LinkedIn More