Measured Accuracy of VML Functions

 

Default processor

Pentium® III processor

Pentium® 4 processor

Itanium® processor

float

double

float

double

float

double

float

double

HA

LA

HA

LA

HA

LA

HA

LA

HA

LA

HA

LA

HA

LA

HA

LA

Inv

0.50

0.50

0.50

0.50

0.50

0.50

0.50

0.50

0.50

3.33

0.50

0.50

0.50

0.50

0.50

0.50

Div

0.50

0.50

0.50

0.50

0.50

0.50

0.50

0.50

0.50

3.80

0.50

0.50

0.50

0.50

0.50

0.50

Sqrt

0.58

0.58

0.70

0.70

0.77

0.77

0.70

0.70

0.77

3.16

0.50

1.85

0.50

0.50

0.50

0.50

InvSqrt

0.57

0.57

0.77

0.77

0.97

0.96

0.77

0.77

0.97

3.64

0.50

1.01

0.50

0.50

0.50

0.50

Cbrt

0.59

0.58

0.69

0.69

0.59

0.58

0.69

0.69

0.91

2.02

0.52

1.99

0.51

0.51

0.50

0.50

InvCbrt

0.83

0.83

0.61

0.61

0.83

0.83

0.61

0.61

0.87

1.30

0.53

2.54

0.50

0.50

0.50

0.50

Pow

2.03

2.37

1.47

1.47

2.03

2.37

1.47

1.47

0.56

0.56

0.52

2.50

0.50

0.50

0.50

0.50

Exp

0.50

0.50

0.79

0.79

0.61

0.61

0.79

0.79

0.55

1.93

0.74

3.51

0.52

0.52

0.52

0.52

Ln

0.72

0.72

0.67

0.67

0.72

0.72

0.67

0.67

0.53

1.07

0.53

3.04

0.51

0.51

0.51

0.51

Log10

0.70

0.70

0.93

0.93

0.70

0.70

0.93

0.93

0.51

1.62

0.55

3.59

0.51

0.51

0.51

0.51

Cos

0.80

0.80

0.92

0.92

0.80

2.00

0.92

0.92

0.80

2.29

0.51

0.51

0.50

0.50

0.51

0.51

Sin

0.80

0.80

0.92

0.92

0.80

2.00

0.92

0.92

0.80

2.35

0.51

0.51

0.50

1.97

0.51

0.51

SinCos

0.56

0.55

0.82

0.83

0.56

1.40

0.82

0.83

0.56

1.81

0.51

1.50

0.50

0.50

0.50

0.50

Tan

0.94

0.94

0.97

2.18

0.94

3.60

0.97

2.18

0.94

4.04

0.97

3.42

0.50

0.50

0.50

0.50

Acos

0.54

0.54

0.64

0.64

0.79

26.0

0.64

0.64

0.76

2.50

0.77

3.18

0.50

0.50

0.51

0.51

Asin

0.54

0.54

0.65

0.65

0.92

3.60

0.65

0.65

0.83

2.27

0.81

2.09

0.50

0.50

0.51

0.51

Atan

0.61

0.61

0.85

0.85

0.88

3.68

0.85

0.85

0.88

3.68

0.85

3.28

0.50

0.50

0.50

0.50

Atan2

0.75

0.75

0.58

0.58

0.95

3.87

0.58

0.58

0.78

3.08

0.78

3.92

0.50

0.50

0.50

0.50

Cosh

0.50

0.50

0.81

0.81

0.61

0.61

0.81

0.81

0.75

2.21

0.76

4.04

0.50

0.50

0.50

0.50

Sinh

0.50

0.50

0.89

0.89

0.50

0.50

0.89

0.89

0.50

3.33

0.77

3.22

0.51

0.51

0.51

0.51

Tanh

0.76

0.76

0.88

0.88

0.76

0.76

0.88

0.88

0.50

2.09

0.79

0.79

0.51

0.51

0.52

0.52

Acosh

0.50

0.50

0.75

0.75

0.88

0.88

0.75

0.75

0.88

2.86

0.75

3.00

0.51

0.51

0.52

0.54

Asinh

0.70

0.70

0.81

0.81

0.88

0.88

0.81

0.81

0.88

3.42

0.81

1.90

0.51

0.51

0.52

0.52

Atanh

0.65

0.65

0.75

0.75

0.87

0.87

0.75

0.75

0.83

2.64

0.65

3.01

0.51

0.51

0.52

0.52


Remarks:
1) Units - ULP (Units in The Last Place)
2) "Default" means X87 code for all IA-32 processors

Intel, Pentium, Pentium III, Pentium 4, and Itanium are trademarks or registered trademarks of Intel Corporation or its subsidiaries in the United States and other countries.

Copyright © 2000-2002, Intel Corporation, All Rights Reserved.