home *** CD-ROM | disk | FTP | other *** search
/ Archive Magazine 1996 / ARCHIVE_96.iso / discs / gerald / 9_03 / Precision1 / StdDev < prev   
Text File  |  1995-09-20  |  4KB  |  71 lines
  1. {Version:1.07;11 Nov 1993;Fireworkz;Gerald Lewis Fitton;6500 1045 8323 3131}
  2. {Block:0;0;;32;3;13;;32;3;13}
  3. {Style:ZL Base Sheet;{ColWidth:1814}{ColName:x#}{RowHeight:336}{RowHeightFix:1}{RowUnbreakable:0}{RowName:#}{MarginLeft:114}{MarginRight:114}{MarginPara:0}{Tablist}{Background:255;255;255}{ParaStart:32}{ParaEnd:16}{LineSpace:0;72}{Justify:2}{JustifyV:0}{NewObject:1}{Numform:#,##0.00}{NumformDT:dd.mm.yy}{NumformSE:@}{BorderColour:0;0;0}{Border:0}{GridLeftColour:221;221;221}{GridTopColour:221;221;221}{GridRightColour:221;221;221}{GridBottomColour:221;221;221}{GridLeft:0}{GridTop:0}{GridRight:0}{GridBottom:0}{Protect:0}{Typeface:Helvetica}{Fontx:0}{Fonty:240}{Underline:0}{Bold:0}{Italic:0}{Superscript:0}{Subscript:0}{Foreground:0;0;0}}
  4. {StyleBase:ZL Base Sheet}
  5. {Style:ZL Head Foot;{ColWidth:11164}{MarginLeft:114}{MarginRight:114}{Tablist:C5385 R10771}{ParaStart:68}{ParaEnd:68}{LineSpace:0;72}{Justify:0}}
  6. {StyleHeaderFooter:ZL Head Foot}
  7. {Style:ZL Current Cell;{BorderColour:0;0;0}{Border:1}}
  8. {StyleCurrent:ZL Current Cell}
  9. {Style:ZL Text;{RowHeightFix:0}{Justify:0}{NewObject:3}}
  10. {StyleText:ZL Text}
  11. {Style:ZL Pounds;{Numform:ú#,##0.00}}
  12. {Style:ZL 0dp;{Numform:0}}
  13. {Style:ZL 1dp;{Numform:0.0}}
  14. {Style:ZL Percent;{Numform:0.##%}}
  15. {Style:ZL Protect On;{Protect:1}}
  16. {Style:ZL GridOff;{GridLeftColour:0;0;0}{GridTopColour:0;0;0}{GridRightColour:0;0;0}{GridBottomColour:0;0;0}{GridLeft:0}{GridTop:0}{GridRight:0}{GridBottom:0}}
  17. {Style:ZL GridOn;{GridLeftColour:0;0;0}{GridTopColour:0;0;0}{GridRightColour:0;0;0}{GridBottomColour:0;0;0}{GridLeft:2}{GridTop:2}{GridRight:2}{GridBottom:2}}
  18. {Style:ZL Brackets;{Numform:#,##0.00\\\;(#,##0.00)}}
  19. {Style:ZL Bracketsú;{Numform:ú#,##0.00\\\;(ú#,##0.00)\\\;}}
  20. {Style:ZL Protect Off;{Protect:0}}
  21. {Style:ZL 15dp;{Numform:#,##0.000 000 000 000 000}}
  22. {Paper:From Printer;0;16839;11907;737;341;341;341;0;0;0;0;32;;1}
  23. {PaperScale:100}
  24. {PrintQuality:0}
  25. {StartOfData}
  26. {S:X;X;0;0;The usual process for finding the standard deviation of a set of numbers which differ by only a small amount is inaccurate.  Fireworkz uses such an inaccurate process.  A much better technique is to reduce the size of the large numbers by subtracting the (exact) mean from each and then using the usual formula on the reduced numbers.  The value in the third column is about as accurate as you can get with Fireworkz\ÿcompare it with the inaccurate value of the second column!{ITR-X}{ITR-X}Now try changing the first value of the data from 3 to 4 and you will see that Fireworkz (or to be more correct, the Floating Point Emulator) 'dies' (ie it gives up)!  However, if you look at the last column you will see that it continues to display the same answer!}
  27. {S:X;X;0;11;Mean}
  28. {S:X;X;0;12;Std Dev}
  29. {S:X;X;1;2;Original Data}
  30. {S:S;C;1;4;3}
  31. {S:S;F;1;5;3.00000001;b5+1e-8}
  32. {S:S;F;1;6;3.00000002;b6+1e-8}
  33. {S:S;F;1;7;3.00000003;b7+1e-8}
  34. {S:S;F;1;8;3.00000004;b8+1e-8}
  35. {S:S;F;1;9;3.00000005;b9+1e-8}
  36. {S:S;F;1;11;3.000000025;avg(b5b10)}
  37. {S:S;F;1;12;4.35290779674185e-8;std(b5b10)}
  38. {S:X;X;2;2;Data \Ö Mean}
  39. {S:S;F;2;4;-2.49999998480632e-8;b5-b$12}
  40. {S:S;F;2;5;-1.49999999088379e-8;b6-b$12}
  41. {S:S;F;2;6;-4.99999996961265e-9;b7-b$12}
  42. {S:S;F;2;7;4.99999996961265e-9;b8-b$12}
  43. {S:S;F;2;8;1.49999999088379e-8;b9-b$12}
  44. {S:S;F;2;9;2.49999998480632e-8;b10-b$12}
  45. {S:S;F;2;11;0;b12-b$12}
  46. {S:S;F;2;12;1.87082868201706e-8;std(c5c10)}
  47. {BR:;;;;;;;;1;1;{StyleHandle:ZL Base Sheet}}
  48. {R:1;2;;32;2;3;;32;0;0;{StyleHandle:ZL Text}}
  49. {R:2;2;;32;3;3;;32;0;0;{StyleHandle:ZL Text}}
  50. {R:0;0;;32;1;12;;32;0;0;{MarginLeft:113}{MarginRight:113}{MarginPara:0}{Tablist}}
  51. {R:0;11;;32;1;13;;32;0;0;{StyleHandle:ZL Text}}
  52. {R:0;;;;1;;;;1;0;{ColWidth:1133}}
  53. {R:1;4;;32;3;13;;32;0;0;{StyleHandle:ZL 15dp}}
  54. {R:1;;;;2;;;;1;0;{ColWidth:2720}}
  55. {R:2;;;;3;;;;1;0;{ColWidth:2777}}
  56. {R:1;0;;32;3;1;;32;0;0;{ColWidth:0}}
  57. {R:0;0;;32;1;1;;32;0;0;{ColWidth:6630}}
  58. {R:0;0;;32;1;1;;32;0;0;{StyleHandle:ZL Text}}
  59. {PageHefoBreakValues-H:0;0;0;;1;576;32;0;;;0;;;1;576;32;0;;;0}
  60. {HD-H:0;2}
  61. {HBR-H:0;2;;32;;32;{StyleHandle:ZL Base Sheet}}
  62. {HBR-H:0;2;;32;;32;{StyleHandle:ZL Head Foot}}
  63. {HD-H:0;3}
  64. {HBR-H:0;3;;32;;32;{StyleHandle:ZL Base Sheet}}
  65. {HBR-H:0;3;;32;;32;{StyleHandle:ZL Head Foot}}
  66. {EndOfData}
  67. {CmdGroup:{ViewCreate:0;13984;8064;10944}
  68. {ViewControl:100;2;0;0;1;1;0;2048;0;2048}
  69. {CurrentPosition:1;4}
  70. }
  71.