home *** CD-ROM | disk | FTP | other *** search
/ The C Users' Group Library 1994 August / wc-cdrom-cusersgrouplibrary-1994-08.iso / vol_200 / 209_01 / linefitr.dat < prev    next >
Text File  |  1990-03-04  |  768b  |  36 lines
  1. linear least squares on set of data previously done by hand
  2.  
  3. nvert= 3        nparm= 2
  4.  
  5. ndata= 11        ndatval= 4
  6.  
  7. iter= 0            maxquad_skip= 4        exit_test= 1.E-12
  8.  
  9. prt_cycle= 30        quad_test= 100
  10.  
  11. simplex[nvert][nparm=a,b]= 
  12. -1e-6    -1e-6
  13. 1e6    -1e-6
  14. -1e-6    1e6
  15.  
  16.  
  17. data[ndata][y,yc,w,x]= 
  18. 3.1    0    1    1
  19. 4.9    0    1    2
  20. 7.3    0    1    3
  21. 8.7    0    1    4
  22. 10.7    0    1    5 
  23. 13.0    0    1    6 
  24. 15.3    0    1    7 
  25. 17.3    0    1    8 
  26. 18.7    0    1    9 
  27. 21.1    0    1    10
  28. 22.9    0    1    11
  29.  
  30. comment:
  31.  
  32. hand calculation gives intercept a = 1.01090909     std devn = .1641115
  33.  
  34.                slope b = 1.99818182     std devn = .02419692
  35.  
  36. (compare with linefitr results)