home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #18 / NN_1992_18.iso / spool / sci / math / stat / 1718 < prev    next >
Encoding:
Text File  |  1992-08-20  |  2.7 KB  |  61 lines
  1. Newsgroups: sci.math.stat
  2. Path: sparky!uunet!munnari.oz.au!manuel!news
  3. From: Andrew.Robinson@anu.edu.au
  4. Subject: Re: Degrees of Freedom  Was: Re: Standard Deviation.
  5. Message-ID: <1992Aug21.000314.2367@newshost.anu.edu.au>
  6. Sender: news@newshost.anu.edu.au
  7. Organization: Australian National University
  8. References: <1992Aug14.172833.11844@cbfsb.cb.att.com> <c48nbgtf@csv.warwick.ac.uk> <WVENABLE.92Aug18180002@algona.stats.adelaide.edu.au> <1992Aug18.214711.6657@mailhost.ocs.mq.edu.au> <l95552INNa4h@roundup.crhc. <thompson.714338397@kiyotaki.econ.umn.edu>
  9. Date: Fri, 21 Aug 92 00:03:14 GMT
  10. Lines: 49
  11.  
  12. In article <thompson.714338397@kiyotaki.econ.umn.edu>
  13. thompson@atlas.socsci.umn.edu (T. Scott Thompson) writes:
  14. >hougen@uirvlh.csl.uiuc.edu (Darrell Roy Hougen) writes:
  15. >
  16. [deletia]
  17. >
  18. >I have never been very satisfied with this notion of "degrees of
  19. >freedom" being equivalent to "pieces of independent information".  The
  20. >correspondence works well enough for linear models and independent
  21. >observations, as in the example given, but there are alternative
  22. >interpretations (in terms of the dimension of orthogonal subspaces)
  23. >that do just as well in this setting.
  24. >
  25. >To put out a concrete example that illustrates the nature of my
  26. >qualms, consider the following.  Suppose my data consist of a single
  27. >number, say X.  Suppose that I am given two pieces of information
  28. >about X (but not X itself):
  29. >
  30. >           (1)  I can observe Y := X**2
  31. >           (2)  I can observe Z := {  1 if X > 0
  32. >                                   { -1    otherwise
  33. >
  34. >How many "pieces of information" do I now have?  Clearly I can recover
  35. >X from Y and Z by the formula X = Z * <positive square root of Y>, but
  36. >neither Y nor Z alone suffices (excluding the special case where 
  37. >X = Y = 0).  Thus Y and Z must each "use up" (at least) one degree of
  38. >freedom in the usual accounting.  Thus I must conclude that
  39. >
  40. >       <degrees of freedom in X> .GE. 1 + 1 = 2.
  41. >
  42. >For obvious reasons I do not find this to be an acceptable answer!
  43. >What do you think?  What am I missing?  Is there any meaningful
  44. >interpretation to "degrees of freedom" in a general theory of
  45. >inference?
  46.  
  47. I'm going to go _way_ out on a limb here and say that I think that you have
  48. _one_ piece of infomation.  If you don't have X then your data doesn't consist
  49. of a single number, it consists of a single observation from which you have
  50. measured a two variable vector - [Y,Z].  You know  that there is an X and you
  51. want to use Y and Z to estimate it using a predetermined model, which you have
  52. specified.  This seems to me to be a non-straightforward case of a multivariate
  53. regression, with two dependent variables and one observation.
  54.  
  55. Comments?
  56.  
  57. regardless,
  58. Andrew
  59.  
  60. now hit d
  61.