home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #19 / NN_1992_19.iso / spool / bit / listserv / statl / 1441 < prev    next >
Encoding:
Text File  |  1992-08-31  |  8.3 KB  |  174 lines
  1. Comments: Gated by NETNEWS@AUVM.AMERICAN.EDU
  2. Path: sparky!uunet!paladin.american.edu!auvm!UTXVM.BITNET!TBN
  3. Message-ID: <STAT-L%92083115524914@VM1.MCGILL.CA>
  4. Newsgroups: bit.listserv.stat-l
  5. Date:         Mon, 31 Aug 1992 15:52:48 -0400
  6. Sender:       "STATISTICAL CONSULTING" <STAT-L@MCGILL1.BITNET>
  7. From:         TBN@UTXVM.BITNET
  8. Subject:      communalities > 1
  9. In-Reply-To:  The letter of Thursday, 27 August 1992 3:07pm CT
  10. Lines: 162
  11.  
  12.  Jaap Hartog < ABRAMSE@HROEUR1.BITNET > writes
  13.  
  14. " Dear Networkers,
  15. I am doing a factor analysis on 4 variables with SPSS PC+.
  16. One loading proved to be greater than 1 (1.01 in fact). May be
  17. rounding difficulties. So I tried an other extraction method
  18. (PAF). Extraction stopped because of communalities greater than
  19. one. So I tried another method (ALPHA). Again a loading greater
  20. than one.
  21. Is there someone among you who can shed some light on this
  22. dark matter.
  23.                               Jaap Hartog  "
  24.  
  25. A question very similar to this one was sent to the SPSSX-L bulletin
  26. board, and I have included the text of my letter on the subject below.
  27. One quick thing you may want to try would be to use a / Diagonal =
  28. 50 .50 .50 .50 subcommand followed by / Extraction = PAF. This
  29. will give you a principal-axis factor analysis with .5 as the
  30. initial starting value used in computing the estimates of
  31. communality. As I've noted in the letter below, I've had some
  32. luck with using .5 as a starting value, particularly in the case of
  33. factor analysis models.
  34.  
  35. In my quick glance through the SPSS Base System User's Guide I did
  36. not come across any references to Heywood cases or how to deal with
  37. them. As I note below, SAS allows a user to arbitrarily (for better
  38. or worse) enforce a communality less-than-or-equal-to-one rule, which
  39. allows a factor analysis program to continue running when it would
  40. have crashed otherwise. I am curious to hear what SPSS users do when
  41. they encounter Heywood cases.
  42.  
  43. Here is the similar letter posted to SPSSX-L and my response to it.
  44. Doubtless  there will be other responses to it, and you may wish
  45. to monitor that bulletin board as well as this one for the many
  46. useful suggestions which will no doubt follow your and Susan
  47. Kashubek's postings....
  48.  
  49. ***************************************************************
  50.  
  51.  
  52. To: spssx-l, sk7811R@acad.drake.edu
  53. Subject: Heywood Cases
  54.  
  55. Susan Kashubek (SK7811R@ACAD.DRAKE.EDU) writes the following:
  56.  
  57.  
  58. " HELP!
  59. For those of you who use Lisrel 7:
  60.  
  61. I am using Lisrel 7 to do some structual equation modeling and am having
  62. trouble with a recurring error message.  This message states:
  63.     Warning: Theta Eps is not positive definite
  64.  
  65. I have played around some with the way the model is specified (adding or
  66. deleting variables, fixing or freeing paths) and sometimes get the same
  67. warning, other times the Theta Delta matrix or the Psi matrix will not
  68. be positive definite.  The result is that the modification indices, t-values,
  69. residuals, etc. can't be computed, and I assume that the final parameter
  70. estimates are somewhat arbitrary.
  71.  
  72. My sample size is about 190 subjects, with 23 measured variables (though I
  73. have tried deleting 4 or 5 to see if that helps).  I did get the model to
  74. "run" once without any errors or warnings at all, but when I attempted to
  75. modify the model based on the results in the modification indices, I ended
  76. up getting more warnings that the Theta Eps matrix wasn't positive definite.
  77.  
  78. Any ideas on why I am getting this message?  Do I have too many variables?
  79. Are there common strategies for dealing with this problem?  Any help would
  80. be greatly appreciated, as there are few, if any, people here at Drake
  81. who are familiar with Lisrel.
  82.  
  83. Many thanks!
  84.  
  85. Susan Kashubeck
  86. Drake University
  87. SK7811R@ACAD.DRAKE.EDU  "
  88.  
  89. What Ms. Kashubeck has encountered is what is popularly called a
  90. Heywood Case in the factor analysis literature. Heywood Cases arise
  91. in two situations in structural modeling. The first occurs when
  92. the unique properties of the correlation matrix which is being
  93. analyzed by LISREL lead LISREL to estimate a path value (or factor
  94. loading in the case of a confirmatory factor analysis model) that is
  95. larger that 1.00 (If you are using a standarized solution, the
  96. presence of such an estimate may be checked on the LISREL output).
  97.  
  98. The result of a parameter estimate that is larger than 1.00 means
  99. that "negative error variance" exists--there is no positive variance
  100. "left over" to fill one of the error matrices. You will recall that
  101. LISREL has a total of eight matrices. The Theta Epsilon (Theta EPS)
  102. is the error matrix associated with Y-residuals (i.e., downstream
  103. variable residuals). I would recommend that you check the LY (Lamba Y)
  104. matrix
  105. parameter estimates and try to determine if any of them exceed 1.00
  106. in a standarized solution. LISREL is expecting some left over error
  107. variance that it can use to fashion a "gramian" (i.e., positive
  108. definite matrix) Theta Epsilon
  109. matrix, and if it cannot do so then it announces that Theta Epsilon
  110. is "not positive definite".
  111.  
  112. What can one do in this situation? One quick solution is to try
  113. setting different starting values other than LISREL's default.
  114. I've had moderate success with using / ST .5 ALL. Another option is
  115. to move from a Maximum-Likelihood-based solution to a ordinary least-
  116. squares or a generalized least-squares solution, since the former
  117. method seems to be particularly prone to Heywood cases and the latter
  118. two methods much less so. I believe that ordinary least-squares and
  119. generalized least-squares solutions are available by typing
  120. UL or GLS on the / OU line, though I am not certain of this. ML
  121. , which is the default, will give you the maximum-likelihood solution.
  122.  
  123. A second way you can obtain a Heywood case is called "Empirical
  124. Underidentification". If you have a situation, say, where you have
  125. two measurement variables leading into one latent variable on
  126. a model with two latent variables joined by one correlation, with
  127. 3 manifest variables attached to the other latent variable by one path
  128. each, the situation looks fine for a good solution, but
  129. there may be an infinite number of solutions possible for the path
  130. values (parameter estimates). This may be particularly true when the
  131. correlation or covariance which links the latent variables is
  132. small. To determine if this type of situation is contributing to
  133. a non-positive definite matrix, I would suggest checking the
  134. standard error of the estimates in the output. If these values are
  135. large, then this situation may be the cause of your difficulty.
  136. You can try to get around this difficulty by setting your residuals
  137. equal to one another with / EQ statements.
  138.  
  139. Finally, if worse comes to worse, you could try to figure out which
  140. of the individual residual matrix elements (i.e., estimates in the
  141. THETA EPS) matrix are less than 0 and fix them to some value greater
  142. than zero, but I would try to exercise all other options before
  143. undertaking such a radical venture. I'm sure other SPSS-L readers
  144. will have ready solutions for you to try because this is not an
  145. uncommon problem for structural equation modelers to contend with.
  146.  
  147. Heywood cases are definitely a royal pain in the statistical
  148. posterior. SAS in its Proc Calis has even gone so far as to add an
  149. option that allows users to quickly and simply specify and option
  150. which tells SAS not to let any parameter estimates exceed 1.00, and
  151. therefore all of the error matrices are kept positive definite.
  152. LISREL contains no such luxury, however, but the LISREL user can do
  153. the same thing via a little more work and patience.
  154.  
  155.  
  156. Tor Neilands, Systems Analyst
  157. Statistical and Mathematical Support Services
  158.                                              ______
  159. Internet: TBN@Utxvm.cc.utexas.edu           /_|_|_ ¢
  160. Phone: (512)-471-3241, Extension 263        |_|_|_ |      -   -
  161. Address: Com 1                              |_|_|_ |    -    -   0
  162.          Mail Code 12700                    |_|_|_ |      -   -
  163.          UT Ausin                            ¢|_|_/
  164.          Austin, TX  78712                     ||
  165.                                                ||
  166. " Two roads diverged in a yellow wood, and     ||
  167.   I...I took the road less traveled, and      /||¢
  168.   that has made all the difference ".
  169.                           --- Robert Frost
  170. Disclaimer: All views expressed above and herein are only those of
  171. the author and do not necessarily represent the views of the University
  172. of Texas, the UT Comp Center, and anyone else I've forgotten to include
  173. in this disclaimer.
  174.