home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #23 / NN_1992_23.iso / spool / sci / math / stat / 2098 < prev    next >
Encoding:
Internet Message Format  |  1992-10-09  |  1.9 KB
  1. Xref: sparky sci.math.stat:2098 sci.math.num-analysis:2970
  2. Path: sparky!uunet!mcsun!corton!frors65!frors65.circe.fr!fmontoya
  3. From: fmontoya@frors65.circe.fr (frederic montoya)
  4. Newsgroups: sci.math.stat,sci.math.num-analysis
  5. Subject: Re: Gibbs sampling and annealing (was: Help!  Book recommendations?)
  6. Message-ID: <1992Oct09.115016.187288@circe.fr>
  7. Date: 9 Oct 92 11:50:16 GMT
  8. References: <1992Oct4.192217.27919@news2.cis.umn.edu> <1992Oct2.095522.9172@vax.oxford.ac.uk> <1992Oct3.210337.21498@news2.cis.umn.edu> <92Oct4.130952edt.243@neuron.ai.toronto.edu>
  9. Sender: news@circe.fr (login news)
  10. Reply-To: fmontoya@frors65.circe.fr (frederic montoya)
  11. Organization: circe
  12. Lines: 33
  13.  
  14. In article <1992Oct4.192217.27919@news2.cis.umn.edu>,
  15. charlie@umnstat.stat.umn.edu (Charles Geyer) writes:
  16. > In article <1992Oct3.210337.21498@news2.cis.umn.edu> I wrote:
  17. > 
  18. >    It makes no sense to compare Gibbs sampling versus simulated annealing, 
  19. >    for example.
  20. > 
  21. > In article <92Oct4.130952edt.243@neuron.ai.toronto.edu>
  22. radford@cs.toronto.edu
  23. > (Radford Neal) replies:
  24. > 
  25. > > Correct, but not for the reasons you perhaps mean. Simulated annealing
  26. > > is a technique that can be used in conjunction with Gibbs sampling 
  27. > > (or other Markov chain methods, such as the Metropolis algorithm) 
  28. > > in order to reach the final equilibrium distribution more quickly.
  29. > 
  30. > Depends on how you think about Markov chain Monte Carlo.  The
  31. > Metropolis-Hastings algorithm produces a Markov chain with a known
  32. > stationary distribution.  This "annealing trick" doesn't.  So far
  33. > from mixing MCMC and simulated annealing, it is not MCMC at all.
  34. > 
  35. > Are there any practically useful convergence results for such schemes
  36. > once Markov chain theory is thrown out the window?
  37. > 
  38.  
  39. This especially true whenever you want to sample thermodynamic
  40. quantities. Averages must then be well controlled in order
  41. to get significant results.
  42.  
  43. -----
  44. Frederic Montoya
  45. LSG2M - Ecole des Mines
  46. fmontoya@circe.fr
  47.