home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1993 #1 / NN_1993_1.iso / spool / bit / listserv / csgl / 2123 < prev    next >
Encoding:
Text File  |  1993-01-12  |  3.4 KB  |  73 lines
  1. Comments: Gated by NETNEWS@AUVM.AMERICAN.EDU
  2. Path: sparky!uunet!usc!howland.reston.ans.net!paladin.american.edu!auvm!IMAG.FR!MALER
  3. Return-Path: <@VMD.CSO.UIUC.EDU:maler@vercors.imag.fr>
  4. X-Mailer: Mail User's Shell (6.5.6 6/30/89)
  5. Message-ID: <9301121816.AA23292@pelvoux.imag.fr>
  6. Newsgroups: bit.listserv.csg-l
  7. Date:         Tue, 12 Jan 1993 19:16:23 MET
  8. Sender:       "Control Systems Group Network (CSGnet)" <CSG-L@UIUCVMD.BITNET>
  9. From:         Maler <maler@IMAG.FR>
  10. Subject:      Re: Koza, Genetic Programming, & LISP
  11. In-Reply-To:  "CZIKO Gary A." <g-cziko@UIUC.EDU> "Koza, Genetic Programming,
  12.               & LISP" (Jan 12, 10:55)
  13. Lines: 58
  14.  
  15. [From Oded Maler 930112]
  16.  
  17.  [Gary Cziko 930112.1620  and before and others]
  18.  
  19. The last thing I want is to cool down the enthusiasm of the first
  20. encounter with machine learning, inductive inference and automatic
  21. programming. But.
  22.  
  23. Few days ago I realized that the subject of my first (but fortunately
  24. not the last) Ph.D. proposal was in fact about (pseudo-) mind reading.
  25. It was intended to use machine learning techniques for "student
  26. modeling".  That is, given that a student has a wrong "program" to do
  27. arithmetical subtraction, I give him some excercises and from his
  28. answers I try to infer which program he is using. All this was in the
  29. cognitive framework (funny, but people in my (computer) age learned
  30. about cognitivism before behaviorism). Anyway when I realized that the
  31. gap between theory and reality in this case is too big, I moved to the
  32. more theoretical aspects of inductive inference and what I can tell
  33. you from my visit there is:
  34.  
  35. 1) There are many methods besides GA for trying to build expressions/
  36. functions/programs which are compatible with a given sample.
  37.  
  38. 2) The dark side of any such methods might be that they require an
  39. enormous amount of data or generate a huge program (in the worst case
  40. you might get the look-up table containing all the sample points).
  41.  
  42. 3) GA is a kind of combination of a random/heuristic search which seems
  43. to work in some cases (witness Koza's successes). On the other hand
  44. this field (like many others) includes some anti-scientific jumps
  45. between the fact (a computer program that searches among syntactic
  46. objects) and the metaphor (evolution, mutation, cross-over) and other
  47. stuff that gives a theoretical computer scientist the same feeling
  48. as Rick gets when he hears "reinforcement".
  49.  
  50. 4) In your intended application of GA you should distinguish between
  51. the scientific inductive inference you want to perform "from above",
  52. e.g., to find some (god forbid) S-R regularity in tracking data, and
  53. between modeling learning of an individual (re-organization). For the
  54. former you don't need to care whether it is done by GA, non-parametric
  55. estimation, search in a space of decision lists, perceptron, backprop
  56. and any other method. It is just a tool for trying to find regularity
  57. in some data. For the latter, GA might have some advantage because
  58. it seems consistent with the postulates or reorganization, but so will
  59. any procedure that will work on random perturbation on the control
  60. network.
  61.  
  62. 5) All this does not come to undetermine the impressive HACKING
  63. results achieved by Koza and others.
  64.  
  65. --Oded
  66.  
  67.  
  68. --
  69. ===============================================================
  70. Oded Maler, LGI-IMAG (Campus), B.P. 53x, 38041 Grenoble, France
  71. Phone:  76635846  Fax: 76446675   e-mail: maler@vercors.imag.fr
  72. ===============================================================
  73.