home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #20 / NN_1992_20.iso / spool / bit / listserv / csgl / 1011 < prev    next >
Encoding:
Text File  |  1992-09-15  |  6.2 KB  |  143 lines

  1. Comments: Gated by NETNEWS@AUVM.AMERICAN.EDU
  2. Path: sparky!uunet!paladin.american.edu!auvm!BEN.DCIEM.DND.CA!CDLOVE
  3. Message-ID: <9209141743.AA04398@ben.dciem.dnd.ca>
  4. Newsgroups: bit.listserv.csg-l
  5. Date:         Mon, 14 Sep 1992 13:43:21 EDT
  6. Sender:       "Control Systems Group Network (CSGnet)" <CSG-L@UIUCVMD.BITNET>
  7. From:         Chris Love see mmt <cdlove@BEN.DCIEM.DND.CA>
  8. Subject:      Imagination construction!
  9. Lines: 132
  10.  
  11. [From: Chris Love (920914.1300)]
  12. [To: Bill Powers (920910) and Rick Marken (920910)]
  13.  
  14.   Thanks for the encouraging posts!
  15. Bill, I have already started working on this *new* model. And
  16. I don't know either when it will be complete, but I can't see
  17. it taking too long (< 1 month) since all the *control objects*
  18. have already been created, such as linking objects, connection
  19. routines, the basic ECS object, etc..  But in development work,
  20. as I'm sure your aware this is never a sure thing!
  21.  
  22. >Perhaps what you feel is missing is the pairing up. In fact, it's
  23. still there...
  24.  
  25.  I see Bill.  This really does appear that, for the purpose of that
  26. n-level ECS, it is imagining without even knowing it.  Kind of like
  27. drifting in the middle of a lecture - it's nor until you bring
  28. yourself back to attention (reality) that you realize you ever left!
  29. I say this because that n-level ECS is being provided all information
  30. in a regular manner as if nothing unusual was happening to it,
  31. although the information (percepts) are really imagined ones.
  32.  
  33.   The problem:  By allowing those n-1 level ECS' to provide the
  34. imagined percepts to your (focus) n-level ECS you are getting
  35. (undesired?) influence from neighboring n-level ECS'?
  36.  
  37.  How?  This is occuring because those n-1 level ECS' are also
  38. receiving outputs from the neighboring n-level ECS' in the
  39. process of generating the net input refernce sum.
  40.  
  41.   Do you want this? If you wish to evaluate the effectiveness of
  42. that n-level ECS, I think not since you now have external
  43. uncontrollable influence from neighboring n-level ECS' through
  44. an indirect path.  If this was your intention then I do not
  45. understand the reason, or possibly overlooking something. Please
  46. explain.
  47.  
  48.   In my proposal, you short circuit the ECS that you want in
  49. imagination mode.  No influence from neighboring n-level ECS'
  50. occurs.  I know it does in the *global* sense through the
  51. environment **eventually** as recieved refernces, but this is
  52. far enough removed, I feel, to be of little effect.  When that
  53. n-level ECS imagines you want it to try to perceive doing well,
  54. that's the objective, right?  So, in achieving, or attempting to
  55. achieve this objective we must vary it's direct weights in relation
  56. to it's imagined percepts such that it reduces its error.  THis
  57. results, of course, in a better controller.  THis is my hypothesis.
  58.  
  59.   Bill, if you removed the influence of those other n-level ECS'
  60. contributions to those other n-1 level ECS refernce sums then I
  61. think we have agreement on the imagination objectives.
  62.  
  63. >I'll be interested in your implementation of an imagination loop
  64. that can adjust perceptual weights...
  65.  
  66.   Me too!  I'm open to any suggestions.  My baseline proposal is to
  67. use some form of Hebbian stlye learning (also known as the Widrow-
  68. hoff rule).  As applied to
  69.  PCT it goes something as follows:
  70.   Delta weight = learning rate* connection wt. * error signal
  71.   New wt. = Old wt. + Delta wt.
  72.  
  73.   Comments:
  74.    The learning rate is typically set to a small value between
  75. 0.1 and 0.3.
  76.    The connection weight is the exisiting weight (wt.) of the
  77. connection of interest.
  78.    The error signal is that signal eminating from the comparator.
  79.  
  80.   What does this do?
  81.    Well, as I see it it correlates particular references with
  82. particular percept signals.  In wording the Hebbian rule says
  83. something like, "... if two connecting units are correlated
  84. then strengthen that connection."  THislowers the threshold
  85. necessary to *fire* that receiving unit in the future under
  86. similar circumstances.
  87.  
  88.   Is this the right thing to do?
  89. That depends on wether their is correlation between the refernces
  90. an the percepts? And whether this correlation is desireable to
  91. learn, i.e., will it make controlling better?
  92.  
  93.   If anyone has any comments, improvements, either to prove or
  94. disprove the above proposal or anything else - great! Let's have
  95. at 'em!
  96.  
  97. ------------------------------------------------------------
  98. Rick Marken-
  99. >Whatever throws the switch must have reason for doing it...
  100. >the reason is to control something.
  101.  
  102. >... it would be nice to have a system that alters the imagination
  103. connections through the perceptual and output system...
  104.  
  105. >the imagination swithch is probably the output of a control system..
  106.  
  107. Sounds good to me too Rick.
  108.   I also thought that another possibility would be to allow the
  109. ECS to detemine that it needs to imagine.  THis would happen, like
  110. me, when I work too hard and get (temporarily) *brain dead* and
  111. my mind automatically swithches to imagination mode to try to
  112. solve *the problem*, I guess subconciously.
  113.  
  114.  When I say "allow the ECS to determine", I should specify that
  115. the *swithch* is internal rather than coming externally from
  116. another ECS.  I would like to avoid this path of exploration
  117. first if i can since it requires, i feel, a dedication to
  118. function, i.e., that ECS' objective is to *only* know when to
  119. send a *swithch to imagination*  signal to other ECS'.  I, as
  120. a designer, now have to worry about how to make such an ECS do
  121. just that.  I would prefer to develop, if i can, a *almighty*
  122. ECS that is VERY GENERIC in the sense that everything that must
  123. happen in an ECS or to an ECS can be handled *EXCLUSIVELY* by
  124. that ECS.  It does not require outside influence to make decisions
  125. on what its actions should be.
  126.  
  127.   As an engineer, if it turns out that your proposal works ok,
  128. great I'll implement it tommorow.  I'm in no way biased to either
  129. approach - just one that works and is reliable, reproduceable,
  130. and expalainable (is that a word?)!!!  I think at this point,
  131. however, that the almight ECS may be the way to go.  What do you
  132. think about this?
  133.  
  134.  >figure out how to do experiments that would guide the modelling
  135. of imagination...
  136.  
  137.   I can't imagine these expts. now either but you can't always see
  138. the end of the tunnel; you just have to beleive that it will appear
  139. before you drop!
  140.  
  141. Thanks,
  142. Chris. (DCIEM)
  143.