home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #30 / NN_1992_30.iso / spool / comp / ai / neuraln / 4587 < prev    next >
Encoding:
Text File  |  1992-12-15  |  1.2 KB  |  28 lines
  1. Newsgroups: comp.ai.neural-nets
  2. Path: sparky!uunet!zaphod.mps.ohio-state.edu!saimiri.primate.wisc.edu!caen!spool.mu.edu!yale.edu!ira.uka.de!math.fu-berlin.de!informatik.tu-muenchen.de!baginski
  3. From: baginski@Informatik.TU-Muenchen.DE (Boris Baginski)
  4. Subject: Meaning of deltas in hidden units
  5. Keywords: BP, delta values
  6. Originator: baginski@gnom.informatik.tu-muenchen.de
  7. Sender: news@Informatik.TU-Muenchen.DE (USENET Newssystem)
  8. Organization: Technische Universitaet Muenchen, Germany
  9. Date: Tue, 15 Dec 1992 16:24:20 GMT
  10. Message-ID: <1992Dec15.162420.22854@Informatik.TU-Muenchen.DE>
  11. Lines: 15
  12.  
  13.  
  14. Everbody knows the meaning of the delta values in the backprop algorithm
  15. for output units (difference between target and activation) and the use
  16. of the deltas to adjust the internal weights.
  17.  
  18. But the question is: what do those values express for the hidden units and
  19. for the input units (can be calculated easily, are not used) ?
  20. We explored that these deltas take on values up to 50 (+/-) or so, but we only
  21. use inputs and targets and activation states in the range of 0-1.
  22. So it`s not simply possible to say these values express a realistic target minus
  23. activation for the hidden/input units.
  24.  
  25. thank you, regards,
  26. BORIS BAGINSKI
  27. adress: baginski@informatik.tu-muenchen.de
  28.