home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #20 / NN_1992_20.iso / spool / comp / ai / neuraln / 3445 < prev    next >
Encoding:
Text File  |  1992-09-10  |  1.9 KB  |  38 lines
  1. Newsgroups: comp.ai.neural-nets
  2. Path: sparky!uunet!elroy.jpl.nasa.gov!ucla-cs!maui.cs.ucla.edu!edwin
  3. From: edwin@maui.cs.ucla.edu (Edwin Tisdale)
  4. Subject: Re: function approximation with neural nets : what is right ?
  5. Message-ID: <1992Sep10.182015.19429@cs.ucla.edu>
  6. Sender: usenet@cs.ucla.edu (Mr Usenet)
  7. Nntp-Posting-Host: maui.cs.ucla.edu
  8. Organization: UCLA Computer Science Department
  9. References: <1992Sep10.153652.12503@noose.ecn.purdue.edu>
  10. Date: Thu, 10 Sep 92 18:20:15 GMT
  11. Lines: 25
  12.  
  13. In article <1992Sep10.153652.12503@noose.ecn.purdue.edu>
  14. kavuri@lips2.ecn.purdue.edu (Surya N Kavuri ) writes:
  15. >  
  16. >   In using a neural net to approximate a function, it is done with
  17. >   out any a priori information on what class of functions we are 
  18. >   looking for.  For example, if I know the function is some 
  19. >   polynomial, there is no way to impose this condition on the net.
  20. >
  21. If you **know** that the function you are trying to imitate is best
  22. approximated by a polynomial then you **should** use a polynomial.
  23. The polynomial is just another kind of network.  The non-linear
  24. units are just the powers ( x^0, x^1, x^2, ...) of the input variable.
  25. People sometimes call these things Sigma-Pi units.
  26. The weights are just the coefficients (a_0, a_1, a_2, ...) which can
  27. be estimated using conventional polynomial regression.
  28. The problem is a little harder if you don't have much data to "train"
  29. with and you don't know which (or even how many) terms (units) to
  30. include in your network.  You might try using variable exponents (x^w).
  31. But then you need a learning algorithm to propagate errors backward to
  32. the exponents.  In short, you should always try to use the network
  33. architecture which is most appropriate for your application.  But
  34. unless you have some good reason for believing one is better than
  35. another, any of the black-box models will do.  And you should just
  36. try the one that is most convenient.  Hope this helps, Bob Tisdale
  37. UCLA-CSD.
  38.