home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #16 / NN_1992_16.iso / spool / comp / ai / neuraln / 2925 < prev    next >
Encoding:
Internet Message Format  |  1992-07-24  |  3.4 KB
  1. Path: sparky!uunet!mcsun!uknet!strath-cs!robert@cs.strath.ac.uk
  2. From: robert@cs.strath.ac.uk (Robert B Lambert)
  3. Newsgroups: comp.ai.neural-nets
  4. Subject: Correctness of NNs
  5. Message-ID: <10088@baird.cs.strath.ac.uk>
  6. Date: 24 Jul 92 15:47:11 GMT
  7. Sender: robert@cs.strath.ac.uk
  8. Organization: Comp. Sci. Dept., Strathclyde Univ., Glasgow, Scotland.
  9. Lines: 56
  10.  
  11. This query is directed to Prof. Armstrong, although I would be interested in
  12. opinions in general.
  13.  
  14. Coming from a vision background, I was puzzled after reading Prof. Armstrong's
  15. posting on the reliability of neural networks. Surely to be able to state that
  16. network X is 100% reliable, the entire input set must be known. From experience,
  17. any pattern recognition task which has a fully defined input set with 
  18. appropriate responses can most easily be solved with a look-up table. 
  19.  
  20. I had thought that the principal strength of neural networks (including the
  21. brain) was the ability to form adaptive responses/rules based on a subset of 
  22. all possible system inputs. If responses are wrong, a neural network has the
  23. ability to correct itself, whilst improving its response rate on subsequent
  24. new inputs.
  25.  
  26. With respect to safety in critical applications, how do you prove a system to
  27. be correct? You first have to determine every possible input to that system.
  28. A great deal of time and money has gone into developing tools for proving the 
  29. correctness of software. The general opinion of the researchers in this field 
  30. is that for practical real time applications, it is not feasible to prove 
  31. software correct, no matter how critical the application. The same problem 
  32. applies to computer hardware. Many companies will only use a particular 
  33. component years after it has been introduced, assuming that any faults will 
  34. have surfaced and been corrected in that time. The probability of an error is 
  35. small, but exists.
  36.  
  37. It is never possible to eliminate errors from any real system no matter how
  38. good it looks on paper. The current approach to this problem is redundancy.
  39. Build a number of systems from different component running different software
  40. and make sure they all produce the same response during use. Is this not one
  41. of the strengths of NNs? If a cell fails or a connection is broken, the 
  42. degradation of the response to each input is slight.
  43.  
  44. Neural networks, like fuzzy logic have the advantage of being able to produce
  45. sensible responses to new inputs. In handwritten OCR for example, reading a 
  46. character at a time be it by a human, ANN, or some other technique, must give a
  47. recognition rate of less than 100%. Everyone writes differently and no system
  48. could be trained on examples of every human beings writing. The error rate can 
  49. be reduced if context is included, but not removed. If the NN is correctly 
  50. designed, ambiguous characters can at least be highlighted and alternatives 
  51. suggested with appropriate weightings.
  52.  
  53. When an ANN misclassified an input, how close is the generated response to the
  54. correct response. From my experience the differences are small. Personally I
  55. feel a lot happier with a pilot (with their NN which makes mistakes) flying an
  56. air-craft rather than a computer. When the unforeseen event occurs, the pilot 
  57. can make a choice based on experience which has a chance of being correct. If 
  58. the computer is exposed to an unforeseen event, the air-craft will almost 
  59. certainly crash.
  60.  
  61. ----
  62. Robert B Lambert
  63. University of Strathclyde
  64. Scotland, UK.
  65.  
  66. robert@cs.strath.ac.uk
  67.