home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #27 / NN_1992_27.iso / spool / comp / ai / philosop / 6843 < prev    next >
Encoding:
Text File  |  1992-11-19  |  4.1 KB  |  96 lines
  1. Newsgroups: comp.ai.philosophy
  2. Path: sparky!uunet!spool.mu.edu!darwin.sura.net!cs.ucf.edu!news
  3. From: clarke@acme.ucf.edu (Thomas Clarke)
  4. Subject: Re: It is AI when...
  5. Message-ID: <1992Nov19.141459.4313@cs.ucf.edu>
  6. Sender: news@cs.ucf.edu (News system)
  7. Organization: University of Central Florida
  8. References: <BxpIsD.H1E@cs.bham.ac.uk>
  9. Date: Thu, 19 Nov 1992 14:14:59 GMT
  10. Lines: 84
  11.  
  12. In article <BxpIsD.H1E@cs.bham.ac.uk> axs@cs.bham.ac.uk (Aaron Sloman) writes:
  13. > clarke@acme.ucf.edu (Thomas Clarke) writes:
  14. > 
  15. > > Date: 12 Nov 92 20:22:05 GMT
  16. > > Organization: University of Central Florida
  17. >     ....
  18. > > If you can discern how it works it's not truly intelligent behavior.
  19. > > You'll know its truly intelligent when you can't figure out how it
  20. > > works.
  21. > 
  22. > 
  23. > This implies that
  24. > EITHER
  25. > 
  26. >     (a) human beings, chimpanzees, squirrels (and other things) are
  27. >     not truly intelligent
  28. > 
  29. > OR
  30. >     (b) we'll never understand how they work
  31. > 
  32. > I see no reason to believe either, though understanding how they
  33. > work is very difficult and is likely to take many more years. I see
  34. > current AI/Cognitive science as being at a stage that could be
  35. > compared with Galileo's understanding of physics: i.e. some
  36. > important new ideas have emerged, but there`s still a very long way
  37. > to go.
  38.  
  39. Let me clarify my definition of what I mean by understanding.  
  40. We already understand in a general way how intelligence works in
  41. humans et al:  it involves a massively parallel network of neurons.
  42.  
  43. I have in mind a more precise definition of understanding:
  44. (I call this strong understanding, but then someone has
  45. probably already used this term in some other sense.  Not being
  46. a professional philosopher, I'm not sure.)
  47.  
  48.   A process is strongly understood when it is in principle possible 
  49.   to manipulate the process so as to control the process over a finite 
  50.   time span using control inputs of smaller Kolomogorov-Chaitin 
  51.   complexity than the process behavior.
  52.  
  53. I insert "in principle" since while something may be understood, its
  54. control may be beyond engineering practice.  Control of the brain
  55. may require 10^N (a larger number) of fine platinum electrodes to be
  56. embedded in the appropriate neurons - possible in principle. but
  57. certainly not in current practice.
  58.  
  59. The stuff about "Kolomogorov-Chaitin" complexity is there to eliminate
  60. control some sort of real-time statistical control wherein the 
  61. inputs are adjusted continuosly in some sort of tight feedback loop.
  62. No fair to make the person go to the refrigerator and eat fudge by
  63. controlling all the individual afferent neurons involved in the
  64. activity.  You have to know where the "higher level centers" are and
  65. the "code" that they use so you can input "hunger, sweet, cold, get"
  66. or some equivalent and have this brief message generate the
  67. complex behavior.
  68.  
  69. "Smaller" means of smaller exponential order, or one of various
  70. similar concepts appropriate for the process.
  71.  
  72. The "finite time span" is there to take care of chaotic dynamics.
  73. I think one can say that weather is can be strongly understood.
  74. However, chaos prevents control of the weather beyond a horizon of 
  75. several days; no matter how complete the thermodynamic transducers 
  76. available to the meteorologor, without real-time feedback the weather 
  77. will diverge from the desired outcome in a few days.  
  78.  
  79. "Finite" should be taken in the mathematicians since of having a lower 
  80. bound.  I should be more precise about what "finite" means, but I'm 
  81. trying to keep my definition "finite":-)
  82.  
  83. I don't think my earlier statement, which now becomes "intelligence
  84. will never be strongly understood", applies only to AIs that are
  85. continuous or neural.  An algorithmic (Turing machine) AI could fail to
  86. be strongly understood. Its code could be generated by some sort
  87. of genetic process that fails to supply documentation so that the
  88. problem of strongly understanding the code in order to control the 
  89. AI's behavior is NP-complete or, worse yet, undecidable.
  90.  
  91. --
  92. Thomas Clarke
  93. Institute for Simulation and Training, University of Central FL
  94. 12424 Research Parkway, Suite 300, Orlando, FL 32826
  95. (407)658-5030, FAX: (407)658-5059, clarke@acme.ucf.edu
  96.