home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #20 / NN_1992_20.iso / spool / comp / ai / 3398 < prev    next >
Encoding:
Text File  |  1992-09-09  |  2.5 KB  |  56 lines
  1. Newsgroups: comp.ai
  2. Path: sparky!uunet!usc!sol.ctr.columbia.edu!destroyer!wsu-cs!vela!pd-dom!schuette
  3. From: schuette@wl.com (Wade Schuette)
  4. Subject: Re: Legality of Expert Systems
  5. Message-ID: <1992Sep9.225854.1619@wl.com>
  6. Keywords: liability, legality
  7. Organization: Warner Lambert / Parke-Davis
  8. References: <1992Sep9.181516.4165@msuinfo.cl.msu.edu>
  9. Date: Wed, 9 Sep 1992 22:58:54 GMT
  10. Lines: 44
  11.  
  12. In article <1992Sep9.181516.4165@msuinfo.cl.msu.edu> chesney@golden.cps.msu.edu (David R Chesney) writes:
  13. >Has anyone done any work on liability issues as related to knowledge 
  14. >based systems?  Example:  I confer with an expert and I build an
  15. >expert system for air traffic control.  This system is then used
  16. >at an airport by a air traffic controller.  Plane go booom!  Who's 
  17. >responsible, the original expert who gave incorrect advice, the
  18. >knowledge engineer who built the system, or the air traffic controller 
  19. >who used the incorrect information?
  20. >
  21. >Dave
  22.  
  23.  
  24. The FDA has done some thinking about this, in regard to what constitutes
  25. a medical device and who is responsible.  At the current time only a person
  26. is allowed to be responsible, or your software is a "medical device" if it
  27. makes decisions and alters the patient.  (excluding room thermostats, I guess.)
  28.  
  29. Quesition of liability raises the issue of Licensing the practitioners in 
  30. the field, so you have something you can remove, along with a whole set
  31. of Specialty Board exams. 
  32.  
  33. A related question is, at what point will a Physician or Hospital be 
  34. successfully sued for FAILING to use an expert system which CLEARLY would
  35. have PREVENTED the problem which followed.  (Best use of "expert systems"
  36. possibly being to replace the BOTTOM third of the bell-curve of performance.) 
  37. Forget even "expert".   At what point will a hospital in which a patient dies
  38. due to a milligram per kilogram error in dosing, which could trivially have
  39. been caught by a system which knew the drug, the patient weight, etc., be 
  40. sued for failing to use such a system.     Radio were not required on ships
  41. until an insurance company rejected a claim from a ship which ran aground
  42. in a storm off long Island, when the company said use of a radio would have
  43. alerted the captain and the loss would not have occurred -- suddenly all 
  44. ships got radios.
  45.  
  46. Wade
  47.  
  48. D
  49. D
  50. Whole question of liabilityu 
  51. -- 
  52. ====================================================================
  53. R. Wade Schuette     |  All opinions expressed are personal.| B>   |
  54. Ann Arbor, MI USA    |                                      |   :) |
  55. schuette@wl.com      |   *** "Synergize Scientists!"  ***   | B>   |
  56.