home *** CD-ROM | disk | FTP | other *** search
/ Internet Info 1997 December / Internet_Info_CD-ROM_Walnut_Creek_December_1997.iso / faqs / comp / answers / software-eng / testing-faq < prev   
Encoding:
Internet Message Format  |  1997-10-04  |  56.0 KB

  1. Path: senator-bedfellow.mit.edu!bloom-beacon.mit.edu!hecate.umd.edu!cs.umd.edu!info.usuhs.mil!news.msfc.nasa.gov!bcm.tmc.edu!news.eng.convex.com!not-for-mail
  2. From: faught@convex.hp.com (Danny Faught)
  3. Newsgroups: comp.software.testing,comp.software-eng,comp.answers,news.answers
  4. Subject: comp.software.testing Frequently Asked Questions (FAQ)
  5. Supersedes: <cst_874648806@convex.com>
  6. Followup-To: comp.software.testing
  7. Date: 4 Oct 1997 01:00:08 -0500
  8. Organization: Hewlett Packard - Convex Division, Richardson, Tx USA
  9. Lines: 1289
  10. Sender: faught@convex.com
  11. Approved: news-answers-request@MIT.EDU
  12. Expires: 2 Nov 1997 06:00:06 GMT
  13. Message-ID: <cst_875944806@convex.com>
  14. NNTP-Posting-Host: zeppelin.rsn.hp.com
  15. Summary: read me before posting to comp.software.testing
  16. Keywords: FAQ, software testing, software engineering, archives, 
  17.     conferences, books, periodicals, products, organizations
  18. Xref: senator-bedfellow.mit.edu comp.software.testing:17781 comp.software-eng:62132 comp.answers:28362 news.answers:113807
  19.  
  20. Archive-name: software-eng/testing-faq
  21. Posting-Frequency: semi-monthly
  22. Last-modified: 1997/09/18
  23. Version: $Revision: 1.36 $
  24. URL: http://www.rstcorp.com/c.s.t.faq.html
  25.      http://www.faqs.org/faqs/software-eng/testing-faq/
  26.  
  27.                       comp.software.testing FAQ
  28.                   and information resource    
  29.  
  30. This is the Frequently Asked Questions list for comp.software.testing.
  31. This FAQ is posted twice a month, and is cross-posted to
  32. comp.software-eng.  If your news server is set up properly, you should
  33. always be able to find the latest version in news.answers or
  34. comp.answers.  A context diff showing recent changes will usually be
  35. posted to comp.software.testing as a followup to the FAQ.
  36.  
  37. The latest version of this FAQ may be retrieved using Usenet, the World
  38. Wide Web, ftp, email, gopher, or even telnet.  See the FAQ
  39. "Introduction to the *.answers newsgroups" in news.announce.newusers or
  40. <ftp://rtfm.mit.edu/pub/usenet/news.answers/news-answers/introduction>
  41. for details.  Please check the date above - if this file is more than a
  42. month old, it is obsolete.  The main ftp site for the FAQ is
  43. <ftp://rtfm.mit.edu/pub/usenet/news.answers/software-eng/testing-faq>.
  44. The folks at RST sponsor the primary web site for the FAQ, at
  45. <http://www.rstcorp.com/c.s.t.faq.html>.
  46.  
  47. The FAQ is still under construction (and like most FAQs, it always will
  48. be).  I'm maintaining this FAQ to collect a consensus from the
  49. comp.software.testing community, so it depends on your feedback for it
  50. to take shape.  Please don't hesitate to send me corrections,
  51. additions, and other comments.
  52.  
  53. Herein, unless otherwise stated, "I" refers to Danny Faught.  This file
  54. is Copyright 1997 by Danny Faught.  Permission is granted to distribute
  55. this file unedited and in its entirety, provided the "Date" header is
  56. no more than one month earlier than the date of distribution.  This
  57. information is provided without any express or implied warranty.
  58.  
  59. ------------------------------
  60.  
  61. Subject: 1. Table of Contents
  62.  
  63.     1. Table of Contents
  64.     2. What is this newsgroup about?
  65.     3. What other FAQs are relevant?
  66.     4. What other resources are available?
  67.     5. World Wide Web resources
  68.     6. Netiquette 
  69.     7. What's the difference between QA and testing?
  70.     8. I'm looking for a test tool...
  71.     9. Beta testing
  72.    10. How do I find information about testing object-oriented programs?
  73.    11. How do I test web-related applications?
  74.    12. What is black box/white box testing?
  75.    13. Should we discuss bug tracking tools in this newsgroup?
  76.    14. What kind of salary should a tester make?
  77.    15. Where can I find sample test plans?
  78.    16. Conferences
  79.    17. Periodicals
  80.    18. Books
  81.    19. Bibliographic resources
  82.    20. Organizations
  83.    21. Contributors
  84.  
  85. ------------------------------
  86.  
  87. Subject: 2. What is this newsgroup about?
  88.  
  89. If you're new to Usenet, please read through the FAQs in
  90. news.announce.newusers and hang out in news.newusers.questions for a
  91. while before you consider posting.
  92.  
  93. The original charter for comp.software.testing can be found at
  94. <http://tsunami.jpl.nasa.gov/TEL/docs/cst-charter.html>.  Here's an
  95. excerpt (with corrections):
  96.  
  97.     CONTENTS:
  98.  
  99.     For the purpose of this discussion, we will assume that a system is
  100.     composed of hardware, software, people, and procedures. The
  101.     proposed group should be chartered to include discussions
  102.     characterized by the following list of subjects, compiled from
  103.     preliminary discussions:
  104.  
  105.         system test automation 
  106.         system test planning 
  107.         system test optimization (e.g. minimize regression testing) 
  108.         test tools 
  109.     test metrics 
  110.         measurement technology 
  111.         nature of testing under various development models 
  112.         (e.g. object-oriented, real time, etc...) 
  113.         testing in a rapid prototyping environment (i.e. sans spec) 
  114.     relationship of various classes/types of tests to requirements, ... 
  115.     conference and symposium announcements 
  116.     the definition of "software testing" and its relationship to 
  117.         SQA and debugging. 
  118.     requirements traceability 
  119.     risk-based testing 
  120.     the most useful form of specifications and functional 
  121.         requirements from the tester's point of view. 
  122.     testing techniques, e.g., structured testing using control 
  123.         flowgraphs and basis path testing, equivalence class 
  124.         partitioning, boundary value analysis, cause-effect graphing, 
  125.         path predicate testing, data flow testing, program slices, 
  126.         data object state and usage analysis, data flow anomaly 
  127.         analysis, and sensitivity analysis. 
  128.      test coverage criteria, e.g., statement (C0), path, branch (C1), 
  129.         module (S0), and call-pair (S1) coverage criteria. 
  130.  
  131.     All levels of testing for both hardware and software should be
  132.     considered appropriate subject matter. While it is likely that the
  133.     group will take on a software flavor early on, we should try to
  134.     generate interest and input from people with hardware and system
  135.     testing experience and perspective. It is especially important that
  136.     we foster discussion of *system* level testing issues, since this
  137.     is the weakest area of our collective knowledge.
  138.  
  139. ------------------------------
  140.  
  141. Subject: 3. What other FAQs are relevant?
  142.  
  143. Brian Marick maintains the following FAQs:
  144.     Testing Contractors and Consultants List
  145.     Testing Courses List
  146.     Testing Tool Supplier List
  147.  
  148. These FAQs are also available at <http://www.stlabs.com/marick/root.htm> 
  149. and <ftp://cs.uiuc.edu/pub/testing/faqs/>.  Please consult the
  150. appropriate FAQ before before asking questions about the information
  151. already contained therein.  The Testing Tool Suppliers FAQ also
  152. contains a nice list of the available software test tools.
  153.  
  154. Since software testing is a subdiscipline of software engineering, 
  155. you will probably find the FAQs posted to comp.software-eng useful.  
  156. They can be found at <ftp://rtfm.mit.edu/pub/usenet/comp.software-eng/> or 
  157. <http://www.qucis.queensu.ca/Software-Engineering/>
  158.  
  159. The Problem Management Tools (bug tracking) FAQ is posted to
  160. comp.software.config-mgmt, and is also available on news.answers and
  161. the rtfm archives.  The URL is
  162. <http://www.iac.honeywell.com/Pub/Tech/CM/index.html>.
  163.  
  164. Rick Hower maintains the "Software QA/Test Resource Center" at
  165. <http://www.charm.net/~dmg/qatest/>.  It covers a broad range of
  166. questions about software testing.
  167.  
  168. ------------------------------
  169.  
  170. Subject: 4. What other resources are available?
  171.  
  172. A searchable archive of comp.software.testing can be found at:
  173. <http://tel.jpl.nasa.gov/cst-bin/archive.html>.  The archives are also
  174. packaged on a monthly basis at <ftp://tel.jpl.nasa.gov/pub/cst-archive>.  
  175. Some articles seem to be missing, though.
  176.  
  177. There's a mailing list gateway for comp.software.testing.  To
  178. subscribe, unsubscribe, or ask questions about the list, send mail 
  179. to cst-dist-request@tel.jpl.nasa.gov.  List maintenance is not 
  180. automated at the moment.
  181.  
  182. Statistics about comp.software.testing are available at
  183. <http://sunsite.unc.edu/usenet-i/groups-html/comp.software.testing.html>,
  184. though it looks like the data hasn't been updated since January, 1996.
  185.  
  186. Danny Faught and Mark Wiley maintain a mailing list for people who like
  187. to talk about the implementation details of OS testing and test tools.
  188. Mail swtest-discuss-info@convex.hp.com with "subscribe swtest-discuss" in
  189. the body of the message to subscribe.  Send "unsubscribe swtest-discuss"
  190. to unsubscribe.
  191.  
  192. There is an ISO 9000 mailing list.  Mail to Listserv@VM1.nodak.edu with 
  193. "subscribe iso9000 (your name)" in the body of the message, or 
  194. "Signoff iso9000" to unsubscribe.
  195.  
  196. There is also a list devoted specifically to ISO 9000-3.  To join,
  197. send mail to majordomo@quality.org with "subscribe iso9000-3" in the
  198. body of the message.  Send "unsubscribe iso9000-3" to leave the list.
  199. There's also an iso9000-3-digest list to get the same information in 
  200. digest format.
  201.  
  202. There is a mailing list for Microsoft Test and Rational Visual Test.
  203. To join, mail to mt_info-request@eskimo.com or
  204. mt_info-digest-request@eskimo.com with "subscribe" in the subject
  205. line.  See also <http://www.stlabs.com/mst.htm#List_serv>.  You can
  206. also read the microsoft.public.visualtest newsgroup from the
  207. msnews.microsoft.com news server.
  208.  
  209. Segue Software sponsors the QAPUSER mailing list for QA Partner.  
  210. To join, send "subscribe QAPUSER <your_name>" in the body of a mail
  211. message to listproc@segue.com.  Send "unsubscribe QAPUSER" to
  212. unsubscribe.  The list uses a digest format.
  213.  
  214. To join the discussion list about ADL (Assertion Definition Language
  215. system), send your name, affiliation, and e-mail address to
  216. xopubadl@xopen.org.
  217.  
  218. There is a mailing list for SQA Suite users.  See
  219. <http://www3.dundee.net/scripts/lyris.pl?enter=sqa-suite-users> for
  220. subscription instructions.  For help, contact 
  221. postmaster@sugaree.dundee.net.
  222.  
  223. The sw-rel mailing list is dedicated to discussing software
  224. reliability and related issues.  To subscribe or unsubscribe, send a
  225. request to vishwa@hac2arpa.hac.com.
  226.  
  227. ------------------------------
  228.  
  229. Subject: 5. World Wide Web resources
  230.  
  231. Here are a few web sites that each try to connect you to much of the
  232. software testing and quality information that is available on the web.
  233.  
  234.     The RST Reliability Hotlist 
  235.     <http://www.rstcorp.com/rst-web-top.html> 
  236.  
  237.     STORM (Software Testing Online Resources/MTSU) 
  238.     <http://www.mtsu.edu/~storm>
  239.  
  240.     SR/Institute's Software Quality HotList
  241.     <http://www.soft.com/Institute/HotList/>
  242.  
  243.     The QA Dude - Online Quality Resources
  244.     <http://www.nicom.com/~qadude/qualitylinks.html>
  245.  
  246. ------------------------------
  247.  
  248. Subject: 6. Netiquette 
  249.  
  250. Did I mention that you should read the FAQs in news.announce.newusers if
  251. you haven't done so lately?  Also, you can reduce the chances of
  252. embarrassing yourself by reading comp.software.testing for a while
  253. before posting.  At the very least, scan all the articles in the group
  254. currently on your server to make sure your question hasn't already been
  255. asked and answered.
  256.  
  257. If you post an article and later decide you shouldn't have posted it,
  258. please cancel it.  It is much better to correct the problem than to
  259. send *another* post to apologize for the first one.  Situations where
  260. this would be appropriate include posting empty articles, multiple
  261. copies of the same article, and any goof where you'd like to correct
  262. something you posted shortly after it was sent.  Look in your
  263. newsreader documentation for help with cancelling an article; some also
  264. have a "supercede" feature which makes it easy to correct a posting.
  265.  
  266. While the cancel feature has been common for quite some time, some
  267. newer newsreaders unfortunately do not offer it.  If this is the case,
  268. complain to the author, and consider using a more reasonable
  269. newsreader.  Here's a manual method to cancel an article - start to
  270. follow up to the errant posting.  Change the subject to 
  271. "cmsg cancel <message-id>", where message-id is taken from the
  272. References: header or the attribution.  The body of the message is not
  273. important.  Post it, and the news system should interpret it as a
  274. cancel request rather than a real posting.  You can only do this for
  275. an article you posted yourself.
  276.  
  277. There are classes of postings that are of interest to some readers, but
  278. others don't welcome them at all.  The easiest compromise is to clearly
  279. identify certain types of postings in the subject line.  Decent
  280. newsreaders allow you to automatically delete articles with subject
  281. line patterns that you specify.
  282.  
  283. Job postings must have a subject line that starts with "JOB:", exactly 
  284. as shown, for example:
  285. "Subject: JOB: need an experienced foo tester"
  286.  
  287. Job postings that are cross-posted to the various job-related
  288. newsgroups should not be posted to comp.software.tesing, since the
  289. subject conventions for those groups do not allow them to be easily
  290. identified as job postings, and the misc.jobs FAQ
  291. (<ftp://rtfm.mit.edu/pub/usenet/news.answers/jobs/welcome-faq>)
  292. specifies that job postings should not be cross-posted between the 
  293. job-related newsgroups and non job-related newsgroups.
  294.  
  295. Some recruiters refuse to follow the job posting policy.  If you don't
  296. want to read job postings, I recommend using a kill file to 
  297. systematically kill articles from these recruiters.
  298.  
  299. Other advertisements and commercial product announcements should 
  300. have a subject that starts with "AD:".  For example: 
  301. "Subject: AD: foo tester 1.0 released"
  302.  
  303. Many questions about a particular test tool only interest those readers 
  304. who use that tool.  Please make sure to put the name of the test tool
  305. in the subject line so readers can select the articles they read by
  306. looking at the subject.  In general, please use a descriptive subject 
  307. line.
  308.  
  309. People have also expressed concern about postings that are totally
  310. off-topic.  These postings are typically "spam" postings that go to
  311. most of the thousands of newsgroups that exist.  There is very little
  312. that a group can do proactively to prevent them, besides recruiting a
  313. moderator (and I don't think that would be appropriate for
  314. comp.software.testing).  See news.admin.net-abuse.usenet and
  315. <http://www.tezcat.com/~gbyshenk/ive.been.spammed.html> for more
  316. information.
  317.  
  318. Please don't post test messages to comp.software.testing.  This group
  319. is for discussing software testing, not for testing your news
  320. software.  If you want several automatic confirmations that your post
  321. worked, post a test message to misc.test.  There are other test groups
  322. at various levels of the news hierarchy that all end in ".test".  It's
  323. best to try a local one first.
  324.  
  325. ------------------------------
  326.  
  327. Subject: 7. What's the difference between QA and testing?
  328.  
  329. Sharon Codrington asks:
  330.     Please enlighten this young QA person as to the difference between
  331.     QA & Testing.  Am I right in thinking that QA is more a preventive
  332.     thing, ensuring quality in the in the company and therefore the
  333.     product rather than just testing the product for software bugs?
  334.  
  335. And Bret Pettichord answers:
  336.     DING. DING. DING. You are correct.
  337.  
  338.     Most testing jobs i see are nevertheless advertised as "QA". Some people
  339.     suggest that QC is a better set of initials to describe testing.
  340.  
  341. Don Mills writes:
  342.     In my courses and my practice, I stick to the ANSI/IEEE
  343.     definitions, which agree with what is generally held *outside* the
  344.     software arena.  The definitions boil down to:
  345.           *  TESTING means "quality control"
  346.           *  QUALITY CONTROL measures the quality of a product
  347.           *  QUALITY ASSURANCE measures the quality of processes used 
  348.          to create a quality product.
  349.  
  350. ------------------------------
  351.  
  352. Subject: 8. I'm looking for a test tool...
  353.  
  354. Did you read the Testing Tool Suppliers FAQ (see "What other FAQs are
  355. relevant?" above)  It has a list of many of the available tools, plus a
  356. list of the commercial tools listings.  While every question about test
  357. tools isn't answered there, it's a good start, and it'll at least allow
  358. you to ask a more directed question if you do post a question about
  359. test tools.
  360.  
  361. ------------------------------
  362.  
  363. Subject: 9. Beta testing
  364.  
  365. Discussions about managing a beta test program are within the scope of
  366. this newsgroup.  However, companies looking for beta testers, and
  367. aspiring beta testers looking for something to test, should go to
  368. comp.sources.testers instead.  A possible exception is test tool
  369. vendors looking for beta testers.
  370.  
  371. If you are looking for a career in software testing,
  372. comp.software.testing will welcome you.  Just don't call it "beta
  373. testing".  Beta testing is typically conducted by end users of a
  374. software product who are not paid a salary for their efforts.
  375.  
  376. ------------------------------
  377.  
  378. Subject: 10. How do I find information about testing object-oriented programs?
  379.  
  380. Information provided by Brian Marick:
  381.  
  382. Books that include some discussion of testing OO programs:
  383.     Jacobson, _Object-Oriented Software Engineering_
  384.     Marick, _The Craft of Software Testing_
  385.     McGregor, _Object-Oriented Software Development_
  386.     Siegel, _Object Oriented Software Testing_
  387.  
  388. There are a vast number of articles about testing OO programs.  I
  389. suggest starting with the September 1994 Communications of the ACM,
  390. which is devoted to this topic.  Chase references.   The February 1996
  391. issue of Object has a piece on system testing with use cases. 
  392.  
  393. Conferences like STAR and Quality Week and Pacific Northwest Software
  394. Quality Conference seem to always have papers on this topic.  I
  395. suggest going to a conference and buttonholing people.
  396.  
  397. Web sites with discussion:
  398.     <http://www.clemson.edu/~johnmc/johnmc.html> (this link is not
  399.     working as of 6/23/96)
  400.     <http://www.cs.washington.edu/homes/gmurphy/testSTApp.html>
  401.     <http://www.stlabs.com/marick/root.htm>
  402.     <http://www.toa.com>
  403.  
  404. Three courses on testing object-oriented code (one by Robert Binder,
  405. one by Ed Berard, and one by Reliable Software Technologies) are
  406. described in the Testing Courses FAQ.  Also, a new addition is an
  407. offering from Software Quality Engineering.
  408.  
  409. Bob Binder says:
  410.  
  411. My approach to oo testing is called FREE (Flattened Regular
  412. Expressions) -- see <http://www.rbsc.com/pages/FREE.html>
  413.  
  414. You might also find the oo testing biblography of interest.
  415.     <http://www.rbsc.com/pages/ootbib.html>
  416.  
  417. ------------------------------
  418.  
  419. Subject: 11. How do I test web-related applications?
  420.  
  421. Rick Hower maintains a web page which includes a nice list of web
  422. testing tools, and some guidelines for testing web sites.
  423. <http://www.charm.net/~dmg/qatest/qatweb1.html>  Please contact him at
  424. rhower@netcom.com if you can offer additions or corrections to the
  425. list.
  426.  
  427. ------------------------------
  428.  
  429. Subject: 12. What is black box/white box testing?
  430.  
  431. Black-box and white-box are test design methods.  Black-box test design
  432. treats the system as a "black-box", so it doesn't explicitly use
  433. knowledge of the internal structure.  Black-box test design is usually
  434. described as focusing on testing functional requirements.  Synonyms for
  435. black-box include:  behavioral, functional, opaque-box, and
  436. closed-box.  White-box test design allows one to peek inside the "box",
  437. and it focuses specifically on using internal knowledge of the software
  438. to guide the selection of test data.  Synonyms for white-box include:
  439. structural, glass-box and clear-box.
  440.  
  441. While black-box and white-box are terms that are still in popular use,
  442. many people prefer the terms "behavioral" and "structural".  Behavioral
  443. test design is slightly different from black-box test design because
  444. the use of internal knowledge isn't strictly forbidden, but it's still
  445. discouraged.  In practice, it hasn't proven useful to use a single test
  446. design method.  One has to use a mixture of different methods so that
  447. they aren't hindered by the limitations of a particular one.  Some call
  448. this "gray-box" or "translucent-box" test design, but others wish we'd
  449. stop talking about boxes altogether.
  450.  
  451. It is important to understand that these methods are used during the
  452. test design phase, and their influence is hard to see in the tests once
  453. they're implemented.  Note that any level of testing (unit testing,
  454. system testing, etc.) can use any test design methods.  Unit testing is
  455. usually associated with structural test design, but this is because
  456. testers usually don't have well-defined requirements at the unit level
  457. to validate.
  458.  
  459. Definitions of these terms can be found in these references:
  460.  
  461. Beizer, _Black Box Testing_, p. 8.
  462. Beizer, _Software Testing Techniques_, pp. 10-11.
  463. Daich, et al., _STSC Software Test Technologies Report_, pp. 198, 206.
  464. Mosley, _The Handbook of MIS Application Software Testing_, pp. 68-76.
  465. Myers, _The Art of Software Testing_, pp. 8-11.
  466. Wilson, _Unix Test Tools and Benchmarks_, 298, 306
  467.  
  468. ------------------------------
  469.  
  470. Subject: 13. Should we discuss bug tracking tools in this newsgroup?
  471.  
  472. Discussing bug tracking tools is not within the original charter of
  473. comp.software.testing.  The comp.software.config-mgmt newsgroup seems
  474. to have taken this topic under its wing.  That group has a FAQ for
  475. problem management tools.  See the "What other FAQs are relevant?"
  476. section for details.
  477.  
  478. ------------------------------
  479.  
  480. Subject: 14. What kind of salary should a tester make?
  481.  
  482. Salary information is available at <http://www.pencom.com/industry.html>.
  483. A nice summary of the various surveys that are available is at
  484. <http://www.ondaweb.com/sti/salary.htm>.
  485.  
  486. John Tyson writes:
  487. > You could check the May '95 issue of Application Development Trends
  488. > magazine.  The article "Testing moves from purgatory to profession" by
  489. > Linda Hayes [lghayes@metronet.com] has an excellent all-around
  490. > (non-technical) article on testing and does include some regional
  491. > salaries (albeit very general).
  492.  
  493. John also encourages testing consultants to report their rates at
  494. <http://ourworld.compuserve.com/homepages/JanetRuhl/realco96.htm>.
  495.  
  496. Jennifer Larsen writes:
  497. > You might want to get a copy of QAI's 1996 Information Technology Quality
  498. > Practices and Salary Survey.  Quality Assurance Institute (QAI) has a
  499. > variety of information available collected over a number of years. 
  500.  
  501. Mark McWhinney writes:
  502. > You might not want to use the survey results.  While they are helpful
  503. > for defining an organization's general pay scales, they are not very
  504. > useful on a case by case basis.  There are too many factors involved
  505. > that may push a particular employee's base salary significantly above
  506. > or below the average or outside the range.
  507. > For QA and test people, these surveys are even more a problem.  QA and
  508. > test people are second-class citizens.  They are paid less than their
  509. > counterparts in development.  In part this is due to the fact that QA
  510. > and test people tend to be less senior and less experienced, therefore
  511. > deserving of less pay.  I have no problem with that.  However,
  512. > developers and testers with equivalent skill, education, and experience
  513. > are not paid the same.  This is wrong....
  514.  
  515. ------------------------------
  516.  
  517. Subject: 15. Where can I find sample test plans?  
  518.  
  519. See the following IEEE standards:
  520.      829-1983 IEEE Standard for Software Test Documentation
  521.      1008-1987 IEEE Standard for Software Unit Testing
  522.      1012-1986 IEEE Standard for Software Verification and Validation Plans
  523.      1059-1993 IEEE Guide for Software Verification and Validation Plans
  524.  
  525. You can contact the IEEE in the US at 800-678-4333.  Also, Requisite
  526. (800-732-4047) sells a Standards Pack with Microsoft Word Templates
  527. for 829, 830, and 1012.  The Software Productivity Centre 
  528. (<http://www.spc.ca>, 604-662-8181) sells Word templates, including 
  529. a test plan standard and a test plan template.
  530.  
  531. Several people recommend Kaner's book, _Testing Computer Software_, for
  532. test plan samples.  Also look for the MIL-STD-498 Data Item
  533. Descriptions under <http://www.stsc.hill.af.mil>; the standard in PDF
  534. format is at <http://diamond.spawar.navy.mil/498/mil-498.html>.  You'll
  535. find the ETET test plan in
  536. <ftp:/ftp.ecs.soton.ac.uk/pub/etet/etet1.10.3.tar.Z> under the path
  537. "doc/testplan".  Also see <http://www.acomtech.com/act/testplan.html>
  538. for an adaptation of IEEE 829.
  539.  
  540. Information in this section was gleaned from posts by: Burt Gearhart,
  541. Wayne Woodruff, Brent Parsons, Castor Fu, Michele Mercer, and others.
  542.  
  543. ------------------------------
  544.  
  545. Subject: 16. Conferences 
  546.  
  547. Opinions in this section are by Boris Beizer.
  548.  
  549. All of these conferences have published proceedings.  Generally,
  550. materials presented at these conferences and in their proceedings lead
  551. the publication in regular journals (above) by about 2-3 years.
  552.  
  553. 1.  International Symposium on Software Testing and Analysis (ISSTA)
  554.     theory, academic, leading edge practitioners (see 3b in the 
  555.     periodicals section.)  Now transitioning to a summer conference
  556.     that will alternate with ICSE.  Next conference will be March 2-4,
  557.     1998, in Clearwater Beach, Florida.  Sponsored by ACM and ACM's
  558.     SIGSOFT.  The chair is Mary Lou Soffa, soffa@cs.pitt.edu.  
  559.     <http://www.cs.pitt.edu/issta98/>
  560.  
  561. 2.  IEEE Conference on Software Engineering.  Spring, world-wide.
  562.     Technical.  Primary source after ISSTA for leading edge results.
  563.  
  564. 3.  Quality Week.  Annual, San Francisco.  Biggest Conference on
  565.     Testing and QA.  Typically 700+.  Many vendors.  Good balance
  566.     between technical/theoretical and practitioners.  Very broad base.
  567.     Workshops.  End of May.  Sponsored by Software Research Institute,
  568.     qw@soft.com.  The Tenth International Software Quality Week '97
  569.     (QW '97) was May 27-30, 1997 at the Sheraton Palace Hotel, San
  570.     Francisco, California, USA.  Also, the first Quality Week Europe 
  571.     (QWE '97) has been announced, November 4-7, 1997, in Brussels, 
  572.     Belgium.  <http://www.soft.com/QualWeek/index.html>
  573.  
  574. 4.  Pacific Northwest Software Quality Conference.  Annual, Portland
  575.     Oregon, October.  Definitely not a regional conference,
  576.     despite the name.  Very broad from technical/research to
  577.     practitioners.  A shade more academic and leading edge
  578.     participation than quality week.  Terri Moore, Conference
  579.     Coordinator.  Pacific Agenda, 2425 NW Overton Str., (PO BOX 10142)
  580.     Portland, OR 97210.  tmoore@europa.com
  581.     <http://www.teleport.com/~pnsqc/>
  582.  
  583. 5.  International Conference and Exposition on Testing Computer
  584.     Software.  Less technical and more practitioner/management 
  585.     than Quality Week.  Smaller, 400+.  Workshops.
  586.  
  587.     15th annual conference is June 9-11, 1998 with workshops June 8 and
  588.     12, in Washington, D.C.  G. Houston-Ludlam, Program Chair,
  589.     ginger@fron-tech.com.  <http://www.uspdi.org/conference>,
  590.     admin@uspdi.org, 301/270-1033.
  591.  
  592. 6.  STAR.  Software Quality Engineering.  Also EuroSTAR in Europe.
  593.     May, various locations.  About the same target as the International
  594.     Conference (5) above.  Comparable level and interest.  Workshops.
  595.     STAR'98 will be May 4-8, 1998, in Orlando Florida.
  596.     SQE 1-800-423-8378.  <http://www.sqe.com/star/star.htm>,
  597.     <http://sqe.com/euro/eurhome.html>.
  598.  
  599. 7.  QAI International Software Testing Conference.  More of a 
  600.     tutorial/workshop than a conference.  Newbie orientation.  Fall,
  601.     Orlando.  Quality Assurance Institute, 407-363-1111.
  602.  
  603. 8.  IEEE Compsac, world-wide, various locations. Fall.  Typical IEEE
  604.     technical conference with a substantial number of papers of direct
  605.     interest to testing and QA.  Not as many as IEEE Software
  606.     Engineering, though.
  607.  
  608. There are about a dozen other annual conferences with a substantial
  609. testing content: Korea, Japan, Germany, to name a few.  In addition,
  610. there are about two-dozen "conferences", privately sponsored by various
  611. individuals and organizations.  These are not real conferences in that
  612. there is no formal review process.  Speakers are invited by the
  613. conference organizer.  Often, a heavy tutorial content.  These are
  614. usually small ( under 100 participants, very few vendors).  They range,
  615. depending on the organizer, from superb to fair-value, to outright
  616. rip-off.  Sorry.  I won't play 20 questions on this one.
  617.  
  618. (end of Beizer's comments)
  619.  
  620. Also of note:
  621.  
  622.     The 7th International Conference on Software Quality (7ICSQ),
  623.     sponsored by the Software Division of the ASQ.  October 6-8, 1997,
  624.     Montgomery, Alabama.  Contacts: tgriffin@monk.aum.edu,
  625.     ycho@monk.aum.edu.   <http://www-biz.aum.edu/~tgriffin/7icsq/>
  626.  
  627.     The Eighth International Symposium on Software Reliability
  628.     Engineering (ISSRE) will be at The Sheraton Old Town Inn, Albuquerque, 
  629.     New Mexico, U.S.A.  November 2-5, 1997.  Chair is Bill Everett, 
  630.     w.w.everett@computer.org, (505) 890-7773.  
  631.     <http://admin.ONE2ONE.com/issre97/97-cfp.html>
  632.  
  633.     Automated Software Test & Evaluation Conference (ASTE), Washington, 
  634.     DC.  Sponsored by The Education Foundation of the Association of
  635.     Information Technology Professionals in cooperation with The
  636.     American Society for Quality-Software Division, Society for
  637.     Software Quality, Software Technology Support Center, and the
  638.     Defense Systems Management College.  7th annual is March 19-21,
  639.     1997.  Contact: Technology Training Corporation, (310) 534-3922, 
  640.     ttchq@ttcus.com.  <http://www.ttcus.com/aste-c>
  641.  
  642.     COMPASS (COMPuter ASSurance) is an annual conference with the
  643.     purpose of bringing together researchers, developers, integrators,
  644.     and evaluators interested in problems related to specifying,
  645.     building, and certifying high-assurance systems.  Sponsored by IEEE
  646.     IEEE Aerospace & Electronic Society.  12th annual is June 16-19,
  647.     1997, in Gaithersburg, MD.  <http://hissa.ncsl.nist.gov/compass/>
  648.     jmvoas@testability.rstcorp.com
  649.  
  650. ------------------------------
  651.  
  652. Subject: 17. Periodicals
  653.  
  654. Comments in this section are by Boris Beizer
  655.  
  656. 1.  IEEE Transactions on Software Engineering.  (monthly)
  657.     The most prestigious journal for testing stuff.  Volume 1 number 1
  658.     published the landmark article by Goodenough and Gerhart.  Almost
  659.     every issue since has had papers on testing and quality
  660.     assurance.  I have all the issues back to V1 #1.  Much of that
  661.     stuff is still relevant.
  662.  
  663. 2.  ACM TOSEM (Transactions on Software Engineering Methodology)-Quarterly.
  664.     Relatively new journal  (1992).  Has prestigious editorial
  665.     board.  Somewhat more theoretical than IEEE SE.  In all ways,
  666.     equivalent.
  667.  
  668. 3a.  ACM SIGSOFT Software Engineering Notes.  (Special Interest group on
  669.      Software Engineering)  (Monthly)
  670.      Goes back to May 1976.  This is the place where people publish
  671.      stuff to stake out claims.  It is not as strictly refereed as IEEE
  672.      SE or TOSEM, but some overview is provide to keep out the obvious
  673.      crap.  Important because there is a two or three year waiting list
  674.      for publication in IEEE SE or ACM TOSEM.  People who know this
  675.      field read ACM SIGSOFT for advanced information on what will
  676.      be published "officially" in IEEE SE and ACM TOSEM.  You read an
  677.      article and contact the author directly for more information.
  678.  
  679. 3b.  Annual ISSTA conference proceedings.  ISSTA is the annual theoretical/
  680.      Academic conference devoted to testing.  This is the most
  681.      prestigious place to publish new results in testing theory and
  682.      software reliability theory.
  683.  
  684. 4.  IEEE Software.  (Six times a year). 
  685.     Rarely the latest stuff.  More like surveys and overviews once a
  686.     subfield has become established.  Refereed, generally high
  687.     standards.  Mostly overviews, but occasionally new stuff.
  688.  
  689.     Additional comments from Scott Killops:
  690.  
  691.     "You might mention in your blurb about 'IEEE Software' the
  692.     regular "Quality Time" feature.  This is wide ranging and
  693.     generally quite useful.  I've often thought that a collection
  694.     of all of the 'Quality Time' articles published to date would
  695.     make a worthwhile book."
  696.  
  697. 5.  Software Testing, Verification, and Reliability.  Quarterly.
  698.     International journal published by John Wiley and Sons.
  699.     Prestigious international editorial board.  High quality original
  700.     articles and excellent surveys.  Comparable in scope to IEEE SE
  701.     and ACM TOSEM, but sharply focused on testing, verification, and
  702.     reliability.  ISSN 0960-0833.
  703.  
  704.     http://www.csc.liv.ac.uk/users/mrw/stvr.main.html
  705.     http://www.wiley.com/
  706.     info@qm.jwiley.com
  707.     John Wiley & Sons, Inc.
  708.     Professional, Reference and Trade Group
  709.     605 Third Avenue
  710.     New York, NY  10158-0012
  711.  
  712. 6.  ACM Computing Surveys.  (Quarterly).
  713.     Not specific to testing and QA, but contains the most prestigious
  714.     survey articles in the field.  Typically, only when a subfield is
  715.     well established.  The authors are usually authorities.  Articles
  716.     are long and comprehensive.  When an ACM Survey on a topic
  717.     appears, it usually means that the field has matured to the point
  718.     where it is possible to write meaningful books.
  719.  
  720. 7.  Communications of the ACM.  (Monthly)
  721.     Survey articles and overviews.  Sometimes (rarely) original stuff.
  722.     More academic and foundational/theory oriented than IEEE Software,
  723.     but generally same level.
  724.  
  725. 8.  American Programmer.  Monthly, Cutter Information Corp.  37 Broadway,
  726.     Suite 1, Arlingon MA 02174-5552 (617-648-8702).
  727.     Private journal with prestigious editorial board (Larry
  728.     Constantine, Bill Curtiss Tom DeMarco, Capers Jones, Ed Yourdon.
  729.     Non technical, philosophical and overviews.  Management
  730.     orientation. Essentially a good newsletter.
  731.  
  732. 9a. Software Maintenance News.  (6 times a year)  Software Maintenance News 
  733.     Inc.  B10, Suite 237, 4546 El Camino Real, Los Altos CA, 94022.
  734.     General on testing and quality assurance and not just
  735.     maintenance.  Invited articles, usually in an overview/survey
  736.     style with minimal technical prerequisites by authors who may have
  737.     previously published more advanced versions of this material in
  738.     IEEE SE or TOSEM.  Essentially a good newsletter.
  739.  
  740. 9b. Software Management Technology Reference Guide (annual)
  741.     Editor same as Software Maintenance News--Nicholas Zvegintzov.  A
  742.     superb guide to tools, vendors, resources, edited by the unique
  743.     Nicholas Zvegintzov in his inimitable style.  Really packed.
  744.     Probably the  highest signal to noise ratio in the industry.
  745.     73670.22227@compuserve.com
  746.  
  747. 10. Software QA Magazine.   (Bi-monthly).  Subscriptions: Software
  748.     Quality Engineering, sqeinfo@sqe.com, 800-423-8378, fax 904-268-0733.  
  749.     Published by Ridgetop Publishing, Ltd., info@ridgetop.com, 
  750.     phone 503-829-6806, http://www.teleport.com/~ridgetop/
  751.     QA, testing,   Practitioners, management.  Somewhat conservative.   
  752.     Myers' The Art of Software Testing (1978) was reviewed in Winter 
  753.     1994 issue.
  754.  
  755.     Formerly called Software QA Quarterly.
  756.  
  757. 11. The Software Practitioner (news letter, 6 times a year).
  758.     Computing Trends, 350 Dalkeith Avenue, Los Angeles Ca. 90049 
  759.     310-440-9982.  Excellent newsletter.  Non technical, management, 
  760.     overviews.
  761.  
  762. 12. Crosstalk. Journal of Defense Software Engineering.  Software Technology
  763.     Support Center, Ogden AFB UT 84056.  801-777-8057.  
  764.     (6 times a year) Heavy DoD orientation.  Practitioner/Management/
  765.     Philosophical.  Broad based on software engineering, including IV&V.
  766.     http://www.stsc.hill.af.mil/www/crostalk.html
  767.  
  768. 13. Other Journals.  I'm sure I've offended several editors.  There are
  769.     Journals concerned with Testing, QA, and Software Engineering
  770.     published in Japan, Korea, Germany, and Australia.   Other
  771.     Journals, such as IEEE-Transaction Computers, ACM SIGPLAN, ACM
  772.     SIGARCH, ACM SIGSIM, ACM SIGMETRICS, ACM OOPSLA,  all publish
  773.     material of interest to testing, especially insofar as hardware
  774.     testing results and theory apply to software testing; also 
  775.     language issues vis-a-vis testing.
  776.  
  777. (end of Beizer's comments)
  778.  
  779. commercial newsletters-
  780.  
  781.     STL Report: A Newsletter about Quality Assurance for Market-Driven Software
  782.     bi-monthly, subscriptions are free
  783.     for subscriptions: Trina Primitivo (206) 682-5832, ext. 138, 
  784.                trinap@stlabs.com
  785.     editorial concerns: Prue Cuper at (206) 682-5832, ext. 137, 
  786.             pruec@stlabs.com
  787.  
  788.     TESTING TECHNIQUES NEWSLETTER
  789.     Free.  TTN/Online published monthly, in electronic form only.
  790.     Software Research, Inc.
  791.     (415) 957-1441, (800) 942-SOFT, FAX: (415) 957-0730
  792.     Back issues - http://www.soft.com/News/ttn.html
  793.     Send "subscribe <address>" in the body of a message to ttn@soft.com
  794.  
  795.     The Outlook
  796.     McCabe & Associates, 800-638-6316
  797.  
  798. ------------------------------
  799.  
  800. Subject: 18. Books
  801.  
  802. The book list has been growing quite a bit lately, to the point that
  803. it's hard to decide which ones to start with.  Based on votes from
  804. comp.software.testing readers in answer to the question "What books
  805. should every software tester read?", the following books were
  806. suggested most often, with the number of votes in parentheses:
  807.  
  808.     Testing Computer Software, Kaner et al. (14)
  809.     The Art of Software Testing, Myers (12)
  810.     Software System Testing and Quality Assurance, Beizer (9)
  811.     The Craft of Software Testing, Marick (8)
  812.     Software Testing Techniques, Beizer (6)
  813.     SafeWare, Leveson (5)
  814.  
  815. The votes will be maintained and the list will be periodically
  816. adjusted as necessary.  To add or change your vote, send email to the
  817. FAQ maintainer.  Please note that this ranking is based on a very
  818. small statistical sample.
  819.  
  820. Below is a book list originally based on one posted by Scott Killops
  821. quite a while ago.  See also <http://sqe.com/single/single.htm> for
  822. Software Quality Engineering's SingleSource guide, which has a list of
  823. recommended books and useful summaries.  See the misc.technical.books
  824. FAQ <ftp://rtfm.mit.edu/pub/usenet/news.answers/books/technical> for
  825. contact information for technical book publishers.
  826. Comp.software.testing readers have recommended Reiter's Scientific and
  827. Professional Books <http://www.reiters.com> and the Computer Literacy
  828. Book Shop <http://www.clbooks.com/>.
  829.  
  830.  
  831. Arnold, Thomas R.  NuMega's Practical Guide to Software Testing with 
  832. Visual Test 4.0.  Indianapolis, IN: IDG Books Worldwide, 1996.  
  833. ISBN 0-7645-8000-0.
  834.  
  835. Beizer, Boris.  Black Box Testing.  New York: John Wiley & Sons, 1995,
  836. ISBN 0-471-120904-4.
  837.  
  838. Beizer, Boris.  Software System Testing and Quality Assurance.
  839. New York: Van Nostrand Reinhold, 1984.  ISBN 0-442-21306-9,
  840. 1-85032-821-8.  http://zelda.thomson.com/cgi-bin/plweb/search.cgi
  841.  
  842. Beizer, Boris.  Software Testing Techniques, Second Edition.
  843. New York: Van Nostrand Reinhold, 1990.  ISBN 0-442-20672-0,
  844. 1-85032-880-3.  http://zelda.thomson.com/cgi-bin/plweb/search.cgi
  845.  
  846. Bourne, Kelly C.  Testing client/server systems.  New York: McGraw
  847. Hill, 1997.  ISBN 0070066884.
  848.  
  849. Browne, Dermot.  STUDIO: Structured User-Interface Design for Interaction
  850. Optimisation.  New York: Prentice Hall, 1994.  ISBN: 0130147214.
  851.  
  852. Bryan, William L. and Stanley G. Siegel.  Software Product Assurance:
  853. Techniques for Reducing Software Risk.  New York: Elsevier, 1988.
  854. ISBN 044401120X.
  855.  
  856. Daich, Gregory, Gordon Price, Bryce Ragland, and Mark Dawood.  STSC
  857. Software Test Technologies Report.  USAF Software Technology Support
  858. Center, 1994.
  859.  
  860. DeMarco, Tom.  Controlling Software Projects: management, measurement
  861. & estimation.  New York, NY: Yourdon Press, 1982.  ISBN 0917072324.
  862.  
  863. DeMillo, R.A., W. M. McCracken, R. J. Martin, and J. F. Passafiume, 
  864. Software Testing and Evaluation.  Menlo Park, CA: Benjamin/Cummings,
  865. 1987.  ISBN 0-8053-2535-2.
  866.  
  867. Deutsch, M.S.  Software Verification and Validation - Realistic
  868. Project Approaches.  Englewood Cliffs, NJ: Prentice Hall, 1982.
  869. ISBN 0-13-822072-7.
  870.  
  871. Dunn, Robert H.  Software Defect Removal.  New York: McGraw-Hill,
  872. 1984.  ISBN: 0070183139.
  873.  
  874. Dunn, Robert H.  Software quality: concepts and plans.  Englewood
  875. Cliffs, NJ: Prentice Hall, 1990.  ISBN 0-13-820283-4.
  876.  
  877. Friedman, Michael and Jeffrey M. Voas.  "Software Assessment:
  878. Reliability, Safety, Testability".  New York: Wiley Press, 1995.
  879. ISBN 0-471-01009-X.  <http://www.rstcorp.com/book.html>
  880.  
  881. Hetzel, Bill.  The Complete Guide to Software Testing, Second Edition
  882. Wellesley, MA: QED Information Sciences, 1988.  ISBN 0-89435-242-3.
  883.  
  884. Jorgensen, Paul.  Software testing: a craftsman's approach.  Boca
  885. Raton: CRC Press, 1995.  ISBN 084937345X.
  886. <http://www.crcpress.com/PRODS/7345.HTM>
  887.  
  888. Ince, Darrel.  An introduction to software quality assurance and its
  889. implementation.  London, New York: McGraw Hill, 1994.  ISBN
  890. 0-07-707924-8.
  891.  
  892. Jacobson, Ivar, etc. al.  Object-oriented software engineering: a use 
  893. case driven approach.  New York:ACM Press, Wokingham, Eng.; Reading,
  894. Mass.: Addison-Wesley, 1992.  ISBN 0201544350.
  895.  
  896. Gause, Donald C. and Gerald M. Weinberg.  Exploring Requirements: 
  897. quality before design.  New York, NY: Dorset House Pub., 1989.  ISBN
  898. 0932633137.
  899.  
  900. Goglia, Patricia A.  Testing client/server applications.  Boston: QED
  901. Pub. Group, 1993.  ISBN 0894354507.
  902.  
  903. Grady, Robert B. and Deborah L. Caswell.  Software Metrics:
  904. establishing a company-wide program.  Englewood Cliffs, N.J.:
  905. Prentice-Hall, 1987.  ISBN 0138218447.
  906.  
  907. Gunther, Richard C.  Management Methodology for Software Product 
  908. Engineering.  New York: Wiley, 1978.  ISBN: 0471336009.
  909.  
  910. Howden, William E.  Functional Program Testing and Analysis.  New York:
  911. McGraw-Hill, 1987.  ISBN: 0070305501.
  912.  
  913. Jain, Raj.  The Art of Computer Systems Performance Analysis:
  914. techniques for experimental design, measurement, simulation, and
  915. modeling.  New York: Wiley, 1991.  IBSN 0471503363.
  916.  
  917. Jones, Capers.  Software Quality: Analysis and Guidelines for Success.
  918. Boston: International Thomson Computer Press, 1997.  ISBN: 1850328676.
  919.  
  920. Jorgensen, Paul.  Software Testing: a craftsman's approach.
  921. Boca Raton: CRC Press, 1995.  ISBN: 084937345X.
  922.  
  923. Kaner, Cem., Falk, J., Nguyen, H.Q.  Testing Computer Software, Second
  924. Edition.  New York: Van Nostrand Reinhold, 1993.  ISBN 0-442-01361-2,
  925. 1-85032-847-1.  <http://zelda.thomson.com/cgi-bin/plweb/search.cgi>
  926.  
  927. Kaplan, Craig, Ralph Clark, and Victor Tang.  Secrets of software
  928. quality: 40 innovations from IBM.  New York: McGraw-Hill, 1995.  ISBN
  929. 0079117953.
  930.  
  931. Kit, Edward.  Software Testing in the Real World: Improving the
  932. Process.  ACM Press/Addison-Wesley, 1995.  ISBN 0-201-87756-2.
  933.  
  934. Knight, Peter and James Fitzsimons.  The Legal Environment of
  935. Computing.  Sydney; Reading, Mass.: Addison-Wesley Pub. Co., 1990.
  936. ISBN 0201417014.
  937.  
  938. Leveson, Nancy G.  Safeware: System Safety and Computers.  Reading,
  939. Mass.: Addison-Wesley, 1995.  ISBN 0-201-11972-2.
  940. <http://www.cs.washington.edu/research/projects/safety/www/book.html>
  941.  
  942. Lyu, Michael R., ed.  Handbook of Software Reliability Engineering.
  943. New York: McGraw Hill, 1996.  ISBN 0070394008.
  944. <http://www.research.att.com:80/orgs/ssr/book/reliability>
  945.  
  946. Marick, Brian.  The Craft of Software Testing.  Englewood Cliffs,
  947. NJ: Prentice Hall, 1995.  ISBN 0-13-177411-5.
  948. <http://www.prenhall.com/013/177410/17741-0.html>
  949.  
  950. Marks, D. M.  Testing Very Big Systems.  New York: McGraw Hill,
  951. 1992.  ISBN 0-07-040433-X.
  952.  
  953. McConell, Steve.  Code Complete: a practical handbook of software
  954. construction.  Redmond, Washington: Microsoft Press, 1993.  ISBN
  955. 1-55-615484-4.  
  956.  
  957. McGregor, John D. and David A. Sykes.  Object-oriented software 
  958. development: engineering software for reuse.  New York, N.Y.: Van
  959. Nostrand Reinhold, 1992.  
  960.  
  961. Miller, Edward, ed.  Automated Tools for Software Engineering.  New
  962. York: IEEE Computer Society, 1979. 
  963.  
  964. Miller, Edward and William E. Howden.  Software Testing and Validation
  965. Techniques, 2nd ed.  New York: IEEE Computer Society Press, 1981.
  966.  
  967. Mosley, Daniel J.  The Handbook of MIS Application Software Testing:
  968. methods, techniques, and tools for assuring quality through testing.
  969. Englewood Cliffs, NJ: Prentice Hall, 1993.  ISBN 0-13-907007-9.
  970. <http://www.prenhall.com/013/907006/90700-6.html>
  971.  
  972. Musa, John D.  Software reliability: measurement, prediction,
  973. application.  New York: McGraw-Hill, 1990 professional ed., 1987.
  974. ISBN 007044093-X (1987) 0070441197 (1990).
  975.  
  976. Myers, Glenford J.  The Art of Software Testing. New York: John Wiley
  977. and Sons, 1979.  ISBN 0-471-04328-1.
  978.  
  979. Nielsen, Jakob.  Usability engineering.  Boston: Academic Press,
  980. 1993.  ISBN 0125184050.
  981.  
  982. Ould, M.A., Unwin, C., eds.  Testing in Software Development.
  983. Cambridge: Cambridge University Press, 1986.  ISBN 0-521-33786-0.
  984.  
  985. Parrington, Normal and Marc Roper.  Understanding Software Testing.  Ellis
  986. Horwood Limited, 1989.  ISBN 0-7458-0533-7 (Ellis Horwood Limited), ISBN
  987. 0-470-21462-7 (Halsted Press).
  988.  
  989. Paulk, Mark C., et al.  The capability maturity model: guidelines 
  990. for improving the software process.  Reading, Mass.: Addison-Wesley 
  991. Pub. Co., 1995.  ISBN 0201546647.
  992.  
  993. Perry, William E.  Effective Methods for Software Testing.  New York:
  994. Wiley, 1995.  ISBN 0471060976.
  995.  
  996. Perry, William E.  How to Test Software Packages: a step-by-step guide 
  997. to assuring they do what you want.  New York: Wiley, c1986.  ISBN: 
  998. 0471817848.
  999.  
  1000. Perry, William E.  A standard for testing application software.
  1001. Boston: Auerbach Publishers, 1992.  ISBN 0791309754.
  1002.  
  1003. Perry, William E.  A structured approach to systems testing.
  1004. Wellesley, Mass.: QED Information Sciences, 1988.  ISBN 0894352334.
  1005.  
  1006. Pressman, Roger S.  Software Engineering: a Practitioner's Approach, 
  1007. 4th ed.  New York: McGraw-Hill, 1997.  ISBN 0070521824.
  1008.  
  1009. Rakitin, Steven R.  Software Verification and Validation: a
  1010. practitioner's guide.  Boston: Artech House, 1997.  ISBN:
  1011. 0890068895.
  1012.  
  1013. Roper, Marc.  Software testing.  London; New York: McGraw-Hill, 1994.
  1014. ISBN: 0077074661.
  1015.  
  1016. Royer, Tom C.  Software Testing Management - Life on the Critical
  1017. Path.  Englewood Cliffs, NJ: Prentice Hall, 1993.  ISBN 0-13-532987-6.
  1018. <http://www.prenhall.com/013/532986/ptr/53298-6.html>
  1019.  
  1020. Rubin, Jeffrey.  Handbook of usability testing: how to plan, design,
  1021. and conduct effective tests.  New York: Wiley, 1994.
  1022.  
  1023. Siegel, Shel.  Object Oriented Software Testing: a Hierarchical
  1024. Approach.  New York: Wiley Computer Pub., 1996.  ISBN: 0471137499
  1025.  
  1026. Sharp, Alec.  Software Quality and Productivity.  New York: Van
  1027. Nostrand Reinhold, 1993.  ISBN: 0442012187.
  1028.  
  1029. Taylor, Frederick W.  The Principles of Scientific Management.  W.W.
  1030. Norton & Company. 1911, 1939, 1947, 1967.  ISBN 0-393-00398-1
  1031.     Should be required reading for anyone who uses the word "system" 
  1032.     to describe what he does.  OOP and structured programming owe much 
  1033.     to the work of this man, and yet he is seldom credited.
  1034.     -Charles Nichols
  1035.  
  1036. Weinberg, Gerald M.  Quality Software Management, vol 1-3.  New York, N.Y.: 
  1037. Dorset House Pub., 1991.  ISBN: 0932633226.
  1038.  
  1039. Wiener, Lauren.  Digital Woes: why we should not depend on software.
  1040. Reading, Mass.: Addison-Wesley Pub. Co., 1993.  ISBN 0201626098.
  1041.  
  1042. Wilson, Rodney.  UNIX Test Tools and Benchmarks.  Prentice Hall, 1995.
  1043. ISBN 0-13-125634-3.
  1044.  
  1045. ------------------------------
  1046.  
  1047. Subject: 19. Bibliographic resources
  1048.  
  1049. Comments by Boris Beizer.
  1050.  
  1051. 1.  ACM Reviews -- Montly.  the primary review journal.  Most good papers on
  1052. testing and quality assurance are eventually reviewed here.  Extensive
  1053. evaluations and criticisms by excellent reviewer pool.  
  1054.   
  1055. 2. ACM Guide to Computing Literature.  Annual.  Does not contain reviews.
  1056. Most comprehensive published literature guide for authors, titles, and
  1057. subject.
  1058.  
  1059. 3.  Key Abstracts in Software Engineering.  Published by INSPEC, but
  1060. available through IEEE membership.  Monthly.  About halfway between ACM
  1061. Reviews and ACM Guide to the literature.  Thorough, best articles.  However,
  1062. only author abstracts and no evaluation or criticism.  
  1063.  
  1064. ------------------------------
  1065.  
  1066. Subject: 20. Organizations
  1067.  
  1068. National/International
  1069. ----------------------
  1070.  
  1071. American Society for Quality
  1072.     611 E. Wisconsin Ave.
  1073.     P.O. Box 3005
  1074.     Milwaukee, WI 53201-3005
  1075.     800-248-1946, (414) 272-8575
  1076.     <http://www.asq.org>
  1077.  
  1078.     The ASQ (formerly ASQC) administers the CQE (Certified Quality
  1079.     Engineer) designation.  Also, the software division of the ASQ is
  1080.     developing the CSQE designation which is specific to software
  1081.     quality.
  1082.  
  1083.     The ASQ press has many titles that may be of interest to software
  1084.     testers.  Stolen from a conference announcement:
  1085.  
  1086.     > Founded in 1946, the American Society for Quality (ASQ)
  1087.     > provides a variety of professional, educational, and informational
  1088.     > programs reflecting the changing needs of business and industry.
  1089.     > Headquartered in Milwaukee, WI, ASQ has been the leading quality
  1090.     > improvement organization in the United States for almost 50 years.
  1091.     > The Society is composed of more than 135,000 individual members and
  1092.     > 1,000 sustaining members worldwide. ASQ's vision is to be the
  1093.     > world's recognized champion and leading authority on all issues
  1094.     > related to quality.  The mission of ASQ is to facilitate
  1095.     > continuous improvement and increased customer satisfaction by
  1096.     > identifying, communicating, and promoting the use of quality
  1097.     > principles, concepts, and technologies.
  1098.     >
  1099.     > ASQ's Software Division
  1100.     > 
  1101.     > ASQ's Software Division is comprised of [sic] more than 5,000 members
  1102.     > including software quality professionals and software engineers
  1103.     > interested in applying quality principles to the field of software
  1104.     > development.  The Division develops a software engineer
  1105.     > certification program, publishes a quarterly newsletter, works with
  1106.     > the Software Quality System Registration Committee on establishing
  1107.     > an ISO 9000 Software Registration Program in the United States,
  1108.     > interacts with other professional software organizations such as
  1109.     > the IEEE and the ACM (Association for Computing Machinery), and is
  1110.     > involved in many other activities.
  1111.  
  1112. National Quality Month
  1113.     October is National Quality Month (in the U.S.), as decreed by 
  1114.     Ronald Reagan in 1984.
  1115.  
  1116.     The ASQ sponsors the National Quality Forum during this month.
  1117.     Many local sections set up local events that receive a live
  1118.     broadcast from the Forum.
  1119.  
  1120. Quality Assurance Institute  
  1121.     7575 Dr. Phillips Blvd., Suite 350
  1122.     Orlando Florida  32819
  1123.     Phone: (407) 363-1111
  1124.     Fax:   (407) 363-1112
  1125.  
  1126.     The QAI publishes The Journal of the Quality Assurance Institute
  1127.     monthly.
  1128.  
  1129.     They provide CQA certification.  Steve Driscoll wrote:
  1130.  
  1131.     > The CQA is someone who has demonstrated a mastery of the Common
  1132.     > Body of Knowledge(CBOK) for ensuring the quality of systems (which
  1133.     > often include software).  While ISO-9000 is considered part of the
  1134.     > CBOK, it's actually independent of the CQA designation (there is a
  1135.     > certification program for ISO auditors).
  1136.     > ...  while my life is still pretty much the same as it was prior to
  1137.     > obtaining the CQA designation, I found that the reading and
  1138.     > studying to prepare for the exam extremely beneficial in my duties
  1139.     > as a Quality Analyst.  I recommend it to anyone who is interested
  1140.     > in producing quality software (which includes developers as well
  1141.     > as quality analysts).
  1142.  
  1143. Society for Software Quality
  1144.     > Vision - To be recognized as the Society for those interested 
  1145.     > in promoting "quality" as a universal goal for software.
  1146.     >
  1147.     > Mission - Promote "quality" as a desirable attribute of software.
  1148.  
  1149.     PO Box 86958
  1150.     San Diego, CA 92138-6958
  1151.     619-297-1544
  1152.     <http://www.ssq.org/>
  1153.  
  1154. Software Process Improvement Network
  1155.     > The Software Process Improvement Network is comprised of
  1156.     > individuals who want to improve software engineering practice. The
  1157.     > individuals are organized into regional groups called "SPINS" that
  1158.     > meet and share their experiences initiating and sustaining software
  1159.     > process improvement programs. They meet annually at the SEPG
  1160.     > (Software Engineering Process Group) Conference, which is
  1161.     > co-sponsored by the SEI and a regional SPIN.  
  1162.     (from the web page)
  1163.  
  1164.     <http://www.sei.cmu.edu/participation/spins.html>
  1165.  
  1166. Association for Software Testing Australia
  1167.     ASTA means Association for Software Testing Australia
  1168.     and is a Special Interest Group within the Australian Computer Society.
  1169.     It is a non-profit organisation, and you don't HAVE to be a member in
  1170.     ACS to be able to join ASTA.
  1171.     (from Sigrid Eldh)
  1172.  
  1173.     <http://www.acs.org.au>, phone (02) 9299 3666, Membership
  1174.     Services Manager is Mr. Bob Hobart, arthurd@acslink.net.au.
  1175.  
  1176. British Computer Society 
  1177.     Software Testing BCS Specialist Group  
  1178.     > The Group has a number of full-day meetings per annum and is host
  1179.     > to the international conference on software testing - EuroSTAR. It
  1180.     > is producing a standard on component testing and has a sub-group on
  1181.     > Statistical Testing Methods. A full library of testing-related
  1182.     > material is available at meetings.
  1183.     >
  1184.     > It promotes awareness of testing, competence in the field, and
  1185.     > encourages research.
  1186.     (from the web page)
  1187.  
  1188.     <http://www.bcs.org.uk/siggroup/sg55.htm>
  1189.  
  1190. Chinese Association for Software Quality (CASQ)
  1191.     This association is formed to share information and experiences 
  1192.     amongst its members and people on software quality engineering.
  1193.  
  1194.     <http://www.ncl.ac.uk/~n4521677/casq>
  1195.     casq@newcastle.ac.uk 
  1196.  
  1197.  
  1198. Local organizations
  1199. -------------------
  1200.  
  1201. Most of the organizations above sponsor local organizations.  Contact 
  1202. them to find local organizations near you.  In this section I'll list
  1203. local organizations that don't appear to have a national affiliation.
  1204.  
  1205.  
  1206. The Software Quality Institute At UT
  1207.  
  1208.     (stolen from a conference announcement)
  1209.     > The Software Quality Institute (SQI) at The University of Texas at
  1210.     > Austin is a multidisciplinary partnership between UT-Austin and the
  1211.     > software and information systems industries in Texas.  It is
  1212.     > recognized as a leading authority on and champion for software
  1213.     > quality.  SQI was founded in 1993 for the purpose of strengthening
  1214.     > organizations to compete more successfully in global markets
  1215.     > through sponsorship of seminars and conferences. An advisory group
  1216.     > of 24 industry and academic representatives guides the Institute.
  1217.     > Its popular programs include: a 13 week long Software Project
  1218.     > Management Certificate Program, one- and two-day seminars offered
  1219.     > to the public and as in-company contract courses, our "Software
  1220.     > Quality Matters" quarterly newsletter that addresses issues of
  1221.     > concern relative to quality issues, sponsorship of monthly forums
  1222.     > for discussion of software issues (including the Software Process
  1223.     > Improvement Network (A-SPIN), the Austin Software Executives' Group
  1224.     > (ASEG), and the Austin Forum for Object-Oriented Technology
  1225.     > (AFOOT), and on-line services which include a Worldwide Web
  1226.     > Home Page and topical newsgroups.
  1227.  
  1228.     The web page is <http://www.utexas.edu/coe/sqi/>.  The newsgroups
  1229.     seem to be reachable only at UT.  For information on newsletter
  1230.     subscriptions, contact info@sqi.utexas.edu.
  1231.  
  1232. Central Ohio Quality Assurance Association
  1233.     
  1234. Australian Software Quality Research Institute
  1235. Griffith University, Brisbane, Australia
  1236. <http://www-sqi.cit.gu.edu.au/>
  1237.  
  1238. Triangle Information Systems Quality Association (North Carolina)
  1239. contacts - Dennis Brandel 72652.1146@compuserve.com
  1240.        David Wood  DAVDWOOD@VNET.IBM.COM
  1241.  
  1242. Triangle Quality Council (North Carolina)
  1243.     "A membership organization that fosters the understanding and
  1244.     implementation of quality management principles.   It is a
  1245.     non-profit organization affiliated with N.C. Quality Leadership 
  1246.     Foundation and Triangle Area Chambers of Commerce"  (paraphrased
  1247.     from Laura Rose)
  1248.  
  1249.     Mission:  To promote quality management principles and practices
  1250.     through networking, experience sharing and education - providing
  1251.     a complete and diversified quality management resource for the
  1252.     Greater Triangle Area.
  1253.  
  1254.     contact - Margaret O'Brien  obrien@ies.ncsu.edu
  1255.  
  1256. North Carolina Quality Leadership Foundation 
  1257.     (800) 207-5685
  1258.  
  1259. New England Software Quality Assurance Forum (NESQAF)
  1260.     Monthly meetings in Cambridge, MA.  
  1261.     contact - Jill Hanson (jhanson@sqp.com, 617-272-7393)
  1262.  
  1263. Software Testing Institute 
  1264.     Offers industry research, surveys, publications, online services
  1265.     and seminars to software development and testing professionals.  A
  1266.     list of software testing product vendors, including web site and
  1267.     e-mail links, is available from our web site:
  1268.  
  1269.     http://www.ondaweb.com/sti
  1270.  
  1271.     contact - Susan Archer, Director (sarcher@metronet.com)
  1272.     726 Loganwood Ave., Richardson, TX  75080
  1273.     (972) 680-8507  Fax (972) 680-8905
  1274.  
  1275. Centre for Software Reliability
  1276.     The Centre for Software Reliability (CSR) is a research centre
  1277.     within the Department of Computing Science at the University of
  1278.     Newcastle upon Tyne; it conducts research on how to achieve
  1279.     improved levels of dependability from computing systems.
  1280.  
  1281.     csr@newcastle.ac.uk 
  1282.     http://www.csr.ncl.ac.uk/
  1283.  
  1284. ------------------------------
  1285.  
  1286. Subject: 21. Contributors
  1287.  
  1288. My thanks to the people who have contributed to the FAQ in various
  1289. ways.  Email addresses for some of those mentioned herein are listed 
  1290. below.
  1291.  
  1292. Boris Beizer - bbeizer@acm.org
  1293. Bob Binder - rbinder@smtp.mcs.net
  1294. Steve Driscoll - sdriscol@oclc.org
  1295. Sigrid Eldh - sigrid@nsmd.aus.hp.com
  1296. Danny Faught - faught@convex.hp.com 
  1297. Rick Hower - rhower@netcom.com
  1298. Scott Killops - Scott_B_Killops@ccm.jf.intel.com
  1299. Jennifer Larsen - Jennifer_Larsen@datatel.com
  1300. Brian Marick - marick@cs.uiuc.edu or marick@testing.com 
  1301. Mark McWhinney - msm@powertest.com
  1302. Don Mills - donmil@voyager.co.nz
  1303. Charles Nichols - nichols@cse.ogi.edu
  1304. Bret Pettichord - wazmo@io.com
  1305. Laura Rose - laura@PACorp.com
  1306. John Tyson - jmt@acm.org
  1307.