home *** CD-ROM | disk | FTP | other *** search
/ Internet Standards / CD2.mdf / ccitt / 1992 / e / e880.asc < prev    next >
Text File  |  1991-12-30  |  21KB  |  502 lines

  1.  
  2.  
  3.  
  4.                                            
  5.  
  6.          Recommendation E.880
  7.                            FIELD DATA COLLECTION AND EVALUATION ON THE PERFORMANCE
  8.                                      OF EQUIPMENT, NETWORKS AND SERVICES
  9.          1      Introduction
  10.                This Recommendation provides guidelines for the collection  of  field  data
  11.          relating to dependability. It covers general aspects with an overview of sources,
  12.          measures and information that may be involved when collecting field data.  It  is
  13.          anticipated that specific practical needs of operation, maintenance and  planning
  14.          staff, in applying these guidelines, will be  dealt  with  in  a  handbook  under
  15.          preparation.
  16.                The Recommendation emphasizes that meaningful data must  include  the  data
  17.          on successes (operation without failures) as well as data on failures and faults.
  18.          In other words, this  Recommendation  is  not  intended  to  be  only  a  failure
  19.          reporting guideline.
  20.                It is applicable, without any restriction, to different items ranging  from
  21.          components to systems and networks (including hardware, software and people).
  22.                Terms and definitions used are in line with Recommendation E.800.
  23.          2      Scope
  24.                It is the intention  of  this  Recommendation  to  provide  guidelines  for
  25.          setting up data collection and reporting schemes  which  can  be  applied  either
  26.          during monitoring of samples of items or on a more widespread basis on almost all
  27.          items (of the same type) by large operational and maintenance organizations.
  28.                It is considered that,  if  such  guidelines  are  followed,  accuracy  and
  29.          completeness of reporting are enforced and the quality of the monitored items and
  30.          their parts can be improved on a medium- to long-term basis.  Moreover,  such  an
  31.          effort will facilitate the interchange of information between user and providers.
  32.                No recommendations are made on how to organize maintenance support.  It  is
  33.          nevertheless understood that  some  items  are  repaired  on  site,  others  only
  34.          replaced on site and possibly repaired at centralized facilities. Field data  may
  35.          be obtained at each of those stages.
  36.                In order to obtain maximum efficiency from the collection of  data,  it  is
  37.          suggested that the programmes of reporting, analysis and dissemination of results
  38.          be closely co-ordinated.
  39.                The items considered  may  either  have  been  designed,  manufactured,  or
  40.          installed  and  may  be  operated  by  the  same  organization  or  by  different
  41.          organizations. This Recommendation applies to all possible cases of provider-user
  42.          relations.
  43.          3      The need for data collection
  44.                Any data collection scheme must aim to provide the information required  to
  45.          enable the correct decisions to be taken in order to reach specified  objectives;
  46.          these objectives should be well defined and documented at the outset.
  47.  
  48.  
  49.  
  50.  
  51.  
  52.  
  53.  
  54.  
  55.  
  56.  
  57.  
  58.  
  59.  
  60.  
  61.  
  62.  
  63.  
  64.  
  65.  
  66.  
  67.  
  68.  
  69.  
  70.  
  71.                                                         Fascicle II.3 - Rec. E.880   PAGE1
  72.  
  73.                The specific objectives of the field data collection and  presentation  are
  74.          as follows:
  75.                a)  to provide for a survey of the actual performance level of  the  items
  76.                   monitored  for  information  to  management,  operation  and  planning,
  77.                   maintenance support, training of personnel, etc.;
  78.                b)  to indicate a possible need for the improvement of:
  79.                   -   items already installed and in operation, or
  80.                   -   further items to be delivered;
  81.                c)  to compare the specified or predicted characteristics of  the  item(s)
  82.                   with the actual field performance;
  83.                d)  to improve future designs;
  84.                e)  to improve predictions (data bases and procedures);
  85.                f)  to inform the provider about the performance of items on a regular  or
  86.                   on a single occasion basis;
  87.                g)  to have a common reporting basis.
  88.          4      Sources and means of data collection
  89.                In the following, the various information sources  are  described  and  the
  90.          methods for systematically collecting information are outlined.
  91.          4.1    Sources of data
  92.                The following sources of data may generally be available:
  93.                -   maintenance activities;
  94.                -   repair activities (on site, repair and/or complaint centre);
  95.                -   performance observation  activities  (e.g.  anomaly  reports,  traffic
  96.                   measurements);
  97.                -   existing information (e.g. stocklist, installation list, modifications, 
  98.                   a regularly updated data base for configuration control purposes).
  99.          4.2    Means of collecting data
  100.                It is not intended to recommend any particular  format  for  the  recording
  101.          medium (e.g. paper based or computer data base), however it should be  recognized
  102.          that early consideration of the format is necessary and important in  setting  up
  103.          an  effective  data  collection  scheme  and  also  aids  subsequent   successful
  104.          processing.
  105.                Frequently the recording of data will be by manual means but automated  and
  106.          interactive data collection systems may be also considered. The advantages to  be
  107.          gained from holding data in a form suitable for processing by an electronic  data
  108.          processing system include easy and  accurate  updating  of  information  and  the
  109.          possibility of performing new extended analyses.
  110.                Data may be collected by one or several of the following reporting means.
  111.          4.2.1  Operation reporting
  112.                Data reporting should be supported by information on the use of the  items.
  113.          Where systems are in operation for the reporting of all failures, it is necessary
  114.          to collect data on the use of the whole population of items (the total number  of
  115.          similar items under observation).
  116.          4.2.2  Failure reporting
  117.                At any level, failure reporting is dependent on  the  fault  coverage  test
  118.          resources used at the considered level: cases such as "fault not found" or "right
  119.          when tested" should be clearly mentioned.
  120.                Failure reporting should cover all failures that have been  observed.  They
  121.          should  also  contain  sufficient  information  to  identify  failures.  Failures
  122.          considered to be attributable to any maintenance action should be so noted.
  123.                The failure reporting should be sufficiently  comprehensive  to  cover  the
  124.          requirements of detailed investigation of an individual failure and the resulting
  125.          fault. Where economic reasons or lack of resources make it undesirable to collect
  126.          all of the failure data indicated, it may be desirable to agree upon a  shortened
  127.          form of report which can  be  used  to  collect  limited  data  on  all  relevant
  128.          failures, with an option to call for the full report in specific cases.
  129.          4.2.3  Maintenance reporting
  130.                The maintenance report should  contain  all  information  relevant  to  the
  131.          manual or automatic action taken to restore the item.
  132.                When there is  need  to  distinguish  between  corrective  maintenance  and
  133.          preventive maintenance reporting, if no replacements or  repairs  are  made,  the
  134.          action can be classified as a preventive  maintenance  report.  If  a  preventive
  135.          maintenance action results in a replacement or repair, the report may be  treated
  136.          as a corrective maintenance report even though the item has in fact not failed in
  137.          operation.
  138.  
  139.  
  140.  
  141.  
  142.          PAGE4   Fascicle II.3 - Rec. E.880
  143.  
  144.  
  145.  
  146.  
  147.                                            
  148.  
  149.          4.3    Storage, updating and checking procedures
  150.                Independently of the structure chosen for the data storage, data should  be
  151.          checked at the time of input so as to ensure validity.
  152.                It is evident that every data bank needs an in-depth study  appropriate  to
  153.          its specific requirements, in order to define the most suitable  method  of  data
  154.          checking, error correction, and updating.
  155.          5      List of dependability measures
  156.                The selection of the data to be collected is very dependent on the kind  of
  157.          performance measures to be evaluated/estimated.
  158.                Field data reporting may have to be limited by economic  necessity  to  the
  159.          minimum necessary to meet the requirement,  whilst  recognizing  that  collection
  160.          systems should be capable of future expansion.
  161.                It is likely that certain data may be needed for  more  than  one  purpose,
  162.          and careful consideration can therefore result in the  most  cost-effective  data
  163.          collection scheme.
  164.                The dependability measures that  might  be  taken  into  consideration  are
  165.          listed as follows.
  166.          5.1    Reliability performance
  167.                Failure rate
  168.                Failure intensity
  169.                Replacement intensity
  170.                Mean operating time between failures
  171.                [.]1) Up time.
  172.          5.2    Maintainability performance
  173.          5.2.1  Time related performance
  174.                [.]1) Down time
  175.                [.]1) Technical delay
  176.                [.]1) Fault localization time
  177.                [.]1) Fault correction time
  178.                [.]1) Restart time
  179.                [.]1) Checkout time
  180.                [.]1) Repair time
  181.                [.]1) Active corrective maintenance time.
  182.          5.2.2  Probabilities
  183.                Probability of fault coverage
  184.                Probability of false alarm
  185.                Probability of fault nondetection
  186.                Probability of alarm detection
  187.                Probability of  a  failure  being  localized  within  a  given  number  of
  188.                   replaceable units.
  189.          5.3    Maintenance support performance
  190.          5.3.1  Time related performance
  191.                [.]2) Logistic time
  192.                [.]2) Administrative delay.
  193.          5.3.2  Probabilities
  194.                Spare parts shortage probability
  195.                Test resource shortage probability
  196.                Human resource shortage probability.
  197.  
  198.  
  199.  
  200.  
  201.  
  202.  
  203.  
  204.  
  205.  
  206.  
  207.  
  208.  
  209.          1) [.] indicates according to specific applications a mean value or a fractile.
  210.          2) [.] indicates according to specific applications a mean value or a fractile.
  211.  
  212.  
  213.  
  214.                                                         Fascicle II.3 - Rec. E.880   PAGE1
  215.  
  216.          5.4    Availability performance
  217.                Steady state availability
  218.                [.]2) Accumulated down time.
  219.          6      Data required
  220.                Consideration of the foregoing objectives defines the  need  for  a  system
  221.          which provides for the collection of documented data covering:
  222.                a)  the identity of items or population of items under observation;
  223.                b)  operational conditions;
  224.                c)  maintenance support conditions;
  225.                d)  performance monitoring.
  226.                For each individual item, sufficient information  has  to  be  recorded  to
  227.          clearly identify the item itself and its operating environment.
  228.                Depending on the item under consideration (e.g. equipment, printed  circuit
  229.          board, component, personnel), and on the depth and kind of analysis of  collected
  230.          data, the necessary item identification data shall be used, on  a  case  by  case
  231.          basis.
  232.                The  item  identification  should  also   allow   the   analysis   of   the
  233.          relationships between the items for which data is collected.
  234.                In relation to the particular analysis  to  be  done,  some  items  may  be
  235.          considered as equivalent, therefore separate small items need not to be collected
  236.          in such cases.
  237.                The following information may be needed and could be collected or  will  be
  238.          available from existing sources:
  239.                -   type of item
  240.                -   manufacture/provider
  241.                -   item configuration
  242.                -   individual No. or serial No.
  243.                -   date of manufacture
  244.                -   supplier
  245.                -   delivery date
  246.                -   installer (company)
  247.                -   installation date
  248.                -   customer (name)
  249.                -   site (geographic)
  250.                -   system.
  251.                Consideration  should   be   given   to   possible   limitations   due   to
  252.          non-completeness of collected data or possible difficulties in data collection or
  253.          particular assumptions made for the collection itself.
  254.                The choice of the kinds of data to be  collected  and  the  design  of  the
  255.          related collection procedure depend on many factors, some of which are:
  256.                -   the required end-result;
  257.                -   the diversity of components or systems;
  258.                -   the duration of the data collection project;
  259.                -   the data handling method (manual or computer based);
  260.                -   a sufficient knowledge of  the  capability  to  collect  the  required
  261.                   quantity of information and the accessibility to data to be gathered.
  262.          6.1    Number of items to be considered
  263.                The number of items to be considered depends mainly on the  characteristics
  264.          to be dealt with, the statistical aspect of the evaluation to  be  made  and  the
  265.          cost involved.
  266.          6.2    Information on items being considered
  267.          6.2.1  Operating conditions
  268.          6.2.1.1   Environment classes
  269.                a)  Fixed (outdoors, indoors, underground, undersea, off-shore, etc.);
  270.  
  271.  
  272.  
  273.  
  274.  
  275.  
  276.  
  277.  
  278.  
  279.  
  280.  
  281.  
  282.  
  283.  
  284.  
  285.          PAGE4   Fascicle II.3 - Rec. E.880
  286.  
  287.  
  288.  
  289.  
  290.                                            
  291.  
  292.                b)  Portable (item specially built for  easy  transportation  by  one  man
  293.                   only);
  294.                c)  Mobile (in motor vehicle, in ship, in aircraft);
  295.                d)  Other (specify).
  296.          6.2.1.2   Specific environment data
  297.                a)  Climatic conditions
  298.                   -   weather-protected,
  299.                   -   not weather protected,
  300.                   -   air temperature,
  301.                   -   air pressure,
  302.                   -   humidity;
  303.                b)  Electrical environment (EMC);
  304.                c)  Mechanical conditions (vibration, shocks, bumps);
  305.                d)  Mechanically active substances (sand, dust, etc.);
  306.                e)  Chemically active substances;
  307.                f)  Biological conditions.
  308.          6.2.1.3   Mode of operation
  309.                a)  Continuous;
  310.                b)  Intermittent (give cycle);
  311.                c)  Stand-by;
  312.                d)  Single operation (e.g. one shot devices);
  313.                e)  Storage.
  314.          6.2.1.4   Load conditions
  315.                a)  Overload;
  316.                b)  Other (specified).
  317.          6.3    Failure and fault description
  318.                -   Fault recognition: symptoms and indications, fault detected, fault not
  319.                   detected, false alarm.
  320.                -   Item fault mode (identification of functions affected).
  321.                -   Failure causes:
  322.                   a)  Inherent to item under observation;
  323.                   b)  Misuse failure;
  324.                   c)  Induced by maintenance or administrative action;
  325.                   d)  External to item under observation;
  326.                   e)  Secondary (caused by related item);
  327.  
  328.  
  329.  
  330.  
  331.  
  332.  
  333.  
  334.  
  335.  
  336.  
  337.  
  338.  
  339.  
  340.  
  341.  
  342.  
  343.  
  344.  
  345.  
  346.  
  347.  
  348.  
  349.  
  350.  
  351.  
  352.  
  353.  
  354.  
  355.  
  356.  
  357.                                                         Fascicle II.3 - Rec. E.880   PAGE1
  358.  
  359.                   f)  Other.
  360.                   In cases where the failure immediately follows a period  of  transport,
  361.                   storage or stand-by, the relevant conditions shall be stated.
  362.                -   Fault consequences
  363.                -   List (identification) and physical location of faulty replaced parts:
  364.                   a)  quantity of suspected replaceable items;
  365.                   b)  quantity of replaced items.
  366.                -   Fault evidence and documentation (printouts, photograph, etc.).
  367.                -    Action  taken:   Replacement,   repair,   adjustment,   modification,
  368.                   lubrication, etc.
  369.                -   Active maintenance time (diagnostic + repair + tests + . . .).
  370.                -   Downtime, including, where applicable:
  371.                -   undetected fault time,
  372.                -   fault localization time,
  373.                -   reconfiguration time3),
  374.                -   technical delay,
  375.                -   logistic delay,
  376.                -   administrative delay,
  377.                -   fault correction time,
  378.                -   checkout time,
  379.                -   restart time.
  380.          6.4    Maintenance support data:
  381.                -   spare resources shortage,
  382.                -   test resources shortage,
  383.                -   resources shortage.
  384.          7      Data presentation for evaluation
  385.                When  collected  data  is  offered  for  subsequent  evaluation  by   using
  386.          approximate statistical  methods,  all  conditions  for  their  correct  use  and
  387.          understanding should be clearly stated.
  388.                These conditions  should  encompass  the  purpose  of  the  data  gathering
  389.          especially with respect to type and variation of the data chosen. Information  on
  390.          the  circumstances  should  also  be  provided  such  as  when  (e.g.  busy  hour
  391.          conditions),  where  (e.g.  geographic  considerations)  and  for  how  long  the
  392.          collection took place. Specific situations, which may limit the data  application
  393.          and  use,  should  be  indicated,  e.g.  difficulties   encountered,   particular
  394.          assumptions made, non-completeness.
  395.                Considerations should also be given to  the  form  of  presentation:  where
  396.          appropriate, a condensed form (e.g. diagrams,  histograms)  may  prevail  over  a
  397.          detailed raw data presentation.
  398.          8      Statistical methods for data treatment
  399.                In most cases the need for data treatment appears in  connection  with  one
  400.          of the following activities:
  401.                -   estimation,
  402.                -   compliance evaluation,
  403.                -   monitoring of performances,
  404.                -   comparison of performances.
  405.                For each performance of interest, estimations,  hypothesis  tests,  control
  406.          charts and comparison techniques are used for evaluating.
  407.                The application of a  given  statistical  procedure  usually  requires  the
  408.          fulfilment of some general conditions and assumptions which have to be  carefully
  409.          investigated. Some of these preliminary investigations  relate  directly  to  the
  410.          properties and the characteristics of the  (stochastic)  process  generating  the
  411.          collected data, some other relate to the distribution  underlying  the  collected
  412.          data.
  413.                Both preliminary investigations and data treatment may require  statistical
  414.          procedures not dealt with in  this  Recommendation.  International  organizations
  415.          other than CCITT, e.g. IEC, have produced valuable material in this field [1].
  416.                Reference
  417.  
  418.  
  419.  
  420.  
  421.  
  422.  
  423.          3) Time required for automatic reconfiguration (if manual operations are needed, they  are
  424.                   integrated into technical delay).
  425.  
  426.  
  427.  
  428.          PAGE4   Fascicle II.3 - Rec. E.880
  429.  
  430.  
  431.  
  432.  
  433.                                            
  434.  
  435.          [1]    International Electrotechnical Commission - Catalogue of Publications, Ed.
  436.                1987.
  437.  
  438.  
  439.  
  440.  
  441.  
  442.  
  443.  
  444.  
  445.  
  446.  
  447.  
  448.  
  449.  
  450.  
  451.  
  452.  
  453.  
  454.  
  455.  
  456.  
  457.  
  458.  
  459.  
  460.  
  461.  
  462.  
  463.  
  464.  
  465.  
  466.  
  467.  
  468.  
  469.  
  470.  
  471.  
  472.  
  473.  
  474.  
  475.  
  476.  
  477.  
  478.  
  479.  
  480.  
  481.  
  482.  
  483.  
  484.  
  485.  
  486.  
  487.  
  488.  
  489.  
  490.  
  491.  
  492.  
  493.  
  494.  
  495.  
  496.  
  497.  
  498.  
  499.  
  500.                                                         Fascicle II.3 - Rec. E.880   PAGE1
  501.  
  502.