home *** CD-ROM | disk | FTP | other *** search
/ Internet Core Protocols / Oreilly-InternetCoreProtocols.iso / RFCs / rfc2679.txt < prev    next >
Encoding:
Text File  |  1999-10-14  |  43.6 KB  |  1,124 lines

  1.  
  2.  
  3.  
  4.  
  5.  
  6.  
  7. Network Working Group                                           G. Almes
  8. Request for Comments: 2679                                  S. Kalidindi
  9. Category: Standards Track                                   M. Zekauskas
  10.                                              Advanced Network & Services
  11.                                                           September 1999
  12.  
  13.  
  14.                     A One-way Delay Metric for IPPM
  15.  
  16. 1. Status of this Memo
  17.  
  18.    This document specifies an Internet standards track protocol for the
  19.    Internet community, and requests discussion and suggestions for
  20.    improvements.  Please refer to the current edition of the "Internet
  21.    Official Protocol Standards" (STD 1) for the standardization state
  22.    and status of this protocol.  Distribution of this memo is unlimited.
  23.  
  24. Copyright Notice
  25.  
  26.    Copyright (C) The Internet Society (1999).  All Rights Reserved.
  27.  
  28. 2. Introduction
  29.  
  30.    This memo defines a metric for one-way delay of packets across
  31.    Internet paths.  It builds on notions introduced and discussed in the
  32.    IPPM Framework document, RFC 2330 [1]; the reader is assumed to be
  33.    familiar with that document.
  34.  
  35.    This memo is intended to be parallel in structure to a companion
  36.    document for Packet Loss ("A One-way Packet Loss Metric for IPPM")
  37.    [2].
  38.  
  39.    The key words "MUST", "MUST NOT", "REQUIRED", "SHALL", "SHALL NOT",
  40.    "SHOULD", "SHOULD NOT", "RECOMMENDED", "MAY", and "OPTIONAL" in this
  41.    document are to be interpreted as described in RFC 2119 [6].
  42.    Although RFC 2119 was written with protocols in mind, the key words
  43.    are used in this document for similar reasons.  They are used to
  44.    ensure the results of measurements from two different implementations
  45.    are comparable, and to note instances when an implementation could
  46.    perturb the network.
  47.  
  48.    The structure of the memo is as follows:
  49.  
  50.    +  A 'singleton' analytic metric, called Type-P-One-way-Delay, will
  51.       be introduced to measure a single observation of one-way delay.
  52.  
  53.  
  54.  
  55.  
  56.  
  57.  
  58. Almes, et al.               Standards Track                     [Page 1]
  59.  
  60. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  61.  
  62.  
  63.    +  Using this singleton metric, a 'sample', called Type-P-One-way-
  64.       Delay-Poisson-Stream, will be introduced to measure a sequence of
  65.       singleton delays measured at times taken from a Poisson process.
  66.  
  67.    +  Using this sample, several 'statistics' of the sample will be
  68.       defined and discussed.
  69.  
  70.    This progression from singleton to sample to statistics, with clear
  71.    separation among them, is important.
  72.  
  73.    Whenever a technical term from the IPPM Framework document is first
  74.    used in this memo, it will be tagged with a trailing asterisk.  For
  75.    example, "term*" indicates that "term" is defined in the Framework.
  76.  
  77. 2.1. Motivation:
  78.  
  79.    One-way delay of a Type-P* packet from a source host* to a
  80.    destination host is useful for several reasons:
  81.  
  82.    +  Some applications do not perform well (or at all) if end-to-end
  83.       delay between hosts is large relative to some threshold value.
  84.  
  85.    +  Erratic variation in delay makes it difficult (or impossible) to
  86.       support many real-time applications.
  87.  
  88.    +  The larger the value of delay, the more difficult it is for
  89.       transport-layer protocols to sustain high bandwidths.
  90.  
  91.    +  The minimum value of this metric provides an indication of the
  92.       delay due only to propagation and transmission delay.
  93.  
  94.    +  The minimum value of this metric provides an indication of the
  95.       delay that will likely be experienced when the path* traversed is
  96.       lightly loaded.
  97.  
  98.    +  Values of this metric above the minimum provide an indication of
  99.       the congestion present in the path.
  100.  
  101.    The measurement of one-way delay instead of round-trip delay is
  102.    motivated by the following factors:
  103.  
  104.    +  In today's Internet, the path from a source to a destination may
  105.       be different than the path from the destination back to the source
  106.       ("asymmetric paths"), such that different sequences of routers are
  107.       used for the forward and reverse paths.  Therefore round-trip
  108.       measurements actually measure the performance of two distinct
  109.       paths together.  Measuring each path independently highlights the
  110.       performance difference between the two paths which may traverse
  111.  
  112.  
  113.  
  114. Almes, et al.               Standards Track                     [Page 2]
  115.  
  116. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  117.  
  118.  
  119.       different Internet service providers, and even radically different
  120.       types of networks (for example, research versus commodity
  121.       networks, or ATM versus packet-over-SONET).
  122.  
  123.    +  Even when the two paths are symmetric, they may have radically
  124.       different performance characteristics due to asymmetric queueing.
  125.  
  126.    +  Performance of an application may depend mostly on the performance
  127.       in one direction.  For example, a file transfer using TCP may
  128.       depend more on the performance in the direction that data flows,
  129.       rather than the direction in which acknowledgements travel.
  130.  
  131.    +  In quality-of-service (QoS) enabled networks, provisioning in one
  132.       direction may be radically different than provisioning in the
  133.       reverse direction, and thus the QoS guarantees differ.  Measuring
  134.       the paths independently allows the verification of both
  135.       guarantees.
  136.  
  137.    It is outside the scope of this document to say precisely how delay
  138.    metrics would be applied to specific problems.
  139.  
  140. 2.2. General Issues Regarding Time
  141.  
  142.    {Comment: the terminology below differs from that defined by ITU-T
  143.    documents (e.g., G.810, "Definitions and terminology for
  144.    synchronization networks" and I.356, "B-ISDN ATM layer cell transfer
  145.    performance"), but is consistent with the IPPM Framework document.
  146.    In general, these differences derive from the different backgrounds;
  147.    the ITU-T documents historically have a telephony origin, while the
  148.    authors of this document (and the Framework) have a computer systems
  149.    background.  Although the terms defined below have no direct
  150.    equivalent in the ITU-T definitions, after our definitions we will
  151.    provide a rough mapping.  However, note one potential confusion: our
  152.    definition of "clock" is the computer operating systems definition
  153.    denoting a time-of-day clock, while the ITU-T definition of clock
  154.    denotes a frequency reference.}
  155.  
  156.    Whenever a time (i.e., a moment in history) is mentioned here, it is
  157.    understood to be measured in seconds (and fractions) relative to UTC.
  158.  
  159.    As described more fully in the Framework document, there are four
  160.    distinct, but related notions of clock uncertainty:
  161.  
  162.  
  163.  
  164.  
  165.  
  166.  
  167.  
  168.  
  169.  
  170. Almes, et al.               Standards Track                     [Page 3]
  171.  
  172. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  173.  
  174.  
  175.    synchronization*
  176.  
  177.          measures the extent to which two clocks agree on what time it
  178.          is.  For example, the clock on one host might be 5.4 msec ahead
  179.          of the clock on a second host.  {Comment: A rough ITU-T
  180.          equivalent is "time error".}
  181.  
  182.    accuracy*
  183.  
  184.          measures the extent to which a given clock agrees with UTC.
  185.          For example, the clock on a host might be 27.1 msec behind UTC.
  186.          {Comment: A rough ITU-T equivalent is "time error from UTC".}
  187.  
  188.    resolution*
  189.  
  190.          measures the precision of a given clock.  For example, the
  191.          clock on an old Unix host might tick only once every 10 msec,
  192.          and thus have a resolution of only 10 msec.  {Comment: A very
  193.          rough ITU-T equivalent is "sampling period".}
  194.  
  195.    skew*
  196.  
  197.          measures the change of accuracy, or of synchronization, with
  198.          time.  For example, the clock on a given host might gain 1.3
  199.          msec per hour and thus be 27.1 msec behind UTC at one time and
  200.          only 25.8 msec an hour later.  In this case, we say that the
  201.          clock of the given host has a skew of 1.3 msec per hour
  202.          relative to UTC, which threatens accuracy.  We might also speak
  203.          of the skew of one clock relative to another clock, which
  204.          threatens synchronization.  {Comment: A rough ITU-T equivalent
  205.          is "time drift".}
  206.  
  207. 3. A Singleton Definition for One-way Delay
  208.  
  209. 3.1. Metric Name:
  210.  
  211.    Type-P-One-way-Delay
  212.  
  213. 3.2. Metric Parameters:
  214.  
  215.    +  Src, the IP address of a host
  216.  
  217.    +  Dst, the IP address of a host
  218.  
  219.    +  T, a time
  220.  
  221.  
  222.  
  223.  
  224.  
  225.  
  226. Almes, et al.               Standards Track                     [Page 4]
  227.  
  228. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  229.  
  230.  
  231. 3.3. Metric Units:
  232.  
  233.    The value of a Type-P-One-way-Delay is either a real number, or an
  234.    undefined (informally, infinite) number of seconds.
  235.  
  236. 3.4. Definition:
  237.  
  238.    For a real number dT, >>the *Type-P-One-way-Delay* from Src to Dst at
  239.    T is dT<< means that Src sent the first bit of a Type-P packet to Dst
  240.    at wire-time* T and that Dst received the last bit of that packet at
  241.    wire-time T+dT.
  242.  
  243.    >>The *Type-P-One-way-Delay* from Src to Dst at T is undefined
  244.    (informally, infinite)<< means that Src sent the first bit of a
  245.    Type-P packet to Dst at wire-time T and that Dst did not receive that
  246.    packet.
  247.  
  248.    Suggestions for what to report along with metric values appear in
  249.    Section 3.8 after a discussion of the metric, methodologies for
  250.    measuring the metric, and error analysis.
  251.  
  252. 3.5. Discussion:
  253.  
  254.    Type-P-One-way-Delay is a relatively simple analytic metric, and one
  255.    that we believe will afford effective methods of measurement.
  256.  
  257.    The following issues are likely to come up in practice:
  258.  
  259.    +  Real delay values will be positive.  Therefore, it does not make
  260.       sense to report a negative value as a real delay.  However, an
  261.       individual zero or negative delay value might be useful as part of
  262.       a stream when trying to discover a distribution of a stream of
  263.       delay values.
  264.  
  265.    +  Since delay values will often be as low as the 100 usec to 10 msec
  266.       range, it will be important for Src and Dst to synchronize very
  267.       closely.  GPS systems afford one way to achieve synchronization to
  268.       within several 10s of usec.  Ordinary application of NTP may allow
  269.       synchronization to within several msec, but this depends on the
  270.       stability and symmetry of delay properties among those NTP agents
  271.       used, and this delay is what we are trying to measure.  A
  272.       combination of some GPS-based NTP servers and a conservatively
  273.       designed and deployed set of other NTP servers should yield good
  274.       results, but this is yet to be tested.
  275.  
  276.    +  A given methodology will have to include a way to determine
  277.       whether a delay value is infinite or whether it is merely very
  278.       large (and the packet is yet to arrive at Dst).  As noted by
  279.  
  280.  
  281.  
  282. Almes, et al.               Standards Track                     [Page 5]
  283.  
  284. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  285.  
  286.  
  287.       Mahdavi and Paxson [4], simple upper bounds (such as the 255
  288.       seconds theoretical upper bound on the lifetimes of IP packets
  289.       [5]) could be used, but good engineering, including an
  290.       understanding of packet lifetimes, will be needed in practice.
  291.       {Comment: Note that, for many applications of these metrics, the
  292.       harm in treating a large delay as infinite might be zero or very
  293.       small.  A TCP data packet, for example, that arrives only after
  294.       several multiples of the RTT may as well have been lost.}
  295.  
  296.    +  If the packet is duplicated along the path (or paths) so that
  297.       multiple non-corrupt copies arrive at the destination, then the
  298.       packet is counted as received, and the first copy to arrive
  299.       determines the packet's one-way delay.
  300.  
  301.    +  If the packet is fragmented and if, for whatever reason,
  302.       reassembly does not occur, then the packet will be deemed lost.
  303.  
  304. 3.6. Methodologies:
  305.  
  306.    As with other Type-P-* metrics, the detailed methodology will depend
  307.    on the Type-P (e.g., protocol number, UDP/TCP port number, size,
  308.    precedence).
  309.  
  310.    Generally, for a given Type-P, the methodology would proceed as
  311.    follows:
  312.  
  313.    +  Arrange that Src and Dst are synchronized; that is, that they have
  314.       clocks that are very closely synchronized with each other and each
  315.       fairly close to the actual time.
  316.  
  317.    +  At the Src host, select Src and Dst IP addresses, and form a test
  318.       packet of Type-P with these addresses.  Any 'padding' portion of
  319.       the packet needed only to make the test packet a given size should
  320.       be filled with randomized bits to avoid a situation in which the
  321.       measured delay is lower than it would otherwise be due to
  322.       compression techniques along the path.
  323.  
  324.    +  At the Dst host, arrange to receive the packet.
  325.  
  326.    +  At the Src host, place a timestamp in the prepared Type-P packet,
  327.       and send it towards Dst.
  328.  
  329.    +  If the packet arrives within a reasonable period of time, take a
  330.       timestamp as soon as possible upon the receipt of the packet.  By
  331.       subtracting the two timestamps, an estimate of one-way delay can
  332.       be computed.  Error analysis of a given implementation of the
  333.       method must take into account the closeness of synchronization
  334.       between Src and Dst.  If the delay between Src's timestamp and the
  335.  
  336.  
  337.  
  338. Almes, et al.               Standards Track                     [Page 6]
  339.  
  340. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  341.  
  342.  
  343.       actual sending of the packet is known, then the estimate could be
  344.       adjusted by subtracting this amount; uncertainty in this value
  345.       must be taken into account in error analysis.  Similarly, if the
  346.       delay between the actual receipt of the packet and Dst's timestamp
  347.       is known, then the estimate could be adjusted by subtracting this
  348.       amount; uncertainty in this value must be taken into account in
  349.       error analysis.  See the next section, "Errors and Uncertainties",
  350.       for a more detailed discussion.
  351.  
  352.    +  If the packet fails to arrive within a reasonable period of time,
  353.       the one-way delay is taken to be undefined (informally, infinite).
  354.       Note that the threshold of 'reasonable' is a parameter of the
  355.       methodology.
  356.  
  357.    Issues such as the packet format, the means by which Dst knows when
  358.    to expect the test packet, and the means by which Src and Dst are
  359.    synchronized are outside the scope of this document.  {Comment: We
  360.    plan to document elsewhere our own work in describing such more
  361.    detailed implementation techniques and we encourage others to as
  362.    well.}
  363.  
  364. 3.7. Errors and Uncertainties:
  365.  
  366.    The description of any specific measurement method should include an
  367.    accounting and analysis of various sources of error or uncertainty.
  368.    The Framework document provides general guidance on this point, but
  369.    we note here the following specifics related to delay metrics:
  370.  
  371.    +  Errors or uncertainties due to uncertainties in the clocks of the
  372.       Src and Dst hosts.
  373.  
  374.    +  Errors or uncertainties due to the difference between 'wire time'
  375.       and 'host time'.
  376.  
  377.    In addition, the loss threshold may affect the results.  Each of
  378.    these are discussed in more detail below, along with a section
  379.    ("Calibration") on accounting for these errors and uncertainties.
  380.  
  381. 3.7.1. Errors or uncertainties related to Clocks
  382.  
  383.    The uncertainty in a measurement of one-way delay is related, in
  384.    part, to uncertainties in the clocks of the Src and Dst hosts.  In
  385.    the following, we refer to the clock used to measure when the packet
  386.    was sent from Src as the source clock, we refer to the clock used to
  387.    measure when the packet was received by Dst as the destination clock,
  388.    we refer to the observed time when the packet was sent by the source
  389.    clock as Tsource, and the observed time when the packet was received
  390.    by the destination clock as Tdest.  Alluding to the notions of
  391.  
  392.  
  393.  
  394. Almes, et al.               Standards Track                     [Page 7]
  395.  
  396. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  397.  
  398.  
  399.    synchronization, accuracy, resolution, and skew mentioned in the
  400.    Introduction, we note the following:
  401.  
  402.    +  Any error in the synchronization between the source clock and the
  403.       destination clock will contribute to error in the delay
  404.       measurement.  We say that the source clock and the destination
  405.       clock have a synchronization error of Tsynch if the source clock
  406.       is Tsynch ahead of the destination clock.  Thus, if we know the
  407.       value of Tsynch exactly, we could correct for clock
  408.       synchronization by adding Tsynch to the uncorrected value of
  409.       Tdest-Tsource.
  410.  
  411.    +  The accuracy of a clock is important only in identifying the time
  412.       at which a given delay was measured.  Accuracy, per se, has no
  413.       importance to the accuracy of the measurement of delay.  When
  414.       computing delays, we are interested only in the differences
  415.       between clock values, not the values themselves.
  416.  
  417.    +  The resolution of a clock adds to uncertainty about any time
  418.       measured with it.  Thus, if the source clock has a resolution of
  419.       10 msec, then this adds 10 msec of uncertainty to any time value
  420.       measured with it.  We will denote the resolution of the source
  421.       clock and the destination clock as Rsource and Rdest,
  422.       respectively.
  423.  
  424.    +  The skew of a clock is not so much an additional issue as it is a
  425.       realization of the fact that Tsynch is itself a function of time.
  426.       Thus, if we attempt to measure or to bound Tsynch, this needs to
  427.       be done periodically.  Over some periods of time, this function
  428.       can be approximated as a linear function plus some higher order
  429.       terms; in these cases, one option is to use knowledge of the
  430.       linear component to correct the clock.  Using this correction, the
  431.       residual Tsynch is made smaller, but remains a source of
  432.       uncertainty that must be accounted for.  We use the function
  433.       Esynch(t) to denote an upper bound on the uncertainty in
  434.       synchronization.  Thus, |Tsynch(t)| <= Esynch(t).
  435.  
  436.    Taking these items together, we note that naive computation Tdest-
  437.    Tsource will be off by Tsynch(t) +/- (Rsource + Rdest).  Using the
  438.    notion of Esynch(t), we note that these clock-related problems
  439.    introduce a total uncertainty of Esynch(t)+ Rsource + Rdest.  This
  440.    estimate of total clock-related uncertainty should be included in the
  441.    error/uncertainty analysis of any measurement implementation.
  442.  
  443.  
  444.  
  445.  
  446.  
  447.  
  448.  
  449.  
  450. Almes, et al.               Standards Track                     [Page 8]
  451.  
  452. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  453.  
  454.  
  455. 3.7.2. Errors or uncertainties related to Wire-time vs Host-time
  456.  
  457.    As we have defined one-way delay, we would like to measure the time
  458.    between when the test packet leaves the network interface of Src and
  459.    when it (completely) arrives at the network interface of Dst, and we
  460.    refer to these as "wire times."  If the timings are themselves
  461.    performed by software on Src and Dst, however, then this software can
  462.    only directly measure the time between when Src grabs a timestamp
  463.    just prior to sending the test packet and when Dst grabs a timestamp
  464.    just after having received the test packet, and we refer to these two
  465.    points as "host times".
  466.  
  467.    To the extent that the difference between wire time and host time is
  468.    accurately known, this knowledge can be used to correct for host time
  469.    measurements and the corrected value more accurately estimates the
  470.    desired (wire time) metric.
  471.  
  472.    To the extent, however, that the difference between wire time and
  473.    host time is uncertain, this uncertainty must be accounted for in an
  474.    analysis of a given measurement method.  We denote by Hsource an
  475.    upper bound on the uncertainty in the difference between wire time
  476.    and host time on the Src host, and similarly define Hdest for the Dst
  477.    host.  We then note that these problems introduce a total uncertainty
  478.    of Hsource+Hdest.  This estimate of total wire-vs-host uncertainty
  479.    should be included in the error/uncertainty analysis of any
  480.    measurement implementation.
  481.  
  482. 3.7.3. Calibration
  483.  
  484.    Generally, the measured values can be decomposed as follows:
  485.  
  486.       measured value = true value + systematic error + random error
  487.  
  488.    If the systematic error (the constant bias in measured values) can be
  489.    determined, it can be compensated for in the reported results.
  490.  
  491.       reported value = measured value - systematic error
  492.  
  493.    therefore
  494.  
  495.       reported value = true value + random error
  496.  
  497.    The goal of calibration is to determine the systematic and random
  498.    error generated by the instruments themselves in as much detail as
  499.    possible.  At a minimum, a bound ("e") should be found such that the
  500.    reported value is in the range (true value - e) to (true value + e)
  501.    at least 95 percent of the time.  We call "e" the calibration error
  502.    for the measurements.  It represents the degree to which the values
  503.  
  504.  
  505.  
  506. Almes, et al.               Standards Track                     [Page 9]
  507.  
  508. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  509.  
  510.  
  511.    produced by the measurement instrument are repeatable; that is, how
  512.    closely an actual delay of 30 ms is reported as 30 ms.  {Comment: 95
  513.    percent was chosen because (1) some confidence level is desirable to
  514.    be able to remove outliers, which will be found in measuring any
  515.    physical property; (2) a particular confidence level should be
  516.    specified so that the results of independent implementations can be
  517.    compared; and (3) even with a prototype user-level implementation,
  518.    95% was loose enough to exclude outliers.}
  519.  
  520.    From the discussion in the previous two sections, the error in
  521.    measurements could be bounded by determining all the individual
  522.    uncertainties, and adding them together to form
  523.  
  524.        Esynch(t) + Rsource + Rdest + Hsource + Hdest.
  525.  
  526.    However, reasonable bounds on both the clock-related uncertainty
  527.    captured by the first three terms and the host-related uncertainty
  528.    captured by the last two terms should be possible by careful design
  529.    techniques and calibrating the instruments using a known, isolated,
  530.    network in a lab.
  531.  
  532.    For example, the clock-related uncertainties are greatly reduced
  533.    through the use of a GPS time source.  The sum of Esynch(t) + Rsource
  534.    + Rdest is small, and is also bounded for the duration of the
  535.    measurement because of the global time source.
  536.  
  537.    The host-related uncertainties, Hsource + Hdest, could be bounded by
  538.    connecting two instruments back-to-back with a high-speed serial link
  539.    or isolated LAN segment.  In this case, repeated measurements are
  540.    measuring the same one-way delay.
  541.  
  542.    If the test packets are small, such a network connection has a
  543.    minimal delay that may be approximated by zero.  The measured delay
  544.    therefore contains only systematic and random error in the
  545.    instrumentation.  The "average value" of repeated measurements is the
  546.    systematic error, and the variation is the random error.
  547.  
  548.    One way to compute the systematic error, and the random error to a
  549.    95% confidence is to repeat the experiment many times - at least
  550.    hundreds of tests.  The systematic error would then be the median.
  551.    The random error could then be found by removing the systematic error
  552.    from the measured values.  The 95% confidence interval would be the
  553.    range from the 2.5th percentile to the 97.5th percentile of these
  554.    deviations from the true value.  The calibration error "e" could then
  555.    be taken to be the largest absolute value of these two numbers, plus
  556.    the clock-related uncertainty.  {Comment: as described, this bound is
  557.    relatively loose since the uncertainties are added, and the absolute
  558.    value of the largest deviation is used.  As long as the resulting
  559.  
  560.  
  561.  
  562. Almes, et al.               Standards Track                    [Page 10]
  563.  
  564. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  565.  
  566.  
  567.    value is not a significant fraction of the measured values, it is a
  568.    reasonable bound.  If the resulting value is a significant fraction
  569.    of the measured values, then more exact methods will be needed to
  570.    compute the calibration error.}
  571.  
  572.    Note that random error is a function of measurement load.  For
  573.    example, if many paths will be measured by one instrument, this might
  574.    increase interrupts, process scheduling, and disk I/O (for example,
  575.    recording the measurements), all of which may increase the random
  576.    error in measured singletons.  Therefore, in addition to minimal load
  577.    measurements to find the systematic error, calibration measurements
  578.    should be performed with the same measurement load that the
  579.    instruments will see in the field.
  580.  
  581.    We wish to reiterate that this statistical treatment refers to the
  582.    calibration of the instrument; it is used to "calibrate the meter
  583.    stick" and say how well the meter stick reflects reality.
  584.  
  585.    In addition to calibrating the instruments for finite one-way delay,
  586.    two checks should be made to ensure that packets reported as losses
  587.    were really lost.  First, the threshold for loss should be verified.
  588.    In particular, ensure the "reasonable" threshold is reasonable: that
  589.    it is very unlikely a packet will arrive after the threshold value,
  590.    and therefore the number of packets lost over an interval is not
  591.    sensitive to the error bound on measurements.  Second, consider the
  592.    possibility that a packet arrives at the network interface, but is
  593.    lost due to congestion on that interface or to other resource
  594.    exhaustion (e.g. buffers) in the instrument.
  595.  
  596. 3.8. Reporting the metric:
  597.  
  598.    The calibration and context in which the metric is measured MUST be
  599.    carefully considered, and SHOULD always be reported along with metric
  600.    results.  We now present four items to consider: the Type-P of test
  601.    packets, the threshold of infinite delay (if any), error calibration,
  602.    and the path traversed by the test packets.  This list is not
  603.    exhaustive; any additional information that could be useful in
  604.    interpreting applications of the metrics should also be reported.
  605.  
  606. 3.8.1. Type-P
  607.  
  608.    As noted in the Framework document [1], the value of the metric may
  609.    depend on the type of IP packets used to make the measurement, or
  610.    "type-P".  The value of Type-P-One-way-Delay could change if the
  611.    protocol (UDP or TCP), port number, size, or arrangement for special
  612.    treatment (e.g., IP precedence or RSVP) changes.  The exact Type-P
  613.    used to make the measurements MUST be accurately reported.
  614.  
  615.  
  616.  
  617.  
  618. Almes, et al.               Standards Track                    [Page 11]
  619.  
  620. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  621.  
  622.  
  623. 3.8.2. Loss threshold
  624.  
  625.    In addition, the threshold (or methodology to distinguish) between a
  626.    large finite delay and loss MUST be reported.
  627.  
  628. 3.8.3. Calibration results
  629.  
  630.    +  If the systematic error can be determined, it SHOULD be removed
  631.       from the measured values.
  632.  
  633.    +  You SHOULD also report the calibration error, e, such that the
  634.       true value is the reported value plus or minus e, with 95%
  635.       confidence (see the last section.)
  636.  
  637.    +  If possible, the conditions under which a test packet with finite
  638.       delay is reported as lost due to resource exhaustion on the
  639.       measurement instrument SHOULD be reported.
  640.  
  641. 3.8.4. Path
  642.  
  643.    Finally, the path traversed by the packet SHOULD be reported, if
  644.    possible.  In general it is impractical to know the precise path a
  645.    given packet takes through the network.  The precise path may be
  646.    known for certain Type-P on short or stable paths.  If Type-P
  647.    includes the record route (or loose-source route) option in the IP
  648.    header, and the path is short enough, and all routers* on the path
  649.    support record (or loose-source) route, then the path will be
  650.    precisely recorded.  This is impractical because the route must be
  651.    short enough, many routers do not support (or are not configured for)
  652.    record route, and use of this feature would often artificially worsen
  653.    the performance observed by removing the packet from common-case
  654.    processing.  However, partial information is still valuable context.
  655.    For example, if a host can choose between two links* (and hence two
  656.    separate routes from Src to Dst), then the initial link used is
  657.    valuable context.  {Comment: For example, with Merit's NetNow setup,
  658.    a Src on one NAP can reach a Dst on another NAP by either of several
  659.    different backbone networks.}
  660.  
  661. 4. A Definition for Samples of One-way Delay
  662.  
  663.    Given the singleton metric Type-P-One-way-Delay, we now define one
  664.    particular sample of such singletons.  The idea of the sample is to
  665.    select a particular binding of the parameters Src, Dst, and Type-P,
  666.    then define a sample of values of parameter T.  The means for
  667.    defining the values of T is to select a beginning time T0, a final
  668.    time Tf, and an average rate lambda, then define a pseudo-random
  669.  
  670.  
  671.  
  672.  
  673.  
  674. Almes, et al.               Standards Track                    [Page 12]
  675.  
  676. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  677.  
  678.  
  679.    Poisson process of rate lambda, whose values fall between T0 and Tf.
  680.    The time interval between successive values of T will then average
  681.    1/lambda.
  682.  
  683.    {Comment: Note that Poisson sampling is only one way of defining a
  684.    sample.  Poisson has the advantage of limiting bias, but other
  685.    methods of sampling might be appropriate for different situations.
  686.    We encourage others who find such appropriate cases to use this
  687.    general framework and submit their sampling method for
  688.    standardization.}
  689.  
  690. 4.1. Metric Name:
  691.  
  692.    Type-P-One-way-Delay-Poisson-Stream
  693.  
  694. 4.2. Metric Parameters:
  695.  
  696.    +  Src, the IP address of a host
  697.  
  698.    +  Dst, the IP address of a host
  699.  
  700.    +  T0, a time
  701.  
  702.    +  Tf, a time
  703.  
  704.    +  lambda, a rate in reciprocal seconds
  705.  
  706. 4.3. Metric Units:
  707.  
  708.    A sequence of pairs; the elements of each pair are:
  709.  
  710.    +  T, a time, and
  711.  
  712.    +  dT, either a real number or an undefined number of seconds.
  713.  
  714.    The values of T in the sequence are monotonic increasing.  Note that
  715.    T would be a valid parameter to Type-P-One-way-Delay, and that dT
  716.    would be a valid value of Type-P-One-way-Delay.
  717.  
  718. 4.4. Definition:
  719.  
  720.    Given T0, Tf, and lambda, we compute a pseudo-random Poisson process
  721.    beginning at or before T0, with average arrival rate lambda, and
  722.    ending at or after Tf.  Those time values greater than or equal to T0
  723.    and less than or equal to Tf are then selected.  At each of the times
  724.    in this process, we obtain the value of Type-P-One-way-Delay at this
  725.    time.  The value of the sample is the sequence made up of the
  726.    resulting <time, delay> pairs.  If there are no such pairs, the
  727.  
  728.  
  729.  
  730. Almes, et al.               Standards Track                    [Page 13]
  731.  
  732. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  733.  
  734.  
  735.    sequence is of length zero and the sample is said to be empty.
  736.  
  737. 4.5. Discussion:
  738.  
  739.    The reader should be familiar with the in-depth discussion of Poisson
  740.    sampling in the Framework document [1], which includes methods to
  741.    compute and verify the pseudo-random Poisson process.
  742.  
  743.    We specifically do not constrain the value of lambda, except to note
  744.    the extremes.  If the rate is too large, then the measurement traffic
  745.    will perturb the network, and itself cause congestion.  If the rate
  746.    is too small, then you might not capture interesting network
  747.    behavior.  {Comment: We expect to document our experiences with, and
  748.    suggestions for, lambda elsewhere, culminating in a "best current
  749.    practices" document.}
  750.  
  751.    Since a pseudo-random number sequence is employed, the sequence of
  752.    times, and hence the value of the sample, is not fully specified.
  753.    Pseudo-random number generators of good quality will be needed to
  754.    achieve the desired qualities.
  755.  
  756.    The sample is defined in terms of a Poisson process both to avoid the
  757.    effects of self-synchronization and also capture a sample that is
  758.    statistically as unbiased as possible.  {Comment: there is, of
  759.    course, no claim that real Internet traffic arrives according to a
  760.    Poisson arrival process.}  The Poisson process is used to schedule
  761.    the delay measurements.  The test packets will generally not arrive
  762.    at Dst according to a Poisson distribution, since they are influenced
  763.    by the network.
  764.  
  765.    All the singleton Type-P-One-way-Delay metrics in the sequence will
  766.    have the same values of Src, Dst, and Type-P.
  767.  
  768.    Note also that, given one sample that runs from T0 to Tf, and given
  769.    new time values T0' and Tf' such that T0 <= T0' <= Tf' <= Tf, the
  770.    subsequence of the given sample whose time values fall between T0'
  771.    and Tf' are also a valid Type-P-One-way-Delay-Poisson-Stream sample.
  772.  
  773. 4.6. Methodologies:
  774.  
  775.    The methodologies follow directly from:
  776.  
  777.    +  the selection of specific times, using the specified Poisson
  778.       arrival process, and
  779.  
  780.    +  the methodologies discussion already given for the singleton
  781.       Type-P-One-way-Delay metric.
  782.  
  783.  
  784.  
  785.  
  786. Almes, et al.               Standards Track                    [Page 14]
  787.  
  788. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  789.  
  790.  
  791.    Care must, of course, be given to correctly handle out-of-order
  792.    arrival of test packets; it is possible that the Src could send one
  793.    test packet at TS[i], then send a second one (later) at TS[i+1],
  794.    while the Dst could receive the second test packet at TR[i+1], and
  795.    then receive the first one (later) at TR[i].
  796.  
  797. 4.7. Errors and Uncertainties:
  798.  
  799.    In addition to sources of errors and uncertainties associated with
  800.    methods employed to measure the singleton values that make up the
  801.    sample, care must be given to analyze the accuracy of the Poisson
  802.    process with respect to the wire-times of the sending of the test
  803.    packets.  Problems with this process could be caused by several
  804.    things, including problems with the pseudo-random number techniques
  805.    used to generate the Poisson arrival process, or with jitter in the
  806.    value of Hsource (mentioned above as uncertainty in the singleton
  807.    delay metric).  The Framework document shows how to use the
  808.    Anderson-Darling test to verify the accuracy of a Poisson process
  809.    over small time frames.  {Comment: The goal is to ensure that test
  810.    packets are sent "close enough" to a Poisson schedule, and avoid
  811.    periodic behavior.}
  812.  
  813. 4.8. Reporting the metric:
  814.  
  815.    You MUST report the calibration and context for the underlying
  816.    singletons along with the stream.  (See "Reporting the metric" for
  817.    Type-P-One-way-Delay.)
  818.  
  819. 5. Some Statistics Definitions for One-way Delay
  820.  
  821.    Given the sample metric Type-P-One-way-Delay-Poisson-Stream, we now
  822.    offer several statistics of that sample.  These statistics are
  823.    offered mostly to be illustrative of what could be done.
  824.  
  825. 5.1. Type-P-One-way-Delay-Percentile
  826.  
  827.    Given a Type-P-One-way-Delay-Poisson-Stream and a percent X between
  828.    0% and 100%, the Xth percentile of all the dT values in the Stream.
  829.    In computing this percentile, undefined values are treated as
  830.    infinitely large.  Note that this means that the percentile could
  831.    thus be undefined (informally, infinite).  In addition, the Type-P-
  832.    One-way-Delay-Percentile is undefined if the sample is empty.
  833.  
  834.  
  835.  
  836.  
  837.  
  838.  
  839.  
  840.  
  841.  
  842. Almes, et al.               Standards Track                    [Page 15]
  843.  
  844. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  845.  
  846.  
  847.    Example: suppose we take a sample and the results are:
  848.  
  849.       Stream1 = <
  850.       <T1, 100 msec>
  851.       <T2, 110 msec>
  852.       <T3, undefined>
  853.       <T4, 90 msec>
  854.       <T5, 500 msec>
  855.       >
  856.  
  857.    Then the 50th percentile would be 110 msec, since 90 msec and 100
  858.    msec are smaller and 110 msec and 'undefined' are larger.
  859.  
  860.    Note that if the possibility that a packet with finite delay is
  861.    reported as lost is significant, then a high percentile (90th or
  862.    95th) might be reported as infinite instead of finite.
  863.  
  864. 5.2. Type-P-One-way-Delay-Median
  865.  
  866.    Given a Type-P-One-way-Delay-Poisson-Stream, the median of all the dT
  867.    values in the Stream.  In computing the median, undefined values are
  868.    treated as infinitely large.  As with Type-P-One-way-Delay-
  869.    Percentile, Type-P-One-way-Delay-Median is undefined if the sample is
  870.    empty.
  871.  
  872.    As noted in the Framework document, the median differs from the 50th
  873.    percentile only when the sample contains an even number of values, in
  874.    which case the mean of the two central values is used.
  875.  
  876.    Example: suppose we take a sample and the results are:
  877.  
  878.    Stream2 = <
  879.       <T1, 100 msec>
  880.       <T2, 110 msec>
  881.       <T3, undefined>
  882.       <T4, 90 msec>
  883.       >
  884.  
  885.    Then the median would be 105 msec, the mean of 100 msec and 110 msec,
  886.    the two central values.
  887.  
  888. 5.3. Type-P-One-way-Delay-Minimum
  889.  
  890.    Given a Type-P-One-way-Delay-Poisson-Stream, the minimum of all the
  891.    dT values in the Stream.    In computing this, undefined values are
  892.    treated as infinitely large.  Note that this means that the minimum
  893.    could thus be undefined (informally, infinite) if all the dT values
  894.    are undefined.  In addition, the Type-P-One-way-Delay-Minimum is
  895.  
  896.  
  897.  
  898. Almes, et al.               Standards Track                    [Page 16]
  899.  
  900. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  901.  
  902.  
  903.    undefined if the sample is empty.
  904.  
  905.    In the above example, the minimum would be 90 msec.
  906.  
  907. 5.4. Type-P-One-way-Delay-Inverse-Percentile
  908.  
  909.    Given a Type-P-One-way-Delay-Poisson-Stream and a time duration
  910.    threshold, the fraction of all the dT values in the Stream less than
  911.    or equal to the threshold.  The result could be as low as 0% (if all
  912.    the dT values exceed threshold) or as high as 100%.  Type-P-One-way-
  913.    Delay-Inverse-Percentile is undefined if the sample is empty.
  914.  
  915.    In the above example, the Inverse-Percentile of 103 msec would be
  916.    50%.
  917.  
  918. 6. Security Considerations
  919.  
  920.    Conducting Internet measurements raises both security and privacy
  921.    concerns.  This memo does not specify an implementation of the
  922.    metrics, so it does not directly affect the security of the Internet
  923.    nor of applications which run on the Internet.  However,
  924.    implementations of these metrics must be mindful of security and
  925.    privacy concerns.
  926.  
  927.    There are two types of security concerns: potential harm caused by
  928.    the measurements, and potential harm to the measurements.  The
  929.    measurements could cause harm because they are active, and inject
  930.    packets into the network.  The measurement parameters MUST be
  931.    carefully selected so that the measurements inject trivial amounts of
  932.    additional traffic into the networks they measure.  If they inject
  933.    "too much" traffic, they can skew the results of the measurement, and
  934.    in extreme cases cause congestion and denial of service.
  935.  
  936.    The measurements themselves could be harmed by routers giving
  937.    measurement traffic a different priority than "normal" traffic, or by
  938.    an attacker injecting artificial measurement traffic.  If routers can
  939.    recognize measurement traffic and treat it separately, the
  940.    measurements will not reflect actual user traffic.  If an attacker
  941.    injects artificial traffic that is accepted as legitimate, the loss
  942.    rate will be artificially lowered.  Therefore, the measurement
  943.    methodologies SHOULD include appropriate techniques to reduce the
  944.    probability measurement traffic can be distinguished from "normal"
  945.    traffic.  Authentication techniques, such as digital signatures, may
  946.    be used where appropriate to guard against injected traffic attacks.
  947.  
  948.    The privacy concerns of network measurement are limited by the active
  949.    measurements described in this memo.  Unlike passive measurements,
  950.    there can be no release of existing user data.
  951.  
  952.  
  953.  
  954. Almes, et al.               Standards Track                    [Page 17]
  955.  
  956. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  957.  
  958.  
  959. 7. Acknowledgements
  960.  
  961.    Special thanks are due to Vern Paxson of Lawrence Berkeley Labs for
  962.    his helpful comments on issues of clock uncertainty and statistics.
  963.    Thanks also to Garry Couch, Will Leland, Andy Scherrer, Sean Shapira,
  964.    and Roland Wittig for several useful suggestions.
  965.  
  966. 8. References
  967.  
  968.    [1]  Paxson, V., Almes, G., Mahdavi, J. and M. Mathis, "Framework for
  969.         IP Performance Metrics", RFC 2330, May 1998.
  970.  
  971.    [2]  Almes, G., Kalidindi, S. and M. Zekauskas, "A One-way Packet
  972.         Loss Metric for IPPM", RFC 2680, September 1999.
  973.  
  974.    [3]  Mills, D., "Network Time Protocol (v3)", RFC 1305, April 1992.
  975.  
  976.    [4]  Mahdavi J. and V. Paxson, "IPPM Metrics for Measuring
  977.         Connectivity", RFC 2678, September 1999.
  978.  
  979.    [5]  Postel, J., "Internet Protocol", STD 5, RFC 791, September 1981.
  980.  
  981.    [6]  Bradner, S., "Key words for use in RFCs to Indicate Requirement
  982.         Levels", BCP 14, RFC 2119, March 1997.
  983.  
  984.    [7]  Bradner, S., "The Internet Standards Process -- Revision 3", BCP
  985.         9, RFC 2026, October 1996.
  986.  
  987.  
  988.  
  989.  
  990.  
  991.  
  992.  
  993.  
  994.  
  995.  
  996.  
  997.  
  998.  
  999.  
  1000.  
  1001.  
  1002.  
  1003.  
  1004.  
  1005.  
  1006.  
  1007.  
  1008.  
  1009.  
  1010. Almes, et al.               Standards Track                    [Page 18]
  1011.  
  1012. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  1013.  
  1014.  
  1015. 9. Authors' Addresses
  1016.  
  1017.    Guy Almes
  1018.    Advanced Network & Services, Inc.
  1019.    200 Business Park Drive
  1020.    Armonk, NY  10504
  1021.    USA
  1022.  
  1023.    Phone: +1 914 765 1120
  1024.    EMail: almes@advanced.org
  1025.  
  1026.  
  1027.    Sunil Kalidindi
  1028.    Advanced Network & Services, Inc.
  1029.    200 Business Park Drive
  1030.    Armonk, NY  10504
  1031.    USA
  1032.  
  1033.    Phone: +1 914 765 1128
  1034.    EMail: kalidindi@advanced.org
  1035.  
  1036.  
  1037.    Matthew J. Zekauskas
  1038.    Advanced Network & Services, Inc.
  1039.    200 Business Park Drive
  1040.    Armonk, NY 10504
  1041.    USA
  1042.  
  1043.    Phone: +1 914 765 1112
  1044.    EMail: matt@advanced.org
  1045.  
  1046.  
  1047.  
  1048.  
  1049.  
  1050.  
  1051.  
  1052.  
  1053.  
  1054.  
  1055.  
  1056.  
  1057.  
  1058.  
  1059.  
  1060.  
  1061.  
  1062.  
  1063.  
  1064.  
  1065.  
  1066. Almes, et al.               Standards Track                    [Page 19]
  1067.  
  1068. RFC 2679            A One-way Delay Metric for IPPM       September 1999
  1069.  
  1070.  
  1071. 10.  Full Copyright Statement
  1072.  
  1073.    Copyright (C) The Internet Society (1999).  All Rights Reserved.
  1074.  
  1075.    This document and translations of it may be copied and furnished to
  1076.    others, and derivative works that comment on or otherwise explain it
  1077.    or assist in its implementation may be prepared, copied, published
  1078.    and distributed, in whole or in part, without restriction of any
  1079.    kind, provided that the above copyright notice and this paragraph are
  1080.    included on all such copies and derivative works.  However, this
  1081.    document itself may not be modified in any way, such as by removing
  1082.    the copyright notice or references to the Internet Society or other
  1083.    Internet organizations, except as needed for the purpose of
  1084.    developing Internet standards in which case the procedures for
  1085.    copyrights defined in the Internet Standards process must be
  1086.    followed, or as required to translate it into languages other than
  1087.    English.
  1088.  
  1089.    The limited permissions granted above are perpetual and will not be
  1090.    revoked by the Internet Society or its successors or assigns.
  1091.  
  1092.    This document and the information contained herein is provided on an
  1093.    "AS IS" basis and THE INTERNET SOCIETY AND THE INTERNET ENGINEERING
  1094.    TASK FORCE DISCLAIMS ALL WARRANTIES, EXPRESS OR IMPLIED, INCLUDING
  1095.    BUT NOT LIMITED TO ANY WARRANTY THAT THE USE OF THE INFORMATION
  1096.    HEREIN WILL NOT INFRINGE ANY RIGHTS OR ANY IMPLIED WARRANTIES OF
  1097.    MERCHANTABILITY OR FITNESS FOR A PARTICULAR PURPOSE.
  1098.  
  1099. Acknowledgement
  1100.  
  1101.    Funding for the RFC Editor function is currently provided by the
  1102.    Internet Society.
  1103.  
  1104.  
  1105.  
  1106.  
  1107.  
  1108.  
  1109.  
  1110.  
  1111.  
  1112.  
  1113.  
  1114.  
  1115.  
  1116.  
  1117.  
  1118.  
  1119.  
  1120.  
  1121.  
  1122. Almes, et al.               Standards Track                    [Page 20]
  1123.  
  1124.