home *** CD-ROM | disk | FTP | other *** search
/ Internet Info 1997 December / Internet_Info_CD-ROM_Walnut_Creek_December_1997.iso / drafts / draft_ietf_a_c / draft-ietf-bmwg-mcast-01.txt < prev    next >
Text File  |  1997-03-27  |  20KB  |  626 lines

  1.  
  2.  
  3. Network Working Group                                      K. Dubray
  4. INTERNET-DRAFT                                          Bay Networks
  5. Expiration Date:  September 1997                          March 1997
  6.  
  7.                  Terminology for IP Multicast Benchmarking
  8.                      <draft-ietf-bmwg-mcast-01.txt>
  9.  
  10. Status of this Memo
  11.  
  12.    This document is an Internet-Draft.  Internet-Drafts are working
  13.    documents of the Internet Engineering Task Force (IETF), its areas,
  14.    and its working groups.  Note that other groups may also distribute
  15.    working documents as Internet-Drafts.
  16.  
  17.    Internet-Drafts are draft documents valid for a maximum of six months
  18.    and may be updated, replaced, or obsoleted by other documents at any
  19.    time.  It is inappropriate to use Internet- Drafts as reference
  20.    material or to cite them other than as ``work in progress.''
  21.  
  22.    To learn the current status of any Internet-Draft, please check the
  23.    ``1id-abstracts.txt'' listing contained in the Internet- Drafts
  24.    Shadow Directories on ftp.is.co.za (Africa), nic.nordu.net (Europe),
  25.    munnari.oz.au (Pacific Rim), ds.internic.net (US East Coast), or
  26.    ftp.isi.edu (US West Coast).
  27.  
  28. Abstract
  29.  
  30.    The purpose of this draft is to add terminology specific to the 
  31.    benchmarking of multicast IP forwarding devices. It builds upon the 
  32.    tenets set forth in RFC 1242, RFC 1944, and other IETF Benchmarking 
  33.    Methodology Working Group (BMWG) effort and extends them to the 
  34.    multicast paradigm.  
  35.  
  36. 1.  Introduction
  37.  
  38.    Network forwarding devices are being required to take a single
  39.    frame and support delivery to a number of destinations having 
  40.    membership to a particular group. As such, multicast support may 
  41.    place a different burden on the resources of these network 
  42.    forwarding devices than with unicast or broadcast traffic types.
  43.  
  44.    By clearly identifying benchmarks and related terminology in this
  45.    document, it is hoped that detailed methodologies can be generated 
  46.    in subsequent documents.  Taken in tandem, these two efforts 
  47.    endeavor to assist the clinical, empirical, and consistent 
  48.    characterization of certain aspects of multicast technologies and 
  49.    their individual implementations. 
  50.  
  51.    [While primarily directed towards intermediate IP multicast 
  52.    forwarding devices on LANs, elements of this text may or may not be
  53.    applicable to other media as well.]
  54.  
  55. Dubray, K.             Expires September 1997                [Page 1]
  56.  
  57. INTERNET-DRAFT     Multicast Benchmarking Terminology    March 1997
  58.  
  59.  
  60. 2.  Definition Format 
  61.  
  62.    This section cites the template suggested by RFC 1242 in the
  63.    specification of a term to be defined. 
  64.  
  65.    Term to be defined.
  66.  
  67.    Definition:
  68.       The specific definition for the term.
  69.  
  70.    Discussion:
  71.       A brief discussion of the term, its application and any
  72.       restrictions on measurement procedures.
  73.  
  74.    Measurement units:
  75.       Units used to record measurements of this term, if applicable.
  76.  
  77.    [Issues:]
  78.       List of issues or conditions that effect this term. This
  79.       field is optional in this draft.
  80.  
  81.    [See Also:]
  82.       List of other terms that are relevant to the discussion
  83.       of this term. This field is optional in this draft.  
  84.  
  85. 2.1 Existing Terminology
  86.  
  87.    This document draws on existing terminology defined in other
  88.    BMWG work.  Examples include, but are not limited to:
  89.  
  90.    Throughput        (RFC 1242, section 3.17)
  91.    Latency           (RFC 1242, section 3.8)
  92.    Constant Load     (RFC 1242, section 3.4)
  93.    Frame Loss Rate   (RFC 1242, section 3.6)
  94.    Overhead behavior (RFC 1242, section 3.11)
  95.  
  96.  
  97. 3. Table of Defined Terms
  98.  
  99.    3.1 General Nomenclature
  100.      3.1.1 Device Under Test (DUT).
  101.      3.1.2 System Under Test (SUT).
  102.      3.1.3 Target Rate.
  103.      3.1.4 Offered Rate.
  104.      3.1.5 Forwarding Rate.
  105.      3.1.6 Maximum Forwarding Rate (MFR).
  106.      3.1.7 Flow.
  107.      3.1.8 Group Flow.
  108.      3.1.9 Service Flow.
  109.   
  110. Dubray, K.             Expires September 1997                [Page 2]
  111.  
  112. INTERNET-DRAFT     Multicast Benchmarking Terminology    March 1997
  113.  
  114.  
  115.    3.2 Throughput
  116.      3.2.1 Mixed Flow Throughput (MFT).
  117.      3.2.2 Scaled Group Throughput (SGT).
  118.      3.2.3 Aggregated Multicast Throughput (AMT)
  119.      3.2.4 Translational Throughput (TT)
  120.  
  121.    3.3 Fairness
  122.  
  123.    3.4 Forwarding Latency
  124.      3.4.1 Multicast Latency
  125.      3.4.2 Min/Max Multicast Latency
  126.  
  127.    3.5 Overhead
  128.      3.5.1 Group Join Delay.
  129.      3.5.2 Group Leave Delay.
  130.  
  131.    3.6 Capacity
  132.      3.6.1 Multicast Group Capacity.
  133.  
  134.  
  135. 3.1 General Nomenclature
  136.    This section will present general terminology to be used in
  137.    this and other documents.
  138.  
  139.  
  140. 3.1.1 Device Under Test (DUT).
  141.  
  142.    Definition: 
  143.      The network forwarding device being tested.    
  144.  
  145.    Discussion:
  146.  
  147.    Measurement units:
  148.       Not applicable.
  149.  
  150.    Issue:
  151.      This definition is being moved to the BMWG LAN switch
  152.      terminology draft.  This item will be deleted from this
  153.      multicast terminology draft upon migration. 
  154.  
  155.  
  156. 3.1.2 System Under Test (SUT).
  157.  
  158.    Definition: 
  159.      The collective set of network devices being tested as a singular 
  160.      entity.    
  161.  
  162. Dubray, K.             Expires September 1997                [Page 3]
  163.  
  164. INTERNET-DRAFT     Multicast Benchmarking Terminology    March 1997
  165.  
  166.  
  167.    Discussion: A system under test may be comprised of a variety
  168.      of networking devices.  Some devices may be active in the
  169.      forwarding decision making process, such as routers or switches;
  170.      other devices may be passive such as CSU/DSUs.  Regardless
  171.      of constituent components, the system is treated as a "black box"
  172.      to which stimuli is offered and response measured.  
  173.  
  174.    Measurement units:
  175.       Not applicable.
  176.  
  177.    Issue:
  178.      This definition is being moved to the BMWG LAN switch
  179.      terminology draft.  This item will be deleted from this
  180.      multicast terminology draft upon migration. 
  181.  
  182. 3.1.3 Target Rate.
  183.  
  184.    Definition: 
  185.      The requested rate at which the test device attempts to offer the 
  186.      DUT or SUT test traffic.
  187.  
  188.    Discussion:
  189.      There are networks events (e.g., collisions) that may preclude the
  190.      test device from delivering the requested rate to the SUT. In this
  191.      case, differentiation is made between target rate and offered rate.
  192.  
  193.    Measurement units:
  194.      Frames per second. 
  195.  
  196.    Issue:
  197.      This definition is being moved to the BMWG LAN switch
  198.      terminology draft as "intended rate".  This item will be deleted 
  199.      multicast terminology draft upon migration. 
  200.  
  201.  
  202. 3.1.4 Offered Rate.
  203.  
  204.    Definition: 
  205.      The actual resultant rate at which the test device is successful 
  206.      in offering test traffic to the SUT.
  207.      
  208.    Discussion:
  209.      Contrast with Target Rate. Note relationship to Forwarding Rate.
  210.  
  211.    Measurement units:
  212.      Frames per second.
  213.  
  214. Dubray, K.             Expires September 1997                [Page 4]
  215.  
  216. INTERNET-DRAFT     Multicast Benchmarking Terminology    March 1997
  217.  
  218.  
  219.    Issue:
  220.      This definition is being moved to the BMWG LAN switch
  221.      terminology draft.  This item will be deleted from this
  222.      multicast terminology draft upon migration. 
  223.  
  224. 3.1.5 Forwarding Rate.
  225.  
  226.    Definition: 
  227.      The rate at which the SUT has been observed to successfully 
  228.      forward test traffic to the traffic's correct destination(s) in
  229.      response to a particular offered rate.
  230.  
  231.    Discussion:
  232.      Note the specification of "correct destination(s)" in the
  233.      definition.  The reporting of a forwarding rate MUST 
  234.      correspond to an associated Offered Rate.  Frame loss is not
  235.      a constraint when reporting Forwarding Rate.
  236.  
  237.    Measurement units:
  238.      Frames per second.
  239.  
  240.    Issue:
  241.      This definition is being moved to the BMWG LAN switch
  242.      terminology draft.  This item will be deleted from this
  243.      multicast terminology draft upon migration. 
  244.  
  245. 3.1.6 Maximum Forwarding Rate (MFR).
  246.  
  247.    Definition: 
  248.      The rate at which the SUT has been observed to successfully 
  249.      forward test traffic to the traffic's correct destination(s) in
  250.      response to the test device's maximum offered rate.
  251.      
  252.    Discussion:
  253.      Because a DUT's maximum forwarding rate does not always equal 
  254.      the largest forwarding rate of the DUT, this metric can sometimes 
  255.      indicate oversubscription or congestion internal to the DUT/SUT.  
  256.      For example, consider the following table:
  257.  
  258.               Test Device             DUT
  259.              Offered  Rate      Forwarding Rate 
  260.              -------------      ---------------
  261.            1.  14,880 fps           7,400 fps
  262.            2.  13,880 fps           8,472 fps
  263.            3.  12,880 fps          12,880 fps
  264.  
  265. Dubray, K.             Expires September 1997                [Page 5]
  266.  
  267. INTERNET-DRAFT     Multicast Benchmarking Terminology    March 1997
  268.  
  269.  
  270.      The tester's maximum offered rate is 14,880 frames per second,
  271.      as indicated in line 1. Per the definition, the corresponding 
  272.      MFR for the DUT is 7,440 fps - not the 12,880 fps indicated in
  273.      line 3.    
  274.  
  275.      When reporting the MFR, the corresponding test device's maximum
  276.      offered load MUST be cited.  This is due to the fact that not
  277.      all test devices deliver the maximum usable bandwidth.  In the
  278.      case when the test device is able to exceed the maximum, legal 
  279.      bandwidth, the test results SHOULD reflect that the test was 
  280.      conducted in a overload condition.
  281.  
  282.    Measurement units:
  283.      Frames per second.
  284.  
  285.    Issue:
  286.      This definition is being moved to the BMWG LAN switch
  287.      terminology draft as "Forwarding Rate at Maximum Offered Load."  
  288.      This item will be deleted from this multicast terminology draft 
  289.      upon migration.
  290.  
  291.  
  292. 3.1.7 Flow.
  293.  
  294.    Definition: 
  295.      An equivalence class of packets comprising one or more data 
  296.      streams.
  297.  
  298.    Discussion:
  299.      In the scope of this document, Flow will be considered a logical 
  300.      identifier used to discriminate between a set or sets of packets 
  301.      offered the DUT. 
  302.  
  303.      For example, one flow may identify a set of unicast packets 
  304.      offered to the DUT.  Another flow may differentiate the
  305.      multicast packets destined to multicast group X. Yet another
  306.      flow may distinguish the set of multicast packets destined to
  307.      multicast group Y.
  308.  
  309.    Measurement units:
  310.      Not applicable.
  311.  
  312.    Issue:  This definition does not seem to be inconsistent with 
  313.      section 1.2 of the RSVP draft, but may not map directly to 
  314.      work being done in the RTFM space.
  315.  
  316.  
  317. Dubray, K.             Expires September 1997                [Page 6]
  318.  
  319. INTERNET-DRAFT     Multicast Benchmarking Terminology    March 1997
  320.  
  321.  
  322. 3.1.8 Group Flow.
  323.  
  324.    Definition:
  325.      A specific type of flow where the packets comprising the flow 
  326.      are destined to a particular multicast group.
  327.  
  328.    Discussion:
  329.      
  330.    Measurement units:
  331.      Not applicable.
  332.  
  333.  
  334. 3.1.9 Service Flow.
  335.  
  336.    Definition:
  337.      A specific type of flow where the packets comprising the flow 
  338.      require particular treatment or treatments by the network 
  339.      forwarding devices along the path to the packets' destination(s).
  340.  
  341.    Discussion:
  342.  
  343.    Measurement units:
  344.      Not applicable.
  345.  
  346. 3.2 Throughput.
  347.  
  348.    This section presents terminology relating to the characterization of 
  349.    the packet forwarding ability of a DUT/SUT in a multicast environment.
  350.    It extends the concept of throughput presented in RFC 1242.
  351.  
  352.  
  353. 3.2.1 Mixed Flow Throughput (MFT).
  354.  
  355.    Definition:
  356.      The maximum rate at which none of the offered frames, comprised
  357.      from a unicast flow and a multicast flow, to be forwarded are 
  358.      dropped by the device.
  359.  
  360.    Discussion:
  361.      Often times, throughput is collected on a homogenous traffic 
  362.      type - though the packets' destinations may vary, the packets
  363.      follow the same packet forwarding path through the DUT.
  364.  
  365.      Based on the RFC 1242 definition for throughput, the Mixed
  366.      Flow Throughput benchmark attempts to characterize the DUT's 
  367.      ability to process both unicast and multicast frames in the
  368.      same aggregated traffic stream.
  369.  
  370. Dubray, K.             Expires September 1997                [Page 7]
  371.  
  372. INTERNET-DRAFT     Multicast Benchmarking Terminology    March 1997
  373.  
  374.    Measurement units:
  375.      Frames per second
  376.  
  377.    Issues:
  378.      Related methodology may have to address the ratio of unicast packets
  379.      to multicast packets. 
  380.  
  381.  
  382. 3.2.2 Scaled Group Throughput (SGT). 
  383.  
  384.    Definition: 
  385.      The maximum number of multicast groups that a DUT/SUT can
  386.      support and still yield the same throughput as supporting a 
  387.      single multicast group.
  388.  
  389.    Discussion:
  390.      A desirable attribute of many Internet mechanisms is the ability 
  391.      to "scale." This benchmark seeks to demonstrate the ability 
  392.      of a SUT to scale the number of multicast groups upwards while
  393.      holding it to the RFC 1242 definition of throughput for a single
  394.      multicast group.
  395.  
  396.    Measurement units:
  397.      Number of multicast groups.
  398.  
  399.    Issues:
  400.      The corresponding methodology (or even the definition itself) may
  401.      have to reflect the impact that the pairing (source, group) has on
  402.      many multicast routing protocols.
  403.  
  404.  
  405. 3.2.3 Aggregated Multicast Throughput (AMT)
  406.  
  407.    Definition:
  408.      The maximum rate at which none of the offered frames to be
  409.      forwarded through N destination interfaces of the same multicast
  410.      group are dropped.
  411.  
  412.    Discussion:
  413.      Another "scaling" type of exercise, designed to identify the
  414.      DUT/SUT's ability to handle traffic as a function of the
  415.      multicast destination ports it is required to support.
  416.  
  417.    Measurement units:
  418.      The ordered pair (N,t) where,
  419.  
  420.         N = the number of destination ports of the multicast group.
  421.         t = the throughput, in frames per second, relative to the
  422.             source stream.
  423.  
  424. Dubray, K.             Expires September 1997                [Page 8]
  425.  
  426. INTERNET-DRAFT     Multicast Benchmarking Terminology    March 1997
  427.  
  428.  
  429.  
  430. 3.2.4 Translational Throughput (TT)
  431.  
  432.  Definition:
  433.      The maximum rate at which none of the frames offered in an
  434.      transitional format to the SUT are dropped in the process of
  435.      converting those frames to their appropriate, final format and
  436.      subsequent correct delivery.
  437.  
  438.    Discussion:
  439.      A popular technique in presenting frames to devices that may
  440.      not support a protocol feature is to encapsulate, or tunnel,
  441.      the packet containing the unsupported feature in a format that 
  442.      is supported by that device.  This benchmark attempts to 
  443.      characterize the overhead behavior associated with that
  444.      transitional process. 
  445.  
  446.      Consideration may need to be given with respect to the impact
  447.      of different frame formats on usable bandwidth.
  448.  
  449.    Measurement units:
  450.      Frames per second.
  451.  
  452.  
  453. 3.3 Fairness.
  454.  
  455.    Definition: 
  456.      The ability of a SUT to fulfill the requirements of a flow
  457.      without compromising the requirements, if any, of other flows. 
  458.  
  459.    Discussion:
  460.      
  461.    Measurement units:
  462.      Not applicable.
  463.  
  464.  
  465. 3.4 Forwarding Latency.
  466.  
  467.    This section presents terminology relating to the characterization of 
  468.    the forwarding latency of a DUT/SUT in a multicast environment.
  469.    It extends the concept of latency presented in RFC 1242.
  470.  
  471.  
  472. Dubray, K.             Expires September 1997                [Page 9]
  473.  
  474. INTERNET-DRAFT     Multicast Benchmarking Terminology    March 1997
  475.  
  476.  
  477. 3.4.1 Multicast Latency.
  478.  
  479.    Definition: 
  480.      The set of individual latencies from a single input port on
  481.      the DUT or SUT to all tested ports belonging to the destination
  482.      multicast group. 
  483.  
  484.    Discussion:
  485.      This benchmark is based on the RFC 1242 definition of latency. 
  486.      While it is useful to collect latency between a pair of source 
  487.      and destination multicast ports, it may be insightful to collect 
  488.      the same type of measurements across a range of ports supporting
  489.      that group flow.
  490.  
  491.      A variety of statistical exercises can be applied to the set of
  492.      latencies measurements.
  493.  
  494.    Measurement units:
  495.      Time units with enough precision to reflect measurement.
  496.  
  497.  
  498. 3.4.2 Min/Max Multicast Latency.
  499.  
  500.    Definition: 
  501.      The difference between the maximum latency measurement and the
  502.      minimum latency measurement from the set of latencies produced by
  503.      the Multicast Latency benchmark.
  504.  
  505.    Discussion:
  506.      This statistic may yield some insight into how a particular
  507.      implementation handles its multicast traffic.  This may be useful
  508.      to users of multicast synchronization types of applications.
  509.  
  510.    Measurement units:
  511.      Time units with enough precision to reflect measurement.
  512.  
  513.  
  514. 3.5  Overhead
  515.  
  516.    This section presents terminology relating to the characterization of
  517.    the overhead delays associated with explicit operations found in 
  518.    multicast environments.
  519.  
  520.  
  521. Dubray, K.             Expires September 1997                [Page 10]
  522.  
  523. INTERNET-DRAFT     Multicast Benchmarking Terminology    March 1997
  524.  
  525.  
  526. 3.5.1 Group Join Delay.
  527.  
  528.    Definition: 
  529.      The time duration it takes a DUT/SUT to start forwarding multicast
  530.      packets from the time a successful IGMP group membership report has
  531.      been issued to the DUT/SUT.
  532.  
  533.    Discussion:
  534.      Many different factors can contribute to different results, such as
  535.      the number or type of multicast-related protocols configured
  536.      on the system under test.     
  537.  
  538.      A consideration for the related methodology:  possible need to
  539.      differentiate a specifically-forwarded multicast frame from those
  540.      sprayed by protocols implementing a flooding tactic to solicit prune 
  541.      feedback.
  542.  
  543.    Measurement units:
  544.      Microseconds.
  545.  
  546.  
  547. 3.5.2 Group Leave Delay.
  548.  
  549.    Definition: 
  550.      The time duration it takes a DUT/SUT to cease forwarding multicast
  551.      packets after a corresponding IGMP "Leave Group" message has been 
  552.      successfully offered to the DUT/SUT.
  553.  
  554.    Discussion:
  555.      While it is important to understand how quickly a system can
  556.      process multicast frames; it may be beneficial to understand
  557.      how quickly that same system can stop the process as well.
  558.  
  559.    Measurement units:
  560.      Microseconds.
  561.  
  562.    Issues: Methodology may need to consider protocol-specific timeout
  563.      values. 
  564.  
  565.  
  566. 3.6 Capacity
  567.  
  568.    This section offers terms relating to the identification of multicast
  569.    group limits of a DUT/SUT.
  570.  
  571. Dubray, K.             Expires September 1997                [Page 12]
  572.  
  573. INTERNET-DRAFT     Multicast Benchmarking Terminology    March 1997
  574.  
  575. 3.6.1 Multicast Group Capacity.
  576.  
  577.    Definition: 
  578.      The maximum number of multicast groups a SUT/DUT can support
  579.      while maintaining the ability to forward multicast frames 
  580.      to all multicast groups registered to that SUT/DUT.
  581.  
  582.    Discussion:
  583.      
  584.    Measurement units:
  585.      Multicast groups.
  586.  
  587.    Issues:
  588.      The related methodology may have to consider the impact of multicast
  589.      sources per group on the ability of a SUT/DUT to "scale up" the 
  590.      number of supportable multicast groups.
  591.  
  592. 4. Security Considerations
  593.  
  594.    Security issues are not addressed in this memo.
  595.  
  596.  
  597. 5. References
  598.  
  599.    [1] Bradner, S.  Benchmarking Terminology for Network 
  600.        Interconnection Devices. RFC 1242.  July, 1991. 
  601.  
  602.    [2] Bradner, S., McQuaid, J.  Benchmarking Methodology for Network 
  603.        Interconnect Devices. RFC 1944.  May, 1996. 
  604.  
  605.    [3] Craig, R.  Terminology for Cell/Call Benchmarking. <draft-ietf-
  606.        bmwg-call-00.txt> November, 1996. Work in progress.
  607.  
  608.    [4] Mandeville, R.  Benchmarking Terminology for LAN Switching 
  609.        Devices. <draft-ietf-bmwg-lanswitch-03.txt> February, 1997. 
  610.        Work in progress.
  611.  
  612. 5. Author's Address
  613.  
  614.    Kevin Dubray
  615.    Bay Networks, Inc.
  616.    2 Federal Street
  617.    Billerica, MA 01984
  618.    (508) 436-3862
  619.    kdubray@baynetworks.com
  620.  
  621.    or direct discussion to the Benchmarking Methodology Working Group:
  622.    bmwg@harvard.edu
  623.  
  624. Dubray, K.             Expires September 1997                [Page 13]
  625.  
  626.