home *** CD-ROM | disk | FTP | other *** search
/ The World of Computer Software / World_Of_Computer_Software-02-387-Vol-3of3.iso / r / rxridg93.zip / PATHPROJ.DOC < prev    next >
Text File  |  1993-03-01  |  44KB  |  799 lines

  1.  
  2.  
  3.  
  4.  
  5.  
  6.           ┌─────────────────────────────────────────────────────────────┐
  7.           │ ┌─────────────────────────────────────────────────────────┐ │
  8.           │ │     ASCII Documentation File for ... PathProj.EXE       │ │
  9.           │ │                                                         │ │
  10.           │ │                       Version 9201                      │ │
  11.           │ ├─────────────────────────────────────────────────────────┤ │
  12.           │ │                                                         │ │
  13.           │ │             a softRX SHAREWARE module from              │ │
  14.           │ │                                                         │ │
  15.           │ │       Bob Obenchain, CompuServe User [72007,467]        │ │
  16.           │ └─────────────────────────────────────────────────────────┘ │
  17.           └─────────────────────────────────────────────────────────────┘
  18.             softRX is a trademark of The Software Prescriptions Company.
  19.            "Personal computing treatments for data analysis infirmities."
  20.                    Copyright(c) 1989-1993 by Bob Obenchain, Ph.D.
  21.                                 ALL RIGHTS RESERVED
  22.  
  23.                                 *******************
  24.  
  25.                The author of PathProj, Bob Obenchain, is a member of
  26.                  the Association of Shareware Professionals <ASP>.
  27.  
  28.  
  29.                                 ┌───────────────────┐
  30.        ─────────────────────────┤ Table-of-Contents ├─────────────────────────
  31.                                 └───────────────────┘
  32.  
  33.        softRX User Registration . . . . . . . . . . . . . . . . . . . . . . 1
  34.        Introduction to PathProj . . . . . . . . . . . . . . . . . . . . . . 2
  35.        Shrinkage Regression Background Information. . . . . . . . . . . . . 3
  36.        Computing System Requirements for PathProj . . . . . . . . . . . . . 4
  37.        softRX Graphical Design Philosophy . . . . . . . . . . . . . . . . . 4
  38.        PathProj File Naming Conventions . . . . . . . . . . . . . . . . . . 5
  39.        PathProj Walk-Through. . . . . . . . . . . . . . . . . . . . . . . . 6
  40.        TECHNICAL APPENDIX: "Extent" and "Shape" of Shrinkage. . . . . . . .12
  41.        PathProj Update History. . . . . . . . . . . . . . . . . . . . . . .14
  42.        ASP Hub Network. . . . . . . . . . . . . . . . . . . . . . . . . . .15
  43.  
  44.                                ┌─────────────────────┐
  45.        ────────────────────────┤  USER REGISTRATION  ├────────────────────────
  46.                                └─────────────────────┘
  47.  
  48.        PathProj.EXE, its ASCII documentation file [PathProj.DOC], and the
  49.        included batch input/output (numerical example) files are user-
  50.        supported electronic information that we encourage you to examine and
  51.        to share with others, provided you have not modified them in any way.
  52.        All softRX SHAREWARE modules are distributed in fully functional form
  53.        and will remain so without any usage time limits.  softRX systems do
  54.        not display annoying registration "reminder" screens or messages.  And
  55.        no (non-commercial) user who is unable to correspond with softRX in
  56.        English is expected to register.
  57.          PathProj, version 9201 . . . . . . . . . . . . . . . Page 2 of 15
  58.  
  59.  
  60.  
  61.                        **************************************
  62.                        **************************************
  63.  
  64.               Only YOU know whether softRX systems are useful to you.
  65.  
  66.                      And, if you do use them, you must register!
  67.  
  68.                        **************************************
  69.                        **************************************
  70.  
  71.        The registration fee for PathProj is $25 for use either by a single
  72.        individual or for installation on one single-user-at-a-time system.
  73.        Three softRX modules (say, RXridge, RXtraces, and PathProj) may be
  74.        registered together for $50.  softRX offers MAIL-IN SUPPORT SERVICES
  75.        (e.g. answers to questions on the theory, application and/or
  76.        computation of statistical "shrinkage" regression techniques) only to
  77.        its REGISTERED users.
  78.  
  79.        However, registration fees are mandatory for use of softRX modules in
  80.        any commercial or government environment.  These users must register
  81.        and pay for their copies within 30 days of first actual use or else
  82.        their license is withdrawn.  Site-License arrangements (of at most $15
  83.        per module) may also be made by contacting softRX.
  84.  
  85.              Make checks payable to...        Bob Obenchain
  86.  
  87.              and mail them to...              5261 Woodfield Drive North
  88.                                               Carmel, IN 46033-8795, USA
  89.  
  90.         !!! Thank You for Supporting the <<<softRX shareware>>> Concept !!!
  91.  
  92.  
  93.                          ┌─────────────────────────────┐
  94.        ──────────────────┤   INTRODUCTION to PathProj  ├──────────────────────
  95.                          └─────────────────────────────┘
  96.  
  97.        PathProj does NOT perform generalized ridge regression computations.
  98.        Rather, PathProj generates interactive graphical displays of the results
  99.        from other softRX shareware systems...like RXridge.EXE, RelaxR.EXE, or
  100.        the RXridge procedures distributed as source code for the GAUSS,
  101.        SAS/IML, and S matrix-language interpreters.
  102.  
  103.        PathProj generates INTERACTIVE graphical displays on IBM-compatible
  104.        personal computers in CGA (medium resolution, 320x200 pixel) mode.
  105.        PathProj helps users interpret the results of a generalized ridge
  106.        regression analysis by displaying orthogonal
  107.  
  108.               PROJECTIONS of either  regression coefficient estimates
  109.                                  or  predictor (regressor) coordinates
  110.  
  111.        from P-dimensional space down onto a user specified 2-dimensional
  112.        subspace, where P = [ number of non-constant predictor variables
  113.        in the regression model ] can range from 2 to 20.
  114.          PathProj, version 9201 . . . . . . . . . . . . . . . Page 3 of 15
  115.  
  116.  
  117.  
  118.        You do not need to read this documentation before trying PathProj out.
  119.        There is very little damage you can do by giving "wrong" choices for
  120.        menu items and responses to prompts.  However, first of all, please
  121.  
  122.                           > > >  MAKE BACK-UP COPIES  < < <
  123.  
  124.        of the distribution files and/or of the original softRX shareware
  125.        archives.  PathProj does not modify its input files, which are output
  126.        files created by RXridge or RelaxR.  And PathProj does not write
  127.        output files (or make screen prints) unless you first press the "S"
  128.        key and then press a second, "special" key.
  129.  
  130.        Each PathProj prompt has a [default] value that you may accept simply
  131.        by pressing the ENTER key; PathProj menus require you to press a
  132.        single key, where any differences between upper and lower case are
  133.        ignored.  Unless you are already being prompted for input, you can
  134.        view a "help" screen simply by pressing function key F1 or the
  135.        SpaceBar.  And you can always return to the "Main Menu" by repeated
  136.        pressing of the ENTER key.
  137.  
  138.  
  139.                    ┌─────────────────────────────────────────────┐
  140.        ────────────┤ Shrinkage Regression Background Information ├────────────
  141.                    └─────────────────────────────────────────────┘
  142.  
  143.        RXridge and RXtraces are softRX shareware products that interactively
  144.        display results of ridge computations using traditional TRACE plots.
  145.        In a trace, P quantities (several estimated coefficients, risks,
  146.        shrinkage factors, etc.) are plotted vertically against a horizontal
  147.        indicator of the extent of shrinkage (from "no" shrinkage at the least
  148.        squares estimates all the way to "total" shrinkage, where all
  149.        coefficient estimates for non-constant regressor variables are zero.)
  150.  
  151.        PathProj graphics are quite different from traditional trace displays.
  152.        Projection plots focus on two-dimensional views that depict the
  153.        shrinkage path as a curve from an initial point (representing least
  154.        squares) to the origin, [0,0].  There would be no loss in information
  155.        in depicting a trace with only two non-constant regressors as a
  156.        projection plot.  But projection plots usually convey a user-specified
  157.        focussing of attention onto some 2-dimensional linear subspace of a
  158.        (much) larger space.
  159.          PathProj, version 9201 . . . . . . . . . . . . . . . Page 4 of 15
  160.  
  161.  
  162.  
  163.                            ┌───────────────────────────────┐
  164.        ────────────────────┤ Computing System Requirements ├──────────────────
  165.                            └───────────────────────────────┘
  166.  
  167.        PathProj.EXE requires your personal computer to be fully IBM-compatible
  168.        and to be running IBM PC-DOS or Microsoft MS-DOS version 2.0 or
  169.        higher.  PathProj uses the screen handling capabilities of a CGA, EGA,
  170.        or VGA graphics card/monitor.  If you system has only a Monochrome
  171.        Graphics Adapter (MGA) card or Hercules Graphics Card (HGC), you could
  172.        "simulate" CGA graphics capabilities in order to view trace displays.
  173.        For example, if you have SIMCGA.COM (version 4.0, July 1987) by C. P.
  174.        Guzis, you could make the SIMCGA system "memory resident" before
  175.        invoking PathProj.
  176.  
  177.                                 DOS Prompt> simcga 3
  178.  
  179.        WARNING:  Your CONFIG.SYS file should specify at least...
  180.  
  181.                                       files=20
  182.  
  183.                            ┌─────────────────────────────┐
  184.        ────────────────────┤ Graphical Design Philosophy ├────────────────────
  185.                            └─────────────────────────────┘
  186.  
  187.        PathProj uses CGA (medium resolution, 320x200 pixel) graphics because
  188.        all true graphics hardware for IBM-compatible personal computers has
  189.        at least this (minimum) capability.  Besides, the (8x8) text font for
  190.        this resolution resides in ROM within your system.  But using CGA also
  191.        means that there isn't enough resolution to draw "nice" labels, tick
  192.        marks, and numerical values along axes without greatly reducing the
  193.        size of the TRACE plot window.  I certainly did not want to use any
  194.        sort of reduced-size plot; rather, I decided to emphasize INTERACTIVE
  195.        (dynamic, on-screen annotation) methods for high-lighting / reading
  196.        numerical values directly off of shrinkage TRACE screen displays.
  197.        [You interact with the display using the I, V, H, N, and arrow keys as
  198.        explained below.]
  199.  
  200.        The PathProj plot window is square, rather than oblong, to emphasize
  201.        that the horizontal and vertical units of measurement are identical
  202.        for coefficient projections, i.e. they have an "aspect ratio" of one.
  203.        You can view a "help" screen by pressing either the SpaceBar or
  204.        function key F1.  The resulting HELP screen tells you which keys to
  205.        press to activate and move the on-screen cursor and/or how to
  206.        dynamically annotate, save, or print the screen display.  And you can
  207.        always return to the Menus simply by repeated pressing of the ENTER or
  208.        Escape keys.
  209.          PathProj, version 9201 . . . . . . . . . . . . . . . Page 5 of 15
  210.  
  211.  
  212.  
  213.                               ┌─────────────────────────┐
  214.        ───────────────────────┤ File Naming Conventions ├─────────────────────
  215.                               └─────────────────────────┘
  216.  
  217.        PathProj assumes that you have (or someone else has) already performed
  218.        ridge calculations using one of our softRX systems, each of which
  219.        writes its output to a series of eight (or more) ASCII files.  These
  220.        files have a common FILENAME (of at most 8 characters) and a
  221.        3-character DOS extension, ending with the two letters "RX".
  222.  
  223.        By convention, the filename should not only indicate which set of
  224.        regressor and response data are being analyzed but also which
  225.        numerical value of the shrinkage path "shape" parameter, Q, was used
  226.        in the computations.
  227.  
  228.            For example, the filename "mpg0" labels files associated with
  229.            analysis of "gas mileage data" [ Hocking(1976), "The Analysis and
  230.            Selection of Variables in Regression," Biometrics 32, 1-51 ] using
  231.            Hoerl-Kennard "ordinary" ridge regression, Q = 0.
  232.  
  233.        The 3-character DOS extensions used by softRX software for generalized
  234.        ridge regression analysis are:
  235.  
  236.                              .PRX    ...Parameters and variable names,
  237.  
  238.                              .CRX    ...generalized ridge Coefficients,
  239.                              .RRX    ...Risk (mean-sq-error) estimates,
  240.                              .ERX    ...Excess Eigenvalues (OLS-Ridge),
  241.                              .IRX    ...Inferior direction cosines, and
  242.                              .DRX    ...shrinkage DELTA factors.
  243.  
  244.                              .XRX    ...regressor matrix coordinates.
  245.                              .YRX    ...response  vector coordinates.
  246.  
  247.        NOTE: .RRX, .ERX, .DRX & .YRX files are not presently used by PathProj.
  248.  
  249.        PathProj cannot make plots for a data set unless it can find the
  250.        corresponding .PRX file; it uses the information from the first six
  251.        lines of this file in projection plots of both types.  For example,
  252.        both "mpg0.PRX" and "mpg.PRX" contain...
  253.  
  254.        Line  1:         4 = P, number of regressors (non-constant predictors)
  255.        Line  2:        32 = N, number of observations
  256.        Line  3:         8 = STEPSPU, steps per unit change in MCAL
  257.        Line  4:         0 = QSHAPE of the shrinkage path
  258.        Line  5:        XNAM= CYLNDS CUBINS HPOWER WEIGHT
  259.        Line  6:        YNAM= MPG
  260.        Line  7:          0.8182   0.0000   0.0000
  261.        Line  8:          0.7383   0.1618   0.1250   Note: Lines 7 through 39
  262.         ***                                               contain a 33 by 3
  263.        Line 38:          2.4907 900.7049   3.8750         matrix with columns
  264.        Line 39:          2.7772     +INF   4.0000         TMSE, K, and MCAL.
  265.          PathProj, version 9201 . . . . . . . . . . . . . . . Page 6 of 15
  266.  
  267.  
  268.  
  269.            NOTE: Lines 3 and 4 are present in "mpg.PRX" simply for format
  270.            uniformity; STEPSPU and QSHAPE are meaningless for .XRX files.
  271.  
  272.        The other 3 types of files used by PathProj ( .CRX, .IRX, and .XRX )
  273.        will each contain a matrix with P columns and ( 1 + P * STEPSPU )
  274.        rows...for MCAL = 0 to MCAL = P.  (See the APPENDIX for technical
  275.        information about MCAL.)
  276.  
  277.                               ┌───────────────────────────┐
  278.                               │ ┌───────────────────────┐ │
  279.        ═════════════════════════╡ PathProj Walk-Through ╞══════════════════════
  280.                               │ └───────────────────────┘ │
  281.                               └───────────────────────────┘
  282.  
  283.        To use PathProj, several RXridge or RelaxR output files (*.PRX, etc.)
  284.        MUST be located in the current working directory.  Furthermore, the
  285.        PathProj.EXE file must also either be located in that same directory
  286.        or else in a some location named in your DOS PATH= environment
  287.        variable.  The first step in use of PathProj is thus usually to
  288.        "Change Directories" to the place where your RXridge or RelaxR output
  289.        files are located.  For example, you might need to enter the following
  290.        three sorts of commands at your DOS> prompt...
  291.  
  292.                                       c:
  293.                                       cd \srx\mydata
  294.                                       pathproj
  295.  
  296.        The above three commands: (1) make the "C" partition of your hard-disk
  297.        active, (2) change directories to the "MYDATA" sub-directory of the
  298.        C:\SRX directory, and (3) launch PathProj.
  299.  
  300.        Next, you must select the filename of a softRX ".PRX" file using the
  301.        bounce-bar menu on the FILENAME Specification Screen:
  302.  
  303.            ┌─────────────────────────────────────────────────────────────┐
  304.            │               F I L E N A M E  Specification Screen         │
  305.            │                                                             │
  306.            │                                                             │
  307.            │ ╔FileNames╗   Arrow Keys: Move Highlight Bar Up / Down.     │
  308.            │ ║MPG      ║                                                 │
  309.            │ ║MPG0█████║   Return Key: Selects the Highlighted File.     │
  310.            │ ╚═════════╝                                                 │
  311.            │               Escape Key: Quit......Terminate PathProj.     │
  312.            │                                                             │
  313.            │               Example FILENAMES...                          │
  314.            │                   mpg0         ...Hocking Q =  0 path.      │
  315.            │                   mpg          ...Hocking data coordinates. │
  316.            │                   cement-5     ...Hald    Q = -5 path.      │
  317.            │                   cement       ...Hald    data coordinates. │
  318.            └─────────────────────────────────────────────────────────────┘
  319.          PathProj, version 9201 . . . . . . . . . . . . . . . Page 7 of 15
  320.  
  321.  
  322.  
  323.        Let us suppose you highlighted "mpg0" and then selected that filename by
  324.        pressing the enter key.  The next screen will then be...
  325.  
  326.                    ┌─────────────────────────────────────────────────┐
  327.                    │                                                 │
  328.                    │          M  A  I  N  *  M  E  N  U              │
  329.                    │                                                 │
  330.                    │    FILENAME : mpg0                              │
  331.                    │                                                 │
  332.                    │    Using RX Parameters... mpg0.prx              │
  333.                    │                                                 │
  334.                    │       1 ...Select Horizontal Axis               │
  335.                    │       2 ...Select Vertical Axis                 │
  336.                    │       3 ...Display Path Projection Plot         │
  337.                    │       4 ...Display Predictor Projections        │
  338.                    │       Q ...quit - Exit PathProj.                │
  339.                    │                                                 │
  340.                    │    Choose both 1 and 2 before either 3 or 4.    │
  341.                    │                                                 │
  342.                    │    Choice --> ___      Default = 1              │
  343.                    │                                                 │
  344.                    │    Press a Single Key :  1 2 3 4 Q or Enter     │
  345.                    │    Use ENTER key for Default Choice.            │
  346.                    │    Press Q key to Exit PathProj now.            │
  347.                    └─────────────────────────────────────────────────┘
  348.  
  349.        Accept the default (choice=1) by simply pressing the ENTER key.
  350.  
  351.        ------------------------------------------------------------------------
  352.        Choice = 1 :              Select Horizontal Axis
  353.        ------------------------------------------------------------------------
  354.  
  355.        Modify Horizontal Axis ? <Y|N>
  356.                                      -1        -.5        0        +.5       +1
  357.        No. Name   = Direction Cosine  +----+----+----+----+----+----+----+----+
  358.         1  CYLNDS =    1.0000                             |▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀
  359.         2  CUBINS =    0.0000                             |
  360.         3  HPOWER =    0.0000                             |
  361.         4  WEIGHT =    0.0000                             |
  362.        No. Name   = Direction Cosine  +----+----+----+----+----+----+----+----+
  363.                                      -1        -.5        0        +.5       +1
  364.  
  365.        Press the N key (or the ENTER key) to accept this default choice for the
  366.        horizontal axis direction on the projection plot - i.e. parallel to
  367.        variable number 1.
  368.  
  369.        But, if you press the Y key instead, you will be able to move DOWN the
  370.        predictor variable listing making potential changes to the direction
  371.        cosines.  As soon as you press the ENTER key with the cursor on the last
  372.        direction cosine in the list, PathProj will re-normalize the direction
  373.        cosine vector to total length one, redisplay it, and return the cursor
  374.        to the <Y|N> prompt line.  Pressing the N or ENTER key now signals that
  375.        the revised horizontal direction cosine vector is acceptable to you.  So
  376.          PathProj, version 9201 . . . . . . . . . . . . . . . Page 8 of 15
  377.  
  378.  
  379.  
  380.        keep pressing the Y key and modifying the direction cosines until you
  381.        have exactly the direction you want for the horizontal axis.
  382.  
  383.        EXAMPLE 1: You might respond y(es) and modify the screen as follows:
  384.  
  385.        Modify Horizontal Axis ? <Y|N>  y
  386.                                      -1        -.5        0        +.5       +1
  387.        No. Name   = Direction Cosine  +----+----+----+----+----+----+----+----+
  388.         1  CYLNDS > 1                                     |▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀
  389.         2  CUBINS > 1                                     |
  390.         3  HPOWER > 0                                     |
  391.         4  WEIGHT > 0                                     |
  392.        No. Name   = Direction Cosine  +----+----+----+----+----+----+----+----+
  393.                                      -1        -.5        0        +.5       +1
  394.  
  395.        As soon as you press the ENTER key with the cursor on position 4, above,
  396.        PathProj will re-normalize the direction cosine vector to...
  397.  
  398.        Modify Horizontal Axis ? <Y|N>
  399.                                      -1        -.5        0        +.5       +1
  400.        No. Name   = Direction Cosine  +----+----+----+----+----+----+----+----+
  401.         1  CYLNDS =    0.7071                             |▀▀▀▀▀▀▀▀▀▀▀▀▀▀
  402.         2  CUBINS =    0.7071                             |▀▀▀▀▀▀▀▀▀▀▀▀▀▀
  403.         3  HPOWER =    0.0000                             |
  404.         4  WEIGHT =    0.0000                             |
  405.        No. Name   = Direction Cosine  +----+----+----+----+----+----+----+----+
  406.                                      -1        -.5        0        +.5       +1
  407.  
  408.        ------------------------------------------------------------------------
  409.        Choice = 2 :              Select Vertical Axis
  410.        ------------------------------------------------------------------------
  411.  
  412.        Choice number 2 will be the default when you return to the MainMenu
  413.        after making choice=1.  A screen similar to that for choice = 1 will
  414.        appear, except you will now be specifying a vertical projection axis.
  415.  
  416.        Modify Vertical Axis ? <Y|N>
  417.                                      -1        -.5        0        +.5       +1
  418.        No. Name   = Direction Cosine  +----+----+----+----+----+----+----+----+
  419.         1  CYLNDS =    0.0000                             |
  420.         2  CUBINS =    1.0000                             |▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀
  421.         3  HPOWER =    0.0000                             |
  422.         4  WEIGHT =    0.0000                             |
  423.        No. Name   = Direction Cosine  +----+----+----+----+----+----+----+----+
  424.                                      -1        -.5        0        +.5       +1
  425.          PathProj, version 9201 . . . . . . . . . . . . . . . Page 9 of 15
  426.  
  427.  
  428.  
  429.        Press the N key (or the ENTER key) to accept the default value for the
  430.        vertical axis on projection plots.  The default shown above is to use
  431.        variable number 2 as the vertical axis on projection plots.
  432.  
  433.        If you press the Y key, you will again be able to move DOWN the
  434.        predictor variable listing making potential changes to direction
  435.        cosines.  When you press the ENTER key with the cursor on the last
  436.        variable in the list, PathProj will not only re-normalize the direction
  437.        cosine vector to total length one but will also make it...
  438.  
  439.             ORTHOGONAL to the vector of horizontal axis direction cosines.
  440.  
  441.        Pressing the N or ENTER key now signals that the revised vertical
  442.        direction cosine vector is acceptable to you.  So, again, keep pressing
  443.        the Y key and modifying direction cosines until you have exactly what
  444.        you want for the vertical axis.
  445.  
  446.        EXAMPLE 2: If you modified the default for axis 1 as described in
  447.        example 1, above, the the default for axis 2 automatically becomes:
  448.                                      -1        -.5        0        +.5       +1
  449.        No. Name   = Direction Cosine  +----+----+----+----+----+----+----+----+
  450.         1  CYLNDS =   -0.7071              ▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀|
  451.         2  CUBINS =    0.7071                             |▀▀▀▀▀▀▀▀▀▀▀▀▀▀
  452.         3  HPOWER =    0.0000                             |
  453.         4  WEIGHT =    0.0000                             |
  454.        No. Name   = Direction Cosine  +----+----+----+----+----+----+----+----+
  455.  
  456.        EXAMPLE 3: If you want to see somewhat "distorted" projections onto a
  457.        pair of oblique (rather than mutually orthogonal) axes, proceed as
  458.        follows.  First use choice=1 to specify ANY direction orthogonal to your
  459.        desired vertical axis.  Next, use choice=2 to specify that desired
  460.        vertical axis.  Then use choice=1 to change the horizontal axis as
  461.        desired.  Finally, go directly to choice=3 or choice=4 without viewing
  462.        or redoing choice=2.
  463.  
  464.        ------------------------------------------------------------------------
  465.        Choice = 3 :       Ridge Coefficient Path-Projection
  466.                           with Inferior Direction Depiction
  467.        ------------------------------------------------------------------------
  468.  
  469.        This projection plot has horizontal and vertical magenta axes that
  470.        intersect at the ORIGIN, [0,0], which is the end-point of the ridge
  471.        path.  The projection of the least-squares regression coefficient vector
  472.        onto the 2-dimensional subspace you selected is marked with a white BOX.
  473.        And the projection of the ridge path is drawn as a cyan curve that
  474.        connects the white, least-squares BOX with the shrinkage ORIGIN.
  475.  
  476.        We now list and discuss the "interactive" graphical options you have
  477.        each time that PathProj displays a coefficient projection plot...
  478.  
  479.        ENTER or ESCape key...will return you to the menus so you can switch
  480.                 data sets, axes, and/or to a "coordinate" (rather than
  481.                 coefficient) projection plot.
  482.          PathProj, version 9201 . . . . . . . . . . . . . . . Page 10 of 15
  483.  
  484.  
  485.  
  486.        I key....IDENTIFY path points using a cyan on-screen BOX that you can
  487.                 move along the ridge shrinkage path.  The horizontal and
  488.                 vertical coordinates of the BOX (as well as the MCAL value) are
  489.                 listed on your screen and updated as you move along the path.
  490.  
  491.                 Pressing the right arrow increases MCAL, as if you were moving
  492.                 to the right on a ridge trace plot...i.e. toward the shrinkage
  493.                 terminus at [0,0].  This increase in MCAL may move the BOX
  494.                 left, up or down rather than right on your screen, but you will
  495.                 always be moving toward the intersection of the magenta axes at
  496.                 [0,0]. (Pressing the TAB key increases MCAL by 4 steps rather
  497.                 than 1.)
  498.  
  499.                 Pressing the left arrow decreases MCAL, as if you were moving
  500.                 to the left on a ridge trace plot...i.e. toward the least
  501.                 squares starting point of the ridge path.  This decrease in
  502.                 MCAL may move the cyan BOX right, up or down rather than left
  503.                 on your screen, but you will always be moving toward the white
  504.                 least squares box.  (Pressing BackSpace decreases MCAL by 4
  505.                 steps rather than the 1 step taken when you press left arrow.)
  506.  
  507.                 An estimated "Inferior Direction" usually appears as ridge
  508.                 shrinkage progresses, and the projection of a vector of "unit"
  509.                 length onto your 2-dimensional subspace is shown as a magenta
  510.                 ARROW emerging from the BOX that marks your present position
  511.                 along the ridge path.
  512.  
  513.                    It really doesn't make much difference how long this ARROW
  514.                    "appears" to be, so you may change its apparent length on
  515.                    your screen with the up and down arrow keys.  On the other
  516.                    hand, you do need to monitor the size of the component that
  517.                    lies "in" (parallel to rather than orthogonal to) your
  518.                    2-dimensional subspace.  This relative size (projected
  519.                    length per unit of total length) is listed on your screen
  520.                    as "INFERIOR LENGTH = ".  Note, in particular, that this
  521.                    relative size does not change when you change the apparent
  522.                    length of the ARROW.
  523.  
  524.                    LENGTH = 0.0000 indicates either that no inferior direction
  525.                    exists for that MCAL value or that it is orthogonal to your
  526.                    chosen subspace.  LENGTH = 1.0000 would indicate not only
  527.                    that an inferior direction exists but also that it lies
  528.                    entirely "within" (parallel to) the 2-dimensional subspace
  529.                    you are viewing.
  530.  
  531.                    It also doesn't really matter whether the projected arrow
  532.                    lies in a positive or in a negative "orientation" along the
  533.                    inferior direction.  So you can Reverse this orientation
  534.                    by toggling the R key.
  535.  
  536.                 Finally, press ENTER (to eliminate the on-screen BOX around a
  537.                 path point and the inferior direction projection ARROW) or the
  538.                 S(pecial) key to save or print the annotated screen.
  539.          PathProj, version 9201 . . . . . . . . . . . . . . . Page 11 of 15
  540.  
  541.  
  542.  
  543.        H key....to review the Horizontal Axis direction cosine screen.
  544.  
  545.        V key....to review the  Vertical  Axis direction cosine screen.
  546.  
  547.        N key....Replaces the PathProj plot with a "NAMES and NUMERICS" screen.
  548.                 Use the right arrow, left arrow, Tab, and BackSpace keys to
  549.                 change MCAL (by 1 or 4 steps)...same as with the I key, above.
  550.                 Finally, press ENTER just once to return to graphics mode.
  551.  
  552.        S key....SPECIAL KEY signal.  A message will appear to indicate which
  553.                 keys have been activate for screen saves, dumps, etc.  Press
  554.                 any other key to deactivate the special keys...
  555.  
  556.                              L or F10 dumps screen to HP Laserjet
  557.                              I or F9  dumps to IBM Graphics Matrix
  558.                              E or F8  dumps to Epson FX, JX, or LQ
  559.                              O or F7  dumps to Okidata Microline
  560.                              S = SAVE screen...as filename.PIX
  561.                              Q = QUIT...Immediate Termination!!!
  562.  
  563.                 NOTE: You may also invoke the DOS "graphics" command before
  564.                       entering PathProj and use the Shift-PrtSc key combination
  565.                       for screen dumps.  With some types of dot-matrix printer,
  566.                       this method will produce a better reproduction of your
  567.                       screen than any of the built-in (I, E, or O) keys.
  568.  
  569.        F1 key or SpaceBar...displays a "help" screen that summarizes the above.
  570.  
  571.        ------------------------------------------------------------------------
  572.        Choice = 4 :      Predictor (Coordinate) Projections
  573.        ------------------------------------------------------------------------
  574.  
  575.        This projection plot also has horizontal and vertical magenta axes that
  576.        intersect at the ORIGIN, [0,0].  (This would be the mean of predictor
  577.        coordinates IF they have been "centered.")  The projections of all N
  578.        predictor combinations onto the 2-dimensional subspace you selected are
  579.        marked with cyan BOXes.
  580.  
  581.        NOTE: Predictor coordinates and regression coefficient estimates should
  582.        be visualized as existing in two different Euclidean spaces, each of
  583.        dimension P.  Under normal distribution theory, the two sets of contours
  584.        of constant likelihood are both hyper-ellipsoids with the same principal
  585.        axes (eigenvectors.)  But X'X characterizes the dispersion ellipsoids
  586.        for predictor coordinates, while the inverse of X'X characterizes the
  587.        dispersion ellipsoids of regression coefficients.  Thus, coordinate and
  588.        coefficient eigenvalues (principal axis variances) are the reciprocals
  589.        of each other.  Limited "spread" in the observed predictor coordinates
  590.        along a certain direction translates directly into high variability in
  591.        estimates along that same direction in coefficient space.
  592.  
  593.        We now list and discuss the "interactive" graphical options you have
  594.        when PathProj displays a coordinate projection plot...
  595.          PathProj, version 9201 . . . . . . . . . . . . . . . Page 12 of 15
  596.  
  597.  
  598.  
  599.        ENTER, ESC, or letter M key...will return you to the above menus so
  600.                 you can switch data sets, axes, and/or to a "coefficient"
  601.                 (rather than coordinate) projection plot.
  602.  
  603.        I key....Displays a magenta on-screen BOX that you can move from point
  604.                 to point with the left and right arrow keys.  Horizontal and
  605.                 vertical coordinates (as well as observation number) for the
  606.                 high-lighted point are also listed on your screen. (The
  607.                 observation number is simply the row index of a predictor
  608.                 combination in the X matrix.)  Right arrow high-lights the
  609.                 point with the next higher row index; left arrow high-lights
  610.                 the point with the next lower row index.
  611.  
  612.        H key....to review the Horizontal Axis direction cosine screen.
  613.  
  614.        V key....to review the  Vertical  Axis direction cosine screen.
  615.  
  616.        N key....Replaces the PathProj plot with a "NAMES and NUMERICS" screen.
  617.                 Use the right arrow, left arrow, Tab, and BackSpace keys to
  618.                 change row indices, 1 to N, of predictor combinations...in
  619.                 increments of either 1 or 4, as with the I key.  Finally,
  620.                 press ENTER just once to return to graphics mode.
  621.  
  622.        S key....SPECIAL KEYS are the same as for coefficient plots, above.
  623.  
  624.        F1 key or SpaceBar...displays a "help" screen that summarizes the above.
  625.  
  626.        ┌────────────────────────────────────────────────────────────────────┐
  627.        │  TECHNICAL APPENDIX......"Shape" and "Extent" of Shrinkage in the  │
  628.        │                          Two-Parameter Generalized Ridge Family.   │
  629.        └────────────────────────────────────────────────────────────────────┘
  630.  
  631.        Q = the ridge parameter that controls the "shape" (or "curvature") of
  632.            the ridge path through regression coefficient likelihood space.
  633.  
  634.            Q = +1 ...yields uniform shrinkage (all Shrinkage Factors equal.)
  635.            Q =  0 ...yields Hoerl-Kennard "ordinary" ridge regression.
  636.            Q = -5 ...is usually very close, numerically, to "Principal
  637.                      Components Regression," with exact agreement in the
  638.                      limit as Q approaches minus infinity.
  639.  
  640.        MCAL = the "Multicollinearity Allowance" parameter that indexes
  641.                   the "extent" of ridge shrinkage along any ridge path.
  642.             = P - trace( P x P diagonal matrix of Delta Shrinkage Factors ).
  643.  
  644.        MCAL = 0 ...yields zero shrinkage.  This is the "starting point" of the
  645.                    ridge path, where the ridge estimator coincides with the
  646.                    Ordinary Least Squares estimator at the left-hand extreme.
  647.        MCAL = P ...yields "total" shrinkage.  This is the right-hand "end
  648.                    point" of the path, where the ridge estimator is all ZEROS.
  649.          PathProj, version 9201 . . . . . . . . . . . . . . . Page 13 of 15
  650.  
  651.  
  652.  
  653.        where...
  654.           P = Number of Predictor Variables (non-constant Regressors),
  655.           N = Number of Observations (or Regressor Combinations), and
  656.  
  657.           generalized ridge regression "Shrinkage Factors" are of the form...
  658.  
  659.                                                      EigenValue
  660.                             Delta  =    ----------------------------------
  661.                                         EigenValue + Konstant*EigenValue^Q
  662.  
  663.           or, equivalently,...                           1
  664.                                    =      -----------------------------
  665.                                           1 + Konstant*EigenValue^(Q-1)
  666.  
  667.        Empirical evidence that choice of "shape" as well as "extent" of
  668.        shrinkage can be rewarding...
  669.                                                  Min.MeanSqErr  Min.MeanSqErr
  670.        Data Set        Number of     Number of   Amount of      Shrinkage
  671.        Name            Observations  Predictors  Shrinkage      Shape
  672.        =============   ============  ==========  =============  =============
  673.  
  674.        FACE data       N = 21,       P = 10,     MCAL = 2.3,    Qshape = +.77
  675.  
  676.        Air Pollution   N = 60,       P = 15,     MCAL = 5.4,    Qshape = +.07
  677.        and Mortality
  678.  
  679.        Acetylene       N = 16,       P = 9,      MCAL = 5.2,    Qshape = -.35
  680.  
  681.        Ten-Factor      N = 36,       P = 10,     MCAL = 3.6,    Qshape = -.78
  682.  
  683.        Stack Loss      N = 15,       P = 3,      MCAL = 0.24,   Qshape = -.95
  684.  
  685.        Mantell, Bell   N = 25,       P = 3,      MCAL = 0.95,   Qshape = -1.1
  686.        Productivity
  687.  
  688.        Wood Beam       N = 10,       P = 2,      MCAL = 0.26,   Qshape = -1.4
  689.  
  690.        Longley         N = 16,       P = 6,      MCAL = 4.0,    Qshape = -1.4
  691.  
  692.        Hocking MPG     N = 32,       P = 10,     MCAL = 8.8,    Qshape = -7.6
  693.  
  694.        Diesel data     N = 44,       P = 9,      MCAL = 4.9,    Qshape =  -20
  695.  
  696.        Portland        N = 13,       P = 4,      MCAL = 3.0,    Qshape = -INF.
  697.        Cement, Hald.
  698.  
  699.        =============   ============  ==========  ============   =============
  700.        Data Set        Number of     Number of   Amount of      Shrinkage
  701.        Name            Observations  Predictors  Shrinkage      Shape
  702.                                                  Min.MeanSqErr  Min.MeanSqErr
  703.          PathProj, version 9201 . . . . . . . . . . . . . . . Page 14 of 15
  704.  
  705.  
  706.  
  707.                             ┌────────────────────────────┐
  708.        ┌────────────────────┤ PathProj UpDate History... ├────────────────────┐
  709.        │                    └────────────────────────────┘                    │
  710.        │ 8904-06 ...developmental versions                                    │
  711.        │ 8907    ...beta test version                                         │
  712.        │ 8910    ...cosmetic changes to menus, variable name defaults, etc.   │
  713.        │ 9002    ...add ability to save\print annotated path projections      │
  714.        │ 9004    ...LZEXE ver0.90 compression (c) 1989 Fabrice Bellard        │
  715.        │ 9008    ...bounce-bar filename menu; change-of-address; LZEXE v0.91  │
  716.        │ 9010    ...change screen save file to .PCX format                    │
  717.        │ 9012    ...fix bounce-bar selection menu for monochrome screens      │
  718.        │ 9012    ...fix bounce-bar selection menu for monochrome screens      │
  719.        │ 9103    ...change permanent address; update documentation files      │
  720.        │ 9201    ...change default responses; shorten screen pause delays     │
  721.        │ 9303    ...major documentation revision/update.                      │
  722.        └──────────────────────────────────────────────────────────────────────┘
  723.  
  724.                                 ┌─────────┐
  725.                           ┌─────┴───┐     │               (R)
  726.                         ──│         │o    │──────────────────
  727.                           │   ┌─────┴╨──┐ │  Association of
  728.                           │   │         │─┘  Shareware
  729.                           └───│    o    │    Professionals
  730.                         ──────│    ║    │────────────────────
  731.                               └────╨────┘    MEMBER
  732.  
  733.        ASP wants to make sure that the shareware principle works for you. If
  734.        you are unable to resolve a shareware-related problem with an ASP member
  735.        by contacting the member directly, ASP may be able to help. The ASP
  736.        Ombudsman can help you resolve a dispute or problem with an ASP member,
  737.        but does not provide technical support for members' products.  Please
  738.        write to the ASP Ombudsman at 545 Grover Road, Muskegon, MI 49442-9427
  739.        or send a CompuServe Mail message to 70007,3536.
  740.  
  741.         ┌───────────────────────────────────────────────────────────────────┐
  742.         │ In an effort to make it easier for you to obtain your favorite    │
  743.         │ software, the latest updates of many ASP authored programs can be │
  744.         │ found on the BBSs listed below.  These BBSs are members of the... │
  745.         ├───────────────────────────────────────────────────────────────────┤
  746.         │                      ASP Hub Network (AHN).                       │
  747.         └───────────────────────────────────────────────────────────────────┘
  748.          PathProj, version 9201 . . . . . . . . . . . . . . . Page 15 of 15
  749.  
  750.  
  751.  
  752.        Zone 1 - East Coast USA
  753.  
  754.             North-East Coast                      Mid-East Coast
  755.  
  756.        [Site #1]                             [Site #2]
  757.             The Consultant BBS                    The Break RBBS <East>
  758.             Jay Caplan                            Bruce Jackson
  759.             P.O. Box 8571                         4660 Whitaker PL
  760.             New York NY 10116-4655                Dale City, VA 22193-3011
  761.             Data1) 718-837-3236                   Data1) 703-680-9269
  762.             Data2)                                Data2) 703-551-0000
  763.  
  764.        Zone 2 - North Mid-USA               Zone 3 - Southern Mid-USA
  765.  
  766.        [Site #3]                             [Site #4]
  767.             The Twilight Zone                     The DataExchange BBS
  768.             John Hrusovszky                       Don Morris
  769.             1119 E. Main St                       119 Herring St.
  770.             Auburndale, WI 54412                  Leesville, LA 71446
  771.             Data1) 715-652-2758                   Data1) 318-239-2122
  772.             Data2)                                Data2)
  773.  
  774.        Zone 4 - West Coast USA
  775.  
  776.        [Site #5]                            [Site #6]
  777.             Attention to Details BBS             Space BBS
  778.             Clint Bradford                       Owen Hawkins
  779.             5085 Trail Canyon Dr                 PO Box X
  780.             Mira Loma CA 91752                   Menlo Park, CA 94026
  781.             Data1) 909-681-6221                  Data1) 415-323-4398 (ASP Files)
  782.             Data2)                               Data2) 415-323-4193 (Other Files)
  783.  
  784.        Zone 5 - Canada
  785.  
  786.        [Site #7]
  787.             Knightec BBS
  788.             Phil Knight
  789.             35 Robb Blvd #6
  790.             Orangeville, ONT L9W 3L1
  791.             Data1) 519-940-0007
  792.             Data2)
  793.  
  794.           ┌──────────────────────────────────────────────────────────────┐
  795.           │   These BBSs are bound by special agreement with the ASP.    │
  796.           │    In the case of a dispute contact the ASP Omsbudsman.      │
  797.           └──────────────────────────────────────────────────────────────┘
  798.  
  799.