home *** CD-ROM | disk | FTP | other *** search
/ OS/2 Shareware BBS: 36 Tips / 36-Tips.zip / oshtdump.txt < prev    next >
Text File  |  1997-05-30  |  13KB  |  364 lines
  1. OSHTDUMP - OS/2 MEMORY-DUMP PROCESS
  2. 12/06/96
  3.  
  4. =======================================================================
  5.                    OS/2 Memory-Dump Process 
  6. =======================================================================
  7.  
  8. Please Read Entire Document for Full Explanation of Procedures
  9. --------------------------------------------------------------
  10.  
  11. DESCRIPTION
  12.  
  13. A memory dump is performed when a problem is difficult to
  14. reproduce or other methods of problem determination do not
  15. identify the problem.
  16.  
  17. RESOLUTION
  18.  
  19. Note: Make sure you have a backup of any file you intend to change, such
  20.       the OS/2 CONFIG.SYS file.
  21.  
  22. The New OS/2 System Dump Procedure
  23. ----------------------------------
  24.  
  25. Note: Only if you are having Workplace Shell problems, such as the 
  26.       Desktop collapsing and then re-opening, or if advised by your
  27.       Technical Support Representative, place the following statement
  28.       in your CONFIG.SYS file: 
  29.  
  30.           SET SHELLEXCEPTIONHANDLER=OFF
  31.       
  32. There are new files required for a memory dump, and OS/2 Warp has
  33. the latest ones. This section does NOT apply to OS/2 Warp.
  34.  
  35. OS/2 2.1 and OS/2 2.11 do not have the latest dump
  36. files. You must install the new dump procedure, NEWDUMP.ZIP, on
  37. the system before a doing memory dump. You can download
  38. NEWDUMP.ZIP from the bulletin board at 512-823-0345 by doing
  39. the following:
  40.  
  41. 1. Log on with your name and password.
  42. 2. At the Main Menu, press F for files.
  43. 3. Select S to select a library.
  44. 4. Type 8 and press Enter.
  45. 5. Type D to download a file.
  46. 6. Type NEWDUMP.ZIP and press Enter.
  47.  
  48. The README file explains how to apply NEWDUMP to the system.
  49.  
  50. Note: Before following this procedure, OS/2 2.1 systems should
  51.       be upgraded to OS/2 2.11, and then FixPak 80 or
  52.       later should be installed. For best results, upgrade 
  53.       OS/2 2.11 systems to FixPak 80 or later.
  54.  
  55. You need blank formatted diskettes for a memory dump. Generally,
  56. one 1.44 MB diskette is used for each 2 MB of RAM. For example,
  57. if you have a 16 MB system, you need 8 formatted diskettes.
  58.  
  59. ----------------------------------------------------------------
  60.  
  61. Different situations determine the type of memory dump
  62. required. IBM OS/2 Support can help to determine the correct
  63. process for your situation. For example, the OS/2 kernel and
  64. device drivers run at Ring 0 while applications run at Ring 3.
  65.  
  66. OS/2 2.1 or OS/2 2.11 without FixPaks
  67. -------------------------------------
  68.  
  69. Automatic Dump Process for Ring 3 Traps
  70. ---------------------------------------
  71.  
  72. Edit the CONFIG.SYS file and add the following line:
  73.  
  74.    TRAPDUMP=ON
  75.  
  76. This causes an automatic dump if the failing CS:EIP is in
  77. Ring 3 code (the CS value ends in either 3, 7, B, or F). It
  78. does not dump on Ring 0 code traps. Applications run at Ring
  79. 3, while the OS/2 kernel runs at Ring 0.
  80.  
  81. Manual Dump Process for Ring 3 Traps
  82. ------------------------------------
  83.  
  84. To start a manual dump of the system, press and hold Ctrl+Alt;
  85. then press Num Lock twice. This starts the dump process in most
  86. cases, even if the keyboard is locked.
  87.  
  88. OS/2 2.11 with FixPak 80 or Later, or OS/2 Warp
  89. -----------------------------------------------
  90.  
  91. Automatic Dump Process for Ring 0 and Non-Ring-0 Traps
  92. ------------------------------------------------------
  93.  
  94. Edit the CONFIG.SYS file and add the following line:
  95.  
  96.    TRAPDUMP=ON
  97.  
  98. Automatic Dump Process for Ring 0 Traps
  99. ---------------------------------------
  100.  
  101. Edit the CONFIG.SYS file and add the following line:
  102.  
  103.    TRAPDUMP=R0
  104.  
  105. This begins an automatic dump if the failing CS:EIP is
  106. in Ring 0 code (the CS ends in 0, 4, or 8). It does not
  107. dump Ring 3 traps.
  108.  
  109. Note: It is not required to set up for automatic Ring 0
  110.       trap dumps in order for the dump to be valid. It is only
  111.       recommended.
  112.  
  113. Manual Dump Process
  114. -------------------
  115.  
  116. A manual dump is used when the system is in a non-
  117. responsive state (does not respond to your requests) and cannot 
  118. be used. Make a note of whether the Caps Lock key, when pressed, 
  119. toggles its light and inform your service representative whether it
  120. responded to your keypress or not. Proceed to the next step.
  121.  
  122. To start a manual dump of the system, press and hold Ctrl+Alt;
  123. then press Num Lock twice. This starts the dump process in most
  124. cases, even if the keyboard is locked. Alternatively, if you do
  125. not have a Num Lock key, press and hold Ctrl+Alt; then press F10 
  126. twice.  
  127.  
  128. Starting the Memory Dump
  129. ------------------------
  130.  
  131. When the memory dump begins, the screen goes blank, and then you
  132. are prompted to insert a blank formatted diskette. You also are
  133. prompted to insert additional diskettes, and then are asked to
  134. insert the DUMP diskette again. When the process is complete,
  135. restart the system.
  136.  
  137. Register information is not displayed when an automatic memory
  138. dump is taken. The register information is in the dump
  139. information.
  140.  
  141. Reading the Trap Information from the Dump Diskettes
  142. ----------------------------------------------------
  143.  
  144. To view the dump diskettes for the revision of the kernel and
  145. the trap information:
  146.  
  147. 1. Insert the first dump diskette in drive A.
  148.  
  149. 2. Type A: (followed by the ENTER key)
  150.        E DUMPDATA.001 and press Enter.
  151.  
  152.    A message appears stating the editor detected embedded
  153.    null characters as it read the file.
  154.  
  155. 3. Select Continue Loading File. A screen of unreadable
  156.    characters appears.
  157.  
  158. 4. Select Edit, Find, and Find: revision.
  159.  
  160.    This finds the level of the OS/2 kernel you are running.
  161.    For example, 6.617 is for OS/2 2.11, 8.162 is for OS/2 Warp 3, and
  162.    8.209 is for OS/2 Warp Connect (blue spine box).
  163.  
  164.    You also can search on CS:EIP to see if the trap screen
  165.    is present:
  166.  
  167.    a. Place the mouse pointer at the beginning of the file.
  168.    b. Select Edit, Find, and Find: CS:EIP.
  169.     
  170.    If a trap is present, it displays the registers. (Sometimes
  171.    more than one trap is found in the dump. If the registers
  172.    are all x's, select Find again to see if there are more
  173.    traps.)
  174.  
  175. WARNING!
  176.  
  177. DO NOT edit the file by adding characters or spaces. This can
  178. cause the memory dump to be unreadable. After viewing the dump,
  179. always exit without saving the file, because it might cause the
  180. dump to be unreadable. If you have accidentally made any changes
  181. to the file, exit without saving the file.
  182.  
  183. Mailing the Memory Dump to IBM
  184. ------------------------------
  185.  
  186. DO NOT send dump diskettes unless instructed to do so by
  187. your Support Representative. Diskettes must be clearly labeled with the
  188. PMR (problem management record) number or APAR (authorized program 
  189. analysis report) number and your name. Be sure the diskettes
  190. are numbered. Send dump diskettes to:
  191.  
  192.   IBM Corp.
  193.   11400 Burnet Road    
  194.   Austin, TX   78758
  195.   ATTN:  Name of the OS/2 Analyst requesting the dump
  196.   Bldg. 42
  197.   Internal Zip 2901
  198.  
  199. For IBM Internal Customers Only
  200. -------------------------------
  201.  
  202. You may create disk images using OS2IMAGE.EXE (from OS2TOOLS).
  203. No other utility program (for example, LOADDSKF) is acceptable.
  204. Please send the disk images to the VM ID given to you by the
  205. OS/2 Analyst. The dump formatter requires disk images, as
  206. opposed to the contents of each diskette. OS/2 Support cannot
  207. download dumps from IBMLINK, the PCC BBS, CompuServe, or other.
  208. OS/2 Support might be able to arrange an upload to our Service
  209. Delivery Machine.
  210.  
  211. Dumping to Hard Disk
  212. --------------------
  213.  
  214. Notes: 1. A memory dump to hard disk must be to a separate, empty
  215.            partition. The memory dump erases whatever is on
  216.           the partition.
  217.  
  218.        2. This information is available in the online help 
  219.             documentation with OS/2 Warp versions 3 and later; 
  220.             type HELP TRAPDUMP at an OS/2 command prompt. 
  221.  
  222. You MUST install NEWDUMP on the system if you are running OS/2
  223. 2.1 or OS/2 2.11.
  224.  
  225. 1. Create a partition that is approximately 4 MB larger than
  226.    the amount of random access memory (RAM) installed.
  227.  
  228. 2. Format the partition as FAT.
  229.  
  230. 3. Label the partition SADUMP using the OS/2 LABEL command.
  231.    Type HELP LABEL if you need more information on using
  232.    the LABEL command at an OS/2 command prompt.
  233.  
  234. 4. Edit the CONFIG.SYS file and change the TRAPDUMP statement     
  235.    as follows, where x: is the partition letter:             
  236.    
  237.    * For a Manual Dump to hard disk, use:            
  238.  
  239.         TRAPDUMP=OFF,x:                       
  240.  
  241.    * For an Automatic Dump to hard disk, use:  
  242.  
  243.           TRAPDUMP=ON,x:                        
  244.  
  245. 5. Restart the system.                    
  246.  
  247. 6. To initiate the Manual Dump to hard disk:
  248.    Press and hold Ctrl+Alt and press the Num Lock key twice
  249.    to start the memory dump to hard disk. It should take less
  250.    than a minute to dump 16 MB. If you do not have a Num Lock
  251.    key, press and hold Ctrl+Alt and then press F10 twice.  
  252.  
  253. 7. Remember that Automatic Dumps will happen automatically when
  254.    there is a software (and sometimes even a hardware) failure.  
  255.    If you wish to dump Ring 0 TRAPs only, modify the 
  256.    TRAPDUMP=ON,x: statement above to read:
  257.  
  258.         TRAPDUMP=R0,x:
  259.  
  260. 8/1/94 Changes to the Memory-Dump-to-Hard-Disk Process
  261. ------------------------------------------------------
  262.  
  263. 1. A message tells which partition will be dumped to, and
  264.    how much memory is required.
  265.  
  266. 2. A message warns that the dump will erase the contents of the
  267.    dump partition. You have 30 seconds to respond. If you do not
  268.    respond within the 30 seconds, the memory dump begins.
  269.  
  270. 3. If you choose not to dump to the hard disk by answering N
  271.    to the above prompt, you are asked if you want to dump to
  272.    diskette.
  273.  
  274. 4. If an error occurs, and the dump cannot be made to the hard
  275.    disk, you are asked if you want to dump to diskettes. If
  276.    you answer no, or do not respond within 60 seconds, the
  277.    system restarts.
  278.  
  279. 11/01/94 Changes to the Memory-Dump-to-Hard-Disk Process
  280. --------------------------------------------------------
  281.  
  282. 1. Improved error checking on dumps to hard disk and diskette.
  283.  
  284. 2. More descriptive error messages.
  285.  
  286. 3. If a bad sector is encountered when dumping to hard disk,
  287.    a Fatal Dump Error message appears followed by the bad
  288.    sector information to help pinpoint the error. There is
  289.    currently no error recovery when dumping to hard disk.
  290.  
  291. 4. Support for systems with 64 MB or more of memory installed.
  292.    DO NOT USE a memory dump dated before 11/01/94 on systems
  293.    with 64 MB or more.
  294.  
  295. 5. Better performance.
  296.  
  297. 6. Improved error recovery from bad diskettes. 
  298.  
  299. ======================================================================
  300.  
  301. TRACE SECTION - USE THIS SECTION ONLY IF ASKED TO BY YOUR 
  302. IBM SERVICE REPRESENTATIVE
  303.  
  304. Starting the Trace
  305. ------------------
  306.  
  307. Note: Do NOT begin TRACE unless an IBM Technical Analyst tells
  308.       you to do so.
  309.  
  310. For OS/2 2.1 and OS/2 2.11:
  311. ---------------------------
  312.  
  313. 1. At an OS/2 command prompt, type E CONFIG.SYS and press
  314.    Enter to edit the CONFIG.SYS file.
  315.  
  316. 2. Add the following lines (exactly):
  317.  
  318.       TRACEBUF=63
  319.       TRACE=ON
  320.  
  321. 3. Save and exit the file; then restart the system.
  322.  
  323. 4. At the command prompt, type the following and press Enter
  324.    after each:
  325.  
  326.       TRACE ON KERNEL
  327.       TRACE ON DOSCALL1
  328.  
  329. 5. Follow the instructions provided by your service
  330.    representative at this point.
  331.  
  332. For OS/2 Warp 3 and OS/2 Warp 4:
  333. --------------------------------
  334.  
  335. 1. At an OS/2 command prompt, type TEDIT CONFIG.SYS and press
  336.    Enter to edit the CONFIG.SYS file. Remember to press the
  337.    Esc key to move the cursor into the text area to
  338.    begin editing. Press the Insert key to allow you to insert
  339.    new lines into the CONFIG.SYS file.
  340.  
  341. 2. Add the following lines (exactly) at the top of the 
  342.    CONFIG.SYS file:
  343.  
  344.    TRACEBUF=63
  345.    TRACE=OFF
  346.  
  347. 3. Save the CONFIG.SYS file by pressing F2, and then press F3
  348.    to exit the editor. Shutdown and restart the system.
  349.  
  350. 4. At this point, follow the instructions provided by your service
  351.    representative to initiate a system trace.
  352.  
  353. warp4
  354. ______________________________________________________________________
  355. IBM disclaims all warranties, whether express or implied, including 
  356. without limitation, warranties of fitness and merchantability with 
  357. respect to the information in this document. By furnishing this 
  358. document, IBM grants no licenses to any related patents or copyrights.  
  359. Copyright (c) 1994, 1995 IBM Corporation. Any trademarks and product 
  360. or brand names referenced in this document are the property of their 
  361. respective owners. Consult your product manuals for complete trademark 
  362. information. 
  363.  
  364.