home *** CD-ROM | disk | FTP | other *** search
/ OS/2 Shareware BBS: 36 Tips / 36-Tips.zip / HTDUMP.FAX < prev    next >
Text File  |  1995-02-25  |  10KB  |  297 lines
  1. OSHTDUMP - OS/2 2.X AND OS/2 WARP MEMORY DUMP PROCESS
  2. 12/16/94
  3.  
  4. ================================================================
  5.        OS/2 2.X AND OS/2 WARP MEMORY DUMP PROCESS
  6. ================================================================
  7.  
  8. Please Read Entire Document for Full Explanation of Procedures
  9. ----------------------------------------------------------------
  10.  
  11.  
  12. A memory dump is performed when a problem is difficult to
  13. reproduce or other methods of problem determination do not
  14. identify the problem.
  15.  
  16.  
  17. THE NEW DUMP PROCEDURE
  18. ----------------------------------------------------------------
  19.  
  20. There are new files required for a memory dump.  OS/2 Warp
  21. contains the latest files.  The following update does NOT
  22. apply to OS/2 Warp.
  23.  
  24.  
  25. OS/2 2.0, 2.1 and 2.11 do not contain the latest dump files.  You
  26. must install the new dump procedure, NEWDUMP.ZIP on the system
  27. before a doing memory dump.  NEWDUMP.ZIP can be downloaded from the
  28. bulletin board at (407) 443-8000.
  29.  
  30.   1.  Logon with your name and password.
  31.   2.  At the main menu press F for files.
  32.   3.  S to Select a library.
  33.   4.  Type 8 and press Enter.
  34.   5.  Type D to download a file.
  35.   6.  Type NEWDUMP.ZIP and press Enter.
  36.  
  37. The READMD file explains how to apply newdump to the system.
  38.  
  39.  
  40. NOTE:  OS/2 2.0 requires XR06100 (service pak II) as a
  41.        prerequisite for NEWDUMP.ZIP.
  42.  
  43.  
  44. You need blank formatted diskettes for a memeory dump.  Generaly,
  45. one 1.44MB diskette is used for each 2MB of RAM.  For example, if
  46. you have a 16MB system, you need 8 formatted diskettes.
  47.  
  48.  
  49. STARTING THE TRACE
  50. ----------------------------------------------------------------
  51.  
  52. NOTE:  Do NOT begin TRACE unless an IBM Technical Analyst tells
  53.        you to.
  54.  
  55.  
  56. For OS/2 prior to OS/2 2.1:
  57.  
  58. 1. Add the following lines in CONFIG.SYS:
  59.  
  60.         TRACE=ON
  61.         TRACEBUF=63
  62.         TRACE=OFF 4,24,47,50,97,98
  63.  
  64. 2. Restart the system.
  65.  
  66.  
  67. The above starts TRACE function and turns off major codes 4, 24,
  68. 47,50, 97, and 98.  The default for TRACE=ON is to trace all
  69. system events.  These major codes are for some housekeeping
  70. functions that are not normally used by development.
  71.  
  72.  
  73. For OS/2 2.1:
  74.  
  75. 1. Add the following lines to the CONFIG.SYS (exactly):
  76.  
  77.         TRACEBUF=63
  78.         TRACE=ON
  79.  
  80. 2. Restart the system.
  81.  
  82. 3. When the system restarts, type the following from a command
  83.    prompt:
  84.  
  85.         TRACE ON KERNEL
  86.         TRACE ON DOSCALL1
  87.  
  88. ----------------------------------------------------------------
  89.  
  90. Different situations determine the type of memory dump
  91. required. IBM OS/2 Support can help to determine the correct
  92. process for your situation.
  93.  
  94. For example, the OS/2 kernel and device drivers run at Ring 0
  95. while applications run at Ring 3.
  96.  
  97. ----------------------------------------------------------------
  98. OS/2 2.0, 2.1, OR 2.11 WITHOUT FIXPACKS
  99. ----------------------------------------------------------------
  100.  
  101. RING 3 TRAPS
  102. ----------------------------------------------------------------
  103.  
  104. AUTOMATIC DUMP PROCESS:
  105.  
  106.  1. Add the following to the CONFIG.SYS:
  107.  
  108.                  TRAPDUMP=ON
  109.  
  110. This causes an automatic DUMP if the failing CS:EIP is in
  111. Ring 3 code (the CS value ends in either 3, 7, B or F).  It
  112. does not DUMP on Ring 0 code traps.  Applications run at Ring
  113. 3 while the OS/2 Kernel runs at Ring 0.
  114.  
  115.  
  116. MANUAL DUMP PROCESS :
  117.  
  118. Press and hold Ctrl+Alt and then press Num Lock twice to start a
  119. MANUAL DUMP of the system. This starts the dump process in most
  120. cases, even if the keyboard is locked.
  121.  
  122.  
  123. ----------------------------------------------------------------
  124. OS/2 2.11 WITH FIXPACK (36 or later) OR OS/2 WARP
  125. ----------------------------------------------------------------
  126.  
  127. AUTOMATIC DUMP PROCESS FOR RING 0 TRAPS - dumps BOTH
  128.             ring 0 and non-ring 0 traps
  129.  
  130.   1. Add the folling to the CONFIG.SYS:
  131.  
  132.           TRAPDUMP=ON
  133.  
  134.  
  135.  
  136. RING 0 TRAPS
  137. ----------------------------------------------------------------
  138.  
  139. AUTOMATIC DUMP PROCESS:
  140.  
  141.     1. Add the following to the CONFIG.SYS:
  142.  
  143.                  TRAPDUMP=R0
  144.  
  145. This begins an automatic Dump if the Failing CS:EIP is
  146. in Ring 0 code (the EIP ends in 0, 4, or 8).  It does not
  147. DUMP Ring 3 traps.
  148.  
  149.  
  150. MANUAL DUMP PROCESS:
  151.  
  152. Press and hold Ctrl+Alt and then press Num Lock twice.  This
  153. starts the dump process in most cases, even if the keyboard is
  154. locked.
  155.  
  156.  
  157. STARTING THE MEMORY DUMP
  158. ----------------------------------------------------------------
  159.  
  160. When the memory dump begins, screen goes blank and you are
  161. prompted to insert a blank formatted diskette.  You are prompted
  162. for additional diskettes as required, and then asked to insert
  163. the DUMP diskette again.  When the process is completed, restart
  164. the the system.
  165.  
  166. Register information is not displayed when an automatic memory
  167. dump is taken.  The register information is in the dump
  168. information.
  169.  
  170. Reading the Trap information from the dump diskettes.
  171. ----------------------------------------------------------------
  172. To view the dump diskettes for the revision of the kernel and the
  173. trap information:
  174.  
  175. 1.  Insert the first dump diskette in drive A:
  176. 2.  Type: A: EDUMPDATA.001 and press Enter.
  177.     A message appears stating the editor detected embedded
  178.     null characters as it read the file.
  179. 3.  Press: Continue Loading File.  A screen of unreadable
  180.     characters appears.
  181. 4.  Press Edit, Find,  Find: revision
  182.     This finds the level of the kernel you are running.
  183.     For example: 6.617 for OS/2 2.11,  8.162 for Warp.
  184.  
  185.     You can also search on the cs:eip to see if the trap screen
  186.     is present.
  187.  
  188. 5.  Place the mouse pointer at the begining of the file.
  189. 6.  Press Edit, Find  Find: CS:EIP
  190.     If a trap is present it, displays the registers.
  191.     (Sometimes more than one trap is found in the dump.  If the
  192.      registers are all x's, press find again to see if there are
  193.      additional traps.)
  194.  
  195. **WARNING**
  196. ----------------------------------------------------------------
  197. DO NOT edit the file by adding characters or spaces.  This can
  198. cause the memory dump to be unreadable.  After viewing
  199. the dump, always exit without saving the file because it may
  200. cause the dump to be unreadable.  If you have made any changes to
  201. the file by accident, also exit without saving the file.
  202.  
  203.  
  204. MAILING THE MEMORY DUMP TO IBM
  205. ----------------------------------------------------------------
  206. DO NOT send dump diskettes unless instructed by Level 2 Support.
  207. Diskettes MUST be clearly labeled with the PMR# or APAR# and your
  208. name.  Make sure the diskettes are numbered.
  209.  
  210.         DUMP diskettes should be sent to:
  211.  
  212.         IBM Corp.
  213.         1000 NW 51st Street
  214.         Boca Raton, FL 33432
  215.         ATTN:  Name of the OS/2 Analyst requesting the dump
  216.         Bldg 001-3
  217.         Internal Zip 1024
  218.  
  219. ** For IBM Internal Customers ONLY**
  220.  
  221. Disk images may be created using OS2IMAGE.EXE (OS2TOOLS), no
  222. other utility is acceptable, for example:LOADDSKF.  Please send
  223. the disk images to the VM ID given to you by the OS/2 Analyst.
  224. The dump formatter requires disk images as opposed to the
  225. contents of each diskette.  OS/2 Support cannot download dumps
  226. from IBMLINK, the PCC BBS, COMPUSERVE, etc.  OS/2 Sypport may be
  227. able to arrange an upload to our Service Delivery Machine.
  228.  
  229.  
  230. DUMPING TO HARD DISK
  231. ----------------------------------------------------------------
  232.  
  233. NOTE:
  234. Memory dump to hard disk must be to a separate, empty partition.
  235.  
  236.         IT WILL ERASE WHATEVER IS ON THE PARTITION.
  237.         -------------------------------------------
  238.  
  239. You MUST install NEWDUMP on the system if you are running OS/2
  240. 2.0, 2.1, or 2.11.
  241.  
  242.        1.  Create a partition about 4meg larger than the amount
  243.            of memory installed.
  244.        2.  Format the partition FAT.
  245.        3.  Label the partition  SADUMP.
  246.        4.  Edit the CONFIG.SYS as follows:
  247.                trapdump=off,X:
  248.                where X: is the partition letter
  249.        5.  Restart the system.
  250.  
  251.        - To start the memeory dump to hard disk, press and hold
  252.          Ctrl+Alt and press Num Lock key twice. 16megs should
  253.          dump in less than a minute.
  254.  
  255.          A good test would be to run CHKDSK, not CHKDSK/F, on a
  256.          large enough drive. While CHKDSK is still running, begin
  257.          the dump.
  258.  
  259. Changes to the memory dump to hard disk on 8/1/94:
  260. ----------------------------------------------------------------
  261.  
  262. 1.  A message tells which partition will be dumped to, and
  263.     how much memory.
  264. 2.  A warning message tells the dump will wipe out the dump
  265.     partition. You have 30 seconds to respond. If you do not
  266.     answer in 30 seconds, the memory dump begins.
  267. 3.  If you choose not to dump to the hard disk by answering N to
  268.     the above prompt, you are asked if you want to dump to
  269.     diskette.
  270. 4.  If an error occurs, and the dump cannot go to the hard
  271.     disk, you are asked if you want to dump to diskettes.
  272.     If the answer is no, or there is no response in 60
  273.     seconds, the system restarts.
  274.  
  275. Changes to the memory dump to hard disk and diskette on 11/01/94.
  276. ----------------------------------------------------------------
  277.  
  278. 1.  Improved error checking on dump to hard disk and diskette.
  279. 2.  More descriptive error messages.
  280. 3.  If there is a bad sector encountered when dumping to hard
  281.     disk, a Fatal Dump Error message appears followed by the bad
  282.     sector information to help pinpoint the error.
  283.     There is currently no error recovery in dump to hard disk.
  284. 4.  Support for systems with 64meg or more of memory installed.
  285.     DO NOT USE a memory dump dated before 11/01/94 on systems
  286.     with 64 meg or more.
  287. 5.  Better performance.
  288. 6.  Improved error recovery from bad diskettes.
  289.  
  290.  
  291. ----------------------------------------------------------------
  292. IBM disclaims all warranties, whether express or implied,
  293. including without limitation, warranties of fitness and
  294. merchantability with respect to the information in this document.
  295. By furnishing this document, IBM grants no licenses to any
  296. related patents or copyrights.
  297.