|
■ １６進数（実は便利）
プログラミングを始めたばかりの人にとって１６進数は、最大のライバルのひとつであると思う。ほぼ間違いなく１６進数は嫌われ者であろう。しかし、プログラミング時にはときどき１６進数でないとかえってわかりにくい数値というものも存在する。それは例えば色である。ＣＧの世界では大抵色をＲＧＢで表す。WindowsではＲＧＢをそれぞれ０～２５５の２５６階調で表して、数値化して色の指定をする。例えば
Ｂ＝０ Ｇ＝２５５ Ｒ＝２５５ → 黄色
Ｂ＝１２７ Ｇ＝１２７ Ｒ＝１２７ → 灰色
などで、それぞれ数値化された色は
である。しかし、これらの数値を４桁の１６進数（Long型）で表すと
黄色＝＆Ｈ００００ＦＦＦＦ
灰色＝＆Ｈ００７Ｆ７Ｆ７Ｆ
になる。最上位の２桁は未使用、次の２桁が青成分を表し、次が緑、最下位の２桁は赤成分を表し、それぞれ＆Ｈ００～＆ＨＦＦの幅を持っている。このように１６進数を使って表したほうが圧倒的にわかりやすい場合もある。
■ １６進数（色の計算方法）
いままで説明してきたことは、ある程度知識のある人にとっては、あまりにもあたりまえであった。しかしここで説明することは、ＶＢ上でハマリになりがちな事なので、まじめに読んでほしい。
色を数値で表すには１６進数６桁必要である。例えば
暗い青を表す場合には
１６進数で表すと
カラーコードは＆Ｈ６４００００である。これを計算するにはＢの成分を４桁左にスライドし、Ｇを２桁スライドして３つの成分を加算する。１６進数で表記された数値は１６倍すると１桁左にスライドするので、４桁ということは
１６×１６×１６×１６＝６５５３６倍
６５５３６＝＆Ｈ１００００倍
すれば良い。同様にＧは２桁スライドだから
＆Ｈ１００倍してやれば良いことになる。
数式で示すと
ということになる。
■ １６進数（注意事項）
さて、実際のコードであるが注意が必要になる。
というように変数を定義する。そこで下のようにコーディングする。
C = &HFF * 65536 + &HFF * 256 + &HFF
このコードはオーバーフローエラーが出てしまうのである。この式では &HFF * 256 の部分が問題なのだ。ＶＢは何も指定していない数値は Integer型 として扱われる。この計算に出てくる数値の &HFFも２５６も Integer型 の範囲内で収まるのでＶＢはこの計算を Integer型 で行ってしまうのである。この部分の計算結果は
なので、Integer型の数値の範囲である－３２７６８～３２７６７の範囲に収まらないのでエラーになってしまうのである。ところが
の部分は、６５５３６が既にInteger型の範囲内に収まらないので、最初からLong型で計算されエラーにならないのである。こういった問題を避けるために、上にある色の計算式は
C = &HFF& * 65536 + &HFF& * 256 + &HFF&
にする。数値の後に＆をつけるとLong型であるとＶＢに通知することができるので、オーバーフローは起こらない。内部的に厳密に書くと
＆ＨＦＦ ＝＆Ｈ００ＦＦ
＆ＨＦＦ＆ ＝＆Ｈ００００００ＦＦ
というように違った意味になるので注意が必要である。
|
