| 3777777777 | ||
Oktalt | 3777777776 | ||
| : | ||
positivt |
| ||
| : | ||
heltal |
| ||
| 1 | ||
|
| ||
|
| 0 | |
| 777777777 | ||
Oktalt | 777777776 | ||
111111101 | |||
negativt | |||
: | : | ||
heltal | |||
: | : | ||
(komplement) | |||
4000000001 | |||
| |||
| 4000000000 | ||
Uden for |
|
| |
operationsintervallet |
|
| |
|
|
|
536870911
536870910
:
:
1
0
:
:
DATA ≤ –
536870913
(19)Hexadecimal mode ([SHIFT], [HEX], [0] ~ [9], [A] ~ [F]).
a.Både datainput og dataoutput er hexadecimale heltal på maksimalt 10 cifre.
b.Et negativt tal udtrykkes hexadecimalt som komplement af to.
c.Intervallet for interne operationer er som vist nedenfor, og hvis resultatet af operationen overskrider intervallet, opstår der en fejl (overløb).
| Hexadecimalt tal | Decimalt tal | |
Uden for | ___ | 1x1010 ≤ DATA | |
operationsintervallet | |||
|
| ||
| 2 5 4 0 B E 3 F F | 9999999999 | |
Hexadecimalt | 2 5 4 0 B E 3 F E | 9999999998 | |
: | : | ||
positivt | |||
: | : | ||
heltal | |||
1 | 1 | ||
| |||
| 0 | 0 | |
| F F F F F F F F F F | ||
Hexadecimalt | F F F F F F F F F E | ||
negativt | : | : | |
heltal | : | : | |
(komplement) | F D A B F 4 1 C 0 2 | ||
| F D A B F 4 1 C 0 1 | ||
Uden for |
| DATA ≤ | |
operationsintervallet |
| ||
|
| ||
|
|
| |
|
|
SR135_Danish_090326.doc SIZE140x75mm SCALE 2:1 2009/3/26