2進数の計算と数値表現
問題一覧
1
01111111110000000000000000000000
2
101
3
0000001101
4
0000110100
5
3
6
66
7
0000101
8
00111110110000000000000000000000
9
-112
10
-7
11
00100000
12
2AF3
13
b1b2・・・bn0+b1b2・・・bn
14
5倍
15
演算した結果がコンピュータの扱える最大値や最小値を超えることによって生じる誤差。
16
絶対値の大きな値と絶対値の小さな値の加減算を行ったときに、絶対値の小さな値が計算結果に反映されないことによって生じる誤差。
17
計算処理を完了まで待たずに途中で打ち切ることによって生じる誤差。
18
絶対値がほぼ等しい数値同士の差を求めたときに、有効な桁数が大きく減ることによって生じる誤差。
19
表現できる桁数を超えてしまったために、最小桁より小さい部分について、四捨五入や切上げ、切捨てなどを行うことによって生じる誤差。
20
その整数値が正ならば3
21
60
問題一覧
1
01111111110000000000000000000000
2
101
3
0000001101
4
0000110100
5
3
6
66
7
0000101
8
00111110110000000000000000000000
9
-112
10
-7
11
00100000
12
2AF3
13
b1b2・・・bn0+b1b2・・・bn
14
5倍
15
演算した結果がコンピュータの扱える最大値や最小値を超えることによって生じる誤差。
16
絶対値の大きな値と絶対値の小さな値の加減算を行ったときに、絶対値の小さな値が計算結果に反映されないことによって生じる誤差。
17
計算処理を完了まで待たずに途中で打ち切ることによって生じる誤差。
18
絶対値がほぼ等しい数値同士の差を求めたときに、有効な桁数が大きく減ることによって生じる誤差。
19
表現できる桁数を超えてしまったために、最小桁より小さい部分について、四捨五入や切上げ、切捨てなどを行うことによって生じる誤差。
20
その整数値が正ならば3
21
60