5月24日(金)1コマ目

今日、やったこと

  • [確認テスト]ビットシフト
  • 誤差(オーバーフロー、アンダーフロー、丸め誤差）

今日のホワイトボード 

[誤差]オーバーフロー

コンピュータでデータを扱う際、データサイズに上限がある。計算することでデータサイズ内に収めるためにデータが消えることがある。これが誤差。

オーバーフローはデータサイズの上限値を超えることで発生する誤差で、上位ビットのデータが溢れていくからオーバーフロー。

図　[誤差]オーバーフロー


[誤差]アンダーフロー

アンダーフローは浮動小数点型でデータサイズの下限値より小さくなくことで発生する誤差。下位ビットからデータが溢れていくからアンダーフロー。

図　[誤差]アンダーフロー


[誤差]丸め誤差

”丸め”とはデータサイズ内に収めるために、データの一部を切り上げ/切り捨てること。四捨五入も丸め。

発生しやすいのは小数。10進数の小数を2進数に変換するさい、循環小数になる値がある(例えば0.05)。

循環小数は永遠に値が続くがfload型やdouble型に収めるにはデータを切り上げ/切り捨てる必要がある。丸め誤差が発生してしまう。

図　[誤差]丸め誤差


次回は

誤差の続き。

テストはしません。

このブログの人気の投稿

6月7日(金)1コマ目

イメージ
今日、やったこと 文字コード 今日のホワイトボード 前回のおさらい ASCII、JIS X 0201は文字集合＋符号化方式。 図　ASCII、JIS X 0201 [文字集合]JIS X 0208 JIS X 0201はASCII+半角カタカナ。 これに全角文字（ひらがな、カタカナ、漢字(第1水準、第2水準))を追加。 文字は区・点で特定 できる。 区点は符号化方式ではないので注意 。 図　JIS X 0208 [文字集合]Unicode 世界中の文字を収めた文字集合。 各 文字はUnicode符号位置で特定 できる。 Unicode符号位置は符号化方式ではないので注意 。 図　Unicode [文字符号化方式]Shift_JIS 符号化対象文字は JIS X 0201 JIS X 0208 JIS X 0201は互換性のため、同じ方式で符号化。よって1文字1バイト長。 JIS X 0208は文字数が多いため1文字2バイト。 図　Shift_JIS 亜種(CP932、Windows-31J)も含めてWindowsOSで利用されている。 [文字符号化方式]EUC-JP 符号化対象文字は JIS X 0201 JIS X 0208 JIS X 0201中のASCIIの文字はは互換性のため、同じ方式で符号化。よって1文字1バイト長。 JIS X 0201中の半角カタカナは1文字2バイト。1バイト目(上位)は0x8Eで固定。2バイト目(下位)JIS X 0201で符号化した値。 JIS X 0208は区・点にそれぞれ0xA0を足す。1文字2バイト。 図　EUC-JP UNIX系OS(Linuxも含む)で使われている。MacOSもUNIX系OSだが、Shift_JISを使っている模様。 EUC-JPで符号化 スライドNo. 41 図　EUC-JPで符号化(スライドNo.41) スライドNo. 42 図　EUC-JPで符号化(スライドNo. 42) [文字符号化方式]UTF-8 対象文字はUnicode。 1文字1バイト(ASII文字)から2バイト、3バイトと可変長。 図　UTF-8で符号化 図　UTF-8で符号化 符号化する際、先頭に"10"、"110"、”1110”を挿入するのは何バイトの文字か判定するため。 次回は 文字コードのテス...
続きを読む

6月14日(金)1コマ目

イメージ
今日、やったこと 論理演算子 論理式の変換法則 今日のホワイトボード 論理演算子 ANDやOR、XORなど。 ANDとORは頻出なので覚えておく。忘れがちなのがXOR。存在を知っていると結構便利。 論理式の変換法則 論理式を変換するための法則がある。とりあえず各法則を確認してもらうためにベン図を描いて確認してもらいました。 その際、1や0が出てきましたが、 1は全体 0はなにもない です。 図　ベン図での1と0 補元の法則 1や0が出てきてわかりずらいかと思いますが、以下のとおりです。 図　補元の法則 復元の法則 Aの否定の否定です。 資料が分かりずらくてすいません。 図　復元の法則 [練習問題]論理式の変換 途中までホワイトボードに変換過程を描きました。 ①1問目 そんなにややこしくはないかと。 図　1問目 ②2問目 カッコを展開しています。数学の展開と同じです。 図　2問目 ③3問目 これもそんなにややこしいことはないかと。 図　3問目 ④4問目 これはちょっといやらしい。 赤で囲った部分がいやらしい。1を1+Bに置き換えるのは数式(論理式ではない)の感覚だとなかなか思いつかない。 図　4問目 次回は 論理式の変換の練習問題の続きからやります。 テストはしません。  
続きを読む

5月31日(金)1コマ目

イメージ
今日、やったこと [確認テスト]誤差 文字コード 今日のホワイトボード コンピュータで文字を扱うには コンピュータ内のデータはすべてビット列。 数値はビット列に変換できる。 文字は一旦数値に置き換えればビット列になる。コンピュータで文字を扱うことができる。 文字の画像をビット列にすることも一案だけど、データサイズが大きくなってしまう。 一般的には各文字にユニークな数値を割り当てている。 図　コンピュータで文字を扱うには 文字コード よく使われる単語だが、人によって、話の文脈によって何をさすかが変わる。 誤解を生みやすい単語なので、この授業では極力「文字コード」を使わないようにします。 「文字コード」の使われ方例 文字集合(文字のあつまり)を文字コードと呼んでみたり 文字符号化方式(文字を数値に変換するためのルール)を文字コードと呼んでみたり 文字符号化方式に従って符号化されたデータを文字コードと呼んでみたり 文字集合と文字符号化方式 文字集合は文字のあつまり。 文字符号化方式は文字を符号(数値)に置き換えるためのルール。 図　文字集合、文字符号化方式 この２つ(文字集合、文字符号化方式)は別モノです。 規格を決める団体 文字集合も文字符号化方式も個人が勝手にやるわけにはいかない(みんな同じ文字集合、文字符号化方式を使うため）。 そこで規格を決める団体が文字集合や文字符号化方式を決める。 図　規格を決める団体 JISは日本だけの規格。ISOはグローバルな規格。 日本国内だけしか流通しない商品やサービスならJISを満たせばOK。 グローバルに展開するならISOを満たす必要あり。 文字符号化集合 符号化された文字のあつまり。文字集合＋文字符号化方式のイメージ。 図　文字符号化集合 ASCII コンピュータ初期のころに生まれた。 文字集合＋文字符号化方式。 初期のころなので分けて考える必要性を感じていなかった。 アルファベット+数字+記号+制御文字の約100文字。 1文字7ビット。（7ビットなら128パターン) 図　ASCII ASCIIで符号化 ASCIIの表に従って各文字を符号化。 図　ASCIIで符号化 JIS X 0201 日本語版ASCII。 ASCIIに半角カナを追加。 半角カナを追加すると128文字(7ビットの上限)を超えるため、 1文字8ビット 。(8ビット...
続きを読む