HOME HELP 新規作成 新着記事 ツリー表示 スレッド表示 トピック表示 ファイル一覧 検索 過去ログ

ログ内検索
・キーワードを複数指定する場合は 半角スペース で区切ってください。
・検索条件は、(AND)=[A かつ B] (OR)=[A または B] となっています。
・[返信]をクリックすると返信ページへ移動します。 (*過去ログは表示されません)
・過去ログから探す場合は検索範囲から過去ログを選択。
キーワード/ 検索条件 /
検索範囲/ 強調表示/ ON (自動リンクOFF)
結果表示件数/ 記事No検索/ ON
大文字と小文字を区別する

No.7 の関連記事表示

<< 0 >>
■7 　Re[1]: 数式が入った文字列型項目値からの計算値の取得？
□投稿者/ 佐田　守弘 -(2005/08/13(Sat) 18:19:15)
http://www.m-sada.com
    ふくいちさん
    演算結果が割り切れない数になる(数学的には循環小数)になるのが困るとの事
    ですが、桐の数値型および通貨型は、有効数字16桁あり、±10^124乗の範囲が
    扱えます。
    有効数字16桁は、指数を付けなければ１京円に相当します。仮に指数として
    厘の１桁下まで扱っても１兆円の金額が扱えます。
    しかも、内部的にはBCD演算をしているらしいので、実数型演算の様なバイナリ
    演算による誤差は出ないとされています。
    つまり、割り切れない数字が途中で出ても、最終的な演算結果への影響はない
    はずだと思うのですが。
    念のために申し上げますと、表で表示されている割り切れない数はあくまでも
    表示乗の値(切り捨て値らしい)であって、実際に保持されている値は上記の
    有効数字を持った値です。

    なお、ご希望の様に乗数と除数を別々に持っておいて、最終的に除算を行い
    たいのなら、悲しげさん、うにんさんが書かれている様な方法になるでしょう。
記事No.2 のレス /過去ログ1より / 関連記事表示
削除チェック/



<< 0 >>
パスワード/

HOME HELP 新規作成 新着記事 ツリー表示 スレッド表示 トピック表示 ファイル一覧 検索 過去ログ

- Child Tree -