計算結果の桁数

 計算の対象が整数ばかりなら、桁数で苦労することは少ないと思います。 でも、技術計算であれば、その表示精度だけでかなり厄介です。 精度を適切に表現するには、数値処理をする自分の手で処理することが必要です。 カメラで、被写体を決め、シャッターチャンスを決めるように ですね。

 ところで、カルキングでは、あらゆる場面で、計算精度を上げるよう配慮されています。例えば整数計算では、「厳密計算」を要求すれば、できる限り「分数モード」を使って、誤差が0となる計算をしようとします。

 実数計算でも、四則演算に関する限り、有効数字の桁数を最大300桁迄演算可能としています。 計算用に準備したレジスタの桁数を、300桁にすることもできるわけです。

 こんなソフトなので、高精度の計算はいいのですが、もっとラフな計算で結果を求めたい場合にも、必要以上の桁数が表示されて困ることがあります。 勿論、ソフトに慣れるまでの話です。

 カルキングでは、解(計算結果)の表示精度を、指定する場合、式のプロパティを設定します。 先ず最初に分数を計算してみましょう。

 コマンドボタン(プロパティ)を押すと、何故このようになったかが分ります。 今回の例では、数値計算をした結果を、有効表示精度30桁が指定してありました。 多分前回の作業で、何かの都合で桁数の長い計算をしていたのです。 30の隣の-1は、小数点以下の桁数を指定する場所で、特に指定しなかったことを示しています。

 こんな長い計算結果を表示したのでは、大抵のお客様は、うんざりします。 スッキリした感じにするためには、この「プロパティの設定」パネルの指定データを修正します。 例えば、表示精度の「30」を「4」に書き換え、「OK」ボタンを押します。 改めて計算を実行(F7)すれば、0.1428 と短くなってくれます。

 ここでは、小数点以下6桁表示としてみます。 作業としては、「-1」を「6」と書き換え、チェックボックス「式を再実行する」に、チェックを入れて、「OK」ボタンを押しました。結果は、ずっとスッキリしたものになりました。

 実は、小数点以下の表示桁数を指定すると、計算桁数は、作業者の意思に係わり無く、有効桁数50で計算処理してくれます。  表示に際しては、小数点以下7桁目を四捨五入し、表示します。

 上の作業で、「式を再実行する」のチェックを入れてから「OK」しましたが、これが必要と覚えてください。 プロパティを変えたまま、再度実行を指示しないと、元の計算結果は変化しません。

 尚、この「プロパティの設定」パネルの条件を、当面の標準条件として「後続の作業」をしたい場合は、「OK」で実行する前に、「登録」ボタンを押しておきます。 その結果、次から新規に入力された式は、「登録されたプロパティ」を持った式になります。

 次のページ へ進む

 トップページ へ戻る

 前のページ へ戻る

広告 [PR] 高収入  メイク 美容家電 無料レンタルサーバー