| ■
各ソフトの計算精度 |
■
takewin
(178)投稿日：2011年12月28日 (水) 22時48分
|
 |
全くの素人です。測量に興味を持ち、中古のＴＳ（ソキアＳＥＴ4010）を入手し、延長400ｍ10角の閉合トラバース測量をしてみました。誤差を補正するためGioLineという測量計算ソフトに入れて座標値と補正座標値を出しました。その補正前座標値がＴＳの「ケイサン」で出した座標値と所々1mm食い違います。ためしにと思って、エクセルで自分で計算式を入れて表を作ると、ＴＳとGioLineの値よりもっと違います。エクセルは、内部計算の都合で小数点以下の数字で誤差が生じることがあると聞いたことがあるのですが、一体どの数字を一番近い数字として信じていいのやら？ご教授いただけませんか？
|
| |
|
| |
□Re:各ソフトの計算精度/開業予定者
(179)投稿日 : 2012年01月04日 (水) 12時31分
|
| |
 |
あけましておめでとうございます。
-----
補正前座標値がTSの〜
という件がよく読めないのですが、
計算結果が違うとのことで考えられるのは、
・誤差配分の方法が違う（コンパス？均等？）
・計算途中の小数点以下の保持桁数が異なる
ではないかと思います。
Excelでも組まれたとのことですので、
Excel側で条件を色々変えてやってみてはどうでしょうか。
またExcelで組んだものが「もっと違う」とのことですが
角度単位は度分秒ですか？
外していたらすみません。
それにしても、測量に興味をもたれてTSまで購入されるなんて、
すごい行動力です！
-----
トッポ話、年末年始に全て読みました。
自分の知識、経験不足を痛感します。
開業はまだ先と、のんびり考えていましたが、
そんな姿勢は吹き飛びました。
歴史的なこと技術的なことや、勉強することは山のように…。
素晴しいテキスト本当に有難う御座いました。 |
| |
|
| |
□各ソフトの計算精度（自己レス）/takewin
(180)投稿日 : 2012年01月06日 (金) 22時59分
|
| |
|
開業予定者さん、レスありがとうございます。
よ〜く、元データを精査していたら、機械の換算値データと換算前の生データの平均データと混在させていたようです。ほぼ水平の場所を測っていたため、大きな違いが出ず、微妙に1ｍｍずれていたようです。（エクセルの違いは解決できませんが）
お騒がせして申し訳ありません。（しかし、この問題のおかげで、機械がどのように計算しているかや、出力データの読み方の勉強になりました。）
なお、機械は、自腹で買ったのではなく、某所からタダで、ほぼ自由に貸してもらっているものです。（タダと言っても茶菓子ぐらいは持っていってますが ^\^;）
|
| |
|
| |
□/開業予定者
(181)投稿日 : 2012年01月07日 (土) 15時24分
|
| |
|
あ、斜距離と水平距離の違いでしたか。
Excelの方は、手計算で計算チェック出来るシンプルな例（点3つとか）で
追い込めば原因がわかるかもしれませんね。
TSを買わずとも借りるという積極性はやはり素晴らしいです。
自分も貪欲に行動せねば、と思った次第です！ |
| |
|
| |
□■ 各ソフトの計算精度 /keisannsya
(185)投稿日 : 2012年01月18日 (水) 16時59分
|
| |
|
基本的な誤差配布の数値の丸め方が違うのでエクセルとかVBAでそのまま計算させた値と１mm程度違う事がある。
測量計算の場合はそれなりのルールがある、当たり前ですが。 |
