10.11.2006, 11:29
|
#1 |
|
Участник
|
Попробуйте вычислить значение следующего выражения в Навижн: 0,33333/0,08333, округлив результат с точностью 0,00001. А потом посчитайте то же самое на калькуляторе. Результат удивит.
|
|
|
|
10.11.2006, 12:01
|
#2 |
|
Участник
|
И так и эдак: 4,00012
|
|
|
|
10.11.2006, 12:03
|
#3 |
|
Moderator
|
Ядро считает правильно. Получится 4.00012 ...
А сколько должно быть по-вашему? |
|
|
|
10.11.2006, 13:40
|
#4 |
|
Участник
|
нормально вроде считает
|
|
|
|
10.11.2006, 13:48
|
#5 |
|
Участник
|
У меня вот получилось 3,99918
|
|
|
|
10.11.2006, 16:33
|
#6 |
|
Участник
|
эээээ.. батенька, вы же ж одну троечку в числителе не дописали, когда считали
|
|
|
|
10.11.2006, 18:00
|
#7 |
|
Участник
|
Цитата:
Сообщение от Fordewind
эээээ.. батенька, вы же ж одну троечку в числителе не дописали, когда считали
|
|
|
|
10.11.2006, 18:22
|
#8 |
|
Moderator
|
код в студию
|
|
|
|
13.11.2006, 13:38
|
#9 |
|
Участник
|
Цитата:
Сообщение от tyrex
код в студию
Похоже, Fordewind, прав. Только вот с коллегой смотрели вдвоем - ничего не в глаза не бросалось, поэтому решил написать - однако, оба троечку проглядели. Насчет 18, а не 76 - это когда пост писал ошибся. Так что тему можно закрывать... |
|
|
|
14.11.2006, 11:14
|
#10 |
|
Moderator
|
Ну ладно, хватит, хватит ;-)
Это моя проблема была, да друзья-товарищи быстро ее разнесли. На самом деле Навижин считает правильно, но есть проблема как всегда "в голове". Такие вот дизайнеры свинью подсунули. Если программно заполнять поле Decimal результатом деления, то записывается гораздо больше 5 знаков, а все формы навижина отображают 5 знаков максимум по-умолчанию. Дебагер тоже отображает ПЯТЬ!!! знаков, вот и получается черти-что. Мораль: не ленитесь ставить ROUND до 5 знаков. |
|
|
|
14.11.2006, 11:33
|
#11 |
|
Участник
|
2Dzemon:
Ну насчёт пяти знаков, по моему перебор, но вот то, что не все цифры в числе отображаются это факт. В таблице 81- Gen. Journal Line есть поле Currency Factor (Курс валюты). Свойство DecimalPlaces у этого поля 0:15. Так вот отображает это поле все 15 знаков, а число содержится в нём с 18-и значной точностью. Из-за этой фигни не сходился баланс в конце отчётного периода. Если программно прочитать значение из этого поля, потом округлить, то результат будет один. Ежели скопировать число в кальулятор и ручками округлить - то совсем другой. Долго я с этим возился, прежде чем въехал что к чему. |
|
|
|
14.11.2006, 11:41
|
#12 |
|
Moderator
|
Оп чем и спич!
Если число вводится через форму, то работают настройки округления, а если программно то 14 знаков. |
|
|
Линейный вид
