Вопросы

Использованные поисковые фильтры:

2593 вопроса (0.2932)

Увидев этот код Неожиданно увидел в результате (http://ideone.com/1SEHpO) Куда делась 1? Из за чего так происходит? Особенности записи типов с плавающей точкой?
Был на собеседовании, спросили, "в переменной какого типа лучше хранить деньги", сказал Float, мол скорость, все дела. - забраковали. Ответа на вопрос "почему" не услышал. так вот почему "деньги" нельзя хранить во Float?
Почему разные языки по-разному отображают число 9223372036854775807, хотя все используют один и тот же формат 8-байтного double для представления чисел? 9223372036854775807 - в коде 9223372036854775808 - C++
Доброе время суток, поменял в Windows 10 системный DecimalSeparator с , на . И проверил следующий вариант, который немного не понял: почему выдает false, если q=0.01? Для правильного отрабатывания этого примера пришлос...
По роду деятельности я был вынужден плотно работать с форматом IEEE-754, в процессе чего обнаружил, что ни один из известных мне компиляторов (VC++, Intel C++, CLang, GCC (именно MinGW)) не умеет конвертировать некоторые числа в десятичной записи (типа, 1.2345e67) в формат с плавающей точкой. Все...
Почему такое выражение - System.out.println(468654654d / 15)- выводиться в экспоненциальной форме - (3.12436436E7), а не в классической - 31243643.6 , какая зависимость ?????

Zimovets Sergey

Если double b равен 0.0000001 , то cout
Имеется ли в с++ готовая функция которая бы могла попытаться преобразовать строку в число (double к примеру), и при неудаче возвращала бы не ноль, а к примеру NAN?
Из файла excel забираются данные из ячеек, ячейки, содержащие даты сначала хочу конвертировать из string в double, затем уже в datatime. Однако в любом случае на этапе double.parse появляется эта ошибка. Пробовал указывать разные culture для того, чтобы дата правильно воспринималась, однако пока ...

Igor Nosov

Почему в примере сравнение переменной ind с самой собой даёт отрицательный результат? Для проверки на бесконечность можно ли использовать эту конструкцию if(ind != ind)? Что из себя представляет это значение в памяти, оно хранится как число или как...
Есть условие, в котором проверяются элементы массива на ноль или null. Компилятор выдаёт ошибку: Оператор "&&" невозможно применить к операнду типа "double?" и "double?" Вопросы: Как избежать этой ошибки? Есть ли способ более короткой записи такого условия?
если число меньше какого то значения "0.0000002", то C# превращает его в 2e-07. как отменить это превращение?
Я сделал по топорному, как можно по другому сделать?
Есть вот такой код простого конвертера валют. (SOM - это валюта Кыргызстана) на красоту не смотрим это просто пример! вопрос в следующим: Почему при вводе к примеру (16000) все работает при вводе (16,000) тоже, а вот при вводе (16.000) выдаёт...

j. Atisto

Отправляю GET-запрос в тесте через mockMvc: Принимающий контроллер: Почему-то приходит 75.0. При замене на 75,5 падает. При замене на String weight приходит 75.

Вячеслав Чернышов

Необходимо проверять кратность количества и коэффициента. Казалось, остаток от деления должен быть 0, но нет, выводит некоторое значение. Почему? Как сделать, чтобы в таких случаях корректно считал? Сейчас сделал временное решение с round(fmod,5). Ответ
В стандарте IEEE754 дробные числа представляются следующим образом: где s - знак, M - мантисса и E - порядок. Допустим у нас есть число float f = 12.34 в памяти оно будет представлено так: Как получить из него обратно деся...
Есть такой код: Проблема в том, что для textField я настроил клавиатуру "Decimal pad" и при попытке ввода числа с запятой (3,43255 или 765,001234) стопорится приложение. Есть ли возможность заменить точку в Double на запятую или настроить точку вместо запятой на клавиатуре?