Вопросы

Использованные поисковые фильтры:

449 вопросов (0.2881)

Почему разные языки по-разному отображают число 9223372036854775807, хотя все используют один и тот же формат 8-байтного double для представления чисел? 9223372036854775807 - в коде 9223372036854775808 - C++
Из файла excel забираются данные из ячеек, ячейки, содержащие даты сначала хочу конвертировать из string в double, затем уже в datatime. Однако в любом случае на этапе double.parse появляется эта ошибка. Пробовал указывать разные culture для того, чтобы дата правильно воспринималась, однако пока ...

Igor Nosov

Есть условие, в котором проверяются элементы массива на ноль или null. Компилятор выдаёт ошибку: Оператор "&&" невозможно применить к операнду типа "double?" и "double?" Вопросы: Как избежать этой ошибки? Есть ли способ более короткой записи такого условия?
если число меньше какого то значения "0.0000002", то C# превращает его в 2e-07. как отменить это превращение?
Есть вот такой код простого конвертера валют. (SOM - это валюта Кыргызстана) на красоту не смотрим это просто пример! вопрос в следующим: Почему при вводе к примеру (16000) все работает при вводе (16,000) тоже, а вот при вводе (16.000) выдаёт...

j. Atisto

Пользователь вводит вероятность и сумму ставки(оба натуральные числа). Вывести выигрыш нужно число с плавающей точкой, так же записать в базу данных число с плавающей точкой. О
Строка была получена таким образом: В текст-бокс загружается "BMI: 22.2", однако в БД надо сохранить в типе double.
У меня есть метод типа string, который принимает два аргумента: string и double. На выходе мне нужно выдать, насколько я понимаю, оба аргумента в string. Но возникает ошибка: компилятор не может перевести double в
Есть json и я его обрабатываю вот так На выход уходит 0,07205551 (с запятой) Почему так и как исправить?
Как в double сделать 20 и более знаков после запятой? Или надо свой тип написать?
результат расчетов print.Price — всегда целое число. Первый случай: Второй случай: В обоих случаях результат — одно и тоже число. А должно быть разное. Знаю, что это связано с ограничением размера double и периодическими дробями. Как правильно выполнить такую...

Петр

Для упрощения некоторых аспектов предстоящих разработок, пишу небольшую библиотеку. Требуется несколько расширить тип double - добавить несколько методов. Посмотрел, как объявлен этот тип в .NET, оказалось, что это структура, наследующая несколько интерфейсов. Первая мыс...
Рассчитываю pi 3.141592653589794 - это я вижу в отладчике 3.14159265358979 - это, когда вывожу Как мне вывести число полностью?
Доброго времени суток! Возник следующий вопрос: к примеру, у нас есть переменная типа double и некоторая точность (переменная precition), которая будет определять количество интересующих нас знаков после запятой: Зная вышеперечисленные данные, нам нужно получить точное число 9.381...
Я пытаюсь лучше понять арифметику с плавающей запятой и увидел несколько ссылок на "Что каждый компьютерный ученый должен знать о арифметике с плавающей точкой". Я все еще не понимаю, как число, подобное 0.1 или 0.5, хранится в полях и как десятичные числа.
Это я, чего я пытаюсь достичь: Если double имеет более трех знаков после запятой, я хочу усечь любые десятичные разряды за пределы третьего. (не раунд.) Если double имеет менее 3 десятичных знаков, оставьте без изменений Я столкнулся с этой командой: Но я не хочу кр...
У меня есть простая функция С#: Это вычисляет большее число, меньшее или равное "значению", которое кратно "шагу". Но ему не хватает точности, как видно из следующих тестов: Первый и второй утверждения одобрены, но третий не работает, потому что результат равен только 6-му знаку п...
Я хотел бы изменить десятичную точку на другой символ в С#. У меня есть переменная double value и когда я использую команду: Я знаю, что могу это сделать: но мне это не очень нравится, потому что он очень длинный, и мне это нужно довольно часто в...
вызывает эту ошибку: ошибка CS0664: Литерал типа double не может быть неявно преобразован в тип "десятичный"; используйте суффикс 'M' для создания литерала этого типа как
В нашем коде у нас есть двойник, который нам нужно преобразовать в int. Может ли кто-нибудь объяснить мне, почему i1 != i2? В результате я получаю следующее: i1 = 9 и i2 = 8.