About 50 results
Open links in new tab
  1. decimal,float和double的区别是什么? - 知乎

    "decimal"、"float" 和 "double" 是在编程中用于表示数字的不同数据类型,它们之间的主要区别在于精度和范围。 1. Decimal(十进制):Decimal 是一种用于精确表示小数的数据类型,通常用于需要高精度 …

  2. 单词「decimal」的为什么有「十进制」和「小数」两个义项?

    这两个义项之间有什么关系? 先看三个词: decimal 十进制 fraction 分数 decimal fraction 十进制分数 十进制分数就是分母为10、100、1000...的分数。哎等等,这样的分数不就是小数嘛: 1/10 = 0.1 …

  3. decimal类型为什么比float和double精确? - 知乎

    decimal类型为什么比float和double精确? decimal的有效位很长,但是这个应该不是主要原因吧,是不是底层编码用了BCD之类的编码而不是普通的二进制转换。 因为像0.6这种小数,普通的二进制转… 显 …

  4. C#中decimal类型如何处理null值? - 知乎

    Oct 11, 2024 · C#中decimal类型如何处理null值? sqlserver 数据库定义是numeric (16, 6), C# 实体是decimal,然后前端vue传送经常是null值,所以报错无法将null… 显示全部 关注者 6 被浏览

  5. 请问Python里为什么会出现invalid decimal literal报错?

    请问Python里为什么会出现invalid decimal literal报错? 今天看廖雪峰老师的博客,照着安装和运行,但是在运行python hello.py 程序时出现‘句法错误无效的十进制文本’报错,而且有个小尖箭头指着文 …

  6. python 出现无效的十进制文字该如何解决? - 知乎

    在 Python 中,当使用字符串转换为浮点数或整数时,可能会遇到“无效的十进制文字”的错误。这个错误通常是由于字符串包含了无效的字符或格式不正确引起的。以下是一些解决这个问题的方法: 检查字 …

  7. math.fsum 和 sum (Decimal) 的结果为什么不一样, 哪个有问题?

    Jan 5, 2026 · 另外,Decimal是有一个精度值,getcontext ().prec默认值是28,一般情况都够用,只不过你标题里的例子在计算过程中就超过了。 如果非要使用Decimal,就把其值给设置高点

  8. 刚开始学python,run之后显示invalid decimal literal,求助?

    Feb 23, 2022 · 刚开始学python,run之后显示invalid decimal literal,求助? [图片] 为什么我run之后显示invalid decimal literal 是仿照着课本弄的python 改正后的,但还是出现invalid de… 显示全部 关注者 9 …

  9. 在 mysql 中 cast 的函数用法有哪些? - 知乎

    在 MySQL 中, 函数用于将一个表达式转换为指定的数据类型。这在某些情况下很有用,例如在查询中需要确保数据类型的一致性。以下是 函数的一些用法:

  10. 在python当中如何保留两位有效数字? - 知乎

    Feb 26, 2020 · 比如一个π,如何保留两位有效数字使其变成3.1?