decimal32

语法

decimal32(X, scale)

详情

将输入的数据类型转换为 DECIMAL32 类型。

参数

X 整型/浮点型/字符串类型标量或向量。

scale 整型标量,表示保留的小数位数。

例子

a=decimal32(142, 2)
a

返回:142.00

b=decimal32(1\7, 6)
b

返回:0.142857

a+b

返回:142.142857

a*b

返回:20.28569400

decimal32("3.1415926535", 4)

返回:3.1415

一个 DECIMAL 类型向量里的所有元素的类型和 scale 必须相同,例如:

d1=[1.23$DECIMAL32(4), 3$DECIMAL32(4), 3.14$DECIMAL32(4)];

返回:[1.2300,3.0000,3.1400]

typestr(d1);

返回:FAST DECIMAL32 VECTOR

d2=[1.23$DECIMAL32(4), 3$DECIMAL32(4), 3.14$DECIMAL32(3)];

返回:(1.2300,3.0000,3.140)

typestr(d2);

返回:ANY VECTOR

将 STRING 或 SYMBOL 类型转换为 DECIMAL 类型时,不同版本服务器的处理方式存在差别。2.00.10 之前版本会将超出 scale 的小数部分直接舍去。而 2.00.10 及之后的版本,会将超出 scale 的小数部分进行四舍五入。例如,对于以下的转换:

symbol(["1.341", "4.5677"])$DECIMAL32(2)

2.00.10 之前的版本,结果为:[1.34,4.56]

2.00.10 及之后的版本,结果为:[1.34,4.57]