天软金融分析.NET函数大全 > TSL函数 > 系统相关函数 > 数据类型转换函数

SetPrecision    

简述
从指定精度四舍五入截断小数点位数,返回number的保留小数点Precision位后的值
使用银行家算法对Number进行四舍五入,精确到10Adigit位。“四舍六入五考虑,五后非零就进一,五后皆零看奇偶,五前为偶应舍去,五前为奇要进一”
定义
SetPrecision(number:Real;Precision:Integer):Real;
参数
名称类型说明
Numberinteger实数/实数数组。
Precisioninteger整数,目的是为了截取实数后面小数点的位数。
返回real实数/实数数组,按指定精度四舍五入后的结果。
  • 范例


    Return setPrecision(123.4567,3);//返回值为保留3位小数点后的实数:123.457。
相关