首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 软件管理 > 软件架构设计 >

cad 软件数值运算与精度有关问题

2012-02-10 
cad 软件数值运算与精度问题作cad软件,对数值表示可能会有整型和浮点型两种选择;对于中间运算,整型表示下,

cad 软件数值运算与精度问题
作cad软件,对数值表示可能会有整型和浮点型两种选择;对于中间运算,整型表示下,可能需要转成浮点型进行中间运算,也听说有的是完全用整数运算模拟,浮点型表示下,也要特别注意浮点运算的误差。更高级的可能是自己定义数据类型,以达到任意精度的精确运算。
现在遇到这样的设计难题,哪位前辈高人有这方面的经验或者知道相关资料,诚望赐教。
小弟先谢谢了!

[解决办法]
我以前做过一些这方面的工作,包括VLSI和数控方面CAD.
不知道你在做什么方面的CAD,需要如此高的精度?



[解决办法]
用分数表示,
弄一个结构体 ,里面2个成员 一个分子, 一个分母吗

热点排行