Day7

今天又想起一个之前面试时被问的问题:

c#中浮点数在计算机中的储存方式

float 单精度浮点数,数据占用32bit
double 双精度浮点数,数据占用64bit

分配内存时float遵从IEEE R32.24,double遵从R64.53
二者在存储中分为3部分:
1.符号位
2.指数位
3.尾数部分
float:1位符号位,8位指数位,23位尾数,即指数范围为-127~128,小数部分4bit能精确十进制中1位小数点,所以尾数能精确到小数点后6位。
double:1位符号位,11位指数位,52位尾数
例如:6.25 转二进制为110.01,写成指数表达式为1.1001xMath.Power(2, 2),指数位为127 + 2 = 129,即10000001,
尾数为100 1000 0000 0000 0000 0000,符号位为0,
即在内存中为 0 10000001 100 1000 0000 0000 0000 0000

另外今天还复习了一下矩阵的乘法和行列式,发现自己真的是把线性代数忘得一干二净。。。
行列式
行列式

矩阵乘法
Day7_第1张图片

(2月1日修正图片矩阵乘法,之前将中括号写成了双竖线是错误的,双竖线表示的是行列式)

你可能感兴趣的:(记忆)