《2022年计算机常用计算公式汇总》由会员分享，可在线阅读，更多相关《2022年计算机常用计算公式汇总（6页珍藏版）》请在金锄头文库上搜索。
1、学习好资料欢迎下载常用计算公式汇总单位的换算1 字节(B)=8bit 1KB=1024字节 1MB=1024KB 1GB=1024MB 1TB=1024GB 通信单位中K=千 , M = 百万计算机单位中K=210 , M= 220 倍数刚好是 1.024 的幂p.s: 为次方; /为除 ; *为乘 ; (X/X) 为单位计算总线数据传输速率总线数据传输速率 = 时钟频率 (Mhz)/每个总线包含的时钟周期数*每个总线周期传送的字节数(b) 计算系统速度每秒指令数 =时钟频率 /每个总线包含时钟周期数/指令平均占用总线周期数平均总线周期数 =所有指令类别相加 (平均总线周期数 *使用频度 )
2、控制程序所包含的总线周期数=(指令数*总线周期数 /指令) 指令数 =指令条数 *使用频度 /总指令使用频度每秒总线周期数 =主频/时钟周期FSB 带宽=FSB 频率*FSB 位宽/8 计算机执行程序所需时间P=I*CPI*T 执行程序所需时间 =编译后产生的机器指令数 *指令所需平均周期数 *每个机器周期时间指令码长定长编码 : 码长=log2 变长编码 :将每个码长 *频度,再累加其和平均码长 =每个码长 *频度流水线计算流水线周期值等于最慢的那个指令周期流水线执行时间 =首条指令的执行时间 +（指令总数 1）*流水线周期值流水线吞吐率 =任务数 /完成时间流水线加速比 =不采用流水线的执
3、行时间/采用流水线的执行时间存储器计算存储器带宽 :每秒能访问的位数单位 ns=10-9 秒存储器带宽 =1 秒/存储器周期 (ns)*每周期可访问的字节数(随机存取 )传输率 =1/存储器周期 (非随机存取 )读写 N 位所需的平均时间 =平均存取时间 +N 位/数据传输率内存片数：（ W/w）*（B/b）W、B 表示要组成的存储器的字数和位数；w、b 表示内存芯片的字数和位数存储器地址编码 =(第二地址第一地址 )+1精选学习资料 - - - - - - - - - 名师归纳总结 - - - - - - -第 1 页，共 6 页学习好资料欢迎下载例: (CFFFFH-90000H)+1 /
4、 (16K*1024)*8bit 内存位数： log2（要编址的字或字节数）Cache 计算平均访存时间： Cache 命中率 * Cache 访问周期时间+ Cache 失效率 *主存访问周期时间例: (2%*100ns+98%*10ns)+1/5*(5%*100ns+95%*10ns)=14.7ns 映射时 ,主存和 Cache 会分成容量相同的组cache 组相联映射主存地址计算主存地址 =(主存容量块数 *字块大小 )log2 (主存块和 cache 块容量一致 ) 例: 128*4096 = 219(27*212) 主存区号 =(主存容量块数/ cache 容量块数 )log2 Ca
5、che 访存命中率 =cache 存取次数 /(cache 存取次数 +主存存取次数 )磁带相关性能公式数据传输速率 (B/s)=磁带记录密度 (B/mm)* 带速(mm/s)数据块长充 =B1(记录数据所需长度 )+B2(块间间隔 ) B1=(字节数 /记录)*块因子 /记录密度读 N 条记录所需时间 :T=S(启停时间 )+R+D R(有效时间 )=(N*字节数 /记录)/传输速度 D(间隔时间 )=块间隔总长 /带速=(N/块化因子 )*(块间间隔 )/带速每块容量 =记录长度 *块化系数每块长度 =容量/(记录密度 ) 存储记录的块数 =磁带总带长/ (每块长度 +每块容量 )磁带容量
6、 =每块容量 *块数磁盘常见技术指标计算公式双面盘片要 *2 因为最外面是保护面又 -2 N*2-2非格式化容量位密度 *3.14159* 最内圈址径 *总磁道数例: (250*3.14*10*10*6400) /8/1024/1024 = 59.89MB 总磁道数 =记录面数 *磁道密度 *(外直径 -内直径 ) /2例:8 面*8*(30-10) /2*10=6400 每面磁道数 (（外径内径） /2) 道密度每道位密度不同 ,容易相同每道信息量内径周长 位密度例: 10cm 10 3.14159 250 位/mm 78537.5 位/道 格式化容量每道扇区数 *扇区容量 *总磁道数例:
7、(16*512*6400) /1024/1024=50MB or 格式化容量非格式化容量 0.8 平均传输速率 =最内圈直径 *位密度 *盘片转速例: 2*3.14*(100/2)*250*7200/60/8=1178Kb/s 数据传输率 (外圈速率内圈速率 )/2 外圈速率外径周长 位密度 转速例:(30cm 10 3.14159 250 位/mm 120 转/秒)/8/1024 3451.4539 KB/s 精选学习资料 - - - - - - - - - 名师归纳总结 - - - - - - -第 2 页，共 6 页学习好资料欢迎下载内圈速率内径周长 位密度 转速例: (10cm 10
8、3.14159 250 位/mm 120 转/秒)/8/1024 1150.4846 KB/s 数据传输率（ 3451.4539 1150.4846 ）/2=2300.9693 KB/s 存取时间 =寻道时间 +等待时间处理时间 =等待时间 +记录处理时间(记录处理最少等待时间 =0,最长等待时间 =磁盘旋转周期N ms/ 周-1:记录道数) 移动道数 (或扇区 )=目标磁道 (或扇区 )-当前磁道 (或扇区 ) 寻道时间 =移动道数 *每经过一磁道所需时间等待时间 =移动扇区数 *每转过一扇区所需时间读取时间 =目标的块数 *读一块数据的时间数据读出时间 =等待时间 +寻道时间 +读取时间减
9、少等待时间调整读取顺序能加快数据读取时间平均等待时间 =磁盘旋转一周所用时间的一半(自由选择顺逆时钟时 ,最长等待时间为半圈 ,最短为无须旋转 . 平均等待时间 =(最长时间 +最短时间 )/2 平均寻道时间 =(最大磁道的平均最长寻道时间+最短时间 )/2 最大磁道的平均最长寻道时间=(最长外径 +圆心 )/2 操作系统虚存地址转换(基号)+ 段号) +页号) * 2n + 页内偏移网络流量与差错控制技术最高链路利用率a : 帧计数长度a 可以是 传播延迟 /发一帧时间数据速率 *线路长度 /传播速度 /帧长数据速率 *传播延迟 /帧长停等协议最高链路利用率E=1/(2a+1)W: 窗口大小
10、滑动窗口协议 E=W/(2a+1) P:帧出错概率停等 ARQ 协议E=(1-P)/(2a+1)选择重发 ARQ 协议若 W2a+1 则 E=1-P 若 W2a+1 则 E=(1-P)/(1-P+NP) 若 W二进制 -网络号全 1,主机为 0-子网前 22 位 1,后为 0 = 255.255.252.0 Vlsm 复杂子网计算Ip/子网编码1.取网络号 . 求同一网络上的 ip 例 : 112.10.200.0/21 前 21 位-二进制 -取前 21 位相同者(ip) /(子网) 2.路由汇聚例 : 122.21.136.0/24 和 122.21.143.0/24 判断前 24 位-二
11、进制 -取前 24 位相同者10001000 10001111 精选学习资料 - - - - - - - - - 名师归纳总结 - - - - - - -第 4 页，共 6 页学习好资料欢迎下载系统可靠性 :串联: R = R1*R2*.RX 并联: R = 1 - (1-R1)*(1-R2)*.(1-RX) pcm 编码取样: 最高频率 *2 量化: 位数=log2级数编码量化后转成二进制海明码信息位 :k=冗余码n=信息位2k-1 = n+k 数据通信基础信道带宽模拟信道 W= 最高频率f2 最低频率f1 数字信道为信道能够达到的最大数据速率. 有噪声香农理论C(极限数据速率 b/s) =
12、 W( 带宽)*log2(1+S/N( 信噪比 ) 信噪比 dB(分贝) = 10*log10 S/N S/N= 10(dB / 10) 无噪声码元速率B = 1 / T 秒(码元宽度 ) 尼奎斯特定理最大码元速率B = 2*W( 带宽) 一个码元的信息量n = log2 N ( 码元的种类数 ) 码元种类数据速率R (b/s) = B( 最大码元速率 /波特位 ) * n(一个码元的信息量 /比特位 ) = 2W * log2 N 交换方式传输时间链路延迟时间= 链路数 * 每链路延迟时间数据传输时间= 数据总长度/ 数据传输率中间结点延迟时间= 中间结点数* 每中间结点延迟时间电路交换 传
13、输时间= 链路建立时间+ 链路延迟时间+ 数据传输时间报文交换 传输时间= (链路延时时间+ 中间结点延迟时间+ 报文传送时间 ) * 报文数分组交换数据报传输时间= (链路延时时间+ 中间结点延迟时间+ 分组传送时间 ) * 分组数虚电路传输时间= 链路建立时间+ (链路延时时间+ 中间结点延迟时间+ 分组传送时间 ) * 分组数精选学习资料 - - - - - - - - - 名师归纳总结 - - - - - - -第 5 页，共 6 页学习好资料欢迎下载信元交换传输时间=链路建立时间+ (链路延时时间+ 中间结点延迟时间+ 分组传送时间 ) * 信元数差错控制CRC 计算K(x)信息位
14、( K )转生成多项式= K-1 例: K = 1011001 = 7 位 1 = 从 6 开始= 1*x6 + 0*x5 +1*x4 + 1*x3 + 0*x2 +0*x1 + 1*x0 = x6+x4+x3+1 冗余位 ( R )转生成多项式= 和上面一样生成多项式转信息位 (除数) =和上面一样 .互转. 例: G(x) = x3+x+1 = 1*x3 + 0*x2 + 1*x1 +1*x0 = 1011 原始报文后面增加 ”0”的位数 . 和多项式的最高幂次值一样生成校验码的位数和多项式的最高幂次值一样计算 CRC 校验码 ,进行异或运算 (相同=0,不同=1) 网络评价网络时延 =
15、本地操作完成时间和网络操作完成时间之差吞吐率计算吞吐率 = (报文长度 *(1-误码率 ) / (报文长度 /线速度) + 报文间空闲时间吞吐率估算吞吐率 = 每个报文内用户数据占总数据量之比* (1 报文重传概率 ) * 线速度吞吐率 = 数据块数/ (响应时间存取时间 ) 响应时间= 存取时间+ (数据块处理/ 存取及传送时间* 数据块数 ) 数据块处理 /存取及传送时间= (响应时间 存取时间 ) / 数据块数有效资源利用率计算有效利用率 = 实际吞吐率/ 理论吞吐率例: = (7Mb/s * 1024 *1024 *8) / (100Mb/s *1000 *1000 )= 0.587 组网技术(adsl) 计算文件传输时间T = (文件大小 /*换算成 bit) / ( 上行或下行的速度Kb) /*以 mb 速度*/ 如 24M 512kb/s T= (24*1024*1024*8) / (512*1000)=393秒精选学习资料 - - - - - - - - - 名师归纳总结 - - - - - - -第 6 页，共 6 页
