C++ int 型负数转换成 unsigned int 型时注意溢出

目录

  • C++ int型,
  • 题目
  • 第一次编码
  • 出错
  • 解析
  • 第二次编码
  • 结果

C++ int型,

C++ int 型一般为32位,范围为[−231, 231 − 1] ,当负数最小值转换成正数时会溢出,所以要特别小心。

题目

实现函数double Power(double base, int exponent),求base的exponent次方。不得使用库函数,同时不需要考虑大数问题。

示例 1:

输入: 2.00000, 10
输出: 1024.00000
示例 2:

输入: 2.10000, 3
输出: 9.26100
示例 3:

输入: 2.00000, -2
输出: 0.25000
解释: 2-2 = 1/22 = 1/4 = 0.25

说明:

-100.0 < x < 100.0
n 是 32 位有符号整数,其数值范围是 [−231, 231 − 1] 。

来源:力扣(LeetCode)
链接:https://leetcode-cn.com/problems/shu-zhi-de-zheng-shu-ci-fang-lcof
著作权归领扣网络所有。商业转载请联系官方授权,非商业转载请注明出处。

第一次编码

class Solution {
     
public:
    double unsignedMyPow(double x, unsigned int n)
    {
     
        if(1 == n)
        {
     
            return x;
        }
            
        double num = unsignedMyPow(x, n/2);
        if(n % 2)
        {
     
            return num * num * x;
        }
        else
        {
     
            return num * num;
        }
    }
    double myPow(double x, int n) {
     

        if(0 == n)
            return 1;
        if(n > 0)
            return unsignedMyPow(x, n);
        else
        {
     
            return 1.0 / unsignedMyPow(x, -n);
        }
    }
};

出错

C++ int 型负数转换成 unsigned int 型时注意溢出_第1张图片

解析

-231 = -2147483648,因此当将此数输入给 n 时,-n 的计算过程是取 n 的值,正负取反,得到 2147483648,将此数寄存在 n 的位置,由于 n 是 int 型,溢出。解决办法是类型转换,转成一个位数更大的 long 。

第二次编码

class Solution {
     
public:
    double unsignedMyPow(double x, unsigned int n)
    {
     
        if(1 == n)
        {
     
            return x;
        }
            
        double num = unsignedMyPow(x, n/2);
        if(n % 2)
        {
     
            return num * num * x;
        }
        else
        {
     
            return num * num;
        }
    }
    double myPow(double x, int n) {
     

        if(0 == n)
            return 1;
        if(n > 0)
            return unsignedMyPow(x, n);
        else
        {
     
            return 1.0 / unsignedMyPow(x, -(long)n);
        }
    }
};

结果

C++ int 型负数转换成 unsigned int 型时注意溢出_第2张图片

你可能感兴趣的:(C++,leetcode)