当前位置: 首页 > news >正文

C语言char与short取反以及符号判断问题

这个问题主要是在从对一个变量进行符号判断引出,有一种判断方法是#define ISUNSIGNED(Value)  (Value >=0 && ~Value >=0)

主要是通过将符号位取反然后将变量与0进行比较。传入int与unsigned int结果正确,但是当传入unsigned char 与unsigned short 并赋值0时结果为0.如下图:

查了汇编代码发现原因是数据长度问题。当数据长度低于int长度时候会出现该问题。具体看下图所示汇编。将test_c取反后赋值给tmp,应该是0XFF,又test_c是无符号,结果应该是255.但是通过汇编可以看到首先将test_c移动到eax寄存器,并无符号扩展。但是接下来not操作对象是eax寄存器,和test_c无关了,而默认数据类型是int,有符号,因此结果就是一个有符号数了再与0比较也无法得到正确结果。

解决方法:

有两种方法:

1、既然问题是判断对象是返回的int,那再通过赋值将结果进行截取为源类型,即可解决问题;#define ISUNSIGNED(Value)   (Value>=0 && (Value=~Value)>=0)

2、同理通过直接操作符号位,同理需要重新赋值。不能直接1<<n位,否则结果一样是int。

#define ISUNSIGNED(Value)   ((Value|=1<<(8*sizeof(Value)-1))>=0)

二者缺陷也很明显,对一个数据进行判断,确改变了值。需要再加一步相反的操作进行还原。

http://www.lryc.cn/news/193854.html

相关文章:

  • Gpt-4多模态功能强势上线,景联文科技多模态数据采集标注服务等您来体验!
  • 【idea】 java: 找不到符号
  • Flink测试利器之DataGen初探 | 京东云技术团队
  • linux更换常用软件的默认缓存路径(.conda, .huggingface等)
  • Kafka消费者使用案例
  • SpringMVC全注解开发
  • 解决 android Cannot access ‘<init>‘: it is private in
  • 不容易解的题10.15
  • Megatron-LM GPT 源码分析(二) Sequence Parallel分析
  • DNA序列(DNA Consensus String, ACM/ICPC Seoul 2006, UVa1368) rust解法
  • 如何使用Jmeter进行http接口测试?
  • bash一行输入,多行回显demo脚本
  • IDEA spring-boot项目启动,无法加载或找到启动类问题解决
  • 【LeetCode刷题(数据结构与算法)】:完全二叉树的节点个数
  • 【代码随想录】算法训练营 第一天 第一章 数组 Part 1
  • 286_C++_定时器的其中一个操作,定时重载接口—startTimer循环执行回调(未完全)
  • 自动驾驶学习笔记(四)——变道绕行仿真
  • C++位图,布隆过滤器
  • Python多种方法实现九九乘法表
  • 【力扣1876】长度为三且各字符不同的子字符串
  • HSN:微调预训练ViT用于目标检测和语义分割,华南理工和阿里巴巴联合提出
  • 机器学习的原理是什么?
  • Java集合框架之ArrayList源码分析
  • TensorFlow入门(二十、损失函数)
  • MySQL中死锁
  • 【LeetCode刷题(数据结构)】:给定一个链表 每个节点包含一个额外增加的随机指针 该指针可以指向链表中的任何节点或空节点 要求返回这个链表的深度拷贝
  • uniapp封装loading 的动画动态加载
  • Kopler.gl笔记:可视化功能总览
  • rust学习Cell、RefCell、OnceCell
  • 基于SSM的摄影约拍系统