print [ord(i) for i in list(CTest.IsNegative.__code__.co_code)]输出为:[124, 1, 0, 100, 1, 0, 107, 0, 0, 114, 16, 0, 116, 0, 0, 83, 116, 1, 0, 83, 100, 0, 0, 83]
1. 过程概述
Python先把代码(.py文件)编译成字节码,交给字节码虚拟机,然后虚拟机一条一条执行字节码指令,从而完成程序的执行。
2. 字节码
字节码在Python虚拟机程序里对应的是PyCodeObject对象。
.pyc文件是字节码在磁盘上的表现形式。
3. pyc文件
PyCodeObject对象的创建时机是模块加载的时候,即import。
Python test.py会对test.py进行编译成字节码并解释执行,但是不会生成test.pyc。如果test.py加载了其他模块,如import util,Python会对util.py进行编译成字节码,生成util.pyc,然后对字节码解释执行。如果想生成test.pyc,我们可以使用Python内置模块py_compile来编译。加载模块时,如果同时存在.py和.pyc,Python会尝试使用.pyc,如果.pyc的编译时间早于.py的修改时间,则重新编译.py并更新.pyc。
4. PyCodeObject
Python代码的编译结果就是PyCodeObject对象。
typedef struct {
PyObject_HEAD
int co_argcount; /* 位置参数个数 */
int co_nlocals; /* 局部变量个数 */
int co_stacksize; /* 栈大小 */
int co_flags;
PyObject *co_code; /* 字节码指令序列 */
PyObject *co_consts; /* 所有常量集合 */
PyObject *co_names; /* 所有符号名称集合 */
PyObject *co_varnames; /* 局部变量名称集合 */
PyObject *co_freevars; /* 闭包用的的变量名集合 */
PyObject *co_cellvars; /* 内部嵌套函数引用的变量名集合 */
/* The rest doesn’t count for hash/cmp */
PyObject *co_filename; /* 代码所在文件名 */
PyObject *co_name; /* 模块名|函数名|类名 */
int co_firstlineno; /* 代码块在文件中的起始行号 */
PyObject *co_lnotab; /* 字节码指令和行号的对应关系 */
void *co_zombieframe; /* for optimization only (see frameobject.c) */
} PyCodeObject;
5. pyc文件格式
加载模块时,模块对应的PyCodeObject对象被写入.pyc文件,格式如下:
6. 分析字节码
6.1 解析PyCodeObject
Python提供了内置函数compile可以编译Python代码和查看PyCodeObject对象,如下:
Python代码[test.py]
s = ”hello”
def func():
print s
func()
在Python交互式shell里编译代码得到PyCodeObject对象:
dir(co)已经列出co的各个域,想查看某个域直接在终端输出即可:
test.py的PyCodeObject
co.co_argcount 0
co.co_nlocals 0
co.co_names (‘s’, ’func’)
co.co_varnames (‘s’, ’func’)
co.co_consts (‘hello’,
, None)
co.co_code ’d\x00\x00Z\x00\x00d\x01\x00\x84\x00\x00Z\x01\x00e\x01\x00\x83\x00\x00\x01d\x02\x00S’
Python解释器会为函数也生成的字节码PyCodeObject对象,见上面的co_consts[1]
func的PyCodeObject
func.co_argcount 0
func.co_nlocals 0
func.co_names (‘s’,)
func.co_varnames ()
func.co_consts (None,)
func.co_code ‘t\x00\x00GHd\x00\x00S’
co_code是指令序列,是一串二进制流,它的格式和解析方法见6.2。
6.2 解析指令序列
指令序列co_code的格式
Python内置的dis模块可以解析co_code,如下图:
test.py的指令序列
func函数的指令序列
第一列表示以下几个指令在py文件中的行号;
第二列是该指令在指令序列co_code里的偏移量;
第三列是指令opcode的名称,分为有操作数和无操作数两种,opcode在指令序列中是一个字节的整数;
第四列是操作数oparg,在指令序列中占两个字节,基本都是co_consts或者co_names的下标;
第五列带括号的是操作数说明。
7. 执行字节码
Python虚拟机的原理就是模拟可执行程序再X86机器上的运行,X86的运行时栈帧如下图:
假如test.py用C语言来实现,会是下面这个样子:
const char *s = “hello”;
void func() {
printf(“%s\n”, s);
}
int main() {
func();
return 0;
}
Python虚拟机的原理就是模拟上述行为。当发生函数调用时,创建新的栈帧,对应Python的实现就是PyFrameObject对象。
7.1 PyFrameObject
typedef struct _frame {
PyObject_VAR_HEAD
struct _frame *f_back; /* 调用者的帧 */
PyCodeObject *f_code; /* 帧对应的字节码对象 */
PyObject *f_builtins; /* 内置名字空间 */
PyObject *f_globals; /* 全局名字空间 */
PyObject *f_locals; /* 本地名字空间 */
PyObject **f_valuestack; /* 运行时栈底 */
PyObject **f_stacktop; /* 运行时栈顶 */
…….
}
那么对应Python的运行时栈就是这样子:
7.2 执行指令
执行test.py的字节码时,会先创建一个栈帧,以下用f表示当前栈帧,执行过程注释如下:
test.py的符号名集合和常量集合
co.co_names (‘s’, ’func’)
co.co_consts (‘hello’,
, None)
test.py的指令序列
上面的CALL_FUNCTION指令执行时,会创建新的栈帧,并执行func的字节码指令,以下用f表示当前栈帧,func的字节码执行过程如下:
func函数的符号名集合和常量集合
func.co_names (‘s’,)
func.co_consts (None,)
func函数的指令序列
7.3 查看栈帧
如果你想查看当前栈帧,Python提供了sys._getframe()方法可以获取当前栈帧,你只需要在代码里加入代码如下:
def func():
import sys
frame = sys._getframe()
print frame.f_locals
print frame.f_globals
print frame.f_back.f_locals
#你可以打印frame的各个域
print s
二:dis模块的功能
Python的代码并不是直接被编译后机器识别的,它是先被编译为字节码之后,再经过Python的虚拟机来编执行的,字节码是一种类似汇编的中间语言(pyc文件主要就是存储字节码的),一个字节码指令并不是对应一个机器指令(二进制文件),而是一段C代码,一个Python语句会对应若干个字节码指令,虚拟机读取这些指令之后执行。
Python dis 模块支持对Python代码进行反汇编,具有生成字节码指令的功能。通过分析这些字节码可以更好的理解python语句的底层代码执行和性能的分析,写出更高效的代码。
三:例子
...
这里是line 3
class CTest(object):
def IsNegative(self,x):
if x<0:
return True
else:
return False
def t2(self):
print "t2 is call"
import dis
dis.dis(CTest)
控制台输出为:
Disassembly of IsNegative:
6 0 LOAD_FAST 1 (x)
3 LOAD_CONST 1 (0)
6 COMPARE_OP 0 (<)
9 POP_JUMP_IF_FALSE 16
7 12 LOAD_GLOBAL 0 (True)
15 RETURN_VALUE
9 >> 16 LOAD_GLOBAL 1 (False)
19 RETURN_VALUE
20 LOAD_CONST 0 (None)
23 RETURN_VALUE
Disassembly of t2:
12 0 LOAD_CONST 1 ('t2 is call')
3 PRINT_ITEM
4 PRINT_NEWLINE
5 LOAD_CONST 0 (None)
8 RETURN_VALUE
第一列的数字6,7,9,12 表示对应的源代码行数( CTest前面有一些头文件和说明,CTest为文件的第四行)。
第二列的数字 0,3,6,9,12,15.... 这些是字节码的索引,第6行对应的LOAD_FAST字节码存储的索引为0,LOAD_CONST存储为3。
第三列的指令 LOAD_FAST, LOAD_CONST,COMPARE_OP ...这些是指令的名字,具体的定义可以查看opcode.py。
第四列的数字 1,1,0,16...表示指令的参数索引。
第五列的数字表示通过计算后的实际参数(操作数的说明)
ps:源代码第9行中的>>表示跳转的目标,源代码第6行中的第四列数字16表示跳转到索引号为16的指令。
print [ord(i) for i in list(CTest.IsNegative.__code__.co_code)]
输出为:[124, 1, 0, 100, 1, 0, 107, 0, 0, 114, 16, 0, 116, 0, 0, 83, 116, 1, 0, 83, 100, 0, 0, 83]
func.__code__.co_code表示func函数的字节码指令序列,如[124,1,0] 124表示在python字节码定义的索引
可通过dis.opname[124]查得知,其指令名为LOAD_FAST,后面2个字节表示指令的参数。上面dis得出来的第二列的数字就是这一大串指令序列的索引下标位置。
如 0 LOAD_FAST中的0表示 在指令序列的第0个索引。dis里面有些是没有参数的,同样在指令序列里面也如此,如83代表RETURN_VALUE,直接就是下个指令了。