一种具有指令集随机化的代码虚拟化保护系统  

Code virtualized protection system with instruction set randomization

作　　者：汤战勇[1,2] 李光辉[1,2] 房鼎益[1,2] 陈晓江[1,2] 

机构地区：[1]西北大学信息科学与技术学院 [2]西北大学-爱迪德物联网与信息安全联合实验室,陕西西安710127

出　　处：《华中科技大学学报（自然科学版）》2016年第3期28-33,共6页Journal of Huazhong University of Science and Technology(Natural Science Edition)

基　　金：国家科技支撑计划资助项目(2013BAK01B02);国家自然科学基金资助项目(61170218;61272461;61202393);陕西省教育厅产业化培育项目(2013JC07);陕西省自然科学基础研究计划资助项目(2012JQ8049);陕西省国际合作与交流项目(2015KW-003)

摘　　要：为了提高攻击者逆向分析软件程序的难度,结合代码虚拟化保护技术,研究并实现了保护系统ISRVMP(具有指令集随机化的虚拟机保护).ISR-VMP通过将本地x86指令转换成自定义的虚拟指令,在程序运行过程中,由一个虚拟解释器解释执行生成的虚拟指令,从而实现程序中对应的本地x86指令的功能.另外,ISR-VMP还采用了指令集随机化的技术,使得软件在保护后具有代码多样性的效果,能够进一步阻碍攻击者的逆向分析.理论分析和实验结果显示:ISR-VMP能够在较小的时空消耗基础上大幅增加攻击者逆向分析的难度,提高软件的安全性.To increase the difficulty of reverse analysis,aprotection system named ISR-VMP（virtual machine protection with instruction set randomization）was proposed.ISR-VMP combined code virtualized protection technique and instruction set randomization.It protected native x86 instructions by transforming them into self-defined virtual instructions.At runtime,a virtual interpreter would interpret these virtual instructions to fulfill the original x86instructions′semantics.Besides,ISR-VMP also adopted instruction set randomization.As a result,the protected software has the effect of code diversity,which can further impede attackers′analyses.Theoretical analysis and experimental results show that ISR-VMP can largely increase the difficulty of reverse analyzing the software,only with small spatial and temporal overhead.

关 键 词：安全系统 虚拟机 保护系统 指令集 逆向工程 

分 类 号：TP309.7[自动化与计算机技术—计算机系统结构]