觉得程序跑得慢?——快来学习Python代码优化技巧

论坛 期权论坛 期权     
真格量化   2019-7-5 14:48   2214   0


为提高回测和实盘交易速度,真格量化已经做了各种软硬件的性能优化,但还有一部分的代码性能优化工作最终需要用户自己来进行。

代码优化能够让程序运行更快,它是在不改变程序运行结果的情况下使得程序的运行效率更高。根据 80/20 原则,实现程序的重构、优化、扩展以及文档相关的事情通常需要消耗 80% 的工作量。优化通常包含两方面的内容:减小代码的规模,提高代码的运行效率。





改进算法,选择合适的数据结构


一个良好的算法能够对性能起到关键作用,因此性能改进的首要点是对算法的改进。在算法的时间复杂度排序上依次是:


O(1) -> O(lg n) -> O(n lg n) -> O(n^2) -> O(n^3) -> O(n^k) -> O(k^n) -> O(n!)


因此如果能够在时间复杂度上对算法进行一定的改进,对性能的提高不言而喻。但对具体算法的改进不属于本文讨论的范围,读者可以自行参考这方面资料。下面的内容将集中讨论数据结构的选择。


字典 (dictionary) 与列表 (list)


Python 字典中使用了 hash table,因此查找操作的复杂度为 O(1),而 list 实际是个数组,在 list 中,查找需要遍历整个 list,其复杂度为 O(n),因此对成员的查找访问等操作字典要比 list 更快。


例如


from time import time   
t = time()   
list=['a','b','is','python','jason','hello','hill','with','phone','test',  
'dfdf','apple','pddf','ind','basic','none','baecr','var','bana','dd','wrd']   
#list = dict.fromkeys(list,True)   
print list  
filter = []   
for i in range (1000000):   
     for find in ['is','hat','new','list','old','.']:   
         if find not in list:   
             filter.append(find)   
print "total run time:"
print time()-t


上述代码运行大概需要 16.09seconds。如果去掉行 #list = dict.fromkeys(list,True) 的注释,将 list 转换为字典之后再运行,时间大约为 8.375 seconds,效率大概提高了一半。因此在需要多数据成员进行频繁的查找或者访问的时候,使用 dict 而不是 list 是一个较好的选择。


集合 (set) 与列表 (list)


set 的 union, intersection,difference 操作要比 list 的迭代要快。因此如果涉及到求 list 交集,并集或者差的问题可以转换为 set 来操作。


例如,求 list 的交集:


from time import time
t = time()
lista=[1,2,3,4,5,6,7,8,9,13,34,53,42,44]
listb=[2,4,6,9,23]
intersection=[]
for i in range (1000000):
     for a in lista:
         for b in listb:
             if a == b:
                 intersection.append(a)
print "total run time:"
print time()-t


上述程序的运行时间大概为:
total run time:38.4070000648


改为使用 set 求交集


from time import time
t = time()
lista=[1,2,3,4,5,6,7,8,9,13,34,53,42,44]
listb=[2,4,6,9,23]
intersection=[]
for i in range (1000000):
     list(set(lista)&set(listb))
print "total run time:"
print time()-t




改为 set 后程序的运行时间缩减为 8.75,提高了 4 倍多,运行时间大大缩短。读者可以自行使用set的 其他的操作进行测试。


set 常见用法







对循环的优化


对循环的优化所遵循的原则是尽量减少循环过程中的计算量,有多重循环的尽量将内层的计算提到上一层。下面通过实例来对比循环优化后所带来的性能的提高。下边这段代码,如果不进行循环优化,其大概的运行时间约为 132.375s。


进行循环优化前


from time import time
t = time()
lista = [1,2,3,4,5,6,7,8,9,10]
listb =[0.1,0.2,0.3,0.4,0.5,0.6,0.7,0.8,0.9,0.01]
for i in range (1000000):
     for a in range(len(lista)):
         for b in range(len(listb)):
             x=lista[a]+listb
print "total run time:"
print time()-t




现在进行如下优化,将长度计算提到循环外,range 用 xrange 代替(xrange() 函数用法与 range 完全相同,所不同的是生成的不是一个数组,而是一个生成器,它不会将数据直接生成一个list,而是每次调用返回其中的一个值),同时将第三层的计算 lista[a] 提到循环的第二层。


循环优化后


from time import time
t = time()
lista = [1,2,3,4,5,6,7,8,9,10]
listb =[0.1,0.2,0.3,0.4,0.5,0.6,0.7,0.8,0.9,0.01]
len1=len(lista)
len2=len(listb)
for i in xrange (1000000):
     for a in xrange(len1):
         temp=lista[a]
         for b in xrange(len2):
             x=temp+listb
print "total run time:"
print time()-t




上述优化后的程序其运行时间缩短为 102.171999931s。在清单 4 中 lista[a] 被计算的次数为 10000001010,而在优化后的代码中被计算的次数为 1000000*10,计算次数大幅度缩短,因此性能有所提升。


充分利用 Lazy if-evaluation 的特性


Python 中条件表达式是 lazy evaluation 的,也就是说如果存在条件表达式 if x and y,在 x 为 false 的情况下 y 表达式的值将不再计算。因此可以利用该特性在一定程度上提高程序效率。


例子,利用lazy evaluation的特性


from time import time
t = time()
abbreviations = ['cf.', 'e.g.', 'ex.', 'etc.', 'fig.', 'i.e.', 'Mr.', 'vs.']
for i in range (1000000):
    for w in ('Mr.', 'Hat', 'is', 'chasing', 'the', 'black', 'cat', '.'):
        if w in abbreviations:
        #if w[-1] == '.' and w in abbreviations:
            pass
print "total run time:"
print time()-t

在未进行优化之前程序的运行时间大概为 8.84s,如果使用注释行代替第一个 if,运行的时间大概为 6.17s。


字符串的优化


Python 中的字符串对象是不可改变的,因此对任何字符串的操作如拼接,修改等都将产生一个新的字符串对象,而不是基于原字符串,因此这种持续的 copy 会在一定程度上影响 python 的性能。对字符串的优化也是改善性能的一个重要的方面,特别是在处理文本较多的情况下。字符串的优化主要集中在以下几个方面:


1,在字符串连接的使用尽量使用 join() 而不是 +:在下边的例子中使用 + 进行字符串连接大概需要 0.125 s,而使用 join 缩短为 0.016s。因此在字符的操作上 join 比 + 要快,因此要尽量使用 join 而不是 +。


使用 join 而不是 + 连接字符串


from time import time
t = time()
s = ""
list = ['a','b','b','d','e','f','g','h','i','j','k','l','m','n']
for i in range (10000):
    for substr in list:
        s+= substr
print "total run time:"
print time()-t




同时要避免:


s = ""
for x in list:
    s += func(x)




而是要使用:


slist = [func(elt) for elt in somelist]
s = "".join(slist)




2、当对字符串可以使用正则表达式或者内置函数来处理的时候,选择内置函数。如 str.isalpha(),str.isdigit(),str.startswith((‘x’, ‘yz’)),str.endswith((‘x’, ‘yz’))


3、对字符进行格式化比直接串联读取要快,因此要使用


out = ""%s%s%s%s"
% (head, prologue, query, tail)


而避免


out = "" + head + prologue + query + tail + ""


使用列表解析(list comprehension)和生成器表达式(generator expression)




列表解析要比在循环中重新构建一个新的 list 更为高效,因此我们可以利用这一特性来提高运行的效率。


from time import time
t = time()
list = ['a','b','is','python','jason','hello','hill','with','phone','test',
'dfdf','apple','pddf','ind','basic','none','baecr','var','bana','dd','wrd']
total=[]
for i in range (1000000):
     for w in list:
         total.append(w)
print "total run time:"
print time()-t




使用列表解析:


for i in range (1000000):
    a = [w for w in list]




上述代码直接运行大概需要 17s,而改为使用列表解析后 ,运行时间缩短为 9.29s。将近提高了一半。生成器表达式则是在 Python 2.4 中引入的新内容,语法和列表解析类似,但是在大数据量处理时,生成器表达式的优势较为明显,它并不创建一个列表,只是返回一个生成器,因此效率较高。在上述例子上中代码 a = [w for w in list] 修改为 a = (w for w in list),运行时间进一步减少,缩短约为 2.98s。


其他优化技巧


1,如果需要交换两个变量的值使用 a,b=b,a 而不是借助中间变量 t=a;a=b;b=t;
>>> from timeit import Timer
>>> Timer("t=a;a=b;b=t","a=1;b=2").timeit()
0.25154118749729365
>>> Timer("a,b=b,a","a=1;b=2").timeit()
0.17156677734181258



2、在循环的时候使用 xrange 而不是 range;使用 xrange 可以节省大量的系统内存,因为 xrange() 在序列中每次调用只产生一个整数元素。而 range() 將直接返回完整的元素列表,用于循环时会有不必要的开销。不过在 Python3 中 xrange 不再存在,里面 range 提供一个可以遍历任意长度的范围的 iterator。


3、使用局部变量,避免滥用”global” 关键字。Python 访问局部变量会比全局变量要快得多,因此可以利用这一特性提升性能。


4、if done is not None 比语句 if done != None 更快,读者可以自行验证;


5、在耗时较多的循环中,可以把函数的调用改为内联的方式;


6、使用级联比较 “x < y < z” 而不是 “x < y and y < z”;


7、while 1 要比 while True 更快(当然后者的可读性更好);


8、build in 函数通常较快,add(a,b) 要优于 a+b。


内容参考
https://www.cnblogs.com/hello--the-world/archive/2012/08/02/2619981.html



— — — — — — E N D — — — — — —
往期文章:
Numpy处理tick级别数据技巧
真正赚钱的期权策略曲线是这样的
多品种历史波动率计算
如何实现全市场自动盯盘
AI是怎样看懂研报的
真格量化策略debug秘籍
真格量化对接实盘交易
常见高频交易策略简介

如何用撤单函数改进套利成交

Deque提高处理队列效率

策略编程选Python还是C++

如何用Python继承机制节约代码量

十大机器学习算法
如何调用策略附件数据

如何使用智能单

如何扫描全市场跨月价差

如何筛选策略最适合的品种

活用订单类型规避频繁撤单风险

真格量化回测撮合机制简介

如何调用外部数据

如何处理回测与实盘差别

如何利用趋势必然终结获利

常见量化策略介绍

期权交易“七宗罪”

波动率交易介绍

推高波动率的因素

波动率的预测之道

趋势交易面临挑战
如何构建知识图谱
机器学习就是现代统计学

AI技术在金融行业的应用

如何避免模型过拟合

低延迟交易介绍

架构设计中的编程范式

交易所视角下的套利指令撮合

距离概念与特征识别

气象风险与天气衍生品

设计量化策略的七个“大坑”

云计算在金融行业的应用

机器学习模型评估方法
真格量化制作期权HV-IV价差
另类数据介绍

TensorFlow中的Tensor是什么?

机器学习的经验之谈

用yfinance调用雅虎财经数据

容器技术如何改进交易系统
Python调用C++
如何选择数据库代理
统计套利揭秘
[h1]一个Call搅动市场?让我们温习一下波动率策略[/h1][h1]如何用真格量化设计持仓排名跟踪策略[/h1][h1]还不理解真格量化API设计?我们不妨参考一下CTP平台[/h1][h1]理解同步、异步、阻塞与非阻塞[/h1][h1]隐波相关系数和偏度——高维风险的守望者[/h1]Delta中性还不够?——看看如何设计Gamma中性期权策略
[h1]Python的多线程和多进程——从一个爬虫任务谈起[/h1]线程与进程的区别皮尔逊相关系数与历史K线匹配
Python2和Python3的兼容写法
[url=http://mp.weixin.qq.com/s?__biz=MzU4OTg0NjkyOA==&mid=2247484137&idx=1&sn=374d9edacec7f30c79a980f918e360d6&chksm=fdc60216cab18b00591907c18b6288a2480e776f9bcee5972fbb32404c478cb95f0de0e5cbaf&scene=21#wechat_redirect][/url]

真格量化可访问:https://quant.pobo.net.cn


真格量化微信公众号,长按关注:

遇到了技术问题?欢迎加入真格量化Python技术交流QQ群  726895887






分享到 :
0 人收藏
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

积分:870
帖子:180
精华:0
期权论坛 期权论坛
发布
内容

下载期权论坛手机APP