在web开发中,我们经常会遇到需要处理批量任务的时候,这些批量任务可能是用户提交的,也可能是当系统被某个事件触发时需要进行批量处理的,面对这样的任务,如果是用户提交的批量任务,初级程序员只能让用户触发提交动作后,等待服务器处理完毕,并且将结果返回到浏览器,期间用户不能关掉浏览器窗口,如果数据比较大,或者处理速度比较慢,那用户体验将会因此受到直接影响。
但是当我们使用某讯或者某浪的邮箱时,点击群发邮件之后,只需等待很短的时间,浏览器提示提交成功,正在发送之类的信息时,用户就可以关掉浏览器,稍后,收件地址栏里的邮箱将陆续收到该群发邮件,再比如群发定时邮件,以及当商城系统中有客户下单,客户,客服,仓库等相关人员收到订单邮件信息。诸如此类,队列的应用范围是如此之广。二 :普通工程师的解决方案和架构师的解决方案 方案1:建表存邮件,消息等,用定时程序取出发送。 方案2:抽象到更高一层,开发一套通用异步处理队列适用于任何复杂的业务逻辑 那么,作为架构师,使用队列的做法,将抽象层和业务层分离,可具有良好的扩展性和可维护性。相比较而言就高明了许多,下面就我们介绍一下*定义队列的实现思路和方法。 三 :队列总体设* 1:需要队列程序,提供加入队列接口和取队列接口等 2:需要存储队列,文件或者数据库 3:需要定时程序取出队列并执行 4:其它扩展功能:优先级,日志,定时等 我们这里的队列实现借助了服务器的*划任务来实现,例如linux中的crontab 这本身是linux系统中的一个程 这里面几个需要注意的地方 1:往数据库中存取数据时,不要直接使用json_encode或者json_decode,容易造成一些意外问题,在代码中,我们定义了a2s和s2a两个方法,分别是处理数组转为字符串,和从数据库中读取字符串后转为数组。 2:当任务量比较大,同时服务器负载又没有充分利用的时候,可以使用多进程并发处理, 在并发处理的时候需要考虑一个问题,就是如何避免重复,在这里我们使用了,对队列任务进行标记,每次从数据库中读取一个进程需要处理的一批任务,使用数据库中id与批次标示取余等于0的方法来区分,避免不同批次的队列,重复处理相同任务。