“今天上午我在得知消息顺带简单研究了一下‘12306’的服务端架构。”罗晟面向众人有条不紊的说道:“广大访问者都在喷,但是我知道12306服务一上线试运行,就承受着这个世界上任何秒杀系统都无法超越的QPS,上百万的并发再正常不过了。”
在场的几名铁路集团的技术骨干人员内心稀里哗啦的感动,理解万岁啊。
不懂技术的领导最难沟通,觉得没有尽力。
罗晟的话还是很有分量的。
过了片刻,罗晟补充道:“高并发的系统架构要采用分布式集群部署,服务上层有着层层负载均衡,并提供各种容灾手段,所谓的容灾手段就是双火机房、节点容错、服务器灾备等。保证系统的高可用,流量也会根据不同的负载能力和配置策略均衡到不同的服务器上。”
“即便如此,集群中的单机所能承受的QPS也是非常高的,那么如何将单机性能优化到极致呢?要解决这个问题要先弄明白一件事:通常订票系统要处理生成订单、减扣库存、用户支付这三个基本的阶段,系统要做的事情就是保证火车票订到不超卖、不少卖、每张售卖的车票都必须支付才有效,还要保证系统承受极高的并发。”
几名铁路集团的技术专家连连点头表示认同,技术痛点就在这里。
罗晟继续说道:“下单减库存。当用户并发请求到达服务端时,首先创建订单,然后扣除库存,等待用户支付。这种顺序是我们一般人首先会想到的解决方案,这种情况下也能保证订单不会超卖,但也会产生一些问题,第一就是在极限并发的情况下,任何一个内存操作的细节都至关影响性能,尤其是像创建订单这种逻辑,基本都需要存储到磁盘数据库的,对数据库的压力是可想而知的,12306应该是用的甲骨文数据库,别花这个冤枉钱了,放到我的星云上。”
“第二是如果用户存在恶意下单的情况,只下单不支付这样库存就会变少,会少卖很多订单,虽然服务端可以限制IP和用户的购买订单数量,但这也真心不算是一个好办法。”
“然后就是支付减库存了。如果等待用户支付了订单再减库存,第一感觉就是不会少卖。但这是并发架构的大忌,因为在极限并发的情况下,用户可能会创建很多订单,当库存减为零的时候很多用户会发现抢到的订单支付不了,这也就是所谓的‘超卖’,也不能避免并发操作数据库磁盘IO。”
“最后是预扣库存。从上面两种方案的考虑,可以得出结论:只要创建订单,就要频繁操作数据库IO。那么有没有一种不需要直接操作数据库IO的解决方案呢?答案是有,就是预扣库存,先扣除了库存,保证不超卖,然后异步生成用户订单,这样响应给用户的速度会快很多。”
“那么怎么保证不少卖呢?用户拿到了订单,不支付怎么办?订单都应该有效期,比如说用户五分钟内不支付,订单就失效,就会加入新的库存。订单的生成是异步的,应该放到即时消费队列中处理……”
刘副总听的云里雾里的,但是他发现罗晟和他带来的几个技术专家交流的愈发火热,似乎也得出了一个信息。
找对人了!
这时,罗晟打开了房间里的墙面上的大屏幕,他也拿来了一台笔记本工作电脑打开,示意众人看向主投屏,自己一边操作电脑一边说道:
“Go语言原生为并发设计,我就采用Go语言给各位演示一下单机抢票的具体流程以及我优化后的解决方案。”
“Go包中的init函数先于in函数执行,也在这个阶段主要做一些准备性质的工作。系统需要做的准备工作有:初始化本地库存、初始化远程redis存储统一库存的hash键值、初始化redis链接池。”
“另外还需要初始化一个大小为1的int类型,目的是实现分布式锁的功能,也可以直接使用读写锁或者使用redis等其他方式避免资源竞争,但是使用el更加高效,这就是Go语言的哲学,不需要通过共享内存来通信,而是通过通信来共享内存。Redis库使用的是redigo,下面是代码:
//localSpike包结构体定义
packagelocalSpike
在场的几名铁路集团的技术骨干人员内心稀里哗啦的感动,理解万岁啊。
不懂技术的领导最难沟通,觉得没有尽力。
罗晟的话还是很有分量的。
过了片刻,罗晟补充道:“高并发的系统架构要采用分布式集群部署,服务上层有着层层负载均衡,并提供各种容灾手段,所谓的容灾手段就是双火机房、节点容错、服务器灾备等。保证系统的高可用,流量也会根据不同的负载能力和配置策略均衡到不同的服务器上。”
“即便如此,集群中的单机所能承受的QPS也是非常高的,那么如何将单机性能优化到极致呢?要解决这个问题要先弄明白一件事:通常订票系统要处理生成订单、减扣库存、用户支付这三个基本的阶段,系统要做的事情就是保证火车票订到不超卖、不少卖、每张售卖的车票都必须支付才有效,还要保证系统承受极高的并发。”
几名铁路集团的技术专家连连点头表示认同,技术痛点就在这里。
罗晟继续说道:“下单减库存。当用户并发请求到达服务端时,首先创建订单,然后扣除库存,等待用户支付。这种顺序是我们一般人首先会想到的解决方案,这种情况下也能保证订单不会超卖,但也会产生一些问题,第一就是在极限并发的情况下,任何一个内存操作的细节都至关影响性能,尤其是像创建订单这种逻辑,基本都需要存储到磁盘数据库的,对数据库的压力是可想而知的,12306应该是用的甲骨文数据库,别花这个冤枉钱了,放到我的星云上。”
“第二是如果用户存在恶意下单的情况,只下单不支付这样库存就会变少,会少卖很多订单,虽然服务端可以限制IP和用户的购买订单数量,但这也真心不算是一个好办法。”
“然后就是支付减库存了。如果等待用户支付了订单再减库存,第一感觉就是不会少卖。但这是并发架构的大忌,因为在极限并发的情况下,用户可能会创建很多订单,当库存减为零的时候很多用户会发现抢到的订单支付不了,这也就是所谓的‘超卖’,也不能避免并发操作数据库磁盘IO。”
“最后是预扣库存。从上面两种方案的考虑,可以得出结论:只要创建订单,就要频繁操作数据库IO。那么有没有一种不需要直接操作数据库IO的解决方案呢?答案是有,就是预扣库存,先扣除了库存,保证不超卖,然后异步生成用户订单,这样响应给用户的速度会快很多。”
“那么怎么保证不少卖呢?用户拿到了订单,不支付怎么办?订单都应该有效期,比如说用户五分钟内不支付,订单就失效,就会加入新的库存。订单的生成是异步的,应该放到即时消费队列中处理……”
刘副总听的云里雾里的,但是他发现罗晟和他带来的几个技术专家交流的愈发火热,似乎也得出了一个信息。
找对人了!
这时,罗晟打开了房间里的墙面上的大屏幕,他也拿来了一台笔记本工作电脑打开,示意众人看向主投屏,自己一边操作电脑一边说道:
“Go语言原生为并发设计,我就采用Go语言给各位演示一下单机抢票的具体流程以及我优化后的解决方案。”
“Go包中的init函数先于in函数执行,也在这个阶段主要做一些准备性质的工作。系统需要做的准备工作有:初始化本地库存、初始化远程redis存储统一库存的hash键值、初始化redis链接池。”
“另外还需要初始化一个大小为1的int类型,目的是实现分布式锁的功能,也可以直接使用读写锁或者使用redis等其他方式避免资源竞争,但是使用el更加高效,这就是Go语言的哲学,不需要通过共享内存来通信,而是通过通信来共享内存。Redis库使用的是redigo,下面是代码:
//localSpike包结构体定义
packagelocalSpike