tly282

为什么使用缓存

一般情况下，在访问量达到一定规模后，数据库的读写会成为一个瓶颈，我们会采用一些手段来对数据库减压，让它可以正常的工作。可以考虑的手段包括读写分离、添加缓存服务器等，读写分离是为了尽量将对数据库的读写动作分开，减少互相之间的影响；添加缓存是为了读库的时候，减少直接读取数据库的动作，将查询的结果存放在缓存中，用户的请求被隔绝在数据库以外，从而减少数据库的压力。

这是一个理想状况下缓存工作的方式，但仅仅是理想

缓存穿透

所谓缓存穿透，是说用户请求在缓存系统中查找结果时候失效，接下来去后端存储系统中查找数据，这个时候，如果数据不存在，而且这个访问也比较大的情况下，大量的访问会直接命中数据库，这时候负责存储的服务器就悲剧了（如果左图），所以我们就需要做一些努力，使得当数据不存在，往缓存中写入一个标志抑或将空的查询结果存入缓存，减少这种无用的请求频繁命中数据库的情况。

也可以将确认为空或者空的查询结果存储到单独的缓存区域中。

缓存雪崩

这是另外一个问题，当系统使用的缓存发生意外(网络失败、宕机、服务挂掉、缓存集体丢失等等)之后，缓存集体失效，导致短时间内请求都到达数据库(数据存储层)，使得数据库压力山大进而crash掉。

为了预防这种情况，我们采用一下几种方式：

1、我们采用多实例的方式来保证缓存的高可用性，尽量避免当个别实例出现问题之后，引起全局缓存的问题。这类方案很多，比如memcache的一致性hash，redis的cluster机制，来避免单点的故障，这类资料可以搜索一下关于redis或者memcache的高可用方案。

2、降级机制。这个方法在很多高可用设计中可能也有描述，简单一点说就是我们将用户与用户之间，资源与资源之间进行隔离，当某一部分数据产生问题之后或者对某一部分的请求到达一个阀值之后，根据预设的机制，对请求只返回热点数据，保证客户端不会产生天窗或者说一直无法响应的问题。

3、加锁。对于到达的请求，我们用锁的机制，来尽量使它们排队处理从而减少对数据库产生并发。可以参考的锁方案有两种，一种是使用全局锁或者字符串锁等方案，是一个请求进行操作的时候，其他的请求处于等待状态，当这个请求处理完毕之后进行下一步的业务处理，但是这样的话如果一个请求挂掉，会对后面排队的请求产生影响，而且请求的处理可能不会短时间处理完毕，会导致请求阻塞的时间过长等问题，第二种方案就是在进行操作的时候，其他请求进来的时候判断是否有锁存在，如果存在直接跳过处理，返回热点数据。

需要说的是降级机制未必要放到图中这个位置，也可以放在缓存之前或其他的位置，它的主要目的是当出现问题时候隔离掉出现问题的资源不影响客户端的内容或者使一部分用户的请求无法到达真正的业务逻辑从而减少业务处理的压力。
美国CN2服务器https://www.91cn2.com/us.php

tly282

快排泛目录/蜘蛛池/多IP站群服务器(CN2)
E3-1230/16G/1T/100M独享/258IP                   1200元/月
E3-1230/16G/1T/100M独享/4C  244IP             1300元/月
E3-1230/16G/1T/100M独享/8C  232IP             1500元/月
E3-1230/16G/1T/100M独享/16C 208IP            1600元/月

美国CN2服务器
E3-1270/8G/1T/100M共享不限/5IP                  700元/月
E5520*2/8G/1T/100M共享不限/5IP                  650元/月
E5-2650/8G/1T/100M共享不限/5IP                  800元/月
E5-2650*2/16G/1T/100M共享不限/5IP             950元/月

香港CN2服务器
E3（4核8线程）   8G/1T/5M独享不限/1IP         700元/月
E5-2660             16G/1T/5M独享不限/1IP        1150元/月
E5-2660*2         32G/2T/5M独享不想/1IP        1450元/月
优质线路E3-1230（4核8线程）                  16G 1T SSD      10M CN2/30M BGP   5个        CN2/BGP        189 美元 /月       
优质线路2*E5-2660(16核32线程)           64G 1T SSD      10M CN2/30M BGP   5个        CN2/BGP        299 美元 /月       
优质线路2*E5-2660(20核40线程）         256G 6*1T SSD 10M CN2/30M BGP   5个        CN2/BGP        999 美元 /月
中国优化站群2*E5-2630L(12核24线程） 32G 1T SSD      10M CN2             4x65个         CN2/BGP        279 美元 /月

现机交付欢迎选购 QQ：992211577  992211877  

特网云

特网云服务器配备纯SSD架构打造的高性能存储，旨在为用户提供优质、高效、弹性伸缩的云计算服务。云服务器采用由数据切片技术构建的三层存储功能，切实保护客户数据的安全。同时可弹性扩展的资源用量，为客户业务在高峰期的顺畅保驾护航；灵活多样的计费方式，为客户最大程度的节省IT运营成本，提高资源的有效利用率。

PHP虚拟主机  国外云主机 台湾云主机  香港云主机
国外云主机

优惠多多 优惠多多 欢迎咨询
国内外云主机 低至168元年 免实名制域名 云服务器 服务器租用    高防CDN免备案     免备案云主机 云服务器
美国 台湾 韩国 中国大连 中国沈阳 中国广州 中国内蒙 中国北京 中国香港 中国南京 中国武汉 中国深圳 加利福尼亚州 曼谷  印度  首尔  新加坡  东京  法兰克福  莫斯科  弗吉尼亚  硅谷  多伦多
亚太低延迟路线 优惠多多 优惠多多 欢迎咨询
凌动D525  4GB内存 500GB硬盘 100Mbps宽带 30TB流量 美国洛杉矶 优化线路CN2 价格198元/月
每个服务器都具有通过KVM的完整IPMI访问权限。
数量有限,订购

联系QQ：712375052 712375053 712375054 712375055 712375056 117315385


出售大量已备案域名可过户  所售域名都已经排除360、QQ、和微信拦截 欢迎咨询
接入商 阿里云可用 景安可用 腾讯可用 西部数码可用  百度云可用 其它

备案列表查询：http://www.56dr.com/icp/


活动1：特网云 云主机 云虚拟主机优惠码6折 低至68元/年 多个国家地区

活动2：特网云热门云服务器低至168元/年，爆款折扣专区精选特网云多款热门云产品，低至5折，助力企业快速上云

成为特网云分享大使，最高可享10%返现。

活动详细：https://www.56dr.cn/

==========================================
8折优惠 稳定、安全、弹性、高性能的云端计算服务，实时满足您的多样性业务需求
网站无需备案即可运行，为您省去繁杂的备案手续，省时又省力
特网云 云主机 云虚拟主机优惠码6折 低至68元/年 多个国家地区
================================
特网云 优惠优惠 服务器租用  美洲 欧洲 亚洲 资源多 低至280元起 100M宽带独享  
独立服务器 香港站群服务器 香港将军澳服务器 香港九仓服务器 香港高防服务器 香港动力线 韩国服务器 台湾服务器 菲律宾服务器  新加坡服务器 日本CN2服务器 日本东京服务器 日本站群服务器 台湾站群服务器 高防美国服务器  纽约 圣何塞 阿姆斯特 SK高防芝加哥 SK高防丹佛 SK高防洛杉矶SK高防
堪萨斯 洛杉矶 芝加哥 达拉斯 迈阿密 香港阿里云 韩国CN2 新加坡 香港站群 香港将军澳 香港九仓 香港高防 香港动力线 韩国电信 台湾  菲律宾  日本  日本东京  日本站群  台湾站群
==========================================
https://www.56dr.cn/baremetal/buy.html
==========================================
云虚拟主机 基于云计算的虚拟主机服务  保最稳定、安全、高效的系统运行  
国内BGP 香港国际 新加坡 俄罗斯 德国 中国大陆 香港 日本 韩国 美国 英国 韩国  法国
http://www.56dr.cn/host/buy.html
==========================================
国内云主机 弹性 现在注册，即刻为您提供最佳上云实践机会

美国 台湾 韩国 中国大连 中国沈阳 中国广州 中国内蒙 中国北京 中国香港 中国南京 中国武汉 中国深圳 加利福尼亚州 曼谷  印度  首尔  新加坡  东京  法兰克福  莫斯科  弗吉尼亚  硅谷  多伦多
==========================================
https://www.56dr.cn/server/buy.html
==========================================
==========================================
亚洲 美洲 东南亚 欧洲 全球CDN加速 按量计费 提供稳定快速的网络访问质量
==========================================
https://www.56dr.cn/cdn/
==========================================
特网云10年专业是国内领先的企业级云计算服务提供商!云计算解决方案，安全,稳定,性价比高
==========================================
云服务器

更多海外服务器租用列表，合作价格：https://www.kdocs.cn/l/saPEadYIuEmb