如何应对大量请求所造成的服务器性能下降、崩溃

1. 应用逻辑优化
2. 服务器优化
   1. 增强服务器处理能力
   2. 增加服务器
      1. 增加逻辑应用服务器（纵向扩展）
      2. 增加硬件服务器（水平扩展）

此处不打算介绍各种各种方式的优劣，下文展示的是如何纵向扩展，搭建Tomcat集群。

Tomcat集群访问示意图：

搭建Apache HTTP Server

我的建议是最好在虚拟机里面做，并且在安装Apache HTTP Server之前关闭IIS服务和IE。

• 下载Apache HTTP Server的安装文件（HTTPD）并安装。

  

  Custom

  

  注意安装目录不要太"深"，将来改配置、找东西啥的，都很麻烦。

安装完成之后，在此处启动HTTP Server。浏览器中输入http://localhost,如果有网页显示，则安装成功。

• 下载Tomcat7并解压到HTTP Server的统计目录中，重命名为tomcat7_1.

  启动Tomcat，ie中输入http://localhost:8080，看到管理页面即为安装成功。

出击吧，喵咪们！~~~

进入到d:/apache/conf下，打开httpd.conf，找到DocumentRoot,修改为d:/webapps

继续找到

<Directory />

Options FollowSymLinks

AllowOverride None

Order deny,allow

Deny from all

</Directory>

这一节点，修改为：

<Directory />

#Options FollowSymLinks

Options none

AllowOverride None

Order deny,allow

Allow from all

</Directory>

继续找到<Directory "D:/apache/htdocs">，修改为<Directory "D:/webapps">.

继续找到Options Indexes FollowSymLinks，修改为：Options none

然后在webapps文件夹下新建一个index.html，内容随便，重启apache服务，刷新http://localhost，应当显示为刚才的html页面。

• 下载mod_jk-1.2.31-httpd-2.2.3.so并复制到D:\apache\modules。
• 在httpd.conf文件最后一行追加

  include conf/jk_mod.conf

• 在conf文件夹下新建jk_mod.conf文件，加入如下内容(注意注释换行问题):

  #加载apache-tomcate模块

  LoadModule jk_module modules/mod_jk-1.2.31-httpd-2.2.3.so

  #集群相关参数的属性文件

  JkWorkersFile conf/workers.properties

  #日志相关配置

  JkLogFile logs/mod_jk.log

  JkRequestLogFormat "%w %V %T"

  JkLogLevel info

  #将后缀为X的请求交由controller处理

  JkMount /*.jsp controller

  jkMount /*.do controller

• 在conf文件夹下新建workers.properites文件，加入如下配置：

  worker.controller.balance_workers=tomcat7_1,tomcat7_2

  #-------controller---------------

  worker.list=controller

  worker.controller.type=lb

  worker.controller.sticky_session=false

  worker.controller.sticky_session_force=1

  #tomcat1

  worker.tomcat7_1.port=8009

  worker.tomcat7_1.host=localhost

  worker.tomcat7_1.reference=worker.template

  worker.tomcat7_1.lbfactor=1

  #tomcat2

  worker.tomcat7_2.port=9009

  worker.tomcat7_2.host=localhost

  worker.tomcat7_2.reference=worker.template

  worker.tomcat7_2.lbfactor=1

  #========template========

  worker.template.type=ajp13

• 修改tomcat7_1/conf/server.xml文件。

找到：

<Engine name="Catalina" defaultHost="localhost">

改为：

<Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat7_1">

将：

<Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster"/>

的注释去掉，使其生效。

找到：

appBase="webapps"

改为：

appBase="d:/webapps"

复制此tomcat的webapps文件夹到d:webapps。此时重启tomcat，还是能够看到之前的管理页面。

• 复制tomcat服务器

复制tomcat7_1到同级目录，改名为tomcat7_2，修改tomcat7_2的server.xml文件，修改三个个以8开头的端口：8005->9005;8080->9080; 8009->9009。

同时将jvmRoute="tomcat7_1"改为：jvmRoute="tomcat7_2"

此时启动tomcat7_2，访问http://localhost:9080，即可看到tomcat7_2 的管理页面。

• 部署一个测试过程

  这个工程最起码需要满足两个要求：

  • 有一定数量的（最起码一个）HTML静态文件，apache会解析他，不经过应用服务器（tomcat）
  • 有一定数量的"动"态文件，apache解析不了，交由app server处理。其中必须有对session的操作，以验证集群的session共享正确性。
  • 在web.xml下的web-app节点下添加<distributable/>

  我这里有一个及其简单的工程。复制到d:/webapps后，启动tomcat7_1和tomcat7_2，分别输入：

  http://localhost:8080/test/index.jsp

  http://localhost:9080/test/index.jsp

应该都可以访问到。

此时，所有配置完毕。

测试session是否被共享

启动两个tomcat，重启apache服务。访问http://localhost/test/index.jsp，每次刷新，你将看见两个tomcat"轮流"处理请求，而页面内session的值则是连续的，说明session被共享。

配置失败？

有一些原因会导致配置失败，这些永远很难在一篇文章内描述清楚，所以，遇到问题，及时google（其实我喜欢用百度，只是说google比较洋气点儿，呵呵）是必要的。

这里是一个直接就可以用例子

这是一个严重配置文件正确性的工具：