用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。
用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。
1 设计你认为合理的架构,用visio把架构图画出来
2 搭建lnmp、tomcat+jdk环境
3 三个站点分别为:discuz论坛、dedecms企业网站以及zrlog博客
4 由于机器有限,尽可能地把三个站点放到同一台服务器上,然后做负载均衡集群,要求所有站点域名解析到一个ip上,也就是说只有一个出口ip
5 需要共享静态文件,比如discuz需要共享的目录是 data/attachment,dedecms需要共享upload(具体目录,你可以先上传一个图片,查看图片所在目录)
6 设计合理的目录、文件权限,比如discuz的data目录需要给php-fpm进程用户可写权限,其他目录不用写的就不要给写权限(目录755,文件644,属主属组root)
7 所有服务器要求只能普通用户登录,而且只能**登录,root只能普通用户sudo
8 给所有服务器做一个简单的命令审计功能
9 php-fpm服务要求设置慢执行日志,超时时间为2s,并做日志切割,日志保留一月
10 所有站点都需要配置访问日志,并做日志切割,要求静态文件日志不做记录,日志保留一月
11 制定合理的mysql数据备份方案,并写备份脚本,要求把备份数据传输到备份服务器
12 制定代码、静态文件的备份方案,并写备份脚本,要求把备份数据传输到备份服务器
12 编写数据恢复文档,能保证当数据丢失在2小时内恢复所有数据
13 搭建zabbix监控告警系统,要求监控各个基础指标(cpu、内存、硬盘),网卡流量需要成图,还需要监控web站点的可用性,
14 定制自定义监控脚本,监控web服务器的并发连接数,接入zabbix,成图,设置触发器,超过100告警
15 定制自定义监控脚本,监控mysql的队列,接入zabbix,成图,设置触发器,队列超过300告警
16 定制自定义监控脚本,监控mysql的慢查询日志,接入zabbix,成图,设置触发器,每分钟超过60条日志需要告警,需要仔细分析慢查询日志的规律,确定日志条数
17 利用jmx,在zabbix上监控tomcat
18 给三个站点的后台访问做二次认证,增加安全性
19 用shell脚本实现文件、代码同步上线(参考分发系统)
---------------------------------------------------------------
LNMP 环境
12.2 MYSQL安装
yum -y install make gcc-c++ cmake bison-devel ncurses-devel yum install -y autoconf
wget https://cdn.mysql.com//Downloads/MySQL-5.6/mysql-5.6.35.tar.gz
tar zxvf mysql-5.6.35.tar.gz
cd mysql-5.6.35
mkdir -p /usr/local/mysql/data
cmake -DCMAKE_INSTALL_PREFIX=/usr/local/mysql -DMYSQL_DATADIR=/usr/local/mysql/data -DSYSCONFDIR=/etc -DWITH_MYISAM_STORAGE_ENGINE=1 -DWITH_INNOBASE_STORAGE_ENGINE=1 -DWITH_MEMORY_STORAGE_ENGINE=1 -DWITH_READLINE=1 -DMYSQL_UNIX_ADDR=/usr/local/mysql/mysql.sock -DMYSQL_TCP_PORT=3306 -DENABLED_LOCAL_INFILE=1 -DWITH_PARTITION_STORAGE_ENGINE=1 -DEXTRA_CHARSETS=all -DDEFAULT_CHARSET=utf8 -DDEFAULT_COLLATION=utf8_general_ci
make && make install make -j 2 && make install -j 2
make clean
复制代码
三、配置MySQL
复制代码
8、设置权限
查看是否有mysql用户及用户组
[[email protected] mysql-5.6.35]# cat /etc/passwd
[[email protected] mysql-5.6.35]# cat /etc/group
如果没有就添加mysql用户和组
[[email protected] mysql-5.6.35]# groupadd mysql
[[email protected] mysql-5.6.35]# useradd -g mysql mysql
修改/usr/local/mysql权限
[[email protected] mysql-5.6.35]# chown -R mysql:mysql /usr/local/mysql
9、初始化配置
进入安装路径
[[email protected] mysql-5.6.35]# cd /usr/local/mysql
执行初始化配置脚本,创建系统自带的数据库和表
[[email protected] mysql]# scripts/mysql_install_db --basedir=/usr/local/mysql --datadir=/usr/local/mysql/data --user=mysql
10、启动MySQL
添加服务,拷贝服务脚本到init.d目录
如果/etc目录有之前存在的my.cnf文件,将其重命名。启动MySQL服务时,会优先在/etc目录下查找
[[email protected] mysql]# mv /etc/my.cnf /etc/my.cnf.bak
[[email protected] mysql]# cp support-files/mysql.server /etc/init.d/mysql
[[email protected] mysql]# chkconfig mysql on
[[email protected] mysql]# service mysql start --启动MySQL
11、配置用户
设置PATH
[[email protected] mysql]# echo "export PATH=$PATH:/usr/local/mysql/bin" >> /etc/profile
[[email protected] mysql]# source /etc/profile
[[email protected] mysql]# echo $PATH
修改root密码
[[email protected] mysql]# mysql -uroot
mysql> SET PASSWORD = PASSWORD('mysql5635');
设置mydba用户可以远程访问
mysql> GRANT ALL PRIVILEGES ON *.* TO 'mydba'@'%' IDENTIFIED BY 'mysql5635' WITH GRANT OPTION;
防火墙设置可参考 http://www.cnblogs.com/ShanFish/p/6519950.html
12.3 PHP5安装
• 和LAMP安装PHP方法有差别,需要开启php-fpm服务
yum install expat-devel yum -y install pcre-devel yum install -y epel-release yum install -y libmcrypt-devel
• cd /usr/local/src/
• wget http://cn2.php.net/distributions/php-5.6.30.tar.gz
• tar zxf php-5.6.30.tar.gz
• useradd -s /sbin/nologin php-fpm
• cd php-5.6.30
• ./configure --prefix=/usr/local/php-fpm --with-config-file-path=/usr/local/php-fpm/etc --enable-fpm --with-fpm-user=php-fpm --with-fpm-group=php-fpm --with-mysql=/usr/local/mysql --with-mysqli=/usr/local/mysql/bin/mysql_config --with-pdo-mysql=/usr/local/mysql --with-mysql-sock=/tmp/mysql.sock --with-libxml-dir --with-gd --with-jpeg-dir --with-png-dir --with-freetype-dir --with-iconv-dir --with-zlib-dir --with-mcrypt --enable-soap --enable-gd-native-ttf --enable-ftp --enable-mbstring --enable-exif --with-pear --with-curl --with-openssl
./configure --prefix=/usr/local/php-fpm #指定安装路径php-fpm
--with-config-file-path=/usr/local/php-fpm/etc #配置文件所在路径
--enable-fpm #开启fpm 不加就不能启动这个服务
--with-fpm-user=php-fpm --with-fpm-group=php-fpm #指定用户和组
--with-mysql=/usr/local/mysql #指定mysql路径
--with-mysqli=/usr/local/mysql/bin/mysql_config --with-pdo-mysql=/usr/local/mysql --with-mysql-sock=/tmp/mysql.sock #指定mysqli 指定mysql sock
• make && make install make -j 2 && make install -j 2
• cp php.ini-production /usr/local/php-fpm/etc/php.ini 生产环境
cp php.ini-development /usr/local/php-fpm/etc/php.ini 测试环境
cd /usr/local/php-fpm/etc/ vim php-fpm.conf
• vi /usr/local/php/etc/php-fpm.conf //写入如下内容(参考https://coding.net/u/aminglinux/p/aminglinux-book/git/blob/master/D15Z/php-fpm.conf)
[global]
pid = /usr/local/php-fpm/var/run/php-fpm.pid
error_log = /usr/local/php-fpm/var/log/php-fpm.log
[www]
listen = /tmp/php-fcgi.sock
listen.mode = 666
user = php-fpm
group = php-fpm
pm = dynamic
pm.max_children = 50
pm.start_servers = 20
pm.min_spare_servers = 5
pm.max_spare_servers = 35
pm.max_requests = 500
rlimit_files = 1024
cd /usr/local/src/php-5.6.30/
• cp sapi/fpm/init.d.php-fpm /etc/init.d/php-fpm #这个是启动脚本
• chmod 755 /etc/init.d/php-fpm
• chkconfig --add php-fpm
• chkconfig php-fpm on
/usr/local/php-fpm/sbin/php-fpm -t # 检测下有没有错误
• service php-fpm start
• ps aux |grep php-fpm
12.5 nginx介绍
• Nginx官网 nginx.org,最新版1.13,最新稳定版1.12
• Nginx应用场景:web服务、反向代理、负载均衡
• Nginx著名分支,淘宝基于Nginx开发的Tengine,使用上和Nginx一致,服务名,配置文件名都一样,和Nginx的最大区别在于Tenging增加了一些定制化模块,在安全限速方面表现突出,另外它支持对js,css合并
• Nginx核心+lua相关的组件和模块组成了一个支持lua的高性能web容器openresty,参考http://jinnianshilongnian.iteye.com/blog/2280928
12.6nginx安装
•cd /usr/local/src
• wget http://nginx.org/download/nginx-1.12.1.tar.gz
• tar zxf nginx-1.12.1.tar.gz
• ./configure --prefix=/usr/local/nginx #故意不做复杂
• make && make install
/usr/local/nginx/sbin/nginx -t #检查配置文件
• vim /etc/init.d/nginx //复制如下内容(参考https://coding.net/u/aminglinux/p/aminglinux-book/git/blob/master/D15Z/etc_init.d_nginx )
#!/bin/bash
# chkconfig: - 30 21
# description: http service.
# Source Function Library
. /etc/init.d/functions
# Nginx Settings
NGINX_SBIN="/usr/local/nginx/sbin/nginx"
NGINX_CONF="/usr/local/nginx/conf/nginx.conf"
NGINX_PID="/usr/local/nginx/logs/nginx.pid"
RETVAL=0
prog="Nginx"
start()
{
echo -n $"Starting $prog: "
mkdir -p /dev/shm/nginx_temp
daemon $NGINX_SBIN -c $NGINX_CONF
RETVAL=$?
echo
return $RETVAL
}
stop()
{
echo -n $"Stopping $prog: "
killproc -p $NGINX_PID $NGINX_SBIN -TERM
rm -rf /dev/shm/nginx_temp
RETVAL=$?
echo
return $RETVAL
}
reload()
{
echo -n $"Reloading $prog: "
killproc -p $NGINX_PID $NGINX_SBIN -HUP
RETVAL=$?
echo
return $RETVAL
}
restart()
{
stop
start
}
configtest()
{
$NGINX_SBIN -c $NGINX_CONF -t
return 0
}
case "$1" in
start)
start
;;
stop)
stop
;;
reload)
reload
;;
restart)
restart
;;
configtest)
configtest
;;
*)
echo $"Usage: $0 {start|stop|reload|restart|configtest}"
RETVAL=1
esac
exit $RETVAL
• chmod 755 /etc/init.d/nginx
• chkconfig --add nginx
• chkconfig nginx on
• cd /usr/local/nginx/conf/; mv nginx.conf nginx.conf.bak
• vim nginx.conf //写入如下内容(参考https://coding.net/u/aminglinux/p/aminglinux-book/git/blob/master/D15Z/nginx.conf)
user nobody nobody;
worker_processes 2;
error_log /usr/local/nginx/logs/nginx_error.log crit;
pid /usr/local/nginx/logs/nginx.pid;
worker_rlimit_nofile 51200;
events
{
use epoll;
worker_connections 6000;
}
http
{
include mime.types;
default_type application/octet-stream;
server_names_hash_bucket_size 3526;
server_names_hash_max_size 4096;
log_format combined_realip '$remote_addr $http_x_forwarded_for [$time_local]'
' $host "$request_uri" $status'
' "$http_referer" "$http_user_agent"';
sendfile on;
tcp_nopush on;
keepalive_timeout 30;
client_header_timeout 3m;
client_body_timeout 3m;
send_timeout 3m;
connection_pool_size 256;
client_header_buffer_size 1k;
large_client_header_buffers 8 4k;
request_pool_size 4k;
output_buffers 4 32k;
postpone_output 1460;
client_max_body_size 10m;
client_body_buffer_size 256k;
client_body_temp_path /usr/local/nginx/client_body_temp;
proxy_temp_path /usr/local/nginx/proxy_temp;
fastcgi_temp_path /usr/local/nginx/fastcgi_temp;
fastcgi_intercept_errors on;
tcp_nodelay on;
gzip on;
gzip_min_length 1k;
gzip_buffers 4 8k;
gzip_comp_level 5;
gzip_http_version 1.1;
gzip_types text/plain application/x-javascript text/css text/htm
application/xml;
server
{
listen 80;
server_name localhost;
index index.html index.htm index.php;
root /usr/local/nginx/html;
location ~ \.php$
{
include fastcgi_params;
fastcgi_pass unix:/tmp/php-fcgi.sock;
fastcgi_index index.php;
fastcgi_param SCRIPT_FILENAME /usr/local/nginx/html$fastcgi_script_name;
}
}
}
• /usr/local/nginx/sbin/nginx -t
• /etc/init.d/nginx start
• netstat -lntp |grep 80
-----------------------------------------------------------------
Tomcat
安装jdk
Tomcat依赖JDK运行,先安装jdk;
jdk版本1.6、1.7、1.8;
下载jdk
http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html
cd /usr/local/src/ //本地上传到linux指定目录
tar zxvf jdk-8u181-linux-x64.tar.gz //解压
du -sh jdk1.8.0_181 //查看大小
mv jdk1.8.0_181 /usr/local/jdk1.8 //移动jdk文件
vim /etc/profile //定义环境变量,文档最后增加以下变量代码
代码:
JAVA_HOME=/usr/local/jdk1.8/
JAVA_BIN=/usr/local/jdk1.8/bin
JRE_HOME=/usr/local/jdk1.8/jre
PATH=$PATH:/usr/local/jdk1.8/bin:/usr/local/jdk1.8/jre/bin
CLASSPATH=/usr/local/jdk1.8/jre/lib:/usr/local/jdk1.8/lib:/usr/local/jdk1.8/jre/lib/charsets.jar
source /etc/profile //生效profile环境变量配置
java -version //检查Java版本,检测是否jdk是否正常
安装Tomcat(二进制)
cd /usr/local/src
wget https://mirrors.tuna.tsinghua.edu.cn/apache/tomcat/tomcat-8/v8.5.29/bin/apache-tomcat-8.5.29.tar.gz //注意下载目录经常变动,请灵活下载Tomcat;
tar zxvf apache-tomcat-8.5.34.tar.gz //解压
mv apache-tomcat-8.5.34 /usr/local/tomcat//移动并改名
/usr/local/tomcat/bin/startup.sh //启动Tomcat服务
ps aux |grep java //检测是否安装成功,java包含Tomcat
/usr/local/tomcat/bin/shutdown.sh //关闭Tomcat服务
netstat -lntp |grep java //查看监听端口
三个端口8080为提供web服务的端口,8005为管理端口,8009端口为第三方服务调用的端口,比如httpd和Tomcat结合时会用到;
Tomcat设置监听端口80、配置虚拟主机、安装zrlog博客、日志文件
设置Tomcat监听端口为80
默认Tomcat监听端口为8080端口,如果是在lnmp环境下,我们必须停用作用80端口的nginx;
/etc/init.d/nginx stop //停用nginx服务,使80端口空闲;
vim /usr/local/tomcat/conf/server.xml
将内容
Connector port="8080" protocol="HTTP/1.1"
修改为Connector port="80" protocol="HTTP/1.1"
/usr/local/tomcat/bin/shutdown.sh //关闭tomcat服务
/usr/local/tomcat/bin/startup.sh //开启tomcat服务
配置Tomcat的虚拟主机
设置配置未经
vim /usr/local/tomcat/conf/server.xml
增加虚拟主机,编辑server.xml,在</Host>下面增加如下内容 148行
<Host name="www.123.cn" appBase=""
unpackWARs= "true" autoDeploy="true"
xmlValidation="false" xmlNamespaceAware="false">
<Context path="" docBase="/data/wwwroot/123.cn/" debug="0" reloadable="true" crossContext="true"/></Host>
其中<Host>和</Host>中间的配置为虚拟主机配置部分,
appBase与docBase二选一,一个为目录一个为空;
其中appBase为war包,就是放war包,包放里面会自动解压,docBase为war解压缩后的文件目录;相当于WAR解压完的文件放到这个文件里面 就是放网站程序
unpackWARs="true" //是否自动解压 true自动
docBase,这个参数用来定义网站的文件存放路径,如果不定义,默认是在appBase/ROOT下面,定义了docBase就以该目录为主了,其中appBase和docBase可以一样。在这一步操作过程中很多同学遇到过访问404的问题,其实就是docBase没有定义对。
appBase为应用存放目录,通常是需要把war包直接放到该目录下面,它会自动解压成一个程序目录
下载zrlog博客
wget http://dl.zrlog.com/release/zrlog-1.9.1-cd87f93-release.war //下载zrlog博客war包,zrlog为java编写
cp zrlog-1.9.1-cd87f93-release.war /usr/local/tomcat/webapps/ //复制到webapps下,自动解压
cd /usr/local/tomcat/webapps/
mv zrlog-1.9.1-cd87f93-release zrlog //将解压后的文件目录改名为zrlog
数据库设置
mysql -uroot -p123456 //登录mysql
create database zrlog; //创建数据库zrlog
grant all on zrlog.* to 'zrlog'@127.0.0.1 identified by '123456'; //创建mysql用户zrlog与密码,现在为使用127.0.0.1ip登录
grant all on zrlog.* to 'zrlog'@'%' identified by '123456'; //创建mysql用户zrlog与密码 所有IP可访问
mysql -uzrlog -h127.0.0.1 -p123456 //测试uzrlog是否正常登录mysql
mysql -uzrlog -h172.16.90.40 -p123456
http://172.16.90.40/zrlog///通过浏览器访问zrlog来就行安装
设置mysql的ip为127.0.0.1,mysql的账号与密码等即可;
设置域名访问
mkdir /data/wwwroot/123.cn
mv /usr/local/tomcat/webapps/zrlog/* /data/wwwroot/123.cn/ //移动到指定虚拟web目录,最好是复制cp -rf
C:\Windows\System32\drivers\etc\hosts //修改pc机器的hosts文件123.cn为192.168.188.2
/usr/local/tomcat/bin/shutdown.sh //关闭Tomcat服务
/usr/local/tomcat/bin/startup.sh //启动tomcat服务
----------------------------------------------------------------------------------
keepalived配置高可用集群
-
准备两台机器192.168.1.6和192.168.1.7,1.6作为master,1.7作为backup
-
两台机器都执行yum install -y keepalived
-
两台机器都安装nginx,其中1.6上已经编译安装过nginx,135上需要yum安装nginx: yum install -y nginx
-
> /etc/keepalived/keepalived.conf
-
vim /etc/keepalived/keepalived.conf 记得把IP改成192.168.1.100 同一网段 除非做过 trunk
-
设定vip为100
-
编辑主上keepalived配置文件,内容获取地址
-
vim /usr/local/sbin/check_ng.sh
-
主编辑监控脚本,内容获取地址
-
给脚本755权限 chmod 755 /usr/local/sbin/check_ng.sh
-
less /var/log/messages 日志文件
-
-
systemctl start keepalived 主启动服务
--------------------------------------------------------------------
> /etc/keepalived/keepalived.conf
-
从上编辑配置文件,内容获取地址
-
vim /etc/keepalived/keepalived.conf
-
从上编辑监控脚本,内容获取地址 vim /usr/local/sbin/check_ng.sh 我是编译安装就用主的脚本就可以
-
给脚本755权限 chmod 755 /usr/local/sbin/check_ng.sh
-
-
从BACKUP
-
权重比主要少90
-
192.168.1.100 和主一样
-
从上也启动服务 systemctl start keepalived
视频上面 主是编译安装 脚本启动是/etc/init.d/nginx start
视频上面 从因为yum 安装 脚本里面是 systemctl start nginx 启动
查看默认nginx显示的地方 因为第一台以前LAMP还没配置默认文件所以看不见,从以前做LNMP所有虚拟站点
测试systemctl stop keepalived 然后看从 IP 输入VIPhttp://192.168.1.100/
从的 显示
systemctl restart keepalived 又正常了