用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。


用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。

1 设计你认为合理的架构,用visio把架构图画出来

2 搭建lnmp、tomcat+jdk环境

3 三个站点分别为:discuz论坛、dedecms企业网站以及zrlog博客

4 由于机器有限,尽可能地把三个站点放到同一台服务器上,然后做负载均衡集群,要求所有站点域名解析到一个ip上,也就是说只有一个出口ip

5 需要共享静态文件,比如discuz需要共享的目录是 data/attachment,dedecms需要共享upload(具体目录,你可以先上传一个图片,查看图片所在目录)

6 设计合理的目录、文件权限,比如discuz的data目录需要给php-fpm进程用户可写权限,其他目录不用写的就不要给写权限(目录755,文件644,属主属组root)

7 所有服务器要求只能普通用户登录,而且只能**登录,root只能普通用户sudo

8 给所有服务器做一个简单的命令审计功能

9 php-fpm服务要求设置慢执行日志,超时时间为2s,并做日志切割,日志保留一月

10 所有站点都需要配置访问日志,并做日志切割,要求静态文件日志不做记录,日志保留一月

11 制定合理的mysql数据备份方案,并写备份脚本,要求把备份数据传输到备份服务器

12 制定代码、静态文件的备份方案,并写备份脚本,要求把备份数据传输到备份服务器

12 编写数据恢复文档,能保证当数据丢失在2小时内恢复所有数据

13 搭建zabbix监控告警系统,要求监控各个基础指标(cpu、内存、硬盘),网卡流量需要成图,还需要监控web站点的可用性,

14 定制自定义监控脚本,监控web服务器的并发连接数,接入zabbix,成图,设置触发器,超过100告警

15 定制自定义监控脚本,监控mysql的队列,接入zabbix,成图,设置触发器,队列超过300告警

16 定制自定义监控脚本,监控mysql的慢查询日志,接入zabbix,成图,设置触发器,每分钟超过60条日志需要告警,需要仔细分析慢查询日志的规律,确定日志条数

17 利用jmx,在zabbix上监控tomcat

18 给三个站点的后台访问做二次认证,增加安全性

19 用shell脚本实现文件、代码同步上线(参考分发系统)

 

 

---------------------------------------------------------------

 LNMP 环境

12.2 MYSQL安装

yum -y install make gcc-c++ cmake bison-devel ncurses-devel  yum  install -y  autoconf

 

wget https://cdn.mysql.com//Downloads/MySQL-5.6/mysql-5.6.35.tar.gz

tar zxvf mysql-5.6.35.tar.gz

cd mysql-5.6.35

mkdir -p /usr/local/mysql/data

 

cmake -DCMAKE_INSTALL_PREFIX=/usr/local/mysql -DMYSQL_DATADIR=/usr/local/mysql/data -DSYSCONFDIR=/etc -DWITH_MYISAM_STORAGE_ENGINE=1 -DWITH_INNOBASE_STORAGE_ENGINE=1 -DWITH_MEMORY_STORAGE_ENGINE=1 -DWITH_READLINE=1 -DMYSQL_UNIX_ADDR=/usr/local/mysql/mysql.sock -DMYSQL_TCP_PORT=3306 -DENABLED_LOCAL_INFILE=1 -DWITH_PARTITION_STORAGE_ENGINE=1 -DEXTRA_CHARSETS=all -DDEFAULT_CHARSET=utf8 -DDEFAULT_COLLATION=utf8_general_ci

 

make && make install        make -j 2 && make install -j 2

make clean

 

复制代码

三、配置MySQL

复制代码

8、设置权限

查看是否有mysql用户及用户组

[[email protected] mysql-5.6.35]# cat /etc/passwd

[[email protected] mysql-5.6.35]# cat /etc/group

如果没有就添加mysql用户和组

[[email protected] mysql-5.6.35]# groupadd mysql

[[email protected] mysql-5.6.35]# useradd -g mysql mysql

修改/usr/local/mysql权限

[[email protected] mysql-5.6.35]# chown -R mysql:mysql /usr/local/mysql

 

9、初始化配置

进入安装路径

[[email protected] mysql-5.6.35]# cd /usr/local/mysql

执行初始化配置脚本,创建系统自带的数据库和表

[[email protected] mysql]# scripts/mysql_install_db --basedir=/usr/local/mysql --datadir=/usr/local/mysql/data --user=mysql

 

10、启动MySQL

添加服务,拷贝服务脚本到init.d目录

如果/etc目录有之前存在的my.cnf文件,将其重命名。启动MySQL服务时,会优先在/etc目录下查找

[[email protected] mysql]# mv /etc/my.cnf /etc/my.cnf.bak

[[email protected] mysql]# cp support-files/mysql.server /etc/init.d/mysql

[[email protected] mysql]# chkconfig mysql on

[[email protected] mysql]# service mysql start  --启动MySQL

 

11、配置用户

设置PATH

[[email protected] mysql]# echo "export PATH=$PATH:/usr/local/mysql/bin" >> /etc/profile

[[email protected] mysql]# source /etc/profile

[[email protected] mysql]# echo $PATH

修改root密码

[[email protected] mysql]# mysql -uroot

mysql> SET PASSWORD = PASSWORD('mysql5635');

设置mydba用户可以远程访问

mysql> GRANT ALL PRIVILEGES ON *.* TO 'mydba'@'%' IDENTIFIED BY 'mysql5635' WITH GRANT OPTION;

防火墙设置可参考 http://www.cnblogs.com/ShanFish/p/6519950.html

 

12.3 PHP5安装

• 和LAMP安装PHP方法有差别,需要开启php-fpm服务

yum install expat-devel   yum -y install pcre-devel  yum install -y epel-release  yum install -y libmcrypt-devel 

 

• cd /usr/local/src/

• wget http://cn2.php.net/distributions/php-5.6.30.tar.gz

• tar zxf php-5.6.30.tar.gz

• useradd -s /sbin/nologin php-fpm

• cd php-5.6.30

• ./configure --prefix=/usr/local/php-fpm --with-config-file-path=/usr/local/php-fpm/etc --enable-fpm --with-fpm-user=php-fpm --with-fpm-group=php-fpm --with-mysql=/usr/local/mysql --with-mysqli=/usr/local/mysql/bin/mysql_config --with-pdo-mysql=/usr/local/mysql --with-mysql-sock=/tmp/mysql.sock --with-libxml-dir --with-gd --with-jpeg-dir --with-png-dir --with-freetype-dir --with-iconv-dir --with-zlib-dir --with-mcrypt --enable-soap --enable-gd-native-ttf --enable-ftp --enable-mbstring --enable-exif --with-pear --with-curl  --with-openssl

 

./configure --prefix=/usr/local/php-fpm                #指定安装路径php-fpm

--with-config-file-path=/usr/local/php-fpm/etc           #配置文件所在路径

--enable-fpm    #开启fpm  不加就不能启动这个服务

--with-fpm-user=php-fpm --with-fpm-group=php-fpm     #指定用户和组

--with-mysql=/usr/local/mysql                      #指定mysql路径

--with-mysqli=/usr/local/mysql/bin/mysql_config --with-pdo-mysql=/usr/local/mysql --with-mysql-sock=/tmp/mysql.sock            #指定mysqli   指定mysql sock

 

• make && make install    make -j 2 && make install -j 2

• cp php.ini-production /usr/local/php-fpm/etc/php.ini     生产环境

 cp php.ini-development /usr/local/php-fpm/etc/php.ini      测试环境

cd /usr/local/php-fpm/etc/  vim php-fpm.conf

• vi /usr/local/php/etc/php-fpm.conf //写入如下内容(参考https://coding.net/u/aminglinux/p/aminglinux-book/git/blob/master/D15Z/php-fpm.conf

[global]

pid = /usr/local/php-fpm/var/run/php-fpm.pid

error_log = /usr/local/php-fpm/var/log/php-fpm.log

[www]

listen = /tmp/php-fcgi.sock

listen.mode = 666

user = php-fpm

group = php-fpm

pm = dynamic

pm.max_children = 50

pm.start_servers = 20

pm.min_spare_servers = 5

pm.max_spare_servers = 35

pm.max_requests = 500

rlimit_files = 1024

 

cd /usr/local/src/php-5.6.30/

• cp sapi/fpm/init.d.php-fpm /etc/init.d/php-fpm     #这个是启动脚本

• chmod 755 /etc/init.d/php-fpm

• chkconfig --add php-fpm

• chkconfig php-fpm on

/usr/local/php-fpm/sbin/php-fpm -t     # 检测下有没有错误

• service php-fpm start

• ps aux |grep php-fpm

用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。

12.5 nginx介绍

• Nginx官网 nginx.org,最新版1.13,最新稳定版1.12

• Nginx应用场景:web服务、反向代理、负载均衡

• Nginx著名分支,淘宝基于Nginx开发的Tengine,使用上和Nginx一致,服务名,配置文件名都一样,和Nginx的最大区别在于Tenging增加了一些定制化模块,在安全限速方面表现突出,另外它支持对js,css合并

• Nginx核心+lua相关的组件和模块组成了一个支持lua的高性能web容器openresty,参考http://jinnianshilongnian.iteye.com/blog/2280928

 

12.6nginx安装

•cd /usr/local/src

• wget http://nginx.org/download/nginx-1.12.1.tar.gz

• tar zxf nginx-1.12.1.tar.gz

• ./configure --prefix=/usr/local/nginx                 #故意不做复杂

• make &&  make install

/usr/local/nginx/sbin/nginx  -t                               #检查配置文件

• vim /etc/init.d/nginx //复制如下内容(参考https://coding.net/u/aminglinux/p/aminglinux-book/git/blob/master/D15Z/etc_init.d_nginx

 

#!/bin/bash

# chkconfig: - 30 21

# description: http service.

# Source Function Library

. /etc/init.d/functions

# Nginx Settings

 

NGINX_SBIN="/usr/local/nginx/sbin/nginx"

NGINX_CONF="/usr/local/nginx/conf/nginx.conf"

NGINX_PID="/usr/local/nginx/logs/nginx.pid"

RETVAL=0

prog="Nginx"

 

start()

{

    echo -n $"Starting $prog: "

    mkdir -p /dev/shm/nginx_temp

    daemon $NGINX_SBIN -c $NGINX_CONF

    RETVAL=$?

    echo

    return $RETVAL

}

 

stop()

{

    echo -n $"Stopping $prog: "

    killproc -p $NGINX_PID $NGINX_SBIN -TERM

    rm -rf /dev/shm/nginx_temp

    RETVAL=$?

    echo

    return $RETVAL

}

 

reload()

{

    echo -n $"Reloading $prog: "

    killproc -p $NGINX_PID $NGINX_SBIN -HUP

    RETVAL=$?

    echo

    return $RETVAL

}

 

restart()

{

    stop

    start

}

 

configtest()

{

    $NGINX_SBIN -c $NGINX_CONF -t

    return 0

}

 

case "$1" in

  start)

        start

        ;;

  stop)

        stop

        ;;

  reload)

        reload

        ;;

  restart)

        restart

        ;;

  configtest)

        configtest

        ;;

  *)

        echo $"Usage: $0 {start|stop|reload|restart|configtest}"

        RETVAL=1

esac

 

exit $RETVAL

 

 

• chmod 755 /etc/init.d/nginx

• chkconfig --add nginx

• chkconfig nginx on

• cd /usr/local/nginx/conf/; mv nginx.conf nginx.conf.bak

•  vim nginx.conf //写入如下内容(参考https://coding.net/u/aminglinux/p/aminglinux-book/git/blob/master/D15Z/nginx.conf

 

user nobody nobody;

worker_processes 2;

error_log /usr/local/nginx/logs/nginx_error.log crit;

pid /usr/local/nginx/logs/nginx.pid;

worker_rlimit_nofile 51200;

 

events

{

    use epoll;

    worker_connections 6000;

}

 

http

{

    include mime.types;

    default_type application/octet-stream;

    server_names_hash_bucket_size 3526;

    server_names_hash_max_size 4096;

    log_format combined_realip '$remote_addr $http_x_forwarded_for [$time_local]'

    ' $host "$request_uri" $status'

    ' "$http_referer" "$http_user_agent"';

    sendfile on;

    tcp_nopush on;

    keepalive_timeout 30;

    client_header_timeout 3m;

    client_body_timeout 3m;

    send_timeout 3m;

    connection_pool_size 256;

    client_header_buffer_size 1k;

    large_client_header_buffers 8 4k;

    request_pool_size 4k;

    output_buffers 4 32k;

    postpone_output 1460;

    client_max_body_size 10m;

    client_body_buffer_size 256k;

    client_body_temp_path /usr/local/nginx/client_body_temp;

    proxy_temp_path /usr/local/nginx/proxy_temp;

    fastcgi_temp_path /usr/local/nginx/fastcgi_temp;

    fastcgi_intercept_errors on;

    tcp_nodelay on;

    gzip on;

    gzip_min_length 1k;

    gzip_buffers 4 8k;

    gzip_comp_level 5;

    gzip_http_version 1.1;

    gzip_types text/plain application/x-javascript text/css text/htm

    application/xml;

 

    server

    {

        listen 80;

        server_name localhost;

        index index.html index.htm index.php;

        root /usr/local/nginx/html;

 

        location ~ \.php$

        {

            include fastcgi_params;

            fastcgi_pass unix:/tmp/php-fcgi.sock;

            fastcgi_index index.php;

            fastcgi_param SCRIPT_FILENAME /usr/local/nginx/html$fastcgi_script_name;

        }    

    }

}

 

• /usr/local/nginx/sbin/nginx -t

• /etc/init.d/nginx  start

• netstat -lntp |grep 80

-----------------------------------------------------------------

Tomcat

安装jdk

 

Tomcat依赖JDK运行,先安装jdk;

jdk版本1.6、1.7、1.8;

下载jdk

http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html

cd /usr/local/src/ //本地上传到linux指定目录

tar zxvf jdk-8u181-linux-x64.tar.gz //解压

du -sh jdk1.8.0_181  //查看大小

mv jdk1.8.0_181 /usr/local/jdk1.8 //移动jdk文件

vim /etc/profile //定义环境变量,文档最后增加以下变量代码

代码:

JAVA_HOME=/usr/local/jdk1.8/

JAVA_BIN=/usr/local/jdk1.8/bin

JRE_HOME=/usr/local/jdk1.8/jre

PATH=$PATH:/usr/local/jdk1.8/bin:/usr/local/jdk1.8/jre/bin

CLASSPATH=/usr/local/jdk1.8/jre/lib:/usr/local/jdk1.8/lib:/usr/local/jdk1.8/jre/lib/charsets.jar

source /etc/profile //生效profile环境变量配置

java -version //检查Java版本,检测是否jdk是否正常

安装Tomcat(二进制)

cd /usr/local/src

wget https://mirrors.tuna.tsinghua.edu.cn/apache/tomcat/tomcat-8/v8.5.29/bin/apache-tomcat-8.5.29.tar.gz //注意下载目录经常变动,请灵活下载Tomcat;

tar zxvf apache-tomcat-8.5.34.tar.gz //解压

mv apache-tomcat-8.5.34 /usr/local/tomcat//移动并改名

/usr/local/tomcat/bin/startup.sh //启动Tomcat服务

ps aux |grep java //检测是否安装成功,java包含Tomcat

/usr/local/tomcat/bin/shutdown.sh //关闭Tomcat服务

 

netstat -lntp |grep java //查看监听端口

三个端口8080为提供web服务的端口,8005为管理端口,8009端口为第三方服务调用的端口,比如httpd和Tomcat结合时会用到;

 

 

 


 

Tomcat设置监听端口80、配置虚拟主机、安装zrlog博客、日志文件

 

设置Tomcat监听端口为80

默认Tomcat监听端口为8080端口,如果是在lnmp环境下,我们必须停用作用80端口的nginx;

/etc/init.d/nginx stop //停用nginx服务,使80端口空闲;

vim /usr/local/tomcat/conf/server.xml

将内容

Connector port="8080" protocol="HTTP/1.1"

修改为Connector port="80" protocol="HTTP/1.1"

/usr/local/tomcat/bin/shutdown.sh //关闭tomcat服务

/usr/local/tomcat/bin/startup.sh //开启tomcat服务


配置Tomcat的虚拟主机

设置配置未经

vim /usr/local/tomcat/conf/server.xml

增加虚拟主机,编辑server.xml,在</Host>下面增加如下内容 148行

<Host name="www.123.cn" appBase=""

unpackWARs= "true" autoDeploy="true"

xmlValidation="false" xmlNamespaceAware="false">

<Context path="" docBase="/data/wwwroot/123.cn/" debug="0" reloadable="true" crossContext="true"/></Host>

 

其中<Host>和</Host>中间的配置为虚拟主机配置部分,

appBase与docBase二选一,一个为目录一个为空;

其中appBase为war包,就是放war包,包放里面会自动解压,docBase为war解压缩后的文件目录;相当于WAR解压完的文件放到这个文件里面 就是放网站程序

unpackWARs="true"  //是否自动解压  true自动

docBase,这个参数用来定义网站的文件存放路径,如果不定义默认appBase/ROOT下面,定义了docBase就以该目录为主了,其中appBasedocBase可以一样。在这一步操作过程中很多同学遇到过访问404的问题,其实就是docBase没有定义

appBase为应用存放目录,通常是需要把war包直接放到该目录下面,它会自动解压成一个程序目录

下载zrlog博客

wget http://dl.zrlog.com/release/zrlog-1.9.1-cd87f93-release.war //下载zrlog博客war包,zrlog为java编写

cp zrlog-1.9.1-cd87f93-release.war /usr/local/tomcat/webapps/ //复制到webapps下,自动解压

cd /usr/local/tomcat/webapps/

mv zrlog-1.9.1-cd87f93-release zrlog //将解压后的文件目录改名为zrlog

数据库设置

mysql -uroot -p123456 //登录mysql

create database zrlog; //创建数据库zrlog

grant all on zrlog.* to 'zrlog'@127.0.0.1 identified by '123456'; //创建mysql用户zrlog与密码,现在为使用127.0.0.1ip登录

grant all on zrlog.* to 'zrlog'@'%' identified by '123456'; //创建mysql用户zrlog与密码 所有IP可访问

mysql -uzrlog -h127.0.0.1 -p123456 //测试uzrlog是否正常登录mysql

mysql -uzrlog -h172.16.90.40 -p123456

http://172.16.90.40/zrlog///通过浏览器访问zrlog来就行安装

设置mysql的ip为127.0.0.1,mysql的账号与密码等即可;

用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。

用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。

设置域名访问

mkdir /data/wwwroot/123.cn

mv /usr/local/tomcat/webapps/zrlog/* /data/wwwroot/123.cn/ //移动到指定虚拟web目录,最好是复制cp -rf

C:\Windows\System32\drivers\etc\hosts //修改pc机器的hosts文件123.cn为192.168.188.2

/usr/local/tomcat/bin/shutdown.sh //关闭Tomcat服务

/usr/local/tomcat/bin/startup.sh //启动tomcat服务

 

----------------------------------------------------------------------------------

keepalived配置高可用集群

  • 准备两台机器192.168.1.6和192.168.1.7,1.6作为master,1.7作为backup

  • 两台机器都执行yum install -y keepalived

  • 两台机器都安装nginx,其中1.6上已经编译安装过nginx,135上需要yum安装nginx: yum install -y nginx

  • > /etc/keepalived/keepalived.conf   

  • vim /etc/keepalived/keepalived.conf   记得把IP改成192.168.1.100 同一网段 除非做过 trunk

  • 设定vip为100

  • 编辑主上keepalived配置文件,内容获取地址

  • vim /usr/local/sbin/check_ng.sh

  • 主编辑监控脚本,内容获取地址

  • 给脚本755权限 chmod 755 /usr/local/sbin/check_ng.sh用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。

  • less /var/log/messages  日志文件

  • 用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。

  • systemctl start keepalived 主启动服务

--------------------------------------------------------------------

         > /etc/keepalived/keepalived.conf   

  • 从上编辑配置文件,内容获取地址

  • vim /etc/keepalived/keepalived.conf

  • 从上编辑监控脚本,内容获取地址   vim /usr/local/sbin/check_ng.sh   我是编译安装就用主的脚本就可以

  • 给脚本755权限 chmod 755 /usr/local/sbin/check_ng.sh

  • 用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。

  • 从BACKUP

  • 权重比主要少90

  • 192.168.1.100 和主一样

  • 从上也启动服务 systemctl start keepalived

 

 

视频上面 主是编译安装 脚本启动是/etc/init.d/nginx start

视频上面 从因为yum 安装 脚本里面是  systemctl start nginx 启动

 

用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。

查看默认nginx显示的地方  因为第一台以前LAMP还没配置默认文件所以看不见,从以前做LNMP所有虚拟站点

 

测试systemctl stop keepalived  然后看从 IP 输入VIPhttp://192.168.1.100/

用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。从的 显示

 

用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。用13台虚拟机搭建一个高可用负载均衡集群架构出来,并运行三个站点,具体需求如下。

systemctl restart keepalived 又正常了