lvs+keepalive 比较详细的安装配置文档【转载】lvs说明:目前有三种IP负载均衡技术(VS/NAT、VS/TUN和VS/DR);八
lvs+keepalive 比较详细的安装配置文档【转载】
lvs说明:目前有三种IP负载均衡技术(VS/NAT、VS/TUN和VS/DR);
八种调度算法(rr,wrr,lc,wlc,lblc,lblcr,dh,sh)。
在调度器的实现技术中,IP负载均衡技术是效率最高的。在已有的IP负载均衡技术中有通过网络地址转换(Network Address Translation)将一组服务器构成一个高性能的、高可用的虚拟服务器,我们称之为VS/NAT技术(Virtual Server via Network Address Translation),大多数商品化的IP负载均衡调度器产品都是使用此方法,如Cisco的LocalDirector、F5的Big/IP和 Alteon的ACEDirector。在分析VS/NAT的缺点和网络服务的非对称性的基础上,我们提出通过IP隧道实现虚拟服务器的方法VS/TUN (Virtual Server via IP Tunneling),和通过直接路由实现虚拟服务器的方法VS/DR(Virtual Server via Direct Routing),它们可以极大地提高系统的伸缩性。所以,IPVS软件实现了这三种IP负载均衡技术,它们的大致原理如下(我们将在其他章节对其工作原理进行详细描述),Virtual Server via Network Address Translation(VS/NAT)
通过网络地址转换,调度器重写请求报文的目标地址,根据预设的调度算法,将请求分派给后端的真实服务器;真实服务器的响应报文通过调度器时,报文的源地址被重写,再返回给客户,完成整个负载调度过程。Virtual Server via IP Tunneling(VS/TUN)
采用NAT技术时,由于请求和响应报文都必须经过调度器地址重写,当客户请求越来越多时,调度器的处理能力将成为瓶颈。为了解决这个问题,调度器把请求报文通过IP隧道转发至真实服务器,而真实服务器将响应直接返回给客户,所以调度器只处理请求报文。由于一般网络服务应答比请求报文大许多,采用 VS/TUN技术后,集群系统的最大吞吐量可以提高10倍。Virtual Server via Direct Routing(VS/DR)
VS/DR通过改写请求报文的MAC地址,将请求发送到真实服务器,而真实服务器将响应直接返回给客户。同VS/TUN技术一样,VS/DR技术可极大地提高集群系统的伸缩性。这种方法没有IP隧道的开销,对集群中的真实服务器也没有必须支持IP隧道协议的要求,但是要求调度器与真实服务器都有一块网卡连在同一物理网段上。针对不同的网络服务需求和服务器配置,IPVS调度器实现了如下八种负载调度算法:使用比较多的是以下四种:轮叫(Round Robin)
调度器通过"轮叫"调度算法将外部请求按顺序轮流分配到集群中的真实服务器上,它均等地对待每一台服务器,而不管服务器上实际的连接数和系统负载。加权轮叫(Weighted Round Robin)
调度器通过"加权轮叫"调度算法根据真实服务器的不同处理能力来调度访问请求。这样可以保证处理能力强的服务器处理更多的访问流量。调度器可以自动问询真实服务器的负载情况,并动态地调整其权值。最少链接(Least Connections)
调度器通过"最少连接"调度算法动态地将网络请求调度到已建立的链接数最少的服务器上。如果集群系统的真实服务器具有相近的系统性能,采用"最小连接"调度算法可以较好地均衡负载。加权最少链接(Weighted Least Connections)
在集群系统中的服务器性能差异较大的情况下,调度器采用"加权最少链接"调度算法优化负载均衡性能,具有较高权值的服务器将承受较大比例的活动连接负载。调度器可以自动问询真实服务器的负载情况,并动态地调整其权值。
1、拓扑描述:(一定要理解这个拓扑关系)
?????? 负载服务器master真实IP??????? 192.168.1.252
?????? 负载服务器backup真实IP? 192.168.1.230
?????? 负载服务器虚拟IP??????? 192.168.1.229
?????? 后端WEB服务器IP??????????????? 192.168.1.220
?????? 后端WEB服务器IP??????????????? 192.168.1.2312、升级内核
#yum install kernel3、重启服务器,使用新的内核4、删除旧版、升级新版内核
#rpm -e kernel-2.6.18-53.el5
#rpm -e kernel-devel-2.6.18-53.el5
#rpm -e kernel-headers-2.6.18-53.el5 --nodeps
#yum install kernel-headers
#yum install kernel-devel5、下载软件
#wget?http://www.linuxvirtualser... ... ipvsadm-1.24.tar.gz
??? #wget?http://www.keepalived.org/...6、安装ipvsadm-1.24? //master和backup
#??????? rpm -ivh ipvsadm-1.24-6.src.rpm
#??????? cd /usr/src/redhat/SOURCES
#??????? tar -zxvf ipvsadm-1.24.tar.gz
#??????? cd ipvsadm
#?????? uname -r? //查询版本
?????? 2.6.18-53.el5xen
#??????? ln -s? /usr/src/kernels/2.6.18-53.el5xen-i686/? /usr/src/linux? //假如这里的内核版本不一样的话,make的时候会出现错误。
#??????? make;make install7,安装keepalived.在负载均衡服务器上执行 master和backup
1、解压
?????? #tar -zxvf keepalived-1.1.15.tar.gz
?????? #cd keepalived-1.1.15
?????? #./configure --prefix=/usr/local/keepalived
?????? #make;make install
?????? #cp /usr/local/keepalived/sbin/rc.d/init.d/keepalived /sbin/rc.d/init.d/
?????? #cp /usr/local/keepalived/sbin/sysconfig/keepalived /sbin/sysconfig/
?????? #mkdir /sbin/keepalived
?????? #cp /usr/local/keepalived/sbin/keepalived/keepalived.conf /sbin/keepalived/
?????? #cp /usr/local/keepalived/sbin/keepalived /usr/sbin/
?????? #service keepalived start|stop?8、开启负载服务器路由机制? //master和backup
#??????? vi /sbin/sysctl.conf 保证有如下内容
?????? net.ipv4.ip_forward = 1
?????? 执行
#??????? sysctl -p9、建立负载服务器启动脚本? //master和backup
#vi /sbin/lvsdr.sh
#!/bin/bash?
VIP=192.168.1.229?
RIP1=192.168.1.220
RIP2=192.168.1.231
/sbin/rc.d/init.d/functions
case "$1" in
start)
?????? echo "start LVS of DirectorServer"
?????? #Set the Virtual IP Address
?????? /sbin/ifconfig eth0:1 $VIP broadcast $VIP netmask 255.255.255.255 up
?????? /sbin/route add -host $VIP dev eth0:1
?????? #Clear IPVS Table
?????? /sbin/ipvsadm -C
?????? #Set Lvs
?????? /sbin/ipvsadm -A -t $VIP:80 -s wrr
?????? /sbin/ipvsadm -a -t $VIP:80 -r $RIP1:80 -g
?????? /sbin/ipvsadm -a -t $VIP:80 -r $RIP2:80 -g
?????? #Run Lvs
?????? /sbin/ipvsadm
;;
stop)
echo "Close LVS Directorserver"
/sbin/ifconfig eth0:1 down
/sbin/ipvsadm -C
;;
*)
echo "Usage0{start|stop}"
exit 1
esac10、分配权限
#chmod 755 /sbin/lvsdr.sh11、执行测试
#??????? /sbin/lvsdr.sh start
?????? 查看ifconfig是否有ifcfg-eth0:1?? (有就对了)
?????? 查看route -n 路由表是否多了eth0:1路由(有就对了)
#??????? /sbin/lvsdr.sh stop
?????? 查看ifconfig是否有ifcfg-eth0:1?? (无就对了)
?????? 查看route -n 路由表是否多了eth0:1路由(无就对了)
#??????? /sbin/lvsdr.sh? adsa
?????? 是否提示参数错误,只能使用{start|stop}。12、配置后端WEB服务器
?????? 在192.168.1.231和192.168.1.220上分别建立如下脚本。
#??????? vi /sbin/realdr.sh
?????? #!/bin/bash
?????? VIP=192.168.1.229
?????? /sbin/ifconfig lo:0 $VIP broadcast $VIP netmask 255.255.255.255 up
?????? /sbin/route add -host $VIP dev lo:0
?????? echo "1">/proc/sys/net/ipv4/conf/default/arp_ignore
?????? echo "2">/proc/sys/net/ipv4/conf/default/arp_announce
?????? echo "1">/proc/sys/net/ipv4/conf/all/arp_ignore
?????? echo "2">/proc/sys/net/ipv4/conf/all/arp_announce
?????? sysctl -p
13、配置权限
#??????? chmod 755 /sbin/realdr.sh14、在两台web服务器上分别执行其指命。
/sbin/realdr.sh start15.配置keepalived.conf配置文件 //master和backup#vi /etc/keepalived/keepalived.conf! Configuration File for keepalivedglobal_defs {
? notification_email {
????dalianlxw@139.com
? }
? notification_email_from?xwluan@tsong.cn
? smtp_server 222.73.214.147
? smtp_connect_timeout 30
? router_id LVS_DEVEL
}vrrp_instance VI_1 {
?? state MASTER? //备份服务器设置为backup
?? interface eth0
?? virtual_router_id 51
?? priority 100? ////备份服务器设置小于100
?? advert_int 1
?? authentication {
?????? auth_type PASS
?????? auth_pass 1111
?? }
?? virtual_ipaddress {
?????? 192.168.1.229
?? }
}virtual_server 192.168.1.229 80 {
?? delay_loop 6? //隔6秒查询
?? lb_algo wrr?? //lvs算法
?? lb_kind DR??? //(Direct Route)
?? persistence_timeout 60? //同一IP的连接60秒内被分配到同一台realserver
?? inhibit_on_failure? //当web挂掉的时候,前面请求的用户,可以继续打开网页,但是后面的请求不会调度到挂掉的web上面。
?? protocol TCP?? //用TCP协议检查realserver状态?? real_server 192.168.1.220 80 {
?????? weight 3??? //权重
?????? TCP_CHECK {
?????????? connect_timeout 10?? //10秒无响应超时
?????????? nb_get_retry 3
?????????? delay_before_retry 3
?????? }
?? }?? real_server 192.168.1.231 80 {
?????? weight 1
?????? TCP_CHECK {
?????????? connect_timeout 10
?????????? nb_get_retry 3
?????????? delay_before_retry 3
?????? }
?? }
???
}16,启动keepalived
# /etc/rc.d/init.d/keepalived start17:设置成自启动
#vi /etc/rc.local //里面添加/etc/init.d/keepalived restart
/etc/lvsdr.sh start
测试算法:?
? 我的测试环境中,算法使用的是wrr,和wlc这两种。
权重问题:当lvs配置文件lvs-dr.sh改变权重以及keepalived配置文件keepalived.conf修改权重后,哪个文件重新启动,哪个文件的权重生效。同时权重在master和backup上面可以设置不同。
当算法是rr的时候,权重没有作用,但是当算法是wlc和wrr的时候,必须设置权重,可以根据服务器的性能和配置,来确定权重的大小,当权重大的时候,lvs调度的服务也就多,同时权重高的服务器先收到链接。当小的时候,lvs调度的比较少。当权重为0的时候,表示服务器不可用,测试lvs
1 当我把master的lvs服务关掉的时候,会将用户请求自动切换到backup上面进行工作。
2 当我把web服务关掉的时候,lvs上面会显示web消失,当启用后,web会自动显示
web关闭后:
[root@localhost ~]# ipvsadm -ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddressort Scheduler Flags
?-> RemoteAddressort?????????? Forward Weight ActiveConn InActConn
TCP? 192.168.1.229:80 wlc
?-> 192.168.1.231:80???????????? Route?? 10???? 0????????? 0?????????
[root@localhost ~]# ipvsadm -ln
web启用后:
root@localhost?~]# ipvsadm -ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddressort Scheduler Flags
?-> RemoteAddress:Port?????????? Forward Weight ActiveConn InActConn
TCP? 192.168.1.229:80 wlc
?-> 192.168.1.231:80???????????? Route?? 1????? 0????????? 0?????????
?-> 192.168.1.220:80???????????? Route?? 1????? 0????????? 0?????
3 当master服务器down的时候,backup自动会接替服务,当master起来的时候,backup会自动断掉。