high availability Isabel con drbd heartbeat

This site is best viewed in a modern browser with JavaScript enabled.

high availability Isabel con drbd heartbeat

raul1617

Estimados alguien que aya hecho una instalación high availability con drbd heartbeat en Issabel, alguna recomendación al respecto, quedo atento a sus comentarios y gracias por la ayuda a comentar.

RiveraPer

Con Issabel 2.5 si, con Issabel 4 aun no.

jeffreytresa

RiveraPer tienes algun tutorialde como lo hiciste

JavierRodriguezGarzon

Buenos días, por acá dejo esta guía, esta para issabel 4 y dejo el vídeo de instalación.

https://www.youtube.com/watch?v=9qNPdhuNJaA&t=1288s

Editamos los repocitorios e instalamos los siguientes paquetes

creamos el siguiente archivo, con el siguiente contenido; vim /etc/yum.repos.d/drbdlink.repo

[drbdlink]
name=Drbdlinks
baseurl=http://dl.fedoraproject.org/pub/epel/7/x86_64/
enable=1
gpgcheck=0

yum repolist all

rpm --import https://www.elrepo.org/RPM-GPG-KEY-elrepo.org

rpm -Uvh http://www.elrepo.org/elrepo-release-7.0-3.el7.elrepo.noarch.rpm

yum install -y corosync pcs pacemaker resource-agents drbd84-utils kmod-drbd84 drbdlinks git

##############
Creamos un archivo en los dos servidores en el directorio /etc/httpd/conf.d con el nombre de serverstatus.conf y que contenga

vim /etc/httpd/conf.d/serverstatus.conf

Listen 127.0.0.1:80
<Location /server-status>
SetHandler server-status
Order deny,allow
Deny from all
Allow from 127.0.0.1
</Location>

Comentamos el puerto 80 en el archivo /etc/httpd/conf/httpd.conf

sed -i "s/Listen/#Listen/" /etc/httpd/conf/httpd.conf

Comentamos la linea RewriteRule (.*) https://%{HTTP_HOST}%{REQUEST_URI} en el archivo

sed -i "s/RewriteRule/#RewriteRule/" /etc/httpd/conf.d/issabel.conf

Agregamos la ip virtual y puerto por donde va a escuchar el http

echo "Listen 201.0.100.183:80"|tee --append /etc/httpd/conf/httpd.conf

creamos la particion en el segundo disco

fdisk /dev/xvdb

mkfs.xfs /dev/xvdb1

dd if=/dev/zero bs=1M count=1 of=/dev/xvdb1; sync

editamos el archivo vim /etc/drbd.d/global_common.conf, y agregamos lo siguiente en la opcion net

vim /etc/drbd.d/global_common.conf

    net {
            protocol C;
            after-sb-0pri discard-younger-primary;
            after-sb-1pri discard-secondary;
            after-sb-2pri call-pri-lost-after-sb;

Creamos el archivo vim /etc/drbd.d/drbd0.res, con el siguiente contenido

vim /etc/drbd.d/drbd0.res

resource drbd0 {
disk /dev/xvdb1;
device /dev/drbd0;
meta-disk internal;
on issabel1.security.net.co {
address 20.20.20.10:7789;
}
on issabel2.security.net.co {
address 20.20.20.20:7789;
}
}

Creamos el recuros

drbdadm create-md drbd0

arrancamos el servicio

drbdadm up drbd0

drbdadm primary --force drbd0

Una vez terminado formateamos el recuros compartido

mkfs.xfs /dev/drbd0

Creamos el directorio a donde se va a montar la particion compartida

mkdir /datos

Bajamos los servicios para que no arranque con el servidor

systemctl stop httpd.service
systemctl stop asterisk.service
systemctl stop dahdi.service
systemctl stop issabel-portknock.service
systemctl stop issabel-updaterd.service
systemctl stop hylafax.service
systemctl stop iaxmodem.service
systemctl stop mariadb.service

systemctl disable httpd.service
systemctl disable asterisk.service
systemctl disable dahdi.service
systemctl disable issabel-portknock.service
systemctl disable issabel-updaterd.service
systemctl disable hylafax.service
systemctl disable iaxmodem.service
systemctl disable mariadb.service

creamos el password para el usuario hacluster

echo P@ssw0rd1 | passwd --stdin hacluster

arrancamos el servicio

systemctl start pcsd

autenticamos en los dos servidores

pcs cluster auth issabel1 issabel2 -u hacluster -p P@ssw0rd1

Creamos el closter con el nombre asterisk_drbd. crea el archivo /etc/corosync/corosync.conf. con la configuracion necesaria del cluster

pcs cluster setup --name asterisk_drbd issabel1 issabel2

arrancamos los nodos de cluster

pcs cluster start --all

corosync-cfgtool -s

revisamos que esten conectados los dos servidores y nos da la informacion del grupo

pcs status corosync

revisamos si tenemos errores en el cluster

crm_verify -L -V

como vamos a tener activo/pasivo, desahanilitamos la propieda STONITH, para que no compartan la ip virtual al mismo tiempo

pcs property set stonith-enabled=false

Como solo tenemos dos nodos, le decimos que ignore el umbral de nodos

pcs property set no-quorum-policy=ignore

Creamos la ip virtual, que es la que se va compartir entre los dos servidores

pcs resource create virtual_ip ocfIPaddr2 ip=201.0.100.183 cidr_netmask=24 nic=eth0:1 op monitor interval=10s

Creamos el monitoreo del servidor http

pcs resource create webserver ocfapache configfile=/etc/httpd/conf/httpd.conf statusurl="http://localhost/server-status" op monitor interval=20s

asignar la ip virtual y el servicio http al nodo que este activo

pcs constraint colocation add webserver virtual_ip INFINITY

Orden de arranque de los servicios

pcs constraint order virtual_ip then webserver

Lo recursos deben estar en la maquina principal

pcs constraint location virtual_ip prefers issabel1=50
pcs constraint location webserver prefers issabel1=50

el resto por defaults

pcs resource defaults resource-stickiness=100
pcs resource defaults

Creamos el monitoreo de la data drbd

pcs resource create webserver_data ocf:linbit:drbd drbd_resource=drbd0 op monitor interval=10s

Creamos el marter / esclavo en los nodos

pcs resource master webserver_data_sync webserver_data master-max=1 master-node-max=1 clone-max=2 clone-node-max=1 notify=true

Creamos el monitoreo donde se debe montar la data del drbd

pcs resource create webserver_fs Filesystem device="/dev/drbd0" directory="/datos" fstype="xfs"

Vamos al diretorio en donde se comparte los datos y creamos una copia

cd /datos
amportal chown

tar -zcvf etc-asterisk.tgz /etc/asterisk
tar -zxvf etc-asterisk.tgz

tar -zcvf var-lib-asterisk.tgz /var/lib/asterisk/
tar -zxvf var-lib-asterisk.tgz

tar -zcvf usr-lib64-asterisk.tgz /usr/lib64/asterisk/
tar -zxvf usr-lib64-asterisk.tgz

tar -zcvf var-spool-asterisk.tgz /var/spool/asterisk/
tar -zxvf var-spool-asterisk.tgz

tar -zcvf var-lib-mysql.tgz /var/lib/mysql/
tar -zxvf var-lib-mysql.tgz

tar -zcvf var-log-asterisk.tgz /var/log/asterisk/
tar -zxvf var-log-asterisk.tgz

tar -zcvf var-www.tgz /var/www/
tar -zxvf var-www.tgz

cd /root/

Descargamos el agente drbdlink

git clone https://github.com/linsomniac/drbdlinks.git

entramos al directorio drbdlinks y copiamos el agente

cd drbdlinks/

cp -vr drbdlinks /usr/lib/ocf/resource.d/heartbeat/

revisamos que este el agente

pcs resource agents ocf:heartbeat | grep drbdlinks

damos permios

chmod +x /usr/lib/ocf/resource.d/heartbeat/drbdlinks

editamos vim /etc/drbdlinks.conf y agregamos al final las siguientes lineas

mountpoint('/datos')
link('/etc/asterisk/')
link('/var/lib/asterisk')
link('/usr/lib64/asterisk/')
link('/var/spool/asterisk/')
link('/var/lib/mysql/')
link('/var/log/asterisk/')
link('/var/www/')

Bajamos el agente para asterisk

wget https://raw.githubusercontent.com/ClusterLabs/resource-agents/master/heartbeat/asterisk -O /usr/lib/ocf/resource.d/heartbeat/asterisk

Le damos permisos

chmod +x /usr/lib/ocf/resource.d/heartbeat/asterisk

creamos el monitor de drbdlinks

pcs resource create drbdlinks ocfdrbdlinks op monitor interval=20s

creamos el monitor del maridb

pcs resource create mysql ocfmysql op monitor interval=10s

Creamos el monitor del asterisk

pcs resource create asterisk ocfasterisk params user="root" group="root" op monitor timeout="30"

pcs constraint colocation add webserver webserver_fs INFINITY

pcs constraint colocation add webserver drbdlinks INFINITY

pcs constraint colocation add webserver asterisk INFINITY

pcs constraint colocation add webserver mysql INFINITY

pcs constraint colocation add webserver_fs webserver_data_sync INFINITY with-rsc-role=Master

pcs constraint order promote webserver_data_sync then start webserver_fs

pcs constraint order webserver_fs then webserver

pcs constraint order webserver_fs then drbdlinks

pcs constraint order webserver_fs then mysql

pcs constraint order drbdlinks then asterisk

pcs constraint location webserver_data_sync prefers issabel1=50
pcs constraint location webserver_fs prefers issabel1=50
pcs constraint location drbdlinks prefers issabel1=50
pcs constraint location mysql prefers issabel1=50
pcs constraint location asterisk prefers issabel1=50

setsebool daemons_enable_cluster_mode=1

systemctl enable corosync
systemctl enable pacemaker
systemctl enable pcsd

raul1617

JavierRodriguezGarzon Gracias Javier revisare lo que me comentas gracias por tu tiempo Saludos. desde Perú.

Rquesada

JavierRodriguezGarzon hola javier, he tratado de contactarte por vario medios, estoy tratando de crear un cluster pero tengo el problema que la version de DRBD que esa en los REPO, no es compatible con la ultima version de issabel con asterisk 11 y call center, no se si me puede ayudar ??

RiveraPer

Gracias Javier.
Lo probare el fin de semana.

gaffasoft

Gracias Javier por tu información, yo realice el HA con el siguiente pdf:
http://www.silcom.com.pe/papers/paper_Alta_Disponibilidad_con_Issabel-PBX.pdf

RiveraPer

Gracias, lo intentare a partir del PDF ya que lo intente con las instrucciones anteriores y el vídeo y me rompió los dos equipos.

JavierRodriguezGarzon

??? que le paso???

RiveraPer

JavierRodriguezGarzon Nada grabe, fue en equipos de prueba y me equivoque en la partición del drbd.

gaffasoft

El pdf que comparti tiene un solo error en el punto 11, donde dice pcs resource create Httpd apache *, reemplazar por pcs resource create Httpd ocfapache.

milton

gaffasoft
En esa línea solo quedaría:

pcs resource create Httpd ocfapache.

pcs resource createHttpd ocfapache configfile="/etc/httpd/conf/httpd.conf" statusurl="http://127.0.0.1/server-status"

gracias.

RiveraPer

Bueno ya lo probé y el funcionamiento es muy bueno. Eso si, me lo volví a cargar con temas de seguridad.
Por cierto, esto supone un problema para Fail2ban. Al arrancar el servidor secundario y no montar la partición drbd, no tiene los ficheros de asterisk, por lo que fail2ban no arranca. Al pasar este servidor secundario a principal, el servicio fail2ban esa parado por este error.
Seria necesario incluir fail2ban en el servicio HA, es decir, arrancarlo no en inicio si no después de montar la partición drbd.

JavierRodriguezGarzon

en lo servidores que he instalado, no dejo habilitado el Fail2ban, pero voy a revisar para que sea un servicio mas dentro de las configuración del drbd

RiveraPer

JavierRodriguezGarzon Te lo agradezco.

RiveraPer

Una pregunta, ¿es necesario implementar el servicio httpd en drbd?

JavierRodriguezGarzon

no entiendo bien la pregunta, pero el servicio apache debe de estar corriendo en el servidor master, y detenido en el esclavo, lo mismo que lo servicios de asteris

RiveraPer

Hola, tengo ya funcionando la configuración HA y en principio la comutacion la raeliza bien, pero no me permite hacer llamadas.
rejected because extension not found in context 'from-internal.
He buscado este error y me encuentro esto:
This failure must have happend during a cluster failover, we had some network issue where the nodes swapped roles. Although this shouldn't corrupt /etc/asterisk/extensions_additonal.conf.

JavierRodriguezGarzon

reviso permisos?? en los directorios??

RiveraPer

JavierRodriguezGarzon Si, los permisos estaban bien. Al final restaure un backup de otra maquina lo cual también crea problemas ya que vuelve a crear el directorio /etc/asterisk y quita el enlace simbólico. Copie de nuevo la carpeta /etc/asterisk al directorio del drbd, borre /etc/asterisk y cree el enlace simbólico.
Con esto me funciona casi todo bien, digo casi todo por que el fax de lssabel deja de funcionar cada vez que cambia de maestro a esclavo y viceversa. Hay que entrar en la configuración de fax, editar y grabar para que funcione de nuevo.

RiveraPer

También falla el backup, no realiza backup de los directorios de la partición drbd. Es decir, no hace backup de /etc/asterisk/

JavierRodriguezGarzon

Seria bueno que definamos que errores tenemos, para realizar las pruebas respectivas. dime como lo esta realizando, para poder hacer el laboratorio en las maquinas virtuales que tengo

RiveraPer

JavierRodriguezGarzon La instalación la realice instalando Centos 7 minimal y Issabel con wget.
La instalación de HA la realice siguiendo el PDF http://www.silcom.com.pe/papers/paper_Alta_Disponibilidad_con_Issabel-PBX.pdf
La partición drdb esta montado en un segundo disco duro (sdb).
Todo esto prácticamente sin problemas.
Los problemas que detecto son:
- El backup de Issabel no realiza el backup del directorio /etc/asterisk (fundamental)
- Al restaurar un backup de Issabel, el directorio /etc/asterisk no se restaura en la partición drbd del disco sdb en mi caso, sino que lo deja en su directorio original (disco sda).
- Fail2ban no se carga en la maquina esclava si la principal falla, seria necesario cargarlo como recurso después de haber montado la partición drbd para que pueda ver los ficheros de log.
Otro tema es que si arrancas el servidor principal sin arrancar el secundario casi al mismo tiempo, después no encuentra el secundario quedando el drbd-overview como primario/unknown en el pricipal y secundario/unknown en el esclavo.