Comment modifier la rétention des logs des JVMs sous Websphere en utilisant python ?

Premièrement, je lance une recherche sur Google avec les mots clés suivants :

change log file rotation and maximum file size jvm logs websphere

Je vois que cela ne suffit pas car je tombe sur les méthodes manuelles et non les scripts python. Du coup j’enrichis ma recherche :

Setting log file size and rotation for JVM log files websphere jython wsadmin

Super ! Je tombe sur un article qui a l’air de répondre à ma problématique.

# rotateWasLogEPRN.py
# Setup WAS Log file rotations
# for yourserver
#
# Implement:
# ./wsadmin.sh -lang jython -f $FILE_LOCATION/rotateWasLogEPRN.py >> $TO_LOG_FILE
#
# You can add this as you have other scripts in the deployment script
# if you need help please let me know.
#
#

print "Changing the SystemOut & SystemErr log file rotation settings"
var1 = AdminConfig.getid('/Cell:yourcell/Node:yournode/Server:yourserver/')

log = AdminConfig.showAttribute(var1, 'outputStreamRedirect')
log2 = AdminConfig.showAttribute(var1, 'errorStreamRedirect')

AdminConfig.modify(log, '[[rolloverSize 10] [maxNumberOfBackupFiles 5]]')
AdminConfig.modify(log2,'[[rolloverSize 10] [maxNumberOfBackupFiles 5]]')

AdminConfig.save()

print "New SystemOut settings 9-10-08"
AdminConfig.show(log).split("\n")
print "New SystemErr settings 9-10-08"
AdminConfig.show(log2).split("\n")

Je vais l’adapter à mes besoins, car j’ai besoin d’une rotation tous les 5MB et je dois garder 20 fichiers de logs. Cela donne donc :

# rotateWasLogEPRN.py
# Setup WAS Log file rotations
# for yourserver
#
# Implement:
# ./wsadmin.sh -lang jython -f $FILE_LOCATION/rotateWasLogEPRN.py >> $TO_LOG_FILE
#
# You can add this as you have other scripts in the deployment script
# if you need help please let me know.
#
#

print "Changing the SystemOut & SystemErr log file rotation settings"
var1 = AdminConfig.getid('/Cell:yourcell/Node:yournode/Server:yourserver/')

log = AdminConfig.showAttribute(var1, 'outputStreamRedirect')
log2 = AdminConfig.showAttribute(var1, 'errorStreamRedirect')

AdminConfig.modify(log, '[[rolloverSize 5] [maxNumberOfBackupFiles 20]]')
AdminConfig.modify(log2,'[[rolloverSize 5] [maxNumberOfBackupFiles 20]]')

AdminConfig.save()

print "New SystemOut settings 6-12-17"
AdminConfig.show(log).split("\n")
print "New SystemErr settings 6-12-17"
AdminConfig.show(log2).split("\n")

De plus je dois lancer ce script sur 48 JVMs. Il faut donc que je trouve un moyen de faire une boucle en python ou d’encapsuler ça dans du shell, ou encore de créer des fonctions en python. Je vais utiliser la dernière méthode, les fonctions en python. J’ai déjà vu un de mes collègues le faire, cela ne devrait pas être très compliqué.

def rotateWasLog(nodename,servername):
 server_id = getServerByNodeAndName(nodename,servername)
 log = AdminConfig.showAttribute(server_id, 'outputStreamRedirect')
 log2 = AdminConfig.showAttribute(server_id, 'errorStreamRedirect')
 AdminConfig.modify(log, '[[rolloverSize 5] [maxNumberOfBackupFiles 20]]')
 AdminConfig.modify(log2,'[[rolloverSize 5] [maxNumberOfBackupFiles 20]]')

# appel fonction
rotateWasLog('monPremierNode','SERVER01')
rotateWasLog('monPremierNode','SERVER02')

print "New SystemOut settings 6-12-17"
AdminConfig.show(log).split("\n")
print "New SystemErr settings 6-12-17"
AdminConfig.show(log2).split("\n")

AdminConfig.save()
AdminNodeManagement.syncActiveNodes()

Mon script ne fonctionne pas du premier coup, comme d’habitude avec python j’ai des erreurs incompréhensibles :

Traceback (innermost last):
 File "<string>", line 9, in ?
 File "<string>", line 2, in rotateWasLog
NameError: getServerByNodeAndName

Ce que je sais c’est que c’est l’appel à la fonction qui est erroné.

C’est bon, j’ai trouvé, j’avais oublié d’inclure la librairie wsadminlib.py. Donc cela a fonctionné comme prévu. Ci-dessous mon code :

execfile('/xxxx/wsadminlib.py')

def rotateWasLog(nodename,servername):
 server_id = getServerByNodeAndName(nodename,servername)
 log = AdminConfig.showAttribute(server_id, 'outputStreamRedirect')
 log2 = AdminConfig.showAttribute(server_id, 'errorStreamRedirect')
 AdminConfig.modify(log, '[[rolloverSize 5] [maxNumberOfBackupFiles 20]]')
 AdminConfig.modify(log2,'[[rolloverSize 5] [maxNumberOfBackupFiles 20]]')

# appel fonction
rotateWasLog("xxx","xxx")
rotateWasLog("xxx","xxx")

#print "New SystemOut settings 6-12-17"
#AdminConfig.show(log).split("\n")
#print "New SystemErr settings 6-12-17"
#AdminConfig.show(log2).split("\n")

AdminConfig.save()
AdminNodeManagement.syncActiveNodes()

Il ne me reste plus qu’à appeler la même fonction pour toutes mes JVMs.

Source :

Websphere : Sous Linux comment changer un paramètre personnalisé de la JVM

Quand vous avez une JVM, ou encore 2 ou 3, vous pouvez modifier manuellement un paramètre de la JVM sans problème via la console d’admin. Par contre si vous avez des trentaines voire plus de JVM à modifier, autant utiliser un script jython. C’est ce que je cherchais, un moyen d’automatiser et de sécuriser cette modification. En effet, via l’interface graphique de la console d’admin, une JVM est vite oubliée.

J’ai trouvé un script sur le site d’IBM DeveloperWorks, il suffit de lui passer quelques paramètres et le tour est joué.

Procédure :

  1. Vous déposez le script sur le serveur qui héberge le DMGR, la console d’admin.
  2. Vous lancez le script en indiquant bien le login et le mot de passe pour se connecter à la console wsadmin (en ligne de commande)
    • Paramètre possible : all => modifier toutes les JVMs websphere
    • Paramètre myNode:myServer => modifier une JVM d’un noeud précis
    • Paramètre myServer => modifier une JVM précise
  3. Vous vérifiez sur votre console d’admin graphique que la modification a bien été réalisée

Bien sûr vous pouvez englober le script dans un script shell global avec une boucle for ou juste une liste précise des JVMs à modifier.

Source : 

Script addJVMProperty.py sur IBM developerWorks

Récupérer la mémoire utilisée par une JVM sous Websphere 8.5.5 avec wsadmin

Scripting en jython

Si vous avez suivi mes dernières aventures, vous savez que je travaille énormément sur Websphere en ce moment et plus particulièrement sur la partie wsadmin de websphere, à savoir la partie scripting. Mes anciens articles sur websphere.

Coeur du script : la récupération de la valeur de la mémoire utilisée par notre JVM. Pensez à remplacer xxServer par le nom de votre JVM.

perfName = AdminControl.completeObjectName ('type=Perf,process=xxServer,*')
perfOName = AdminControl.makeObjectName (perfName)
sigs = ['javax.management.ObjectName', 'java.lang.Boolean']
jvmName = AdminControl.completeObjectName ('type=JVM,process=xxServer,*')
params = [AdminControl.makeObjectName (jvmName), java.lang.Boolean ('false')]
jvmStats=AdminControl.invoke_jmx (perfOName, 'getStatsObject', params, sigs)
UsedMemory=jvmStats.getStatistic( 'UsedMemory').getCount()
print UsedMemory

Comment appeler ce bout de script ? Il faut appeler le script wsadmin.sh de websphere qui lui, déroulera le script ci-dessus. Les paramètres de wsadmin sont détaillés dans cet article.

#!/bin/bash

"$WAS_ROOT/bin/wsadmin.sh" $ADMIN_OPT -lang jython -f `dirname $0`/usedMemory.py

Ensuite on peut faire une boucle pour afficher la valeur de la mémoire utilisée toutes les 5 secondes, avec en prime la date :

import sys
import time
import re

count=3
while count > 0 :
## MAIN
 perfName = AdminControl.completeObjectName ('type=Perf,process=xxServer,*')
 perfOName = AdminControl.makeObjectName (perfName)
 sigs = ['javax.management.ObjectName', 'java.lang.Boolean']
 jvmName = AdminControl.completeObjectName ('type=JVM,process=xxServer,*')
 params = [AdminControl.makeObjectName (jvmName), java.lang.Boolean ('false')]
 jvmStats=AdminControl.invoke_jmx (perfOName, 'getStatsObject', params, sigs)
 UsedMemory=jvmStats.getStatistic( 'UsedMemory').getCount()
 now = time.localtime(time.time())
 print time.strftime("%d/%m/%y %H:%M:%S", now),";",UsedMemory
 time.sleep(5)

Sources : 

Python : Date et parsing de texte

Programmation en python

Pour les besoins d’un script en python, j’ai besoin de petits bouts de code. En effet, suite à mon article sur websphere, j’ai besoin de parser des résultats et de les stocker dans un fichier texte. On va voir ensemble comment procéder.

Récupération de la date du jour :

import time
# Obtenir l'heure et la date locale
now = time.localtime(time.time())

print time.strftime("%y/%m/%d %H:%M", now)
date en python

ça affiche :

16/09/09 09:07

Ensuite, ce que je veux faire, c’est parser la ligne ci-dessous et récupérer uniquement la valeur de UsedMemory :

jvmRuntimeModule | HeapSize=524288;;;; FreeMemory=205940;;;; UsedMemory=318347;;;; UpTime=1356524;;;; ProcessCpuUsage=0;;;;

Je vous rappelle comme j’avais fait en ksh pour parser :

cat resultat | grep UsedMemory | awk -F"=" ' { print $4 }' | awk -F";" ' { print $1 }'
Parsing en ksh

On va décomposer étape par étape, je vais commencer par utiliser la commande split et lui indiquer divers séparateurs. Je l’avais déjà utilisé lors d’un précédent article, mais bon, ça fait déjà 4 ans et demi !

import re

example = "jvmRuntimeModule | HeapSize=524288;;;; FreeMemory=205940;;;; UsedMemory=318347;;;; UpTime=1356524;;;; ProcessCpuUsage=0;;;;"

parts = example.split()
print parts[4]
other = parts[4].split('=')
print other[1]
fin = other[1].split(';')
print fin[0]
parsing step by step

Voilà le résultat :

UsedMemory=318347;;;;
318347;;;;
318347

Optimisation de code

C’est un code qui fonctionne, me direz-vous, mais peut-on faire ça en deux lignes au lieu de trois ?

import re

example = "jvmRuntimeModule | HeapSize=524288;;;; FreeMemory=205940;;;; UsedMemory=318347;;;; UpTime=1356524;;;; ProcessCpuUsage=0;;;;"

partie = example.split(';')
print partie[8]
valeur = partie[8].split('=')
print valeur[1]

Résultat :

 UsedMemory=318347
318347

Il faut tout de même que je teste la présence de UsedMemory :

import re

example = "jvmRuntimeModule | HeapSize=524288;;;; FreeMemory=205940;;;; UsedMemory=318347;;;; UpTime=1356524;;;; ProcessCpuUsage=0;;;;"
if "UsedMemory" in example:
 partie = example.split(';')
 print partie[8].split('=')[1]

Si on revient à mon code initial, il faut que j’écrive sur la même ligne la date et la valeur d’UsedMemory. Pour l’instant, le code ci-dessous ne fonctionne pas !

for stat in statsList:
  if "UsedMemory" in str(stat):
   now = time.localtime(time.time())
   partie = stat.split(';')
   print time.strftime("%d/%m/%y %H:%M", now) , partie[8].split('=')[1]
   time.sleep(5)
Belle erreur python !

 

Traceback (innermost last):
  File "<string>", line 64, in ?
TypeError: string member test needs char left operand

Recherche Google

Du coup, je fais une petite recherche sur Google et je tombe sur l’excellent site stackoverflow. Je rajoute au passage un séparateur ; entre mes différents champs, ce qui me génèrera du « pseudo csv ».

for stat in statsList:
  if stat.find('UsedMemory=') >= 0:
   now = time.localtime(time.time())
   partie = stat.split(';')
   print time.strftime("%d/%m/%y %H:%M", now),";",partie[8].split('=')[1]
   time.sleep(5)

Résultat :

09/09/16 10:29 ; 383886
09/09/16 10:29 ; 383886
09/09/16 10:29 ; 385079
...
09/09/16 10:31 ; 396919
09/09/16 10:31 ; 396919
09/09/16 10:31 ; 398375
09/09/16 10:31 ; 396919

Pour la partie écriture dans un fichier de logs, pour l’instant je vais utiliser ksh :)

Sources : 

Mes questions sur stackoverflow au sujet de websphere et du monitoring

J’ai besoin de votre aide au sujet de websphere.

Vous trouverez ci-dessous mes questions postées aussi sur stackoverflow.

Monitoring : Tivoli performance viewer embedded on websphere 8.5.5 has stopped few minutes after

Websphere, perfservlet and nagios

En ce moment j’ai deux problèmes majeurs :

  • trouver un bout de script permettant d’intégrer le monitoring généré via le performance monitoring infrastructure (PMI) à nagios

example perfservlet

  • faire en sorte que le monitoring natif à websphere ne s’arrête pas au bout de quelques minutes, ce monitoring est fait via le tivoli performance viewer. de plus en cliquant sur le bouton « start logging », cela génère un log contenant toutes les données remontées.

example of 15 minutes monitoring

Merci de votre aide,

En attendant de trouver la solution, j’utilise wsadmin et le langage jython, comme mon collègue me l’a expliqué. Mon script jython recherche les informations demandées, à savoir les données PMI de jvmRuntimeModule :

jvmRuntimeModule | HeapSize=4194304;;;; FreeMemory=1760605;;;; UsedMemory=2433698;;;; UpTime=1273611;;;; ProcessCpuUsage=0;;;;

Ensuite, j'utilise mes connaissances ! Je parse avec mon bon vieux langage ksh sous Linux pour récupérér uniquement ce que je désire (usedMemory). Enfin je stockerai tout ça dans un fichier csv, avec date et valeur. Du coup, je pourrai intégrer le résultat en crontab pour mes tests persos. Et si jamais je n'ai pas encore trouvé la solution, je balancerai le tout dans un fichier pour mes collègues de Nagios ;)  Ce n'est pas du beau code mais ça fonctionne !

Merci jython, merci ksh, merci Linux :)

Coeur du code (sans les tests, les dates, sans les logs …)

/tmp/stats.sh monServer | grep UsedMemory | awk -F"=" ' { print $4 }' | awk -F";" ' { print $1 }'

2433698

Voilà mon bout de code ksh en action :

10:26:02;383439
10:28:01;294015
10:30:03;313819
10:32:03;329456
10:34:02;340116

Mise à jour :

Plus j’avance, plus mes interrogations s’accumulent. Mais le plus important c’est d’avancer vous allez me dire.  Donc en bonus, ci-dessous une nouvelle question postée sur stackoverflow, mon nouvel ami.

How can I launch wsadmin in background on websphere 8.5.5?

Pour résumer, le but maintenant est de pouvoir lancer wsadmin en background, en effet ce process propre à websphere met beaucoup trop de temps à répondre, c’est comme s’il redémarrait à chaque fois…

Mise à jour : 

Une personne sur stackoverflow a répondu à ma question concernant Tivoli Performance viewer et m’a montré comment paramétrer la durée du logging. Je suis trop contente !

parametrage-logging-tivoli-performance-viewer

Mise à jour :

Génial, on a répondu à une autre de mes questions sur stackoverflow, celle concernant wsadmin. En fait il faut, non pas lancer wsadmin x fois, mais lancer n fois le script inclus dans wsadmin. En effet, le but de mon script était de collecter des données PMI. Donc il faut faire une boucle for ou while dans mon script python qui fait la collecte de données PMI. Et intégrer une commande sleep dans le script pour avoir des données toutes les x secondes. Parfait, j’ai testé et ça fonctionne ! Merci stackoverflow ! Ci-dessous un extrait de code :


import sys
import time
from org.python.modules import re
statsList=[]
firstModulesList=["jvmRuntimeModule"]


#....
count=3
while count > 0 :
## MAIN
#...
for stat in statsList:
print stat
time.sleep(30)