Archive for November, 2009

Weekly Snap: MySQL to XML, OSDC and DWTV

weekly snapNov 23-27 closed the month with a few acronyms. From MySQL to XML conversions, to an OSDC Call for Papers and an innovative distributed monitoring project at Deutsche Welle.

For those who’ve been scouring the net for scripts to convert MySQL tables into XML, Bernd E demonstrated two methods within MySQL itself. Option -xml/-X and a simple mysql dump do the trick and have been available at least since version 4.

Christian F then brought the spotlight onto the next Open Source Data Center Conference. Planned for the 26th to 27th May 2010, he made an OSDC Call for Papers covering clustering and high availability, load balancing, security and firewalls, monitoring, change and configuration management. For those who these terms ring bells, we look forward to hearing from you. Find out more at www.netways.de/osdc.

Twitter Weekly Updates for 2009-11-29

  • Heute ist NETWAYS-Bowlingabend! http://yfrog.com/4ixinj #
  • Die brauchen hier dringend eine Monitoring Lösung. http://yfrog.com/3nprpwj #
  • Open Source Meets Business im Januar 2010 fällt aus und geht in einer neuen Veranstaltung auf. #osmb #
  • Wir suchen einen Developer und Unterstützung im sekretariat. Unabhängig voneinander :-) #
  • @ndrsfnk Wir suchen jemand für Projekte und die Erweiterung unseres Portfolios. Daher nur in Festanstellung. in reply to ndrsfnk #

Project of the month: Centrally controlled yet independent distributed monitoring

November 2009: Offering media services in over 30 languages, the internationally acclaimed Deutsche Welle was seeking to monitor their equally diverse IT. Large and distributed across two offices in Bonn and Berlin, the broadcaster needed to consolidate their disparate monitoring activities into one enterprise system. A central overview was essential, as was exceptionally high availability. Deutsche Welle offered NETWAYS the opportunity to suggest a solution- and an innovative one was proudly delivered.

Since monitoring needed to be self sufficient at each location while being centrally accessible, the consulting team designed a multiple redundant system. Two monitoring clusters were implemented in each city and integrated by a single MySQL cluster. In a master/master failover, each database was also physically located in their respective city. This amounted to two physical Nagios servers and one database at each office, which could operate independently if ever a break in connection were to occur. Furthermore, two physical Nagios servers at each location gave additional guarantee of constant availability. By using the MySQL cluster as a kind of interchange hub, monitoring was centralised without compromising operational independence.
DeutscheWelle distributed monitoring 300x154 Project of the month: Centrally controlled yet independent distributed monitoring
Upon implementation, an array of Nagios addons and plugins were also employed. From NSClient++, SNMPTT and NagVis to EventDB, NagiosGrapher and Business Process Addon, Deutsche Welle was fully equipped by the end of the project. All that is left is a few days training to equip the staff with the skills for a similar operational independence.

Open Source Data Center Conference 2010 – Call for Papers gestartet

Green Field Very big

Bereits zum zweitem Mal findet in Nürnberg vom 26. – 27. Mai 2010 die Open Source Datacenter Conference statt. Die Konferenz zum Einsatz von Open Source Lösungen in Rechenzentren und großen IT-Umgebungen konnte bereits bei der Premiere im April 2009 über 80 begeisterte Anwender und Referenten nach Nürnberg locken. Auch für 2010 werden wieder viele interessante Sprecher und spannende Themen erwartet. Die Konferenz, die 2010 im Holiday Inn Hotel Nürnberg City stattfinden wird, richtet sich vornehmlich an erfahrene Administratoren und Architekten und ist auf folgende Themenfelder ausgerichtet:

  • Cluster & Hochverfügbarkeit
  • Loadbalancing
  • Security & Firewalls
  • Monitoring
  • Change & Configuration Management

Um ein möglichst vielfältiges Vortragsprogramm zu schaffen haben wir bereits vor einigen Tagen den Call for Papers offiziell gestartet. Wer einen Beitrag zur OSDC 2010 leisten möchte findet auf der Konferenzwebsite http://www.netways.de/osdc alle nötigen Informationen zum Einreichen eines Vorschlags.

MySQL Daten nach XML exportieren

Immer wieder findet man in Foren und verschiedenen Websites kleine Scripts, die eine MySQL-Tabelle in XML konvertieren. Bereits seit frühen 4er Versionen bietet MySQL dafür die Option –xml/ -X an, welche Ergebnisse der übergebenen Select-Anweisungen in standardkonforme XML-Dateien verwandelt, welche für viele Bedürfnisse ausreichen dürften.

Ein Beispiel:

mysql --xml -e "select alias, display_name, address from nagios.nagios_hosts limit 1,2"

gibt folgendes Ergebnis:

<?xml version="1.0"?>

<resultset statement="select alias, display_name, address from nagios.nagios_hosts limit 1,2
" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance">
  <row>
	<field name="alias">Business Processe</field>
	<field name="display_name">business_processes</field>
	<field name="address">10.6.255.99             # dummy IP</field>
  </row>

  <row>
	<field name="alias">untergeordnete Business Processe</field>
	<field name="display_name">business_processes_detail</field>
	<field name="address">10.6.255.99             # dummy IP</field>
  </row>
</resultset>

Auch mysqldump unterstützt die Ausgabe in XML, exportiert die Informationen jedoch aufgabengemäß in zusätzlichen Elementen mit Datenbank- und Tabelleninformationen.

Ein Beispiel:

mysqldump nagios nagios_dbversion --xml

gibt folgendes Ergebnis:

<?xml version="1.0"?>
<mysqldump xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance">
<database name="nagios">
	<table_structure name="nagios_dbversion">
		<field Field="name" Type="varchar(10)" Null="NO" Key="" Default="" Extra="" />
		<field Field="version" Type="varchar(10)" Null="NO" Key="" Default="" Extra="" />
		<options Name="nagios_dbversion" Engine="InnoDB" Version="10" Row_format="Compact" Rows="1" Avg_row_length="16384" Data_length="16384" Max_data_length="0" Index_length="0" Data_free="0" Create_time="2009-09-11 12:04:09" Collation="latin1_swedish_ci" Create_options="" Comment="InnoDB free: 11264 kB" />
	</table_structure>
	<table_data name="nagios_dbversion">
	<row>
		<field name="name">ndoutils</field>
		<field name="version">1.4b7</field>
	</row>
	</table_data>
</database>
</mysqldump>

Weekly Snap: Sesam checks, Sidmach visits and HWG-STE

weekly snapNov 16-20 was a busy week on the blog, with Open Source Expo impressions, new tools, plugins and hardware and a visit from new clients from abroad.

To start, Bernd reported back from the Open Source Expo in Karlsruhe where he represented Icinga. He gave us a peek into the concurrent International PHP Conference with a presentation by Zend developer Ralph Schindler on “PHP in a Cloud”.

William followed with yet another plug-in release – check_sepsesam to monitor SEP’s back up system, Sesam. The plugin can be queried via SSH and NRPE, filters recent backup task by hosts and tasks for analysis, and enables hosts and task lists to be specified such as timeframe restrictions in configuring multi-line outputs. Check it out and download at www.netways.org and www.monitoringexchange.org.

On the topic of development, we looked at Myterm for the querying, filtering and charting MySQL data, while Martin K introduced his latest handy hardware. The HWG-STE network thermometer by the HW group monitors temperature and humidity for server rooms and data centre racks. With email alerts, SNMP functionality and an easy to use web frontend for configuration, Martin recommended it as an environmental monitoring base, tipping off a demo site for those interested to test.

Moving onto Hosting & Managed Services, Stefan G introduced himself and his work. As our System Engineer responsible for the mammoth StayFriends system, his highlights range from server migration of the 3 digit calibre to large scale VoIP and firewall construction for the ever growing social networking platform.

From the same sphere, Peter thanked Sidmach Technologies for their recent visit- our newest Hosting & Managed Services client. Mike Olajide, Chijioke Eke and Lawal Mudashir came to inspect the data centre and see their new server in action, which we host for their student registration portal. With lesser guarantee of stable infrastructure or reliable broadband speeds in their company base of Nigeria, Sidmach made the decision to ensure high availability by outsourcing to us in Germany. Tech talk aside, Peter also introduced Mike, Chijioke and Lawal to classic franconian fare in form of “Schäufele”, making for a great visit all in all. Now we’re already looking forward to the next.

SidmachRZ31 300x181 Weekly Snap: Sesam checks, Sidmach visits and HWG STE

Twitter Weekly Updates for 2009-11-22

NETWAYS stellt sich vor – Stefan Gundel

sgundel NETWAYS stellt sich vor   Stefan GundelName: Stefan Gundel

Alter: 41

Position bei NETWAYS: System Engineer

Was genau gehört zu Deinem Aufgabenbereich bei NETWAYS?

Bei NETWAYS bin ich als Systems Engineer ausschließlich für die intensive Betreuung unseres langjährigen Kunden StayFriends zuständig. Hier kümmere ich mich als Mitglied im StayFriends Operations-Team um alle Belange, die im laufenden Betrieb anfallen, vor allem um den reibungslosen Betrieb der internen Systeme. Zudem kümmere ich mich bei Skalierung der Systeme um die Hardwarebeschaffung im Einklang mit der Release Planung.

Welche großen Projekte und besonderen Herausforderungen hast Du hier bereits bewältigt?

Mein größtes Projekt bei NETWAYS war mit Sicherheit der Umzug der Server von StayFriends. Damals musste eine dreistellige Zahl von Servern, Switches, diverse Firewalls und Loadbalancer im laufenden Betrieb umgezogen werden, so dass die Millionen von Nutzern nichts vom Umzug mitbekamen. Der gesamte Umzug hat über ein drei viertel Jahr gedauert und war für mich ein wahres Mammutprojekt.

An welchen Projekten arbeitest Du gerade?

Momentan arbeite ich daran, die bestehende Firewall-Infrastruktur anzupassen und mit starken Servern für die Zukunft zu rüsten. Dabei richte ich gerade zwei neue leistungsfähigere Firewall-Server ein. Das Planen und anschließende Testen der neuen Firewalls ist sehr zeitintensiv und benötigt meine volle Aufmerksamkeit.

Welche größeren oder besonders interessanten Projekte stehen zukünftig an?

In naher Zukunft werde ich mithelfen, verschiedene interne Systeme zur VOIP-Kommunikation oder Issue Tracking sowie das firmeninterne Wiki redundant auszulegen, so dass die wichtigsten Kommunikationsmittel ausfallsicher bleiben. Bei einem internationalen Kunden wie StayFriends, dessen Mitarbeiter über mehrere Kontinente verteilt sind, ist eine reibungslose Kommunikationsmöglichkeit von immenser Wichtigkeit.

Was macht Dir an Deiner Arbeit am meisten Spaß?

Am meisten Spaß macht mir mit Sicherheit, an einem der größten sozialen Netzwerke weltweit mitzuarbeiten und bei dessen Wachstum sowohl mitzuarbeiten als auch die Ressourcen dafür zu schaffen. Durch den schnellen Mitgliederzuwachs muss ich zudem immer flexibel sein und schnell reagieren können, was keinen Tag langweilig werden lässt.

Welche Technologie oder Entwicklung der letzten Jahre ist Deiner Meinung nach die wichtigste, bzw. herausragendste im Bereich Open Source?

Die meiner Meinung nach wichtigste Entwicklung im Bereich von Open Source Software ist der Sprung von Linux als Nischen-Betriebsystem zu einer vollwertigen Desktop-Suite. Mittlerweile gibt es für Linux jede erdenkliche Anwendung, die es auch bei proprietärer Software gibt, so dass man bei seiner Arbeit unter Linux auf nichts mehr verzichten muss.

Wie geht es in Zukunft bei Dir weiter?

Nachdem ich bei NETWAYS mittlerweile die Prüfung für LPIC 1 und LPIC 2 machen durfte und diese auch erfolgreich beendet habe steht für mich auf jeden Fall die Prüfung für LPIC 3 auf meiner persönlichen Agenda. Ansonsten hoffe ich, noch viele spannende Stunden mit StayFriends verbringen zu können.

HW group HWg-STE: Netzwerkthermometer

HWg STE IP SNMP Thermometer 800 300x265 HW group HWg STE: NetzwerkthermometerDie HW group hat ein Einstiegsgerät für die Temperaturüberwachung von Serverräumen und einzelnen Racks in Rechenzentren entwickelt – das HW group HWg-STE. Das Gerät hat einen Netzwerkanschluss für die Integration in das bestehende Netzwerk und die Abfrage der Daten und zwei Anschlüsse für Temperatur- und Luftfeuchtigkeitssensoren. Das HWg-STE kann bei Über- oder Unterschreitung von im Gerät definierten Schwellwerten per Email alarmieren. Weiterhin kann man die Messdaten per SNMP vom Gerät ablesen.

Die komplette Konfiguration geschieht über das Webfrontend, wobei man auch die SNMP-MIBS direkt im Webfrontend herunterladen kann. Im Lieferumfang ist ein Temperatursensor, das Netzteil und eine CD inkl. einer Software für Windows enthalten. Diese Software kann die Messdaten aus dem HWg-STE speichern und nach MS-Excel exportieren. Somit kann man eine Basisüberwachung der Umweltparameter in seinem Serverraum sicherstellen.

Hier sehen Sie die Funktionsweise nochmals bildlich dargestellt:

HWg STE Thermometer icons HW group HWg STE: Netzwerkthermometer

Folgende Sensoren sind für das HWg-STE verfügbar:

Weiterhin kann das Gerät per SNMP oder mit dem von uns entwickelten Nagios Plugin problemlos in Nagios integriert werden. Weiter Informationen finden Sie bei uns im Shop. Ein Demo des Webfrontends können Sie hier einsehen.

MySQL command console – Myterm

We’ve  found a new project that was launched just this month called Myterm. An extensible command line client with pipe chaining, Myterm is an alternative tool for querying, filtering and graphical representation of MySQL data.

A clean and simple model, a Myterm command chain starts with a command (normally a query) which returns with a set of results that is sent through a chain of bash filters eg. awk, grep, sort. Myterm then uses libchart to generate graphics of the final data, which are sent to a destination such as a file or browser.

Myterm’s structure is based largely on a plugin concept, where for example, it uses shell exec for browser integration. In this sense it can act as a kind of nucleus where multiple tools can be connected for backup, data transfer, monitoring and more.

Myterm is definitely worth a look, for developers interested in good ideas and administrators who want a quick overview of their database without digging into deep MySQL knowledge.

By applying Unix commands to MySQL, Myterm approaches database querying from a totally different perspective – and that’s why we like it.

Check out the project on Launchpad at https://launchpad.net/myterm.