Block Storage Performance unter Ceph: Excelero and Mellanox bei teuto.net im Einsatz

München, Starnberg, 07. Juni 2018 - Verbesserte Speicherleistung für OpenStack Cloud; Ein Zehntel der I/O-Latenzzeit von Ceph Blockstorage über alle VM-Schichten hinweg ...

Zum Hintergrund: Excelero, ein Start-Up im Bereich Software-Defined Block Storage (distributed block layer zum pooling von storage Ressourcen über nvme over fabrics), gab den Einsatz seines NVMesh™ Server-SAN in Kombination mit Mellanox SN2100 Switches bei dem Unternehmen teuto.net bekannt. Demnach erzielt der Anbieter von öffentlichen und privaten OpenStack Clouds nach vorliegenden Angaben eine außergewöhnliche Performance für seine Blockstorage-Umgebung bei sehr geringen Latenzzeiten.

Anwender benötigen für anspruchsvolle Datenbanken zwischenzeitlich eine immer höhere Speicherleistung; Ceph weist jedoch bei high-peformance, low-latency apps hier I/O-seitig Defizite auf. Aufgrund seines Designs hat Ceph nach Excelero üblicherweise Latenzzeiten von bis zu 2,5 Millisekunden, was sich negativ auf die IOPS auswirken kann. Die I/O-Latenzzeiten der Excelero Lösung NVMesh dagegen betragen ca. 250 Mikrosekunden, laut Anbieter über alle Schichten der virtuellen Maschine hinweg. teuto.net konnte nach diesen Angaben mit NVMesh gegenüber Standard CEPH eine Performancesteigerung um 2.000 % und eine 10-fache Reduzierung der I/O-Latenzzeiten erreichen und dabei auf den Einsatz kostspieliger und weniger skalierbarer Appliances verzichten.

Betreiberkommentar von Burkhard Noltensmeier, CEO bei teuto.net.: „Unsere teutoStack Public Cloud beruhte bereits auf Ceph. Wir kennen also die vielfältigen Vorteile der Lösung – und ihre Grenzen. Ceph ist für die meisten Anwendungen ausreichend robust, skalierbar und schnell. Bei Workloads mit geringen Latenzen lässt die Performance aber zu wünschen übrig. Nachdem wir unsere teutoStack Public Cloud auf Excelero und Mellanox migriert haben und auf eine optimierte, robuste und automatisierte Linux-Installation setzen, erreichen wir eine atemberaubende Performance. Wichtiger ist jedoch, dass wir nun ideal für die wachsende Nachfrage in den Bereichen Analytik, maschinelles Lernen und künstliche Intelligenz positioniert sind, deren anspruchsvolle Datenbanken einen entsprechend leistungsstarken Speicher erfordern.“

Nachdem teuto.net sich über NVMf-Optionen (NVMe over Fabrics) informiert hatte, testete das Unternehmen Speicherlösungen, die auf iSCSI-Appliances beruhen. Letztendlich fiel die Entscheidung gegen sie, da sie ein nahtloses Wachstum einschränken und kostenintensiv sind; andere Kriterien betrafen die fehlende NVMf-Unterstützung sowie hohe Kosten. Da Excelero eine reine Hardware-unabhängige Software ist und eine erfolgreiche und intensive Partnerschaft mit dem Systemintegrator Boston Limited und mit Mellanox hat, entschied sich teuto.net, diese Lösung zu testen.

  • Die kombinierte Excelero -Mellanox Lösung liefert eine Performance von 8000 IOPS pro virtuelle Maschine – mit Ceph sind es laut Entwicklerangabe rund 400 IOPS.

  • Die teutoStack Cloud nutzt Excelero auf SuperMicro Servern von Boston Limited mit Mellanox ConnectX-4 und ConnectX-5 NICs Adapterkarten mit 2x25Gb Ethernetverbindungen zu jedem Client-Node.

  • Das Management erfolgt via Cinder (block storage service für OpenStack). Da sowohl Mellanox als auch Excelero Ubuntu unterstützen, nutzt teuto.net eine reine Linux-Implementierung zur integrierten Orchestration und Monitoring. Die Mellanox Technologies Switches lassen sich neben den hohen Leistungswerten relativ einfach mit Linux integrieren und sorgen damit eine vereinfachte Automatisierung und Verwaltung des Infrastruktur-Stacks zu reduzierten Betriebskosten (OpEx).


Abb. 1: Schematischer Aufbau einer Server-SAN NVMesh™ Konfiguration (Bildquelle: Excelero)

Zitat Yaniv Romem, CTO und Co-Founder von Excelero (1): „Mit dem schwindenden Interesse an iSCSI für Rechenzentren entsteht eine riesige Nachfrage nach leistungsstarken OpenStack Speichern und nach Hardware-unabhängigen Architekturen. Dennoch gibt es nur wenige Anbieter, die diese Nachfrage befriedigen können. Wir freuen uns, dass Exceleros NVMesh sich in der privaten OpenStack Cloud von teuto.net bewährt hat, und freuen uns auf die Zusammenarbeit mit Mellanox und Boston Limited, um es teuto.net und anderen zu ermöglichen, OpenStack für mehr Märkte attraktiv zu machen“.

(1) Mit Exceleros NVMesh können Kunden verteilte, hochleistungsfähige Server-SAN-Konfigurationen für gemischte Anwendungsworkloads erstellen. Sie profitieren dabei von der Leistung eines lokalen Flash-Speichers mit dem Vorteil der zentralen Speicherung, während gleichzeitig die Bindung an proprietäre Hardware vermieden und die Gesamt-TCO des Speichers gesenkt werden kann. Die Lösung wird laut Entwickler für industrielle Hyperscale-IoT-Dienste, maschinelles Lernen und Simulationsvisualisierung im großen Stil eingesetzt.


Abb. 2: Ethernet Storage Fabric (Bildquelle: Mellanox Technologies)