Bis zu 8.192 Telemetrie-Elemente kann der OpenTelemetry Collector in einem Export-Batch aufnehmen, bevor er die Daten weiterleitet. Dieser Wert ist ein dokumentierter Standard, keine allgemeine Performance-Empfehlung. Entscheidend ist ohnehin, wie viel CPU, Arbeitsspeicher, Netzwerkbandbreite und Backend-Kapazität eine Observability-Pipeline tatsächlich benötigt.
OpenTelemetry hat sich zu einem zentralen Baustein für Cloud-Native-Observability entwickelt. Das Framework standardisiert APIs, SDKs und Werkzeuge für Metriken, Logs und Traces. Der Preis dieser Standardisierung wird jedoch im großen Maßstab sichtbar. Jeder Span, jedes Attribut und jeder Export verbraucht Rechenzeit, Speicher und Bandbreite. Eine schlecht konfigurierte Telemetrie-Pipeline kann damit selbst zum Performance-Engpass werden.
Der zentrale Gedanke des Beitrags lautet: OpenTelemetry Performance Overhead lässt sich nicht mit einer einzigen Prozentzahl beschreiben. Instrumentierung, Collector, Netzwerk und Speicherung tragen unterschiedlich bei. Wer die Pipeline verstehen, messen und gezielt begrenzen will, erhält mehr Observability bei planbaren Kosten, ohne Datenschutzmechanismen oder die Vollständigkeit von Traces ungeprüft preiszugeben.
OpenTelemetry Performance Overhead entsteht in mehreren Stufen
Der häufigste Fehler besteht darin, ausschließlich das Application SDK als Verursacher zu betrachten. Tatsächlich beginnt die Kostenentstehung bereits bei der Instrumentierung und reicht über die Erzeugung von Spans und Metriken bis zur Verarbeitung im Collector, zum Export und schließlich zur Speicherung im Backend. Der Anwendungscode ist dabei nur ein Teil der Rechnung.
Außerdem hängt der Overhead stark von der jeweiligen Arbeitslast ab. Zwei Anwendungen können dieselben Instrumentierungsbibliotheken verwenden und dennoch völlig unterschiedliche Ergebnisse liefern. Eine hohe Request-Rate, viele Attribute pro Span, ein ungünstiges Laufzeitverhalten oder mehrere Spans pro Anfrage verändern die Last erheblich. Eine pauschale Zahl wäre daher irreführend.
Eine belastbare Analyse betrachtet deshalb mehrere Messgrößen nebeneinander. Dazu gehören CPU-Verbrauch, Speicherbelegung, zusätzliche Anwendungslatenz, Telemetrievolumen und das Verhalten des Collectors unter Last. Wichtig ist außerdem der Zielkonflikt zwischen Anwendungsschutz und diagnostischer Vollständigkeit: Backpressure und Speichergrenzen verhindern Überlastungen, können aber Telemetrie verwerfen.
Das Ziel kann nicht einfach darin bestehen, möglichst wenige Daten zu erzeugen. Es geht darum, nützliche Observability zu bewahren und die operativen Kosten der Telemetrie-Pipeline vorhersehbar zu halten. Wie bei einem Vehrsystem mit festen Grenzen muss auch hier regelmäßig geprüft werden, ob Warnungen ausbleiben oder ob Daten verloren gehen, weil der Schutzmechanismus zu aggressiv greift.
Fünf typische Collector-Konfigurationsprobleme
Für seine Untersuchung verwendet der Autor Telemetrygen, ein OpenTelemetry-Werkzeug zur Erzeugung synthetischer Traces, Metriken und Logs. Damit lässt sich die Konfiguration des Collectors isoliert untersuchen, ohne den zusätzlichen CPU- und Speicherbedarf einer vollständigen Microservice-Landschaft. Der Fokus liegt auf fünf wiederkehrenden Ursachen für unnötigen Overhead.
Der erste Problemkreis betrifft das Batching. Häufige Exporte kleiner Datenmengen führen zu mehr Serialisierungsarbeit, mehr Netzwerkzugriffen und einem höheren Verwaltungsaufwand. Die Sending Queue eines Exporters gruppiert Telemetrie vor dem Weiterleiten. Dadurch werden Exportkosten auf größere Payloads verteilt und Kompression sowie Verbindungsaufbau effizienter. Der frühere eigenständige Batch Processor ist dabei zugunsten der integrierten Batching-Funktionen in Exportern als veraltet gekennzeichnet.
Allerdings sind möglichst große Batches nicht automatisch besser. Sie benötigen mehr Puffer und können die Exportlatenz erhöhen. Ein Batch wird versendet, sobald eine konfigurierte Mindestgröße erreicht oder ein Timeout abgelaufen ist. Im gezeigten Beispiel liegt min_size bei 8.192 Elementen, während flush_timeout nach 200 Millisekunden einen Export auslöst. Diese Werte entsprechen den dokumentierten Collector-Standards, sind aber keine Empfehlung für jede Umgebung.
Besonders wichtig ist die Auswahl des Sizers. In der beschriebenen Architektur können unbatched Daten zunächst in die Queue gelangen. Deshalb wurde der Sizer von der standardmäßigen Zählung nach Requests auf die Zählung nach Items umgestellt und die Queue auf 100.000 Einträge begrenzt. So sollen kleine, unbatched Bursts die Queue nicht unnötig überlaufen lassen. Auch hier lautet die Grundregel: Messen statt Konfigurationswerte kopieren.
Ein zweiter Faktor ist die Zahl der Resource Attributes. Hostname, Architektur und Betriebssystemtyp können für die Fehlersuche wertvoll sein. Detaillierte Angaben wie CPU-Modell oder Größe des L2-Caches liefern dagegen nicht immer zusätzlichen Nutzen. Der Resource Detection Processor erlaubt die gezielte Auswahl relevanter Systemattribute. Weniger Attribute reduzieren Payload-Größen und Verarbeitungsaufwand. Wie stark Speicherung und Kosten im Backend reagieren, hängt allerdings von dessen Implementierung und insbesondere von der entstehenden Kardinalität ab.
Der dritte Hebel ist das Polling der Receiver. Infrastruktur-Receiver sammeln Metriken in konfigurierten Intervallen, unabhängig vom aktuellen Anwendungsverkehr. Ein Abruf von Host-, Container-, Datenbank- oder Netzwerkwerten alle paar Sekunden erzeugt daher kontinuierliche Arbeit. Eine Erhöhung des Intervalls von 10 auf 30 Sekunden kann diesen Anteil senken, wenn die betrieblichen Anforderungen es zulassen.
Der Preis dafür ist eine geringere zeitliche Auflösung. Das passende Intervall hängt davon ab, wie schnell sich ein Messwert verändert und ob er für Alarme oder Troubleshooting verwendet wird. Sampling bildet den vieten zentralen Eingriff. Nicht jeder erfolgreiche Request muss als vollständiger Trace exportiert und gespeichert werden. Head-based Sampling entscheidet früh und reduziert damit die nachgelagerte Arbeit. Tail-based Sampling wartet dagegen auf mehr Informationen über den Trace und kann Fehler oder andere diagnostisch wertvolle Anfragen gezielt behalten.
Im Beispiel entscheidet Tail-based Sampling innerhalb eines Zehn-Sekunden-Fensters. Traces mit dem Status ERROR werden behalten, zusätzlich werden probabilistisch fünf Prozent der Traces ausgewählt. Dadurch können auch weitere Fehler-Traces erhalten bleiben. Der Mechanismus ist jedoch nicht kostenlos: Bis zur Entscheidung müssen Trace-Daten gepuffert werden, was Speicher und Verarbeitung belastet. Die geeignete Strategie balanceiert deshalb Kosten, diagnostischen Nutzen und die für Entscheidungen benötigte Infrastruktur.
Schließlich kann die Positionierung des Memory Limiters entscheidend sein. Der memory_limiter Processor schützt den Collector bei Speicherdruck. Laufen Enrichment- und Transformationsprozesse davor, verarbeitet der Collector unter Umständen Daten, die anschließend wegen akuten Speicherdrucks abgewiesen werden. Ein früher platzierter Memory Limiter kann unnötige Vorarbeit vermeiden.
Der Memory Limiter ist dabei kein Performance-Optimierer im engeren Sinn. Er stabilisiert den Betrieb und reduziert im Normalfall nicht automatisch den CPU-Verbrauch. Er ist auch kein Ersatz für Ressourcenlimits oder Capacity Planning. Wenn die Grenze greift, können Daten verloren gehen; Receiver müssen dieses Verhalten korrekt behandeln. Der Schutzmechanismus sollte deshalb früh genug greifen, ohne die eigentliche Ursache eines überdimensionierten Workloads zu verdecken.
Collector-Konfiguration mit Telemetrygen gezielt messen
Telemetrygen erzeugt synthetische Telemetrie mit kontrollierten Raten. Dadurch lässt sich untersuchen, wie sich einzelne Collector-Einstellungen auf Durchsatz und Ressourcenverbrauch auswirken. Das Werkzeug erzeugt keine perfekte Abbildung einer Produktionsumgebung, schafft aber einen kontrollierten Vergleich zwischen mehreren Konfigurationen.
Der Autor hatte zunächst die offizielle OpenTelemetry Astronomy Shop Anwendung erwogen. Sie bietet viele sinnvolle Ansatzpunkte für die Untersuchung verteilter Instrumentierung. Ihre zahlreichen Anwendungen, Datenbanken und unterstützenden Dienste erzeugen jedoch selbst nennenswerte CPU- und Speicherlast. Für eine Analyse, die primär den Collector betont, wäre dieses Hintergrundrauschen unpraktisch gewesen.
Telemetrygen bildet gewissermaßen den Prüfstand, auf dem nur die untersuchte Komponente arbeitet. Der Autor richtete den Fokus auf fehlendes oder ungeeignetes Batching, unnötige Resource Attributes, aggressives Receiver-Polling, übermäßigen Trace-Export und die Positionierung des Memory Limiters. Zielgerichtete Konfigurationsänderungen machten anschließend Unterschiede in Ressourcenverbrauch und Durchsatz sichtbar.
Für die Untersuchung realer Instrumentierung bleibt eine vollständigere Umgebung wie Astronomy Shop trotzdem relevant. Der synthetische Test deckt ab, was der Collector mit einer vorgegebenen Datenlast macht. Er sagt jedoch nur begrenzt voraus, welchen Overhead konkrete Anwendungen, Laufzeitumgebungen oder fehlerhafte Instrumentierung im Client erzeugen. Beide Perspektiven gehören daher zusammen: kontrollierte Collector-Messungen und realistische End-to-End-Tests.
Von der lokalen Messung zur Produktionsarchitektur
Die Optimierung eines einzelnen Collectors reicht in Kubernetes nicht aus. Anwendungen skalieren, Deployments verändern sich und die Last schwankt. Eine Konfiguration, die unter synthetischem Durchsatz gut funktioniert, kann in Produktion durch Concurrency, Sharding, Netzwerkverzögerungen oder Backend-Drosselung anders beansprucht werden.
Eine zweistufige Architektur trennt deshalb die Sammlung von der zentralen Verarbeitung. Leichtgewichtige Edge Collectors nehmen Daten lokal auf, während Gateway Collectors aufwendigere Transformationen, Routing oder Sampling übernehmen. Beide Ebenen lassen sich entsprechend ihrer jeweiligen Last skalieren. Das ist sinnvoll, weil nicht jeder Knoten dieselbe Verarbeitungskapazität benötigt.
Das Volumen sollte außerdem früh kontrolliert werden. Unnötige Attribute lassen sich filtern, redundante Daten entfernen und übergroße Kardinalität vermeiden. dabei muss jener Kontext erhalten bleiben, den Teams tatsächlich für Debugging und Korrelation benötigen. Zu aggressive Filterung kann zwar Kosten senken, aber die entscheidende Spur einer Fehlerursache entfernen.
Für Speicherdruck und Backend-Ausfälle braucht die Architektur ebenfalls einen klaren Plan. Kubernetes-Memory-Limits, die Schutzmechanismen des Collectors, begrenzte Queues und Retry-Mechanismen erfüllen unterschiedliche Aufgaben. Persistente Queues verbessern die Resilienz bei temporären Backend-Problemen, benötigen aber ebenfalls ausreichend Kapazität und können keine garantierte Zustellung unter allen Fehlerbedingungen bieten.
Auch die Skalierungsstrategie muss dem Signaltyp folgen. Eine horizontale Erhöhung der Collector-Instanzen steigert nicht automatisch die korrekte Verarbeitung zustandsbehafteter Daten. Tail Sampling benötigt die Spans eines Traces typischerweise auf derselben Instanz, um eine gemeinsame Entscheidung treffen zu können. Sharding, Routing und Affinität werden damit zu Architekturfragen, nicht nur zu Kapazitätsfragen.
Instrumentierung bleibt der früheste Optimierungspunkt
Ein erheblicher Teil des Overheads entsteht, bevor Daten den Collector erreichen. Instrumentierung sollte konkrete betriebliche Fragen beantworten, nicht beliebig alles erfassen, weil es technisch möglich ist. Übermäßige Spans, hochkardinale Attribute und unnötige Events vergrößern Payloads und belasten nicht nur den Client, sondern auch Collector und Backend.
Bei Metriken können Attribute mit unbegrenzten Werten besonders problematisch werden. Eine eindeutige Request-ID als Metriklabel erzeugt potenziell für jeden Wert eine eigene Zeitreihe. Das Backend muss viele Series verwalten, während Abfragen und Dashboards an Umfang gewinnen. Bei Traces und Logs erhöhen zusätzliche Attribute und Events dagegen häufig nur die Nutzlast sowie Speicher- oder Indexierungskosten.
Genau hier liegt der größere Hebel. Ein späterer Filter kann Daten immer noch verkleinern, verhindert aber nicht mehr die Erzeugung und Verarbeitung im Client. Die wirksamste Begrenzung beginnt daher bei der fachlichen Auswahl der Telemetrie. Entscheidend ist nicht, ob OpenTelemetry möglichst viele Daten liefert, sondern ob die verbleibenden Daten die richtigen Fragen zuverlässig beantworten.
Praktisch bedeutet das: Attribute auf tatsächlich benötigte Kontextinformationen begrenzen, dynamische und personenbezogene Werte aus Dimensionsfeldern entfernen sowie Spans und Events nur dort instrumentieren, wo sie eine Aussage über den Betrieb tragen. Für Performance-Messungen sollten anschließend dieselben Größen wie im Collector-Vergleich betrachtet werden, einschließlich zusätzlicher Request-Latenz und Client-Ressourcen.
OpenTelemetry Performance Overhead als Architekturthema
OpenTelemetry Performance Overhead ist kein reines Collector-Problem. Er entsteht durch das Zusammenspiel von Instrumentierung, SDK, Collector, Netzwerk und Backend. Die gezeigten Maßnahmen greifen deshalb an mehreren Stellen an: Batching reduziert Exportkosten, schlanke Resource Attributes begrenzen Payloads, größere Polling-Intervalle senken kontinuierliche Sammellast und Sampling kontrolliert das Trace-Volumen.
Keine dieser Maßnahmen ist für sich genommen universell optimal. Größere Batches verlängern unter Umständen die Exportlatenz, gröbere Intervalle reduzieren die zeitliche Auflösung, und Tail Sampling benötigt zusätzliche Puffer. Besonders früh angesetzte Schutzmechanismen schützen die Anwendung, während Filterung die Diagnose einschränken kann. Die sinnvolle Konfiguration entsteht deshalb aus Messwerten, betrieblichen Anforderungen und bewusst akzeptierten Verlusten.
Für Teams bedeutet das konkret: synthetische Last mit Telemetrygen zur Vergleichsmessung nutzen, die Gesamtkette mit realistischen Anwendungen testen und die wichtigsten Messwerte gemeinsam beobachten. Dazu gehören CPU und Speicher des Collectors, Anwendungslatenz, Datenraten, verworfene Telemetrie und Backend-Kosten. So wird aus der Frage, ob OpenTelemetry zu langsam ist, eine steuerbare Entscheidung über Menge, Kontext und Verzögerung.
Der eigentliche Gewinn liegt nicht in maximaler Datensammlung, sondern in verlässlicher Observability bei vertretbaren Kosten. Eine sauber geplante Telemetrie-Pipeline beobachtet das System, ohne es zusätzlich zu belasten. Genau darin liegt die eigentliche OpenTelemetry-Optimierung: nicht weniger Überblick um jeden Preis, sondern mehr Signalqualität pro verbrauchter Ressource.
Quelle: cncf.io
