Multiple lineare Regression in DoE: Warum „linear“?
Warum heißt DoE-Fitting noch „linear“, wenn quadratische Terme dabei sind? Die Antwort liegt in den Koeffizienten – nicht in der Kurve.
Warum ist das noch multiple lineare Regression?
In meinen DoE-Trainings starten wir in der Regel ähnlich: Wir beginnen mit einem vollfaktoriellen Design (2–3 Faktoren) als Einstieg, dann folgt – sobald sich das Prinzip verinnerlicht hat – ein teilfraktioniertes Design mit mehr Faktoren. In beiden Fällen prüfen wir in der Analyse dieselbe Frage: Welche Faktoren sind relevant, dominant oder untergeordnet im untersuchten Bereich? Erst wenn diese Frage geklärt ist, wissen wir, ob wir die richtigen Faktoren im richtigen Bereich untersucht haben. Anschließend hinterfragen wir – je nach Modellierbarkeit – auch, wie wahrscheinlich Nichtlinearität vorhanden ist. Die Centerpoints leisten hier die entscheidende Vorarbeit für die spätere multiple lineare Regression – wie genau, habe ich in einigen früheren Beiträgen bereits ausführlich gezeigt.
Und genau an diesem Punkt kommen bei vielen Teilnehmern schon erste Fragen auf: „Moment – wir untersuchen hier Nichtlinearität mit einem Design, das eigentlich multiple lineare Einflüsse klären soll?“ Und spätestens wenn wir ein Design erweitern – mit einer Response Surface Methodology (RSM) oder mit axialen Versuchen – taucht fast zuverlässig dieselbe Frage wieder auf:
„Wir bauen jetzt quadratische, sehr selten auch kubische Terme ein. Warum heißt das Ganze dann immer noch multiple lineare Regression?“
Eine berechtigte Frage. Und die Antwort hat, wie sich zeigen wird, herzlich wenig mit der Form der Kurve zu tun.
Was „linear“ in der multiplen linearen Regression wirklich bedeutet?
Auf den ersten Blick wirkt eine gekrümmte Kurve nicht besonders „linear“. Genau das ist der Denkfehler, der bei dieser Frage fast immer mitschwingt.
Die Antwort hat nämlich nichts mit der Form der Kurve zu tun – sondern damit, wie die Koeffizienten in der Gleichung auftreten:
y = β₀ + β₁·x₁ + β₂·x₂ + β₁₂·x₁·x₂ + β₁₁·x₁² + ε (Beispiel optimiertes Modell)
Die x-Terme dürfen dabei beliebig kompliziert sein. Das ist erlaubt, weil x₁, x₁² oder x₁·x₂ für jede Beobachtung feste, bekannte Zahlen sind – abgeleitet aus der Codierung des Designs. Die eigentlichen Unbekannten sind die β – einzelne Skalare, die additiv auftreten: kein β im Quadrat, kein β im Exponenten, keine Verschachtelung.
Genau das ist mit „linear“ gemeint: linear in den Koeffizienten, nicht linear in x.
Weil die x-Werte codiert sind (meist −1/+1), sind die geschätzten β zudem direkt miteinander vergleichbar. Auch das ist kein Zufall, sondern Teil der Versuchsplanung selbst – so lassen sich die Effekte der Terme visuell einschätzen und vergleichen. Das ist entscheidend für den Wissenszuwachs: Nur so lässt sich die tatsächliche Wirkung der Faktoren gegen die eigene Erwartungshaltung prüfen.
Warum quadratische Terme die Ausnahme bleiben
Wenn „linear“ nur eine Aussage über die Koeffizienten ist – warum arbeiten wir dann in der Praxis so selten mit gekrümmten Modellen?
Die Antwort liegt im Design selbst. Ein klassisches DOE-Design testet Faktoren auf zwei Leveln, ergänzt um Centerpoints zur Wiederholbarkeitsprüfung. Genau diese Struktur liefert von Haus aus die Bausteine, die ein lineares Modell braucht – Haupteffekte und Wechselwirkungen. Quadratische oder kubische Terme sind darin nicht der Regelfall, sondern die Ausnahme:
- Quadratische Terme brauche ich aus meiner Erfahrung in einer Minderheit der Projekte – meist dann, wenn der untersuchte Faktorbereich zu weit gefasst wurde.
- Kubische Terme sind noch deutlich seltener und tauchen praktisch nur auf, wenn der Rahmen der Versuchsplanung erkennbar überzogen wird.
Die pragmatischste Lösung, bevor überhaupt ein zusätzlicher Term nötig wird: den Untersuchungsbereich enger fassen. In vielen Fällen verschwindet die scheinbare Nichtlinearität, sobald man näher an den relevanten Arbeitspunkt heranrückt – aus einer gekrümmten Kurve wird lokal wieder eine gerade Linie. Wie stark die Wahl der Variationsbreite die Erkennbarkeit von Effekten beeinflusst, habe ich in einem früheren Beitrag im Detail gezeigt.
Erst wenn das nicht reicht, kommen die zusätzlichen Terme ins Spiel – und selbst dann bleibt die Gleichung, wie oben gezeigt, linear in den Koeffizienten.
Wo MLR an seine Grenze kommt
Eine Randnotiz, die die Kernaussage noch einmal schärft: Selbst Verfahren, die auf den ersten Blick nicht mehr nach klassischer MLR aussehen, bleiben in der Praxis fast immer linear.
Ein Beispiel ist die Box-Cox-Transformation. Hier steht der Parameter λ im Exponenten der Zielgröße – aber das betrifft nur die Transformation selbst, nicht das Fitting. Die Zielgröße wird vorab transformiert, damit sie sich anschließend wieder ganz normal per MLR fitten lässt.
Dasselbe Prinzip gilt für scheinbar exponentielles Verhalten: Auch hier greift man im klassischen DOE meist zu einer Vorab-Transformation der Zielgröße – Log, Neg-Log oder Exponentiell – und fittet anschließend wieder linear. Am additiven Charakter der β ändert sich dadurch nichts.
Dieses Thema wurde in den Cox Box Beiträgen aus der Serie „Tipps und Tricks“ intensiv beackert.
Nur in echten Ausnahmefällen wechseln Softwarepakete tatsächlich das Verfahren: entweder zu einer echten nichtlinearen Regression per Maximum-Likelihood-Schätzung (wenn ein Parameter selbst im Modell steckt, statt vorab transformiert zu werden), oder – bei stark korrelierten, hochdimensionalen Datensätzen – zu PLS (Partial Least Squares) aus der multivariaten Datenanalyse.
Wissen to Go
▫️ „Linear“ bezieht sich auf die Koeffizienten, nicht auf die Form der Kurve.
▫️ Die x-Terme sind aus dem Design bekannt, die β werden geschätzt.
▫️ Codierung macht die β vergleichbar – Teil der Versuchsplanung, kein Zufall.
▫️ Quadratische und kubische Terme sind die Ausnahme, nicht die Regel – oft hilft schon ein engerer Untersuchungsbereich.
▫️ Auch bei scheinbarer Nichtlinearität (Box-Cox, exponentielles Verhalten) bleibt das Fitting meist linear – über eine Transformation der Zielgröße vorab.
Mehr aus Ihren Prozessen herausholen?
Sie wissen nicht weiter – oder wollen einfach mal gemeinsam auf Ihre Daten schauen? Dann melden Sie sich. Kollegial, unverbindlich, auf Augenhöhe.
Ob DOE-Einstieg oder knifflige Spezialthemen wie Screening, Robustheit, Mischungen oder Troubleshooting – ich begleite Sie praxisnah: mit Trainings, Beratung und methodischer Unterstützung – vom ersten Workshop bis zur Umsetzung.
Auch bei MVDA, DFSS oder QFD stehe ich gern an Ihrer Seite.
