Die mathematische Stabilitätstheorie befasst sich mit der Entwicklung von Störungen, die als Abweichungen von bestimmten Zuständen dynamischer Systeme auftreten. Ein solcher Zustand kann z.B. eine Ruhelage oder eine bestimmte Umlaufbahn, z.B. eine periodische Umlaufbahn, sein. Ein System ist instabil, wenn eine kleine Störung zu großen und schwindenden Abweichungen führt.