L'analisi e la sintesi dei sistemi di controllo considerati in questi appunti farà sempre riferimento a sistemi lineari, stazionari , di ordine finito . Considerando quindi la rappresentazione in spazio di stato nel caso di sistemi a tempo continuo, questa sarà del tipo differenziale:

Le definizioni di stabilità si riferiranno a questa rappresentazione, ma in seguito si passerà alla rappresentazione esterna mediante funzioni di trasferimento : il criterio di Nyquist verrà formulato a partire dalla funzione di trasferimento in catena diretta F(s). Il passaggio da una rappresentazione all'altra si ottiene scrivendo le espressioni dell'evoluzione dello stato e dell'uscita :

ed effettuandone la trasformazione secondo Laplace :

La stabilità interna riguarda la limitatezza della risposta x(t) descritta in (2) rispetto a perturbazioni dello stato iniziale. In generale la stabilità interna è una proprietà che riguarda una traiettoria e dipende quindi dallo stato iniziale e dall'ingresso. Fra tutte le traiettorie, quelle più interessanti da studiare sono i punti di equilibrio ( un punto si dice di equilibrio se , per almeno un ingresso, la traiettoria che ha origine nel punto coincide col punto stesso ), perché lo studio della stabilità di una qualsiasi traiettoria si può ricondurre allo studio della stabilità di un punto di equilibrio ( considerando il sistema errore ).
Un punto di equilibrio xe si dice stabile se , comunque prendiamo , esiste tale che , se , allora in ogni istante di tempo successivo all'istante iniziale. In particolare, considerando sistemi tempo-invarianti , si può prendere l'istante iniziale nullo. Se, oltre ad essere verificata la condizione precedente, esiste anche tale che , allora il punto di equilibrio si dice asintoticamente stabile.
Nei sistemi lineari la stabilità di un qualsiasi movimento equivale alla stabilità dell'origine del sistema libero associato ( B,M=0 in (1) ) , pertanto si può parlare di stabillità del sistema (che nel caso generale è invece una dicitura impropria) . In base alla definizione precedente, quindi , il sistema è stabile se comunque prendiamo , esiste tale che , se , allora in ogni istante di tempo successivo a quello iniziale .

La stabilità esterna o BIBO ( bounded input, bounded output ) si ha se , comunque prendiamo un limite superiore per l'ingresso e uno stato iniziale , allora esiste un limite superiore per l'uscita , cioè se è allora .
Si intuisce facilmente che questa condizione può essere verificata anche se una componente dello stato è illimitata ma , per questioni di osservabilità , non produce effetti sull'uscita , pertanto la stabilità esterna è una condizione meno stringente della stabilità interna : se un sistema lineare è stabile internamente nell'origine allora è anche esternamente stabile . Perché valga il viceversa deve invece essere verificata anche l'osservabilità , perciò un sistema stabile esternamente e osservabile è anche stabile internamente.

La stabilità BIBO nell'origine è una proprietà ancora meno stringente della stabilità BIBO : nella definizione precedente, infatti, l'illimitatezza della y(t) poteva dipendere tanto dall'ingresso quanto dallo stato iniziale . Se la condizione iniziale viene presa nulla si perviene alla seguente definizione : un sistema lineare si dice stabile esternamente nell'origine se , comunque si prende esiste un tale che , se l'ingresso è limitato superiormente da M ( ) , allora anche l'uscita è limitata superiormente da Nm ( ) .
Se un sistema è stabile esternamente è anche stabile esternamente nell'origine, mentre perché valga il viceversa deve essere soddisfatta la condizione di raggiungibilità : se un sistema è stabile esternamente nell'origine e raggiungibile , allora è anche stabile esternamente.

Nel proseguio di questi appunti si studierà la stabilità dei sistemi di controllo a partire dalla rappresentazione esterna ingresso/uscita , cioè mediante la funzione di trasferimento W(s) in (2). L'unica stabilità che si può dedurre da questa funzione è la stabilità esterna con condizione iniziale nulla : d'ora in poi s'ipotizzerà pertanto che i sistemi studiati siano raggiungibil ed osservabili . Per quanto detto finora, si può infatti affermare che se un sistema è raggiungibile ed osservabile allora la stabilità esterna con condizione iniziale nulla equivale alla stabilità interna, come mostrato in figura 1.