Hallo Herbert,

erstmal ein herzliches Willkommen.

Grundsätzlich ist es keine Systemfrage, die das Problem ausmacht.
Du stellst selbst fest, das Du nicht mehr wie früher verwertbar aus der Hand schießen kannst. Wo Du früher auf das Kleinbild bezogen mit der alten Formel
1/Brennweite eigentlich noch brauchbar etwas machen konntest, ist jetzt mindestens 1/Brennweite x 1.6 (bei Canon notwendig.

Das hat also nix mit einsetzendem "Alterstremor" oder dem Bier zuviel am gestrigen Abend zu tun, sondern das sich durch den Crop Sensor die Verwacklungen in etwa so bemerkbar machen, wie als wenn Du die gewählte Brennweite mit 1.6 multipliziert. So wird gerade beim Segeln aus Deinem 300er Endbereich durch den Cropfaktor ein 480mm Objektiv.

Die unterste, verwertbare Grenze des ohnehin lichtschwachen 55-300 läge demnach für die 55mm bei etwa 1/80 sek. An die alten Zeiten kommst Du mit dem Teil eh nicht ran. Die früher an KB Kameras benutzten Objektive waren insgesamt überwiegend Festbrennweiten und deutlich lichtstärker, weil die Filme mit ihren eingeschränkten ASA/DIN Empfindlichkeiten, die bei 50/100/200 oder 400 ASA lagen, dies erforderten.

Auch führst Du den IS als Wunderwaffe an. Ein IS ist eine feine Sache um das Stativ zu sparen.. mehr nicht. Gegen die Bewegung auf dem Segelboot oder bei anderweitig bewegten Motiven hilft Dir das rein gar nichts, denn bewegte Objekte kann er nicht "ausregeln" sondern nur Dein "Haltungszittern" bei langen Brennweiten.

Insofern stelle ich erstmal in Frage, ob Du mit einem anderen Kamerasystem glücklicher werden wirst. Es ist in diesem Punkt egal, ob Canon oder Nikon.
Die Frage muss vielmehr sein, in welches Glas oder grundlegende Sensortechnik investiere ich.
Und da kann die Antwort eigentlich nur lauten:

In das Glas, das es mir ermöglicht, mit Lichtstärke höhere Verschlussgeschwindigkeiten zu erreichen für Deine Crop, wenn sie bleiben soll. In Deinem Falle ist aber unbedingt auch anzuraten, auf eine gebrauchte Vollformat DSLR EOS 5D zu wechseln und sich gute und lichtstarke Objektive zu zulegen, nach und nach.

Gerade da, wo Du langen Zeit die Regeln des Kleinbildformates "inhaliert" hast, wirst Du staunen, das die von Dir beschriebenen Probleme sich in Luft auflösen. Man kann plötzlich mit einer 35mm Brennweite wieder im Halb-Dunkel mit der 1/30 fotografieren, weil es nicht eine
60 mm Brennweite geworden ist. Ein 135er Objektiv kann wieder Bilder mit 1/125 liefern, da es eben nicht zum 200er gemacht wird etc..

Und mit zwei guten Objektiven 28-105 und 70-200 kommst Du in Deinen Anwendungen plötzlich wieder gut klar. Wirst sehen, das funzt.

Eben auch aus diesen von Dir genannten Gründen habe ich mich nach der 350D und der 400D dann entschlossen, vom Crop Abschied zu nehmen, auch wenn das Vollformat/Kleinbild teurer wurde. Aber was nutzt mir eine Kamera die ich erst von Canon kaufe, dann auf Nikon wechsel, wieder beim Crop lande und meine Ärgernisse dort ebenfalls vorhanden sind.
Gar nichts.

Ich würde den Umstieg auf eine gebrauchte 5D empfehlen, dann vielleicht eine zeitlang sehen, wie sich Deine Objektive daran machen. Mit der 5D machst Du bereits einen "Riesensatz" in die richtige Richtung.
Wenn die Kohle dann erstmal knapp ist, eine zeitlang vielleicht als Alternative weil Du ja aus der Ära kommst, mit manuellen Objektiven arbeiten, bis eventuell noch etwas Kohle für bessere AF Objektive da ist.
Die manuellen bieten Dir oft eben die altgewohnte, hohe Lichtstärke, aber nicht den Komfort. Für Dinge die schnell gehen müssen hättest Du dann erstmal ja noch dein EF 55-300 und wenn ich es recht verstanden habe, das EF 1.8/50mm. Das reicht lange Zeit aus.

LG
Henry