更新しないとどうなる?

小型船舶操縦士免許証の有効期限までに更新講習を受講しないで、有効期限が切れた場合は
船長として小型船舶に乗船することは出来ません。

免許の有効期限が切れているので、免許自体はの効力は有りませんが、資格は有効となります。
難しい、言い回しですが、資格自体は終身資格ですので無くなる事は有りません。ここが自動車免許を違うところです。

有効期限が切れても、失効講習を受講すると、再度、新しい有効期限の5年ある免許が発行されます。

この場合には、免許を紛失していても受講は可能ですが、「1級・2級・3級・4級・5級・湖川・特殊」の
級別となっていない、古い免許に関しては資格の効力は無く失効講習の受講は出来ず、再度免許の取り直しとなります。

過去に、免許制度を変更した経緯があり、移行講習を受講しなかった場合は、免許の取り直しとなります。
かなり、昔の話です。

現行法上は失効の期限の定めは有りませんが、(10年や20年、失効状態でも失効講習は受講出来ますが)
いつ法律が変更となるか分かりませんので、有効期限内に更新講習を受講し、
常に更新を心がける事が船長として必要と思われます。