あるモードで開くときは必ず指定の文字コードで開く

より正確にいえば「あるモードになった時に指定された文字コードでなければ読み直す」です。
たとえば ActionScript モードになるときに必ず UTF-8N にするならこうです。

11/17 追記：さっそくバグったので修正しました汗

(add-hook 'ed::*actionscript-mode-hook* (lambda ()
    ; 文字コード
    (unless (eq (buffer-fileio-encoding) *encoding-utf8n*)
        (if (file-exist-p (or (get-buffer-file-name) "?"))
            (revert-buffer *encoding-utf8n*)
            (set-buffer-fileio-encoding *encoding-utf8n*)))

文字コードが格納されているスペシャル変数一覧

• *encoding-utf8n*
• *encoding-utf16*
• *encoding-sjis*
• *encoding-auto*
• *encoding-euc-jp*
• *encoding-jis*