「指定された形式がサポートされないか、または変換できません。サポートされた形式を判断するにはCapabilities機能を使用して下さい」
と出て録音できないのですが、どうしたら良いでしょう？
Capabilities機能ってcapas lockキーですよね。
関係ないだろうと思うのですが。

こんなエラーは、私も初めて聞きました。

FLASHの場合、Capabilities クラスを使用すると、SWF ファイルの
ホストであるシステムと Flash Player の機能を見ることができます。

おなじように、ここで言うCapabilities機能というのは互換性、
つまり、サウンドカードの性能や対応形式の調査機能のことだと
推測されます。

サウンドドライバをアップデートするか、録音形式(周波数やステレオ)を変更して見てください。