RTXルーターで固定IPを払い出すときはあらかじめ、DHCPのスコープで設定したアドレスの範囲内でmacアドレスと紐付けないとエラーになります。
dhcp scope 1 192.168.1.3-192.168.1.100/24 dhcp scope bind 1 192.168.1.100 01:23:45:ab:cd:ef
ポート開放は例えば、80番のwww をするには以下の設定が取り出せます。
nat descriptor masquerade static 1000 1 192.168.1.100 tcp www
GUIでポート開放するには[かんたん設定ページ]にアクセスして、[トップ]-[詳細設定と情報]-[基本接続の詳細な設定]-[設定されているプロバイダの一覧]-[設定]-[静的IPマスカレード関連]-[追加]から先ほど固定したIPアドレスとポート番号を設定します。
参考URL: YAMAHAルータでDHCP固定IPアドレスの割当
http://qiita.com/tukiyo3/items/320c0f342994c34ee391