X Windowsがインストールされていると上記方法で起動時に無効にしていたとしてもシェルで”startx”と入力するとX Windowsを起動できてしまいます。
　
X Windowsは多くの依存するパッケージが存在します。
削除する際は、yumコマンドでパッケージグループ毎削除する事が出来ます。
　
# yum groupremove “X Window System”

X Windowsを自動起動しない場合でもstartxで起動する事が出来るので、startxに関わる設定もセキュアにする必要があります。
　
参考資料にある推奨方法をまとめました。参考資料はRedhat ES5に関するものでCentOS6の場合には当てはまらないかもしれませんが、細かい設定は異なっても仕組みは同様かと思います。
　
●Xフォントサービスを無効にする
　
X11のシステムはXフォントサービス（xfs）を使用します。
このxfsサービスは”startx”が実行されると自動で起動されるので、xfsサービスをOS起動時に自動起動させる必要はありません。
　
下記コマンドで自動起動を無効にします。
　
# chkconfig xfs off
　
●X Windowsのリモートからのリッスンを無効にする
　
X Windowsの機能の一つにリモートからのGUI表示があります。
セキュリティ上のリスクがあるため、この機能は必要なければ無効にします。
　
・ランレベル５でシステム起動時にX Windowsが起動されるときは、GDMディスプレイマネージャがリモートからのリッスンを無効にして安全に起動してくれます。
　
しかし、コマンドラインからstartxで起動させる場合は、Xのデフォルトポートである6000番のポートでリッスンするように状態で起動されてしまいます。
　
これを回避するために”/etc/X11/xinit/xserverrc”ファイルを作成し、下記記述を追加します。
　
exec X :0 -nolisten tcp $@