作行初等变换（#是主元）

1#　　　2　　　 3　　　 4　　　 *主行不变

0　　　 5　　　 2　　　 11　　　 这行＋第1行×2

0　　　 -10　　 -10　　 -10　　 这行－第1行×3

0　　　 -5　　　-14　　 -17　　 这行－第1行×4

————

1#　　　2　　　 3　　　 4　　　 这行不变

0　　　 5#　　　2　　　 11　　　*主行不变

0　　　 0　　　 -6　　　12　　　 这行＋第2行×2

0　　　 0　　　 -12　　 -6　　　 这行＋第2行

————

1#　　　2　　　 3　　　 4　　　 这行不变

0　　　 5#　　　2　　　 11　　　 这行不变

0　　　 0　　　 -6#　　 12　　　*主行不变

0　　　 0　　　 0　　　 -30　　 这行－第3行×2

得结果：900