本文首先引入了矩阵的幂零性多项式,刻画了具有二次齐次幂零性多项式的矩阵,作为应用,给出了这些矩阵是Druzkowski矩阵的充分必要条件.然后利用线性群的作用,给出了子空间可三角化的条件.最后,给出了判断二元多项式环的非单自同态是否有非平凡固定元的一种构造性方法.本文研究的问题来源于仿射代数几何领域的几个公开问题:雅可比猜想,Tame生成子问题,Zariski 消去问题.雅可比猜想已经被化简到Druzkowski映射的情形.为了研究这类映射,Gorni等人引入了 D幂零矩阵,证明了 D幂零矩阵置换相似于严格上三角矩阵.为了构造更具一般性的Druzkowski映射,我们引入了矩阵的幂零性多项式.设A是n阶矩阵,f是n元多项式.如果对于每个以f的零点为对角线的对角矩阵D都有（DA）n = 0,则称f是A的幂零性多项式.我们研究了具有幂零性多项式的矩阵——qd-幂零矩阵.第三章主要研究了矩阵的幂零性多项式的结构和性质.我们首先证明了非D幂零的qd-幂零矩阵的幂零性多项式关于每个变量的次数均不大于1,而且任何两个互素的幂零性多项式没有共同的变量.然后利用主子式刻画了 qd-幂零的矩阵,发现qd-幂零矩阵的大部分主子式都是0.最后证明了 qd-幕零矩阵的Frobenius标准形如下其中A11和A33是严格上三角矩阵,A22是既约的qd-幂零矩阵.因此,我们只需讨论既约的qd-幂零矩阵.第四章主要研究具有二次幂零性多项式的矩阵A,证明了若A既约,则有置换矩阵P使得下列之一成立.（ⅰ）PTAP=DB,其中D是可逆对角矩阵,B是秩2反对称矩阵,其左上角的3阶主子块除了对角元素其余元素全非零.（ⅱ）PTAP=（?）,其中对角位置均为方阵,a ∈ {0,1},rankB ≥ 2,B既无零行又无零列,U是严格上三角矩阵,u,v,α,β都是行向量,且u,v的分量都不为零.最后给出了（ⅱ）形矩阵是Druzkowski矩阵的充分必要条件,证明了在某些条件下这样的Druzkowski矩阵可线性三角化.三角自同构是一类基本而重要的多项式自同构,对于描述自同构的结构有重要作用.多项式映射的线性三角化是认识tame自同构的一种途径.Van den Essen等人证明了,若H的雅可比矩阵幂零,则多项式映射F = X +H可线性三角化等价于H的雅可比矩阵集合可同时三角化.这启发我们从矩阵集合三角化的角度来考察多项式映射的三角化.第五章主要研究了线性群的作用和矩阵子空间的三角化.我们证明了,一个非单项矩阵的可逆矩阵与所有行列式为1的对角矩阵生成的子群中必含有平延,然后由此证明了,设矩阵子空间满足可逆矩阵Q,只要Q不是相应对角矩阵的行列式为1的单项矩阵,则S是幂零的,从而可三角化.第六章主要研究了二元多项式代数和二元自由结合代数A2上的非单自同态及其固定元,首先给出了 A2的非单自同态的一个分类,并且给出了判断A2上非单自同态是否有非平凡固定元的方法.