中学時代、玉山鉄二はは陸上部で活躍。
京都府立西城陽高等学校卒業。

高校在学中に姉の知り合いの美容師から「カットモデルをやらないか？」と誘われ、
軽い気持ちで受けてみたものの、モデル業は思っていたよりも楽しいもので、
その後事務所の先輩（当時）の俳優・柏原崇に憧れて雑誌モデルに応募し、
雑誌『CHECKMATE』などのモデルとして活躍。

1998年玉山鉄二はオーディション情報誌『月刊デ・ビュー』
　　掲載のオーディションを通じて現事務所に所属。
1999年6月、ドラマ『ナオミ』で玉山鉄二、俳優デビュー。
2001年、ドラマ『百獣戦隊ガオレンジャー』のガオシルバー・大神月麿
　　（おおがみつくまろ）役で玉山鉄二は一躍子供とママ達のヒーロー的存在に。
2002年、玉山鉄二はP&G衣料用洗剤「ボールド」のCM出演開始。
　　毎回個性豊かな男性陣（俳優、格闘家、お笑いタレント）と共演し長期シリーズに。
2005年、映画『逆境ナイン』で玉山鉄二、初主演。
　　同年TBS系ドラマ『ブラザー☆ビート』で玉山鉄二、テレビドラマ初主演。

玉山鉄二という名前は、両親が名前を付ける時に神社の神主に、
「この子は長男らしいこと（家を継ぐなど）は何もしないから、
あえて長男らしくない名前にして下さい」と言われたため、
両親が付けようと思っていた「鉄」という字と、
「二」という長男らしくない字を合わせて「鉄二」になった。

阪神タイガースの大ファン。

高校3年の頃からモデル業のために単身東京へ。
しかし学籍は京都の高校にあったため、大事な授業やテストの時だけ出席していた。
そのため出席日数が足りなかったり、古典で赤点を取ってしまって
留年の可能性もあったが、交換条件の百人一首の丸暗記と
これから卒業まで毎日学校に行くということをクリアして何とか乗り越えた。
おかげで百人一首は今でもすらすら言えるらしい。

子供好きで、甥っ子と姪っ子をつい甘やかしてしまい、
トイザらスで泣く泣くカードで支払うほどの高い金額の買い物をさせられた。

甘エビが大の苦手（2007年6月28日放送のとんねるずのみなさんのおかげでした
新・食わず嫌い王決定戦で発覚）。
その他、おから・牛乳・クリーム系・野菜の煮物・黒みつなどが苦手。
基本好き嫌いが激しい。

視力が悪いため、撮影中もあまり目の前が見えていないが、コンタクトはしない。
バラエティーでは眼鏡を掛けることが多い。

メッセージ～言葉が裏切っていく～（2003年、読売テレビ・日本テレビ） - 藤枝亮 役
東京ラブ・シネマ（2003年、フジテレビ） - 日向瑛二 役
ハコイリムスメ!（2003年、関西テレビ・フジテレビ） - 小泉純平 役
離婚弁護士（2004年 フジテレビ） - 本多大介 役
農家のヨメになりたい（2004年、NHK） - 清和希望 役
君が想い出になる前に（2004年、関西テレビ） - 結城和也 役
星野仙一物語～亡き妻へ贈る言葉（2005年、TBS） - 佐々木一彦 役(友情出演)
離婚弁護士II～ハンサムウーマン～（2005年、フジテレビ） - 本多大介 役
広島 昭和20年8月6日（2005年、TBS） - 大原靖秀 役
ずっと逢いたかった（2005年、フジテレビ） - 鳴海勝一 役
ブラザー☆ビート（2005年、TBS） - 桜井達也 役 ※田中美佐子とＷ主演
誰よりもママを愛す（2006年、TBS） - 嘉門明 役
僕たちの戦争（2006年、TBS） - 鴨志田祐司 役
真夜中のマーチ （2007年、WOWOW）※主演
牛に願いを Love&Farm（2007年、フジテレビ） - 高清水高志 役 ※主演

逆境ナイン （2005年） - 主演・不屈闘志
NANA （2005年） - 一ノ瀬巧 役
絶対恐怖 Pray プレイ （2005年） - 主演・ミツル 役
カミュなんて知らない （2006年） - 西浦博 役(友情出演)
チェケラッチョ!! （2006年） - 多良間涼太 役
手紙（2006年） - 武島剛志 役（初の丸刈り頭に挑戦）
NANA 2 （2006年） - 一ノ瀬巧 役
Presents～合い鍵～ （2006年）※主演
フリージア （2007年） - 主演・叶ヒロシ 役
銀色のシーズン （2007年）