Khedira började spela fotboll i klubben TV Oeffingen, men som åttaåring gick han till storklubben Stuttgarts ungdomslag, en klubb han stannade i ytterligare 15 år innan han säsongen 2010/11 värvades av José Mourinho till Real Madrid för omkring €10m plus bonusar. Med Stuttgart lyckades Khedira vinna en Bundesligatitel (2006/07). Sami är en dynamisk och slitstark defensiv mittfältare, eller box-till-box-spelare om man så vill. Han brukar främst beskrivas som en spelare med oerhört stor moral och arbetskapacitet, det sägs att få springer så mycket som han gör på fotbollsplanen.

Med sina 189 centimeter är Khedira duktig i luftrummet och han har även ett kraftfullt skott från långdistans. På sina 98 matcher med Stuttgart i Bundesliga hann spelaren med 14 mål och 12 assist. Sommaren 2009 blommande Khedira ut rejält då han som lagkapten för det tyska U21-landslaget var starkt bidragande till det EM-guld man tog i turneringen i Sverige. Året efter fick han även chansen i Loews A-landslag då Michel Ballack skadat sig inför turneringen och tillsammans med Schweinsteiger bildade han ett av de starkaste mittfälten i turneringen. Khedira, vars moder är tyska och vars pappa är av tunisiskt ursprung är numera en viktig kugge i det unga och mångkulturella tyska landslaget.