Helt fra grundlæggelsen af Polyteknisk Læreanstalt (nu DTU) i 1829 blev der i uddannelsen af polyteknikere lagt stor vægt på fysikundervisningen. Fællesprofessorer ved Københavns Universitet og Polyteknisk Læreanstalt varetog undervisningen. Den første var H.C. Ørsted (billedet til højre), der opdagede, hvordan en elektrisk strøm påvirker en magnetnål som er af grundlæggende betydning for udviklingen af elektromagnetismen og hele vores kommunikations- og elforsyningssystem.
Til fysikundervisningen blev knyttet Fysisk Samling, der omfattede både en instrumentsamling og et bibliotek. Dele af instrumentsamlingen findes stadig på DTU Fysik. Den historiske del af Fysisk Samling (såsom Himmelkuglen til venstre) opbevares i magasiner forvaltet af Teknologihistorie DTU.
Et egentligt Fysisk Laboratorium (billedet til højre) under Den Polytekniske Læreanstalt blev etableret i 1907. Efter den kvantemekaniske forståelse af atomer, molekyler og faste stoffer var blevet opbygget gennem første halvdel af 1900-tallet, begyndte mange tekniske anvendelser at vise sig internationalt (fx halvledere, magnetiske materialer, superledere) og der skete en kraftig ekspansion inden for især faststoffysik og materialeforskning. Ved udflytningen til Lundtofte førte dette til oprettelse af en række professorater, hvortil der typisk blev knyttet nye institutter. I 1970 var der på DTU således 8 fysikinstitutter. Nogle aktiviteter (fx halvlederkomponenter) kom efterhånden så tæt på praktiske anvendelser, at de flyttede ud af grundfagssektoren for at indgå i Microelektronikcentret MIC.
Op igennem 1980'erne blev mange nye og tværfaglige emner taget op. I samarbejde med andre DTU-institutter dannedes f.eks. indsatsområdet MIDIT (Modelling, Ikke-lineær Dynamik og Irreversibel Termodynamik), som i høj grad medvirkede til at styrke instituttets indsats inden for biologisk fysik og komplekse systemer. Nogle år senere oprettedes grundforskningscenteret CAMD (Center for Atomic-scale Materials Physics), som kom til at forny materialeforskningen, og som i dag danner grundlaget for vores indsats på nano-området. Herved mistede den gamle institutstruktur gradvist sin berettigelse og efter en række fusioner samledes alle aktiviteter i 1993 i Institut for Fysik.
Instituttet gennemgår i disse år igen væsentlige omstruktureringer, bl.a. i lyset af samfundets behov for udvikling inden for nano-, bio- og informationsteknologien. Det er alle områder, hvor fysikken kan yde væsentlige bidrag, og hvor forskningen samtidig kan generere ny fysisk forståelse. I kvanteinformatikken forsøger man f.eks. at udnytte den enkelte elektrons spin eller den enkelte fotons tilstedeværelse som informationsenhed. Et andet vigtigt område er katalyse, som bl.a. vil få betydning for mulighederne for at udvikle et energiforsyningssystem, som i væsentligt grad er baseret på brint (brintsamfundet).