Datorrepresentation av reella tal med hjälp av flyttal; egenskaper, effekter och möjliga problem. Datorbaserad lösning av linjära och icke-linjära ekvationssystem med exempel på tekniska tillämpningar. Interpolation med polynom och splines, numerisk beräkning av integraler (kvadratur). Numerisk lösning av ordinära diferentialekvationer för modellering av dynamiska förlopp.
Centrala nyckelbegrepp i kursen är avrundningsfel, diskretiseringsfel, trunkeringsfel, kondition (störningskänslighet), numeriskt stabila respektive instabila algoritmer, effektivitet, komplexitet, iteration, konvergenshastighet, explicita respektive implicita metoder, stabilitet.
