Hauptseminar Machine Learning for Context Aware Computing

Teilnehmer: maximal 12 Studenten nach bestandenem Vordiplom.

Voranmeldung per E-Mail mit kurzer Vorstellung und Beschreibung der Erwartungen an das Seminar an Martin Wagner (martin.wagner@in.tum.de) oder Martin Bauer (martin.bauer@in.tum.de).

Übersicht

Machine Learning ist ein recht neues Gebiet der Informatik, das sich mit automatischer Mustererkennung (z.B. zur Gesichtserkennung), Vorhersage (sehr wichtig bei Börsenkursen) und dem Data Mining (z.B. um Einbrüche in Netzwerke zu ermitteln) beschäftigt. Die Anwendungsmöglichkeiten sind überaus zahlreich und gehen von der Genomanalyse in der Bioinformatik bis hin zur Spracherkennung.

Der Bereich des Context Aware Computing ist ein besonders interessanter Einsatzbereich: immer kleiner werdende Rechner können den Benutzer nur dann sinnvoll unterstützen, wenn sie über den aktuellen Kontext, also Zeit, Aktivität, Ort und Absicht des Benutzers, möglichst genau Bescheid wissen. Die Ermittlung dieser Information aus einfachen Sensordaten mit Machine Learning Techniken steht im Mittelpunkt dieses Seminars.

In diesem Hauptseminar wollen wir uns hauptsächlich die mathematischen Grundlagen des Machine Learning sowie deren konkrete Anwendung in der Informatik an Hand von Beispielen anschauen. Dazu sollen wesentliche Algorithmen in Vorträgen vorgestellt und mitsamt ihren Haupteinsatzgebieten diskutiert werden.

Themenliste

Datum	Bearbeiter	Thema	Literatur
15.04.2003	Christian Schüller	Bayesian Decision Theory	[1] 2.1-2.12
22.04.2003	entfällt (Osterferien)
29.04.2003	MartinBauer	Exponential Family and Maximum Likelihood, Sufficient Statistics	[1] 3.1-3.7
6.05.2003	MartinWagner	Gaussian Mixture Models and the EM Algorithm, Nonparametric techniques	[1] 3.9, [2] 2.1-2.6, [12], [1] 4.1-4.3
13.05.2003	Johannes Wöhler	Clustering	[1] 10.1-10.7, [4] 6.4.2, 6.15
20.05.2003	Sven Hennauer	Neural Networks: Introduction and Single-Layer Networks	[5], [2] 3.1-3.5
27.05.2003	entfällt
3.06.2003	entfällt
10.06.2003	entfällt (Pfingstferien)
17.06.2003	Ernst Sassen	Support Vector Machines, Kernels	[3], [13]
1.07.2003	Felix Löw	Kapselung von Machine Learning Methoden in DWARF

Literatur

1. Pattern Classification; Duda, Hart, Stork:
   http://www.amazon.com/exec/obidos/ASIN/0471056693
2. Neural Networks for Pattern Classification; Bishop:
   http://www.amazon.com/exec/obidos/ASIN/0198538642
   Im Handapparat
3. Learning From Data; Cherkasky, Mulin:
   http://www.amazon.com/exec/obidos/tg/detail/-/0471154938
   Für Handapparat bestellt, aber noch nicht da.
4. Fundamentals of Speech Recognition; Rabiner, Juang:
   http://www.amazon.com/exec/obidos/tg/detail/-/0130151572
5. Neural Networks FAQ; comp.ai.neural-nets
   ftp://ftp.sas.com/pub/neural/FAQ.html
6. A Tutorial on Hidden Markov Models and Selected Applications in Speech Recognition; Rabiner, L.R. ; Proceedings of the IEEE, Vol.77, Iss.2, Feb 1989; Pages:257-286
   
7. Columbia University Graduate Course Site (Prof. Jebara):
   http://www.cs.columbia.edu/~jebara/6998-01/index.html
8. ETH Zürich Maschinen Lernen II (Prof. Schiele):
   http://www.vision.ethz.ch/ml/ml.html
9. Carnegie Mellon University Machine Learning (Prof. Mitchell):
   http://www-2.cs.cmu.edu/afs/cs.cmu.edu/project/theo-3/www/ml.html
10. Robust Regression and Outlier Detection; Rousseeuw, Leroy:
    http://www.amazon.de/exec/obidos/ASIN/0471852333
11. Robust Regression Methods for Computer Vision: A Review; Meer, Mintz, Kim, Rosenfeld: International Journal of Computer Vision, Vol.6 No.1 1991
12. A Gentle Tutorial of the EM Algorithm; Jeff A. Bilmes (Berkeley)
13. Learning with Kernels; Schölkopf, Smola:
    http://www.amazon.de/exec/obidos/ASIN/0262194759

Termine

• Voranmeldung per E-Mail an Martin Wagner (martin.wagner@in.tum.de) oder Martin Bauer (martin.bauer@in.tum.de).
• Vorbesprechung Dienstag 4.2.2003, 14:00 - 16:00 Uhr, MI 01.07.014
• Wöchentlicher Termin: Dienstag, 14:15 - 16:00 Uhr, MI 01.07.014

Anforderungen

• Überdurchschnittliche Motivation
• Vortrag ca. 45 Min
• Ausarbeitung ca. 10 Seiten im Chair.LaTeX-Format
• Anwesenheit und aktive Diskussionen in den Seminaren
• Selbständige Literaturrecherche
• Neben der eher mathematischen Schilderung des jeweiligen Algorithmus wird auch eine Diskussion der Vor- und Nachteile sowie eine kurze Erläuterung der Einsatzgebiete erwartet.
• Natürlich wird eine praktische Demonstration des Algorithmus, möglichst live und mit vielen bunten Bildern, überaus honoriert.

Nützliche Links

• Ein paar Seiten mit Tipps zur Präsentation
  • How to Present a Paper in Theoretical Computer Science: A Speaker's Guide for Students
  • Merkblatt zur Gestaltung eines Seminarvortrags
• Chair.LaTeX Hints vom Lehrstuhl Radig:
  • Das Dschungelbuch (Gross,Rubach) und/oder
  • The Not so Short Introduction to Latex 2e (Oetiker et al.)
  • Und natürlich als wirklich sinnvolle Referenz immer zu empfehlen: Leslie Lamport: Das Chair.LaTeX-Handbuch

-- Main.Main.MartinBauer, Main.DWARF.MartinWagner, GudrunKlinker - 07 Jan 2003