Charakteristische Merkmale von Machine Learning

• Datengetriebenheit:
  ML-Modelle ziehen ihre „Intelligenz“ aus großen Mengen an Daten, nicht aus fest kodierten Regeln.

• Automatisches Lernen:
  Durch Optimierungsverfahren (z. B. Gradientenabstieg) passen die Modelle interne Parameter an, um Fehler zu minimieren.

• Generalisation:
  Ziel ist es, nicht nur die Trainingsdaten „auswendig“ zu lernen, sondern auf neue Daten gute Vorhersagen zu treffen.

• Evaluation und Validierung:
  Modelle werden anhand getrennter Datensätze (z. B. Trainings-, Validierungs- und Testset) bewertet, um Überanpassung (Overfitting) zu vermeiden.

Charakteristische Merkmale von Deep Learning

• Tiefe Netzwerkarchitekturen
  Mehrere (teils dutzende bis hunderte) übereinander geschaltete Schichten (Layers) erlauben es, eine Hierarchie von Merkmalen zu lernen – von einfachen Kanten- oder Farbmustern in der ersten Schicht bis zu hochkomplexen Konzepten in den letzten Schichten.

• Nichtlineare Aktivierungsfunktionen
  Funktionen wie ReLU, Sigmoid oder Tanh zwischen den Schichten ermöglichen es dem Netz, komplexe, nichtlineare Zusammenhänge in den Daten abzubilden.

• Backpropagation & Gradient Descent
  Durch das Rückwärtspropagieren des Fehlers und Optimierungsalgorithmen (z. B. stochastischer Gradientenabstieg) werden Millionen bis Milliarden von Parametern angepasst, um die Vorhersagequalität zu maximieren.

• Hoher Rechen- und Speicherbedarf
  Das Training tiefer Netze erfordert spezialisierte Hardware (GPUs, TPUs) sowie große Arbeitsspeicher-Reserven, um die Matrixoperationen und Zwischenergebnisse effizient zu verarbeiten.

• Große Datenmengen
  Deep-Learning-Modelle erzielen erst bei ausreichend Trainingsdaten ihre volle Leistungsfähigkeit. Datensätze im Bereich von zehntausenden bis Millionen Instanzen sind üblich.

• Regularisierungstechniken
  Um Überanpassung (Overfitting) zu verhindern, kommen verschiedene Methoden zum Einsatz

Charakteristische Merkmale von Generativer KI

• Daten­modellierung und Sampling
  Modelle lernen die Wahrscheinlichkeitsverteilung der Trainingsdaten und erzeugen durch Sampling neue, realistisch wirkende Instanzen.

• Self-Supervised Learning
  Trainingssignale entstehen automatisch aus den Daten selbst (z. B. durch Maskierung oder Prädiktionsaufgaben), ganz ohne manuelle Labels.

• Feintuning und Prompt-Engineering
  Vorgefertigte, große Modelle lassen sich durch gezieltes Prompting oder Domain-spezifisches Feintuning an individuelle Anwendungsfälle anpassen.

• Anwendungen in Kreativität und Simulation

  • Content Creation: Erzeugung von Text, Bildern, Musik, 3D-Modellen

  • Datenaugmentation: Aufbereitung kleiner Datensätze für andere ML-Aufgaben

  • Design & Prototyping: Schnelles Generieren von Konzeptideen

  • Simulation & Forschung: Realistische Szenarien für Trainingsumgebungen

• Ethische und Qualitäts­aspekte
  Generative KI wirft Fragen zu Urheberrechten, Deepfakes, Bias und Fehlinformation auf. Eine sorgfältige Prüfung von Output-Qualität und rechtlichen Rahmenbedingungen ist deshalb unerlässlich.