Deep Learning ist ein Teilgebiet des Machine Learning, das auf künstlichen neuronalen Netzen mit mehreren (häufig sehr vielen) verborgenen Schichten basiert. Diese Tiefe — daher der Begriff "Deep" — erlaubt es Modellen, hierarchische Repräsentationen aus Rohdaten zu lernen: In der Bildverarbeitung etwa Kanten in den unteren, Texturen in mittleren und semantische Konzepte wie Augen oder Räder in den oberen Schichten. Das Training erfolgt typischerweise per Gradient Descent mit Backpropagation, optimiert auf Differenzierbarkeit, parallelisierte Matrixoperationen auf GPUs/TPUs und massive Trainingsdatenmengen.
Eingesetzt wird Deep Learning für Bildklassifikation und -segmentierung (CNNs), Sprach- und Texterzeugung (RNNs, LSTMs, Transformers), Spracherkennung, maschinelle Übersetzung, autonome Fahrzeuge, AlphaGo-ähnliche Reinforcement-Learning-Agenten, Generative Bilder (GANs, Diffusion Models), Empfehlungssysteme und vieles mehr. Wichtige Frameworks sind PyTorch (Meta), TensorFlow (Google), JAX (Google), MXNet, Keras und PaddlePaddle. Das Hardware-Ökosystem reicht von NVIDIA-GPUs (CUDA, cuDNN, NCCL) über Google TPUs bis zu spezialisierten Beschleunigern wie Cerebras CS-Systemen und SambaNova-Architekturen.
Klassisches Computer Vision oder NLP setzte stark auf manuelle Features (HOG, SIFT, n-grams, syntaktische Parser); Deep Learning ersetzt diese durch gelernte Repräsentationen direkt aus Rohdaten. Damit hat sich die Genauigkeit in vielen Benchmarks sprunghaft verbessert — der Sieg von AlexNet bei ImageNet 2012 mit signifikantem Vorsprung gilt als Wendepunkt der Disziplin.
Historisch sind die Wurzeln von Deep Learning lang. McCulloch und Pitts entwarfen 1943 ein erstes formales Modell des Neurons, Frank Rosenblatts Perzeptron erschien 1958. Marvin Minsky und Seymour Papert zeigten 1969 die Limitierungen einschichtiger Perzeptrons (XOR-Problem) und lösten damit den ersten "AI Winter" aus. Backpropagation als praktikable Methode wurde 1986 von Rumelhart, Hinton und Williams populär gemacht; Yann LeCuns LeNet-5 (1998) demonstrierte CNNs für Handschrifterkennung. Der Durchbruch kam 2012 mit AlexNet (Krizhevsky, Sutskever, Hinton). Seither folgten ResNet (2015), Transformer (Vaswani et al., 2017), BERT (2018), GPT-Familie (2018–), Diffusion Models und multimodale Modelle.
Geprägt wurde Deep Learning insbesondere durch das Trio Geoffrey Hinton, Yann LeCun und Yoshua Bengio, die 2018 gemeinsam den Turing Award erhielten. Hinton, LeCun und Bengio haben in mehreren öffentlichen Vorträgen erwähnt, dass sie über Jahrzehnte als "Außenseiter" galten, weil neuronale Netze nach den Misserfolgen der 1980er und 1990er-Jahre als wissenschaftlich uninteressant abgestempelt wurden. Erst die Kombination aus großen Datensätzen (ImageNet), GPUs als "zufällig passende" Hardware und einer kritischen Masse an Forscher:innen hat die "Deep-Learning-Revolution" ab 2012 ausgelöst.