(Kurze) Einführung in die KI

Die später genutzten LLM (Large Language Models) sind nur ein kleiner Bereich der Künstlichen Intelligenz.

LLMs

LLMs wurden 2017 erstmalig von Google entwickelt. Im Kern nutzen sie wie die meisten Algorithmen zur Modellbildung ein bzw. mehrere künstliche(s) neuronale(s) Netzwerke.

Einordnung KI

Anwendungsfelder

• Wissensbasierte Expertensysteme
• Suchmaschinen
• Übersetzer (Fremdsprachen,…)
• Muster-Analyse
• Big-Data-Verarbeitung
• Bilderkennung
• Autonome Fahrzeuge / Waffen
• Persönliche Assistenten, Chatbots

Geschichte der KI

wann	was
1960	IBM: Schachprogramm
1996	Deep Blue →Kasparow
2011	Google →Brain
2016	Alpha Go →lernendes System mit KNN + Regeln
2017	Google →Transformer Architecure
2020	OpenAI →GPT-3
2022	OpenAI →GPT-4 für Alle
2024	AI Act der Europäischen Union

Training und Nutzung

Neuronale müssen trainiert werden. Bei dem Beispiel "Verkehrsschilder erkennen" werden unterschiedliche Verkehrsschilder trainiert, um sie z uklassifizieren (Erkennen).

Nun wird diesem trainierten KI-System ein Verkehrsschild "gezeigt":

An den Ausgängen des Netzes sind

1. Ideale Zustände und
2. Reale Zustände

gezeigt. Das Netz erkennt mit einer begrenzten (hier: 82%) Wahrscheinlichkeit das Stopschild...!!!

Dieses Prinzip gilt für alle Anwendungen mit "künstlichen neuronalen Netzen" - also auch für die nachfolgend beschriebenen "Großen Sprachmodelle".

LLM

Definition

Ein LLM ist ein Algorithmus, der trainiert wird, um die Struktur und die Eigenschaften der menschlichen Sprache zu verstehen.

• Basieren auf KNN

• 2017: Transformer-Architektur

Attention is all you need

Training durch Vorhersagen

Vorhersagen unterliegen Eintrittswahrscheinlichkeiten (Statistik, Verteilungsfunktion, ...). Beim Training der inneren KNNs werden zwei Methoden verwendet:

1 Das nächste Wort "erraten"

2 Lückenwort raten

Anwendungen

• Prompt Engineering: Gut strukturierte Prompts führen zu besseren Ergebnissen
• Iterative Verbesserung: Verschiedenen Formulierungen und Ansätzen
• Kontext nutzen: relevante Hintergrundinformationen einbauen
• Grenzen verstehen: LLMs können „halluzinieren“
• Ethische Nutzung: Datenschutz, Urheberrechte, …
• Meinungsmanipulation, Deep Fake, ...+

Das Feld ist beliebig weit und wird immer stärker wachsen. Mit der Verfügbarkeit der LLMs sind Mensch und Maschinen eine wichtigen Schritt weitergekommen:

• Universelle Mensch-Maschine-Schnittstelle
• Spracherkennung