KI-Agent
Kurz gesagt
Ein KI-Agent ist ein System, das ein Sprachmodell nutzt, um über mehrere Schritte ein Ziel zu verfolgen: schlussfolgern, Werkzeuge nutzen, das Ergebnis beobachten und nachsteuern.
Quellen[1]
Definition
Ein KI-Agent ist ein System, in dem ein Sprachmodell nicht nur einmal antwortet: Es entscheidet über Aktionen (im Web suchen, eine Datei lesen, eine API aufrufen, Code ausführen), beobachtet deren Ergebnis und macht weiter, bis das gesetzte Ziel erreicht ist oder es abbricht.
Typische Bestandteile
- Sprachmodell: das „Gehirn“, das schlussfolgert und Aktionen auswählt.
- Werkzeuge: Funktionen, die der Agent aufrufen kann, um zu handeln oder sich zu informieren.
- Ausführungsschleife: Wechsel zwischen Schlussfolgern, Handeln und Beobachten. Der Ansatz ReAct (Yao et al.) hat diese Kombination formalisiert.
- Gedächtnis: Bewahren des Aufgabenkontexts, manchmal auch längerfristiger Erinnerungen.
- Schutzmechanismen: Begrenzung der Aktionen, menschliche Freigabe für heikle Vorgänge.
Vorteile
Automatisierung mehrstufiger Aufgaben (Recherche, Datenverarbeitung, Softwareentwicklung), die bisher ständige menschliche Mitwirkung erforderten.
Grenzen und Risiken
- Sich fortpflanzende Fehler: Ein Fehler in einem Schritt kann sich auf die folgenden übertragen.
- Aktionen mit realen Folgen: Ein mit Werkzeugen verbundener Agent kann Daten senden, ändern oder löschen; seine Rechte müssen begrenzt und heikle Aktionen freigegeben werden.
- Kosten und Vorhersehbarkeit: mehrere Modellaufrufe pro Aufgabe und ein manchmal schwer vorhersehbares Verhalten.
- Sicherheit: Externe Inhalte, die der Agent liest, können bösartige Anweisungen enthalten (Prompt Injection).
Ein Fehler oder eine Idee zu diesem Eintrag? Sagen Sie es uns