Das Ökosystem autonomer KI-Agenten in einem Repository

Andrew Ng hat kürzlich einen interessanten Punkt gemacht: Ein einfaches Modell wie GPT-3.5, eingebettet in einen agentischen Workflow, kann grundlegendes GPT-4 bei praktischen Aufgaben übertreffen. Eine behauptbare Aussage, aber der Trend ist klar. Traditionelle Chatbots weichen autonomen Systemen, die Schritte planen, externe APIs aufrufen und ihre eigenen Fehler korrigieren können.

Während einige Entwickler versuchen, ihren eigenen Agenten von Grund auf zu bauen, erstellen andere Tools für Orchestrierung, Speicher und Debugging solcher Systeme. All diese Projekte sind über GitHub verstreut. Slava Kuryliak hat den awesome-ai-agents-Katalog zusammengestellt und über zweihundert Bibliotheken, Frameworks und fertige Lösungen für den Bau von Agenten organisiert.

Was sich im Katalog befindet

Die Auswahl ist in thematische Blöcke unterteilt, wobei der Hauptfokus auf Entwicklungstools liegt. Wenn man das Rauschen und die Werbelinks herausfiltert, bietet das Repository eine klare Karte des modernen Agent-Technologie-Stacks.

Die Kategorien in der Liste decken nahezu alle Phasen der Entwicklung ab:

• Orchestrierungs-Frameworks und Multi-Agenten-Systeme.
• Tools für die Arbeit mit Code und die Ausführung von Befehlen im Betriebssystem.
• Speicherschicht, Function Calling und strukturierte Ausgabe.
• Lösungen für das lokale Ausführen von Modellen und das Verfolgen von Metriken.

Lohnt einen genaueren Blick

Bei Hunderten von Links kann man leicht den Überblick verlieren. Ich habe einige Projektgruppen hervorgehoben, die wirklich die Art und Weise verändern, wie wir Code schreiben und Systeme bauen.

Multi-Agenten-Frameworks

Die Idee, eine komplexe Aufgabe zwischen mehreren spezialisierten Agenten aufzuteilen, ist zum Standard geworden. Die Liste wird angeführt von crewAI, LangGraph und Microsoft AutoGen.

Bei crewAI definiert man Agentenrollen (zum Beispiel Researcher und Editor), setzt deren Ziele und Tools und startet dann den Prozess. LangGraph geht weiter und baut zyklische Graphen. Darin wird der Zustand zwischen Knoten weitergegeben, mit der Möglichkeit für menschliche Eingriffe. Microsofts AutoGen konzentriert sich auf Dialoge zwischen Agenten, bei denen sie autonom Code schreiben, testen und sich gegenseitig Feedback geben können.

Autonome Programmierer

Tools wie Open Interpreter und Aider verändern die Art und Weise, wie wir traditionell mit Terminals und IDEs arbeiten.

Open Interpreter führt generierten Code direkt auf Ihrem Computer aus und verwaltet Dateien und Systemprogramme durch natürliche Sprache. Aider arbeitet direkt in einem Git-Repository. Sie bitten es, eine Funktion umzuschreiben oder Tests hinzuzufügen, und es nimmt die Änderungen vor und erstellt selbst einen aussagekräftigen Commit.

Zuverlässigkeit und strukturierte Ausgabe

Das Hauptproblem bei grundlegenden LLMs sind unvorhersehbare Antworten. Wenn ein Agent eine REST-API aufrufen muss, braucht er striktes JSON. Dafür enthält die Auswahl die Bibliotheken Instructor und Outlines.

Instructor erweitert Pydantic und zwingt das Modell, validierte Datentypen zurückzugeben. Wenn das Modell einen Fehler im Schema macht, sendet die Bibliothek automatisch eine Wiederholungsanfrage mit den Fehlerdetails. Outlines verwendet reguläre Ausdrücke und kontextfreie Grammatiken auf Token-Generationsebene und garantiert 100% Formatkonformität.

Langfristiger Speicher

Agenten ohne Speicher vergessen den Kontext vergangener Sitzungen. Das Projekt Mem0 löst dies, indem es eine intelligente Speicherschicht für LLMs hinzufügt. Es speichert Fakten über den Benutzer und vergangene Operationen und eliminiert die Notwendigkeit, einen massiven Kontext in jedem Prompt weiterzugeben.

from mem0 import Memory

m = Memory()
m.add("Пользователь предпочитает код на Python и использует PostgreSQL", user_id="dev_123")
related_memories = m.search(query="Какой стек использовать?", user_id="dev_123")

Praktischer Nutzen und Fallstricke

Der Katalog hilft, schnell einen Stack für eine bestimmte Aufgabe auszuwählen. Brauchen Sie einen lokalen Agenten für die Arbeit mit Dokumenten, ohne Daten nach außen sickern zu lassen? Informieren Sie sich über Ollama, PrivateGPT und Jan. Müssen Sie Anrufüberwachung einrichten und Token-Kosten verfolgen? Langfuse und Helicone stehen Ihnen zur Verfügung.

Gleichzeitig hat das Projekt seine Eigenheiten. Die Seite enthält viele Werbelinks zu kommerziellen Diensten und den Startups des Autors. Die Anzahl der offenen Issues auf GitHub übersteigt zweihundert, und der Autor aktualisiert einige Einträge manuell. Projektbeschreibungen sind manchmal spärlich, daher müssen Sie immer noch durch Links klicken und die ursprüngliche README lesen.

Lohnt es sich zu bookmarken

Wenn Sie einen autonomen Agenten entwerfen oder einfach die Entwicklung der LLM-Infrastruktur im Auge behalten, dient das Repository als bequemer Ausgangspunkt. Es spart Zeit bei der Suche nach Bibliotheken wie Schema-Validatoren oder lokalen Speicher-Engines. Ein kurzer Blick auf den Anfang der Liste genügt, um zu verstehen, in welche Richtung sich die Branche entwickelt.