Die Einheit der Gegensätze bei der Entwicklung von Agenten zur Computernutzung

Die Entwicklung computergestützter Agenten erfordert die Lösung einer Vielzahl von Gegensätzen: Mensch gegen Maschine, natürliche Sprache gegen Programmiersprache, Entropie gegen Ordnung und Flexibilität gegen Zuverlässigkeit. Um zu verstehen, wie diese Spannungen zusammenwirken, um maschinelle Intelligenz zu erreichen, müssen wir zunächst herausfinden, was einen Agenten tatsächlich „gut“ macht.

—

KI hat bewiesen so fähig wie Menschen in der Bedienung von Computerumgebungen, aber Fähigkeit allein reicht für künstliche allgemeine Intelligenz nicht aus. Zuverlässigkeit ist genauso wichtig.

Angenommen, Sie haben einen Kandidaten eingestellt, der alle Fragen des Vorstellungsgesprächs bestanden hat, aber in der ersten Woche drei kritische Fehler gemacht hat. Angesichts einer dringenden Frist würden Sie sich wahrscheinlich stattdessen an einen weniger beeindruckenden Kollegen mit einer Abschlussrate von 99% wenden.

Dieses Prinzip erklärt, warum sich der KI-Bereich von „pass @k“ -Benchmarks — die einmal erfolgreich waren — hin zu „pass^k“ -Metriken die wiederholten Erfolge unter ähnlichen Bedingungen messen. AGI ist nicht nur ein System, das bestimmte Aufgaben ausführen kann, sondern eines, das zuverlässig liefern immer wieder Ergebnisse, weil sie aus Fehlern der Vergangenheit lernen.

Aber was hindert Computer verwendende Agenten daran, diese Art von Zuverlässigkeit zu erreichen? Die Herausforderung liegt zum Teil in einem grundlegenden Unterschied zwischen menschlicher Kommunikation und Computerregeln.

Menschliche Sprache gegen Programmiersprache

Um die Zuverlässigkeit der KI zu erreichen, müssen wir uns mit einer schwierigen Realität auseinandersetzen: Die menschliche Sprache ist trotz all ihrer kommunikativen, überzeugenden und emotionalen Kraft zutiefst vieldeutig und schlecht für die Ausführung geeignet. Denken Sie an diesen vertrauten täglichen Austausch:

‍„Was möchtest du zum Abendessen?“
„Ich komme mit allem klar.“
„Wie wär's mit Sushi?“
„Hmm, ich hatte es gestern.“
„Pizza?“
„Das ist ein bisschen schwer vor dem Schlafengehen.“

‍Wenn Menschen Schwierigkeiten haben, einander zu verstehen, wie können wir dann erwarten, dass Maschinen unsere Wünsche zuverlässig ausführen? Dies ist von großer Bedeutung für Agenten, die Computer im Namen von Menschen bedienen sollen. Ein Computersystem muss Menschen gründlich verstehen, um ihre Befehle wie gewünscht ausführen zu können. Mit anderen Worten, ein zuverlässiger Agent ist ein Agent, der menschliche Ambiguität entziffern kann.

Computercode ist das Gegenteil: explizit, starr und daher zuverlässig. Das erzeugt ein interessantes Spannungsfeld: Wenn Sie eine natürliche, benutzerfreundliche Oberfläche wollen, gehen Sie beim Determinismus Kompromisse ein. Wenn Sie eine zuverlässige Ausführung wünschen, benötigen Sie deterministischen Code. KI-Systeme befinden sich heute unkomfortabel zwischen diesen beiden Polen.

Ein Ansatz, um dieser Spannung zu begegnen, besteht darin, Agenten zwei „Gehirne“ zu geben: eines, das in natürlicher Sprache mit Menschen kommuniziert, ein anderes, das Aufgaben in deterministischem Code ausführt. Die Agenten von Simular verwenden die Simulang System zur Übersetzung mehrdeutiger Anweisungen in natürlicher Sprache in strukturierte, wiederholbare Befehle. Sobald Aktionen im Code wiedergegeben sind, sind sie sowohl wiederholbar als auch steuerbar.

Entropie gegen Ordnung

Die Übersetzung menschlicher Ambiguität in Code löst nur die Hälfte der agentischen Herausforderung. Zuverlässigkeit selbst ist das Ergebnis des Widerstands gegen Entropie — das unaufhaltsame Abdriften des Universums in Richtung Unordnung. Die Zimmer werden unordentlich. Die Moral der Mitarbeiter schwankt. Organisationen existieren genau, um dem menschlichen Chaos Ordnung zu verleihen und Unsicherheit in Berechenbarkeit umzuwandeln. Code ist ein Werkzeug, um ungeordnete menschliche Ideen in geordnete, deterministische Systeme umzuwandeln.

Aus diesem Grund sind die drängendste Herausforderung in der heutigen KI nicht staatenlose Probleme — die Generierung eigenständiger Texte oder Bilder, die größtenteils gelöst wurden —, sondern zustandsbehaftete Probleme. Zustandsbehaftete Systeme beobachten ständig ihre Umgebung, reagieren auf Veränderungen und passen sich entsprechend an. Computerumgebungen sind der Inbegriff dieser Komplexität: Ordner bewegen sich, Dateien verschwinden, Anwendungen interagieren auf verflochtene Weise. Echte Arbeitsabläufe laufen in einer sich ständig verändernden, undeterministischen Umgebung ab, während Menschen schnell lernen und sich anpassen. Agenten, die wie Menschen arbeiten, müssen sich auch in realen Szenarien anpassen.

Dies bringt uns zu einem Paradoxon: Die zuverlässigsten Agenten könnten in einer chaotischen Umgebung unzuverlässig werden.

Zuverlässigkeit versus Flexibilität

Die reale Welt ist voller Veränderungen und staatlicher Systeme: Computer, Startups, Gesellschaften. In einem solchen Chaos erfordert wertvolle Arbeit Anpassungsfähigkeit. Überlebt werden diejenigen, die sich schnell anpassen — eine Beobachtung, die die Grenzen des Vortrainings aufzeigt, bei dem ein Modell einmal anhand eines großen Datensatzes trainiert wird und nur in Umgebungen mit geringen Veränderungen gut funktioniert.

Im Chaos der realen Welt müssen wir Agenten entwickeln, die korrigieren ihre Fehler schnell und rechtzeitig. Das ist die Essenz von kontinuierliches Lernen. Wenn ein Agent Fehler schnell genug erkennen und den Kurs korrigieren kann, wird seine Instabilität fast unsichtbar.

Diese Methode hat einen Haken: Der erste Entdecker des Problems zahlt in der Regel den Preis des Scheiterns. Die praktische Lösung ist, zumindest vorerst, ein Kompromiss. Wenn ein Agent etwas Ungewöhnliches feststellt, sollte er eine Pause einlegen und das Problem melden, anstatt einen Fehler zu machen. Ein spezialisiertes System — oder ein Mensch — kann das Problem dann diagnostizieren und beheben, bevor der Agent weiterarbeitet. Dadurch wird das Risiko auf die Experten konzentriert, anstatt es breit zu verteilen.

Diese Lösung — Menschen, die hochwertige, spezialisierte Arbeiten erledigen, während sich die Agenten auf vorhersehbarere, sich wiederholende Aufgaben konzentrieren, setzt eine Arbeitsteilung voraus. Was aber, wenn die Annahme falsch ist? Die langfristige Vision sieht vor, dass sich Menschen auf einmalige Urteile konzentrieren, während KI sich wiederholende, vorhersehbare Aufgaben erledigt. Sollte sich diese Annahme jedoch als falsch herausstellen — wenn sich herausstellt, dass KI bei einmaligen Aufgaben besser als Menschen und bei zuverlässiger Arbeit schlechter ist — stehen wir vor einem unerwünschten Szenario: KI ersetzt Eliten, indem sie hochwertige, einmalige Urteilsentscheidungen trifft, während Menschen zu sich wiederholenden Arbeiten verbannt werden.