So bringen Sie ein neuronales Netzwerk dazu, gültiges JSON ohne Workarounds und Wiederholungsanfragen auszugeben

Jeder, der versucht hat, ein Sprachmodell mit einem echten Backend zu verbinden, ist auf dieses Problem gestoßen. Sie schreiben einen detaillierten Prompt, bitten das Modell, strikt JSON mit der erforderlichen Struktur zurückzugeben, testen es an zehn Beispielen – alles funktioniert hervorragend. Aber bei der hundertsten Anfrage vergisst das neuronale Netz plötzlich, ein Anführungszeichen zu schließen, fügt den Satz „Hier ist Ihre Antwort!