Timur 5.7 Lite und Timur 5.6 sind da

Timur 5.7 Lite und Timur 5.6 sind ab sofort in der Modellauswahl. Timur 5.7 Lite ist die schnelle Version für den Alltag, Timur 5.6 die gründliche für Aufgaben, bei denen es auf Genauigkeit ankommt. Beide prüfen ihre Antworten jetzt auf Angaben, die sich nicht belegen lassen.

Kurz gesagt

• Schneller (Timur 5.7 Lite). In unseren Messungen antwortet Timur 5.7 Lite rund ein Drittel schneller als Timur 5.6 Lite, und es kam keine leere Antwort mehr vor. Warum, steht unten.
• Denkt nur bei Bedarf (Timur 5.6). Bei Alltagsfragen antwortet Timur 5.6 ohne lange Denkphase, bei schwierigen Fragen, Recht und Gesundheit denkt er nach.
• Belegprüfung. Aktenzeichen, Links, DOIs, Paragraphen, Zitate und Beträge, die in keiner Quelle stehen, werden im Text markiert, statt als gesichert dazustehen.
• Rechtsfragen mit Originalquellen. Timur liest Gesetze und Urteile bei den amtlichen Stellen nach und sagt dir, wenn es einen Paragraphen oder ein Aktenzeichen nicht gibt.
• Ungenau melden. Unter jeder Antwort gibt es einen kleinen Knopf. Es wird nur gezählt, kein Chat-Inhalt wird gesendet.

Was du davon merkst

Fragst du zum Beispiel nach „§ 999z BGB“, antwortet Timur, dass es diese Norm nicht gibt, und rät nicht, was sie regeln könnte. Nennt Timur in einer Antwort einen Link oder eine Studie, die er nicht in einer Quelle gefunden hat, steht das direkt dabei, etwa „(Link nicht verifiziert)“ oder „(nicht belegt)“. Du siehst also, worauf du dich verlassen kannst und was du selbst prüfen solltest.

So funktioniert es im Detail

Ab hier wird es technisch. Wir haben an mehreren Stellen etwas geändert: auf dem Server, im Browser und beim Modell selbst.

Auf dem Server

• Vorprüfung vor der Antwort. Steht in deiner Frage ein Paragraph (etwa „§ 312k BGB“ oder „Art. 6 DSGVO“) oder ein Aktenzeichen, schlägt der Server bis zu drei Normen und zwei Aktenzeichen parallel zur Antwort nach: bei gesetze-im-internet.de für Bundesrecht, bei EUR-Lex für EU-Recht wie die DSGVO und bei rechtsprechung-im-internet.de für die Bundesgerichte (BVerfG, BGH, BVerwG, BFH, BAG, BSG, BPatG). Das Ergebnis wird deiner Frage angehängt. Gibt es die Norm nicht, steht dort, dass sie nicht existiert, und Timur soll das klar sagen. Gibt es sie, bekommt Timur den Wortlaut gleich mit und muss ihn nicht mehr selbst abrufen. Der Abruf hat eine Frist von gut drei Sekunden. Klappt er nicht, passiert nichts.
• Prüfung beim Streamen. Der Server liest die Antwort, während sie entsteht, und vergleicht sie mit allem, was das Modell bekommen hat: den Ergebnissen der Werkzeuge in dieser Unterhaltung, dem Text der Suchergebnisse und der Vorprüfung. Aktenzeichen, Links, DOIs, Paragraphen, Zitate ab 30 Zeichen und Beträge (Euro, Prozent, Millionen), die dort nicht vorkommen, werden ersetzt oder mit einem Hinweis versehen, bevor sie dich erreichen. Ein Link wird zum Beispiel zu „(Link nicht verifiziert)“. Sagt Timur selbst, dass etwas nicht existiert („§ 999z gibt es nicht“), bleibt das unangetastet. Angefangene Stellen wie ein halber Link werden kurz zurückgehalten, bis sie vollständig sind, damit nichts nachträglich springt. Weil das im Server sitzt, gilt es für jeden Zugang zu diesen zwei Modellen, nicht nur im Browser. Am Ende steht ein Satz, wie viele Angaben markiert wurden.
• Behauptungen über die eigene Arbeit. Schreibt Timur „ich habe gesucht“ oder „verifiziert“, obwohl in dieser Runde weder eine Suche noch ein Werkzeug gelaufen ist, wird auch das markiert.
• Websuche startet sofort. Braucht eine Frage aktuelle Informationen, beginnt die Suche in dem Moment, in dem die Anfrage ankommt. Früher lief sie erst nach Limit-Prüfung, Gedächtnis-Abruf und der Auswahl des Modells. Jetzt läuft sie währenddessen, und die spätere Suchstufe schließt sich der laufenden Anfrage an, statt eine zweite zu starten. Das spart bei Fragen mit Suche die Zeit, die diese Schritte gedauert haben.
• Treffer nach Vertrauen sortiert. Suchergebnisse von Quellen, die wir als vertrauenswürdig führen (zum Beispiel öffentlich-rechtliche Medien, Bundesgerichte und Behörden), stehen vorn, skeptisch eingestufte hinten. Das ändert nur die Reihenfolge. Die Reihenfolge zählt, weil Modelle den ersten Treffern mehr Gewicht geben.
• Grenze für Nachschlag-Runden. Ein Modell kann mehrmals nachschlagen, jede Runde kostet Zeit. Timur 5.7 Lite darf höchstens dreimal, Timur 5.6 sechsmal Werkzeuge nutzen. In der nächsten Runde bekommt das Modell keine Werkzeuge mehr und den Auftrag, mit dem zu antworten, was es hat, und offen zu sagen, was es nicht finden konnte. In unseren Tests ist es vorgekommen, dass ein Modell viele Male hintereinander suchte und am Ende gar nicht antwortete.
• Timur 5.7 Lite denkt weniger vor der Antwort. Das Modell hinter Timur 5.7 Lite ist ein Denkmodell und lässt sich nicht ganz ohne Denken betreiben. Standardmäßig schrieb es vor jeder Antwort lange „Gedanken“ auf, die du nicht siehst, aber die Zeit und Token kosten. Bei einer einfachen Erklärung waren das in unserer Messung rund 1.100 bis 1.200 Token und 10 bis 12 Sekunden, mit der Einstellung „niedrig“ nur noch rund 350 Token und 6 bis 7 Sekunden bei demselben Inhalt. Außerdem: Ist das Limit der Antwort schon in den Gedanken aufgebraucht, bleibt für den eigentlichen Text nichts übrig, und die Antwort ist leer. Das ist bei der kürzeren Denkphase in unseren Tests nicht mehr passiert.
• Timur 5.6 denkt bei Bedarf. Das Modell hinter Timur 5.6 hat einen Schalter für die Denkphase. Er bleibt an bei Gesundheits- und Rechtsfragen, bei Texten über 4.000 Zeichen und bei Fragen, die ein kleines, schnelles Modell als schwierig einstuft. Bei sehr kurzen Nachrichten (bis 25 Zeichen) entfällt diese Einstufung. Bei allem anderen antwortet Timur 5.6 ohne Denkphase.
• Feste Anweisungen zuerst. Jede Anfrage enthält einen langen, gleichbleibenden Teil: unsere Regeln und die Werkzeugbeschreibungen, zusammen rund 13.000 Token. Er steht jetzt vorn, Datum, Rechts-Hinweise und dein Gedächtnis kommen danach. Modell-Anbieter können einen gleich bleibenden Anfang zwischenspeichern und verrechnen ihn dann günstiger. Ob und wie viel das bei uns bringt, können wir nicht sehen, weil der Anbieter es nicht meldet. Das Einlesen dieses Teils kostet nach unserer Messung etwa eine halbe bis eine Sekunde pro Modellaufruf.
• Zweiter Versuch. Bricht die Verbindung zum Modell kurz ab („socket hang up“), wartet der Server 0,3 Sekunden und versucht es genau einmal erneut, bevor du eine Fehlermeldung siehst.

Im Browser

• Dieselbe Prüfung noch einmal. Ein Modell kann in mehreren Runden arbeiten: erst ein Werkzeug aufrufen, dann antworten. Der Server sieht dabei jede Runde einzeln. Im Browser wird deshalb der gesamte Text noch einmal gegen alle Ergebnisse der Unterhaltung geprüft.
• Parallele Abfragen. Ruft ein Modell in einer Runde mehrere reine Lese-Werkzeuge auf (Websuche, Webseite lesen, Gesetze, Urteile, Wetter, Kurse, Nachrichten, Orte, Bahn, Sport, YouTube-Transkript, Bildsuche, Rechner), laufen sie gleichzeitig. Die Wartezeit ist dann die der langsamsten Abfrage und nicht die Summe aller. Bei drei Abfragen à zwei Sekunden sind das zwei statt sechs Sekunden. Werkzeuge mit Nebenwirkungen wie E-Mail, Dateien oder Spotify laufen weiter einzeln.
• Rundengrenze. Der Browser setzt die oben beschriebene Grenze für Nachschlag-Runden durch und schaltet die Werkzeuge in der Runde danach ab.
• Der „Ungenau“-Knopf. Er sendet nur „eine Antwort dieses Modells war ungenau“ und den Modellnamen. Der Chat wird nicht mitgeschickt.

Wie schnell ist es geworden, und woher kommt das?

Wir haben dieselben 50 Testfragen (Datum, Rechnen, Fakten, erfundene Dinge, Aktuelles, Recht, Code) vorher und nachher laufen lassen. Das sind eigene Messungen, keine Nutzerdaten, und einzelne Läufe schwanken.

• Timur 5.7 Lite gegenüber Timur 5.6 Lite: Mittlere Antwortzeit 4,1 statt 6,6 Sekunden, Durchschnitt 5,4 statt 9,8 Sekunden, die langsamsten zehn Prozent 10,0 statt 19,5 Sekunden. Richtig beantwortet wurden in beiden Läufen gleich viele Fragen (46 von 50). Den größten Teil des Gewinns bringt die kürzere Denkphase, die anderen Änderungen wirken vor allem bei Antworten mit Suche oder Werkzeugen.
• Timur 5.6 gegenüber der Vorversion mit Dauer-Denken: Mittlere Antwortzeit 4,4 statt 5,2 Sekunden, Durchschnitt 6,2 statt 7,7 Sekunden, bei gleich vielen richtigen Antworten (47 zu 48 von 50, im Rauschen).
• Timur 5.6 gegenüber Timur 5.5: Beim Tempo etwa gleichauf (mittlere Antwortzeit je 4,4 Sekunden). Bei Fragen mit Websuche war Timur 5.6 in unserer Messung sogar etwas langsamer (rund 8 statt 6 Sekunden). Der Unterschied liegt bei Timur 5.6 vor allem in der Belegprüfung und den Rechtsquellen, nicht im Tempo.

Was die Prüfung nicht kann

Sie erkennt Angaben, die sich prüfen lassen: Aktenzeichen, Links, DOIs, Paragraphen, Zitate und Beträge. Eine falsche Jahreszahl oder ein falscher Zusammenhang mitten im Text fällt ihr nicht auf. Timur kann sich also weiterhin irren, und die Markierungen sind Hinweise, keine Garantie. Bei Rechtsfragen erklärt Timur die Rechtslage, ersetzt aber keine Rechtsberatung.

Datenschutz und Zähler

Die Prüfung läuft im Server und speichert nichts zusätzlich. Wir zählen nur pro Tag und Modell, wie viele Antworten geprüft wurden, wie oft die Prüfung etwas markiert hat und wie oft der „Ungenau“-Knopf gedrückt wurde. Diese Zähler enthalten weder Nutzer noch Text.

Preis und Verfügbarkeit

Die Preise pro Token ändern sich nicht: Timur 5.7 Lite wird wie Timur 5.6 Lite abgerechnet, Timur 5.6 wie Timur 5.5. Weil Timur 5.7 Lite weniger Denk-Token erzeugt, kann eine einzelne Antwort etwas weniger Limit verbrauchen. Beide Versionen gibt es ab sofort für alle Nutzer. Die bisherigen Modelle bleiben weiter unter „Nicht unterstützte Modelle“ auswählbar.

— das deldown-Team