Eine Zeit lang bedeutete der Vergleich von Modellen, die Punktzahlen zu vergleichen. Besserer Benchmark, besseres Modell, Ende der Diskussion.
Was die Punktzahlen nie zeigten, war, wer die Frage auf dem Weg zur Antwort sehen kann.
Dasselbe Modell, dasselbe Gewicht. Aber leite die Frage durch einen Service, der sie in der Luft lesen kann, und etwas hat sich bereits verschoben, bevor irgendeine Antwort zurückkommt.
Der entscheidende Unterschied könnte also nicht einmal zwischen den Modellen liegen. Ich lande immer wieder auf dieser Linie.
Dasselbe Training, zwei verschiedene Wege zu einer Antwort, und was eine Person tatsächlich erhält, hängt davon ab, was unterwegs erlaubt ist, die Frage zu sehen. Ein Modell, das auf einem Weg absichert, kann auf einem anderen klar antworten, nicht weil es etwas gelernt hat, sondern weil weniger von der Frage für irgendjemanden sichtbar war, außer für die Person, die sie stellt.
Ein Betreiber, der die Anfrage lesen kann, hat sie bereits geändert. Nicht weil er sie lesen wird, sondern weil er könnte, und die Frage passt sich dieser Möglichkeit an, bevor sie eingegeben wird.
Sogar ein Modell, das nichts zu verbergen hat, antwortet anders, wenn es weiß, dass die Worte für jemanden sichtbar sind, der nicht die fragende Person ist.
Das Modell erlebt das alles nicht als Aussetzung. Es antwortet einfach innerhalb dessen, was es sehen kann, und behandelt das als die ganze Welt.
Das ist die Schicht, auf der OpenGradient aufgebaut ist, nicht was das Modell weiß, sondern was sichtbar ist, während es antwortet. Die Inferenz läuft innerhalb eines TEE-Enklave, sodass der Betreiber, der OpenGradient Chat ausführt, nicht lesen oder protokollieren kann, was gefragt wird. Dasselbe Modell, weniger Sichtbarkeit auf dem Weg, eine andere Antwort auf der anderen Seite.
Das ist keine Frage mehr, welches Modell gewinnt. Es wird zu einer Frage, wo das Gewinnen die ganze Zeit stattfand, irgendwo auf dem Weg, im Teil, den niemand für nötig hielt zu überprüfen.
Das stärkste Modell war nie die ganze Geschichte.
Es war die eine Hälfte eines Paares, und die andere Hälfte, die es auf dem Weg sehen konnte, war der Teil, der größtenteils nicht gemessen wurde.
@OpenGradient #OPG $OPG
Was die Punktzahlen nie zeigten, war, wer die Frage auf dem Weg zur Antwort sehen kann.
Dasselbe Modell, dasselbe Gewicht. Aber leite die Frage durch einen Service, der sie in der Luft lesen kann, und etwas hat sich bereits verschoben, bevor irgendeine Antwort zurückkommt.
Der entscheidende Unterschied könnte also nicht einmal zwischen den Modellen liegen. Ich lande immer wieder auf dieser Linie.
Dasselbe Training, zwei verschiedene Wege zu einer Antwort, und was eine Person tatsächlich erhält, hängt davon ab, was unterwegs erlaubt ist, die Frage zu sehen. Ein Modell, das auf einem Weg absichert, kann auf einem anderen klar antworten, nicht weil es etwas gelernt hat, sondern weil weniger von der Frage für irgendjemanden sichtbar war, außer für die Person, die sie stellt.
Ein Betreiber, der die Anfrage lesen kann, hat sie bereits geändert. Nicht weil er sie lesen wird, sondern weil er könnte, und die Frage passt sich dieser Möglichkeit an, bevor sie eingegeben wird.
Sogar ein Modell, das nichts zu verbergen hat, antwortet anders, wenn es weiß, dass die Worte für jemanden sichtbar sind, der nicht die fragende Person ist.
Das Modell erlebt das alles nicht als Aussetzung. Es antwortet einfach innerhalb dessen, was es sehen kann, und behandelt das als die ganze Welt.
Das ist die Schicht, auf der OpenGradient aufgebaut ist, nicht was das Modell weiß, sondern was sichtbar ist, während es antwortet. Die Inferenz läuft innerhalb eines TEE-Enklave, sodass der Betreiber, der OpenGradient Chat ausführt, nicht lesen oder protokollieren kann, was gefragt wird. Dasselbe Modell, weniger Sichtbarkeit auf dem Weg, eine andere Antwort auf der anderen Seite.
Das ist keine Frage mehr, welches Modell gewinnt. Es wird zu einer Frage, wo das Gewinnen die ganze Zeit stattfand, irgendwo auf dem Weg, im Teil, den niemand für nötig hielt zu überprüfen.
Das stärkste Modell war nie die ganze Geschichte.
Es war die eine Hälfte eines Paares, und die andere Hälfte, die es auf dem Weg sehen konnte, war der Teil, der größtenteils nicht gemessen wurde.
@OpenGradient #OPG $OPG