Klaviere können nicht fliegen

Ein Maler, der keine Utensilien hat, ist ein Visionär. Leider sieht sonst niemand seine Werke. Einer, der einen Steinway hat, ist nicht automatisch ein Pianist.

Dem einen fehlt das Werkzeug, dem anderen das Können. Ideal ist es, wenn Vision auf Instrument trifft. Ist damit alles gelöst? Nein, es braucht ausreichend Übung, um an einem Spitzeninstrument das »Wohltemperierte Klavier« zu spielen (gerne auch Beethoven, vielleicht Schubert als Wiener).

Die Hände auf den Tasten

Mit der künstlichen Intelligenz verhält es sich ähnlich. Wer eine Idee umsetzen will, braucht ein geeignetes Werkzeug. Wer es besitzt, muss damit umgehen lernen. Umgekehrt nimmt einem auch das beste Modell die Entscheidung nicht ab, was entstehen soll.

Übung bedeutet bei der KI: eine Aufgabe klar beschreiben, den nötigen Zusammenhang mitliefern und das Ergebnis beurteilen können. Dazu gehört auch, zu erkennen, wann eine Antwort überprüft werden muss.

Drei Flügel, drei Modelle

Steinway, Bösendorfer und Yamaha sind für mich die drei großen Namen im Klavierbau. Einen besten unter ihnen gibt es für mich nicht. Jeder hat seine Liebhaber, und was sie unterscheidet, ist der Klang, den sie im Ohr haben.

So ist es auch mit Claude, GPT und Gemini. Auch diese drei Modelle haben ihre Anhänger, und wer mit allen arbeitet, merkt bald, welcher Ton ihm liegt. Gegenseitige Kontrolle ist besser als das Vertrauen auf ein einziges Modell. Sie ersetzt allerdings nicht die Prüfung an den Quellen. Auch zwei Modelle können denselben Fehler übersehen.

Der Vorwurf an das Instrument

Wenn aus dem Bösendorfer kein Beethoven kommt, lastet man das gerne dem Instrument an, und nicht dem Spieler, der keine Ahnung vom Klavierspielen hat.

Bei der KI muss man genauer unterscheiden. Eine unklare Aufgabe kann zu einer Antwort führen, die an der Absicht vorbeigeht. Eine erfundene Tatsache ist etwas anderes. Sprachmodelle können auch dann falsche Angaben liefern, wenn die Frage klar gestellt ist. Solche plausibel klingenden Falschaussagen heißen Halluzinationen.

OpenAI beschreibt sie als grundlegendes Problem von Sprachmodellen. Das Unternehmen weist zugleich darauf hin, dass ein Modell bei Unsicherheit auf eine Antwort verzichten kann. Die Grenze des Instruments zu kennen heißt deshalb auch: Ein »Ich weiß es nicht« kann die bessere Antwort sein.

Die Grenzen

Human Centered AI, das Leitwort von gilgamesh.at, heißt für mich auch, dass der Mensch am Instrument die Verantwortung für das Ergebnis behält. Er muss entscheiden, ob das Ergebnis für den vorgesehenen Zweck taugt. Ein überzeugender Klang allein genügt nicht.

Man muss wissen, wo die Grenzen sind. Wer fehlerfreie Ergebnisse erwartet, hat nicht verstanden, wie KI funktioniert. Ein Klavier kann auch nicht fliegen.