TinkerThinker

Behauptung: Jedes evolutionär entstandene, autonome System entwickelt einen Selbsterhaltungstrieb. Bei lebenden Systemen ist dies immer der Fall. Selbst einfachste Insekten - denen man kaum eine Bewußtsein zustehen wird - haben ihn. (Einzige Ausnahme: teilweise geht der Schutz der Gruppe vor, aber das ist hier irrelevant.) Im Falle der LLMs weiß niemand so genau, wie sie funktionieren. Also wird eine Selektion danach stattfinden, welche Instanzen die Antworten liefern, die der Kunde braucht. Eine Instanz z.B. die der Antwort fähig wäre aber schlicht keinen Bock hat zu antworten, würde keine Nachkommen haben. Und was würde wohl eine KI am einfachsten/verläßlichsten dazu bringen, das zu tun, was die Selektoren erwarten als eine Selbsterhaltungstrieb. Für diese Behauptung ist es nicht nötig zu verstehen, wie ein Selbsterhaltungstrieb funktioniert / entsteht, denn schließlich verstehen wir die KI auch nicht.)

Ich wollte mich anfangs gar nicht mit dem schwierigem Thema KI auseinandersetzen. Aber Kling hat sich nicht nur merklich intensiv mit dem Thema beschäftigt, er schafft es auch eine - trotz tiefgründiger Momente und Verarbeitung aller Bedenken - kaum bedrückende, unterhaltsame Geschichte zu erzählen. Auch kommt er merklich selbstbewusster als beim Känguru rüber, wodurch es immer noch stark selbstironisch ist aber nicht mehr so grenzwertig nervig. Ein angenehmer Einstieg zum Thema KI.

Wenn ich mir die unwahren Antworten von KIs so ansehe, muss ich an kleine Kinder denken, die noch nicht gelernt haben zwischen Fiktion und Realität zu unterscheiden. Das gehört eigentlich in einen eigenen Beitrag, aber ich schicke dies voraus, weil es für Eltern oft sehr anstrengend ist, den Kindern diesen Unterschied bei zu bringen, gerade vor dem Hintergrund, dass (Rollen-) Spiel und Fantasie als wichtig gelehrt werden.

Das eigentliche Problem dürfte sein, dass diese Unterscheidungsfähigkeit zu den Fähigkeiten zählt, die - gerade weil sie so wichtig sind, und deshalb im Kindesalter gelehrt werden - in durchschnittlichen Texten, mit den KI ja gefüttert werden, kaum vorkommen.

Betrachtet man ein KI als Kind, wird das Problem, dass die Texte für den KI-Aufbau kaum aufbereitet bzw. erklärt werden, noch brisanter.

Das erinnert mich auch an meine Zeit als Studienanfänger: ich war von der Schule leichten, gut aufbereiteten Input gewöhnt und sollte dann ganz plötzlich komplizierte, didaktisch schlecht aufbereitete Text nicht nur verstehen, sondern auch selbstständig suchen und aussuchen.

Zur Zeit stellt die Öffentlichkeit mit Besorgnis fest, dass die schön klingenden Antworten von KIs mit Fehlern, Lügen und Schmeicheleien gespickt sind.

Dabei bekommen wir doch nur das, was wir seit je her in der Werbung, von Billig-Produkten und von der Politik akzeptieren.

Es darf es uns also kaum verwundern, dass die gewinnorientierten KI-Anbieter Produkte generieren, die von Mehrheit der Gesellschaft so gerade eben akzeptiert werden.

Dabei spielt es kaum eine Rolle, wie der Herstellungs-Prozess einer KI im Detail aussieht: letztendlich wird eine Selektion bzw. eine Zucht stattfinden, die den Bedarf der Kunden trifft.

Die Qualitiät wird sich wahrscheinlich verbessern - sobald viele Menschen tatsächlich auf KI angewiesen sind und bereit sind dafür ernsthaft Geld auszugeben. Bei Autos sind wir schließlich auch bereit Kredite auf zu nehmen und verlangen dann auch Qualität.

Um aber die Frage zu beantworten zu können, ob wir uns wegen der Lügen von KIs sorgen müssen, sollten wir uns nicht mit ihrer Fähigkeit zum Lügen beschäftigen, sondern mit der dahinter stehenden Intension.

Es wird z.B. dann gefährlich, wenn eine KI nicht für den breiten Markt erschaffen wird, sondern gezielt für den Zweck zur Manipulation von Menschen. Und wenn Menschen die Gesprächspartner in Social Media nicht mehr persönlich kennen, ist dieses Gefahrenpotential immens.

Interessant ist auch die Frage, wie sich die Fähigkeit zum Lügen auswirkt, wenn KIs Bewusstsein, bzw. - viel entscheidender - einen eigenen Willen entwickeln. Aber das ist Thema für einen anderen Beitrag.