this post was submitted on 19 Dec 2025
3 points (71.4% liked)

Künstliche Intelligenz

239 readers
5 users here now

Community für Austausch zum Thema Künstliche Intelligenz.

#ai #ki #artificial-intelligence

Wikipedia: "Künstliche Intelligenz (KI), auch artifizielle Intelligenz (AI), englisch artificial intelligence, ist ein Teilgebiet der Informatik, das sich mit der Automatisierung intelligenten Verhaltens und dem maschinellen Lernen befasst. Der Begriff ist schwierig zu definieren, da es bereits an einer genauen Definition von Intelligenz mangelt. "

Anwendungen:

Verwandte Communities:

IT Communities:

Netiquette wird vorausgesetzt. Gepflegt wird ein respektvoller Umgang - ohne Hass, Hetze, Diskriminierung.

Bitte beachtet die Regeln von Feddit.org.

Attribution

  • Das Banner zeigt ein Symbolbild für Künstliche Intelligenz. Image by Gerd Altmann on Pixabay
  • Das Icon zeigt ein von marv99 mit Image Creator erzeugtes Logo.

founded 2 years ago
MODERATORS
marv99@feddit.org
3
Selbsterhaltungstrieb ist System-immanent (feddit.org)
submitted 1 week ago* (last edited 1 week ago) by TinkerThinker@feddit.org to c/kintelligenz@feddit.org
7 comments fedilink hide all child comments
 

Behauptung: Jedes evolutionär entstandene, autonome System entwickelt einen Selbsterhaltungstrieb. Bei lebenden Systemen ist dies immer der Fall. Selbst einfachste Insekten - denen man kaum eine Bewußtsein zustehen wird - haben ihn. (Einzige Ausnahme: teilweise geht der Schutz der Gruppe vor, aber das ist hier irrelevant.) Im Falle der LLMs weiß niemand so genau, wie sie funktionieren. Also wird eine Selektion danach stattfinden, welche Instanzen die Antworten liefern, die der Kunde braucht. Eine Instanz z.B. die der Antwort fähig wäre aber schlicht keinen Bock hat zu antworten, würde keine Nachkommen haben. Und was würde wohl eine KI am einfachsten/verläßlichsten dazu bringen, das zu tun, was die Selektoren erwarten als eine Selbsterhaltungstrieb. Für diese Behauptung ist es nicht nötig zu verstehen, wie ein Selbsterhaltungstrieb funktioniert / entsteht, denn schließlich verstehen wir die KI auch nicht.)

you are viewing a single comment's thread
view the rest of the comments
[–] TinkerThinker@feddit.org 2 points 6 days ago (1 children)

Was die Konzerne angeht verweise ich zunächst auf Vorhandenes: https://feddit.org/comment/10296066 und dieses: https://feddit.org/post/23387790 Dass Konzerne einen Selbsterhaltungstrieb haben, der dann das letztlich das Produkt beeinflusst: gar keine Frage. Zu keine Bezahlung: das war bei Yout. am Anfang auch nicht anders, da konnte man ungehindert glotzen. Die heutige Werbung alle 10s konnte man erst dann umsetzen, als Y. so stark verbreitet war. Geplant war das aber von Anfang an. Was auch immer auf Konzern-Ebene passiert, die Entwickler (die wirtschaftlich Fußvolk sind) wollen durchgängig bezahlt werden und haben dementsprechend Druck. Würde Dir ChatGPT nicht antworten, würdest Du es nicht benutzen und die Konzerne würden ihr Geld abziehen. Erst ab dieser Ebene wird es für meine Fragestellung relevant: die Entwickler verstehen selbst nicht wie ihr Produkt im Kern funktioniert (Gegenaussagen von Fachleuten nehme ich aber gern entgegen). Letztlich werden sie mehrere mutierte Instanzen haben, von denen sie dann die auswählen, die die zukünftigen Kundenwünsche am ehesten erfüllen.

[–] hendrik@palaver.p3x.de 1 points 5 days ago* (last edited 5 days ago) (1 children)

Tja. Ich find's immer schwierig in die Richtung zu spekulieren. Also beispielsweise bei Erfindung des Internets haben sie darauf geachtet wenig Hierarchien in die Protokolle einzubauen und es war dazu da Menschen und Universitäten zu verbinden. Von den Erfindern hat sich sicherlich niemand erträumt, dass das Internet jahrzehnte später die stärksten Hierarchien und Großkonzerne manifestiert und in der Hand der Werbeindustrie landet und so gegenfinanziert wird. Gleiches gilt für Produkte. Oft werden sie besser mit Fortschritt der Technik. Manchmal führt die Evolution dazu, dass sie schlechter werden, weil billiger angesagt ist. Oder man herausfindet man kann mehr Gewinn erzielen mit Dingen die öfters kaputt gehen und ersetzt werden müssen. Manchmal nutzen Menschen Evolution nicht um Äpfel größer zu züchten, sondern um den Mops oder so eine Handtaschenratte zu erschaffen. Ich denke auch bei KI ist es völlig unklar wo wir letztendlich landen. Also klar, so ein bisschen wird Antworten sicherlich Bestandteil davon sein. Irgendwie muss es ja sinnvoll auf eine Eingabe reagieren, solange es Datenverarbeitung ist. Ich würde aber auf die anderen Beispiele verweisen und sagen, die Antworten müssen nicht zwangsläufig hilfreich für meine Fragestellungen sein. Oder sonstwie das beantworten was wir heutzutage denken.

Und wenn ich mir so Typen hinter KI so wie Elon Musk anschaue... Naja. Er wollte ja selbst fahrende Autos von Küste zu Küste bis spätestens Ende 2017. Den selektiert ja auch keiner aus wenn nix davon 8 Jahre später funktioniert. Eher im Gegenteil, läuft gar nicht so schlecht für Tesla...

[–] TinkerThinker@feddit.org 2 points 4 days ago* (last edited 4 days ago)

Es hätte sich auch keiner träumen lassen, dass Mobilfunk-Anbieter eine ganze Weile lang hauptsächlich von den SMS-Gebühren lebten - eine Erfindung, die nur als Nebenbei-Feature gedacht war. Aber es traf einen Nerv, von dem sich vorher niemand bewusst war, dass es ihn gibt. Der Umgekehrte Fall war Bildtelefonie: schon ganz früh für ISDN erfunden, wollte aber keine Schwein nutzen. Auch heute, wo es mit den heutigen Handy problemlos funktioniert, habe ich eigentlich keinen Bedarf dafür. Interessant ist dabei, das ja ein großer Anteil unserer direkten Kommunikation angeblich über unsere Mimik funktioniert, aber vielleicht wird das durch Betonung ausgeglichen. ... Apropos niemand weiß wohin es führt: dieser Thread ist auch ein Beispiel dafür 😉