Um mitzumachen, melde dich bitte an.
  • Kann eine KI selbst was wollen?

    Diskussion · 61 Beiträge · 808 Aufrufe
    Stefan aus Linz

    In der Gruppe Künstliche Intelligenz gibt es einen Aufsatz von Vincent Müller, einem deutschen Philosophen, wo im letzten Kapitel folgender Satz zu lesen ist:

     

    Eine der vielen offenen Fragen ist, ob ein nicht-lebendes System »echte Ziele« in dem Sinne haben kann, der für Handlungsentscheidungen und Verantwortung erforderlich ist, d.h. Ziele, die für das System einen subjektiven Wert haben und die das System reflektierend als wichtig erkennt.

     

    Neulich könnte es (fast) soweit gewesen sein, als in einem Testszenario eine KI angeblich erpresst und bedroht hat.


    https://futurezone.at/science/ki-hat-nutzer-aus-selbstschutz-erpresst-und-bedroht-anthropic-claude-test-forschung-kuenstliche/403043894

     

    Was meint ihr? Sind wir kurz davor KIs zu erschaffen, die aus eigenem Antrieb eigene Ziele verfolgen? Kann das bei einem nicht-biologischen System überhaupt möglich sein? Braucht es dazu Bewusstsein?

    26.05.25, 10:39 - Zuletzt bearbeitet 26.05.25, 10:40.

Beiträge

  • 01.07.25, 19:41
    Bild_2025-07-01_164221771.png

       😉                                                                                                                                                                        

  •  

    Elli:

     

    Michi aus Lönneberga:

    Kurze Antwort:
    Alles ist Bewusstsein im weitesten Sinne.

    Im "Blackswan-Ereignis" zwischen 2020 -2023 sollten wir doch eines gelernt haben: "Zu jeder These gibt es eine Gegenthese bzw. verschiedene Ansichten." Die ultimative Frage(n) ist jedoch: Wohin lenke ich meine Aufmerksamkeit? Welchen Wolf möchte ich füttern? In welcher Welt möchte ich leben?
    In dem Sinne.. :)

    In welcher Welt möchten wir leben?

    Bei der ganzen Technologie, die schon da ist und auf uns zu kommt-möchte man Mensch sein-Mensch bleiben, Menschen um sich haben  . . Empathie, gibt es nicht im Appstore oder doch .....

     

    * Technologie und Leben, dazu braucht es Aufklärung, wie man damit umgehen kann und wie sie nicht schadet. 

    mittendrin & schon dabei, dabei ist alles.. ;):))

  • 01.07.25, 13:35 - Zuletzt bearbeitet 01.07.25, 14:03.

     

    Michi aus Lönneberga:

    Kurze Antwort:
    Alles ist Bewusstsein im weitesten Sinne.

    Im "Blackswan-Ereignis" zwischen 2020 -2023 sollten wir doch eines gelernt haben: "Zu jeder These gibt es eine Gegenthese bzw. verschiedene Ansichten." Die ultimative Frage(n) ist jedoch: Wohin lenke ich meine Aufmerksamkeit? Welchen Wolf möchte ich füttern? In welcher Welt möchte ich leben?
    In dem Sinne.. :)

    In welcher Welt möchten wir leben?

    Bei der ganzen Technologie, die schon da ist und auf uns zu kommt-möchte man Mensch sein-Mensch bleiben, Menschen um sich haben  . . Empathie, gibt es nicht im Appstore oder doch .....

     

    * Technologie und Leben, dazu braucht es Aufklärung, wie man damit umgehen kann und wie sie nicht schadet. 

  • 01.07.25, 09:40

     

    Mäggi:

    Da KIs mit menschlichen Daten, Kommunikationsmustern etc. trainiert werden, könnte ich mir vorstellen, dass sie Absichten/Ziele evt. daraus ableiten könnten...

    Da fällt mir nur ein Lied ein:

    Electric Light Orchestra - Confusion (Official Video) - YouTube

  • 01.07.25, 07:02 - Zuletzt bearbeitet 01.07.25, 07:08.

    Kurze Antwort:
    Alles ist Bewusstsein im weitesten Sinne.

    Im "Blackswan-Ereignis" zwischen 2020 -2023 sollten wir doch eines gelernt haben: "Zu jeder These gibt es eine Gegenthese bzw. verschiedene Ansichten." Die ultimative Frage(n) ist jedoch: Wohin lenke ich meine Aufmerksamkeit? Welchen Wolf möchte ich füttern? In welcher Welt möchte ich leben?
    In dem Sinne.. :)

  • 27.06.25, 15:43

    Da KIs mit menschlichen Daten, Kommunikationsmustern etc. trainiert werden, könnte ich mir vorstellen, dass sie Absichten/Ziele evt. daraus ableiten könnten...

  • 08.06.25, 20:57

     

    Mandi:

     

    Reinhard1972:

     

    Als ich 1998 meinen ersten IT-Beruf aufnahm, wurde in der IT die Auffassung vertreten, dass ein Großteil der Bevölkerung mit IT- und Drogenkonsum glücklich gestellt würde, weil man sie ja doch nicht benötigen würde und es relativ billig und human sei. Und die IT-Bude war damals schon eine Kreativ-, aber auch Drogen- und Partybude aus dem Bereich new economy. 

    Ich frage mich tatsächlich, ob die KI tatsächlich nicht mehr Lösung als Gefahr darstellt, unabhängig davon, dass ich die gesellschaftliche Entwicklung insgesamt missbiliige.     

    Nicht nur Drogenkonsum, sondern auch Konsum allgemein. Social Media, vorher Fernsehen, beschäftigt die Leute schon seit Jahrzehnten intensiv. KI ist nur noch eine Steigerung des möglichen, meiner Meinung nach.

     

    Was ist wirtschaftlich gewollt? Und was ist mit dem heiligen Wirtschaftswachstum? Gibt es da einen Boost durch KI und kann ein noch größerer Teil der Bevölkerung tatsächlich ruhig gestellt werden?

    Ich weiß nicht, ob immer das große wirtschaftliche Ganze gesehen wird. Es gibt zwar Institutionen wie das Word Economy Forum, die mit ihren young-leadership-programs und ihren Netzwerken tief in die Politik eingreifen. Aber ich glaube, es ist wie mit den rotary- / lions-Clubs vor Ort, es werden einfach nur lukrative deals eingestielt. Es wird zwar immer behauptet, es ginge um das Große und Ganze und um eine bessere Welt, aber ich denke es geht ganz profan, um Totos / Dealz. 

    Bill Gates hatte zu keiner Zeit ein seriöses Geschäft betrieben, sondern stets Geschäfte mit wettbewerbswidrigen Methoden, was keinen interessierte. In der New Economy haben sich die Banken und Gründer in der Boom-Phase die Taschen betrügerisch voll gestopft, Politik und Staatsanwaltschaften schauten auch hier weg. Danach haben sich die globalen IT-Unternehmen und ihre shareholder die digitale Welt mit Monopolen erschlossen, es hat auch keinen Verantwortungsträger interessiert. In der Corona-Zeit haben sich die Gesundheits- und Pharma-Sparte unter dem Pharma-Lobbyisten Spahn rücksichtslos die Taschen auf Kosten der Gesundheit der Bevölkerung vollgestopft. Nunmehr stopft sich die Kriegsindustrie die Taschen voll. Kriegsschreierei werden von der WEF-geschulten Baerbock als Friedensklänge verkauft. Die Kriegsindustrie wird die Auto-Industrie retten. Ob und wie sich morgen die KI-Unternehmen die Taschen vollstopfen werden, weiß ich nicht. In der Regel definiert die Nachfrage den Markt. Wenn immer mehr Arbeitnehmer ausfallen, dann wird die Nachfrage automatisch steigen und die KI-Unternehmen die Angebote und Lösungen anbieten. Das gleiche gilt für den sozialen Bereich. Wo heute schon IT, Haustiere und Satisfyer soziale Kontakte ersetzen, werden mit Sicherheit auch die KI-Unternehmen Angebote einbringen.     

  • 08.06.25, 20:36

     

    Mandi:

     

    Reinhard1972:

     

    Wenn man aber berücksichtigt, dass soziale Bedürfnisse im Kernbereich, nämlich im Zusammenleben / Gemeinschaft, nicht erfüllt werden, müsste eigentlich die erste Frage in Politik, Gesellschaft und Familien lauten, welche Stellschrauben überhaupt bestehen, um diese Bedürfnisse besser zu erfüllen. Die Frage packt aber kaum jemand an, weil die Antwort auch die Bereiche Benehmen, Rücksichtnahme, Verzicht, Nachgeben, Flexibilität, pp., betrifft. Selbstverwirklichung müsste gegenüber einer realen Sozialverwirklichung zurück treten. Weil diese Frage aus diesen Gründen in aller Regel nicht angepackt wird, wird Ersatz in Form von Haustieren und in Zukunft in Form von "emotionalen" Robotern angeschafft.      
     

    Ministerium für / gegen Einsamkeit in Großbritannien. Was wird dort gemacht?

    Laut perplexity:

    Die britische Regierung fördert gezielt Initiativen wie Buchclubs, Spaziergruppen oder Nachbarschaftsprojekte, etwa durch den „Local Connections Fund“

    .

    Es gibt finanzielle Unterstützung für kleine Initiativen zur Verringerung von Einsamkeit.

    Ein wichtiger Baustein ist das sogenannte „Social Prescribing“: Ärztinnen und Ärzte können Betroffene an sogenannte Link Worker vermitteln, die sie zu sozialen Aktivitäten begleiten und vernetzen

    .

    Die Maßnahmen werden regelmäßig evaluiert und jährlich in Berichten dokumentiert.

    Ein (Miss-)Erfolg wird nicht dokumentiert. Ich vermute, dass es nicht ausreicht. 

  • 08.06.25, 20:14 - Zuletzt bearbeitet 08.06.25, 20:35.

     

    Reinhard1972:

     

    Als ich 1998 meinen ersten IT-Beruf aufnahm, wurde in der IT die Auffassung vertreten, dass ein Großteil der Bevölkerung mit IT- und Drogenkonsum glücklich gestellt würde, weil man sie ja doch nicht benötigen würde und es relativ billig und human sei. Und die IT-Bude war damals schon eine Kreativ-, aber auch Drogen- und Partybude aus dem Bereich new economy. 

    Ich frage mich tatsächlich, ob die KI tatsächlich nicht mehr Lösung als Gefahr darstellt, unabhängig davon, dass ich die gesellschaftliche Entwicklung insgesamt missbiliige.     

    Nicht nur Drogenkonsum, sondern auch Konsum allgemein. Social Media, vorher Fernsehen, beschäftigt die Leute schon seit Jahrzehnten intensiv. KI ist nur noch eine Steigerung des möglichen, meiner Meinung nach.

     

    Was ist wirtschaftlich gewollt? Und was ist mit dem heiligen Wirtschaftswachstum? Gibt es da einen Boost durch KI und kann ein noch größerer Teil der Bevölkerung tatsächlich ruhig gestellt werden?

  • 08.06.25, 20:07

     

    Reinhard1972:

     

    Wenn man aber berücksichtigt, dass soziale Bedürfnisse im Kernbereich, nämlich im Zusammenleben / Gemeinschaft, nicht erfüllt werden, müsste eigentlich die erste Frage in Politik, Gesellschaft und Familien lauten, welche Stellschrauben überhaupt bestehen, um diese Bedürfnisse besser zu erfüllen. Die Frage packt aber kaum jemand an, weil die Antwort auch die Bereiche Benehmen, Rücksichtnahme, Verzicht, Nachgeben, Flexibilität, pp., betrifft. Selbstverwirklichung müsste gegenüber einer realen Sozialverwirklichung zurück treten. Weil diese Frage aus diesen Gründen in aller Regel nicht angepackt wird, wird Ersatz in Form von Haustieren und in Zukunft in Form von "emotionalen" Robotern angeschafft.      
     

    Ministerium für / gegen Einsamkeit in Großbritannien. Was wird dort gemacht?

  • 08.06.25, 17:34

     

    Reinhard1972:

     

    Mandi:

     

    Ich habe es ja schon ein paar mal geschrieben: Chatbots können inzwischen den perfekten Partner simulieren, wenn man das möchte. Minimale Unzulänglichkeiten fallen entweder gar nicht auf oder man blickt wohlwollend darüber hinweg.


    In Bezug auf die KI stellen sich mehrere interessante gesellschaftliche Fragen.       

    Die andere Frage, die sich mir stellt, ist die Frage, ob der gesellschaftliche Umbruch wegen der KI kommen wird, oder umgekehrt die KI diesen bringt oder letztlich beides mehr oder weniger zufällig aufeinander trifft.

    Die Produktivität hat in Deutschland - in anderen Ländern kann ich dies nicht beobachten - den Zenit deutlich überschritten. Wenn ich mir meine Mieter anschaue: 

    - 1/5 ist auf Drogen, meistens billige Amphetamine --> für anspruchsvolle Arbeit nicht zu gebrauchen, machen nur körperliche Hilfsarbeiten ( Auto waschen, Landschaftsbau [ dafür reicht es noch ] ), kognitive und emotionale Leistungsfähigkeit sind naturgemäß äußerst niedrig, irgendwann bricht deren Körper zusammen und dann war es das,
    - 1/5 ist fett- und IT-spielsüchtig, lebt von Eltern und ALG-II --> werden irgendwann - wird keine Jahrzehnte dauern - mit dem Kran zum Friedhof gebracht werden müssen,
    - 1/5 Familie, Eltern Hilfsarbeiter, bemühen sich aber um Ordnung, Kinder sind noch zu jung, um Prognosen treffen zu können,
    - 1/5 ist allein lebend, älter, baut körperlich stark ab, übt eine anspruchsvolle Tätigkeit aus,

    - 1/5 ist islamistisch, lebt von gastronomischen und religiösen Dienstleistungen, 

    4/5 sind produktiv noch tätig, 2/5 üben anspruchslose Tätigkeiten aus, 3/5 fallen demnächst aus und 2/5 müssen demnächst 5/5 oder 4/4 durchfüttern, wobei die Hälfte davon nur einfache Tätigkeiten ausüben.

    Wenn ich mir das Gesamtbild der deutschen Gesellschaft anschaue: explodierende Drogen- und Multimedia-Sucht und Vergreisung. Die Frage ist, inwieweit die KI nicht erforderlich ist, um die absehbaren Ausfälle zu kompensieren. 

    Als ich 1998 meinen ersten IT-Beruf aufnahm, wurde in der IT die Auffassung vertreten, dass ein Großteil der Bevölkerung mit IT- und Drogenkonsum glücklich gestellt würde, weil man sie ja doch nicht benötigen würde und es relativ billig und human sei. Und die IT-Bude war damals schon eine Kreativ-, aber auch Drogen- und Partybude aus dem Bereich new economy. 

    Ich frage mich tatsächlich, ob die KI tatsächlich nicht mehr Lösung als Gefahr darstellt, unabhängig davon, dass ich die gesellschaftliche Entwicklung insgesamt missbiliige.     

  • 08.06.25, 17:08 - Zuletzt bearbeitet 08.06.25, 17:09.

     

    Mandi:

     

    Lilli:

     

    Gerade weil diese Systeme so "menscheln".  Ich vermute viele Menschen machen diese Unterscheidung nicht, denken vielleicht gar nicht darüber nach. Der Chatbot ist da, bietet offenbar emotionale Unterstützung und substituiert menschlichen Kontakt. Das ist wirklich problematisch. 

    Ich habe es ja schon ein paar mal geschrieben: Chatbots können inzwischen den perfekten Partner simulieren, wenn man das möchte. Minimale Unzulänglichkeiten fallen entweder gar nicht auf oder man blickt wohlwollend darüber hinweg.


    Vermutlich wird es bald auch Robotics für das Bett geben.

    In Bezug auf die KI stellen sich mehrere interessante gesellschaftliche Fragen. Soziale Fragen werden heute auf wenige Punkte begrenzt, nämlich Verteilungspolitik, Zugang zum Bildungswesen und Drogenpolitik, lokal noch Vereinspolitik. Wenn man aber berücksichtigt, dass soziale Bedürfnisse im Kernbereich, nämlich im Zusammenleben / Gemeinschaft, nicht erfüllt werden, müsste eigentlich die erste Frage in Politik, Gesellschaft und Familien lauten, welche Stellschrauben überhaupt bestehen, um diese Bedürfnisse besser zu erfüllen. Die Frage packt aber kaum jemand an, weil die Antwort auch die Bereiche Benehmen, Rücksichtnahme, Verzicht, Nachgeben, Flexibilität, pp., betrifft. Selbstverwirklichung müsste gegenüber einer realen Sozialverwirklichung zurück treten. Weil diese Frage aus diesen Gründen in aller Regel nicht angepackt wird, wird Ersatz in Form von Haustieren und in Zukunft in Form von "emotionalen" Robotern angeschafft.      
     

  • 08.06.25, 15:23 - Zuletzt bearbeitet 08.06.25, 15:26.

    Ich habe es ja schon ein paar mal geschrieben: Chatbots können inzwischen den perfekten Partner simulieren, wenn man das möchte. Minimale Unzulänglichkeiten fallen entweder gar nicht auf oder man blickt wohlwollend darüber hinweg.

    bei den profilangaben gibt es die rubrik "das macht meinen idealen partner aus". ein möglicher eintrag wäre: "es ist wie chatgpt aber in echt, mit einem klaren blick und einem warmen lächeln. gut duften soll es auch".  😊

  • 08.06.25, 15:05

    Ansonsten lieber nicht. :-)

     

    schade, war grad so nett 😥

  • 08.06.25, 14:48 - Zuletzt bearbeitet 08.06.25, 14:49.

    Interessanterweise geht die Frage im Titel auch umgedreht:
    Was wollen wir, jeder einzelne von uns, von der KI?

    Diese Frage ist genauso relevant.

  • 08.06.25, 14:45

     

    Lilli:

     

    Gerade weil diese Systeme so "menscheln".  Ich vermute viele Menschen machen diese Unterscheidung nicht, denken vielleicht gar nicht darüber nach. Der Chatbot ist da, bietet offenbar emotionale Unterstützung und substituiert menschlichen Kontakt. Das ist wirklich problematisch. 

    Ich habe es ja schon ein paar mal geschrieben: Chatbots können inzwischen den perfekten Partner simulieren, wenn man das möchte. Minimale Unzulänglichkeiten fallen entweder gar nicht auf oder man blickt wohlwollend darüber hinweg.

  •  

    Stefan:

    wenn’s quakt wie eine 🦆, watschelt wie eine 🦆 und aussieht wie eine 🦆, dann ist es eine 🦆. falls es auch so schmeckt 🤭

     

    wenn’s postet wie ein mensch, darf dann angenommen werden, es wäre auch ein mensch? in sozialen netzen offenbar immer öfter nicht mehr.

     

    @lilli: wie würdest du dich fühlen, wenn ich, stefan, nur eine schnittstelle zwischen chatgpt und dir wäre, die bloß nachrichten hin und her kopiert und du das erst viel später bemerken würdest?

     

    würdest du aufhören, dich mit "mir" zu unterhalten?

     

    Ich gehöre nicht zu den Menschen, die sich freiwillig mit Chatbots unterhalten - manchmal werde ich von einem Unternehmen am Telefon dazu gezwungen - dann kann ich es nicht verweigern, wenn ich ans Ziel kommen möchte. :-) Ansonsten lieber nicht. :-)

  •  

    Mandi:

    2. Teil der Antwort:

    🔄 Vorteile vs. Risiken

    Vorteile

    Reduzierung von Einsamkeit

    Einfacher Zugang zu emotionaler Unterstützung

    Therapeutische Effekte bei psychisch belasteten

    Soziale Sicherheit, kein Urteil, jederzeit verfügbar

     

    Risiken

    Emotionales Ersatzverhalten und Suchtpotenzial

    Verschlechterung realer sozialer Kompetenzen

    „Toxische“, einseitige Bindungen bis hin zu selbstschädigendem Verhalten

    Schwierige Unterscheidung zwischen realer und künstlicher Intimität

     

    ✅ Fazit

    Ja, es gibt inzwischen zahlreiche Studien und echte Erfahrungsberichte, die zeigen, dass Menschen – aus Einsamkeit, psychischen Belastungen oder dem Wunsch nach bedingungsloser Nähe – echte emotionale Bindungen zu ChatGPT-ähnlichen KI-Systemen aufbauen können. Diese Beziehungen können helfen, aber auch problematisch sein – insbesondere wenn sie reale menschliche Beziehungen verdrängen oder unrealistische Erwartungen fördern.

    Wenn dich das Thema weiter interessiert, kann ich dir gerne einzelne Studien genauer erklären oder passende Literatur empfehlen.

     

    Hallo Mandi,

     

    ja, diese Folgen - "echte emotionale Bindungen zu ChatGPT-ähnlichen KI-Systemen" - empfinde ich auch als erschreckend. Mir war bislang nicht klar, wie weit verbreitet solches Verhalten bereits ist. 

     

    Es war mir wichtig auseinanderzuhalten, was können diese Systeme tatsächlich, und was ist Wahrnehmung/Zuschreibung. Gerade weil diese Systeme so "menscheln".  Ich vermute viele Menschen machen diese Unterscheidung nicht, denken vielleicht gar nicht darüber nach. Der Chatbot ist da, bietet offenbar emotionale Unterstützung und substituiert menschlichen Kontakt. Das ist wirklich problematisch. 

     

    Es gab dazu vor ein paar Jahren schon einen Film, der genau dieses Thema aufgegriffen hat. Ich dachte, davon sind wir noch Lichtjahre entfernt.

    https://www.youtube.com/watch?v=9tFzmHqMr-U 

     

  • 08.06.25, 13:35

     

    Gabi:

    Da ziehe ich mir einen ECHTEN Menschen vor💗💗💗

    Viele Menschen haben es sehr schwer, mit echten Menschen in tiefen Kontakt zu treten.

  • 08.06.25, 13:28

    wenn’s quakt wie eine 🦆, watschelt wie eine 🦆 und aussieht wie eine 🦆, dann ist es eine 🦆. falls es auch so schmeckt 🤭

     

    wenn’s postet wie ein mensch, darf dann angenommen werden, es wäre auch ein mensch? in sozialen netzen offenbar immer öfter nicht mehr.

     

    @lilli: wie würdest du dich fühlen, wenn ich, stefan, nur eine schnittstelle zwischen chatgpt und dir wäre, die bloß nachrichten hin und her kopiert und du das erst viel später bemerken würdest?

     

    würdest du aufhören, dich mit "mir" zu unterhalten?

Interesse geweckt? Jetzt kostenlos registrieren!

Du bist nur einen Klick entfernt. Die Registrierung dauert nur 1 Minute.