2. Teil der Antwort:

🔄 Vorteile vs. Risiken

Vorteile

Reduzierung von Einsamkeit

Einfacher Zugang zu emotionaler Unterstützung

Therapeutische Effekte bei psychisch belasteten

Soziale Sicherheit, kein Urteil, jederzeit verfügbar

Risiken

Emotionales Ersatzverhalten und Suchtpotenzial

Verschlechterung realer sozialer Kompetenzen

„Toxische“, einseitige Bindungen bis hin zu selbstschädigendem Verhalten

Schwierige Unterscheidung zwischen realer und künstlicher Intimität

✅ Fazit

Ja, es gibt inzwischen zahlreiche Studien und echte Erfahrungsberichte, die zeigen, dass Menschen – aus Einsamkeit, psychischen Belastungen oder dem Wunsch nach bedingungsloser Nähe – echte emotionale Bindungen zu ChatGPT-ähnlichen KI-Systemen aufbauen können. Diese Beziehungen können helfen, aber auch problematisch sein – insbesondere wenn sie reale menschliche Beziehungen verdrängen oder unrealistische Erwartungen fördern.

Wenn dich das Thema weiter interessiert, kann ich dir gerne einzelne Studien genauer erklären oder passende Literatur empfehlen.

Hallo Stefan, danke für den Link zum Turing-Test. Sehr spannend!

Schon beim Lesen des Abstracts und des 1. Absatzes der Introduction habe ich Fragen zu diesem Thema:

Zuerst einmal frage ich mich, ob wir es hier nicht mit zwei verschiedenen Themenkreisen zu tun haben: 

1. Die "Maschine" zB. ChatGPT, wie sie funktioniert und was sie kann

2. Die Außenwahrnehmung der Maschine und was sie kann (Turing Test)

Der Turing Test - Introduction - erster Absatz:

75 years ago, Alan Turing (1950) proposed the imitation game as a method of determining whether machines could be said to be intelligent. In the game—now widely known as the Turing test—a human interrogator speaks simultaneously to two witnesses (one human and one machine) via a text-only interface. Both witnesses attempt to persuade the interrogator that they are the real human. If the interrogator cannot reliably identify the human, the machine is said to have passed: an indication of its ability to imitate humanlike intelligence.

Wenn ich das richtig verstehe, dann hat Turing mit dem Turing Test eine Methode vorgeschlagen, um herauszufinden, ob Maschinen "als intelligent betrachtet werden können". Wenn eine Maschine diesen Test besteht, dann ist das "eine Indikation für die Fähigkeit, menschenähnliche Intelligenz zu imitieren." Turing hat also nicht gemeint, dass eine Maschine, die den Test besteht, intelligent ist, sondern menschenähnliche Intelligenz imitieren kann -  ein wichtiger Unterschied. 

Das Paper zeigt, dass neue LLMs, allen voran GPT 4.5 in einem Turing Test von einer großen Mehrheit als menschlich/Mensch wahrgenommen werden. Abstract: "When prompted to adopt a humanlike persona, GPT-4.5 was judged to be the human 73% of the time".

Zurückkommend auf das Thema dieses Threads "Kann eine KI selbst was wollen?" frage ich mich - welche Schlussfolgerungen betreffend die Fähigkeiten und Eigenschaften der Maschine darf man aus dem Ergebnis des Turing Tests ziehen? Wenn eine Maschine als menschlich wahrgenommen wird, weil sie menschliche Aufgaben erfüllt, ist sie mE noch lange kein intelligenter Mensch. Könnte es sein, dass man hier verleitet ist, einer Maschine, die sich menschlich verhält, deshalb menschliche Qualitäten (zB Intelligenz) zuzuschreiben? Sollte man nicht die Maschine, wie sie funktioniert und was sie kann, streng unterscheiden von der Außenwahrnehmung? 

At its core, the Turing test is a measure of substitutability: (Absatz 1, Seite 2) Diese Schlussfolgerungen kann ich gut nachvollziehen und sie sind beängstigend. 

hier ein beitrag zu einem radiointerview mit sepp hochreiter, das noch zwei wochen nachgehört werden kann: /community/weiterbildung/groups/7UsSgfg5W6Z/stories?reply=1342484

KI ist ein sehr interessantes und vielschichtiges Thema, in mancher Hinsicht ist es auch beängstigend.

Den Artikel über Anthropic halte ich für einen gelungenen Werbe-Gag, der dem Unternehmen viel Aufmerksamkeit beschert hat. Warum würde man so viel Wind um ein "Fehlverhalten" machen? Cui bono? Experten können dieses Verhalten der Software gut erklären.

Ein Kollege, der sich jahrelang wissenschaftlich mit dem Thema Entwicklung von KI auseinandergesetzt hat hat mir erklärt, dass wir von einer echten eigenständigen KI noch sehr weit entfernt sind. Sepp Hochreiter ist in der Einleitung zu seinem Buch "Was kann künstliche Intelligenz" der Meinung, dass wir weit weg sind von einer "allgemeinen Intelligenz" oder "Superintelligenz". Er unterlegt das mit sehr anschaulichen Beispielen. Hier ist der Link zur Einleitung des Buchs, öffentlich verfügbar. 

https://www.google.at/books/edition/Was_kann_k%C3%BCnstliche_Intelligenz/jN0sEQAAQBAJ?hl=de&gbpv=1&pg=PT6&printsec=frontcover 

Das Thema KI ist für Laien schwer fassbar und daher ist es einfach, Ängste zu schüren – siehe Anthropic. Genau deshalb ist Sachlichkeit hier wichtig und ich finde es gut, dass Stefan das Thema aufgebracht hat. Wir alle sollten uns damit auseinandersetzen.

Aus meiner Sicht ist auch der rechtliche Aspekt interessant, denn da gibt es noch viele Graubereiche. Hier ein kleiner Ausschnitt: Die großen KI Systeme (LLMs) wie chatGPT werden mit Unmengen an Daten/Texten/Informationen trainiert. Viele davon sind urheberrechtlich geschützt. Es gibt bereits Bemühungen, hier neue Lizensierungsmodelle zu schaffen. Vor ein paar Tagen war ein interessanter Artikel zu diesem Thema im Standard: „Amazon darf jetzt Inhalte der „New York Times“ für KI-Training nutzen“ - ein Lizenzvertrag.

https://www.derstandard.at/story/3000000272374/amazon-darf-jetzt-inhalte-der-new-york-times-fuer-ki-training-nutzen

Meta hat beschlossen, die Posts aller „Instagram“ und „Facebook“ User rückwirkend(!!) für das Training seiner KI zu verwenden, wenn man nicht die Opt-Out Option wählt. Diese Opt-Out Option wurde erst kurz vor Ablauf der Frist in den Medien besprochen und war auch nicht geeignet, den Ausstieg einfach zu gestalten. Aus meiner Sicht keine saubere Vorgangsweise. Wie sinnvoll die Verwendung solcher Daten für das Training einer KI ist kann man hinterfragen.

https://help.orf.at/stories/3230373/

Was mir Sorgen macht an diesem Thema sind der geringe Anteil Europas an der Entwicklung der KI und die großen Änderungen in der Arbeitswelt, die durch die KI erfolgen werden. Auch wenn die KI keine eigenständige Intelligenz hat, so ist sie doch auch in ihrer jetzigen Form geeignet, nachhaltige Veränderungen auszulösen.

Stefan:

 

Reinhard1972:

 

 

Mit chatgpt pro erteilt man der KI die Aufgabe, Zinseszins-Berechnungen zu lernen und zu trainieren. Die KI sucht im Internet einschlägige Seiten, wertet diese aus und liefert im Anschluss richtige Werte.

Und das finde ich eine total spannende Entwicklung. Die KI "lernt" bei Bedarf eigenständig um zur richtigen Lösung zu gelangen.

Ein Mensch, der sich mit Zinsrechnung nicht auskennt würde was tun? Genau, er sucht sich Informationen/Beispiele um dies zu lernen 😄

Allerdings ist dieses chatgpt pro diesbezüglich technisch äußerst interessant. Ich habe auf meinem Rechner schon mit verschiedenen KI-Modellen offline experimentiert. - Als Jurist kann ich wegen der Mandatsgeheimnisse KI-Modelle online nur bedingt verwenden. - Das Problem ist, ich kann die KI-Modelle offline nicht trainieren. Es gibt Developer-KI-Modelle, die werden aber über die Programmiersprache Python trainiert. Die Trainierbarkeit der pro-Version ist schon sehr besonders.

Sven:

 

Stefan:

wenn (teils amüsante) fehler von KIs als beweis für ihre untauglichkeit im alltag gebracht werden, stammen diese oft von veralteten modellen. die entwicklung schreitet jedoch rasant voran, wie die beispiele von sven und meine gegenbeispiele zeigen.

 

ich war neulich in einem vortrag eines ki-experten, der allen ernstes einen chat zu kuh- und hühnereiern brachte, wo chatgpt nach entsprechender nachfrage angeblich detailliert die unterschiede erläuterte, also fröhlich vor sich hin halluzinierte.

 

ich habe den prompt gleich in mein handy getippt und den vortragenden darauf aufmerksam gemacht, dass chatgpt korrekt feststellt, dass es keine kuheier gibt. der vortragende meinte sinngemäß, da müsse er seine folien wohl aktualisieren 🙈

 

ich verwende das plus-abo, weil's mir die 20 $ im monat wert ist, schnelle antworten zu bekommen, kaum input-output-limits zu haben und verschiedene modelle ausprobieren zu können.

 

  

Wenn man das als Enthusiast betrachtet, mag das gut und schön sein. Aber realistisch betrachtet finde ich 20$ im Monat für etwas viel Geld, um mir von einem Computer sagen zu lassen, dass Kühe keine Eier legen.

 

 

Mag sein, dass KI besser wird - wäre auch echt schlimm, wenn nicht.

ABER: Wenn man einem Modell haarklein alles vorkauen muss, das Ergebnis GENAUSTENS überprüfen muss, den Prompt dann wieder anpassen muss, .......

Irgendwie empfinde ich das nicht als Arbeitserleichterung. 

 

Thema Software Entwicklung:

Ja, KI kann Sources erstellen.

Allerdings darf man nicht erwarten, dass diese Modelle auch nur im Ansatz das kleine 1x1 der Sicherheit berücksichtigen. 

Benutzereingaben prüfen? HAHAHAHAHA obwohl für mich so selbstverständlich wie atmen.

Exception Handler? hat man im Prompt nicht definiert - Ist auch zu viel erwartet, dass sowas selbstverständlich ist.

Die Zeit, die ich benötige, um einen Prompt für einen eleganten Code zu erstellen ist höher, als wenn ich den Code von Anfang an selbst schreibe.

 

Ja, es macht zusehens Fortschritte. Aktuell ist es für leicht komplexere Dev Projekte nicht zu gebrauchen.

Stefan:

@Sven: Aber realistisch betrachtet finde ich 20$ im Monat für etwas viel Geld, um mir von einem Computer sagen zu lassen, dass Kühe keine Eier legen.

 

wenn dir keine anderen fragen einfallen, dann ist das tatsächlich zu teuer, denn dafür kriegt man hierzulande 50 bioeier 😅

Die pro-Version kostet sogar 200 Dollar im Monat. Allerdings nutze ich diese Variante nur beruflich in einem IT-Unternehmen. Mir wären die Kosten im Verhältnis zum Nutzen auch zu hoch.

@Sven: Aber realistisch betrachtet finde ich 20$ im Monat für etwas viel Geld, um mir von einem Computer sagen zu lassen, dass Kühe keine Eier legen.

wenn dir keine anderen fragen einfallen, dann ist das tatsächlich zu teuer, denn dafür kriegt man hierzulande 50 bioeier 😅

Stefan:

wenn (teils amüsante) fehler von KIs als beweis für ihre untauglichkeit im alltag gebracht werden, stammen diese oft von veralteten modellen. die entwicklung schreitet jedoch rasant voran, wie die beispiele von sven und meine gegenbeispiele zeigen.

 

ich war neulich in einem vortrag eines ki-experten, der allen ernstes einen chat zu kuh- und hühnereiern brachte, wo chatgpt nach entsprechender nachfrage angeblich detailliert die unterschiede erläuterte, also fröhlich vor sich hin halluzinierte.

 

ich habe den prompt gleich in mein handy getippt und den vortragenden darauf aufmerksam gemacht, dass chatgpt korrekt feststellt, dass es keine kuheier gibt. der vortragende meinte sinngemäß, da müsse er seine folien wohl aktualisieren 🙈

 

ich verwende das plus-abo, weil's mir die 20 $ im monat wert ist, schnelle antworten zu bekommen, kaum input-output-limits zu haben und verschiedene modelle ausprobieren zu können.

 

  

Wenn man das als Enthusiast betrachtet, mag das gut und schön sein. Aber realistisch betrachtet finde ich 20$ im Monat für etwas viel Geld, um mir von einem Computer sagen zu lassen, dass Kühe keine Eier legen.

Mag sein, dass KI besser wird - wäre auch echt schlimm, wenn nicht.

ABER: Wenn man einem Modell haarklein alles vorkauen muss, das Ergebnis GENAUSTENS überprüfen muss, den Prompt dann wieder anpassen muss, .......

Irgendwie empfinde ich das nicht als Arbeitserleichterung. 

Thema Software Entwicklung:

Ja, KI kann Sources erstellen.

Allerdings darf man nicht erwarten, dass diese Modelle auch nur im Ansatz das kleine 1x1 der Sicherheit berücksichtigen. 

Benutzereingaben prüfen? HAHAHAHAHA obwohl für mich so selbstverständlich wie atmen.

Exception Handler? hat man im Prompt nicht definiert - Ist auch zu viel erwartet, dass sowas selbstverständlich ist.

Die Zeit, die ich benötige, um einen Prompt für einen eleganten Code zu erstellen ist höher, als wenn ich den Code von Anfang an selbst schreibe.

Ja, es macht zusehens Fortschritte. Aktuell ist es für leicht komplexere Dev Projekte nicht zu gebrauchen.

Stefan:

wenn (teils amüsante) fehler von KIs als beweis für ihre untauglichkeit im alltag gebracht werden, stammen diese oft von veralteten modellen. die entwicklung schreitet jedoch rasant voran, wie die beispiele von sven und meine gegenbeispiele zeigen.

 

ich war neulich in einem vortrag eines ki-experten, der allen ernstes einen chat zu kuh- und hühnereiern brachte, wo chatgpt nach entsprechender nachfrage angeblich detailliert die unterschiede erläuterte, also fröhlich vor sich hin halluzinierte.

 

ich habe den prompt gleich in mein handy getippt und den vortragenden darauf aufmerksam gemacht, dass chatgpt korrekt feststellt, dass es keine kuheier gibt. der vortragende meinte sinngemäß, da müsse er seine folien wohl aktualisieren 🙈

 

  

Die Halluzinationen liegen aktuell bei 80% bei den neusten openAI Modellen. Also nein: die Progression der Qualität geht nicht nur nach oben.