Um mitzumachen, melde dich bitte an.

  • Künstliche Intelligenz (KI) und ihre Folgen

    Diskussion · 129 Beiträge · 5 Gefällt mir · 1.054 Aufrufe
    Mario aus Tragwein

    KI (auch AI - Artificial Intelligence) ist ein komplexes Themenfeld, dessen Auswirkungen nicht nur für die technische Community relevant sind, sondern für Wirtschaft, Gesellschaft, Politik und nicht zuletzt den Fortbestand der Zivilisation. Das Tempo der Entwicklung ist atemberaubend, um nicht zu sagen: halsbrecherisch. Nur wenige sind sich der Tragweite der Ereignisse bewusst, und dass uns als (noch) intelligenteste Spezies auf dem Planeten buchstäblich die Zeit davon läuft.

    Ich möchte mit euch eine offene Diskussion über die verschiedenen Aspekte von KI (und speziell die Bedrohung durch superintelligente KI) führen, und wie wir für mehr Bewusstsein hinsichtlich der aktuell sehr bedenklichen Entwicklungen sorgen können.

    Als Einstieg empfehle ich das Studium des AI 2027 Reports (https://ai-2027.com/).

    31.10.25, 10:42

Beiträge

  • Karin aus 5012 Schönenwerd
    01.11.25, 09:12

    Definition von Intelligenz gemäss KI

     

    Intelligenz ist die Fähigkeit, Sinnzusammenhänge zu erkennen, Probleme durch Einsicht zu lösen und neues Wissen zu erwerben. Sie umfasst kognitive Prozesse wie Wahrnehmung, Lernen, Erinnern, kritisches Denken und Entscheidungsfindung. Man kann sie auch als kognitive Leistungsfähigkeit verstehen und sie wird durch ein Zusammenspiel von genetischen und Umweltfaktoren beeinflusst.

     

    Ich würde noch ergänzen dass die individuelle Wahrheit (gespiesen durch erlebtes, gesehenes, anerzogenes und gelerntes) ein gewichtiger Anteil ausmacht.

     

    Es ist nicht nur ein Prozess des Hirnes wie ein Mensch handeln und entscheidet, manchmal ist es auch Bauchgefühl, dass sich rational nicht erklären lässt.

  • Mario aus 4284 Tragwein
    01.11.25, 08:42

     

    Karin:

    Künstliche Intelligenz kann nur die vorliegenden Daten nehmen und Antworten berechnen. was KI niemals kann ist aus eigenen erlebten Erfahrungen zurückgreifen, was Intelligenz beim Menschen ausmacht.
     

    Das ist die Kernfrage: was ist Intelligenz, wie entsteht Bewusstsein? Soweit ich weiß, gibt es in Bezug auf den Menschen keine bessere Erklärung, dass diese Phänomene emergent sind, d.h. ab hinreichend großer Komplexität eines Gehirns entstehen.

     

    Wenn also eine ausreichende Anzahl von Neuronen und Synapsen vorhanden sind und genügend Stimuli bzw. Training, wieso sollten Maschinen dann keine Intelligenz erlangen?

  • Karin aus 5012 Schönenwerd
    01.11.25, 07:54 - Zuletzt bearbeitet 01.11.25, 08:31.

    Künstliche Intelligenz kann nur die vorliegenden Daten nehmen und Antworten berechnen. was KI niemals kann ist aus eigenen erlebten Erfahrungen zurückgreifen, was Intelligenz beim Menschen ausmacht.

    Wovon wird KI gespiesen, meist aus dem Internet. Das internet war ursprünglich gedacht Wissenschaftliches Wissen für alle zugänglich zu machen. Was ist es heute ? Ein Sammelsurium von Menschlichen und KI generierten Daten. Viel Nonsens. Daher ist bei Abfragen mit KI einfach noch eine grosse Fehlerquelle möglich. Es beeindruckt wie schnell KI Daten in schön strukturierter Form zusammenstellt. Doch wenn man genau liest….. 

    Ich sehe die Gefahr dort, das KI Quellen bezieht die unwahr und irreführend sind und der Mensch es als wahr interpretiert. Der Mensch wird dumm.

    Zweitens sehe ich die Gefahr bei all jenen, die KI als Gesprächspartner ansehen und allenfalls sogar Gefühle dafür entwickelt und so nicht mehr eine Beziehung mit Menschen eingehen kann.

     

    Viele überlassen der KI den perfekten Match als Lebenspartner zu finden statt selbst einen Menschen kennen zu lernen. Dadurch steigt der Druck der Perfektion auf die Menschen und entzweit sie. 

     

    Und was macht der Mensch wenn er andere Menschen anfeindet? 
     

  • Mario aus 4284 Tragwein
    01.11.25, 07:31

    @Thorsten

    Thorsten:

    Es gibt sicher neben dem beschriebenen Szenario auch viele andere und auch sehr positive Szenarien. 

    ...

    Ich persönlich halte mich eher an konkretere und realistisch vorhersagbare Szenarien und sehe KI gerade nicht bedenklicher als andere derzeit konkretere gesellschaftliche Entwicklungen.

    Jede technische Entwicklung hat potentiell positive und negative Auswirkungen. Das positive Potential der KI ist unbestritten. Aber eine aufgeklärte Öffentlichkeit muss die negativen Aspekte auch verstehen und nicht nur den Werbeslogans glauben. Und KI ist in jeder Hinsicht anders als bisherige technische Entwicklungen: sie wird eher gezüchtet als engineert.

     

    Es gibt keine Alternative dazu, sich mit dem Thema eingehender zu beschäftigen - das soll diese Diskussion bewirken.

     

    Verkürzt geht es zm die einfache Frage: Wie stellst du sicher, dass KI sich an unsere Zielsetzungen hält (Alignment-Problem)?

     

    Spätestens wenn KI intelligenter als der Mensch ist (das ist laut Experten nur eine Frage von Jahren) und um ein Vielfaches schneller, wird die Frage überlebenswichtig.

     

    Es gibt derzeit keine Antwort auf diese Frage, und Experten betonen, dass es fraglich ist, ob das Alignment-Problem überhaupt gelöst werden kann.

  • Thorsten aus 41836 Hückelhoven
    31.10.25, 19:54

    Hallo Mario,

    ehrlich gesagt TLDR, aber dennoch möchte ich ein paar Sätze zu deinem Beitrag schreiben. 

    Der Report stellt scheinbar ein mögliches Szenario dar und sollte wohl (auch) im Kern ein Anstoß zu einer Diskussion sein.

    Du greifst das in deinem Beitrag zunächst eher neutral auf, schwenkst dann aber mMn auch zu stark in eine bestimmte Richtung (halsbrecherische und bedenkliche Aspekte).

    Es gibt sicher neben dem beschriebenen Szenario auch viele andere und auch sehr positive Szenarien. 

    Wie im Report beschrieben ist das nicht wirklich vorhersagbar.

    Ein Bewusstsein für Entwicklungen zu schaffen ist iA für sehr viele Themen wichtig. Ich persönlich halte mich eher an konkretere und realistisch vorhersagbare Szenarien und sehe KI gerade nicht bedenklicher als andere derzeit konkretere gesellschaftliche Entwicklungen.

    Mal sehen was bei dieser Diskussion noch so zum Vorschein kommt, hiermit ist mein Beitrag zur Schaffung eines Bewusstseins aber schonmal erledigt.

  • Mario aus 4284 Tragwein
    31.10.25, 12:41 - Zuletzt bearbeitet 31.10.25, 12:43.

    @Matthias

     

    ... falsches gefährliches Halbwissen in diesen Beiträgen, die im allgemeinen unnötige Ängste schüren. 

    Vielleicht erklärst du einfach mal, welche " unnötigen Ängste" du meinst und warum sie unnötig sind.

  • Mario aus 4284 Tragwein
    31.10.25, 12:14

     

    Matthias:

    Lieber Mario, hast Du bevor Du diese geistreichen Diskussion gestartet hast, mal die Suche genutzt? 

    Was unterscheidet Deine Diskussion von den Folgenden? 
    KI dein bester aller Freunde 
    KI und KI-Automatisierung 
    KI - Fluch oder Segen… 
    Kann eine KI selbst was wollen? 
    Mensch stärken oder ersetzen? – Was KI wirklich will! 
    Je " intelligenter" die KI, desto unintelligenter wird der Mensch? 
    Künstliche Intelligenz 
    KI & humanuide Robotik. Wodurch definiert sich in Zukunft der Status des Menschen? 

    Meinst Du wir brauchen noch deine zusätzlich? 

     

    Bist Du Informatiker oder IT Ing. oder hast einen IT affinen Beruf erlernt, denn sonst findet sich leider immer wieder falsches gefährliches Halbwissen in diesen Beiträgen, die im allgemeinen unnötige Ängste schüren. 

    Hallo Matthias,

    Die zitierten Diskussionen sind berechtigt, aber aus meiner Sicht zu spezifisch. Mir geht es darum, ein Bewusstsein für die unmittelbar vor uns liegenden Gefahren zu wecken. Ich bin nicht der Meinung, dass dafür eine einschlägige Ausbildung zwingend erforderlich ist - auch wenn ich selbst zufällig promovierter Informatiker bin.

  • Matthias aus 44225 Dortmund
    31.10.25, 11:54

    Lieber Mario, hast Du bevor Du diese geistreichen Diskussion gestartet hast, mal die Suche genutzt? 

    Was unterscheidet Deine Diskussion von den Folgenden? 
    KI dein bester aller Freunde 
    KI und KI-Automatisierung 
    KI - Fluch oder Segen… 
    Kann eine KI selbst was wollen? 
    Mensch stärken oder ersetzen? – Was KI wirklich will! 
    Je " intelligenter" die KI, desto unintelligenter wird der Mensch? 
    Künstliche Intelligenz 
    KI & humanuide Robotik. Wodurch definiert sich in Zukunft der Status des Menschen? 

    Meinst Du wir brauchen noch deine zusätzlich? 

     

    Bist Du Informatiker oder IT Ing. oder hast einen IT affinen Beruf erlernt, denn sonst findet sich leider immer wieder falsches gefährliches Halbwissen in diesen Beiträgen, die im allgemeinen unnötige Ängste schüren. 

  • Mario aus 4284 Tragwein
    31.10.25, 11:27

    Zusätzliche Literatur: 

    "If anyone builds it, everyone dies - why superhuman AI would kill as all"

    Eliezer Yudkowsky & Nate Soares

    Verlag Little, Brown And Company

    September 2025

    https://ifanyonebuildsit.com

Interesse geweckt? Jetzt kostenlos registrieren!

Du bist nur einen Klick entfernt. Die Registrierung dauert nur 1 Minute.
Jetzt mitmachen