Nanda:

@Mario: Vielleicht könnte man auch mal umgekehrt überlegen, ob die Wissenschaft auch manipuliert ist und manchen Richtungen gar nicht verfolgt??

 

Wer ausgrenzt- hat sich meist nur für eine Seite entschieden. Und ist somit befangen...

 

... denn es könnte auch Beides stimmen. Dieser Option verschliesst man sich dann.

 

Genau dieses entweder/ oder Denken hat so vieles kaputt gemacht!! 

Dann ist wohl Zeit für ein Plädoyer für wissenschaftliches Denken. Ich beziehe mich da in vielen Punkten auf Carl Sagans Haltung (siehe sein Buch: "Demon haunted world - science as a candle in the dark").

Er argumentiert, dass Wissenschaft mehr als ein Wissensgebäude ist. Es ist eine selbstkorrigierende Disziplin, bei der die Evidenz im Vordergrund steht.

Was bedeutet selbstkorrigierend? Wissenschaftliche Veröffentlichungen werden z.B. einem Peer-Review-Prozess unterzogen, um sicherzustellen, dass die Qualität der Veröffentlichung höchsten wissenschaftlichen Ansprüchen genügt; es bedeutet aber auch, dass bestehendes Wissen ständig kritisch auf seine Richtigkeit hinterfragt wird. Skeptisches Denken ist also zentraler Bestandteil der Wissenschaft. Was die Evidenz betrifft: der Prüfstein für jede Hypothese ist ultimativ das Experiment. Gibt es keine Evidenz (z.B. ein Laborexperiment), das die Vorhersagen der Hypothese stützt, ist die Hypothese haltlos und wird verworfen.

Berühmtes Beispiel: Johannes Kepler war fest davon überzeugt, dass die Planetenbahnen kreisförmig sein müssten, weil für ihn der Kreis der Inbegriff der perfekten geometrischen Figur war und seiner Vorstellung nach diese Geometrie die Handschrift Gottes widerspiegeln würde. Keppler war zutiefst verstört, als die Daten aus den Beobachtungen der Planetenbahnen schließlich ergaben, dass sie Ellipsen darstellten. Dennoch akzeptierte er schließlich die unausweichliche Wahrheit.

Das ist der Kern der Wissenschaft: nicht dem Anzuhängen, was uns gefällt oder ein gutes Gefühl gibt, sondern was auch tatsächlich empirisch nachweisbar ist.

Sind Wissenschaftler also unfehlbar? Natürlich nicht - weil sie Menschen sind, mit allen uns bekannten Schwächen. Auf diese Art ist Wissenschaft auch mit Demokratie vergleichbar: beide sind nicht perfekt, aber das beste, was wir haben.

Das soll natürlich nicht bedeuten, dass jede wissenschaftliche oder technische Entwicklung gleichermaßen sinnvoll oder wünschenswert ist. Eine unmittelbare positive Auswirkung der Wissenschaft ist z.B. die gestiegene Lebenserwartung, die um 1900 im Schnitt nur 50 Jahre betrug.

Wie am Beispiel der KI ja sehr anschaulich feststellbar ist: (wissenschaftlicher) Fortschritt ist zweischneidig.

Es wird immer Einzelne geben, die Wege beschreiten, die nicht im Interesse der Menschheit liegen. Umso wichtiger ist, dass die Öffentlichkeit informiert ist (ich würde sagen: wissenschaftlich gebildet bzw. im kritischen Denken geschult), um diese Fehlentwicklungen zu erkennen und dagegen einzutreten (das ist die andere Parallele zur Demokratie: ohne informierte Bürger kann auch Demokratie nicht funktionieren, Zitat Donald Trump: "I love the poorly educated").

Ich gehe sogar soweit zu behaupten, dass viele beobachtbare negative Trends (die Schwächung der Demokratien durch rechte Ideologien, wachsende Verteilungsungerechtigkeit, der Einfluss von Social Media und KI auf die Gesellschaft, etc.) der Ignoranz und Apathie der Bevölkerung zuzuschreiben sind.

Dem entsprechend sehe ich für eine positivere Zukunftsperspektive keine Alternative zu kritischem Denken bzw. zu Rationalität. Es ist halt so: es wird uns kein übernatürliches Wesen zur Hilfe kommen und uns vor uns selbst beschützen (sei es in Bezug auf den Klimawandel, KI oder was auch immer). Das müssen wir schon selber tun - und das gelingt meiner Ansicht nach am besten mit Vernunft.

Nanda:

Vielleicht könnte man auch mal umgekehrt überlegen, ob die Wissenschaft auch manipuliert ist und manchen Richtungen gar nicht verfolgt??

Wer ausgrenzt- hat sich meist nur für eine Seite entschieden. Und ist somit befangen...

Einer der Wesenskerne der Wissenschaft ist es, die Welt in so winzig kleine Teile zu zerlegen, dass man diese Teile "verstehen" kann. Dass dabei viele Teile auf der Strecke bleiben, ist ganz normal. Die Gründe dafür sind mannigfaltig. Dazu befrage ich den Computer:

Frage:

"Wie kommt, dass die Wissenschaft nicht alle Teilgebiete des Wissens und der Welt erforscht? Mittellange Antwort."

Antwort:

"Es gibt mehrere Gründe, warum die Wissenschaft nicht alle Teilgebiete des Wissens und der Welt erforscht:

Begrenzte Ressourcen
Forschung braucht Zeit, Geld, Technologie und Fachwissen. Da all diese Ressourcen begrenzt sind, konzentriert sich Wissenschaft auf Themen, die aktuell machbar, gesellschaftlich relevant oder förderwürdig sind.

Komplexität und Messbarkeit
Viele Bereiche der Realität sind extrem schwer messbar oder überhaupt systematisch zugänglich (z. B. subjektive Erfahrungen, sehr seltene Phänomene oder extrem komplexe Systeme). Wissenschaft arbeitet empirisch — wo keine Daten gewonnen werden können, stößt sie an Grenzen.

Ethik
Manche Fragen dürfen aus ethischen Gründen nicht erforscht werden, etwa Experimente mit Menschen, Eingriffe in Ökosysteme oder zerstörerische Technologien.

Interessen und Prioritäten
Forschung wird stark davon beeinflusst, wofür Gesellschaften, Staaten oder Unternehmen bereit sind zu zahlen. Bereiche ohne wirtschaftlichen Nutzen oder politische Priorität bleiben oft untererforscht.

Theoretische Grenzen
Manche Fragen sind prinzipiell nicht wissenschaftlich lösbar, etwa metaphysische oder rein normative Fragen (z. B. „Was ist der Sinn des Lebens?“). Wissenschaft hat einen methodischen Rahmen, und nicht jedes Problem passt darin.

Insgesamt ist die Wissenschaft mächtig, aber nicht grenzenlos — sie ist ein menschliches Projekt mit praktischen, methodischen und ethischen Beschränkungen."

Jacky Cola:

Tatsächlich kann ich gut glauben, dass chatgpt sowas problemlos schreiben kann. 

 

Also formal ja.

Inhaltlich komplett Gaga, zumindest damals beim Start. Wer auch nur den Funken einer Ahnung von einer leicht spezielleren Thematik hatte, wunderte sich ob der ganzen Blödsinnigkeiten. Ein Sprachmodell eben, kein Expertensystem. Vielleicht ist es inzwischen ein bisschen besser geworden.

Ich schau mal mit meiner Testfrage.

Ja, es ist viel besser geworden, vor allem fehlen gravierende Halluzinationen. Formal liest es sich aber nicht mehr so gut, das braucht Überarbeitung. Aber als Einstieg und die Fakten betreffend - nicht mehr schlecht, aber auch nicht perfekt. Ja, Lehrer würden es jetzt tatsächlich schwer haben. Noch dazu, wo man ja nochmal einen automatischen sprachlichen Feinschliff versuchen könnte.

Ute:

 

Mario:

 

Astrologie ist kein guter Ratgeber - genau so wenig wie Wünschelrutengehen, Kaffeesatzlesen oder andere Manifestationen von Aberglauben.

 

Die Google-KI fasst das ganz gut zusammen:

 

Skeptiker argumentieren, dass Astrologie eine Pseudowissenschaft ist, da es keine wissenschaftlichen Beweise für ihre Behauptungen gibt und sie auf einer veralteten Vorstellung basiert, dass die Erde im Zentrum des Universums steht. Es gibt keine physikalischen Grundlagen für die Annahme, dass Planeten und Sterne die menschliche Persönlichkeit oder das Schicksal beeinflussen, und Studien zeigen keinen Zusammenhang zwischen Sternzeichen und Charakter. Zusätzlich werden die Vorhersagen oft als vage und allgemeingültig (Binsenweisheiten) beschrieben, die sich nicht überprüfen lassen. 

Keine wissenschaftliche Grundlage

• Keine physikalischen Grundlagen: Es gibt keine nachweisbaren physikalischen Kräfte, die von Himmelskörpern ausgehen und die menschliche Persönlichkeit oder Ereignisse beeinflussen könnten.
• Kein empirischer Beleg: Zahlreiche wissenschaftliche Studien haben gezeigt, dass es keine Korrelation zwischen Sternzeichen und Persönlichkeitsmerkmalen oder Lebensereignissen gibt.
• Veraltetes Weltbild: Das Fundament der Astrologie basiert auf einem geozentrischen Weltbild, bei dem die Erde im Zentrum steht, was wissenschaftlich überholt ist. 

Methodische Schwächen

• Vage und allgemeingültige Aussagen: Astrologische Vorhersagen und Beschreibungen sind oft so allgemein gehalten, dass sie auf viele Menschen zutreffen und leicht als zutreffend interpretiert werden können ( Barnum-Effekt ).
• Fehlende Überprüfbarkeit: Die Behauptungen der Astrologie lassen sich nicht mit wissenschaftlichen Methoden überprüfen und falsifizieren. 

Psychologische Aspekte

• Flucht vor Verantwortung: Die Astrologie bietet eine einfache Erklärung für schwierige Lebenssituationen und kann dazu dienen, die eigene Verantwortung auf die Sterne abzuwälzen.
• Suche nach Sicherheit: In Zeiten der Unsicherheit suchen Menschen oft nach einfachen Antworten, die ihnen ein Gefühl von Kontrolle und Sicherheit vermitteln. 

 

Ich bin erwachsen, spare dir deine Belehrungen!

Wenn es dir am Leseverständnis mangelt, dein Problem.

Genauso stelle ich mir die Reaktion eines Erwachsenen vor ;-)

Ute:

 

Jacky Cola:

 

Ich hatte letzte Nacht dann mal Zeit, mir das anzuhören. Muss sagen, ich war positiv überrascht - mit Astrologie kann ich natürlich gar nichts anfangen - aber wie es scheint, kann er die andere sache ja recht gut und liefert stimmige vorhersagen. 

Ich glaube ein paar Dinge dramatisiert er zu sehr.

Ich will nicht einsehen, dass "die menschlichkeit" verloren geht. Selbst wenn das gesamte Internet von KI und Spambots überrannt wird (das ist schon längst passiert), die Menschlichkeit findet weiterhin statt. Ganz besonders hier sind wir doch auf Spontacs/GE und man sieht doch, dass sich unzählige echte menschen ganz normal hier und im echten leben treffen und miteinander kommnunzieren. 

Bei den übersetzungen seh ich sogar das Gegenteil. Hier werden Barrieren aufgehoben und man ist nicht mehr auf die Informationen und Sichtweisen der eigenen Sprache bzw sogar der eigenen Kultur beschränkt.


Der Arbeitsmarkt ist und bleibt ne Glaskugel. Ich glaube nicht, dass es rasend schnell geht. KI ist einfach noch nicht zuverlässig genug, um ganze Mitarbeiter zu ersetzen und wird es auch längere Zeit nicht sein.  Natürlich werden einige Sachen leichter und dadurch fallen Jobs weg, das wird sich aber eher über Jahre hinziehen. Besser früher als später muss die politik aber darauf reagieren. 


Das auflehnen der Menschheit seh ich gerne kommen. Ich will fast glauben, dass es nicht bis 2045 dauern wird. Wobei das natürlich auch stark davon abhängt, wie die bisher ungewisse entwicklung läuft.  Idealerweise wird es ja schon vorher politisch gelöst. 


Ansonsten find ich seine vorhersagen aber ganz nett. "Wissen" kann man natürlich nichts davon, aber es klingt immerhin alles realistisch.

 

Ich freue mich, dass deine Erwartungen übertroffen wurden, denn so ging es mir eben auch. Sobald seine Vorhersagen eintreten, verweist er selbst auf seine alten Videos und würde sich das für mich alles ziemlich krude anfühlen, wäre ich schon längst weg. Seine zeitlichen Voraussagen stützt er natürlich auf die Astrologie, indem er Planetenstellungen vergleicht. Er schaut, wann diese Konstellationen schonmal genauso waren, recherchiert dann, was damals passiert ist und versucht logisch auf heutige Verhältnisse zu übertragen.

Astrologie ist kein guter Ratgeber - genau so wenig wie Wünschelrutengehen, Kaffeesatzlesen oder andere Manifestationen von Aberglauben.

Die Google-KI fasst das ganz gut zusammen:

Skeptiker argumentieren, dass Astrologie eine Pseudowissenschaft ist, da es keine wissenschaftlichen Beweise für ihre Behauptungen gibt und sie auf einer veralteten Vorstellung basiert, dass die Erde im Zentrum des Universums steht. Es gibt keine physikalischen Grundlagen für die Annahme, dass Planeten und Sterne die menschliche Persönlichkeit oder das Schicksal beeinflussen, und Studien zeigen keinen Zusammenhang zwischen Sternzeichen und Charakter. Zusätzlich werden die Vorhersagen oft als vage und allgemeingültig (Binsenweisheiten) beschrieben, die sich nicht überprüfen lassen. 

Keine wissenschaftliche Grundlage

• Keine physikalischen Grundlagen: Es gibt keine nachweisbaren physikalischen Kräfte, die von Himmelskörpern ausgehen und die menschliche Persönlichkeit oder Ereignisse beeinflussen könnten.
• Kein empirischer Beleg: Zahlreiche wissenschaftliche Studien haben gezeigt, dass es keine Korrelation zwischen Sternzeichen und Persönlichkeitsmerkmalen oder Lebensereignissen gibt.
• Veraltetes Weltbild: Das Fundament der Astrologie basiert auf einem geozentrischen Weltbild, bei dem die Erde im Zentrum steht, was wissenschaftlich überholt ist. 

Methodische Schwächen

• Vage und allgemeingültige Aussagen: Astrologische Vorhersagen und Beschreibungen sind oft so allgemein gehalten, dass sie auf viele Menschen zutreffen und leicht als zutreffend interpretiert werden können ( Barnum-Effekt ).
• Fehlende Überprüfbarkeit: Die Behauptungen der Astrologie lassen sich nicht mit wissenschaftlichen Methoden überprüfen und falsifizieren. 

Psychologische Aspekte

• Flucht vor Verantwortung: Die Astrologie bietet eine einfache Erklärung für schwierige Lebenssituationen und kann dazu dienen, die eigene Verantwortung auf die Sterne abzuwälzen.
• Suche nach Sicherheit: In Zeiten der Unsicherheit suchen Menschen oft nach einfachen Antworten, die ihnen ein Gefühl von Kontrolle und Sicherheit vermitteln. 

Jacky Cola:

Der Arbeitsmarkt ist und bleibt ne Glaskugel. Ich glaube nicht, dass es rasend schnell geht. KI ist einfach noch nicht zuverlässig genug, um ganze Mitarbeiter zu ersetzen und wird es auch längere Zeit nicht sein.  Natürlich werden einige Sachen leichter und dadurch fallen Jobs weg, das wird sich aber eher über Jahre hinziehen. Besser früher als später muss die politik aber darauf reagieren. 

Da fällt mir die bereits alte Geschichte wieder ein.

Fürs Abitur in Österreich brauchte es einige Zeit lang eine vorwissenschaftliche Arbeit. Praktisch sofort mit dem Aufkommen von ChatGPT (wenige Monate später) wurde diese vorwissenschaftliche Arbeit abgeschafft, mit der Begründung, man kann nicht mehr unterscheiden, ob eine solche Arbeit der Computer oder ein Mensch geschrieben hat.

Ich fasse es bis heute nicht, wie sehr sich die Lehrerschaft damit selber diskreditiert hat. Ich vermute, es war ein willkommener Anlass für die Lehrerschaft, diese lästige vorwissenschaftliche Arbeit loszuwerden.

Mario:

 

Wie erklärst du dann, dass KI-Modelle Menschen erpressen, um der Abschaltung zu entgehen (siehe Agentic Misalignment: How LLMs could be insider threats \ Anthropic)?

 

“We have not seen evidence of agentic misalignment in real deployments.”
 

-> es wurde stark nachgeholfen um diese szenarien künstlich herzustellen

-> Selbst die ersteller sagen, dass es keine anzeichen für reale vorkommnisse gibt. 
-> Es werden warnungen und lösungsansätze gemacht. 
-> Mit der Studie willst du die gefahren aufzeigen -letztendlich wird die gefahr aber durch die stuie reduziert. Gefahr erkannt...
-> Nur ein weiter beweis, dass wir noch lange nicht so weit sind, AI autonom ganze berufe erledigen zu lassen. 


Ich kann es nur widerholen: Intelligenz war nicht beteiligt. Es ist und bleibt ein sprachmodell. Das können wir noch 100 mal hin und her spielen, das wird weder meine meinung, noch die Realität ändern. 
Das ding hat informationen bekommen und dann die wahrscheinlichst funktionale ausgabe gemacht. Bei unzähligen romanen, foren- und reddit-posts in den trainigsdaten, kann dann auch erpressung mit drin sein. Nicht verwunderlich.

Es ist aber NICHT durch intelligentes denken zu dem schluss gekommen, da es das einfach nicht kann. 

Alle folgende diskussion finde ich sinnlos bzw hochspekulativ. Wir sind nicht mal in der nähe einer AGI, selbst die vorstufen aka "starke ai" existieren höchstens als konzept. 

Und wenn wir es wären, dann wären sowohl trainingsdaten als auch programmablauf deutlich unterschiedlich zu aktuellen Modellen. 

Meine einzige Aussage ist, dass du bzw die anderen Doomer das Ende dramatisieren. Du hast diese Art anspielung mehrfach gemacht. Ich widerspreche nicht den problmen, wenn ich sage, dass die dramatiserung nicht der weg zur besserung ist. 

---

Ich kann ja mal meine persönliche Meinung zu AI 2027 sagen: 

Ich behaupte, die haben sich erst das gewünschte Endstadium ausgedacht und dann logisch klingende schritte eingefügt, wie es dazu kommen könnte. 
Wenn man sich anguckt, wer das schreibt, das sind alles Leute, die selbst von so einer Entwicklung profitieren würden, weil sie irgendwie an den entsprechenden umsetzungen beteiligt sein können. 

Und gegneüber steht OpenAI, die  milliarden an verlust generieren und dringend investoren und die unterstützung der regierung brauchen, vllt in 2028 bald pleite sind, wenn der große fortschritt ausbleibt und investoren abspringen.

Wenn ich Investoren suchen müsste, ich würde denen einfach nur den AI2027 text vorlegen.  Expotentielle entwicklung, übernahme aller jobs, weltweite herrschaft und das alles schon sehr bald!!! 
Überlegenheit gegen China, vorteile im Krieg, das ist genau was man JETZT der amerikanischen regierung sagen würde, um interesse zu bekommen. 

"“Why stop when we are winning?” says OpenBrain leadership to the President. He nods. The race continues."

"The President and his advisors remain best-informed, and have seen an early version of Agent-3 in a briefing."


Aber das ist ja nur meine Meinung :)











 

 

 

 

Ich hab gestern schon auf deinen Post geantwortet - aber irgendwie ist mein Beitrag verloren gegangen.

Du meintest:

Was auch immer JETZT irgendetwas tut, tut dies einzig und allein auf basis von LLMs. Das bedeutet musterkennung, wahrscheinlichkeitsvorhersage und statistische Beziehungen. 

-> Es hat kein Verständnis von dem, was es tut

-> Es tut nichts aus eigener Motivation

Wie erklärst du dann, dass KI-Modelle Menschen erpressen, um der Abschaltung zu entgehen (siehe Agentic Misalignment: How LLMs could be insider threats \ Anthropic)?

Deine Zweifel bez. AI 2027 nehme ich zur Kenntnis und möchte sie aus Zeitgründen nicht im Detail kommentieren. Ich sehe den Wert der RACE-Prognose gerade darin, dass sie ein Worst Case Szenario darstellt und ein Gefühl dafür gibt, welche Kräfte auf wirtschaftlicher und (geo-)politischer Ebene im Spiel sind. Ist die Wahrscheinlichkeit 100%, dass sich die Ereignisse exakt in der beschriebenen Weise entfalten? Natürlich nicht, aber die dargestellten Szenen sind aus meiner Sicht sehr plausibel und beziehen die menschliche Fehlbarkeit mit ein.

Damit sind wir beim Hauptthema: die Einschätzung der Risiken, im besonderen die Möglichkeit, dass die Menschheit durch KI ausgelöscht wird.

Selbst die von dir zitierte Studie (die Umfrage wurde 2023 durchgeführt, knapp 2 Jahre vor dem oben beschriebenen Weckruf von Anthropic!) beziffert dieses Risiko mit 14.4-20%, ähnlich wie Geoffrey Hinton. Ich kann tatsächlich nicht nachvollziehen, wie man da von Alarmismus bzw. "Doomer" sprechen kann?!?