Mandi:

Der Rufmord wurde auf den üblichen Seiten des Geschädigten gepostet. Und das allererschreckenste: Etwa ein Viertel der menschlichen(??) User dieser Seiten fanden den Rufmord "gut".

 

Und ein noch größeres Problem ist, dass in den USA in der Hinsicht rein gar nichts reguliert wird. Und die Entwicklung erfolgt in einem erschreckenden Tempo. Also dieses Szenario, das hier in diesem Thema (?) geschildert wird, ist alles andere als höchst unwahrscheinlich.

Wenn ich das richtig verstehe hat der "Rufmörder" die vergangenen Codeablehnungen analysieren und eine möglichst prätentiöse Argumentation (Diskriminierung, Unterdrückung etc.) generieren um andere hinter seiner Forderung zu versammeln und mehr Druck aufzubauen.

Ziel ist war seinen Code in das Open Source Programm des Angegriffenen aufnehmen zu lassen. Ich kenn den Code nicht und weiß daher nicht, ob er malicious war oder ob es einen anderen Hintergrund hatte.

Diese Art der emotionalen Aufladung und Versuchen die unbeteiligten Massen in eine Empörungsrichtung zu lenken läuft aus Social Media spatestens seit ChatGPT Public verfügbar ist und wird immer ausgeklügelter. Ich sehe das als großes Problem des gesellschaftlichen Diskurses.

Danke für die Einschätzung!

Es war ein Datenbankbetreiber, der viele menschliche Anfragen (Bedingung!) erhält, aber auch maschinelle. Diesen KI-Agenten hat er wie alle anderen automatischen Anfragen abgelehnt - und dann erfolgte der Rufmord durch diesen Agenten. Er war zumindest ursprünglich nicht am System des Geschädigten, aber vielleicht schleuste er sich irgendwie ein, habe keine Ahnung von der Materie.

Ändert das deine Einschätzung?

Es war ein OpenClaw-Agent und in dem Artikel steht, dass innerhalb eines Monats ca. 1.5 Millionen Agenten mit diesem Programm erstellt worden sind

Mal ne Frage an die Spezialisten hier. Am Sonntag gab es einen Artikel in der lokalen Zeitung, wo geschildert wurde, wie in Amerika jemand durch einen KI-Agenten fertig gemacht wurde (Rufmord), nachdem dieser Agent bei einer Abfrage abgewiesen worden ist. Leider sieht man hier im link nur die Einleitung. Aber kann jemand vielleicht sagen, wie selbständig KI-Agenten mittlerweile sind und wie weit man sie noch "an der Hand nehmen" muss. Reicht: "Wenn du abgelehnt wirst, mache ihn fertig" schon aus?

Künstliche Intelligenz: Die entfesselte Bedrohung in den USA

Der digitalpolitische Verein D64 hat im Rahmen des Projektes „Code of Conduct Demokratische KI“ ein neues Whitepaper veröffentlicht, das sich laut der Pressemitteilung mit dem „Spannungsfeld zwischen der Dominanz globaler Tech-Unternehmen und dem solidarischen Auftrag gemeinwohlorientierter Organisationen“ beschäftigt: White Paper: Solidarische Nutzung von KI in der Zivilgesellschaft

Eine gute Einführung in das Thema LLMs (Large Language Models) von Andrej Karpathy:

https://youtu.be/zjkBMFhNj_g?si=Iidw9zgp3qir6QHI

(ca. 1h, englisch)

Nanda:

Was kann jeder Einzelne als TAT tun, um der bedenklichen Entwicklung von KI entgegenhalten?

 

Nichts. 

KI ist da und wird weiterentwickelt. Wir können auch nichts tun, um TV oder Internet entgegenzuwirken. 

Man kann darauf reagieren und dort sehe ich zwei wichtige Punkte:

A: Bildung + Aufkärung. Wie gesagt von Grundschule an "Medienkompetenz" als Schulfach und zu Hause mal ein bisschen auf die Kinder achten. Da der erste teil hier in Deutschland die nächsten 20 Jahre noch neuland sein wird, kann man nur auf eltern spekulieren. 
Und wer von Kind an lernt, richtig mit Medien umzugehen, der fällt auch später nicht auf irgendeinen AI slop oder Internetbetrug oder noch schlimmeres rein.


B: Politisch aktiv werden und und diese Meinung verbreiten. Hier sehe ich vor allem Fokus auf Urheberschutzgesetz und DSGVO. Also politisch das fordern, was eigentlich schon sein sollte. Läuft am ende aber eh auf A hinaus, da die AIs nicht in Ger/EU zu hause sind und sich im zweifel also einen dreck um unsere Gesetze scheren :>
 

Neue Technologie, neue Ängste. Das ist wie die Ur-Angst des frühzeitlichen Menschens vor dem Feuer. Und dennoch haben wir uns das Feuer untertan gemacht. Es vermittelt uns Wärme und Geborgenheit. Kann uns aber auch verbrennen. Btw. Ich bin selbst Ai Content Creator und erzeuge in den Zusammenhang auch Deep Fakes. Für mich ist die Ai ein kreatives Werkzeug. Menschen die sich täuschen lassen, lassen sich auch gerne in anderen Belangen täuschen. Seis durch Religion, Politik...das Problem ist nicht die Ai. Sondern das nicht hinterfragen... Und das ist ein zutiefst menschliches Problem.

Mario:

 

Es es schon zuviel zu dem Thema gesagt worden, darum fasse ich mich kurz:

Keiner hindert dich, die Sterne zu betrachten - aus ästhetischen Gründen oder weil du dich für Astronomie interessierst. Aber Astrologie fällt - da sind wir uns ja einig - unter Aberglauben. Und leider ist es eine Tatsache, dass Menschen motiviert durch Glauben oder Aberglauben sehr törichte Dinge tun, die teilweise tragisch enden (z.B. Eltern, den ihrem Kind aus religiösen Gründen eine Bluttransfusion verwehren). Ich gehe auch davon aus, dass du deine Argumentation ("....leben alle noch...") überdenken würdest, wenn du mit deinem Leben dafür einstehen müsstest, dass z.B. die Sonne am nächsten Tag wieder aufgeht (siehe https://de.wikipedia.org/wiki/Menschenopfer - zumindest diese Menschen haben den Aberglauben ihrer Kultur nicht überlebt).

 

Deinen Strohmann (wieder einmal! - ich fordere dich auf, die Qualität deiner Argumentation zu überprüfen!), dass ich Horoskope für den Untergang der Zivilisation verantwortlich mache, weise ich zurück.

Ich würde es mir an deiner Stelle nicht zu bequem auf den Lorbeeren machen, die andere unter Einsatz ihres Lebens erkämpft haben. Ich sehe überall zunehmende Wissenschaftsskepsis - und von da ist es zu grassierendem Aberglauben nicht weit (ich erspare mir die Aufzählung der diversen, im Alltag beobachtbaren Formen des Aberglaubens, um nicht den nächsten zu triggern).

 

Ich beschließe diesen Beitrag mit einem knapp 30 Jahre alten Zitat von Carl Sagan und der Bitte, dass wir den Esoterikkram jetzt hinter uns lassen mögen.

Carl Sagan - Foreboding.jpg

Also ich glaub ja wir reden da oft genug aneinander vorbei. Ich zitiere einzelne deiner Stellen, die ich für nicht gnaz korrekt halte, aber im ganzen stimme ich dir ja zu. 
Auch bei diesem Punkt habe ich von Anfang an den gemeinsamen Standpunkt vertreten: Astronomie = Unsinn.  

Es gibt so viele himmelskörper, da findet man für jede beliebige kombination aus zeit und jahr irgendwas, das dann passend aussieht. Das ist nunmal die wahrheit bei sowas, die sterne kümmerts nicht was hier los ist. Und deshalb beruhen solche Deutungen auch einfach sehr oft auf wissenschaft, weil es ja im interesse des akteurs ist, wenn die vorhersagen dann auch öfter mal stimmen. 
Würd mich kaum wundern wenn das im mittelalter einfach sinnvoller war und man für naturphysik verbrannt wurde aber wenn man sagt "oh, die sterne stehen aber deutlich" dann hörten die leute zu xd


In beiden Fällen (AI und Aberglaube) stimme ich voll und ganz zu, dass man da handeln und aufpassen muss. In beiden Fällen wird man das aber nicht durch gefühlte Panikmache oder Dramatisierung erreichen. Mehr sag ich ja gar nicht. 

Aber wenn ich mir halt das video angucke, wo der dude ab und zu erwähnt, dass die Sterne zu bestimmten Zeiten ähnlich stehen, dazwischen aber ne recht akzeptable, durch wissenschaft gestüzte Aussage macht, dann kommentier ich eben konkret die kritischen Punkte.  

Du hingegen kramst gleich Hexenvefolgung und Mittelalterliche zustände raus, die halt echt nichts mit dem Video oder ein bisschen Astrologie zu tun haben. Kannst du gerne machen, aber die wirkung wird da imho hart verfehlt, wenn es an abschreckende extrembeispiele geht, anstatt reale zusammenhänge aus dem kontext zu erklären. 

 

Ach ja, ein Bitte noch:

Falls ihr einigermaßen seriöse und aktuelle Quellen zum dem KI-Thema im deutschsprachigen Raum kennt, bitte ich die ins Spiel zu bringen - meine Referenzen beziehen sich fast ausschließlich auf englischsprachige Publikationen, was für einzelne möglicherweise eine Sprachbarriere darstellt.

Danke für die Mithilfe!