Stefan:

Das setzt natürlich auch voraus, dass man mögliche Fallstricke kennt und dementsprechend seine Fragen formuliert und anpasst.

Man muss einfach eine Ahnung haben von dem Gebiet.

Ich frage oft ChatGPT zu eher fachlich-mathematischen Dingen, rein aus Spaß. Die Fehler sind oft himmelschreiend!

- Verwechslung kW und kWh (Technik-Klassiker!)

- Oft um Größenordnungen daneben, oft bei Alltagsvergleichen.

Und so weiter und so fort. Bei normaler Anfrage arbeitet es anscheinend als Sprachmodell ohne jeden Plaubsibilitätscheck. Bei Nachfrage (rechne!) rechnet es tatsächlich, aber ich bin mir nicht ganz sicher, ob das wirklich immer so ist. ChatGPT aber auch schon eigene Fehler gefunden und korrigiert. Einmal aber auch überhaupt nicht, nach mehrmaliger Aufforderung nicht. ChatGPT hat mir erklärt, warum es den Fehler nicht gefunden hat. Ganz habe ich die Erklärung nicht verstanden.

Manchmal stelle ich auch absichtlich falsche Behauptungen auf - das Programm antwortet oft mit "NEIN!"

Also so ist es nicht, dass es immer das Ergebnis liefert, das man möchte. Oder eine Bestätigung der eigenen Meinung.

Für mich ist die KI die größte Fehlentwicklung in die EDV. Es wird suggeriert das die KI logisch denken kann. Das ist total falsch.Die KI kann nur grosse Datenmenge automatisch durchsuchen. Was sie suchen muss gibt der Programmierer vor. Ich verwende die KI beim Texte schreiben und was mir die KI für Wörter vorschlägt ist zum aus der Haut zu fahren. Nicht einmal die Fehler beim Schreiben findet die KI. Für mich unmöglich. 

VOR DEM HAB ICH ETWAS ANGST - FAKE NEWS DURCH KI BIS ZUM KRIEG

EINFACH WEIL SIE EINE FALSCHE REALITÄT DEN POLITISCHEN ENTSCHEIDUNGSTRÄGERN VORSPIELEN KÖNNEN

Israel – Iran

Krieg der KI-Bilder

Der Alltag vieler Redaktionen wird gerade umgekrempelt. Sie begegnen bei der Berichterstattung über die Eskalation zwischen Israel und dem Iran einer Flut von mit Hilfe künstlicher Intelligenz (KI) erstellten Bildern. Verifikationsexperte Derek Bowler von der Europäischen Rundfunkunion (EBU) beschreibt gegenüber ORF defacto, wie Accounts mit Fakes Geld verdienen, während Userinnen und User in der KI-Flut untergehen.

Online seit gestern, 18.15 Uhr

Der Krieg zwischen Israel und dem Iran markiert nicht nur geopolitisch eine Zäsur, auch technologisch ist der Konflikt ein Wendepunkt. Bowler, Spezialist für Bildforensik und Leiter der Abteilung für Nachrichtenbeschaffung bei der EBU, kümmert sich darum, Bilder aus sozialen Netzwerken zu verifizieren.

Er berichtet von einer „atemberaubenden Menge an hyperrealistischen Videos“, die ihm zum Nahost-Konflikt gerade begegnen und die sich „wie ein Waldbrand verbreiten“ würden. Da kursieren etwa KI-Videos von getroffenen Gebäuden, niedergebrannten Panzern und zerstörten Atomreaktoren. Alle sehen eindrucksvoll aus, alle sind aber rein am Computer erstellt. Das führt zu Problemen.

Identifikation selbst für Fachleute schwierig

Kurz nach ersten Berichten über die Bombardierung des berüchtigten Regimegefängnisses Ewin in der iranischen Hauptstadt Teheran machte ein kurzes Schwarz-Weiß-Video die Runde. Darin ist in schlechter Qualität ein Eingang des Gefängnisses zu sehen, nach einem Treffer steigt dort dichter Rauch auf. Ob das Kurzvideo authentisch ist, konnte bisher nicht geklärt werden.

Hany Farid, Professor für Informatik und Information an der UC Berkeley in Kalifornien und Mitgründer der KI-Detektionsfirma GetReal, fürchtet angesichts eines Trends gefälschter Inhalte bei wichtigen Weltereignissen ein „wackliges Verständnis der Geschehnisse“ und äußerte online Zweifel an der Echtheit des Clips.

Das kursierende Video könnte basierend auf einem Foto KI-generiert sein. Es ähnelt in Ausschnitt und Details frappierend einem älteren Bild, das Grundlage für die Erstellung gewesen sein könnte. Aber: Ganz sicher ist er sich nicht. Das kurze Gefängnisvideo zeigt den Stand der Technik. Wenn selbst KI-Experten wie jene von GetReal nach längerer Analyse Schwierigkeiten bei der Einordnung haben, stehen alle vor einer Herausforderung. „Es wird für die Menschen sehr, sehr schwierig, damit umzugehen“, sagt Bowler.

„Goldenes Fenster“ schließt sich immer schneller

Sein Verifikationsteam habe bisher die ersten Momente nach einem Ereignis genutzt, um das Internet nach Material von Userinnen und Usern zu durchsuchen. In den ersten Minuten sei bisher das Informationsumfeld noch relativ sauber und man könne ein „goldenes Fenster“ nutzen, um authentisches Material aufzuspüren.

Das ändere sich gerade mit der Geschwindigkeit, mit der KI-Videos erstellt werden können: „Jetzt sehen schon wir in den ersten zehn Minuten mehr als tausend Beiträge, die eine Mischung aus echten, falsch dargestellten und KI-generierten Inhalten sind. KI-generierte Inhalte dominieren diese Landschaft im Moment.“

Geld und Geschwindigkeit

Nicht nur die Geschwindigkeit und Zugänglichkeit von künstlicher Intelligenz ist dafür verantwortlich, auch die aufgeheizte Stimmung trägt dazu bei. Manche Accounts nutzen das. „Wir sehen jetzt sogenannte Narrativ-Accounts, wo ein Account zwei-, dreihundert Videos veröffentlicht. Es startet mit einem harmlosen Inhalt und dann sehen wir weitaus gezieltere und krassere Inhalte“, so Bowler.

ORF defacto

ORF defacto verifiziert Bilder und Videos für die Nachrichtenredaktionen des ORF und berichtet über Desinformationsthemen. ORF defacto ist Teil des Faktenchecknetzwerks Spotlight der EBU, dem auch Derek Bowler angehört.

Diese Inhalte bedienen aber nicht nur Gefühle in einem emotional aufgeladenen Konflikt, sie lassen die Kassen der Ersteller klingeln. Manche der KI-generierten Bilder und Videos werden millionenfach aufgerufen, damit lässt sich etwa auf TikTok gutes Geld machen. Gleichzeitig stillen sie ein mediales Bedürfnis nach Nachrichten aus einem Land, zu dem viele westliche Medien nur schwer Zugang haben.

Das Phänomen sieht Bowler aber nicht auf den Nahost-Konflikt beschränkt. „Wir stehen erst ganz am Anfang.“ Er kritisiert mangelnde Kontrollmechanismen der Plattformen, was in der Zukunft zu noch mehr irreführenden KI-Inhalten führen könnte: „Wenn wir zu diesem Stadium kommen, wird es für uns alle zu einem noch größeren Problem werden.“

KI-Bilder erkennen

Wer selbst herausfinden möchte, ob ein Bild mit Hilfe von KI erzeugt wurde, kann sich mit drei Schritten behelfen. Erstens: Rückwärtssuche anwenden. Wer das Bild bereits mit welcher Beschreibung verwendet hat, kann aufschlussreich sein. So erkennt man etwa echte Bilder, die von vorangegangenen Konflikten stammen oder KI-Material, das ursprünglich als solches gekennzeichnet war.

Zweitens kann der Kontext unter die Lupe genommen werden: Details wie unnatürliche Reaktionen von Umstehenden, logische Fehler im Video oder Unterschiede zu anderem, bereits verifiziertem Material können weiterhelfen.

Dritter Punkt ist das Aufspüren von KI-Resten. Viele KI-Generatoren versehen ihr Material mit Wasserzeichen, die aber manchmal versehentlich weggeschnitten oder absichtlich überdeckt werden. Eine typische Länge KI-generierter Clips, wie etwa acht Sekunden bei Material von Googles Veo 3, kann ebenfalls Grund zur Skepsis bieten.

Eva Wackenreuther, ORF defacto

Was für einige tödlich enden kann.......

In dem Artikel steht ...

Sewell Setzer litt schon länger an psychischen Problemen. Die Rede ist von Angstzuständen und Depressionen. 

... und nicht die KI ist schuld an dem Tod des Jungen, sondern diese psychischen Probleme. 

Dies ist ein sehr gutes Beispiel, wie selbst Menschen kurz vor der Rente Dinge nicht hinterfragen können. 

ChatGPT arbeitet anhand von Anfragen und je besser und präziser man sich ausdrücklich kann desto besser ist das Ergebnis.

(Endlich mal ein Nachbar hier ;-) )
Es spielt keine Rolle wie gut du formulierst, denn wenn die Quelle in einem falschen Kontext eine Antwort liefert, wird die Antwort auch falsch sein. 

Bsp. Es gibt auch KI im beruflichen Kontext. Nehmen wir an Du baust 10 Jahre ein Produkt immer mit dem selben Bauteil. Nach 10 Jahren ändert man dieses Bauteil, weil es weniger Fehleranfällig ist. Die ganze Zeit gibt es eine Dokumentation, die dem Kunden übergeben wird. 

Jetzt fragt ein Ingenieur "Welches Bauteil x muss ich für das Produkt verwenden" und die KI wird das Bauteil nehmen was es am häufigsten findet, nämlich das alte. 
 

Eine KI ist eine Mischung aus Daten und Wahrscheinlichkeitsrechnung bzw. Algorithmen. Komplexe Mathematik. 
 

die gibt einem die Antwort, die man hören will. Man will ja schließlich die Nutzer in der App halten.  

Keine logische Schlussfolgerung! Eine KI ist vor allem eines... verdammt teuer. 

Im beruflichen Kontext sieht es anders aus, dort kostet den Nutzer dies sehr viel... 

Zur KI: Die KIs sind so geschrieben, dass sie das ausgeben, was der Frager gerne haben möchte.

Wer sagt dies? Leider führt der Link zu einer Diskussion über Feministinen und auch nicht den von Erv angesprochen Beitrag von Fridolin. 
 

Das ist nicht korrekt! Vor allem gibt es nicht "die KI". Ihr kennt vor allem nur die KI, die ihr was fragen könnt. 

Bsp.: Es gibt eine KI, die mit Daten von Millionen von Partien von diesem asiatischen Spiel (weiße und schwarze Steine) gefüttert wurde. Er spielt jetzt gegen ein Großmeister... und "denkt nicht nach", sondern schaut in Millionen von Daten nach diesem selben Zug, wo am Ende der Gegner gewann und führt die selbe Technik aus. 

 

Das ist das Problem der Uni, die den Studierenden die Aufgabe stellt, eine Seminararbeit über einen Roman abzugeben.

Das Problem ist nicht die Aufgabenstellung, sondern das die KI den Roman als Quelle hat. 
Würde die KI diesen Roman nicht kennen, könnte es die Aufgabe nicht lösen. 

Was die KI auch nicht kann... schlussfolgerungen oder interpretieren aus dem Inhalt. 
Man erinnere sich nur an "Die Schachnovelle" oder andere Weltliteratur. Erst wenn irgendjemand eine Abhandlung über dieses Buch geschrieben hat, kann die KI daraus eine Antwort formulieren. 

Ich gebe immer gerne das Beispiel mit CIA ... die Menschen, die dort arbeiten sind nicht intilligenter, sondern sie haben auf mehr Daten Zugriff. 

Ich halte es aber für falsch, wenn hier mit gefährlichem Halbwissen um sich geworfen wird, denn die wenigsten von Euch werden ein Studiumabschluss in IT haben... und damit basieren die meisten Antworten hier auf gefährliches Halbwissen und Ängsten. 

Das ist das Problem der Uni, die den Studierenden die Aufgabe stellt, eine Seminararbeit über einen Roman abzugeben. Die Aufgabe lässt sich nämlich mittels KI gut und schnell lösen, ohne dass eigenes Denken gefordert ist.

Die Aufgabenstellung muss sich so anpassen, dass die Studierenden sich mit dem Buch auseinandersetzen und darüber nachdenken - und dabei können sie sich dann gerne von der KI helfen lassen. Z.B.: in der nächsten Stunde wird der Roman soundso diskutiert - bereitet euch darauf vor, in einer Diskussion den Standpunkt von Charakter A,B,C aus dem Roman  zu übernehmen. Eure Positionen müsst ihr mit einem Verweis zu Stellen im Roman begründen.

Ist auch logisch dass KI nicht gerade die eigene Intelligenz fördert, wozu selbstständig denken wenn man alles einer KI überlassen kann und die gibt einem die Antwort, die man hören will. Man will ja schließlich die Nutzer in der App halten.  

Grundsätzlich nutze ich die KI zum diskutieren und das geht dann so lange,  bis ich sie von meinen Ansichten und meiner Meinung überzeugt habe ! Meist bedankt sie sich dann für den Input…😉

Ich  versuche aber Kl  generierte Texte zu vermeiden , denn ich möchte mich dieser Technik nicht ausliefern und mich auch in der Realität verständigen können !  Ich glaube auch,  dass sie humaner wirken,  wenn sie nicht durch die KI bearbeitet und formuliert werden ..🙋‍♂️

Ich nutze KI täglich und bin überrascht wie gut das alles funktioniert und wie effizient ich mit ChatGPT viele tägliche Aufgaben privat und beruflich erledigen kann. Auch Bill Gates hat vor Jahren behauptet, dass KI die Welt verändern wird. Wichtig ist natürlich zu verstehen, dass die Informationen aus dem Internet kommen. Und noch wichtiger ist richtig zu formulieren was man möchte. ChatGPT arbeitet anhand von Anfragen und je besser und präziser man sich ausdrücklich kann desto besser ist das Ergebnis. Also als "Mittel zum Zweck" kann man es sicherlich gut nutzen. ;)

Solange auf der Welt gelogen wird🤥 kann man eh nicht alles glauben😉...