00:00:08: Hi, ich bin Bianca und du bist hier im Mental-Server Podcast gelandet.

00:00:13: Dem Podcast über Alltagspsychologie und die ungeschönte Wahrheit darüber wie Menschen ticken wenn sie glauben logisch zu handeln!

00:00:21: Ich zeige dir, wie du die Mechanismen deines Gehirn verstehst bewusster reagierst und andere besser einordnet für klare Entscheidungen statt Autopilot.

00:00:32: also entscheide selbst bevor dein Gehirnes tut.

00:00:36: Also heute geht es bei mir darum, warum KI und der Mensch erstaunlich ähnliche Denkfehler machen.

00:00:47: Das ist einfach mal eben so dass die meisten Menschen tatsächlich gerade zwei ganz ganz gefährlichen Dinge glauben zum einen das die KI objektiv immer die richtigen Informationen parat hat und zweitens dass sie als mensch selber logisch denken.

00:01:03: beides ist leider nur bedingt so.

00:01:07: Und heute habe ich Andreas Gaul von Blue Waze bei mir im Podcast, weil wir nämlich irgendwie in unzähligen Gesprächen festgestellt haben dass sich das womit wir uns beide eigentlich tagtäglich beschäftigen ziemlich erstaunliche Gemeinsamkeiten hat auch wenn das vielleicht jetzt erstmal gar nicht so aussieht.

00:01:23: Andreas arbeitet viel mit Webseiten KI und Daten und ich wie ihr ja wisst ein bisschen weniger technisch mehr mit Menschen und deren Reaktion.

00:01:33: So, Andreas.

00:01:34: Wir kennen uns jetzt seit fast zwanzig Jahren aber irgendwie in der gemeinsamen Podcast-Folge haben wir noch nie geschafft.

00:01:40: Ich finde das wurde mal Zeit.

00:01:42: schön dass du da bist.

00:01:44: Ja das sehe ich auch so.

00:01:45: also tatsächlich freue mich sehr dass ich heute eingeladen bin und mein erster Podcast und ich bin immer ein bisschen aufgeregt Aber es ist ein gutes Thema!

00:01:57: Ich glaube da haben wir eine ganze Menge zu erzählen

00:02:00: Definitiv.

00:02:01: Und wie gesagt, wir gucken... Wir werden so das eine gegen das andere immer ein bisschen gegenüberstellen.

00:02:05: So die KI und das Gehirn und gucken wo dann letztendlich tatsächlich doch mehr Gemeinsamkeiten bestehen als man so denkt.

00:02:14: Gut!

00:02:15: Dann lass uns mal einsteigen.

00:02:17: Wann hast du in deinem täglichen Business entweder weil du selber genutzt hast oder vielleicht für den Kunden das erste Mal richtig krass gemerkt?

00:02:26: Warte mal, irgendwie stimmt das hier mit der KI nicht.

00:02:29: Also dass was hier so gerade mir ausgeworfen wird irgendwas passt da überhaupt nicht.

00:02:35: egal ob das jetzt irgendwie nicht stimmig war oder einen krassen Fehler rausgekommen ist.

00:02:40: Was war so dein Dein Moment wo du gedacht hast irgendwas läuft hier schief?

00:02:46: Das war eigentlich schon ziemlich am Anfang der KI-Nutzung weil wir benutzen das primär in der Entwicklung oder damit eingestiegen Und da hattest du dann so Effekte, wo du ein Fehlerbild in die KI geworfen hast und danach eine Lösung bekommen hast oder vorgeschlagen bekommen hast, die nicht funktionieren konnte.

00:03:11: Wir wussten das weil wir technisch einfach zu tief drinstecken und konnten das noch anfangen am Werten, haben uns dann immer gefragt, nein, dass kann nicht funktioniere.

00:03:22: Selbst bei Nachfragen war die KI komplett davon überzeugt, dass sie richtig liegt.

00:03:30: Das waren so Momente die sehr offensichtlich waren.

00:03:33: und weil man sagen muss das ist halt im Laufe der Zeit auch besser geworden.

00:03:37: Das kommt weniger vor.

00:03:40: Man arbeitet jetzt aber auch anders damit.

00:03:43: Ich denke mal da kommen wir später gleich noch dazu.

00:03:46: Das heißt es war also so, dass ihr mit eurer Erfahrung Ich sag mal, Fachwissen und dem logischen Denken schon gemerkt habt.

00:03:57: Das stimmt fast nicht.

00:03:58: Ja ganz genau!

00:04:00: Unser Gehirn macht ja tatsächlich ganz oft dasselbe.

00:04:03: Also wir glauben halt immer wie denkenlogisch also so wie das das irgendwie irgendwas rauskommt so muss es dann tatsächlich auch in der Realität sein.

00:04:13: Das Ding ist ich sage mal auch unser Gehirnen verarbeitet Information nicht neutral.

00:04:20: Also das Filter ist ergänzt Sachen, es bewertet ganz viel und es interpretiert sogar.

00:04:28: Ich denke mal dass bei der KI nicht kommen wir gleich noch zu.

00:04:31: Das heißt also in beiden Kontexten so wie du's beschrieben hast und so wie ich das jetzt mit dem Gehirn weiß real, korrekt oder logisch?

00:04:42: ist das dadurch?

00:04:44: Durch diese Bewertungen durch die Filter, durch die Interpretation.

00:04:48: Ist es eigentlich nie... Lass uns tatsächlich auch mal zu dem ersten Punkt kommen und zwar sozusagen dem Thema Wahrheit.

00:04:57: der große Denkfehler oder die Gefahr, die ich tatsächlich bei beiden Systemen nenne, dass jetzt einfach mal sehe, der Output, egal ob das jetzt eine Reaktion ist die man sagt ja es ist ja logisch so zu reagieren oder eben dann das was die KI generiert.

00:05:17: Wir denken fälschlicherweise dass das was daraus kommt der Wahrheit entspricht.

00:05:22: und genau lass uns das mal so eben von den beiden Systemen ein bisschen vergleichend darstellen.

00:05:28: Wie ist das mit dem Thema Wahrheit bei der KI oder generell beim, bei dem Output?

00:05:34: Wie viel oder warum entspricht es nicht der Wahrheit.

00:05:38: Genau was ist da so?

00:05:40: deine Meinung oder deinen Fachwissen zum Thema KI und Wahrheit?

00:05:45: Das sind das ein spannendes Thema, dass vor allem ziemlich weites Thema weil die KI im Endeffekt auch häufiger richtig liegt tatsächlich als ein Mensch was jetzt auch schon erwiesenermaßen ist, aber halt immer noch unter bestimmten Problemen leidet.

00:06:04: Aber die so systembezogen sind also das eine Thema als sowas wie confirmation bias dass die KI dich gern bestätigt.

00:06:13: Das kommt immer darauf an wie man reinruft bekommt man ja gewöhnlicherweise dann erstmal eine Bestätigung der eigenen Meinung und danach geht es halt weiter.

00:06:25: und dieses Diese Tendenz, dem User die Eingaben zu bestätigen sorgt halt auch dafür dass man die Ergebnisse wahrscheinlich anders annimmt und anders interpretiert als wenn man das völlig neutral machen würde.

00:06:43: Das gleiche ist natürlich auch die Frage schlechte Proms sind immer so ein Thema.

00:06:48: Kann man wieder zurück zum Confirmation Bias.

00:06:50: Wenn ich einfach nur rein frage, wie findest du meine Idee?

00:06:53: Wird das in der Regel doch ziemlich gut finden.

00:06:55: Es sei denn, dass ich andersweilig darauf konditioniert habe, dass er immer sofort kritisch ist und dann muss ich halt anders vorgehen müssen halt sagen Challenge meine Idee zeige mir Widersprüche auf etc... ist die Blickweise de facto eine andere und dann bekomme ich ehrlichere Ergebnisse.

00:07:14: Also mit einem ausführlicheren, auch ein bisschen anleitenden also zur Gegensicht anleidenden Prompt kann man den confirmation bias sozusagen reduzieren.

00:07:25: Richtig?

00:07:26: Ja!

00:07:28: Das funktioniert eigentlich ganz gut und dann sind gefühlt auch die Ergebnisse besser.

00:07:32: Und man kriegt auch mal eine kritische Rückfrage oder das ist eigentlich, was ich haben möchte.

00:07:37: Ich möchte Blickwinkel aufgezeigt bekommen, die ich selber nicht sehe.

00:07:43: Ja

00:07:43: also den Confirmation Bias, den gibt es ja tatsächlich extrem im Gehirn auch.

00:07:48: Also das Gehirns sucht eben einfach... Also nicht nur sagen wir mal die KI, die bestätigt Die eigene Meinung, also das ist sozusagen der Spiegel.

00:07:58: Der bestätigende Spiegl und das Gehirn... Das sucht quasi ständig nach Bestätigung, das spiegelt natürlich jetzt nicht.

00:08:06: Aber wir nehmen tatsächlich ein ganz großer Filter sehr viel nur von dem wahr was wir auch haben wollen.

00:08:15: Also es ist so zwei Seiten einer Medaille und trotzdem werden wir sozusagen bestätigt einmal in dem was wir suchen und überhaupt nur rein lassen ins Gehirn und einmal was uns als Output entgegen kommt.

00:08:28: also da wahrscheinlich sehr ähnlich

00:08:31: Und gefährlich sehe ich dann an der Stelle auch noch, dass die Bestätigung, die ich von der KI bekomme oftmals halt auch als wahrgenommen wird.

00:08:39: Weil die KI so eine gewisse Kompetenz zugeschrieben, womit sich der ganze Effekt da wahrscheinlich noch ein bisschen verstärkt.

00:08:48: Also wenn die KI meine Meinung schon gut findet, die Ich dort reingegeben habe, dann muss es ja wirklich gut sein und Dann hab' ich nochmal einen gewissen Einflussfaktor, der auf der ganzen Sache drauflastet und mich gegebenenfalls in die falsche Richtung laufen lässt.

00:09:00: Ja, ich glaube mit dem Thema Kompetenz und wahrgenommener Kompetenz kommen wir später auch noch mal zu.

00:09:05: Das ist tatsächlich eine Gefahr aber es ist ja beim Menschen nicht anders.

00:09:09: Auch wir schreiben uns ja eine höhere Kompetent zu als in den oft real tatsächlich da ist und dementsprechend wenn ich das schon so glaube und auch nur wahrnehme was ich eh schon glaube dann erhöht das dem diese quasi gefühlte Kompetence dieses Jahr.

00:09:25: Ich habe ja recht.

00:09:26: Also das ist tatsächlich auch da sehr, sehr ähnlich.

00:09:30: Okay noch irgendwas zum Thema Wahrheit der KI?

00:09:40: Das sind viele kleine Aspekte.

00:09:41: Da fällt mir jetzt tatsächlich... Alles

00:09:43: gut!

00:09:43: Also der Comparmation Bias ist ja tatsächlich auch schon sehr groß und präsent.

00:09:48: Und wie gesagt...

00:09:49: Die Thematik, die der Night Number drei spielt hat sich schon gesagt, Prompt Context

00:09:54: etc.,

00:09:58: Wie allgemein bekannt, je mehr Kontext es dem System gäbe, desto besser sind auch die Antworten, weil das dann entsprechend einsortieren kann und aus diesem Wissensscope heraus antwortet.

00:10:09: Und ja... Dann wären die Ergebnisse genauer und besser!

00:10:13: Also was ich tatsächlich da ... Wir haben jetzt diese Gemeinsamkeit des Confirmation Bayers mal gesehen.

00:10:19: Was allerdings ein Contrera-Punkt ist, dass man die KI bemüht sozusagen um die Wahrheit rauszukriegen.

00:10:28: Das Gehirn ist da tatsächlich ein bisschen anders, das Gehirnen will aus verschiedenen Gründen gar nicht die Wahrhalt.

00:10:36: was so'n Mensch und das Gehören sucht is eigentlich eher immer Nicht die Wahrheit, sondern so eine Sicherheit.

00:10:43: So eine emotionale Stabilität.

00:10:46: Es ist immer sehr energieeffizient unterwegs.

00:10:49: Wir wollen eher so Musterwiederholung weil das nämlich im Energieeffizienter ist.

00:10:56: Das heißt ich sag mal eine Recherche Eine unbequeme Wahrheit Also ein Widerspruch – das will das Gehirn gar nicht.

00:11:05: Und wenn die Wahrkeit aber genau das ist ethisches Hinterfragen, vielleicht Meinungsänderungen.

00:11:12: Dann setzt das Gehirn nämlich genau da gerade in die Schranke.

00:11:16: Also während man die KI sucht oder nutzt um eigentlich an die Wahrheit zu kommen will dass das Gehören eigentlich eher nicht tatsächlich eben um Energie zu sparen und um uns ich sag mal damit zu schützen.

00:11:31: Und das ist der Grund, warum beim Gehirn ganz oft die Wahrheit weder rein noch rauskommt.

00:11:39: Weil das Gehirne nämlich gar nicht die Wahrhalt will interessanterweise.

00:11:44: Okay, spannend!

00:11:44: Dann wird das Gehren wahrscheinlich an der Stelle, wo die KI eine ... Die Wahrheit zurückgibt, die nicht dem eigenen Bild entspricht auch sagen ah dann hat er hier halluciniert

00:11:54: kann ja nichts sein.

00:11:55: Genau, das ist ja auch immer ein Thema.

00:11:57: Da kommen wir auch noch dazu.

00:11:59: Das ist sozusagen... Und wenn man das jetzt mal so den Punkt zusammenfassen können und dann kann man auch weitergucken, dass der Mensch eben durch diese Form von wie das Gehirn-Nummer funktioniert und diesen Bestätigungsding eigentlich schon ewig lange in dieser eigenen Echokammer nenn ich das mal also das so wie ich es halt wahrnehme und rausgebe, so kommt's halt auch bei mir immer wieder an.

00:12:22: Das gibt's schon ewig lange Und durch die KI ist das quasi jetzt noch mal digitalisiert.

00:12:28: Also diese Echo-Kammer digitalisiert, so wie ich es reingebe und so kommt's dann auch zurück.

00:12:34: Ganz interessant!

00:12:35: Wir hatten das ja eben gerade schon angedeutet.

00:12:37: So dieses... Das was ich reingabe der Input bestimmt den Output.

00:12:43: Ja das ist wahrscheinlich jetzt auch nichts ganz Neues.

00:12:46: also jeder der jetzt irgendwie in den letzten zwei Jahren ein bisschen mit KI zu tun hatte hat schon gerafft dass der Input, der Prompt möglichst gut sein soll.

00:12:56: Genau also gib uns da ein bisschen deine Erfahrungen mit.

00:13:00: was ja wo ist so der Haken an der Geschichte?

00:13:03: worauf sollte man achten beim Input schrägstrich bei den Prompts?

00:13:10: Ich glaube man muss erst mal davon dass sich klar machen das so ein klassischer KI System oder was ein klassisches LLM ist, es ja auf dem Wissen der Welt trainiert und hat daran gelernt.

00:13:26: Also Daten ganz erstmal?

00:13:28: Nicht mal in erster Linie der Prompt sondern erst einmal gerade

00:13:33: da auf die Daten zu stehen.

00:13:34: Die LLMs werden trainiert.

00:13:35: Und die gehen einmal durchs Netz und saugen alles auf und trainieren auf diesen Daten.

00:13:41: Das heißt man hat erstmal einen unglaublich breiten Wissenspool und dann fängt es an nämlich relevant zu werden, dass man auch innerhalb des Prompts den Scope etwas verengt.

00:13:57: Dass ich halt durch solche Dinge wie eine Definition einer Rolle in immer weiter Einänge auf ein bestimmtes Wissenzgebiet und ein gewisses Themengebiet damit die Antworten dementsprechend auch besser werden.

00:14:10: Wenn ich ihm sage, du bist mein Experte für XY, hast dich mit diesem Thema beschäftigt und wir machen jetzt Folgendes, dann schränke ich das immer weiter ein und dadurch schaffe ich es natürlich in diesen großen Weltwissen nur das rauszupicken was an der Stelle relevant ist.

00:14:32: Und dann werden die Antwortens natürlich auch besser.

00:14:34: Das ist bei uns in einer Entwicklung halt auch so ein Thema In den Anfängen, wenn wir einfach so Fehlerbilder reingegeben haben.

00:14:42: Dann mussten wir eben entsprechend noch dazusagen das ist für Software XY in Version zehn elf zwölf dreizehn damit dass besser wurde heutzutage.

00:14:53: wie geht man da anders vor?

00:14:55: Da wird halt der Code als Kontextleit mit übertragen und dann passiert es halt wesentlich zielgerichteter und das sind die Antworten natürlich von ganz anderes Thema.

00:15:07: Das Zweite ist, wenn ich ihn auf allgemeinen Wissen laufen lasse, kriege ich halt auch nur allgemeine Antworten.

00:15:14: Und sowas versucht man dann zu umgehen in dem ein eigenes Wissen mit reininjiziert, auf dem er arbeiten kann – das kann ich bei jeder KI-App machen, dass ich hier halt zum Beispiel Projekte anlege und dort Hintergrundwissen hinterlege oder dass sich mit anderen Systembissen eines Unternehmens mit reingebe und ihm dann halt explizit auf diesem Scope arbeiten lassen.

00:15:40: Dann wird natürlich auch die Antwortqualität eine ganz andere, und dann kann er nicht mehr so viel Halluzinieren zum Beispiel.

00:15:47: Also wenn ich das mal so zusammenfasse – und ich habe ja schon ein bisschen was im Hinterkopf wo ich gleich zu etwas sagen möchte ist es also bei der KI wichtig und relevant zu bedenken dass die grundlegende Datenmenge extremst groß ohne Kontext, ich sag mal so einen Durchschnitt von allem was da in dieser Welt an Daten zur Verfügung ist.

00:16:13: Da ist und wenn man es dabei belässt eben auch zu groß, zu allgemein, zu durchschnittliches Ergebnis kommt.

00:16:21: das heißt wenn man mit KI arbeitet muss man sozusagen die Datenmenge den Fokus ein bisschen eingrenzen richtig?

00:16:29: Ja, richtig.

00:16:30: Also

00:16:30: ich muss auf jeden Fall zusehen dass sich diesen Fokus etwas einenger.

00:16:34: und wenn mir das so von sich aus nicht gelingt dann ist halt immer noch so ein schöner Workaround, dass man mal DKI einen Prompt schreiben lässt für die nächste Anfrage.

00:16:45: Das ist meistens sehr erhellend was die Reihen strukturiert.

00:16:49: Was ich nämlich dabei total interessant finde, ist es das beim Gehirn.

00:16:53: Es ist genau andersherum.

00:16:55: die Datenmenge, die ich quasi dann für eine Reaktion, für eine Entscheidung, was auch immer eine Aussage tätige, ist nämlich nur meine eigene also sozusagen meine Erfahrung oder die der Person kliniert dann auch das, was ich eben nur wahrnehme.

00:17:13: Also meine Datenmenge wenn man das so nimmt sind meine Glaubenssätze, meine Erfahrungen, mein Umfeld sozusagen und wenn ich entweder ein realistisches Output haben möchte muss sich das öffnen.

00:17:31: Das heißt in dem Moment andere Erfahrungen berücksichtigen, was glauben andere Menschen?

00:17:37: Was glauben andere der Durchschnitt und eben nicht nur auf meine Datenmenge sozusagen zurückgreifen.

00:17:43: Auf meine Filter, auf meine Gehirnverbindung.

00:17:48: Das finde ich tatsächlich sehr interessant und dass man das tatsächlich im Gehirne nicht nur Erfahrung- und Glaubenssätze hat sondern

00:17:59: auch

00:17:59: schon Das, was man bei der KI prompten muss.

00:18:04: Bei uns quasi von ganz alleine passiert.

00:18:06: also dass du sagst hier ist ein gewisser eine gewisse Datenlage Du bist jetzt so und so ein Experte und darum und darum geht es das wird bei uns manchmal ich sage mal durch Medien oder durch Social Media von Ganz Alleine gemacht dass Man auf einen gesagt Ich Mal bestimmten Daten Strom gelenkt wird.

00:18:25: da Muss Man tatsächlich Aufpassen Dass man Also A immer hinterfragt Sind das jetzt gerade meine Daten, meine Erfahrungen oder sind es die von einer bestimmten Quelle?

00:18:35: Wie zum Beispiel eben so ein Social Media Kanal der Algorithmus eingeschränkt wurde.

00:18:42: Das finde ich tatsächlich einfach nur mal interessant zu wissen.

00:18:45: also sprich KI große Datenlage menschliches Gehirn sehr kleine sehr subjektive Datenlage Und das weiß ich jetzt eben nicht, da kannst du ja nochmal kurz eine Rückmeldung geben.

00:18:56: Beim Gehirn ist es einfach so dass es nicht nur die Datenlage ist sondern wir sind hier beim Stress.

00:19:04: Stress, neurobiologische Geschichten im Gehirnen passieren und schon habe ich einen anderen Output weil bestimmte Gehirnarriale durch Stress Also gerade dieser logische Teil ganz oft so ein bisschen eingeschränkt wird und wir einfach auch emotionalere Systeme zurückgreifen oder eben, dass wir noch einen verengteren Fokus haben.

00:19:28: Wenn wir Zeitdruck sind dann nehmen wir irgendwie alles nur noch ganz schnell und hektisch.

00:19:31: unoberflächlich war also das tatsächlich würde ich jetzt sagen die das woraus wir eine Output, eine Entscheidung generieren tatsächlich komplett anders ist als bei der KI.

00:19:44: Super interessant.

00:19:46: Ja, finde ich spannend.

00:19:48: Aber es ist im Endeffekt auch nachvollziehbar, dass ich zum einen durch Stressprozesse eingeschränkt werde.

00:19:56: Die Frage ist ja wie sehr lasse ich mich von externen Sachen beeinflussen als Mensch an der

00:20:04: Stelle?

00:20:05: Gerade Dinge wie Social Media muss man kritisch hinterfragen aber man ist halt nur ein Mensch und es ist spannend zu wissen mal wie sehr man trotzdem beeinflusst wird.

00:20:14: Absolut und wie gesagt, darum geht es einfach.

00:20:17: Auch bei uns jetzt in dieser Episode dass wir einfach ein bisschen gucken was kommt dann da so raus entweder aus der KI oder unseren Köpfen?

00:20:27: woher kommt das?

00:20:28: auf welcher Grundlage passiert das?

00:20:31: Und wie kann man darauf Einfluss nehmen?

00:20:34: beziehungsweise wie nimmt das System darauf Einchluss?

00:20:39: Also tatsächlich kann man da eben sagen zumindest für meinen Teil Wir Menschen halten unsere Gedanken eben für die Realität.

00:20:48: Das ist so, dabei sind es eben – ja naja wenn man in der KI-Sprache wird eigentlich trainierte Muster!

00:20:55: Das ist nicht die Realitet, das sind unsere subjektiven quasi tagtäglichen sehr eingengenden Prompts.

00:21:03: Dementsprechend dass was rauskommt, isst nicht die Okay, aber noch einen weiteren Punkt.

00:21:08: Du hast ihn jetzt schon eins, zweimal angesprochen das ist so das Thema Halluzination.

00:21:14: Beim Menschen ist das Thema Haluzination ein bisschen schwieriger zu sehen.

00:21:18: im KI-Kontext hat man das ja jetzt schon häufiger gehört.

00:21:21: wir reden eher von Wahrnehmungsverzerrung.

00:21:24: Aber genau also was hats mit der hallucinierenden KI auf sich?

00:21:31: Die hallucinierende KI wird ja immer als sozusagen die Grenze des Vertrauens in die KI mit dargestellt.

00:21:38: Und ja, Halluzinationen passieren.

00:21:41: Basieren zunehmend weniger was mehr Gründer hat.

00:21:44: also zum einen das Training der Systeme wird natürlich immer besser und die Hauptproblematiken wann eine Halluzation auftritt ist in der Regel wenn ich das sogenannte Druckfenster fülle.

00:21:57: Also im Endeffekt hat der, hat das System eine gewisse Kapazität um Eingaben und Ausgaben zu verarbeiten und wenn ich damit zu viel Wissen reingehe dann fängt er, fangen manche Systeme an sozusagen den Anfang schon wieder zu vergessen Und dann kann es sein dass ich Dinge die am Anfang definiert habe als Voraussetzung oder als Scope Dass sie einfach dann verloren gehen Solche Dinge passieren.

00:22:26: Es ist halt spannend zu sehen, wann sie passieren und dass man das erkennt in irgendeiner Form.

00:22:31: Dann gibt es halt diverse Optionen.

00:22:33: Man kann quasi die Bearbeitung im nächsten Chatfenster mit einem frischen Druckenfenster dann fortsetzen.

00:22:41: Und wir hatten halt auch schon Fälle, wo wir die gerade in der Entwicklung relativ viel Kontext im Form von Source Code reingegeben haben.

00:22:50: Das waren vielleicht auch an der Stelle mal zuviel war und dann wurden die Ergebnisse einfach schlechter.

00:22:56: Man hat es dann gesehen dass er Dinge vorgeschlagen hat, die nicht mehr plausibel waren.

00:23:03: Kann man auf menschliche Gehirn irgendwie übertragen?

00:23:07: Es war halt einfach zu viel Input und das hat ihn überlastet!

00:23:11: Ja, okay also das ist ja tatsächlich was viele einige vielleicht einfach noch nicht wissen.

00:23:20: Das finde ich total wichtig.

00:23:21: diese Informationen dass wenn man einen sehr langen Chatverlauf hat... ...dass dort an irgendeinem Punkt quasi wie neu anfängt und das was man ursprünglich mal gesagt hat oder festgelegt hat dabei verloren geht.

00:23:35: Also es finde ich eine super Geschichte.

00:23:37: Das heißt das ist die Halluzination ist jetzt auch nichts.

00:23:41: Oh, ich denke mir einfach mal einen neuen Fakt aus und baue den ein sondern hat einfach prozessorientierte Gründe.

00:23:48: kann man das so sagen?

00:23:49: Ja genau weil ich ja dem System immer mehr also innerhalb eines Chats behält er die Historie des Chats sozusagen im Hinterkopf und weiß dann bei der fünften Frage die ich ihm stelle oder die zehnte Nachfrage immer noch was meine Originalfrage war und alles was wir dazwischen besprochen hatten also was er geantwortet hat was ich dazu gesagt habe etc.

00:24:10: Das ist ja alles noch da und je länger der Chat wird desto mehr ist vorhanden, was im Hinterkopf sozusagen bleiben muss.

00:24:18: Und dann bauen wir das anders zusammen zum Beispiel?

00:24:21: Ja genau, dann vergisst er Dinge die am Anfang gesprochen waren und spätestens dann ist es einfach an der Zeit sich das entweder mal extrahieren zu lassen und in einem neuen Chat weiterzumachen Und halt nicht in so ein Ewigkeitschat vor sich herzutragen, sondern ich habe ein Problem.

00:24:39: Ich hab eine Frage.

00:24:39: neuer Chat

00:24:41: machen bestimmt tatsächlich viele und da diese die Herangehensweise wie gesagt also das was ich bis jetzt habe eben ja irgendwie exportieren pdf und dann nochmal neu hochladen oder eben auch mit Projekten arbeiten und Unterchats arbeiten.

00:24:55: Das mache ich tatsächlich auch um eben sage ich mal die Halluzination zu vermeiden.

00:25:01: Super wichtig tatsächlich!

00:25:03: Das ist ja die Standard-Einwendung, die man so im Alltag hat, dass man mit einem normalen Chatbot arbeitet und es geht halt relativ schnell.

00:25:13: wenn ich jetzt zum Beispiel mit Cloud Code arbeite und ihm sehr viel Code als Input reingebe das sich dann da irgendwo... eine Grenze kommen, immer modellabhängig etc.

00:25:21: Aber das geht zu den ganzen Teilen.

00:25:22: Ja ja also tatsächlich wie gesagt ich mag jetzt dass diese Kombination aus Halluzination und Gehirn hier jetzt nicht mit reinbringen weil das glaube ich wirklich ne falsche Assoziation ist.

00:25:34: Ich würde jetzt hier mal so ein bisschen fangen wie gesagt, falscher Wahrnehmung oder so ein bisschen die Wahrheit zu bisschen verbiegen und Wahrheitsverzählung reden.

00:25:45: Das ist ja im Gehirn also gerade das was du grade gesagt hast diese falschen Erinnerungen.

00:25:49: wenn einfach etwas in einem sehr emotionalen Kontext war können wir uns gut daran erinnern.

00:25:54: Wenn es aber nicht ganz so emotional war dann können wir schon mal tagennamen Fakten durcheinander bringen.

00:26:01: das heißt das Gehirnen tatsächlich erinnert sich falsch, also ähnlich wie bei der KI.

00:26:07: Irgendwo geht da was verloren wird falsch kombiniert, falsch verknüpft.

00:26:11: das ist natürlich auch so und dann trifft man eine Aussage die einfach falsch ist.

00:26:19: Was ich ja auch schon jetzt immer mal wieder sage ist diese selektive Wahrnehmung falsch im Sinne von, es ist eine Halluzination.

00:26:27: Das ist nicht richtig so und das ist falsch.

00:26:29: Das hat eben ganz oft damit zu tun dass wir das anders wahrnehmen.

00:26:33: Das kann schon sein ich stehe mit dem Rücken zur Wand oder zum Fenster und kann gar nicht beurteilen ob gerade die Sonne scheint.

00:26:45: Also ich sag, es ist bewirkt.

00:26:47: Weil das das vor einer Stunde noch war und jemand der aus dem Fenster raus guckt sagt, dass er's hält!

00:26:51: Also jeder hat ja eine andere Wahrnehmung und da rede ich jetzt nicht mal von emotionalen Filtern sondern wirklich auch rein von Sinnes-Wahrnehmungen wo man sagt, da spielt einem das Gehirn irgendwie Streiche oder ich kann es nicht real beurteilen.

00:27:07: Auch diese... Ich hatte gerade schon gesagt, diese Emotionalität ist im Gehirnen wahrscheinlich relevante also bei der KI.

00:27:16: Das Gehirn hat eben sobald Emotion oder stärkere Emotionen involviert sind, arbeitet es einfach ganz anders.

00:27:26: Und da sind wir dann auch mal weit entfernt von der Realität.

00:27:32: Also wenn ich ganz aufgebracht bin und schreihe... und mir jemand antwortet, dann kann ich das durchaus hinterher mal sagen.

00:27:40: Na wir haben uns angeschrieben einfach weil ich so emotional involviert war.

00:27:45: Das muss eben... es ist eine Halluzination!

00:27:48: So war es gegebenenfalls gar nicht.

00:27:50: Also ihr Emotionaler bei uns Menschen die ja die Welt gerade so isst was da im Gehirn grade so abgeht desto eher kommen tatsächlich Ich sag mal falsche Erinnerung raus.

00:28:04: Das ist auch ganz, ganz spannend.

00:28:06: und dann habe ich auch da zum Thema... Na ja entspricht das jetzt so der Wahrheit noch ein extrem wichtigen Punkt?

00:28:14: Wir Menschen wahrscheinlich anders als die KI, wir rechtfertigen uns halt ganz selber gerne selber.

00:28:22: D.h.,

00:28:22: wir drehen uns die Wahrheit schon ganz gerne mal so dass sie uns nicht ganz... Genau, nicht ganz so schlecht darstellen ist.

00:28:32: Deswegen das Gehirn hat wie gesagt aus Gründen, ja?

00:28:36: Aus Statusgründen, aus emotionalen Gründen einfach wie es biologisch tickt wenn ein Areal sehr stark beschäftigt ist dann kann das andere nicht wirklich funktionieren.

00:28:49: tatsächlich eben neigt auch dazu ich sag mal jetzt zu halluzinieren, Dinge falsch wiederzugeben, falsch zu erinnern.

00:29:00: Das heißt sowohl die KI als auch das Gehirn sind aus Gründen, auch hier wieder aus Systemgründen sage ich mal reine Halluzinationsmaschinen.

00:29:13: und das muss man wissen!

00:29:14: Das muss man bei dem anderen wissen.

00:29:16: also wenn ich mich jetzt unterhalte oder beim Ergebnis einer KI Aber das muss ich in meinem Bereich jetzt auch von mir wissen.

00:29:24: Also, dass was ich da so manchmal rausgebe aus Gründen die wir gerade erklärt hatten, das muss nicht die Wahrheit sein und das muss man dann auch tatsächlich irgendwann mal selbst so rechthaberisch man noch ist einfach mal anerkennen.

00:29:38: also weder die KI kaut immer das Richtige raus noch wir selber Das ist leider so.

00:29:47: Dann habe ich tatsächlich ein bisschen vorbereitet, auch noch ein ganz spannendes Thema.

00:29:52: So das Thema Kompetenz.

00:29:54: Das hast du ja eben auch schon erwähnt.

00:29:56: wir unterstellen quasi der Technik die dann auch noch wahnsinnig lange und mit vielen Daten angelernt wurde also viel Wissen hat in Anführungsstrichen.

00:30:07: Unterstellen wir den schon fast so ein bisschen eine Kompetenz der wir dann natürlich auch irgendwie dazu neigen, den zu glauben.

00:30:17: Wie ist das?

00:30:19: Warum ist das so bei der KI?

00:30:21: Warum glauben wir erst einmal... Das muss schon stimmen!

00:30:29: Ich denke mal zum einen hat Technologie an sich ein gewissen Reiz solchen Dingen gleich zu glauben und dann ist es natürlich die Art und Weise Wie wir damit interagieren bzw.

00:30:42: welche Form von Antworten wir bekommen, die dann auch auf eine gewisse Kompetenz schließen lassen?

00:30:47: Also das fängt an bei sauber formulierten Antworten.

00:30:52: Die gute Sprache, die so ein System benutzt in der Antwort, das wirkt halt in irgendeiner Form intelligent also

00:31:02: Absolut.

00:31:02: Ist ja bei Menschen nicht anders?

00:31:04: Ist ja beim Menschen nicht anderes, wenn ich jemanden habe mit dem mich gut unterhalten kann und wo ich gute Antworten bekomme dann vermute ich halt auch eine gewisse Intelligenz dahinter.

00:31:13: Inhaltlich als auch strukturell.

00:31:15: also guter Satzbau klingt immer erst mal gut kompetent.

00:31:20: Ja richtig.

00:31:21: Und Intelligenzen... Man muss halt bei einer KI immer noch bedenken, das ist eigentlich nur Statistik.

00:31:28: Das sind nur ein paar Zahlen die zusammengebracht werden und das ist nur Mathe.

00:31:33: Da ist keine wirkliche Intelligenz dahinter.

00:31:37: Und vielleicht das zweite Thema was dann damit rein spielt ist die Art und Weise nicht in der Sprache sondern auch in der Struktur wie ich dann die Antworten zurückbekomme.

00:31:46: also sauber strukturierte Absätze, Aufzählungen etc.

00:31:51: Das hat alles Hand und Fuß das ist stimmig Und das sieht halt professionell aus.

00:31:58: sofort und dadurch habe ich natürlich ein ganz anderes Gefühl und hat wahrscheinlich auch eine ganz andere Akzeptanz für die Ergebnisse.

00:32:07: Ja und Akzeptanzen bei Technik das kennt man ja.

00:32:10: das ist immer so der Klassiker dass die Leute dann irgendwo von nach heimauer gefahren sind weil das gps angesagt hat du musst dort lang.

00:32:19: man hat dem ding einfach vertraut blind und da ist vielleicht ab und zu mal hinterfragen auch nicht schlecht, auf jeden fall nicht

00:32:27: schlecht.

00:32:30: Besser die Verpackung, also die Sprache klingt gewählt.

00:32:33: Die Struktur ist sehr gut aufbearbeitet, schaut durch Dacht aus.

00:32:38: Da komme ich gar nicht auf die Idee, die eine Zahl zu hinterfragen.

00:32:41: Also das nehme ich dann einfach in einer Verkaufspsychologie oder generell in der Psychologie ist es ja so ein bisschen der Halo-Effekt und der Verpackungseffekt, dass man von einem Detail, der Halo Effekt, sage ich mal ist es alles richtig und stimmig schließt.

00:33:03: Das macht das Gehirn ja sehr, sehr gut dass man aufgrund ich sag mal eigentlich unwichtiger Kleinigkeiten auf andere Sachen schließst.

00:33:12: Das heißt nur weil das drei Bullet Points mit einer sehr guten Überschrift und einem kleinen Untertext ist muss noch lange nicht der Inhalt richtig sein.

00:33:22: aber das ist genau das was uns eben vermittelt wird oder was wir so annehmen bei der KI.

00:33:28: Weil der Rest halt sehr professionell aussieht

00:33:29: Ja, aber auch wie gesagt, auch da fällt unser Gehirn relativ schnell rein.

00:33:34: Ein Effekt hat jetzt gerade gesagt dieser Halo-Effekt oder wie gesagt diese Verpackungseffekt.

00:33:41: beim Menschen ist es ja noch so dass wir jemanden anderen eine Kompetenz oder eine Autorität schnell, sag ich mal zusprechen weil derjenige, das eben so ausstrahlt.

00:33:56: Also wie sagt man so schön?

00:33:58: Ein Mensch im Arztkittel, der wirkt gleich mal eben kompetenter.

00:34:02: Aber das jetzt kann wissen wir noch nicht einmal.

00:34:04: ja!

00:34:05: Das ist ja ähnlich wie die KI einfach nur eine Struktur und Überschriften und Bulletpoints und schon sieht es gut aus von einem Menschen, der muss nur ein Uniform anhaben und dann denkt man, der kann das.

00:34:16: Und auch hier Sprache hat mir eben schon gesagt, ist tatsächlich sehr, sehr ähnlich.

00:34:22: also Wenn man einfach mal weiß, wie ein Output generiert wird auf welche Daten ein Mensch oder die KI zugreift bzw.

00:34:33: dass da eben auch einfach mal was vergessen wird weil falsch wahrgenommen oder falsch wiedergegeben werden wird gepaart mit dem sieht ja alles gut und richtig aus.

00:34:46: Ja, sind da schon Dinge die man einfach sowohl bei Menschen als auch bei der KI beachten muss.

00:34:53: Um das Ganze nochmal ganz kurz für alle zusammenzufassen.

00:34:55: was kann man also jetzt machen um ich sag mal sowohl im Input als auch im Output besser mit der KI und in meinem Fall dann gleich mit dem Gehirn umzugehen?

00:35:10: Also fangen wir mal an.

00:35:12: Das erste Thema ist natürlich, wie frage ich rein?

00:35:15: Also ich muss einfach bessere Fragen stellen.

00:35:18: Ich muss mir dessen gewahr sein, dass es sowas wie ein Confirmation-Bias gibt und wenn ich jetzt einfach frage, ich habe hier eine supertolle neue Strategie, findest du die genauso gut als ich, dann ist das natürlich eine ziemlich unkritische Frage.

00:35:31: also ich muss ihnen darauf zwingen sozusagen sehr kritisch mit den Sachen umzugehen, um diese Bestätigung zu vermeiden.

00:35:42: Das heißt auch, dass ich z.B.

00:35:44: so eine Dinge wie Gegenargumente einfach von ihm verlangen muss und dann halt auch genügend Kontext geben damit er weiß in welchen Umfeld wir uns bewegen bzw meinen individuellen Kontext.

00:35:56: den halt auch nur ich kenne jetzt im Projekt oder in irgendwelchen anderen Themen muss sich halt einfach mitgeben Und das kann man entweder machen durch den Zufügen von Dokumenten oder wie du vorhin schon sagst, das Projektorganisation.

00:36:10: Dass ich so ein Projektsgruppe habe und Dinge in denen er dann lernt oder dass sich halt von solchen Allgemeinschaftsbordsystemen weggehe und spezialisierter Lösungen die jetzt ein REC-System zum Beispiel nutze, dass halt explizit nur mit meinen Daten gefüttert ist – mit meinen Dokumentern, was auch immer für Inputs wir ihn da mit rüber geben und kann ja eben nur auf diesen Wissen arbeiten Und kann gar nicht in die große weite Welt hinaus und dann irgendwelche anderen Sachen sich ranziehen.

00:36:41: Das ist schon eine ganz andere Qualität von Antworten, die ich da bekomme.

00:36:45: Damit kann ich die ganzen Sachen ein bisschen starren.

00:36:49: Aktiv damit arbeiten, nicht einfach nur die Bestätigung der eigenen Ideen und der eigene Gedanken suchen wollen.

00:36:54: Das isch schon manchmal ganz nett aber nicht immer hilfreich!

00:36:57: Ja, das ist schön.

00:36:59: Wenn so eine Autorität wie wir es vorhin hatten die mit guter Sprache und guter Struktur zurück auf meine eigene Gedanken bestätigt... ...ist aber nicht immer das was ich suche

00:37:07: oder was mich weiterfühlt.

00:37:09: Definitiv nicht!

00:37:09: Und schon gar nicht eben wenn man die KI auch bemüht.

00:37:12: ja?

00:37:12: Mit dem Gehirn kann man quasi nicht nutzen.

00:37:16: Aber wenn man schon mit der KI aktiv arbeiten möchte, um eben gezielten Outputs zu haben dann sind deine Tipps da ganz sicher hilfreich.

00:37:27: Ich habe es schon angedeutet nicht denken und nicht das Gehirn nutzen.

00:37:32: Das geht eben nicht.

00:37:33: aber auch von mir nochmal der Ansatz nachdem wir das jetzt so gehört haben dass eben das nicht alles so der Wahrheit entspricht.

00:37:40: wie kann ich das also machen?

00:37:43: Für mich war es wirklich ein extremer Gamechanger zu wissen, dass das was ich gerade denke oder was ich grade fühle eben nicht.

00:37:55: Also einerseits nicht der wirklichen Realität entsprechen und andererseits dann aber ja doch meine Realität in meiner Wahrheit schon ist.

00:38:06: Also mit meinem Daten, mit meinem Input, mit meiner Erfahrung und mit meiner Prägung glaube ich gerade dass das meine Wahrheit ist.

00:38:14: aber sie ist es nicht für die anderen.

00:38:16: Und das kann im Umkehrschluss eben auch bedeuten jemand der mir irgendwas entgegenschießt oder mit voller Überzeugung irgendetwas sagt zu wissen in seiner Welt ist der grad in der Wahrheit.

00:38:28: Ja, so und dann kann ich das ein bisschen anders einordnen und nehmen es nicht als Konfrontation sondern eben zu wissen, er handelt gerade in seinem eigenen System ja aber das ist nicht die Realität.

00:38:41: also diese zwei Fakten jeder lebt in seiner Wahrheit also jeder hat irgendwie recht.

00:38:46: man sagt auch wer fühlt hat Recht.

00:38:48: in der eigenen Emotion in den eigenen Gedanken erscheint einem das wie die Realitet.

00:38:53: Aber für die eigene Vorgehensweise, ich muss nicht aufbiegen und brechen.

00:38:56: Meine Argumente immer wiederholen

00:38:58: usw.,

00:38:59: weil jemand anders eine andere Wahrheit hat.

00:39:01: Das finde ich total wichtig zu wissen.

00:39:03: Und deswegen kann man eben auch einfach mal... Wir hatten das Thema, welche Daten greife ich zurück?

00:39:10: Auch mal bewusst die Perspektiven wechseln.

00:39:13: Gucken wo kommen die Daten gerade her?

00:39:15: Wo nehme ich grade was auf?

00:39:17: Da ist das ein bestimmtes Umfeld.

00:39:19: Kann ich da einfach mal einen Schritt zurücktreten und sagen, mein Wissen habe ich ausschließlich aus, keine Ahnung, einem Algorithmus bestimmter Instagram-Kanal oder was auch immer ja oder von bestimmten Menschen umfällt?

00:39:32: Und da wirklich sagen okay daher kam die Daten deswegen hat sich meine Realität so geformt.

00:39:39: Aber ich gehe da mal raus.

00:39:41: Ich gehe da ganz bewusst raus und lasse mal das, was ich so denke und fühle und denke zu wissen, weg und betrachte das von außen.

00:39:50: Also würde ich tatsächlich dann mit dem Gehirn vorgehen um es ein bisschen neutraler in Output zu generieren oder zu haben.

00:40:01: Das heißt also sowohl die KI als auch unser Gehirn, die liefern eben oft einfach nicht die Wahrheit.

00:40:10: Sondern eher die, ich sag mal du hast es gesagt, statistische, die wahrscheinlichste Geschichte auf Basis dessen womit wir sie eben gefüttert haben oder mit dem vorhandenen Datensatz.

00:40:22: Okay also was wenn jetzt Menschen eine Sache aus dieser Folge mitnehmen sollten.

00:40:32: Was wäre so dein Hauptpunkt nach dem Muttermensch?

00:40:36: Also wenn du nur eine Sache dir merkst, dann nimm bitte das mit!

00:40:40: Dann denke da was wär das?

00:40:42: Eine Sache ist immer ganz schön schwierig aber ich finde es gerade eben spannend... Das letzte was Du gesagt hattest finde ich für beide Systeme eigentlich zutreffen, also fürs Gehirn und für die KI dass man einfach Kontext beachten sollte.

00:40:55: Und dann reflektieren sollte das wenn ich mit einem Menschen rede er sozusagen auch sein eigenes Kontextfenster hat auf dem seine Erfahrungen beruhen und wo seine Antworten herkommen.

00:41:09: und wenn ich das berücksichtige glaube ich werde wir alle ein bisschen tolerant.

00:41:15: Und auf der anderen Seite muss ich halt bei der KI auch bedenken, dass sie ein gewisses Kontextfenster hat.

00:41:23: Auf der Basis sehr antwortet und nicht dann dementsprechend auch das mal hinterfragen oder unterstützen muss.

00:41:30: Das gilt tatsächlich fürs Gehirn genauso.

00:41:33: Das heißt zusammengefasst kann man sagen Intelligenz nenne ich das jetzt einfach mal übertrieben weil es manchmal weder im Gehirnen noch in der KI wieder so ist.

00:41:43: aber Also Intelligenz ist jetzt nicht unbedingt die Fähigkeit, Nell die richtige Antwort zu haben.

00:41:50: Sondern eher die Fehigkeit auch mal die Antworten anzuzweifeln.

00:41:56: Ich glaube das ist bei beiden Systemen wichtig, nicht Nell eine Information zu haben sondern eben tatsächlich mal das Ganze zu hinterfragen weil wir eben aus dem genannten Gründen nicht unbedingt immer sicher sein können.

00:42:14: Sehr schön!

00:42:15: Also ich danke dir ganz, ganz, sehr doll für deine Sicht der Dinge die bisschen technische Sicht der Dinge und ich glaube heute sind wir sehr konform.

00:42:26: also da sind tatsächlich eben größere Ähnlichkeiten als wir denken bis auf beim Thema Halluzination im KI-Kontext darf man das verwenden.

00:42:37: bei Menschen wäre ich dann ein bisschen vorsichtig.

00:42:40: Super, ich danke dir und wer weiß wenn das jetzt für alle so weit interessant ist können wir ja immer mal.

00:42:48: Ich sage mal nicht technische Themen mit hier reinnehmen in den Podcast aber gerade so dieses Ja, dieses was steckt eigentlich hinter dem System.

00:42:57: Wie menschlich ist KI?

00:42:59: Also auch das können wir vielleicht noch mal eine Podcastfolge draus machen.

00:43:03: ich gehe eben viel mit Menschen um.

00:43:04: Wir haben Menschen und Kommunikation war viel zu tun.

00:43:08: wie kann man das mit KI ja gleich setzen oder eben auch nicht wo es die Gefahr Mensch versus Maschine?

00:43:14: wir schauen also schreibt mir gerne meldet euch da drauf Und dann hole ich mir den Andreas nochmal in den Podcast.

00:43:20: Andreas, ich danke dir.

00:43:21: Wir sehen uns

00:43:23: Bis dann.