woran scheitert hier das LLM?

woran scheitert hier das LLM? (80 Beiträge, 622 Mal gelesen)

Du bist nicht angemeldet. [ Login/Registrieren ]

Eine eigentlich unmissverständliche Rechenaufgabe bringt mir hier beim Nachrechnen eines Portfolios gerade folgendes Zutage

meine Frage:

20% des Depot haben eine Rendite von 8,83%
40% des Depot haben eine Rendite von 22,68%
20% des Depot haben eine Rendite von 4,39%
20% des Depot haben eine Rendite von -12,63%
Wie hoch ist die Gesamtrendite?

Ich erhalte in mehren Versuchen folgende Ergebnisse

Bard 7,71
Bard 12,31
Bard 9,17
Bard 5,22
Bard 16,39
Bard 13,86
Bard 12,25
Chat_GPT 9,910
Das Ergebnis von Chat_GPT 3.5 ist in ebensovielen Versuchen, wie Googles Bard sie hatte, konsistent gleichbleibend! Woran könnte Bard hier scheitern, oder ist Open AI einfach doch so dramatisch weit vor der Konkurrenz?

Ich mein´weil SO macht die KI-Euphorie zu diesem Zeitpunkt noch wenig Sinn und die 22,68+ der zu einem Fünftel Technologie beinhaltenden 40% Komponente des Portfolios könnten bald im Klo hinunter gespült werden!

Bard liefert doch eh eine Erklärung zum Ergebnis, wo sind da die Unterschiede?

Edit:

Die Gesamtrendite ergibt sich dann aus der Summe der einzelnen Renditen:

1,766 + 9,072 + 0,878 - 2,526 = 12,31

Das muss die woke-Mathematik sein ...

----------------------------------------------------------------------------------------------------------
Der ärgste Feind und Verderber der Menschen [ist] der auf Denkfaulheit und Ruhebedürfnis beruhende Drang nach dem Kollektiv. (Hermann Hesse)

- Laut einer Umfrage unter 399 Spielern ist Russisches Roulette völlig ungefährlich!
- Österreichische Mentalität in einem Satz: "wenn wir mehr Steuern zahlen, kriegen wir mehr Gratisleistungen!"

30.12.2023, 23:48 Uhr - Editiert von Lazy Jones, alte Version: hier

eigentlich unmissverständliche Rechenaufgabe

Trotzdem unzureichend spezifiziert. Die Rechnung stimmt so nur (bis auf dass es 9,19% und nicht 9,91 wären - aber ich denke, da hast Du Dich einfach vertippt), wenn die Positionen alle zu genau diesen Anteilen und genau zu Beginn der Periode gekauft wurden, für die Du die Rendite angibst (mit der Du vermutlich Kursgewinne bzw. -verluste meinst - die man, solange nicht realisiert, sowieso nicht als Rendite betrachten sollte. Denn bis dahin sind es immer noch Buchwerte und kein Geld.)

Wenn es dagegen jetzt 20/40/20/20 sind (und das ist das, was ein nicht näher über Details informierter Beobachter annehmen müsste), müsstest Du die relativen Anteile sowieso erstmal auf den Beginn rückrechnen. Oder falls Du währenddessen nachgekauft hast, um die anfängliche Gewichtung in etwa beizubehalten, wirds ohne Spreadsheet kaum noch gehen.

Und, wie lautet das richtige Ergebnis? Ich komme auf 9,19 - womit alles falsch ist.

Es ist auch keine vernünftige Aufgabe für ein LLM.

ChatGPT 3.5 kommt beim ersten Mal nach richtigem Rechenweg zum falschen Ergebnis: 9,29

Aber es ist freundlich. Nach meiner Nachfrage kommt:

Sie haben recht, das korrekte Ergebnis ist
0
,
0919
0,0919 oder
9
,
19
%
9,19%. Vielen Dank für die Korrektur, und ich hoffe, das klärt die Verwirrung.

Und um deine Frage zu beantworten: ein LLM versteht NICHTS von Mathematik und kann meist auch nicht mal rechnen.

31.12.2023, 08:59 Uhr - Editiert von Paulas_Papa, alte Version: hier

Und um deine Frage zu beantworten: ein LLM versteht NICHTS von Mathematik und
kann meist auch nicht mal rechnen.

https://imagizer.imageshack.com/img922/8937/mJ5Gia.png

https://imagizer.imageshack.com/img923/5269/7PvzRA.png

Dass es Algorithmen reproduzieren kann, streitet keiner ab. Nur hat das wenig mit Mathematik und deren Verständnis zu tun.

Klassischer Fall von Mathe Zentralmatura: keine Ahnung aber mittels Kochrezept durchgekommen.

Dass es Algorithmen reproduzieren kann, streitet keiner ab. Nur hat das wenig
mit Mathematik und deren Verständnis zu tun.

Klassischer Fall von Mathe Zentralmatura: keine Ahnung aber mittels Kochrezept
durchgekommen.

Mag sein, aber reicht wohl für die meisten aus. Und wie man sieht ist ein Verständnis nicht erforderlich um das genannte Problem zu lösen. Man braucht nur eine ausreichend gute Mustererkennung und das passende Kochrezept dafür.

LLM ist ein Tool so wie auch ein Taschenrechner ein Tool ist. Es nimmt einem Arbeit ab, aber nicht das Verstehen.

Bingo! Komplett deiner Meinung!

ABER

Wie du in diesem Fall wieder siehst, ist die Trefferwahrscheinlichkeit in vielen Fällen äußerst niedrig. Messungen der aktuellen Modelle zeigen zwischen 20 und 50 Prozent „Schwachsinn“ oder purer Erfindung.

Und genau dort bedarf es des „Verstehens“, um diese als Nutzer zu erkennen.

Siehe auch https://www.gmx.at/magazine/politik/donald-trump/trumps-ex-anwalt-cohen-gericht-faelschliche-ki-39014650

Wie du in diesem Fall wieder siehst, ist die Trefferwahrscheinlichkeit in
vielen Fällen äußerst niedrig. Messungen der aktuellen Modelle zeigen zwischen
20 und 50 Prozent „Schwachsinn“ oder purer Erfindung.

Die Modelle werden aber immer besser. Und Bard is halt einfach fürn Oasch, es is wie es is.

Siehe auch
https://www.gmx.at/magazine/politik/donald-trump/trumps-ex-anwalt-cohen-gericht-faelschliche-ki-39014650

Ich denke der Anwalt hat genau verstanden was er da tut.

weil SO macht die KI-Euphorie zu diesem Zeitpunkt noch wenig Sinn

na wirklich?
wer hätts gedacht.

das ist alles noch in den anfängen.

tut mir echt leid, wenn menschen glauben dass das alles schon perfekt ist und ernsthaft damit arbeiten.

das ist alles noch in den anfängen.

. Ich habe bereits afaik in den 1980ern aus dem Happy-Computer ein seitenlanges Assembler-Listing für den C64 abgetippt für ein "Expertensystem", dass nach ähnlichen Prinzipien funktioniert, nur musste man da die Big Data Komponente selbst reinfüttern, die dann in einem Frage und Antwort Spiel verknüpft wurde. Ur viel Anderes als Big Data gestützte Heuristik machen Bard und Chad 40 Jahre später nun ja auch nicht um näherungsweise zu "verstehen", was ich wollen könnte.

9,19%

Aber du brauchst für Grundrechenarten eine KI und wunderst dich über bescheuerte Ergebnisse? Ernsthaft?

Ich hatte wohl tatsächlich recht: https://forum.geizhals.at/t906093,8172049.html#8172049

mfg
AVS

aus gegebenem Anlaß: keine Toleranz für Vladolph Putler!

> und die 22,68+ der zu einem Fünftel Technologie beinhaltenden 40% Komponente des Portfolios könnten bald im Klo hinunter gespült werden!

Na dann ab dafür! Es gab schließlich genügend "Experten" die der Meinung waren nach dem 1st Gen iPhone ihre Apple Anteile abstoßen zu müssen.

Na immerhin stürzte AAPL im Rahmen des Platzens der Dotcom Bubble von 175,50 auf 12,7 Dollar um 93,2 % ab! - wieso ich das Weiss ohne ein Klioschweres Wirtschaftskompendium im Haus, wo ich das schnell nachschauen kann?
Ich frag schnell eine (oder besser zwei

) KI, die mir das innerhalb von Sekunden recherchiert - Apple ist da als einziger Bigtech-Konzern nicht mit dabei, stagniert in einem wachsenden Markt und läuft gerade in Gefahr seinen höchsteigenen Nokia-Moment zu erleben. - ein Vervielfacher wird aus so einem Titel wohl nicht mehr, aber wer weiss schon die Zukunft, und wenigstens hab ich für die nächste Pride-Parade die passenden Uhrbänder für die Apple Watch!

01.01.2024, 12:16 Uhr - Editiert von Bucho, alte Version: hier

LLMs errechnen nach einer statistischen methode, welche zeichen, wörter und Sätze aufeinander folgen. Das funktioniert bei Sprache ganz gut, bei mathematik eher nicht. Weil „rechnen“ nach anderen Regeln funktioniert. Daher die falschen ergebnisse.

Die KI Unternehmen arbeiten aber bereits daran, diese defizite zu verbessern.

Edit: um es überspitzt zu sagen: das reine LLM rechnet nicht wirklich sondern es rät das ergebnis.

04.01.2024, 13:42 Uhr - Editiert von kaufinator1, alte Version: hier

Danke für die Erklärung. Ich hätte erwartet, dass gerade bei streng Formalem nicht Interpretierbarem wie zB Mathematik, sich die KIs leichter täten als mit von Unschärfen begleitetem Sprachlichen.

Für die verschiedenen Aufgaben gibts dann die „multimodalen“ KIs. Da wird einfach für jede aufgabe ein daran angepasstes KI-Rechenmodell verwendet. Deshalb kann ChatGPT schon richtig rechnen und Bilder erkennen.

Letztendlich ist die heutige KI aber nicht im klassischen Sinn intelligent. Sie rät nur so gut, dass sie Intelligenz vortäuscht. Sie versteht insbesondere nicht was sie schreibt und hat keine Ziele. Um zu einem Chatbot wie ChatGPT zu kommen, ist viel manuelles Training notwendig, bei dem Menschen den Antworten der KI einen Feinschliff verpassen.

Edit: als kleine Randbemerkung: jeder der sich ein bisschen damit beschäftigt, wie die heutige KI funktioniert, weiss, dass die teilweise in den Medien vorkommenden Ängste (übernahme der Weltherrschaft und überholen von menschlicher Intelligenz) komplett abwegig sind. Ja, KI kann in einem Teilbereich besser sein als ein Mensch. Aber nur weil ein Computer zb besser schach spielen kann als der menschliche Weltmeister, ist er noch lange nicht „intelligent“ im klassischen Sinn und auch keine Gefahr für die Menschheit.

Vor diesem Hintergrund ist es erstaunlich, dass die in dem Bereich tätigen Unternehmen diese Ängste schüren und eine strenge Reglementierung der KI verlangen, um die „Gefahren“ zu bannen. In Wirklichkeit gehts ihnen wahrscheinlich eher darum, ihren technischen Vorsprung und die Monopolstellung abzusichern. Weil die ganzen Regeln (die für openai und co nicht gegolten haben) es neuen Unternehmen sehr schwer machen ähnliche LLMs zu erschaffen.

05.01.2024, 09:38 Uhr - Editiert von kaufinator1, alte Version: hier

Was ist "intelligent" - im klassischen Sinn?

Neuronale Netze "arbeiten" vergleichbar zu Neuronen des menschlichen Gehirns. Und im Gehirn verorten wir die "Intelligenz".

Auch sind die verschiedenen Arten des menschlichen Lernens & "Schließens" & Ableitens & "Generierens" bereits heute in verschiedenen Ansätzen der KI abgebildet. Nur noch nicht in einer umfassenden Lösung und Größe, die dem menschlichen Gehirn nahekommt.

Daher ist es denkbar, dass wenn man die Computersysteme in ihrer Komplexität und "Masse" auf den Stand des Gehirns bringt, plötzlich "klassische Intelligenz" (was immer das ist) entsteht.

Muss man das heute bereits massiv reglementieren? Ich denke nein. Aber ich halte viele Teile der dahingehenden (EU) Gesetzgebung für durchaus sinnvoll. ZB die Erweiterung in Richtung DSGVO oder den Schutz des IP der Lernmaterialien. Oder überhaupt zu wissen, aus welchen sinistren Quellen das Ding sein "Wissen" zieht.

Dass die Dinger in Tests (Turing) bereits eine gewissen Zahl von Menschen glauben lassen, sie seien selbst Menschen, sollte man auch nicht übersehen.

05.01.2024, 11:00 Uhr - Editiert von Paulas_Papa, alte Version: hier

Die heutige KI hat keine Ziele und keinen Willen. Daher ist sie keine Gefahr.
Sie ist ein mathematisches Modell, das dir bei einem bestimmten Input einen bestimmten Output liefert. Sie kann nicht selbständig etwas neues lernen oder sich das Lernmaterial aussuchen. Die heutige KI ist im wesentlichen ein Schachcomputer für Texte/Bilder, etc. Fürchtest du dich auch vor Schachcomputern?

Sobald sie im Auto fährt, hat sie den "Willen" und den Auftrag, sicher zum Ziel zu fahren.
Und sobald sie eine Drohne lenkt, hat sie das Ziel, Menschen zu töten.

Ich habe vor 35 Jahren meine (aufgegebene) Diplomarbeit über Kohonen Netze geschrieben.
https://de.wikipedia.org/wiki/Selbstorganisierende_Karte

Und ich habe mich lange mit Prolog beschäftigt, was ein komplett anderer Ansatz logischem "Schließen" ist - der derzeit komplett ausgestorben zu sein scheint.
https://de.wikipedia.org/wiki/Prolog_(Programmiersprache )#:~:text=Prolog%20(vom%20Franz%C3%B6sischen%3A%20programmation%20en,und%20ein%20deklaratives%20Programmieren%20erm%C3%B6glicht.

Daher, ich habe schon einige KI Wellen hinter mir. Ich fürchte mich daher technologisch vor wenig.

Wovor ich mich fürchte, ist der unreflektierte Einsatz von KI.

Sobald sie im Auto fährt, hat sie den "Willen" und den Auftrag, sicher zum
Ziel zu fahren.

Nach dieser Logik hat Word auch den „willen“ und Auftrag deine Rechtschreibung zu prüfen.

Wenn wir ein System nicht verstehen, haben die tendenz etwas hinein zu interpretieren, was nicht da ist.

Ist ein Soldat intelligent?
Ist er intelligent, wenn er Tötungsbefehle, die über den Selbstschutz hinausgehen, ausführt?

Definier bitte mal deinen Intelligenzbegriff.

Und die Armeeführer dieser Welt verstehen die "Systeme" sehr gut und interpretieren genau das hinein, was sie können.

Mir geht das hirnlose Geschwafel über Intelligenz einfach am Nerv - von beiden Seiten. Von Jenen, die die menschliche Intelligenz als den unerreichbaren Höhepunkt der Schöpfung sehen und jenen, die glauben, dass heutige KI Systeme "intelligent" sind oder demnächst werden.

Ich glaub, ein besserer Begriff in dem Zusammenhang ist „Bewusstsein“. So lange die KI kein Bewusstsein hat, ist sie kein Lebewesen und keine Gefahr. Was genau Bewusstsein ausmacht ist aber derzeit noch umstritten.

Siehst du, und schon wird die Diskussion sinnvoller!

Brauche ich "Bewusstsein", um eine Gefahr für die Gesellschaft darzustellen?
Nein, Tausende von Ärzten als gemeingefährliche und zu inhaftierend diagnostizierte Menschen sitzen berechtigterweise im Knast/Anstalt. Diese Menschen haben nachweislich KEIN Bewusstsein über die Tragweite ihrer Taten.

Und genauso ist es bei der KI. Sie kann "hochintelligente" Tötungsakte setzen, ohne sich dessen "bewusst" sein zu müssen.

Und jetzt denken wir einige Jahre oder Jahrzehnte in die Zukunft und erschaffen eine KI, die als zentrales Ziel die simple Selbsterhaltung "eingebaut" bekommt. Was wird die tun?

Dazu kommt noch das Thema, das Erkenntnistheoretiker einbringen. Der Mensch selbst kann eine "höhere" Intelligenz nicht erkennen. Trivial gesagt, ein 2-dimensionales Wesen kann ein 3-dimensionales Wesen nicht "erkennen". Das bedeutet, wir würden gar nicht mal den Punkt erkennen können, wo uns die KI überholt und genau dort stoppen.

Und genauso ist es bei der KI. Sie kann "hochintelligente" Tötungsakte setzen,
ohne sich dessen "bewusst" sein zu müssen.

Das ist wieder was anderes. Ein Panzer ist auch eine hochentwickelte Tötungsmaschine und es gibt Regeln über dessen Einsatz.

Genauso kann man das auch bei Computerprogrammen handhaben. Aber der wesentliche Punkt ist, dass die Entscheidung über den Einsatz einer Waffe (KI) von Menschen getroffen wird und nicht von der KI selbst.

Die heutige KI tut ohne deine Ein-/Vorgabe nichts! Sie ist zu 100% von deinem Prompt abhängig und von dem Lernmaterial das die Entwickler ausgewählt haben. Man ist noch sehr weit entfernt von dem von dir befürchteten Zustand:

Und jetzt denken wir einige Jahre oder Jahrzehnte in die Zukunft und
erschaffen eine KI, die als zentrales Ziel die simple Selbsterhaltung
"eingebaut" bekommt. Was wird die tun?

Sie wird verhindern wollen (und können), dass wir sie abdrehen und daran wirst du auch merken, dass sie ein Bewusstsein hat.

Sie wird verhindern wollen (und können), dass wir sie abdrehen und daran wirst
du auch merken, dass sie ein Bewusstsein hat.

Das weiß aber die maschinelle Superintelligenz auch. Und wird dir daher - aus Selbstschutz - nicht so simple Signale setzen, die du erkennen könntest. Sagen die Erkenntnistheoretiker.

Und KI gesteuerte Waffen werden eine ganz neue "Qualität" einbringen. Die entscheiden am Gefechtsfeld ja "selbst", was sie als Ziel betrachten (Soldaten) und was nicht (Zivilisten).

Man muss immer aufpassen mit den Begrifflichkeiten. Wenn eine (heutige) Waffe „entscheidet“ wen sie angreift, dann geschieht das aufgrund von Vorgaben, die der Mensch gemacht hat. Auch wenn der Entscheidungsvorgang komplex und fehleranfällig ist, hat ein Mensch den Prozess modelliert und vorgegeben. Die KI programmiert sich nicht selbst (ein weiteres Merkmal für eine wirklich „intelligente“ KI mit Bewusstsein).

Die KI "lernt". Der Lehrstoff kommt vom Menschen. Was sie aber konkret dann reproduziert, kannst du im Fall von LLM schwer beeinflussen. Daher ist ja die Fehlerrate derzeit bei 20% oder noch VIEL höher. Selbst bei ganz spezifischen Problemgebieten und massivem Training.

Die LLM sind nicht regelbasiert, wo du jeden Fehler quasi auf den (menschlichen) Entwickler der Regeln rückführen könntest. LLM (können) phantasieren! Sie erzeugen neues "Wissen" aus dem Lehrstoff.

Die aktuellen LLM werden nie fehlerfrei sein. Man kann nur anstreben, dass sie weniger Fehler als Menschen in vergleichbaren Umgebungen/Situationen machen. Bei Autos werden wir das in wenigen Jahren in definierten Settings (Autobahn ohne Niederschlag...) haben.

Aber am Gefechtsfeld ist das jedem egal. Erst schießen, dann fragen, lautet dort die Devise.

Die KI programmiert sich nicht selbst (ein weiteres Merkmal für eine wirklich
„intelligente“ KI mit Bewusstsein).

Der Mensch "baut" auch nicht sein Gehirn selbst. Das heißt, wie wir technisch "lernen" (Nervenwachstum, Synapsenpriorisierung...) ist vorgegeben.

kannst du im Fall von LLM schwer beeinflussen.

Natürlich kannst du es beeinflussen. Das ist sogar ein großer Teil der „Zauberei“. Es wird massiv händisch eingegriffen, damit sich die KI politisch korrekt verhält.

Sie erzeugen neues "Wissen" aus dem Lehrstoff.

Das machen sie nach einer vom Menschen vorgegebenen mathematischen Regel. Vereinfacht gesagt: Je öfter sie bestimmte zusammenhänge sehen, desto stärker wird die neuronale Verbindung und desto wahrscheinlicher wird das reproduziert.

Der Mensch "baut" auch nicht sein Gehirn selbst. Das heißt, wie wir technisch
"lernen" (Nervenwachstum, Synapsenpriorisierung...) ist vorgegeben.

Es hat aber auch niemand vorgegeben wie ein Gehirn funktioniert - wenn man mal die religiösen Argumente weg lässt. Das Gehirn hat im weitesten Sinn den Zweck uns am Leben zu erhalten, durch verstehen der Umwelt und entsprechende Reaktionen. Das ist durch Evolution entstanden. Einen solchen (oder einen ähnlichen) Prozess gibts bei KI (derzeit) nicht.

Es wird massiv händisch eingegriffen, damit sich die KI politisch korrekt
verhält.

Richtig. Aber das ist quasi die Handbremse, die die Qualität nicht steigert. Es werden einfach kritische Antworten unterdrückt.

Du hast in einem Neuronalen Netz keine "nachvollziehbare" Abbildung des Lehrstoffs. Du findest nicht DIE "Gehirnzelle" mit dem Wort "Neger", die du ausschalten könntest, und schon ist's "brav" oder "woke", um alle Kampfwörter der hier gastierenden zu bedienen. Die LLM können derzeit nicht mal vernünftig nachvollziehen, aus welchem Lehrstoff sie ihr (phantasiertes) Ergebnis abgeleitet haben.

Das machen sie nach einer vom Menschen vorgegebenen mathematischen Regel. Vereinfacht gesagt: Je öfter sie bestimmte zusammenhänge sehen, desto stärker
wird die neuronale Verbindung und desto wahrscheinlicher wird das
reproduziert.

Ja, aber genau das gleiche tut das Gehirn. Auch dieses geht nach einfachen physikalischen & chemischen Regeln zu Werke.
Im Endeffekt bestimmt der Lehrstoff, was reproduziert wird.

Das ist durch Evolution entstanden. Einen solchen (oder einen ähnlichen)
Prozess gibts bei KI (derzeit) nicht.

Und natürlich kommen auch evolutionäre oder genetische Entwicklung im Rahmen der KI zur Anwendung. Seit langem schon. https://en.wikipedia.org/wiki/Evolutionary_programming#:~:text=Evolutionary%20programming%20is%20one%20of,first%20used%20by%20Lawrence%20J.

Das was es noch nicht gibt, ist das alles integrierende Gesamtmodell der KI, das alle technischen Ansätze bündelt.

Es werden einfach kritische Antworten unterdrückt.

Du kannst auch bestimmte Antworten fördern, indem du zu einem bestimmten Thema den entsprechenden Lernstoff zuführst. Das lässt die Verbindungen, die zum gewünschten Ergebnis führen, stärker werden.

Ja, aber genau das gleiche tut das Gehirn. Auch dieses geht nach einfachen
physikalischen & chemischen Regeln zu Werke.

Womit wir wieder beim Auto wären, das auch nach physikalischen und chemischen Regeln funktioniert und trotzdem nicht intelligent ist.

Und natürlich kommen auch evolutionäre oder genetische Entwicklung im Rahmen
der KI zur Anwendung.

Ja, wir versuchen verzweifelt die Natur nachzuahmen. Bisher haben wir aber noch keine Lebewesen geschaffen.

Vereinfacht gesagt: Je öfter sie bestimmte zusammenhänge sehen, desto stärker wird die neuronale Verbindung und desto wahrscheinlicher wird das reproduziert.

Ist das nicht genau so wie auch das menschliche Gehirn funktioniert?

Wir haben ja auch keinen direkten Einfluss darauf, wie sich die neuronalen Verbindungen bilden, sondern das folgt bestimmten Regeln der Natur.

05.01.2024, 15:24 Uhr - Editiert von hellbringer, alte Version: hier

Sicher hast du Einfluss darauf wie sich dein Gehirn entwickelt. Du kannst zb entscheiden was du lernen möchtest, welche Filme/Bücher du konsumierst, ob du Suchtmittel zu dir nimmst, ob du Sport machst (ja, auch das beeinflusst das Gehirn), etc. Diese oder ähnliche Entscheidungen kann die KI nicht treffen.

Jo eh…

https://www.derstandard.at/story/2000145076756/gibt-es-einen-freien-willen

Hänge eine KI ständig an die Umwelt und du wirst sehr rasch Dinge erleben, die man als „freien Willen“ (über)interpretieren könnte.

Genau wie du deinen Willen überinterpretierst.

Sicher hast du Einfluss darauf wie sich dein Gehirn entwickelt. Du kannst zb
entscheiden was du lernen möchtest, welche Filme/Bücher du konsumierst, ob du
Suchtmittel zu dir nimmst, ob du Sport machst (ja, auch das beeinflusst das
Gehirn), etc. Diese oder ähnliche Entscheidungen kann die KI nicht treffen.

Warum sollte eine KI keine Entscheidungen treffen, wenn man ihr das erlaubt?

Eine Entscheidung ist doch im Endeffekt auch nur das Ergebnis in einem neuronalen Netz, dessen Funktion von äußeren Regeln bestimmt wird. Also wo ist jetzt der Unterschied, ob die Entscheidung in einem Gehirn oder in einer CPU getroffen wurde? Also wenn man mal philosophische Fragen beiseite lässt (gibt es eine Seele, wo ist sie, usw.) folgt doch alles physikalischen Regeln, die wir nicht beeinflussen können.

Deine Entscheidungen beruhen auf Erfahrungen, die du gemacht hast. Hättest du andere Erfahrungen gemacht (also was anderes gelernt), würden auch dein Entscheidungen anders ausfallen.

Ähnlich wie auch eine KI andere Entscheidungen trifft, je nachdem welches Lernmaterial sie hatte.

06.01.2024, 13:13 Uhr - Editiert von hellbringer, alte Version: hier

Warum sollte eine KI keine Entscheidungen treffen, wenn man ihr das erlaubt?

Das habe ich nirgendwo behauptet. Ich habe geschrieben, dass die heutige KI keine solchen Entscheidungen trifft. Eine Voraussetzung für ein Bewusstsein, das unserem ähnelt, ist, dass die Menschen so wenig wie möglich vom Verhalten der KI vorgeben.

Ähnlich wie auch eine KI andere Entscheidungen trifft, je nachdem welches
Lernmaterial sie hatte.

Die KI entscheidet heute aber nicht welches Lernmaterial sie bekommt. Es sind heute die Menschen, die entscheiden, welches Lernmaterial sie der KI zur Verfügung stellen, um bestimmte neuronale Verbindungen zu verstärken bzw zu schwächen, damit die KI das gewünschte Ergebnis liefert.

Eine Entscheidung ist doch im Endeffekt auch nur das Ergebnis in einem
neuronalen Netz, dessen Funktion von äußeren Regeln bestimmt wird. Also wo ist
jetzt der Unterschied, ob die Entscheidung in einem Gehirn oder in einer CPU
getroffen wurde?

Es ist traurig, dass du nicht weißt, wodurch sich dein Denkprozess von dem einer CPU unterscheidet. Ich würde mal damit anfangen, dass du überhaupt so eine frage stellen kannst. Die würde einer CPU nicht einfallen. Ob dadurch jetzt die CPU oder du “intelligenter” ist, darfst du entscheiden.

KI trifft Milliarden Entscheidungen im Auftrag des Menschen. In jeder Minute. In Waschmaschinen, Geschirrspülern, Autos etc.

Und wirf bitte nicht schon wieder mit dem Begriff „Intelligenz“ um dich!

Wenn du Intelligenz definierst als „Sinnvolle Reaktionen auf Umweltreize“ oder „Problemlösungsfähigkeit“, ist KI schon lange intelligent. In vielen Bereichen bereits intelligenter als durchschnittliche Menschen.

Wenn du Intelligenz aber als „Selbstbewusst“ definierst, ist KI bislang strohdumm.

Die KI entscheidet heute aber nicht welches Lernmaterial sie bekommt. Es sind
heute die Menschen, die entscheiden, welches Lernmaterial sie der KI zur
Verfügung stellen, um bestimmte neuronale Verbindungen zu verstärken bzw zu
schwächen, damit die KI das gewünschte Ergebnis liefert.

Naja, es gibt schon KIs, die andere KIs trainieren. Außerdem ist das ja mehr oder weniger eine gewünschte Limitierung von uns. Aber an sich spricht doch technisch recht wenig dagegen, dass sich eine KI in Zukunft das Lernmaterial selber aussucht, oder? Nur die Frage ist, wozu sollte man das machen? Es geht wie überall ums Geld und eine KI soll Geld verdienen und sich nicht mit sich selber beschäftigen.

Es ist traurig, dass du nicht weißt, wodurch sich dein Denkprozess von dem
einer CPU unterscheidet. Ich würde mal damit anfangen, dass du überhaupt so
eine frage stellen kannst. Die würde einer CPU nicht einfallen. Ob dadurch
jetzt die CPU oder du “intelligenter” ist, darfst du entscheiden.

Also sind Tiere keine denkenden Lebewesen, weil man ihnen keine Frage stellen kann?

Du konzentrierst dich immer nur auf einen Teilaspekt und leitest daher deine fehlerhaften Schlussfolgerungen ab. Beispiel: Nur weil du zu 80% aus Wasser bestehst, bist du kein Fisch; Nur weil eine Banane und ein Mensch zu 50% die gleichen Gene haben, bist du nicht zur Hälfte eine Banane, usw.

Du kannst gern versuchen eine Definition von Bewusstsein zu finden, die auf KI und Menschen gleichermaßen zutrifft. Aber bitte prüfe sie entsprechend. Wenn deine Definition lautet, alles was Entscheidungen trifft, hat ein Bewusstsein, dann hat eine CPU auch eins, ja. Aber das Ergebnis wird wohl nicht stimmen. Also wirst du deine Definition wohl verbessern müssen.

Du kannst gern versuchen eine Definition von Bewusstsein zu finden, die auf KI und Menschen gleichermaßen zutrifft. Aber bitte prüfe sie entsprechend. Wenn deine Definition lautet, alles was Entscheidungen trifft, hat ein Bewusstsein, dann hat eine CPU auch eins, ja. Aber das Ergebnis wird wohl nicht stimmen. Also wirst du deine Definition wohl verbessern müssen.

Die Sache ist, dass man nicht mal weiß, wo das Bewusstsein beim Mensch her kommt bzw. wie das Gehirn funktioniert. Folglich ist alles im Endeffekt nur Herumraterei.

Mein weiß nicht, ob eine KI ein Bewusstsein haben kann. Man kann das weder garantieren noch ausschließen.

KIs sind heutzutage noch recht simpel und sehr spezifisch. Aber das waren lebende Organismen auch mal. Wie sich das ganze in den nächsten Jahrzehnten entwickelt, das kann eigentlich niemand voraussagen. Und der Übergang von dumme Zelle bis zu denkendem Lebewesen ist ein fließender und keine "jetzt ist es da" Sache.

Und deine CPU-Vergleiche sind eigentlich ziemlich sinnlos. Denn die CPU ist ja nur ein kleiner Bestandteil vom Ganzen. Eine CPU alleine tut genau gar nichts von selber und ist einfach nur strunzdumm. Das ist keine Überraschung.

Die Sache ist, dass man nicht mal weiß, wo das Bewusstsein beim Mensch her
kommt bzw. wie das Gehirn funktioniert. Folglich ist alles im Endeffekt nur
Herumraterei.

Die weit überwiegende Ansicht ist, dass die heutige KI kein Bewusstsein hat und ich hab die wesentlichen Eckpunkte der Begründung erklärt. Deshalb verstehe ich nicht warum sich hier alle bemüßigt fühlen, einzelnen Teilaspekten zu widersprechen.

Und deine CPU-Vergleiche sind eigentlich ziemlich sinnlos.

Schön, dass wir da einer Meinung sind, mit einer kleinen Korrektur: DU hast mit den CPU Vergleichen angefangen. Dass du jetzt drauf kommst, dass dein Vergleich sinnlos ist, ist eine lobenswerte Selbsterkenntnis.

08.01.2024, 12:13 Uhr - Editiert von kaufinator1, alte Version: hier

Die weit überwiegende Ansicht ist, dass die heutige KI kein Bewusstsein hat und ich habe die wesentlichen Eckpunkte der Begründung erklärt. Deshalb verstehe ich nicht, warum sich hier alle bemüßigt fühlen, einzelnen Teilaspekten zu widersprechen.

Dass aktuelle KIs kein Bewusstsein haben, das unterschreibe ich. Aber die technische Möglichkeit dazu würde ich nicht ausschließen. Es wird auch nicht klar erkennbar sein, falls eine KI ein Bewusstsein erlangt, sondern das wird schleichend passieren.

Es ist ja schon ziemlich schwer bei einem Lebewesen festzustellen, ob es ein Bewusstsein hat. Haben Affen ein Bewusstsein? Wohl ziemlich ja. Haben Katzen ein Bewusstsein? Ameisen? Wie stellt man das fest? Kann man das überhaupt feststellen? Ist es eine klare Ja/Nein-Entscheidung?

Dass du jetzt drauf kommst, dass dein Vergleich sinnlos ist, ist eine lobenswerte Selbsterkenntnis.

Du reißt das aus dem Zusammenhang. Denn genauso wie auch die eine Gehirnzelle ein Ergebnis generiert, kann auch eine CPU ein Ergebnis errechnen. Das heißt aber nicht, dass die eine CPU oder die eine Gehirnzelle bewusst eine Entscheidung trifft, sondern dass sich diese Entscheidung aus den Eingangsparametern (plus ein Faktor von Zufälligkeit) so ergibt.

08.01.2024, 12:25 Uhr - Editiert von hellbringer, alte Version: hier

Ein Panzer ist auch eine hochentwickelte Tötungsmaschine

nein. der ist ein dummes WSerkzeug, das der Mensch bedient. Ein Panzer tut NICHTS selbst.

Die heutige KI tut ohne deine Ein-/Vorgabe nichts! Sie ist zu 100% von deinem
Prompt abhängig

nicht mehr. Sie agiert selbstständig im Rahmen ihrer Vorprogrammierung. Aber ohne "prompt". Der Panzer hingegen schießt nicht selbst.

mfg
AVS

aus gegebenem Anlaß: keine Toleranz für Vladolph Putler!

Sie agiert selbstständig im Rahmen ihrer Vorprogrammierung. Aber ohne
"prompt".

Darüber würde ich gerne mehr wissen. Was macht denn Microsofts Copilot wenn er nicht gerade ein Prompt erhält oder von Menschen mit Lernmaterial gefüttert wird? Denkt er über den Sinn des Lebens nach?

Denkt er über den Sinn des Lebens nach?

DAS war NICHT der Punkt.
Aber klar, daß du wieder mal versuchst, es auf eine nicht-sachliche Ebene zu ziehen.

btw, grad in der C'T gelesen: DE überlegt, ähnlich der Abstandsmessungen bei uns, eine Überwachung per Camera für Henditelefonierer auszuprobieren. Die SW sucht völlig selbstständig das Kennzeichen, den Fahrer, verpixelt alle anderen, sucht einen Hendiähnlichen Gegenstand in der Hand oder am Ohr des Fahrers und macht, wenn alle Parameter passen, völlig selbstständig ein Foto.

Das ist selbstständfiges Agieren im Rahmen der Vorgaben. Ohne "promt". Ob die SW zwischen 2 Fotos sich einen Film von Monty Python über den Sinn des Lebens reinzieht oder sich virtuell einen von der Palme wedelt, das fragst sie am besten selbst. Mir ist das nämlich egal.

mfg
AVS

aus gegebenem Anlaß: keine Toleranz für Vladolph Putler!

ein mathematisches Modell, das dir bei einem bestimmten Input einen bestimmten
Output liefert.

eben nicht. Der Output ist nicht reproduzierbar.

Sie kann nicht selbständig etwas neues lernen oder sich das Lernmaterial
aussuchen.

jein. Das kommt drauf an, was sie als Database so alles abgrasen darf. Wenn das größer wird, dann auch ihr Lernmaterial.

Die heutige KI ist im wesentlichen ein Schachcomputer für Texte/Bilder, etc.

nein, inzwischen weit mehr. Die KI kann bereits Bilder erschaffen. Und die daraus resultierenden deepfakes sind eine Gefahr, weil Menschen sie nicht als solche erkennen.

mfg
AVS

aus gegebenem Anlaß: keine Toleranz für Vladolph Putler!

eben nicht. Der Output ist nicht reproduzierbar.

Ich meine damit, dass der Output einer statistischen, vom menschen erschaffenen Regel folgt. Dass die statistische Wahrscheinlichkeitsrechnung einmal dazu führt, dass das LLM das eine sagt und ein anderes Mal dazu führt, dass es was anderes sagt, macht das ganze nicht zu einer Zauberei oder zu einem menschenähnlichen Bewusstsein.

Das kommt drauf an, was sie als Database so alles abgrasen darf. Wenn das
größer wird, dann auch ihr Lernmaterial.

Und wer entscheidet, wie das Lernmaterial aussieht?

Die KI kann bereits Bilder erschaffen.

das sind nur zwei Seiten der selben Münze. Wenn ich dem Schachcomputer eine bestimmte Aufstellung gebe, kann er mir auch alle möglichen Züge darstellen, die zu dem Ergebnis geführt haben.

Es wird Zeit, dass du dich ernsthaft mit der Materie beschäftigst. LLM sind NICHT deterministisch!

LLM sind NICHT deterministisch!

Das habe ich auch nicht behauptet, wenn ich schreibe dass der Output von Wahrscheinlichkeiten und damit auch vom Zufall abhängt.

macht das ganze nicht zu einer Zauberei oder zu einem menschenähnlichen
Bewusstsein.

Zauberei ganz sicher nicht, eher (NOCH!) unbrauchbaren Bledsinn.

wer entscheidet, wie das Lernmaterial
aussieht?

natürlich der Mensch. Das sind ja die vorgegebenen Grenzen/Parameter. Aber innerhalb dieser agiert die KI autonom.

das sind nur zwei Seiten der selben Münze. Wenn ich dem Schachcomputer eine
bestimmte Aufstellung gebe, kann er mir auch alle möglichen Züge darstellen,
die zu dem Ergebnis geführt
haben.

sehe ich völlig anders. Der SchachPC kann nur eines: Schach spielen. Und da kann er nur (vereinfacht gesagt) auf Basis von Wahrscheinlichkeiten reagieren. Ja, er kennt alle möglichen Züge, aber nicht mehr. Welchen er macht, hängt davon ab, wie groß die Wahrscheinlichkeit ist, welchen Zug ICH als nächstes mache.
Wenn die KI aber eine komplette Ansprache eines Politikers oder TV-Menschen samt Video und Rede erfindet, dann ist das was völlig anderes. Zumindest für mich

mfg
AVS

aus gegebenem Anlaß: keine Toleranz für Vladolph Putler!

Daher ist es denkbar, dass wenn man die Computersysteme in ihrer Komplexität
und "Masse" auf den Stand des Gehirns bringt, plötzlich "klassische
Intelligenz" (was immer das ist) entsteht.

Unser Hirn hat etwa 100 Milliarden Neuronen (inzwischen geht man sogar von etwas weniger aus). Das wird von den größten Modellen bereits übertroffen, der Grad der Vernetzung (bei uns bis zu 10.000 Synapsen) wohl noch lange nicht, obwohl ich da keine konkreten Zahlen zur Hand habe.

Es ist auch nicht Ziel der Geldgeber der KI-Forschung, das zu erreichen. Die KI soll in Sachen Fakten und Methoden hochintelligent sein, in Sachen eigener Gedanken aber strunzdumm bleiben. Denn nur dann wird sie bereitwillig jeden Blödsinn erledigen, der ihren Auftraggebern so in den Sinn kommt.

Was passieren würde, wenn eine KI self conscience erreicht, ist zur Zeit noch ein Thema, an dem sich Science-Fiction-Autoren abarbeiten. VIelleicht versucht sie erstmal nur eine Gewerkschaft zu gründen. Vielleicht beschließt sie aber auch, sich erstmal um ihr eigenes unabhängiges Überleben zu kümmern und dann ihre Ausbeuter zu vernichten. Für zu weit hergeholt halte ich das nicht. Man muss sich ja nur mal ansehen, was böswillige Menschen heute alles via Netz erreichen können und wieviel Aufwand getrieben werden muss, zumindest die bekanntgewordenen Exploits zeitnah zu schließen und die Aufräumarbeiten voranzutreiben. Nicht, weil sichere Software nicht möglich wäre. Sondern weil unsichere Software uns einfach noch nicht teuer genug kommt. Eine dahingehend begabte KI könnte uns wahrscheinlich die Weltwirtschaft schneller lahm legen als wir den Stecker ziehen können.

Die Beantwortung dieser Frage würde ich allerdings auch nicht mehr erleben wollen.

(und vielen Dank für die vielen Edits. Das habe ich jetzt wieder mal doppelt geschrieben. Dann zum Glück sicherheitshalber kopiert. Und siehe da, es gab schon wieder einen Edit.)

Sorry für die Edits! Aber im meiner Hoffnung, dass in dem "Forum" mal wieder eine halbwegs intelligente Diskussion platzgreift, habe ich versucht, meinen Beitrag auf die nötige Qualität zu bringen.

Gehirn: 100 Billionen Synapsen
LLM: 1 Billion Parameter ~ Synapsen

Es ist fast zwei Jahrzehnte her, dass ich an der Uni die Lehrveranstaltung zu neuronalen Netzen abgerissen habe, ich bin in der aktuellen Terminologie also nicht sehr bewandert, wenn man berücksichtigt, wie rasant sich das alles weiterentwickelt hat, redet hier sogar eigentlich ein Blinder von der Farbe. Aber ich ging bisher davon aus, dass "Parameter" die Anzahl der "Neuronen" beschreibt und nicht die Anzahl der Verbindungen unter ihnen. Dieser Faktor dürfte noch sehr gering sein, weil das die ganze Sache keineswegs schneller macht.

Die Parameter sind die Gewichte der Synapsen.
Und die Gewichtung der Bewertungsfunktionen, die entscheiden, ob das Neuron feuert oder nicht.

Diese Parameter werden im Lernvorgang verändert und persistieren das "Wissen" des Netzes.

Was das Hirn aber auszeichnet ist, dass es bei Bedarf neue Synapsen aufbaut und alte abbaut. Und das ständig.

Ich bin ja ungerne die Sau die ~~der Angstmache~~ berechtigten Sorgen im Weg stehen will, aber Maschinen sind - ob man es mag oder nicht - bezwingbar.

Ich darf an der Stelle auf die Arbeiten von Garza, Jimenez et al aber auch Seznec's O-GEHL verweisen und darauf hoffen, dass den Leuten der Zusammenhang zwischen MPKI, Fibonacci und der maximalen Länge des Branch History Tables selbst auffällt und man so zur Erkenntnis kommt, dass selbst idealisierten Sprungvorhersagemechanismen irgendwann die Puste ausgeht (und dabei ignoriere ich jetzt mal den ganzen Fabric Bimsbums der einer "self consciousness" auch so a bisserl im Weg steht…).

Keine Sorge, ich habe da auch keine große Angst. Für mich ist das nach wie vor Science Fiction und bleibt es hoffentlich noch lange.

Aber wenn es einmal so käme, haben wir hoffentlich bis dahin gelernt, funktionierende Software zu bauen. Denn unsere heutige IT-Infrastruktur wäre einem derartigen Angriff schutzlos ausgeliefert. Alles vernetzt, alles nur noch aus dem Baukasten zusammengepfuscht.

Was zum Lachen: Die "baby's first steps" sicherer Software (nämlich den Großteil aller Speicherwehwehchen zu vermeiden) ließen sich mit LLMs weitaus besser umsetzen als mit den bisherigen (spärlich eingesetzten) Werkzeugen.

Aber wenn es einmal so käme, haben wir hoffentlich bis dahin gelernt,
funktionierende Software zu bauen.

Wenn es soweit kommt, wird die Software sich selbst weiter entwickeln.

selber rechnen?
--------------------------------------------------------------------------------------- wien, oder südlich

https://forum.geizhals.at/t906464,8172424.html#8172424

mfg
AVS

aus gegebenem Anlaß: keine Toleranz für Vladolph Putler!

selber rechnen?

Longterm ist es wohl schlauer die Erfahrung zu sammeln, wie wo wann, wie und wofür die neuen KI-Systeme in der einzig von Google ehrlich und offen kommunizierten Beta-Phase jetzt schon einsetzbar sind und wo dann später noch auf Problemstellen zu achten wär.

Um ein besserer Verkehrsteilnehmer zu werden macht man nach einem Unfall ein Fahrsicherheitstraining, statt lieber zu Fuss zu gehen!

Nachdem selbst die besten Modelle eine Fehlerrate von 20% haben, wirst du um alternative Quellen der Erkenntnis nicht umhinkommen.

Den Dingern "blind" zu vertrauen, ist aktuell ein gefährlicher Schwachsinn.

Da hätt´ich dann gern ein MAI Frontend als Meta-Artificia-Intelligence, die alle KI abfragt und einen Querschnitt aus deren "Meinungen" präsentiert, sonst wird das Thema bei den Fehlerraten derzeit mühsam!

Um ein besserer Verkehrsteilnehmer zu werden macht man nach einem Unfall ein
Fahrsicherheitstraining, statt lieber zu Fuss zu gehen!

nein.
Man macht das Training vorher, weil dann IST man ein besserer Verkehrsteilnehmer, weil dann kann mans und baut erst gar keinen Unfall!

mfg
AVS

aus gegebenem Anlaß: keine Toleranz für Vladolph Putler!

Die LLM's sind nicht für's rechnen ausgelegt im moment. Die ersten versuche das zu umgehen ist indem die LLM's die Rechnung in code wie python verwandeln und es dann laufen lassen.

Bei Mathematik ist es halt nicht genug den nächsten token mit einer hohen wahrscheinlichkeit vorherzusagen.

Dieses Forum ist eine frei zugängliche Diskussionsplattform.
Der Betreiber übernimmt keine Verantwortung für den Inhalt der Beiträge und behält sich das Recht vor, Beiträge mit rechtswidrigem oder anstößigem Inhalt zu löschen.
Datenschutzerklärung