KI - Art Midjourney Stable Diffuison & Co Faszination versus Bedrohung

[pollux83]

Googles KI Gemini musste für einen Bugfix kurz nach dem Livegang wieder deaktiviert werden. Bei der Darstellung von Personen kam es zu einer "Überkompensierung" der Vielfältigkeit. Heißt, weiße Personen wurden konsequent durch andere Ethnien ersetzt, was zu einigen sehr merkwürdigen Bildern geführt hat.
(hier Pilgerväter, Wehrmachtsoldat und Wikinger)


Der Grund dafür soll wohl ein rassistischer Mitarbeiter sein, der eine gut 10 Jahre alte Historie von antiweißen Kommentaren hat.

Die Sache dabei ist ja, dass sowas nicht ausversehen passieren kann, da die KI normalerweise vom Internet lernt. Hier muss also gezielt eine manipulierte Datenmenge zum Lernen genutzt worden sein, was kein gutes Licht auf den Googlesuchalgorithmus wirft.

[Infinitas]

eine gesunde KI Skepsis ist für so manchen Sci Fi Liebhaber denke ich mal vollkommen vertretbar. KI-Syteme könnten übrigens auch schnell in Situationen kommen, in denen sie vollkommen autonom ethisch-moralische Entscheidungen treffen müssten.- Dass dies nach hinten losgehen könnte, haben X Filme und Bücher bereits fantastisch dargestellt.

Letzten Post zur Kunst KI finde ich sogar witzig - richtet ja keinen Schaden an und ja, die Geschichte des weißen Mannes scheint zu dominieren, dabei gibt es auch Geschichtsträchtiges aus anderen Ethnien, wobei da die Geschichte des weißen Mannes oft zu dominieren scheint. Ob das nun rassistisch ist, liegt im Auge des Betrachters. Ich bevorzuge es jedoch geschichtliche Faken so zu lassen wie sie sind.

Ich denke auch das die KI hier mit einer gezielten Datenmenge gelernt hat, also definitiv manipuliert.

[DragoMuseveni]

richtet ja keinen Schaden an und ja, die Geschichte des weißen Mannes scheint zu dominieren, dabei gibt es auch Geschichtsträchtiges aus anderen Ethnien, wobei da die Geschichte des weißen Mannes oft zu dominieren scheint.

Unter normale Umtänden würde ich da immer einen Restzweifel haben.
Beispielsweise wenn es um die Darstellung "einer Familie" usw. geht. Da kann ein Bias aus den Trainingsdaten kommen.

Aber dieser Fall ist wirklich aufsehenerregend grotesk.
Gleichgültig ob man hier gute Absichten hatte oder nicht, es erwecket überdeutlich den Anschein, eine bestimmte Gruppe von Personen gezielt verschwinden lassen zu wollen.

Dein Argument wäre nur dann nachvollziehbar, wenn z. B. der Prompt "Konfuzius unterrichtet einen Schüler" ebenfalls "den weißen Mann" zeigen würde.
Das wäre dann ebenfalls nicht mehr aus den Trainingsdaten erklärbar.

[pollux83]

Bis zu einem Ki generierten Film ist es nicht mehr weit.

Man erkennt zwar meistens noch die KI, aber die unschärferen Szenen sehen praktisch echt aus.

[Wraith Leader]

Bis zu einem Ki generierten Film ist es nicht mehr weit.

Man erkennt zwar meistens noch die KI, aber die unschärferen Szenen sehen praktisch echt aus.

Oh nein.....

[pollux83]

Letzten Post zur Kunst KI finde ich sogar witzig - richtet ja keinen Schaden an und ja, die Geschichte des weißen Mannes scheint zu dominieren, dabei gibt es auch Geschichtsträchtiges aus anderen Ethnien, wobei da die Geschichte des weißen Mannes oft zu dominieren scheint. Ob das nun rassistisch ist, liegt im Auge des Betrachters. Ich bevorzuge es jedoch geschichtliche Faken so zu lassen wie sie sind.

Solange man das Angebot hat und es so offensichtlich ist, verursacht es keinen Schaden. Aber Google hatte schon Vorwürfe, sie würden den Suchalgorithmus manipulieren und dort hat Google ein Monopol.
Wenn du es nutzen müsstest oder die Manipulation nicht offensichtlich ist, dann schadet es sehr wohl.

Und wenn du zweifel hat, ob das rassistisch ist, dann schau dir ruhig dieses Video an. Da wird auf alles mit mehr Beispielen eingegangen, als ich es getan habe.

https://www.youtube.com/watch?v=4KV2Dt8ZTuI

Die KI hat dich sogar gelobt, wenn du dich als links identigiziert hat und gerügt, wenn du rechts warst.

[Infinitas]

Solange man das Angebot hat und es so offensichtlich ist, verursacht es keinen Schaden. Aber Google hatte schon Vorwürfe, sie würden den Suchalgorithmus manipulieren und dort hat Google ein Monopol.
Wenn du es nutzen müsstest oder die Manipulation nicht offensichtlich ist, dann schadet es sehr wohl.

Und wenn du zweifel hat, ob das rassistisch ist, dann schau dir ruhig dieses Video an. Da wird auf alles mit mehr Beispielen eingegangen, als ich es getan habe.

https://www.youtube.com/watch?v=4KV2Dt8ZTuI

Die KI hat dich sogar gelobt, wenn du dich als links identigiziert hat und gerügt, wenn du rechts warst.

Ja sicher, wenn dies absichtlich verschleiert würde, würde auch ich dies als schädlich / unlauter betrachten. Rassismus - Aus dem Gesichtspunkt heraus eine Ethnie systematisch auszugrenzen, kann man dies unterstellen. Ich denke, es kommt hierbei immer auf die Intention des Entwicklers oder des Künstlers an. Es kommt auch darauf an, ob Gemini als ein Kunstprojekt gesehen wird oder als eine ideologische Manipulation. Kunst im Allgemeinen hatte ja schon immer den Teil-Anspruch Alltagsdenkmuster zu überflügeln und einen Perspektivischen wechsel bei der Ansicht hervorzurufen. Bei einer KI bin ich mir jedoch nicht so sicher, ob sie ideologisch gefüttert werden sollte, als Trekki wünsche ich mir eher logische und sinnvolle Lösungen, diese können rein ideologisch betrachtet natürlich unterschiedlich sein.

[Albedo]

Ich nutze Stable Diffusion regelmäßig. Eine geile Webanwendung.