Kann uns die KI gefährlich werden?

[Galax]

Nun, das bewusstsein. das "ich" bewusstsein, so wie wir das alle jeden tag für selbstverständlich hinnehmen ist eben mehr als nur ne komplexe ansammlung von zellen.

Wenn man sich betrachtete, was das bewusstsein ist, so kommt man zu dem schluß, das wir nur wissen, wer wir sind, weil wir es wissen.

schwerer satz, aber ich erklärs mal sorum:

Stellt euch vor, ihr vergesst alles, was ihr bisher wisst.
Vergesst zu laufen, zu sprechen, einfach alles.
Was zurückbleibt ist ein leerer geist, überlebt durch instinkte wie greifen, saugen, atmen.
Nicht einmal stehen könnt ihr.

Ihr seid psychich tod.

Der leere körper jedoch lebt wie ein koma-patient und kann nun mit neuen informationen gefüttert werden. Aufgrund der erfahrungen, die dieses frisch geleerte gehirn sammelt bilden sich neue vorlieben, geschmäcker, erinnerungen.
Es entsteht ein völlig neuer mensch, der alles neu erlernen und entdecken muss. Und das in eurem körper! Ihr selbst werden davon nichts mitbekommen.
Selbst wenn man diesem neuen mensche erzählt, was ihr zuvor alles gemacht habt: Er wird es nicht können.
Er ist sich im laufe der zeit neu bewusst, aufgrund der erfahrungen, die er selber sammelt, die eindrücke und gefühle, die er erfährt.

Das ist die grundvorraussetzung fürs "ich" - gefühle erfahren

Und nun nimmt man einen Computer mit den selben vorraussetzungen wie diesen leeren körper.
Man beginnt ihn mit daten zu füttern.
Der computer "lernt" in dem sinne sein umfeld kennen.
er kann (fals er sprechen kann) auf fragen antworten, sofern er die antworten zuvor genannt bekommen hat.

Während aber der neue menschauf die frage: "was hast du nach dem aufstehen gemacht" antworten kann: "Ich habe den sonnenaufgang beobachtet"

Kann man dem computer zwar fragen:"Wann ist die sonne aufgegangen?" und er nennt eine exakte zeit, und kann sicher aucherklären, was ein sonnenaufgang ist, aber er kann ihn nicht begreifen.

Den um, beispielsweise, den sonnenaufgang nicht nur als astronomisches phänomen wahrzu nehmen braucht es gefühl.
Und eine KI ist erst dann eine KI, wenn sie real fühlt.

Den was Biologische lebewesen von maschienen unterscheidet ist in erster linie die enzyme , die chemischenverbindungen die gefühle erzeugen. Gefühle, die reagieren und agieren lassen.

Klar. man kann einem computer beibringen, gefühl nachzuahmen. aber er wird nie begreifen, was er da tut.
Und darum geht es auch: Ums begreifen.

Zum begreifen braucht man emotionen. eine blose kopie eines gehirns (sollte es denmenschen tatsächlich mal gelingen) wird nichts weiter bleiben als eine leere festplatte, die gefüllt werden kann mit informationen.
Programme mit algerythmen können dafür sorgen, das der computer mit all diesen informationen jongliert. auf entsprechende aktionen antsprechende programme ausführt aufgrund von sensoren, die ihm zeigen, was geschieht.

Aber auch das ist nicht inteligent. es ist nur programiert.

EIne KI braucht gefühle um zu begreifen. Dann ist sie sich selbst bewusst.
dann kann sie anfangen zu probieren, sich selbst zu suchen, was es lernen will, kombinieren, entscheiden und verstehen.
Solange das aber nciht gegebenist, ist alles sturr und starr wie dieser Roboterjunge in dem Film.

(Auch wenn dieser (vorprogramierte) gefühl-imitate hatte.
Er reagierte halt auf das was im umfeld geschah mit dem, was manihmsagte, wie man zu reagierenhat)

[Bynaus]

@ Bynaus : Dich hab ich zwar ned gemeint, aber egal ^^

Ok, Sorry, fühlte mich angesprochen.

geht nicht.

Hm... Ich hätte nie gedacht, dass ich jetzt plötzlich zum Advokaten des "ja, das denken wir heute - wer weiss, was morgen ist..." werde... Aber eine zukünftige Entwicklung kategorisch auszuschliessen, die von den Naturgesetzen nicht prinzipiell ausgeschlossen wird, ist genauso unsinnig wie zu behaupten, dass sie ganz sicher entwickelt werden würde...

Wenn ein zufälliger Prozess von Trial & Error in Milliarden Jahren (=Evolution) Intelligenz hervor bringen konnte - warum soll dann ein gesteuertes, geplantes Vorgehen (=die Entwicklung von KI) nicht zum gleichen Erfolg führen können?

[Galax]

weil ein computer eben nur das weis, was ihm eingegeben wird.
und auch das lernen, analysieren und zusammenknüpfen wurde ihm zuvor eingegeben.

die menschenbauen maschienen, die eben darauf programiert sind, miemik zu nachzuahmen.

wenn plötzlich in meinem Paintprogram sich ein gesicht vonselbst zeichnet, und dieses zu mir zwinkert, oder mich auslacht, weil ich im spiel gegen den PC gewonnen habe, DANN kann ich sagen, das ist ne KI.

Bestes beispiel dieser film A.I.

Da wird davongesprochen, das dieser kinderroboter inteligent ist.
Das ist aber auslegungssache. Für mich war dieser roboter nur eine völlig "dumme" maschiene, die stur ihrer Programierunggefolgt ist.

Sein befehl lautet: "Liebe deine mutter und werde vonihr geliebt!"

Die mutter tat dies aber nicht. Aber wie auch in etwa der terminator sagte: "Die mission zu erfüllen ist mein zweck!"

Und so maschierte dieser kinderbot los, seinen Zweck zu erfüllen. Und dieser war eben die idee, das seine "mutter" ihn liebt.

Klar, der hat so einiges bewerkstelligt (alleine hätt er das eh ned geschafft) um das zu bewerkstelligen. Und am ende ist er dem märchen (welches im eingetrichtert worden war) gefolgt und hat 1000 jahre eine Plastikpuppe angebettelt, um am ende von einem Klone geliebt zu werden.
Das ist für mich sture dumme befolgung der Programierung.
An diesen Roboterjungen war so rein garnichts inteligent ^^

[Kilana]

können computer nicht.
werden sie nie können.
Zusammenhänge erkennen und problemlösungen aufgrund andere und ähnlicher fälle zu finden geht nicht.

Was macht dich da so sicher. Es gibt bereits Programme, die wenn auch eingeschränkt lernfähig sind. Ist meistens eine Datenbank, die erweitert werden kann, aber heisst nicht, dass es dort nicht weitergeht.

[Quantensprung]

nich ganz richtig, was du zu den grundfarben sagst

Hab ich auch schon gemerkt aber ich dachte an die hier.

"Wer ausprobiert und testet und ergebnisse vergleicht, verhält sich "inteligent"

Es hat da mal einen Bericht im Fernseh gegeben wo Rototer die nur aus einem 'Gesicht' bestanden und die Mimik von Menschen nachahmen/lernen konnten, durch "ausprobieren" der entsprechenden Mimik eine entsprechende Reaktion beim Menschen herforgerufen haben.
Allerdings halte ich DAS immer noch nicht für "intelligent", weil der Roboter nicht weiß warum er die Reaktion erreichen will - bestimmt nicht damit er besser beahndelt wird etc.. Also einen Roboter alla "Nr.5 lebt" wird es wohl so schnell nicht geben.

[Galax]

Jo klar. Die Grundfarben sind ja auch Rot, Gelb und Blau. 'Grün' wird erst aus Gelb und Blau gemacht. Hat er also Gelb und Rot kann er 'Oroge' machen. Wenn aber nur 'Grün' hat müßte das Anylyseprogramm erst mal rausfinden daß Gelb (der fehlende Faktor) in Grün steckt, aber wie soll er das machen wenn er Gelb und Blau nicht kennt?
Man kann dieses auch nicht von einem Mensch verlangen zu erkennen/wissen wenn dieser die entsprechenden Farben noch nie "gesehen" hat. Erklär mal einem blinden Farben:
"Problem unlösbar."

nich ganz richtig, was du zu den grundfarben sagst:
http://de.wikipedia.org/wiki/Grundfarben

(Hatte den ganzen farbmist ausführlich gelernt - und, nein, ich bin kein maler )

es geht auch nicht direkt ums beispiel "farbe erkennen" sondern um den fakt: "Wer ausprobiert und testet und ergebnisse vergleicht, verhält sich "inteligent"" Und computer tun soetwas nicht.

[Skymarshal]

Schon klar, ich wollte dir nichts unterstellen. Ich hab nur selbst gemerkt, dass ich ständig von "Mensch und Tier" spreche, und wollte mich auch selbst korrigieren...

OK!

Ja, aber um zu lernen muss man reflektieren, sprich, die eigenen Handlungen aus der Distanz betrachten können...

Nö. Es genügt doch wenn unangenehme Dinge und angenehme assoziiert werden. Das hat mit Distanz ja nichts zu tun.

Bei Tieren wird das über den Lern"Reflex" erklärt.

Schon - aber IMHO völlig überflüssig. Sie hat keinen wissenschaftlichen oder erkenntnistheoretischen Wert.

Mußt du aus einer anderen Perspektive sehen. Wann sich die ersten Philosophen damit beschäftigt haben.

Heute bringt uns der Begriff alleine nicht weiter. Aber damals gab es schon Erkenntnisse auf dem Gebiet. Ich würde behaupten das die Psychologie z.B daraus hervorgeht. Auch die Erkenntnis über kategorisches Denken(Kant) usw.

[Quantensprung]

Problem unlösbar.

Jo klar. Die Grundfarben sind ja auch Rot, Gelb und Blau. 'Grün' wird erst aus Gelb und Blau gemacht. Hat er also Gelb und Rot kann er 'Oroge' machen. Wenn aber nur 'Grün' hat müßte das Anylyseprogramm erst mal rausfinden daß Gelb (der fehlende Faktor) in Grün steckt, aber wie soll er das machen wenn er Gelb und Blau nicht kennt?
Man kann dieses auch nicht von einem Mensch verlangen zu erkennen/wissen wenn dieser die entsprechenden Farben noch nie "gesehen" hat. Erklär mal einem blinden Farben:
"Problem unlösbar."

[Galax]

@ Bynaus : Dich hab ich zwar ned gemeint, aber egal ^^

@ Kilana: Jo, sorry, find ich nunmal lächerlich.

Zum bewusstsein gehört ja nich nur lernfähigkeit, die von selbst kommt.
z.B. tiere beobachten langegenug die Menschen, und irgendwann haben sie auch geschnallt, wie man ne tür öffnet, wie man den TV ausschaltet oder erkennen das geräuch der kühlschranktür und wissen, das der weg zur futterquelle geöffnet ist.

können computer nicht.
werden sie nie können.
Zusammenhänge erkennen und problemlösungen aufgrund andere und ähnlicher fälle zu finden geht nicht.

Man muss einen Computer zu allem Programieren.
Beispiel:

Du gibst dem Computer die Grundfarben ein: Rot, Grün, Blau.
und befiehlst: "Mach Orange"
wer sein bewussten computer vorher richtig programiert hat, hat nen analyseprogramm mit reingestopft.
(wer das vergessenhat scheitert bereits an der aufgabenstellung)

Der Computer analysiert also die Farbe Orang (die wir ihm fairerweise zeigen)

Dann er kennt er: Aha, rot, hab ich und ... krzzzkk Bieep Bieep error error.. was is das? Unbekannter Faktor! (gelb) Was is das? Hab ich ned.
Problem unlösbar.

Auf die idee zu kommen und einfach drauflos zu mischen und selbst drauf zu kommen, das er aus rot-grün zu braun, abstufen = gelb bekommt kann er nicht.
Selbst wenn er ein zufallsprogram instaliert bekommen hat, wo er wild farbenmischen kann, wird er nicht auf die lösungkommen.

EinKind im kindergarten (hat zwar keine abstufungsöglichkeiten) aber ist durchaus in der lage durch sehen, experimentieren ect auf die lösung zu kommen.

Ein Computer wird nie "ausprobieren" er folgt einem programm oder einer logischen wahrscheinlichkeitsrechnung. welche aber das vorherige mischen andere komponenten nicht vorsieht, da sie nicht bestand der aufgabe sind.

[Bynaus]

Ich sagte nur wie es in der Allgemeinheit leider gehandhabt wird. Deswegen wird auch auf die Gefühle von Tieren wenig Wert gelegt. Tierschutz etc. Tiere sind oftmals leider nur Güter.

Schon klar, ich wollte dir nichts unterstellen. Ich hab nur selbst gemerkt, dass ich ständig von "Mensch und Tier" spreche, und wollte mich auch selbst korrigieren...

Das ist eher lernen als reflektieren.

Ja, aber um zu lernen muss man reflektieren, sprich, die eigenen Handlungen aus der Distanz betrachten können...

Naja, es ist eine Zustandsbeschreibung.

Schon - aber IMHO völlig überflüssig. Sie hat keinen wissenschaftlichen oder erkenntnistheoretischen Wert.

[Skymarshal]

Ist die Selbsterkennung nicht einfach eine Frage von höherer Intelligenz? Das Erkennen von Mustern ist ein Zeichen von Intelligenz: warum also soll das Erkennen eines Menschen (z.B. sich selbst) also nicht einfach ein Zeichen hoher Intelligenz sein? Das Unterscheiden von anderen Individuen trifft sehr wohl auf die meisten Tiere zu: wie sonst würden z.B. monogame Gänse den Partner erkennen?

Wie gesagt, die Defintion des Wortes "Bewusstsein" ist völlig überflüssig.

Naja, es ist eine Zustandsbeschreibung. Ich sage ja selber das ohne eine höhere Intelligenz eine gewisse Qualität nicht vorhanden sein kann.

Reflektion seiner selbst: ein Hund versteht auch, wenn man ihn bestraft (und wiederholt die bestrafte Tat nicht mehr) - er sieht also einen klaren Zusammenhang zwischen seiner Tat und der Strafe, und kann daraus sogar Konsequenzen für die Zukunft ziehen. Mag sein, dass er nicht versteht, warum er nicht tun soll, wofür er bestraft worden ist, aber zumindest sieht er sich als handelndes Individuum. Er ist sich also sehr wohl seiner selbst "bewusst". Das gilt auch für viele weitere Tiere, eigentlich alle Tiere, die "dressiert" werden können, und das beginnt ja sogar schon bei Kanarienvögeln.

Das ist eher lernen als reflektieren. Tiere haben ja auch Intelligenz.

Übrigens: man sollte nicht so leichtfertig zwischen "Mensch" und "Tier" unterscheiden - der Mensch ist auch ein Tier! Also sollte man besser vom "Menschen" und den "anderen Tieren" sprechen. Ansonsten baut man schon wieder eine emotionale Barriere auf, die es in Wirklichkeit nicht gibt.

Ich sagte nur wie es in der Allgemeinheit leider gehandhabt wird. Deswegen wird auch auf die Gefühle von Tieren wenig Wert gelegt. Tierschutz etc. Tiere sind oftmals leider nur Güter.

[Bynaus]

Ist die Selbsterkennung nicht einfach eine Frage von höherer Intelligenz? Das Erkennen von Mustern ist ein Zeichen von Intelligenz: warum also soll das Erkennen eines Menschen (z.B. sich selbst) also nicht einfach ein Zeichen hoher Intelligenz sein? Das Unterscheiden von anderen Individuen trifft sehr wohl auf die meisten Tiere zu: wie sonst würden z.B. monogame Gänse den Partner erkennen?

Wie gesagt, die Defintion des Wortes "Bewusstsein" ist völlig überflüssig.

Reflektion seiner selbst: ein Hund versteht auch, wenn man ihn bestraft (und wiederholt die bestrafte Tat nicht mehr) - er sieht also einen klaren Zusammenhang zwischen seiner Tat und der Strafe, und kann daraus sogar Konsequenzen für die Zukunft ziehen. Mag sein, dass er nicht versteht, warum er nicht tun soll, wofür er bestraft worden ist, aber zumindest sieht er sich als handelndes Individuum. Er ist sich also sehr wohl seiner selbst "bewusst". Das gilt auch für viele weitere Tiere, eigentlich alle Tiere, die "dressiert" werden können, und das beginnt ja sogar schon bei Kanarienvögeln.

Übrigens: man sollte nicht so leichtfertig zwischen "Mensch" und "Tier" unterscheiden - der Mensch ist auch ein Tier! Also sollte man besser vom "Menschen" und den "anderen Tieren" sprechen. Ansonsten baut man schon wieder eine emotionale Barriere auf, die es in Wirklichkeit nicht gibt.

[Skymarshal]

Trifft das nicht auf die meisten "höheren" Tiere zu?
Ich würde sagen, es gibt kein Bewusstsein. Es gibt nur grössere oder kleinere Intelligenz, ohne künstliche Abstufung zwischen Mensch und Tier.

Naja, das wichtigste was eigentlich die Eigenschaft vom Bewußtsein ist hast du nicht zitiert:

Die Selbsterkennung und das unterscheiden von anderen Induviduen!

Das man sich als einzigartig begreifen kann.

Eine Steigerung wäre das Selbstbewußtsein: Man hält sich einen Spiegel vor!

Also eine Reflektion seiner Selbst mit dem Erkennen von Fehlern und Vorzügen.

Zumindest ist es philosophisch/psychologisch so. Oder in der Art.

Selbstbewußtsein wird in der Allgemeinheit oft mit Selbstwertgefühl verwechselt.

Und ich bezweifel das sowas ein Tier kann. Deswegen spricht man beim Menschen vom Subjekt.

Allerdings sind Tiere auch keine Gegenstände. Nur leider werden sie oft so behandelt.

[Bynaus]

Bewusstsein (lat. conscientia „Mitwissen“) bezeichnet das Verfügen über mentale Zustände, also etwa Gedanken, Emotionen, Wahrnehmungen oder Erinnerungen. Das Bewusstsein bezieht sich dabei zum einen auf die Außenwelt und zum anderen auf die Innenwelt des Subjektes (Selbstbewusstsein).

Trifft das nicht auf die meisten "höheren" Tiere zu?
Ich würde sagen, es gibt kein Bewusstsein. Es gibt nur grössere oder kleinere Intelligenz, ohne künstliche Abstufung zwischen Mensch und Tier.

[Skymarshal]

Nicht unbedingt erklären. Nur mal eine Defintion bringen, was den Bewusstsein eigentlich sein soll...

Soll ich Wikipedia zitieren oder selber probieren?

Was verstehst du denn darunter?