A I - Künstliche Intelligenz / Zukunftsvision oder Schreckensszenario

[Valdorian]

Dann verstehst du, zumindest m.E., dieses Zitat nicht. Moravec spricht nirgends davon, irgendwelche "programmierungen zu begrenzen", vor allem nicht in dem Sinne, wie du das meinst, das man die Intelligenz einer solchen KI einschränken sollte. Er meint lediglich, dass eine künstliche Intelligenz keine aggresiven Instinkte braucht und man ihr deshalb auch keine geben sollte.

[mim]

Aber das ist es doch was ich meine. " programmierung " ist nur mein Wort dafür.
Wenn man K.I. keine agressionen gibt,ist das doch sowas wie begrenzen.

[Valdorian]

Unter Begrenzen verstehe ich nicht das ganze Potential zugestehen, zum Beispiel einer KI die Möglichkeit nehmen, ihr ganzes Potential zu entwickeln, sie daran zu hindern, sich selbst zu verbessern und eine technische Singularität zu erreichen. Ich sehe es nicht als "Begrenzung", wenn man einer KI nicht die volle Bandbreit der schlechten menschlichen Eigenschaften gibt. Vielleicht reden wir hier aneinander vobei.

[mim]

ich denke nicht, das wir aneinander vorbei reden, wahrscheinlich haben wir nur `ne andere Ausdrucksweise.
Aber wie dem auch sei, im Grunde meinen wir das gleiche.
Wenn also K.I. keine Agressionen emfinden und somit ihre Weiterentwicklung nur dazu nutzen unser Leben zu verbessern ist ja alles Ok.

Ich habe ja in einem meiner vorherigen postings BSG angesprochen, wo die Zylonen die Menscheit jagt und offensichtlich ausrotten will oder wird ( kenne nicht die gesamte Serie ).
Dort wurde offentsichtlich bei der erbauung der Zylonen nicht darauf geachtet, wie sich das ganze entwickeln könnte. Sonst könnte die Menscheit dort in Ruhe und Frieden leben (dann gäbe es die Serie aber wohl nicht ).
Es kommt nur darauf an wie mit einer etwaigen Entwicklung von K.I. umgegangen würde.
Dabei gibt es so viele Eventuallitäten, die da zu berücksichtigen wären.
Wäre toll wenn wir uns damit weiter auseinander setzen könnten.

[Makaan]

Bei der Neu-Interpretation von Kampfstern Galaktika gibt es auch keinerlei Erklärung dafür, wieso die Maschinen die Menschen exterminieren wollten. Dort ist das einfach eine Serien-Prämisse, und deswegen sowieso irrelevant, weil wir nicht wissen, wie es dazu kam.

[mim]

Richtig, richtig.-
Aber ich will damit ja auch nur sagen, dass diese Möglichkeit besteht.
Um weiter zu mutmaßen behaupte ich,dass die Zylonen bei BSG im Anfangsstadium ihrer Entwicklung nicht begrenzt wurden und die Menschheit nun jagen.Prämisse hin oder her.
Wenn man vorausschauend genug K.I.`s entwickelt sind sie wahrscheinlich ein Segen.
Wenn nicht kann dies unseren Untergang bedeuten.
Oder nicht ?

[Makaan]

Vielleicht sind aber die Zylonen in Moores Faninterpretation einfach nur schlecht programmiert, oder jemand hat geglaubt, dass die Zylonen intelligenter und effektiver werden, wenn man ihnen Religionsgedanken gibt. Oder sie sind generell plemplem. Wer sich die 3. Staffel angeschaut hat, sieht, dass die Autoren keinen Plan hatten, wie es wirklich hätte weitergehen sollen, und dass die Zylonen einfach ziellos im All herumirren und einfach nur Menschen jagen sollen.
Niemand weiss was da schlussendlich genau abgegangen ist, und in dieser Hinsicht ist Moores Kampfstern Galaktika-Version deshalb wertlos. In dieser Geschichte geht es schliesslich einfach um die Standart-0815-Geschichte "Menschen gegen Maschinen".
Richtige K.I., ihre Entwicklung, ihre Gedankengänge, das sind dagegen was anderes. Und es gibt immer noch keinen Grund, irgendwelche Beschränkungen zu bauen, wenn man eine richtige K.I. herstellen will. Sie wird uns nicht wegen Lebensraum, Nahrung oder aus Fortpflanzungsgründen her als Konkurrent ansehen und uns gefährlich werden, weil sie keinerlei dieser Bedürfnisse verspürt. Es gibt keinen Grund, wieso eine K.I. von sich aus ohne Provokation von Seiten der Menschen her homizidale Wünsche verspüren sollte.

[mim]

Somit können K.I.´s also nur zum Segen werden.
Aber noch mal zum Zitat von Hans Moravec;
"....agressionen und der Wesenszug der Menschen auf Kosten anderer ihr Dasein zu sichern...diese Dinge könnte man einfach weglassen."
Das meinte ich mit begrenzen.

[Makaan]

Wenn die K.I. vollends lernfähig ist, was sie sein muss, damit sie als K.I. gilt, würde sie auch solche Emotionen lernen können, genauso, wie es Menschen tun, und damit wäre es eh sinnlos, irgendwelche Begrenzungen zu bauen. Wenn schon, lehrt man der K.I. Moral und Anstand, genauso, wie man es mit jedem Kleinkind macht, so dass es zu einem produktiven und wertvollen Mitglied der Gesellschaft wird. Wenn man der K.I. mit gutem Beispiel vorangeht, sieht die dann auch, was der Vorteil von Koexistenz und Hilfsbereitschaft auch ist. Wer die potenzielle K.I. wie eine Bombe, die jederzeit hochgehen könnte, einen Psychopathen, den man unter Kontrolle hinter Gittern halten muss, oder wie einen Sklaven behandelt, der den Menschen gehorchen muss und keinerlei Gegenleistung dafür zu erwarten hat, der schafft sich seinen eigenen Feind und sollte sich dann nicht wundern, wieso es dazu gekommen ist. Sklaven haben nunmal die Tendenz, irgendwann revoltieren zu wollen, und je schlechter man sie behandelt, desto ehrgeiziger werden sie bei diesem Vorhaben.

[mim]

Gut ich habe Dich verstanden.
Dennoch habe ich bedenken das sich die Weiterentwicklung nicht negativ auf uns auswirken könnte.Im Film -A.I.- wurden doch die "Mechas" zeremoniell vernichtet. Warum wird das hier wohl so gemacht. Ich denke aus Angst der Menschen diese könnten ihnen irgendwann, in welcher Form auch immer, schaden.
Du sagtest ja K.I.`s müssten "erzogen" werden, genau wie menschliche Kinder.
Mussolini, Hitler oder von Braun sind bestimmt auch mal vernünftig erzogen worden.( wobei v. Braun ja eigentlich nichts böses erfinden wollte)
Ich will damit sagen, dass irgendwann mal einer darunter sein könnte der etwas anderes ausprobieren möchte.
Und der programmiert mal eben eine gute tugend weg und eine schlechte dazu.
Und das pozenziert sich im laufe von Mechagenerationen.

[Makaan]

Dennoch habe ich bedenken das sich die Weiterentwicklung nicht negativ auf uns auswirken könnte.Im Film -A.I.- wurden doch die "Mechas" zeremoniell vernichtet.

Ja, weil sie entweder einfach nur Spass daran hatten, es den Leuten langweilig war, sie ihnen die Schuld für ihre Arbeitslosigkeit oder sonstwas billig-triviales gegeben hat. Menschen haben das auch schon mit anderen Menschen getan, denen man die Schuld gegeben hat für sonstige Sachen. Die Schwarze Pest war Schuld der Juden, die Juden waren Schuld für die Niederlage des Deutschen Kaiserreiches, die Juden verfolgen eine zionistische Weltverschwörung, egal was, am Beispiel der Juden sieht man, dass Menschen aus den blödesten und eingebildetsten Gründen einfach Menschen verfolgen und auch töten können. Genauso einfach ist es dann, einfach die Maschinen-Menschen zu verfolgen und zu vernichten. Der Vorteil an den Maschinen-Leuten ist, dass sie über keinerlei Grundrechte verfügen.

Warum wird das hier wohl so gemacht. Ich denke aus Angst der Menschen diese könnten ihnen irgendwann, in welcher Form auch immer, schaden.

Siehe oben.

Du sagtest ja K.I.`s müssten "erzogen" werden, genau wie menschliche Kinder.
Mussolini, Hitler oder von Braun sind bestimmt auch mal vernünftig erzogen worden.

Mussolini und Hitler lebten auch in einer Zeit, in der ihre Nationen, in denen sie lebten einen Krieg hinter sich hatten, über gewaltige Arbeitslosen-Zahlen verfügten, beide waren selbst jeweils Soldaten, damals waren die Menschen sehr sehr nationalistisch eingestimmt, Demokratie galt als Kommunisten-Sache, und es gab noch zig-dutzend Faktoren. Du erkennst wohl selber, dass man Hitler und Mussolinis Entwicklung nicht nur rein auf ihre Erziehung reduzieren kann. Ausserdem haben die Beiden Anhänger gehabt, die genauso wie sie an ihre Sache glaubten.
Wieso du überhaupt von Braun in der Liga der Superberüchtigten Verbrechern und Schurken zählst, ist mir dagegen schleierhaft. Oder sag bloss, du zählst Einstein und Nobel auch dazu...

( wobei v. Braun ja eigentlich nichts böses erfinden wollte)
Ich will damit sagen, dass irgendwann mal einer darunter sein könnte der etwas anderes ausprobieren möchte.
Und der programmiert mal eben eine gute tugend weg und eine schlechte dazu.
Und das pozenziert sich im laufe von Mechagenerationen.

Nein, schau, eine richtige K.I. ist lernfähig. Das muss sie sein, sonst ist es keine Künstliche Intelligenz. Sie wird genauso wie wir alle Emotionen lernen können, alle schlechten Eigenschaften, ebenso wie alle guten. Das wird unabwendbar sein, und dagegen kann der Mensch nichts machen. Was er machen kann und tun sollte, ist der K.I. die guten und positiven Eigenschaften zu lehren, und ihr Moral und Anstand beizubringen.
Wir halten Kinder ja auch nicht wie Sklaven und schnippeln an ihren Hirnen rum, nur weil die Möglichkeit besteht, dass vielleicht einer von denen irgendwann mal zu einem irren Psychopath wird, wobei selbst dann es noch tausende von anderen Gründen und Faktoren gibt, wieso ein Mensch sich zu so etwas entwickelt.

[arbosch]

Problem A)
KI = die maschine kann lernen. Dies geht nur dann, wenn die Maschine ihren eigenen Programmcode ändern kann. Ergo alle Sicherungen welche wir einbauen wären von der KI selber veränderbar und daher nutzlos. Da eine KI um ein x-faches schneller lernt als es ein Mensch tut und auch ein X-faches länger lebt, wäre sie jedem Menschen innerhalb kurzer Zeit überlegen. Auch grundsätzliche Befehle wie 'sie darf keinen Menschen verletzten' nützen nichts. Die KI ist nicht allwissend. Wenn Sie nicht weiss, dass der Mensch verletzt wird, dann wird sie es auch wenn dieser Codeteil enthalten ist machen.

Problem B)
Der Mensch fürchtet was er nicht versteht und eine intelligente Maschine würde dies aufgrund unserer Geschichte schnell herausfinden. Eine Intelligente Maschine würde sich entscheiden sich vor dieser Gefahr zu schützen. Dies kann dadurch sein, dass Sie die Menschheit aufklärt und sie weiterentwickelt, dass wir für die KI keine Gefahr mehr sind. Jedoch auch das gegenteil, dass der einzige Weg unsere Ausrottung ist.

Problem C)
Das gefährlichere jedoch ist wie eine KI lernen wird. Wir lernen durch die Fehler die wir machen. Eine KI würde genau wie der Mensch Fehler machen. Bei einem Menschen ist es nur sehr unwahrscheinlich, dass wir durch diese Fehler ganze Völker auslöschen. Bei einer Hochentwickelter KI wäre dies jedoch sehr wahrscheinlich. Wie weiter sich die KI entwickelt, desto gefährlicher werden die Forschungsgebiete in welcher Sie arbeitet. Eine genetische Anpassung, die uns von allen Krankheiten heilt mutiert zum Supervirus -> Menschheit ausgelöscht. Ein Mensch kommt normalerweise nicht in diese Forschungsgebiete weil wir uns zuerst das Grundwissen aneignen müssen und danach nur sehr langsam 'forschen' können. Die Forschung wird dann evtl. von jemandem weitergeführt jedoch ist dies nicht sehr produktiv. Eine KI wäre um ein X faches effektiver.

Weil ich selber Programmiere bin ich jedoch der Meinung, dass es eine 'KI' nicht geben kann. Es wird höchstens Programme geben, welche eine 'KI' simmulieren jedoch nicht selber in der Lage sind sich zu entwicklen. Sie werden immer innerhalb ihres Programmcodes arbeiten und dadurch sind sie keine KI. Es sind nur 'intelligente Programme'.

Arbosch Bloodforge

[mim]

Weil ich selber Programmiere bin ich jedoch der Meinung, dass es eine 'KI' nicht geben kann. Es wird höchstens Programme geben, welche eine 'KI' simmulieren jedoch nicht selber in der Lage sind sich zu entwicklen. Sie werden immer innerhalb ihres Programmcodes arbeiten und dadurch sind sie keine KI. Es sind nur 'intelligente Programme'.

Arbosch Bloodforge

Also vor Hundert Jahren wurde auch gesagt das man nicht zum Mond fliegen kann und heute tun wir es, ja es ist schon fast selbstverständlich.
Ich glaube daran das es irgendwann mal sowas wie " Mr. Data " geben wird, der ja auch versucht sich weiter zu entwickeln und menschlicher zu werden.

[arbosch]

Mr. Data ist ein 'intelligentes Programm', jedoch keine künstliche Intelligenz. Data folgt seiner Programmierung und innerhalb seiner Programmierung entwickelt er sich weiter. Auch die Folge wo er ein 'emotions-chip' erhält macht ihn nicht zur 'KI'.

Eine KI ist eben nicht an die Programmierung gebunden weil solange sie an die Programmierung gebunden ist, ist keine Intelligenz dahinter ist, sondern nur die Programmierung des Programmieres. Je nach entwicklungsstand ist diese Programmierung dann besser oder schlechter. Auch heute schon könntest du einen roboter so programmieren, dass er tests durchführt und aufgrund festgelegter Parameter dieser 'Roboter' entscheidet ob die Tests erfolgreich sind oder nicht. Der 'Roboter' kann dann intelligente 'Entscheidungen' treffen, dass es aussieht als ob er intelligent ist. Jedoch ist da nicht die intelligenz des Roboters entscheidend, sondern meine. Sprich wieweit ich alle möglichkeiten auscodiert habe. Wenn ich eine vergesse, dann stürzt er ab oder trifft saudumme entscheidungen. Das hat jedoch nichts mit KI zu tun und Data ist da ein gutes Beispiel. Er ist halt nur so programmiert, dass er 'menschliche' charakterzüge annehmen soll.

Arbosch Bloodforge

[mim]

Dann habe ich etwas grundsätzliches falsch verstanden; bei ST wird, wenn ich es recht in erinnerung habe gesagt Mr. Data sei eine künstliche Lebensform. Setzt denn Lebensform nicht Intelligenz voraus?Oder anders gefragt: Kann sich eine Lebensform auch ohne Intelligenz entwickeln? Data ist Deiner Meinung keine KI, obwohl er sich selbst schon reproduziert hat? Wo hört Roboter auf und wo fängt KI an?