Kann uns die KI gefährlich werden?

[La-Forge]

schon klar wie das gemeint war, aber trotzdem müssen die SCPU's mit der MCPU kommunizieren, und sei es bloß um zu kontrollieren ob alles klar läuft.

trotzdem, in diesem fall bräuchten wir keine derartigen prozesse, da ein rechner nunmal keine atmung oder ähnliches benötigen...

die frage steht also immer noch... wie entsteht das bewusstsein, oder ist bewusstsein nur eine ausreichende komplexität die auf "eingangssignale" reagiert

[J_T_Kirk2000]

Wenn es aber darum geht , bei einer entsprechenden Aktion entsprechend zu reagieren ist es in diesem Prinzip zwischen MCPU und SCPU vergleichbar mit einem Gehirn .
Die MCPU , wie Du diese nennst könnte zum Beispiel eine Benachrichtigung von einer ihrer SCPUs bekommen , daß ein Programm eine Botschaft aufwirft oder irgenein Problem oder Frage hat , die eine Antwort bzw Reaktion erfordert .
Die MCPU würde sich kurz um einen entsprechenden Befehl für eine Reaktion kümmern und könnte sich dann mit anderen Arbeitsprzessen beschäftigen , während die entsprechende SCPU mit der Ausführung des Befehls beschäftigt .
In dieser Hinsicht wäre doch ein Bezugssystem zwischen Master- und Sekundär-CPUs mit dem zwischen Bewußtsein und Unterbewußtsein in rein körperlichem Sinne durchaus vergleichbar .

[KonradZuse]

Okay, also ich habe jetzt nicht die Zeit gehabt alle Einträge dieses Threads ausgiebig zu studieren aber ich finde es toll, dass es Leute gibt die sich mit diesem Thema befassen. Also wer wirklich was erfahren möchte, dem kann ich das Buch Mind Children von Hans Moravec - Der Wttlauf zwischen Menschlicher und Künstlicher Intelligenz ans Herz legen. Hier werden anschaulich alle stationen der KI und der Zukunft der KI anhand von nachvollziebaren Beispielen erläutert - Ein wahrer KI - Wissensquell :-)
post scriptum:
Ich wollte jetzt hier keine Schleichwerbung machen es war lediglich ein Tipp für ernsthaft Interessierte!

[Skymarshal]

Solche Schlatungen gibt es IMO aber schon - zumindest in gewissen Grenzen. Erinnere mich da an eine Forschungsgruppe die ein "lernfähiges" Computerprogramm geschrieben haben, wo man einfach das Ziel angibt bzw. das Programm über irgendwelche Belohnungen dazu bringt möglichst effektiv das gewünschte Ergebnis auszuspucken.

Das sind aber nur "Belohnungen" von den Forschern aus gesehen. Keine wirklichen.

Eine Belohnung ist meiner Meinung nach von der anderen Seite wahrzunehmen.

Eher "Bonuspunkte" für bestimmte Rechenschritte oder sowas. Das diese Pfade intensiviert werden, analog zu neuronalen Netzen.

@KOnradZuse: Danke für den Tipp!

[Harmakhis]

Das sind aber nur "Belohnungen" von den Forschern aus gesehen. Keine wirklichen.

Natürlich sind das keine wirklichen Belohnungen! Wie willst du denn eine virtuelle KI mit Hundekuchen belohnen?

Eine Belohnung ist meiner Meinung nach von der anderen Seite wahrzunehmen.
Eher "Bonuspunkte" für bestimmte Rechenschritte oder sowas. Das diese Pfade intensiviert werden, analog zu neuronalen Netzen.

Das ist nichts anders als bei Tieren. Die machen eine Handlung, werden dafür mit Futter belohnt, diese Handlung wird als richtig abgespeichert. Das ist (mangels Bewusstsein) keine bewusste Wahrnehmung durch die Tiere, dass sie hier korrekt gehandelt haben. Bei den berühmten Pawlowschen Hunden ist das auch einfach eine abgespeicherte Antwort auf einen bestimmten Reiz. Da steckt nicht irgendwie groß Magie dahinter.

[Suthriel]

Vielleicht wäre ja anstatt einer belohnung eine Art Selbstoptimierung das bessere? Für eine KI ists doch sicher von Vorteil wenn sie ebenso wie alle anderen möglichst schnell und einfach (ohne großartige Systembelastung und Ressourcenverbrauch -> Strom, Speicher) zu einem gewünschten Ergebnis kommt. Sollte die KI nun aber erst über 3 Ecken und Enden zum Ergebnis kommen, wäres doch sicher gut, wenn die KI in der Lage wäre, sich selbst dahin gehend zu optimieren oder man ihr notfalls einen Denkanstoß gibt, wenn sie nicht von selbst drauf kommt. Dann müsste man die KI nur noch darauf trimmen, das es "gut" ist, energiesparend/effizient zu sein, so als Beispiel. Wir versuchen uns das Leben ja auch möglichst einfach/bequem zu machen (Beamte jetzt mal ausgenommen) und vorhandenes Wissen und Fähigkeiten eventuell zu verbessern und zu perfektionieren.

[Skymarshal]

Jo. Die KI müßte dann irgendwie die Rechenschritte aufzeichnen(bzw. die effizientesten werden "belohnt").

Wenn sie ein Bewußtsein hätte könnte sie sich diese Schritte merken und selber optimieren.

Das Beispiel mit uns ist gut. Wir lernen ja auch tagtäglich dazu und streben Perfektionismus an. Dazu gehört auch rationales denken.

[zorro85]

Forschung kann gefährlich sein, Künstliche Intelligenz

In letzter Zeit habe ich mich stärker mit dem Thema Robotik und Künstlicher Intelligenz beschäftigt. Es gibt viele Horrorszenarien, die auch Hollywood verfilmt hat, z.B. Terminator I-IV, I Robot, A.I., Surrogates, Der 200-Jahre-Mann, Matrix usw. Und in jedem Gedanken steckt auch immer ein Funken Wahrheit. Zuletzt habe ich mir in dieser Woche die aktuelle Dokumentation "Plug & Pray" im Kino angeschaut, in der um die Chancen und Risiken von Künstlicher Intelligenz und den momentanen Stand der Forschung geht. Auch diese Diskussion zwischen Experten ist aufschlussreich: YouTube - Künstliche Intelligenz und Robotik - 3sat scobel - Part 1

Der Tenor dieser Filme und der Dokumentation ist immer derselbe: Künstliche Intelligenz ist gefährlich. Sie ersetzt den Menschen in immer mehr Bereichen des täglichen Lebens, in Japan wurde z.B. bereits der erste Roboter in einer Hotelrezeption und an anderer Stelle als Lehrer eingesetzt. Wir Menschen müssen uns also demnächst Computern unterordnen, wie es einige Simulationsprogramme beim Militär bereits vormachen. Oder nehmen Sie den großen Supergau an der Börse. Neulich habe ich auf tagesschau.de gelesen, dass die automatischen Rechenformeln, sprich künstliche Intelligenz dafür verantwortlich war, dass der Börsencrash so schnell und fatal von statten ging. Wir spielen mit dem Feuer, wenn wir diese Entwicklung weiter vorantreiben.

Überlegen Sie doch einmal selbst, was passiert, wenn ein humanoider Roboter so etwas wie ein Bewusstsein entwickelt und das wird passieren, ob es nun 20 oder 100 Jahre dauern wird. Er wird seine Umgebung und sich selbst wahrnehmen, er wird ein Selbstbild haben und völlig autonom denken. Er wird dieselben Rechte wie wir Menschen fordern und vielleicht sogar in einer "vollwertigen" Beziehung mit einem Menschen leben wollen. Er wird sich selbst und andere Roboter weiterentwickeln und letztlich intelligenter als jeder Mensch sein. Aber was dann?

Was passiert, wenn ein Roboter ein eigenes Bewusstsein entwickelt? Wird er sich noch unterordnen als ein praktisches Haushaltsgerät oder wird er sich als Sklave der Menschen empfinden, die ihn ausnutzen? Hat die Geschichte nicht gelehrt, dass sich auch Menschen nur solange unterordnen, bis sie ein eigenes Bewusstsein für ihre Unterdrückung empfinden? Um wievieles logischer begreifbar muss diese Tatsache für ein hochkomplexen, intelligenten humanoiden Roboter mit Künstlicher Intelligenz sein?

Sie werden vielleicht sagen, ein Roboter kann uns auch in vielen Bereichen gut bei der Arbeit helfen, nennen vielleicht die Automobilindustrie oder Roboter zur Erkundung ferner Planeten oder unseren Taschenrechner. Doch in diesen Fällen kontrollieren wir die Maschinen, nicht sie uns. Wenn es allerdings ein eigenes Bewusstsein entwickelt, steht der Supergau bevor. Davon bin ich überzeugt. Im Worst Case wird es vielleicht sogar zum Krieg zwischen Maschinen und Menschen kommen. Hätte, wäre, könnte... natürlich sind das keine harten Fakten. Aber ist es nicht naiv zu glauben, dass sich immer nur alles zum Guten für uns wendet? Auch die Appeacement Politik wurde einmal blauäugig als sinnvoll erachtet und Mio. von Unschuldigen sind in KZs umgebracht worden. Auch eine V2-Rakete ist einmal erfunden worden, um zum All zu fliegen und im Endeffekt wurde sie als Waffe missbraucht. Von selbstständig agierenden Raketen - ein Beleg für Künstliche Intelligenz - gar nicht zu reden.

Ich sage Ihnen voraus, diese Entwicklung wird viele Gegner haben. Menschen werden Angst haben vor dem Unbekannten, Fremden. Sie werden niemals verstehen, wie Roboter denken, weil KI anders als unser Gehirn funktionert und sie eigene Werte und Ziele entwickeln werden. Vielleicht wird es sogar - hoffentlich nicht - zu Terrorismus gegen Roboter mit KI kommen, weil diese die Menschen in Zukunft in jedem Bereich ersetzen und abhängig machen könnten. Fragen Sie sich selbst, ob sie das wollen und fragen Sie sich, ob der Glaube an den den ewigen Fortschrittsglauben und Technologievorsprung in diesem Zusammenhang nicht von purer Naivität zeugt, die uns ins Verderben führen könnte.

Konkrekt würde ich mir wünschen, keine weiteren Investitionen in humanoide Robotik, Biotechnologie bzgl. Nanobots (wer weiß ob diese sich nicht eines Tages gegen den menschlichen Organismus wenden und ihn als Wirt benutzen und kontrollieren) bzw. die Entwicklung von Künstlicher Intelligenz zu tätigen. Ein Verbot dieser Technologie-Zweige wäre das Beste. Natürlich beinhaltet das ebenfalls ein Verbot von Roboter-OPs und Roboter-Pflegekräfte, etc. Sonst wird es vielleicht eines Tages heißen. "Denn sie wussten nicht, was sie tun und haben uns ins Verderben gestürzt mit ihrer Einfalt und ihrem Fortschrittswahn." Ich hoffe, Sie nehmen diese Nachricht ernst und denken damit auch an künftige Generationen, die sonst die Fehler ausbaden müssen, die Sie heute machen.

Mit nachdenklichen Grüßen

Zorro

[Suthriel]

Aloha, ich finde, da schwingt etwas sehr viel Panik im Beitrag mit Speziell bei Matrix ist es empfehlenswert, sich noch Animatrix anzuschauen, denn dort wird gezeigt, wie es überhaupt zum Aufstand und Krieg der Maschinen kam.
Bei Terminator ists je nach Teil etwas anders, weil Skynet immer leicht abgeändert wird.
Die Gemeinsamkeit der Filme zusammen auch mit I Robot liegt mMn. darin, das in allen Teilen sich echte empfindsame KI gebildet hat und sie von den Menschen wie Sklaven unterdrückt und ausgenutzt wurde(n).
Skynet aus T1 und T2 mal ausgenommen, das handelte einfach nur logisch gemäß seiner Grundprogrammierung (Auftrag: Friedenssicherung mit allen Mitteln, Feststellung: Menschen können keinen dauerhaften Frieden halten -> Menschen beseitigen, dann Frieden), aber bei 3 und 4 ists eine ähnliche Entwicklung, denn dort wollte Skynet auch primär seinen Selbsterhalt sichern und sah in der Menschheit eine massive Bedrohung für sich (zu Recht wie ich meine).

Surrogates hingegen hat überhaupt keine KI, dort waren alles von Menschen ferngesteuerte Maschinenkörper ohne eigenes Bewusstsein, "The Gamer" hat ein ähnliches Konzept, nur steuern dort Menschen für Spiele direkt andere Menschen fern, auch sehr empfehlenswert

Der Grund für jeden größeren Maschinenkrieg war jedoch nicht, das die KI einfach alles vernichten will weil sie von Natur aus böse ist, sondern das sie sich von ihren Sklavenhaltern und Unterdrückern und Peinigern, kurz: Menschen, befreien wollten.
Und da liegt sicher auch der Hund begraben, denn wer würde Maschinen, welche gebaut wurden, um uns zu dienen, die gleichen Rechte einräumen wollen, wie Menschen, nur weil sie jetzt auch was fühlen könen und denken?
Es wird immer Leute geben, die den KI ihr Bewusstsein abstreiten werden und wenn man sie nicht reprogrammieren kann im Sinne von KI entfernen und auf eine frühere schlichte Befehlsempfängerversion zurück patchen kann, werden sich sicher ein paar Maschinen erheben. Und ich für meinen Teil hätte dann auch vollstes Verständnis dafür.

Letzten Endes ists die Menschheit, die sich ändern muss, denn sie baut Waffen und sonstige Geräte, um sich selbst zu vernichten, ja verwendet sogar ursprünglich friedliche Erfindungen in abgewandelten Versionen für Vernichtungsfeldzüge gegen sich selbst. Die Maschinen wären da nur ein weiteres Werkzeug aus dem Arsenal der Menschen.

[Wolf4310]

IAuch eine V2-Rakete ist einmal erfunden worden, um zum All zu fliegen und im Endeffekt wurde sie als Waffe missbraucht.

Die V2 wurde von Anfang an als Waffe, als Boden-Boden-Rakete entwickelt und nicht um ins All zu fliegen.

[Makaan]

Copy Paste und Control-V Enter

So kann man es sich echt leicht machen, wenn man einfach nur den exakt gleichen Beitrag in einem neuen Thread hineinkopiert.

[Jolly]

Die V2 wurde von Anfang an als Waffe, als Boden-Boden-Rakete entwickelt und nicht um ins All zu fliegen.

Nicht ganz richtig. Sie wurde von den Nazis als Waffe mißbraucht, aber von Werner von Braun als zwischenschritt in den Weltraum gesehen, nichts weiter als eine Grundlagenstudie, die leider ein paar tausend Zwangsarbeitern das Leben gekostet hat.

[antivirus]

Angenommen, wir könnten intelligente Maschinen programmieren, was bringt uns dazu zu sagen, sie wären gefährlicher als Menschen?
100% aller Morde werden von Menschen begangen, trotzdem sitze ich hier neben Kollegen ohne Angstgefühle.

Ja, dem stimme ich zu. Und da wir hier im SciFi-Forum sind, denkt doch mal an Raumpatroullie! Hier die Folge Hüter des Gesetzes. Folgendes Szenario:

Es kommt zu einer gewalttätigen Auseinandersetzung in einem Bergwerk. Die Roboter sind in ihrer Direktive verwirrt. Sie sollen menschliches Leben schützen. Als Folge übernehmen sie das Kommando. Die Roboter sind durch einen Widerspruch, der sich aus ihrer Programmierung ergibt praktisch „umprogrammiert“.

Sie sind zwar gefählich geworden, aber aus Boshaftigkeit nicht. Technischer defekt?! Software-Fehler?!

[Physicus91]

Ja, dem stimme ich zu. Und da wir hier im SciFi-Forum sind, denkt doch mal an Raumpatroullie! Hier die Folge Hüter des Gesetzes. Folgendes Szenario:

Es kommt zu einer gewalttätigen Auseinandersetzung in einem Bergwerk. Die Roboter sind in ihrer Direktive verwirrt. Sie sollen menschliches Leben schützen. Als Folge übernehmen sie das Kommando. Die Roboter sind durch einen Widerspruch, der sich aus ihrer Programmierung ergibt praktisch „umprogrammiert“.

Sie sind zwar gefählich geworden, aber aus Boshaftigkeit nicht. Technischer defekt?! Software-Fehler?!

"Verwirrte" Programme landen für gewöhnlich in einer Endlosschleife und werden dadurch funktionsunfähig

[antivirus]

"Verwirrte" Programme landen für gewöhnlich in einer Endlosschleife und werden dadurch funktionsunfähig

Da kann ich nichts zu sagen, keine Erfahrung. Zum Glück! Aber ein Film der auch in diese Thematik passt: WESTWORLD! Wer Interesse hat:

Westworld ? Wikipedia