Kann uns die KI gefährlich werden?

[Skymarshal]

Das ist dan so ein art Ameisenhaufen, alleine kan der Virus nichts bewegen aber wen sich mehrere zusamenschliesen oder kopieren wird das ganze gefährlich.

Genau. Oder wie bei Neuronen. Alleine nicht effektiv aber zusammen das Bewußtsein!

Aber wie kan ein Programm sosehr mutieren das es so ein Verhalten zeigen kan?

Was meinst du genau?

Diese "Cluster" aus Viren sollen sich zu einen "Supercluster" Kollektiv zusammensetzen.

Wenn es vollständig ist, der vielleicht 1/4 der maximalen Größe(die eigentlich nach oben hin offen ist bis alle Kapazitäten ausgereizt werden) erreicht wird fängt es an selbstständig zu denken weil der notwendige parallele Organisierungsgrad geschaffen wurde.

Die Rechenpower kommt wie gesagt von vielen Rechnern. Ähnlich wie beim Botnet oder beim SETI Projekt.

Nur eben heimlich. "Schleichende Ressourcenplünderung" oder so ähnlich.

[GGG]

Was meinst du genau?

Na ja wen der Virus nur das tut was er soll dan vermehrt er sich solange bis die Festplatten des Netzwerks voll sind, aber um etwas Inteligentes zu tun muss der Virus irgendwie seine Programierung ändern ! ich verstehe zwar was ein "Supercluster" Kolektiv ist aber nicht wie es Inteligenter werden kan ohne sich zu verändern.

[Skymarshal]

Na ja wen der Virus nur das tut was er soll dan vermehrt er sich solange bis die Festplatten des Netzwerks voll sind, aber um etwas Inteligentes zu tun muss der Virus irgendwie seine Programierung ändern ! ich verstehe zwar was ein "Supercluster" Kolektiv ist aber nicht wie es Inteligenter werden kan ohne sich zu verändern.

Naja, es werden bestimmten "Puzzleteile" in jeden Virus integriert. Und wenn das Puzzle vollständig ist, dann ist es ein intelligentes Programm welches selbstständig agiert.

Dazu hatte ich ja Subroutinen von Betriebssystemen als Beispiel genannt.

Die laufen auf unteren Ebenen.

Beim intelligenten "Betriebssystem des Netzes" geht es umgekehrt. Es wird erst zusammengesetzt. Dann läuft es wie ein OP nur mit KI.

Vielleicht kann man eine Art "DNS" in jeden Virus installieren. Ein Grundplan der an alle bei der Replikation weitergegeben wird. Und es wird durchgezählt welches Virus welche Nummer hat. Also wie eine Signatur.

Weil ja jeder Virus ein anderes (auszuführendes)Segment des gesamten Programms für die Aktivierung braucht und ist.

Also beeinhaltet der Virus:

- Grundquellcode für das gesamte Programm(Betriebssystem/KI)

- Persönliche Nummer die nach der Replikation integriert wird

- Und auszuführendes Codesegment


Natürlich ist das alles Phantasie von mir.

[Kilana]

Habe mir jetzt nicht alle Argumente hier durchgelesen (sorry, aber mindestens die Hälfte ist ziemlich naiv).

KI kann und wird uns gefährlich werden, wenn beim Programmieren nicht besonderer Wert darauf gelegt wird sicher zu stellen, dass die KI dem Menschen freundlich gesonnen ist. Wie das im Detail aussieht, weiss ich nicht (meine Programmierkenntnisse sind definitiv zu gering.) Leider ist ein Großteil der heutigen KI Forscher davon überzeugt, dass sie ihre Erschöpfung auf einem isolierten Server oder Computercluster halten können, ohne sich ernsthaft Gedanken über ein Worst Case Szenario zu machen. Schon alleine die Methoden mit denen versucht wird eine KI zu erzeugen sind ab und an recht abendteuerlich, besonders wenn Evolution verwendet wird. Dieser Vorgang läßt sich nämlich nur sehr bedingt korrigieren.
...glücklicherweise gibt es Leute, die sich mit den Gefahren der KI auseinandersetzen und diese möglichst gering halten wollen. Hier (link in Englisch) finden sich zum Beispiel kriterien, die eine freundliche KI erfüllen sollte.

Einfach zu sagen, "wir geben der KI gewisse Verhaltensregeln", funktioniert vielleicht auf dem Blatt papier, aber nicht wenn es ums Programmieren geht. Oder weiss jemand hier zufällig wie der C++ (oder java oder was auch immer) code für die 3 laws of robotics? Computer verstehen nunmal bisher noch keine menschliche Sprache und die einzige methode sicher zu stellen, dass diese Gesetze beachtung fänden, wäre sie in den Code einzuarbeiten. ...Späteres Lernen, wie ein Kind in der Schule, wäre zu instabil und aller wahrscheinlichkeit nach zum Scheitern verurteilt. Mit ziemlich unangenehmen Folgen für die Menschheit.

Mehr Informationen zum Thema des "kontrollierens" von KI finden sich auf einer Informationsseite die parallel zum Kinostart von I,Robot online gestellt wurden.

Was den Zeitraum der Realisierung eine allgemeinen KI angeht, so bin ich mir relativ sicher, dass es innerhalb der nächsten Jahrzehnte ist. Die ständige Erhöhung der Prozessorgeschwindigkeit von Computern, erhöht gleichzeitig auch die Chance, dass ein harmloses KI Programm einen sogenannten Hard take-off erfährt, bei dem sich die Intelligenz des besagten Programmes exponentiel erhöht. Sollte dies als Unfall geschehen, dann ist es ziemlich wahrscheinlich, dass Computer die Welt übernehmen und zerstören (bzw. zumindest biologisches Leben unmöglich machen)

Wie dem auch sei, eine unprofessionell programmierte KI ist sicherlich auch heutzutage schon zu den existenzbedrohenden Risiken unserer Zivilisation zu zählen.

[Skymarshal]

@Kilana: Danke für deine ausführliche Meinung und die Links. Leider ist mein Englisch nicht so gut das ich das auf die schnelle alles lesen und übersetzen kann.

Zu den Robotergesetzen von Asimov habe ich hier nochmal einen Link in Deutsch:Wikipedia

[0.) Ein Roboter darf die Menschheit nicht verletzen oder durch Passivität zulassen, dass die Menschheit zu Schaden kommt.]
1.) Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zu Schaden kommen lassen, außer er verstöße damit gegen das Nullte Gesetz.
2.) Ein Roboter muss den Befehlen der Menschen gehorchen - es sei denn, solche Befehle stehen im Widerspruch zum Nullten oder Ersten Gesetz.
3.) Ein Roboter muss seine eigene Existenz schützen, solange dieses sein Handeln nicht dem Nullten, Ersten oder Zweiten Gesetz widerspricht.

Der Roboter braucht ja nichtmal selber zu wissen das es um ethische Fragen geht. Von simulierten Gefühlen sind wir ja noch weiter entfernt.

Hauptsache er hält sich an die Regeln. Wie das programmiertechnisch funktionieren soll weiß ich nicht. Aber es gibt ja Kompiler...

Nur Regeln oder Chips auf denen sie gespeichert sind lassen sich genau entfernen und manipulieren. Technik bleibt eben Technik.

Die ständige Erhöhung der Prozessorgeschwindigkeit von Computern, erhöht gleichzeitig auch die Chance, dass ein harmloses KI Programm einen sogenannten Hard take-off erfährt, bei dem sich die Intelligenz des besagten Programmes exponentiel erhöht. Sollte dies als Unfall geschehen, dann ist es ziemlich wahrscheinlich, dass Computer die Welt übernehmen und zerstören (bzw. zumindest biologisches Leben unmöglich machen)

Was ich beschrieben habe wäre auch eine exponentiell wachsende KI. Und die kann von bösen Leuten gänzlich ohne Kontrollmechanismen ins Leben gerufen werden. Vielleicht nur um lokale Netzwerke anderer Mächte zu kontrollieren. Später aber außer Kontrolle gerät.

Oder erstmal eine KI Simulation die in einen getrennten Cluster existiert aber durch Sabotage aufs WWW übergreift.

[J_T_Kirk2000]

Eine exponentiell wachsende Ki ist doch eine Intelligenz , die sich entwickelt oder ?
Alles was sich entwickelt , sammelt Erfahrungen und das nennt man auch Lernen .
Abgesehen von solchen Direktiven , wie in dem Zitat im letzten Beitrag von Skymarshal , kann man einer KI beibringen diese Direktiven gar nicht erst gefährden zu wollen , in dem man dieser KI nicht mit unangebrachter Feindseligkeit gegenüber steht , vor allem dann , wenn sie noch ihre Verhaltensgrundlagen aufgrund von anfänglichen Erfahrungen prägt .
Je stärker die Persönlichkeit der KI geworden ist , also je mehr Erfahrungen soe gesammelt hat , je mehr beurteilt sie ihre Umwelt nach der Gesamtheit der gesammelten Erfahrungen , wird also zusehens staibiler .
Gewissermaßen erlangt sie eine zunehmend stabile Persönlichkei auf eine ähnliche Weise wie ein Kind .
Ob dieser Przess der besonders starken Entwicklung der Persönlichkeitsgrundlagen schneller abnimmt , als bei einem Kind , kann ich nicht sagen , denn es kommt ja auch darauf an , wessen Denkprozesse schneller ablaufen , einschließlich aller unterbewußten bei einem Menschen .

[Skymarshal]

Eine exponentiell wachsende Ki ist doch eine Intelligenz , die sich entwickelt oder ?

Eine die sich sehr schnell entwickelt!

Alles was sich entwickelt , sammelt Erfahrungen und das nennt man auch Lernen .

Könnte man so sehen. Aber Entwicklung muß nicht nur mit Lernen zusammenhängen:Wikipedia.

Abgesehen von solchen Direktiven , wie in dem Zitat im letzten Beitrag von Skymarshal , kann man einer KI beibringen diese Direktiven gar nicht erst gefährden zu wollen , in dem man dieser KI nicht mit unangebrachter Feindseligkeit gegenüber steht , vor allem dann , wenn sie noch ihre Verhaltensgrundlagen aufgrund von anfänglichen Erfahrungen prägt .
Je stärker die Persönlichkeit der KI geworden ist , also je mehr Erfahrungen soe gesammelt hat , je mehr beurteilt sie ihre Umwelt nach der Gesamtheit der gesammelten Erfahrungen , wird also zusehens staibiler .
Gewissermaßen erlangt sie eine zunehmend stabile Persönlichkei auf eine ähnliche Weise wie ein Kind .
Ob dieser Przess der besonders starken Entwicklung der Persönlichkeitsgrundlagen schneller abnimmt , als bei einem Kind , kann ich nicht sagen , denn es kommt ja auch darauf an , wessen Denkprozesse schneller ablaufen , einschließlich aller unterbewußten bei einem Menschen .

Vor allem darf man nicht vergessen das es beim Menschen noch Emotionen gibt.

Und eine Maschine kann nur richtig mit Umwelt interagieren wenn sie eine gute Sensorik hat. Ansonsten kann man nicht von Erfahrungen sprechen.

[Bynaus]

Vor allem darf man nicht vergessen das es beim Menschen noch Emotionen gibt.

Ich halte die "Emotionslose" KI für ein typisches Sci-Fi-Märchen. Die Fähigkeit, sich emotional in jemanden hinein zu versetzen, wird z.B. oft als Anzeichen von höherer Intelligenz bezeichnet. Natürlich würden KIs "andere" Emotionen haben, weil sie eine andere Art von Intelligenz darstellen. Doch dass sie keinerlei Reaktionen zeigen, die man als "emotional" bezeichnen könnte, halte ich für unwahrscheinlich. KIs, die durch Uploads entstanden sind, haben natürlich erst recht Emotionen.

[Skymarshal]

Ich halte die "Emotionslose" KI für ein typisches Sci-Fi-Märchen. Die Fähigkeit, sich emotional in jemanden hinein zu versetzen, wird z.B. oft als Anzeichen von höherer Intelligenz bezeichnet. Natürlich würden KIs "andere" Emotionen haben, weil sie eine andere Art von Intelligenz darstellen. Doch dass sie keinerlei Reaktionen zeigen, die man als "emotional" bezeichnen könnte, halte ich für unwahrscheinlich. KIs, die durch Uploads entstanden sind, haben natürlich erst recht Emotionen.

Nicht wenn Emotionen auf Erfahrungen rückzuführen sind. Wir alle erleben als Menschen Emotionen.

Genauso könnte man fragen ob man sich etwas vorstellen kann ohne ähnliches gesehen und erlebt zu haben.

Einfühlungsvermögen ist für mich eine Mischung aus Erfahrungen von Gefühlen und Vorstellungen bei anderen. Also Empathie.

[Galax]

selbstständig denkenden und "erwachten " (schuhe, ich bin dein gruseliger heimcomputer) maschienen

Das ist mehr als nur SF, das is blödsinn ^^

Maschienen sind maschienen.
technik, drähte, platinen und lötmasse.
das ganze funktioniert nur solange strom durchfließt.

Leben und bewusstsein hat da n paar andere grundelemnte zur verfügung

[Bynaus]

in dem einem thread verschreit er alles als humbug, was er ned begreift

Ich frage mich ernsthaft, was DU begriffen hast... Geh doch nochmals in diesen "einen" Thread und lies dir meine Posts dort aufmerksam durch, dann kannst du wieder kommen...

Zum Thema: Leben ist auch nur Organe, Wasser, Nerven... und auch hier funktioniert das ganze nur, solange das Zusammenspiel stimmt. Biologisch, künstlich - die Grenzen verwischen mit zunehmender Technologie.

"Bewusstsein" ist im Übrigen ein Begriff, der von Menschen erfunden wurde, um sich von den Tieren abzugrenzen. Das merkt man spätestens dann, wenn man versucht, diesen Begriff zu definieren.

[Skymarshal]

"Bewusstsein" ist im Übrigen ein Begriff, der von Menschen erfunden wurde, um sich von den Tieren abzugrenzen. Das merkt man spätestens dann, wenn man versucht, diesen Begriff zu definieren.

Scheinbar ist es auch eine tatsächliche Abgrenzung. Welches Tier weiß schon vom Mond? Oder was auf der anderen Seite der Erde ist?

Wenn nicht gerade ein Zugvogel....

Ich meine damit Weltbilder. Obwohl wir jetzt z.B gerade vorm Rechner in unserer "Bude" sitzen wissen wir über die Welt im Ganzen doch eine Menge. Ohne uns vom Fleck zu bewegen. Und bewußt.

Und was meinst du zu meinen Behauptungen von wegen künstlicher emotionaler Intelligenz?

[Bynaus]

Nicht wenn Emotionen auf Erfahrungen rückzuführen sind. Wir alle erleben als Menschen Emotionen.

Genauso könnte man fragen ob man sich etwas vorstellen kann ohne ähnliches gesehen und erlebt zu haben.

Einfühlungsvermögen ist für mich eine Mischung aus Erfahrungen von Gefühlen und Vorstellungen bei anderen. Also Empathie.

Naja, gerade bei einem Upload hättest du die "Erfahrungen" schon... und die lassen sich dann (denk ich mal) ohne weiteres auf eine KI übertragen, so dass auch diese weiss, wie es sich anfühlt, wenn Menschen traurig sind.
Empathie ist ein anderes Wort für Einfühlungsvermögen. Wenn es dazu Erfahrungen braucht, dann macht das IMO keinen Unterschied, ob es echte Erfahrungen sind oder solche, die jemand anderes hatte (z.B. ein Upload) und die einfach nur übertragen wurden.

Scheinbar ist es auch eine tatsächliche Abgrenzung. Welches Tier weiß schon vom Mond? Oder was auf der anderen Seite der Erde ist?

Das ist eher eine Frage der Intelligenz selbst, bzw. unserer Fähigkeit, Erfahrungen Niederzuschreiben und so anderen zugänglich zu machen. Eine Katze, die mit auf die Weltreise gegangen ist, weiss auch, wies auf der anderen Seite der Welt aussieht, aber sie kann sich nicht mitteilen. Dieser Mangel ist aber nicht auf den Mangel von Bewusstsein zurück zu führen, sondern auf den Mangel von abstrakter Sprache, mit der sie sich mit anderen Katzen austauschen könnte.

Ich hab nicht abgestritten, dass Menschen intelligenter als Tiere sind - bloss, dass diese Intelligenz durch eine neue Qualität "Bewusstsein" erweitert sein soll. Ich sehe einfach einen graduellen Intelligenzzuwachs von den "dümmsten" über die "intelligentesten" Tiere bis zum Mensch. Wir haben lediglich die Fähigkeit entwickelt, uns über eine komplexe Sprache auszutauschen - es gibt auch Tiersprachen, aber diese sind nicht so komplex und abstrakt wie unsere. Die Komplexität der Sprache und ihre Fähigkeit, abstrakte Dinge auszudrücken, sind eine direkte Folge unserer Intelligenz. Diese Sprache ermöglicht es uns, aus Fehlern effizienter zu lernen, uns zu entwickeln. Tiere haben diese Fähigkeit nicht. Weshalb ihnen deshalb eine Qualität "Bewusstsein" fehlen soll, ist mir völlig schleierhaft. Wie gesagt, wer daran glaubt, dass das Bewusstsein uns von den Tieren unterscheidet, der soll es doch mal definieren...

[Kilana]

@Kilana: Danke für deine ausführliche Meinung und die Links. Leider ist mein Englisch nicht so gut das ich das auf die schnelle alles lesen und übersetzen kann.

Gern geschehen. Leider sind mir keine deutschen Links bekannt, die sich mit diesem Thema beschäftigen. Ich weiss, dass das SIAI (einer meiner Links) daran arbeitet eine deutsche Version ihrer Webseite auf die Beine zu stellen. Wenn die online geht, werde ich einen Link posten. (kann aber nocht dauern)

Hauptsache er hält sich an die Regeln. Wie das programmiertechnisch funktionieren soll weiß ich nicht. Aber es gibt ja Kompiler...

Ohne Code hilft auch der beste Kompiler nicht. Es gibt bisher noch keine Methode solche Regeln zu kodieren (oder falls jemand sie kennt, so behält er/sie es für sich)

@Galax
Sorry, dass du diese Diskussion lachhaft findest. Vor einem Jahr hätte ich wahrscheinlich auch noch so gedacht, aber man lernt nie aus. Das Problem, warum KI Probleme häufig nicht ernst genommen werden, ist, dass bisher keine nennenswerten Erfolge vermeldet wurden (was allgemeine Intelligenz angeht), obwohl uns die Wissenschaftler schon seit Jahren Ergebnisse "prophezeien".
Und von wegen Drähte und Technik. ...was ist denn der Mensch anderes als eine Ansammlung ko-operierender Zellen? Oder willst du behaupten, dass "Bewußtsein" eine greifbare Substanz ist. Nur weil das Substrat ein anderes (mal nebenbei gesagt wesentlich effizienteres) ist heißt dass nicht, dass es kein Bewußtsein haben kann. Ob wir dieses Bewußtsein als solches Erkennen ist dabei noch eine ganz andere Frage.

[Skymarshal]

Naja, gerade bei einem Upload hättest du die "Erfahrungen" schon... und die lassen sich dann (denk ich mal) ohne weiteres auf eine KI übertragen, so dass auch diese weiss, wie es sich anfühlt, wenn Menschen traurig sind.

Ich bin von einer KI ausgegangen die sich über mehrere techniche Sprünge über Jahre weiterentwickelt bzw. weiterentwickelt wird. Und nicht von einer "Bewußtseinskopie". Diese ist ja noch weiter von allem was wir kennen entfernt.

Empathie ist ein anderes Wort für Einfühlungsvermögen.

Schrieb ich bereits.

Wenn es dazu Erfahrungen braucht, dann macht das IMO keinen Unterschied, ob es echte Erfahrungen sind oder solche, die jemand anderes hatte (z.B. ein Upload) und die einfach nur übertragen wurden.

Wie gesagt muß man erstmal eine 1:1 Kopie schaffen(was bei der Abtastrate, Genauigkeit und Datenmenge für heutige Verhältnisse unmöglich ist) und zweitens alle Prozesse im Hirn kennen. Also das Hirn auch mal erfolgreich simuliert haben. Bis jetzt rechnen Großrechner an einzelnen Hirnregionen. Sinnvolle Ergebnisse bleiben abzuwarten.

Das ist eher eine Frage der Intelligenz selbst, bzw. unserer Fähigkeit, Erfahrungen Niederzuschreiben und so anderen zugänglich zu machen. Eine Katze, die mit auf die Weltreise gegangen ist, weiss auch, wies auf der anderen Seite der Welt aussieht, aber sie kann sich nicht mitteilen. Dieser Mangel ist aber nicht auf den Mangel von Bewusstsein zurück zu führen, sondern auf den Mangel von abstrakter Sprache, mit der sie sich mit anderen Katzen austauschen könnte.

Ich hab nicht abgestritten, dass Menschen intelligenter als Tiere sind - bloss, dass diese Intelligenz durch eine neue Qualität "Bewusstsein" erweitert sein soll. Ich sehe einfach einen graduellen Intelligenzzuwachs von den "dümmsten" über die "intelligentesten" Tiere bis zum Mensch. Wir haben lediglich die Fähigkeit entwickelt, uns über eine komplexe Sprache auszutauschen - es gibt auch Tiersprachen, aber diese sind nicht so komplex und abstrakt wie unsere. Die Komplexität der Sprache und ihre Fähigkeit, abstrakte Dinge auszudrücken, sind eine direkte Folge unserer Intelligenz. Diese Sprache ermöglicht es uns, aus Fehlern effizienter zu lernen, uns zu entwickeln. Tiere haben diese Fähigkeit nicht. Weshalb ihnen deshalb eine Qualität "Bewusstsein" fehlen soll, ist mir völlig schleierhaft.

Naja, ich behaupte mal das Bewußtsein wie wir es kennen auf die höhere Intelligenz zurückzuführen ist. Das es zwangsläufig bei einer neuralen Komplexität dazu kommt.

Angeblich haben Schimpansen auch eine Art Bewußtsein. Oder Orcas. Weil sich sich im Spiegel erkennen können. Aber das wäre nur ein Faktor des Bewußtseins.

Sprache ist für Erkenntnisgewinn und Kommunikation in der Tat sehr wichtig. Manche Tiere haben auch schon komplexe Sprachen. Orcas z.B sogar Dialekte. Natürlich nicht so abstrakt und vielseitig wie unsere.

Also ich denke dass das Bewußtsein und seine Qualität vom Grad der Intelligenz abhängig ist.

Wie gesagt, wer daran glaubt, dass das Bewusstsein uns von den Tieren unterscheidet, der soll es doch mal definieren...

Was meinst du mit definieren? Genau erklären wie es entsteht?

Gern geschehen. Leider sind mir keine deutschen Links bekannt, die sich mit diesem Thema beschäftigen. Ich weiss, dass das SIAI (einer meiner Links) daran arbeitet eine deutsche Version ihrer Webseite auf die Beine zu stellen. Wenn die online geht, werde ich einen Link posten. (kann aber nocht dauern)

Jo.

Ich kann mich ja auch mal umgucken.

Ohne Code hilft auch der beste Kompiler nicht. Es gibt bisher noch keine Methode solche Regeln zu kodieren (oder falls jemand sie kennt, so behält er/sie es für sich)

Die Regeln nur in Worte zu fassen und zu übersetzen ist das mindeste Problem. Das Problem ist der Maschine zu vermitteln was sie besagen.