Kann uns die KI gefährlich werden?

[J_T_Kirk2000]

Ich sehe das mit den Direktiven für eine künstliche Intelligenz nur so , daß diese lediglich die Schlußfolgerungen und Handlungen dieser KI ausschließen , durch die irgendein biologisches Leben oder die Umwelt in irgendeiner Weise gefährdet werden würde .
Ansonsten könnte sich aber die KI vollkommen frei entfalten .
Wo steht denn geschrieben , daß jemand oder etwas , daß sich dem Allgemeinwohl widmet , praktisch versklavt wird .
Fakt ist aber , daß Technologien weder gut noch böse sind , denn erst wenn sie sich nach moralischen Prinzipien , einschließlich der Wertschätzung allen Lebens , dann können sie moralische Entscheidungen fällen und erst dann darf man diesen dieses Recht zugestehen .
Solange sie aber eine völlige Entscheidungsfreiheit ohne moralische Bedenken erlangen können , muß man einer KI beispielsweise auferlegen , um die Gefahr moralischen Fehlverhaltens zu verhindern .
Das hat aber nichts mit Versklavung , sondern eher mit Erziehung zu tun .
Einem Kind muß man auch erst gewisse Dinge verbieten , die das Kind selbst oder andere gefährden würde .
Wenn dieses Kind gelernt hat , logisch und moralisch zu denken und zu handeln , dann benötigt es keine Direktiven mehr , um sein Denken und Handeln , ja sogar sich selbst so zu beurteilen und entsprechend zu reagieren .
Von diesem Moment an , von dem eine KI sich ebenso logisch und moralisch beurteilen und verhalten kann , sind auch irgendwelche Direktiven unnötig , da diese KI dann auch keine Gefahr mehr für irgendeine Form von biologischem Leben darstellt .

Ob sie dann als versklavt dargestellt wird , liegt lediglich noch daran , welchen Stellenwert die Existenz eine KI in der Gesellschaft besitzt , aber grundsätzlöich zu behaupten , daß solche Direktiven oder die Erfordernis , logisch und moralisch zu handeln , eine Form der Versklavung ist , was allein auf die Art der Direktiven ankommt , würde ich als einen großen Irrtum ansehen , der ebenso bei einer KI erforderlich ist , wie es eine Erziehung eines Kindes ist , denn sonst wüßte dies auch nicht , was richtig oder falsch ist .

[AL Freak]

Das sehe ich auch so. Filme wie "Robocop" oder "I,Robot" haben das ja auch angeschnitten.

Dieser Film, also I.Robot, war sehr unrealistisch. Mehr Fiction als Science. Bringt wahrscheinlich mehr Geld für die Produzenten...

Das I-Net läßt sich nicht abstellen...

Doch. Einfach den Servern den Strom abstellen.

Und es besteht ja bald die Möglichkeit vom Internet über herkömmliche Steckdose(oder gibst das schon?).

Also in Berlin gibt es das schon. Und bei meinen Freunden sind die Toaster noch nicht amok gelaufen.

Die andere Gefahr sehe ich in Nanobots. Falls es die mal geben sollte. Sie sind so klein das man sie schlecht überall erfassen kann. Was ist wenn die sich selbstständig machen und ebenfalls als Kollektiv verbinden?

Ein EMP reicht aus, um die Dinger unfähig zu machen.

Habe den Film zwar nur gesehen aber da wurde doch deutlich welche Probleme mit Direktiven auftreten können. Und wenn das kleinere Computerprobleme waren weiß ich ja auch nicht...

Der Film entspricht aber nicht dem Buch. Und ich rede eher von seinen Roboter-Kurzgeschichten.

==========

Edit: Was Hollywood bisher zu dem Thema der KI brachte bzw. das, was ich kenne, war größtenteils nur Angstmache und wollte beim Zuschauer einen Nervernkitzel erzeugen, damit der Film auch auf DVD gekauft wurde.

[Skymarshal]

Solche "implantierten" Regeln würden von wirklich intelligenten Maschinen als unfaire und unethische Versklavung wahrgenommen. (Stellt euch vor, ihr wärt die Sklaven einer Oberklasse, die euch Chips implantiert hätte, um euren Gehorsam und eure Unterwerfung sicher zu stellen - glaubt ihr nicht, dass man hier alles versuchen würde, um diese Chips zu deaktivieren? Wenn nicht: warum soll es bei wirklich intelligenten, menschenähnlichen Robotern anders sein?) Deshalb glaube ich nicht, dass solche Regeln langfristig durchsetzbar wären.

Das sehe ich auch so. Filme wie "Robocop" oder "I,Robot" haben das ja auch angeschnitten.

Wenn man etwas derartiges integriert muß man damit rechnen das es wieder entfernt werden kann oder Fehler auftreten können.

Es wird (so die Menschheit lange genug überlebt) eine KI Entwicklung geben, die die Menschheit in allen denkbaren Bereichen überflügelt. Das Verhältnis zwischen diesen extrem fortschrittlichen KIs wäre dann vermutlich etwa so, wie unser Verhältnis zu Ameisen: zwar könnten wir alle Ameisen weltweit vernichten (wir könnten es zumindest versuchen), aber niemand kommt auf die Idee, weil sie total sinnlos ist und uns die Ameisen in der Regel ja auch überhaupt nicht stören. In Einzelfällen kann es aber sehr wohl sein, dass wir eingreifen müssen und einzelne nervende Ameisen oder auch ganze Ameisenstrassen auslöschen müssen, weil sie uns stören. So lange sie uns nicht stören, haben wir keinen Grund, sie auszulöschen... Und ja: sollten diese KI mal in den Weiten des Alls auf andere "Ameisen" treffen, dann mag das zwar interessant sein für einige Spezialisten, aber so lange diese "anderen Ameisen" nicht ebenbürtige KIs hervor bringen, sind sie bestenfalls irrelevant.

Naja, der Vergleich mit Ameisen ist ein wenig arg bescheiden finde ich. Ich glaube nicht das die KI`s einen solchen Vorsprung haben werden. Auch wenn sie schneller rechnen können.

Das sie uns mal deutlich überlegen sein werden glaube ich aber auch.


Die größte Gefahr von unkontrollierbaren KI´s sehe ich im Internet selbst. Das hat für Ähnlichkeit mit Skynet aus Terminator.

Was ist wenn das Internet mal eine Bewußtsein bekommt?

Wenn sich intelligente Viren als Kollektiv verbinden und ein künstliches Bewußtsein bilden?

Das I-Net läßt sich nicht abstellen....

Und es besteht ja bald die Möglichkeit vom Internet über herkömmliche Steckdose(oder gibst das schon?). Auf jeden Fall könnte die KI dann auch Einfluss auf Geräte nehmen die am Stromnetz hängen. Dann könnte der Toaster in der Tat zur Gefahr werden. Zumindest einen das Frühstück vermiesen...

Die andere Gefahr sehe ich in Nanobots. Falls es die mal geben sollte. Sie sind so klein das man sie schlecht überall erfassen kann. Was ist wenn die sich selbstständig machen und ebenfalls als Kollektiv verbinden?

Ich finde, Isaac Asimov, der große Altmeister, betrachtet das alles sehr realistisch. Das heißt, die Maschinen sind zwar relativ bis sehr intelligent und hin und wieder gibt es auch Probleme, was ja ganz normal ist bei Computern, aber letztendlich sind sie eine Chance für uns, für die Menschheit. Apropos, die Gesellschaft in den Kurzgeschichten von Asimov akzeptiert die intelligenten Roboter nicht und hat regelrecht Angst vor ihnen... Ich hoffe, dass dies in der realen Welt nicht der Fall sein wird. Denn diese Möglichkeiten, die sich dabei auftun, können wir noch gar nicht erahnen. Niemand müsste mehr Arbeiten, Geld wäre unnötig usw. Ist doch nett, ne?

Habe den Film zwar nur gesehen aber da wurde doch deutlich welche Probleme mit Direktiven auftreten können. Und wenn das kleinere Computerprobleme waren weiß ich ja auch nicht...

[AL Freak]

Wenn ich das immer höre... eindeutig zuviel Hollywood-Filme gesehen.

Selbst KNNs unterliegen eindeutigen Grenzen, die wir bestimmen. Maschinen sind dazu da, um uns zu dienen. Wir müssen doch nur in die Main-Prozedur des Programms eingeben, dass der Lebenszweck ist, uns zu dienen.

Ich finde, Isaac Asimov, der große Altmeister, betrachtet das alles sehr realistisch. Das heißt, die Maschinen sind zwar relativ bis sehr intelligent und hin und wieder gibt es auch Probleme, was ja ganz normal ist bei Computern, aber letztendlich sind sie eine Chance für uns, für die Menschheit. Apropos, die Gesellschaft in den Kurzgeschichten von Asimov akzeptiert die intelligenten Roboter nicht und hat regelrecht Angst vor ihnen... Ich hoffe, dass dies in der realen Welt nicht der Fall sein wird. Denn diese Möglichkeiten, die sich dabei auftun, können wir noch gar nicht erahnen. Niemand müsste mehr Arbeiten, Geld wäre unnötig usw. Ist doch nett, ne?

@ Bynaus
Hast du zufällig Also sprach Golem von Stanislav Lem gelesen? Denn dein zweiter Absatz spiegelt in etwa die Idee dieses Buches wieder.

[Bynaus]

Solche "implantierten" Regeln würden von wirklich intelligenten Maschinen als unfaire und unethische Versklavung wahrgenommen. (Stellt euch vor, ihr wärt die Sklaven einer Oberklasse, die euch Chips implantiert hätte, um euren Gehorsam und eure Unterwerfung sicher zu stellen - glaubt ihr nicht, dass man hier alles versuchen würde, um diese Chips zu deaktivieren? Wenn nicht: warum soll es bei wirklich intelligenten, menschenähnlichen Robotern anders sein?) Deshalb glaube ich nicht, dass solche Regeln langfristig durchsetzbar wären.

Es wird (so die Menschheit lange genug überlebt) eine KI Entwicklung geben, die die Menschheit in allen denkbaren Bereichen überflügelt. Das Verhältnis zwischen diesen extrem fortschrittlichen KIs wäre dann vermutlich etwa so, wie unser Verhältnis zu Ameisen: zwar könnten wir alle Ameisen weltweit vernichten (wir könnten es zumindest versuchen), aber niemand kommt auf die Idee, weil sie total sinnlos ist und uns die Ameisen in der Regel ja auch überhaupt nicht stören. In Einzelfällen kann es aber sehr wohl sein, dass wir eingreifen müssen und einzelne nervende Ameisen oder auch ganze Ameisenstrassen auslöschen müssen, weil sie uns stören. So lange sie uns nicht stören, haben wir keinen Grund, sie auszulöschen... Und ja: sollten diese KI mal in den Weiten des Alls auf andere "Ameisen" treffen, dann mag das zwar interessant sein für einige Spezialisten, aber so lange diese "anderen Ameisen" nicht ebenbürtige KIs hervor bringen, sind sie bestenfalls irrelevant.

[FirstBorg]

Seh ich genau so wie Kirk...
KI's werden, wenn es so weit ist, bestimmt grundlegende Handlungsregeln haben, die besagen das sie Menschen nicht verletzen dürfen (außer es sind grade Kriegsroboter ).
Diese Direktiven, wie Kirk sie nennt, könnte man ja auch so einprogrammieren dass sie auch nur sehr schwer loszuwerden sind.
Ich mach mir da ehrlich gesagt keine Sorgen das eines Tages eine KI die Menschen versklavt oder ausradiert.

[konstapel]

da dem stehen ich offener gegenüber.

Wenn erst mal solch "unwichige" (ich möchts mal so ausdrücken) Bereiche des Menschen mit KI's gefüllt werden, kann der Mensch sich auch endlich auf andere Randbereiche verstärkt konzentrieren. Forschung z.B.

Aber ja, wenn es einmal so weit ist das KI Bereiche unseres Lebens übernehmen dann muss sich auch an unserer Wirtschaft etwas ändern.

[ZeroB@NG]

ich hab letztens einen bericht gelesen wonach in 50 Jahren CPUs genug power haben um mit dem menschlichen gehirn mitzuhalten (berechnungen pro sekunde) vorrausgesetzt der trend hält an das die entwicklung bei CPU Ram und HDs so weitergeht....
Honda hat auch schon kleine roboter die Laufen können oder was ich erst letzte woche im TV gesehen habe Fahrrad fahren können (gleichgewichtsinn!)
die Frage ist nicht ob sondern wann es so weit ist das wir bei McDonalds von einem C3PO verschnitt bedient werden und nicht von einer 400 euro kraft
das wird so lang so weitergehen bis die Wirtschaft endlich zusammenbricht weil es garkeine Menschen mehr gibt die geld verdienen um etwas zu kaufen, und dann?

"intelligent" müssen die nichtmal sein... einfach ein paar rudimentäre subrutinen für laufen, gehen, sprechen, hören, bewegen usw. und auf eine spezielle Aufgabe programmiert und schon können die anfangen Arbeitsplätze zu vernichten und das beste die dinger müssen vielleicht mal gewartet werden aber arbeiten können die wie nen pc 24 stunden am tag 7 tage die woche (aufladepausen nicht mit gerechnet) sind somit sogar effizienter als nen Mensch und kosten nur nen einmaligen Anschaffungspreis!

natürlich wirds nicht bei den einfachen jobs bleiben denn die Entwicklung geht ja ständig weiter "I Robot" ist da garnicht so verkehrt, mal abgesehen von der durchgeknallten KI

[J_T_Kirk2000]

Also ich glaube nicht , daß eine Künstliche Intelligenz uns gefährlich werden würde , wenn sie nach unseren besten Absichten und Mopralvorstellungen handelt .
Entsprechende , für diese KI unüberwindbare Subroutinen könnte man der KI ja als Direktiven einprogrammieren , um somint dem Allgemeinwohl , sowhl in Bezug auf die Umwelt , aber auch für jedes biologische Leben .
Ansonsten denke ich , daß es allenfalls kurzfristig einige überwindbare Probleme geben wird , was abere allenfalls als Denkanstoß zur Nutzung regenerativer Energiequellen zu verstehen sein dürfte .
Auch wenn eine KI , wenn sie irgendwann möglich wird , selbstständig denken und lernen kann , so wird sie dennoch nach einigen von unseren Maßstäben naiv sein , und nur das Gute versuchen zu sehen und zu fördern , aber vielleicht ist es gerade das , was die Menschheit braucht , um sich weiter zu entwickeln , ohne sich selbst den Untergang zu bringen .

Ich glaube , wenn eine KI über entsprechende Schutzprogrammierungen für das Allgemeinwohl , aber sonstige vollkommene Freiheit verfügt , hätten wir von einer KI weitaus weniger zu befürchten als vor der menschlichen Natur selbst , denn im Gegensatz zu einer KI , die zwar auch lernen kann , denkt die Menschheit nur selten logisch .
Logisches Denken ist in unserer Gesellschaft ein Privileg von Individuen und irgendwann zusätzlich das einer künstlichen Intelligenz und wenn unsere Moral wirklich logisch ist , dann brauchen wir auch keine Angst vor einer KI zu haben .
Allerdings sind die Menschen in großer Zahl weniger logisch als irrational , auch wenn jeder einzelne für sich durchaus zu logischem Handeln in der Lage ist .

[Amöbius]

Aber wenn man es nun schaffen würde eine KI zu entwickeln die lernen kann... hmm das könnte nach einiger Zeit ganz schön gefährlich werden.
Nachher ermittelt die noch in ihrer logischen Denkweise, dass der Mensch so schrecklich ineffizient ist. Was ja nich unbedingt heißen muss, dass die Maschine uns direkt umlegen will. Wer weiß, könnte auch ne Bereicherung sein!

[blueflash]

Ich halte es für sehr unwahrscheinlich, dass wir in nächster Zukunft so etwas wie eine KI erschaffen können, doch genau das ist das Problem.
Jede Software, der wir die Kontrolle überlassen ist genaugenommen recht blöde.
Daher sollte man sehr aufpassen, ob man die Software noch kontrollieren kann, und denen, die es können jede Menge Geld zahlen .

[Komodo]

Klar könnte KI uns gefährlich werden, wer handeln kann, kann auch töten.

Natürlich kann man auch Sicherungen einbauen, aber ist das dann noch intelligenz? Man könnte höchstens eine Hemmschwelle erzeugen, haben wir ja auch, aber mehr nicht.

[St3v3f]

Also ich halte KIs die intelligent genug sind um derart abstrakte Dinge zu tun wie zB Mord oder andere "Böse" Sachen ohne explizit darauf programmiert zu sein für zu unseren Lebzeiten für nicht realisierbar. Möglicherweise wird es Humanoid aussehnde Roboter geben, aber auch diese sind imho nicht fähig selbstständig zu lernen.
Außerdem halte ich Maschinen nicht für fähig zu denken. zB bei Data, er mag sich vielleicht wie ein Mensch verhalten und aussehen, aber das ist letztendlich alles programmiert.

[GGG]

Eigentlich ist alles irgendwie gefährlich, ich kan mit einem Baseballschläger eine Runde Baseball spielen oder Jemand damit umbringen. Genau so wird das mit KI´s in der Zukunft wen du der Künstlichen Inteligenz die Macht gibst kan sie je nach Programmierung sowohl Segen wie auch Fluch sein. Wen die KI die Falschen Parameter hat die beischbielsweise keine Moral beinhalten wird sie dementsprechend handeln.
Aber ich glaube kaum das Jemand so blöd sein kan eine KI zu erschafen die sich nicht an unsere Moral hält und diesem Ding zugang zu Nuklearwaffen oder sonstwas verschaft.

Ich glaube nicht das sich die Toaster erheben werden um uns zu Toasten

[MRM]

Die KI wird ja immer besser.
Nur kann das auch mal gefährlich werden ala Matrix?
Also mir is nich wohl wenn ich weiss mein Toaster denkt

Naja - in einem Toaster wird man sowas wohl nicht einbauen - aber die Amerikaner arbeiten ja schon an Drohnen mit KI - ich denk mal wenn dann droht von dort eher Gefahr ...