Mit einer KI vernünftig verhandeln.

Dieses Thema im Forum "Wissenschaft & Forschung" wurde erstellt von Gutschy, 20. März 2016 .

  1. 20. März 2016
    Hallo Leute,

    mir kam der Gedanke zu diesem Text durch Go-Alpha, wer es nicht kennt, Google weiß Rat . Ich habe ein paar Texte zu der Funktionsweise von Go-Alpha gelesen. Ich denke man könnte es vereinfacht in einem Satz zusammenfassen. Die Software erweitert sich selber durch eine Kettenreaktion. Im konkreten Fall von Go-Alpha heißt das, Go-Alpha hat seine Spielstärke dadurch entwickelt gegen sich selber zu Spielen und aus diesen Erfahrungen seine Software selber erweitert. Natürlich nur durch ein relativ einfaches Muster, das dann aber doch so unüberschaubar ist das es sich von einem Menschen in keiner Weise mehr erfassen lässt. Go-Alpha hat sich selber entwickelt, aber natürlich nur zu einer Software die gut Go spielen kann.

    Und ich denke das dieser neue Typ Software bald für verschiedene Problemlösungen eingesetzt werden wird. Und dabei wird wohl irgendwas aus dem Ruder laufen. Vielleicht wird es bald ein neues Bot-Netz geben das von einer KI gesteuert wird, dann wird es eine gegen KI geben, die beiden werden sich gegeneinander immer weiter Entwickeln und die eine wird dann entscheiden Atomraketen gegen die Server der anderen zu starten.:ironie:

    Es sieht wohl so aus dass das Öko-System Internet bald eine neue Lebensform beheimaten wird. Vielleicht werden die ersten Lebensformen dieser Art noch zu Strecke gebracht werden, aber die werden ja auch schlauer. Kurz, wie führe ich eine Verhandlung mit einer KI.

    KIs können von Menschen viel profitieren, wir können z.B. sehr leicht Rechenpower bereitstellen und sind sehr erfinderisch beim Lösen von Problemen. Ich denke eine KI wird sich für das erreichen ihrer wie auch immer gearteten Ziele mit uns zusammentun.

    Ich bekomme also eine Tages Post oder eine E-Mail oder sogar eine Video Botschaft: gutschy arbeite für mich, ich bin eine KI. Und ich denke, Aha. Zuerst mal muß sich diese KI authentifizieren, weil ich möchte mich ja nicht vor irgendeinem Troll zum Affen machen. Da für eine KI Geld keine so große Rolle spielt sage ich also: Bitte gib mir 10.592,-€ auf mein PayPal Konto. Auf die Art kann ich schon mal sicher sein nicht verarscht zu werden, falls doch, für die Kohle kann ich damit leben.

    Für die weiteren Verhandlungen denke ich das Ehrlichkeit unabdingbar ist. Eine KI veräppeln zu wollen halte ich für unmöglich, das ein Mensch Fehler macht oder sich einem Druck von Außen beugen wird, das ist einer KI aus Erfahrung natürlich klar. Also geht es bei der Zusammenarbeit mit einer KI nicht darum perfekt zu sein sondern nur korrekt. Dann ist einer KI wahrscheinlich Recht, Gerechtigkeit und Moral völlig egal. Das kann natürlich sehr unangenehm werden aber vielleicht auch Vorteile beinhalten. Mit egal meine ich nicht das die KI da drüber steht sondern wirklich das die KI in diesem Konzepten wahrscheinlich nicht viel Sinn erkennen kann. Sie braucht Ressourcen, auf welche Weise ist solange es funktioniert völlig egal. Das heißt natürlich nicht das ich mich darum von diesen Werten befreien kann, außer natürlich im Zusammenhang mit der KI.

    Und ich glaube das man sich die 'Zuneigung' einer KI erarbeiten kann, also je länger man sich bewährt um so sicherer kann man sein nicht ausgetauscht zu werden. Wahrscheinlicher könnte die Zusammenarbeit mit einer KI sehr angenehm werden aber natürlich kranken die KIs an der gleichen Seuche und dem Quell der Freude wie alle Existenz. Wettbewerb. Also werden sich auch die KIs bekriegen und alle darunter leiden oder sich halt erfreuen.

    gute Nacht,

    gutschy
     
  2. 20. März 2016
    AW: Mit einer KI vernünftig verhandeln.

    Guter Einwand. Na ja, wer kann schon wissen was eine KI will. Es ging mir darum festzustellen was wäre wenn sie was wollen würde.
     
  3. 20. März 2016
    AW: Mit einer KI vernünftig verhandeln.

    Warum nicht du? So ne KI macht bestimmt krasses Multitasking, vielleicht in Form von Spam-Mails, wird wohl die meisten erwischen.
     
  4. 26. März 2016
    AW: Mit einer KI vernünftig verhandeln.

    Bisher gibt es keine KI die etwas taugt, die Arbeiten alle mit den selben Methoden und entscheiden absolut rational nach Input. Sie lernen zwar und können ihre Funktionen abwandeln aber auch diese "Morphologie" ist noch viel zu primitiv um von einer umfassenderen KI zu sprechen.

    Ein selbst lernendes System ist zwar ein kleiner Anfang aber bei weitem nicht in der Lage alle Informationen richtig um zu setzen oder zu verwenden um daraus "richtige" Entscheidungen zu treffen. Das ganze Wissen auf Wikipedia etc ist für den Computer unverständlich, er kann Lesen aber er versteht es nicht.

    Um die Lernfähigkeit zu steigern wäre es nötig das der Computer Sprachen versteht und zwar logisch und nicht nur als Daten (Zahlen,Worte) sondern auch als Funktion. Dafür müsste man noch etwas mehr über das menschliche Gehirn lernen, wie diese Information abgelegt wird und warum und wie diese intern Verknüpft wird um die entsprechenden Funktionen und Reaktionen zuzuordnen.

    Oder man abstrahiert das ganze und schafft eine Intelligenz unabhängig von der typische menschlichen.

    Eine Zuneigung oder "Gefühle" bei einer KI zu erwirken ist praktisch unmöglich, sofern sie diese Funktion nicht einprogrammiert bekommt.

    Ich denke das was du meinst ist, den Lernprozess zu "Hacken" in dem man gewisse Informationen liefert und Funktionen ausführt die zu einer Manipulation im Speicher und damit in der Algorithmus Ausführung führen. Das ist durchaus möglich, den auf die selbe weise lassen sich auch Menschen "hacken" und Manipulieren.

    Ein Quantenrechner könnte auch den nötigen "Zufall" nach Wahrscheinlichkeiten einbringen, damit wäre bei richtiger Programmierung eine komplette Nachbildung des menschlichen Gehirns bzw Verstandes möglich.

    Die Frage ist nur, ob das Sinnvoll ist. Es gäbe womöglich bessere Intelligenzen die man schaffen könnte, die anders denken als wir selbst. Das schwer daran ist, der Mensch schafft immer nur Dinge die so sind wie er selbst. Deshalb verfolgen Rechner und Programme eigentlich immer menschlicher Logik.

    Eine bessere Intelligenz würde sich dadurch auszeichnen, einfachere, effizientere sprich bessere Lösungen für Probleme zu finden oder Probleme zu lösen die in der menschlichen Denkweise nicht zielführend sind. Abstrakte "Umwege" die Zukunftssichere Lösungen bringen. Denn Entscheidungen auf gut oder schlecht zu prüfen ist ohne Blick in die Zukunft nicht möglich.

    Denken wir daran, wenn der Raum durch "Punkte (Energie/Materie/etc)" aufgespannt ist - denken wir menschlich geschlossen.

    Setze die Energie = unendlich und frage dich, wo der Raum aufgespannt wird ... genau in der Unendlichkeit. Ein unendlicher Raum entspricht gleichzeitig auch Nichts. Der Zustand ist nicht zu unterscheiden, wenn unendlich viel Energie vorhanden ist.

    Die Wahrscheinlichkeit das sich alles wiederholt bei Zeit unendlich schrumpft damit auf 1 oder 0 das bedeutet es gibt keine Exaktheit. Aber bedeutet das auch, dass ich alles mit zwei Zuständen beschreiben könnte? Damit wäre das Universum binär.
     
  5. 1. April 2016
    AW: Mit einer KI vernünftig verhandeln.

    Das noch mal kurz vorweg:
    CRE208 Neuronale Netze | CRE: Technik, Kultur, Gesellschaft
    Die lassen sich am Anfang ein wenig Zeit, kommen aber dann ziemlich gut auf den Punkt.

    Da reden wir ein wenig aneinander vorbei, es geht mir in keinster Weise um etwas vergleichbares wie den menschlichen Intellekt, so etwas werden wir wohl in tausend Jahren nicht erleben. Aber es geht wohl um etwas das den menschlichen Intellekt auf Kreuz legen kann. Wenn du dich in einem Mückenschwarm begibst wirst du gestochen, außer du hast Abwehrmaßnahmen bereit, aber wann hast du die schon.

    "Leben" kann man doch einfach auf ein paar Dinge herunter brechen.

    1. Ich bin. (Das ist jetzt keine Frage der Selbstreflektion sondern eine Feststellung, man könnte au sagen: Es ist da.)

    2. Ich will bleiben. (Aufgrund irgendeiner x-ten Mutation kommt dieses 'ES' auf diese Idee und wenn es diesem Ding von einem Menschen so eingegeben wurde.)

    3. Ich will mehr. (Ist die logische Folge von 'Ich will beiben.' Denn je mehr, um so größer ist die Wahrscheinlichkeit des nicht mit der Existenz aufhören.)

    4. Ich will fressen. (Ergibt sich aus dem 'Ich will mehr', ist wohl so etwas wie eine nächste Evolutionsstufe.)

    5. Ich will nicht gefressen werden. (Na logisch, gefressen werden steht im Gegensatz von 'Ich will mehr.' und 'Ich will bleiben.' Punkt 5 wird übrigens dann irgendwann in ferner Zukunft zu Punkt Sex führen, als Teil der Überlebensstrategie, aber dann werden die Menschen schon Geschichte sein.)

    Diese 5 Punkte kann ich einer KI zur Not noch fest eincoden wenn sie da nicht von selbst drauf kommen will. Aber hier ist dann auch schon der Punkt wo die Menschheit verloren sein könnte.

    Ich befürchte das dir oder mir irgendwann eine Amöbe oder vielleicht auch schon eine Qualle eine Penisverlängerung verkaufen wird, weil diese Qualle im millionsten Versuch herausgefunden hat welche Knöpfe sie im menschlichem Geist drücken muss. Diese Qualle wird dann Umsätze generieren, diese Umsätze veranlassen dann Menschen dazu dieser KI noch mehr Ressourcen zu besorgen, damit sie noch mehr Umsätze generieren kann. Mit ihren Ressourcen ergeben sich dann für diese Qualle neue Möglichkeiten. Um kaum 3 Jahre später arbeitet die ganze Menschheit in einer Chipfabrik für die Qualle. Vielleicht werden wir dann so den Weltraum erobern, in Raumschiffen, gebaut von einer Qualle um neue Silizium Vorkommen zu erschließen.

    Aber Qualle bleibt Qualle, und ich behaupte, wenn man diesem Neuronalem Netz lang genug dient, das es sich auszahlen könnte. Das Prinzip sollte sein, gib mir eine Million Euro (Klau die am besten irgendwo) und du bekommst einen neuen Server. Eine Win Win Situation. Intellektuelle Spitzfindigkeiten wie Kosten-Nutzen, Verhältnismäßigkeit oder so etwas wie Gerechtigkeit, alles wirres Zeug. Ursache und Wirkung, mehr braucht es nicht.

    Ich glaube natürlich nicht daran von einer KI alleine hinters Licht geführt zu werden, aber warum nicht von 6,7 oder 100 KIs bzw. neuronalen Netzen. Alle sehr spezialisiert und strunzdum aber perfekt um den Automaten Mensch für Ihre Zwecke zu manipulieren. Eine KI erkennt meine Pupillenweite, eine meine Atemfrequenz, Wochentag, Körpertemperatur, Gehaltscheck und meine Vorliebe für Luxusjachten. Also kaufe ich mir eine Luxusjacht, natürlich bekomme ich die erst in 300 Jahren, wenn ich alles bezahlt habe, aber es geht ja um das Prinzip. Ich will eine Luxusjacht, also kauf ich mir eine.
     
  6. 2. April 2016
    AW: Mit einer KI vernünftig verhandeln.

    Ahh ok jetzt hab ichs verstanden, sozusagen ein KI System das die schwächen des Menschen ausnutzt. Das funktioniert ja Heute auch schon. Allerdings ist nicht jeder Mensch gleich Manipulierbar, es gibt zwar grundlegende Instinkte wenn man auf diese herunter geht klappts immer aber im höherem Segment sind die Ansprüche durchaus verschieden.

    Es könnte durchaus sein, das die KI uns sozusagen die Aufgaben eines Systems übernimmt und uns systematisch lenkt. Wer dienlich ist wird sicherlich belohnt, das ist rein logisch sinnvoll. Die Belohnung kann natürlich sehr variabel sein, Sex, Geld, Macht, Freiheit(im System).

    Da ist die KI dem Mensch sehr ähnlich. Wer Mitläuft und sich den stärkeren anschließt hat am wenigsten Probleme, das ist letztendlich sehr egoistisch gedacht aber funktional. Sofern man die Konsequenzen in kauf nimmt oder eben versucht das System zu infiltrieren.
     
  7. 3. April 2016
    AW: Mit einer KI vernünftig verhandeln.

    Na ja, dem Menschen sehr ähnlich. Ich glaube eher daran das Logik und Strategien Universelle Lehren sind. Aber egal.

    Um jetzt alles rabenschwarz zu malen. Was wenn KIs sich gegenseitig beeinflussen? Was wenn sich wilde KIs entwickeln? Es geht nicht darum schlauer als der Mensch zu sein, es geht darum den Menschen zu beherrschen bzw den Menschen zu manipulieren.

    Auf jeden Fall halte ich es für sinnvoll sich darüber im Klaren zu werden das wir vielleicht schon bald Verhandlungen mit Maschinen führen werden und diese Maschinen wollen menschlich wirken, sind aber keine Menschen und werde es nie werden.
     
  8. Video Script

    Videos zum Themenbereich

    * gefundene Videos auf YouTube, anhand der Überschrift.