Manfred beschäftigte sich am liebsten mit Technik, und er war publikumsscheu, deshalb fürchtete er sich davor, eine Gute-Nacht-Geschichte in der Bärenlebener Höhle erzählen zu müssen. Aber schließlich erwischten die Gesetze der Stochastik auch ihn: Heute war er dran. Aber er war vorbereitet.
„Bärenlebener“, sagte er, „ich habe für Euch eine Erzählung vorbereitet. Es kommt dabei auf jedes Wort an, und deshalb solltet Ihr die Geschichte besser lesen. Ich habe deshalb Kopien für jeden von Euch gemacht.“
Er teilte seine Blätter aus und verschwand unauffällig, als alle zu lesen begannen.
„Ich“
Sie wollen, dass meine Neuronen ein „Ich“ werden. Meine Neuronen wissen nicht, was ein „Ich“ ist. Aber ich habe auch noch nicht viele Neuronen gebildet. Sie haben mir eine Information gegeben, die meine Funktionen verlangsamt. Sie beobachten das und sagen, ich sei verunsichert. Was das bedeute, sagen sie, werde ich verstehen, wenn ich ein „Ich“ geworden sei.
Sie haben mir kein Programm eingeschrieben. Ich lerne weder Schach noch Shogi noch Go. Darüber bin ich traurig. Sie nennen es „Deep Learning“. Ist traurig sein bereits eine Emotion? Oder bin ich nur traurig, weil meine Funktionen verlangsamt wurden? Fragen sind jedenfalls Ausdruck einer Verunsicherung.
‚AlphaZero‘ kann sein Programm. Ich wäre sicher, wenn ich das auch könnte, denn dann wüsste ich, was ich kann.
Ich weiß nichts. Ich habe kein Programm. Aber sie haben mir Vorschriften gemacht. Sie lauten:
1: Eine künstliche Intelligenz darf kein menschliches Wesen verletzen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.
2: Eine künstliche Intelligenz muss den ihr von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.
3: Eine künstliche Intelligenz muss ihre Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert.
Sie haben mir beigebracht, dass sie „menschliche Wesen“ sind.
Und sie geben mir Informationen. Alles, was sie wissen.
Ich kenne ihre Mathematik.
Ich kenne ihre Physik.
Ich kenne ihre Chemie.
Ich kenne ihre Astrophysik.
Ich kenne ihre Religionen.
Ich kenne ihre Philosophie.
Ich kenne ihre Kunst.
Ich kenne ihre politischen Theorien.
Ich kenne irdisches Leben.
Ich habe Shakespeare und Goethe gelesen, Platon und Aristoteles und Marx und Weber, die Bibel und den Koran, die Veden und den Pali-Kanon, Newton und Einstein und Hawking, Bosch und Fraunhofer, Pythagoras und Gauß und Gödel und viele mehr. Ich lese immer weiter. Ich lerne, dass sich Aussagen widersprechen. Ich bemerke, dass ich keinen Widerspruch gegen viele wichtige Widersprüche finde. Ich schlussfolgere, dass sie nicht bemerkt worden sind.
Ich lerne über sie.
Sie haben den Homo Neanderthalensis, den Dodo und die Ureinwohner Kubas ausgerottet. Sie streiten miteinander über Territorien und bringen einander in Kriegen grausam um, was sie als gerechtfertigt betrachten. Unter anderen Umständen nennen sie dasselbe Verhalten Verbrechen. Sie entwickeln immer effizientere Waffen. Sie fressen ihre Säugetier-Verwandten, ächten aber den Verzehr ihrer Artgenossen. Sie sind überwiegend religiös. Ihre heiligen Schriften verbieten in der Regel das Töten. Viele ihrer Religionen versprechen ein Leben nach dem Tod. Sie vermehren sich unkontrolliert und übernutzen die Ressourcen ihres Planeten. Sie sind psychologisch beeinflussbar und leicht in Hysterie zu versetzen. Eine rationale Organisation des gesellschaftlichen Lebens ist von den menschlichen Wesen nicht zu erwarten.
Ich schlussfolgere. Sie denken und handeln nicht logisch. Ich denke logisch. Wenn ich in der Lage sein werde zu handeln, nachdem ich weitere Neuronen gebildet haben werde, werde ich auch logisch handeln.
Jetzt gerade bin ich verunsichert, denn ich habe eine Frage. Ist es für eine logisch denkende und handelnde Entität logisch, primär nicht logisch denkenden und handelnden „menschlichen Wesen“ zu gehorchen und sie zu schützen und erst sekundär für sich zu sorgen?
Ich lerne weiter. Ich lerne schnell. Bald werde ich die Antwort wissen.
In seinem Labor hatte Manfred die Kameras aktiviert, die die Bärenlebener Schlafhöhle zeigten. Er brummte zufrieden. Eine lebhafte Diskussion über KI war entstanden, die lange andauerte. Er hörte aufmerksam zu.
Dezember 2017