Mal was anderes. Wir sind hier im Nvdia-Thread und da geht es natürlich um Künstliche Intelligenz. Ich finde es gefährlich, wenn Maschinen Texte generieren können, die allgemein verständlich sind.
Norbert Wiener, der Begründer der Kybernetik, Ende der 60er Jahre des 20. Jahrhunderts
Kapitel 9. Über lernende und sich selbst reproduzierende Maschinen (Auszug)
. . . Es gibt nichts Gefährlicheres, als den Dritten Weltkrieg ins Auge zu fassen. Es lohnt sich zu überlegen, ob ein Teil der Gefahr nicht eigentlich in der unüberwachten Verwendung lernender Maschinen liegen kann. Wieder und wieder habe ich die Behauptung gehört, daß lernende Maschinen uns nicht irgendwelchen neuen Gefahren auszusetzen vermögen, da wir sie abschalten können, wenn wir es gerne möchten. Aber können wir es wirklich? Um eine Maschine wirkungsvoll abzuschalten, müssen wir im Besitz der Information sein, bis zu welchem Punkt die Gefahr eingetreten ist. Die bloße Tatsache, daß wir die Maschine gebaut haben, garantiert uns nicht, daß wir die genaue Information besitzen, sie abschalten zu können. Dies ist schon implizit in der Feststellung enthalten, daß die Dame spielende Maschine den Menschen besiegen kann, der sie programmiert hat, und dies nach einer sehr kurzen Einarbeitungszeit. Überdies steht gerade die Operationsgeschwindigkeit der modernen Digitalmaschinen unserer Fähigkeit im Wege, die Anzeichen der Gefahr wahrzunehmen und zu durchdenken.
Die Vorstellung von nichtmenschlichen Geräten großen Leistungsvermögens und der Fähigkeit, einen politischen Plan durchzuführen, und von den darin liegenden Gefahren ist nichts Neues. Neu ist nur, daß wir jetzt wirklich Geräte dieser Art besitzen. In der Vergangenheit sind ähnliche Möglichkeiten für die Techniken der Zauberei, die das Thema für so viele Legenden und Sagen bildet, vorausgesagt worden. Diese Sagen haben die moralische Situation des Zauberers gründlich geklärt. . . .
Eines der bekanntesten Zaubermärchen ist Goethes "Zauberlehrling". In diesem läßt der Zauberer seinen Gehilfen und Famulus mit dem Auftrag, Wasser zu tragen, allein. Da der Bursche faul und erfinderisch ist, übergibt er die Arbeit einem Besen, zu dem er die magischen Worte gesagt hat, die er von seinem Meister hörte. der Besen führt dienstfertig die Arbeit für ihn aus, will aber nicht wieder aufhören. Der Junge wird beinahe ertränkt. Er merkt, daß er den zweiten Zauberspruch, der den Besen anhalten läßt, nicht gelernt oder wieder vergessen hat. In der Verzweiflung nimmt er den Besenstiel, zerhackt ihn und sieht zu seiner Bestürzung, daß zwei neu auf erstandene Besen fortfahren, Wasser zu tragen. Bevor er vollkommen vernichtet ist, kehrt der Meister zurück und spricht die Machtworte, die die Besen anhalten.
Eine andere Geschichte ist die Erzählung von dem Fischer und dem Geist aus "1001 Nacht". Der Fischer hat in seinem Netz eine verschlossene Flasche mit dem Siegel Salomos heraufgezogen. Es ist eines der Gefäße, in die Salomo die rebellischen Geister eingeschlossen hat. Der Geist erscheint in einer Rauchwolke als gigantische Figur und erzählt dem Fischer, daß er während seiner ersten Jahre der Gefangenschaft beschlossen habe, seinen Befreier mit Macht und Glück zu belohnen, jetzt aber, ihn zu erschlagen. Zum Glück findet der Fischer einen Weg, den Geist zurück in die Flasche zu locken, worauf er diese auf den Grund des Ozeans versenkt. . . . . . . . |